다양한 산업 전반에 걸쳐 많은 기업들의 고객 서비스 부서는 통화량 증가, 고객 서비스 상담원의 높은 이직률, 인력 부족, 높아가고 있는 고객 기대치라는 여러 이슈에 직면하고 있습니다.
고객은 셀프 지원 옵션과 더불어 실시간 개인 대 개인 지원을 받길 원하고 있습니다. 원활하고 개인화된 경험에 대한 이러한 기대는 라이브 채팅, 문자, 소셜 미디어를 포함한 디지털 커뮤니케이션 채널 전반으로 확대되고 있습니다.
디지털 채널의 부상에도 불구하고 여전히 많은 소비자들이 전화를 통한 지원을 선호하고 있어 콜센터의 부담이 가중되고 있는데요, 기업이 고객과의 상호작용의 질을 높이기 위해 노력하는 가운데 운영 효율성과 비용은 여전히 중요한 관심사로 남아 있습니다.
이러한 문제를 해결하기 위해 기업들은 AI 기반 고객 서비스 소프트웨어를 배포하여 상담원의 생산성을 높이고, 고객과의 상호작용을 자동화하며, 운영을 최적화하기 위한 인사이트를 수집하고 있습니다.
거의 모든 산업에서 AI 시스템은 서비스 제공과 고객 만족도를 개선하는 데 도움이 될 수 있습니다. 소매업체는 대화형 AI를 사용하여 옴니채널상의 고객 문의를 관리하고, 통신업체는 네트워크 문제 해결을 강화하고, 금융 기관은 일상적인 은행 업무를 자동화하고, 의료 기관은 환자 치료 역량을 확장시키고 있습니다.
고객 서비스를 위한 AI의 장점은 무엇인가요?
기업은 AI를 전략적으로 구축하여 직관적인 문제 해결을 통해 고객과의 상호작용을 혁신함으로써 운영 효율성을 높이고 고객 만족도를 높일 수 있습니다.
지원 상호작용, 문서화된 FAQ, 그리고 다른 기업 리소스에서 얻은 고객 데이터를 활용하여 기업은 조직의 고유한 집단적 지식과 경험을 활용하여 개인화된 서비스, 제품 추천, 그리고 사전 예방적 지원을 제공하는 AI 도구를 개발할 수 있습니다.
자연어 처리(NLP)와 검색 증강 생성(RAG)이 결합된 거대 언어 모델(LLM)과 같은 맞춤형 오픈 소스 생성형 AI 기술은 업계에서 사용 사례별 고객 서비스 AI의 출시를 가속화하는 데 도움이 되고 있습니다. 맥킨지에 따르면 고객 관리 담당 임원의 80% 이상이 이미 AI에 투자하고 있거나 조만간 투자할 계획이라고 밝혔습니다.
기업들은 비용 효율적인 맞춤형 AI 솔루션을 통해 헬프 데스크 지원 티켓 관리를 자동화하고, 보다 효과적인 셀프 서비스 도구를 만들고, AI 비서를 통해 고객 서비스 상담원을 지원하고 있습니다. 이를 통해 운영 비용을 크게 절감하고 고객 경험을 개선할 수 있습니다.
효과적인 고객 서비스 AI 개발
만족스러운 실시간 상호작용을 위해서는 AI 기반 고객 서비스 소프트웨어가 정확하고 신속하며 관련성 높은 답변을 제공해야 합니다. 몇 가지 팁들이 있습니다
오픈 소스 파운데이션 모델을 사용하면 AI 개발을 빠르게 진행할 수 있습니다. 개발자는 이러한 사전 훈련된 머신 러닝 모델을 유연하게 조정하고 개선할 수 있으며, 기업은 처음부터 모델을 구축하는 데 드는 높은 비용 없이도 이를 사용하여 AI 프로젝트를 시작할 수 있습니다.
RAG 프레임워크는 파운데이션 혹은 범용 LLM을 재고 관리, 고객 관계 관리 시스템, 고객 서비스 프로토콜 등 독점적인 지식 기반 및 데이터 소스에 연결합니다. 대화형 챗봇, AI 어시스턴트 및 코파일럿에 RAG를 통합하면 고객 문의의 맥락에 맞게 응답을 맞춤화할 수 있습니다.
휴먼 인 더 루프 프로세스(Human-in-the-loop processes)는 AI 훈련과 라이브 배포 모두에서 여전히 중요합니다. 파운데이션 모델 또는 LLM의 초기 학습이 끝나면 사람 검토자가 AI의 답변을 판단하고 수정 피드백을 제공해야 합니다. 이렇게 하면 모델이 허위 또는 오해의 소지가 있는 정보를 생성하는 환각과 같은 문제와 독성 또는 주제에서 벗어난 응답을 포함한 기타 오류를 방지하는 데 도움이 됩니다. 이러한 유형의 사람의 참여는 AI 개발 과정에서 공정성, 정확성 및 보안을 충분히 고려하도록 보장합니다.
사람의 참여는 AI가 프로덕션 환경에서 더욱 중요합니다. AI가 고객의 질문을 적절히 해결할 수 없는 경우, 프로그램은 고객 지원팀으로 전화를 연결할 수 있어야 합니다. AI와 사람 상담원 간의 이러한 협력적 접근 방식은 고객 참여가 효율적이고 공감할 수 있도록 보장합니다.
고객 서비스 AI의 ROI는 무엇인가?
고객 서비스 AI의 투자 수익은 주로 효율성 향상과 비용 절감을 기준으로 측정해야 합니다. 기업은 응답 시간 단축, 상담 센터 운영 비용 절감, 고객 만족도 점수 향상, AI 향상 서비스로 인한 매출 성장과 같은 주요 지표를 측정하여 ROI를 정량화할 수 있습니다.
예를 들어, 오픈 소스 모델을 사용하여 AI 챗봇을 구현하는 데 드는 비용과 기존 콜센터를 통해 고객 문의를 라우팅하는 데 드는 비용을 비교할 수 있습니다. 이러한 기준선을 설정하면 AI 구축이 고객 서비스 운영에 미치는 재무적 영향을 평가하는 데 도움이 됩니다.
AI 배포를 확장하기 전에 ROI에 대한 이해를 확고히 하기 위해 기업은 파일럿 기간을 고려할 수 있습니다. 예를 들어 1~2분기 동안 콜센터 트래픽의 20%를 AI 솔루션으로 리디렉션하고 그 결과를 면밀히 모니터링함으로써 기업은 성능 개선과 비용 절감에 대한 구체적인 데이터를 얻을 수 있습니다. 이러한 접근 방식은 ROI를 입증하고 추가 투자에 대한 의사 결정을 내리는 데 도움이 됩니다.
다양한 산업 분야의 기업들이 아래와 같이 고객 서비스를 위해 AI를 활용하고 성공을 측정하고 있습니다:
콜센터의 업무량을 감소시키는 소매업체들
오늘 날의 쇼핑객 은 매장에서든 이커머스 사이트에서든 원활하고 개인화되며 효율적인 쇼핑 경험을 기대합니다. 모든 세대의 고객들이 실시간으로 사람 상담원 지원을 원하면서도 다양한 채널을 동시에 이용할 수 있는 옵션을 원하고 있습니다. 하지만 다양한 고객군에서 발생하는 복잡한 고객 문제로 인해 지원 상담원이 수신 요청을 신속하게 이해하고 해결하기가 어려울 수 있습니다.
이러한 문제를 해결하기 위해 많은 소매업체들이 대화형 AI 및 AI 기반 통화 라우팅에 눈을 돌리고 있습니다. NVIDIA의 2024년 소매 및 CPG 분야 AI 현황 보고서에 따르면, 약 70%의 소매업체가 이미 AI로 인해 연간 매출이 증가했다고 답했습니다.
태국의 유일한 세븐일레븐 편의점 라이선스 사업자인 CP All은 하루 25만 건 이상의 통화를 처리하는 콜센터에 대화형 AI 챗봇을 도입했습니다. 21개의 자음, 18개의 순모음, 3개의 이중모음, 5개의 성조로 구성된 태국어의 복잡성 때문에 봇을 훈련시키는 데는 특별한 어려움이 있었습니다.
이를 관리하기 위해 CP All은 GPU 가속 음성 및 자연어 이해 모델을 구축, 훈련 및 파인튜닝하기 위해 설계된 프레임워크인 NVIDIA NeMo를 사용했습니다. NVIDIA 기술로 구동되는 자동 음성 인식 및 NLP 모델을 통해 CP All의 챗봇은 태국어 음성 이해 정확도 97%를 달성했습니다.
대화형 챗봇이 상당한 수의 고객 대화를 처리하면서 상담원의 통화 부하가 60% 감소했습니다. 덕분에 고객 서비스 팀은 더 복잡한 업무에 집중할 수 있었습니다. 또한 챗봇은 대기 시간을 줄이고 더 빠르고 정확한 응답을 제공함으로써 고객 만족도를 높일 수 있었습니다.
AI 기반 지원 경험을 통해 소매업체는 고객 유지율을 높이고 브랜드 충성도를 높이며 매출을 높일 수 있습니다.
네트워크 문제 해결을 자동화하는 통신 서비스 제공업체
통신 기업은 네트워크 가동 시간에 대한 최종 고객과의 서비스 수준 계약을 준수하면서 복잡한 네트워크 문제를 해결해야 하는 과제를 안고 있습니다. 네트워크 성능을 유지하려면 네트워크 디바이스의 신속한 문제 해결, 근본 원인 파악, 네트워크 운영 센터의 문제 해결이 필요합니다.
방대한 양의 데이터를 분석하고 네트워크 문제를 자율적으로 해결하며 수많은 작업을 동시에 실행할 수 있는 능력을 갖춘 생성형 AI는 네트워크 운영 센터에 이상적입니다. IDC 설문조사에 따르면 글로벌 통신사의 73%가 운영 지원을 위한 AI 및 머신 러닝 투자를 최우선적인 혁신 이니셔티브로 꼽아 업계가 AI 및 첨단 기술로의 전환을 강조하고 있습니다.
차세대 디지털 서비스 및 컨설팅 분야의 선두주자인 Infosys는 통신사 파트너가 고객 서비스 과제를 극복할 수 있도록 AI 기반 솔루션을 구축했습니다. Infosys는 NVIDIA NIM 마이크로서비스와 RAG를 사용하여 네트워크 문제 해결을 지원하는 AI 챗봇을 개발했습니다.
진단 및 모니터링을 위한 필수 라우터 명령에 벤더에 구애받지 않고 빠르게 액세스할 수 있는 생성형 AI 기반 챗봇은 네트워크 해결 시간을 크게 단축하여 전반적인 고객 지원 경험을 향상시킵니다.
정확성과 상황에 맞는 응답을 보장하기 위해 Infosys는 통신 기기별 매뉴얼, 교육 문서 및 문제 해결 가이드를 통해 생성형 AI 솔루션을 훈련시켰습니다. 인포시스는 NVIDIA NeMo Retriever를 사용하여 엔터프라이즈 데이터를 쿼리함으로써 LLM 출력의 정확도를 90%까지 끌어올렸습니다. Infosys는 NVIDIA 기술로 모델을 파인튜닝하고 배포함으로써 기준 모델에 비해 61% 단축된 0.9초의 지연 시간을 달성했습니다. 또한 기준 모델의 85% 대비 92%의 정확도를 달성한 NeMo Retriever 기반 RAG 지원 챗봇을 구축했습니다.
네트워크 관리자, IT 팀, 고객 서비스 에이전트를 지원하는 AI 도구를 통해 통신 사업자는 네트워크 문제를 보다 효율적으로 식별하고 해결할 수 있습니다.
금융 사기를 쉽게 식별하는 금융 서비스 기관들
고객은 언제 어디서나 은행 업무와 지원을 기대하지만, 금융 서비스는 높은 수준의 데이터 민감성을 요구합니다. 또한 일회성 구매를 포함하는 다른 산업과 달리 은행 업무는 일반적으로 지속적인 거래와 장기적인 고객 관계를 기반으로 합니다.
동시에 은행 고객의 최대 80%가 더 나은 경험을 위해 금융 기관을 바꿀 의향이 있을 정도로 사용자 충성도는 한순간일 수 있습니다. 이에 금융 기관은 고객 지원 경험을 지속적으로 개선하고 고객의 요구와 선호도에 대한 분석을 업데이트해야 합니다.
많은 은행이 고객과 직접 상호 작용하여 문의를 관리하고 거래를 실행하며 복잡한 문제를 인간 고객 지원 에이전트에게 에스컬레이션할 수 있는 AI 가상 비서로 전환하고 있습니다. NVIDIA의 2024 금융 서비스 AI 현황 보고서에 따르면, 설문 응답자의 4분의 1 이상이 고객 경험을 향상하기 위해 AI를 사용하고 있으며, 34%는 고객 경험 및 참여를 위해 생성형 AI와 LLM의 사용을 모색하고 있다고 답했습니다.
200만 명 이상의 고객과 80억 유로의 예금을 보유한 유럽의 디지털 은행인 Bunq는 사용자의 니즈를 충족하기 위해 생성형 AI를 배포하고 있습니다. 이 은행은 독점적인 LLM을 통해 고객과 은행 직원 모두가 사용할 수 있는 맞춤형 AI 어시스턴트인 Finn을 구축했습니다. Finn은 “지난 달 식료품에 얼마를 썼나요?” 또는 “지난 주에 먹은 인도 식당 이름이 뭐죠?”와 같은 금융 관련 문의에 답할 수 있습니다.
또한 Finn은 휴먼 인 더 루프 프로세스를 통해 직원들이 사기를 더 빠르게 식별할 수 있도록 지원합니다. 규정 준수 담당자가 검토할 데이터를 수집하고 분석함으로써 bunq는 이제 Finn을 사용하지 않았을 때 30분이 걸리던 사기를 단 3~7분 만에 식별할 수 있습니다.
금융 기관은 데이터를 사용하여 고객 거래를 보호하고, 은행 요청을 실행하고, 고객 피드백에 따라 조치를 취할 수 있는 AI 도구를 배포함으로써 고객에게 더 높은 수준의 서비스를 제공하여 장기적인 관계에 필요한 신뢰와 만족을 구축할 수 있습니다.
인력 부족을 극복하는 헬스케어 및 생명 과학 업계
헬스케어 분야에서 환자는 의료 전문 지식, 정확하고 맞춤화된 치료 옵션, 의료 전문가와의 공감적 상호 작용에 빠르게 접근할 수 있어야 합니다. 하지만 세계보건기구는 2030년까지 1,000만 명의 인력이 부족할 것으로 예상하고 있어 양질의 의료 서비스에 대한 접근성이 위태로워질 수 있습니다.
AI 기반 디지털 의료 도우미는 의료 기관이 적은 인력으로 더 많은 일을 할 수 있도록 돕고 있습니다. 전문 의료 말뭉치를 학습한 AI 코파일럿은 임상 메모 작성, 처방 및 실험실 검사 주문 자동화, 방문 후 환자 메모 후속 조치를 지원함으로써 의사와 간호사의 일상 업무 시간을 절약할 수 있습니다.
언어와 비전 모델을 결합한 멀티모달 AI는 인사이트를 추출하고 환자 모니터링을 위한 이미지 데이터의 요약을 제공함으로써 의료 환경을 더욱 안전하게 만들 수 있습니다. 예를 들어, 이러한 기술은 환자의 낙상 위험과 기타 병실 내 위험을 직원에게 경고할 수 있습니다.
의료 전문가를 지원하기 위해 환자에게 필요한 진료 예약 준비를 상기시키고 방문 후 후속 조치를 통해 정해진 투약 루틴을 따르고 있는지, 부작용은 없는지 확인하는 등 저위험, 비진단 일상 업무를 수행하도록 Hippocratic AI라는 생성형 AI 헬스케어 에이전트를 훈련시켰습니다.
Hippocratic AI는 증거 기반 의학에 대해 모델을 훈련하고 인증된 간호사 및 의사 그룹과 함께 엄격한 테스트를 완료했습니다. 솔루션의 구성 아키텍처는 20개의 모델로 구성되어 있으며, 그 중 하나는 환자와 소통하고 나머지 19개는 결과를 감독합니다. 전체 시스템에는 1조 7천억 개의 매개변수가 포함되어 있습니다.
모든 의사와 환자가 자신만의 AI 기반 디지털 헬스케어 비서를 가질 수 있다는 것은 의료진의 피로도가 감소하고 의료 서비스의 질이 높아진다는 것을 의미합니다.
고객 경험의 기준을 높이는 AI
AI를 고객 서비스 상호작용에 통합함으로써 기업은 보다 개인화되고 효율적이며 신속한 서비스를 제공하여 플랫폼 전반에 걸쳐 옴니채널 지원 경험의 새로운 표준을 정립할 수 있습니다. 기업은 방대한 양의 데이터를 단 몇 초 만에 처리하는 AI 가상 비서를 통해 지원 상담원이 다양한 고객층의 복잡한 요구사항에 맞춤형 답변을 제공할 수 있습니다.
효과적인 고객 서비스 AI를 개발 및 배포하기 위해 기업은 AI 모델을 파인튜닝하고 다양하고 구체적인 요구 사항을 충족하는 RAG 솔루션을 배포할 수 있습니다.
NVIDIA는 기업이 고객 서비스 AI를 시작하는 데 도움이 되는 도구 및 기술 제품군을 제공합니다.
NVIDIA AI Enterprise 소프트웨어 플랫폼의 일부인 NVIDIA NIM 마이크로서비스는 생성형 AI 배포를 가속화하고 원활하고 확장 가능한 추론을 위해 최적화된 다양한 AI 모델을 지원합니다. NVIDIA NIM Agent Blueprint는 개발자에게 고객 서비스 애플리케이션을 위한 혁신적인 솔루션을 구축할 수 있는 패키지 레퍼런스 예제를 제공합니다.
기업은 AI 개발 도구를 활용하여 정확하고 빠른 속도의 AI 애플리케이션을 구축하여 직원 및 고객 경험을 혁신할 수 있습니다.
생성형 AI로 고객 서비스를 개선하는 방법에 대해 자세히 알아보세요.