소매 고객 서비스 봇도 NVIDIA 대화형 AI 플랫폼으로 ‘뚝딱’

태국 방콕에 소재한 소매 기업 시피올(CP All)은 NVIDIA 대화형 AI 플랫폼을 활용해 매일 25만 건의 고객 지원 전화를 처리합니다
by NVIDIA Korea

태국 전역에서 11,000개 이상의 점포로 수백만 명의 고객에게 서비스를 제공하는 시피올(CP All)은 태국에서 세븐일레븐 편의점을 유일하게 허가한 기업으로서, 최근 콜센터의 서비스 역량을 향상시키기 위해 인공지능(AI)에 눈을 돌렸습니다.

NVIDIA 대화형 AI 플랫폼을 기반으로 한 시피올의 고객 서비스 봇(customer service bot)은 고객이 콜센터 상담원에게 자주 묻는 질문에 답변하고 고객 주문을 추적할 수 있도록 지원합니다. 시피올의 아렐 우(Areoll Wu) 차장은 이 서비스 봇들은 태국어를 97%의 정확도로 이해하고 말한다고 전했습니다.

이런 종류의 혁신을 핵심 가치로 삼는 시피올은 여러 산업 그룹이나 국가 기관과 제휴해 태국의 연구와 기업가정신을 장려하기 위해 매년 시상식을 개최해오고 있습니다.

시피올의 시스템은 자연어 처리 교육에 NVIDIA DGX 시스템 NVIDIA NeMo 프레임워크를 사용하고, AI 추론 및 모델 배포에 NVIDIA Triton 추론 서버를 사용합니다.

상담 통화의 자동화

시피올의 세븐일레븐 콜 센터는 전자 상거래, 금융, 소매 등 다양한 비즈니스 영역에서 고객 문의를 관리하며, 각 분야별로 전문 담당자가 있는데요. 씨피올의 자회사인 고소프트(Gosoft)의 프로젝트 매니저 크리티마 클로모이(Kritima Klomnoi)에 따르면 콜센터는 하루 평균 약 250,000통의 상담전화를 처리합니다.

클로모이는 “고객들의 대기 시간을 줄이는 일이 서비스 성과를 측정하는 핵심 수단입니다. NVIDIA 기술은 상담사가 처리해야 하는 통화량을 60% 감소시켜 직원들이 고객의 독특하고 복잡한 문제들을 더 효율적으로 해결할 수 있게 해줍니다”라고 말했습니다.

시피올의 고객 응대 상담전화는 AI 기반 자동 음성인식 서비스를 통해 실시간으로 음성 기호로 처리되는데요. 고객 서비스 봇이 NVIDIA의 지능형 FAQ 시스템을 기반으로 질문을 인식하면 텍스트 음성 변환 기술을 이용해 즉시 답변을 제공하죠.

그런 경우가 아니라면 서비스 봇은 통화를 신속하게 분석한 다음 특정 업무 영역에서 문제 해결을 도울 수 있는 해당 직원에게 통화를 넘겨줍니다. 이밖에 시피올은 AI를 활용한 모든 전자상거래 주문 추적 문의도 자동화했습니다.

복잡한 태국어를 인식하는 AI

아렐 우 차장에 따르면 시피올 팀이 처음 대화형 AI를 탐색하던 시기에 마주쳤던 가장 큰 난관은 AI 모델이 태국어의 뉘앙스를 인식하도록 하는 일이었습니다.

표준 태국어는 21개의 자음과 18개의 순수한 모음, 3개의 이중모음과 5개의 성조를 사용한 복잡한 언어입니다. 그러나 GPU 가속 음성 및 자연어 이해 모델을 구축, 훈련과 미세 조정하기 위한 프레임워크인 NVIDIA NeMo는 시피올이 이 복잡한 작업을 해결할 수 있도록 도왔습니다.

아렐 우는 “툴킷의 사전 훈련된 모델과 툴은 서비스를 구축하는 과정을 훨씬 수월하게 만들었습니다. NeMo의 도움 덕분에 시피올은 현재 태국 고유의 언어를 이해하고 말하는데 최적화된 AI 언어 모델을 빠르게 구축하고 개선할 수 있었습니다”라고 소감을 전했습니다.

그에 따르면 NeMo 프레임워크는 시피올의 태국어 모델에서 97%의 정확도를 보였는데, 이는 이전에 달성한 정확도의 10배 이상입니다.

시피올은 앞으로 자사의 AI 서비스를 더 다양한 비즈니스 영역으로 확장하고 NVIDIA GPU 추론 아키텍처에서 동시 세션(concurrent session)을 수백만 개까지 확장할 계획입니다.

더욱 자세한 사항은 3월 21일부터 24일까지 열리는 GTC 2022시피올의 패널에서 살펴볼 수 있습니다.