NVIDIA Riva는 실시간 자동 음성 플랫폼에서 어떻게 활용될까?

스타트업 미네르바 CQ의 실시간 자동 음성 인식 플랫폼은 NVIDIA Riva를 이용해 영어, 이탈리아어, 스페인어를 사용하는 고객과 에이전트를 지원합니다
by NVIDIA Korea

미국 샌프란시스코 베이 에어리어(Bay Area)에 소재한 스타트업인 미네르바CQ(Minerva CQ)는 에이전트와 고객 모두를 위해, 에너지 부문에서의 서비스 통화를 더욱 빠르고 효율적으로 만들어 나가고 있습니다.

NVIDIA Inception 회원사인 미네르바CQ라는 회사명은 지혜와 지식을 뜻하는 로마의 여신과 협업 지능(CQ, collaborative intelligence)을 섞은 것으로, 인간과 인공지능(AI)을 혼합했다는 것을 의미합니다.

미네르바CQ 플랫폼은 고객의 의도에 따라 실시간으로 대화 제안, 감정 분석이나 최적의 여정 흐름 등을 제공함으로써 음성이든 웹 기반 채팅이든 가장 효과적으로 고객과 대화할 수 있도록 컨택-센터(contact-center) 에이전트를 지도해줍니다. 또한 이 플랫폼은 관련된 콘텐츠나 기사, 양식을 다루기도 하죠.

NVIDIA Riva 소프트웨어 개발키트로 구동되는 미네르바 CQ는 영어, 스페인어, 이탈리아어로 동급 최고의 자동 음성 인식(ASR) 기능을 갖추고 있는데요.

미네르바CQ의 설립자 겸 CEO인 코시모 스페라(Cosimo Spera)는 “챗봇을 이용해 자동화에 초점을 맞춘 컨택-센터 솔루션이 많긴 하지만, 우리 솔루션은 AI를 통해 인간이 더 많은 일을 할 수 있게 합니다. 인간과 기계가 함께 일하면 각자가 단독으로 할 수 있는 것보다 더 많은 것을 성취할 수 있기 때문입니다”고 말했습니다.

해당 플랫폼은 먼저 실시간으로 대화를 텍스트로 옮깁니다. 그리고 이 텍스트는 고객의 감정, 의도, 성향 등을 분석하는 미네르바 CQ의 AI 모델에 입력되죠.

그런 다음 미네르바 CQ는 여러 해결 경로와 함께 고객을 도울 수 있는 최적의 경로를 에이전트에게 제공합니다.

미네르바 CQ의 비전 설계자인 잭 개렛(Jack Garrett)에 따르면 음성 AI 플랫폼은 특정한 소통은 물론 고객이 비즈니스와 광범하게 맺는 관계를 맥락상 해석하면서, 음성 대화나 텍스트 대화를 모두 이해할 수 있습니다.

미네르바CQ의 데모를 시청해보세요!

NVIDIA Riva가 제공하는 음성 AI

지난 달 미네르바 CQ는 플랫폼에서 지원하는 영어와 스페인어 기능 외에도 최초로 정확도가 가장 높은 이탈리아 ASR 기업용 모델을 구축했다고 발표했습니다. 단어 오류율이 7% 미만인 이탈리아 ASR 모델은 내년 초 글로벌 에너지 기업과 통신사에 배치될 예정이죠.

미네르바CQ의 CEO 코시모 스페라는 “우리는 ASR 모델을 구축하는 데 고려해야 할 정확성이나 속도, 비용을 최적으로 조합할 수 있는 모델을 찾고 있었는데, NVIDIA Riva가 조건에 가장 잘 부합했습니다”라고 전했습니다.

NVIDIA Riva는 미네르바CQ가 실시간으로 응답할 수 있게 해줍니다. 이는 AI 플랫폼이 300밀리초(Millisecond, 1000분의 1초) 이내, 다시 말해 눈 깜짝할 사이에 대화를 스트리밍하고 처리, 기록할 수 있다는 것을 의미하죠.

미네르바CQ의 최고 마케팅 책임자인 다니엘 홍(Daniel Hong)은 “완벽하게 커스터마이징이 가능한 Riva는 고객 각자의 문제를 해결할 수 있으며, 업계 최고의 정확도를 갖추고 있습니다”라며, “NVIDIA Riva 팀의 전문가의 도움으로 우리는 사전 훈련을 받은 언어 모델을 빠르고 효율적으로 세부적으로 조정할 수 있었습니다”고 말했습니다.

기술 전문가를 활용할 수 있다는 점은 최첨단 스타트업을 육성하는 무료 글로벌 프로그램인 NVIDIA Inception이 제공하는 또 하나의 혜택입니다. 미네르바CQ CEO인 스페라는 NVIDIA Inception이 미네르바CQ를 강력하게 만든 방법으로 AWS 크레딧, 실험 프로젝트 지원, 시장 진출 전략에 대한 협업을 들었습니다.

미네르바 CQ는 Riva 외에도 NVIDIA NeMo 프레임워크를 사용해 대화형 AI 모델을 구축, 훈련하고, NVIDIA Triton 추론 서버를 사용해 빠르고 확장 가능한 AI 모델 배포를 제공합니다.

또한 고객에 초점을 맞춘 Minerva CQ는 에이전트의 웰니스(wellness)와 에이전트의 만족도 및 경험을 추적할 수 있는 역량을 구축하는 데 전념하고 있습니다. 이 플랫폼으로 직원들은 첫날부터 전문가가 되어 에이전트에 대한 스트레스를 크게 줄이고, 신뢰를 주며, 소모율과 운영 비용을 절감할 수 있습니다.

그 외에도 미네르바CQ는 대화를 요약한 보고서를 자동으로 제공하여 에이전트와 감독자에게 유용하게 피드백을 제공하고 분석 팀에게는 유용한 비즈니스 인사이트를 제공합니다.

다니엘 홍은 “일반적으로 미네르바CQ는 에이전트에게 지식을 제공하고 고객과 공유하는 정보에 자신감을 갖게 해줍니다. 간단한 고객 문의는 자동화된 셀프서비스나 AI 챗봇으로 해결할 수 있어 에이전트가 복잡한 질문에 부딪힐 때 도움을 줄 수 있습니다”고 전했습니다.

소매 에너지, 전기화에 중점

미네르바CQ는 먼저 소매 에너지와 전기 부문에 배치되는 것에 중점을 두고 있습니다.

소매 에너지 공급자의 경우, 이 플랫폼은 에이전트에게 에너지원, 관세 계획, 청구 변경, 최적의 지출 선택에 대해 간단하고 일관된 설명을 제공합니다.

또한 에이전트가 전기 자동차(EV) 고객의 복잡한 문제를 해결할 수 있도록 하고, 전기 자동차 기술자가 인프라나 물류 문제를 해결할 수 있도록 지원합니다.

미네르바CQ의 비전 설계자인 잭 개렛은 “소매 에너지와 전기화는 탈탄소화로 나아가는 전세계적인 추세와 관련되지만, 이를 따르다 보면 여전히 상대적으로 시장에서 고립될 수 있습니다. 하지만 미네르바는 이 둘을 하나로 연결되게 해줍니다”고 말했습니다.

스페라에 따르면 미네르바CQ는 세계에서 가장 큰 전기 회사뿐만 아니라 선도적인 전기 자동차 회사에서도 사용하고 있습니다.

미국과 멕시코에 걸쳐 있는 이들 고객의 컨택-센터는 미네르바CQ 덕분에 고객 서비스 통화 평균 처리 시간을 40% 줄일 수 있었다고 스페라는 전합니다. 미네르바CQ는 이탈리아어를 사용하는 국가는 물론 스페인어를 사용하는 시장까지 더 확장되어 배치될 계획입니다.

스페라는 “우리 모두는 지구를 구하고 싶지만 최종 사용자가 탈탄소 세상으로 나아갈 수 있게 힘을 주면서 가장 아래에서부터 변화를 이끄는 게 중요합니다. 우리는 우선적으로 고객이 청정 에너지 소스 가입으로 잘 전환될 수 있도록 정보를 제공하는 것에 주력하고 있습니다”고 밝혔습니다.

그는 “앞으로 전기화와 탈탄소화라고 하면 미네르바CQ라는 브랜드가 가장 먼저 떠오르게 되기를 바랍니다”고 덧붙였습니다.

전기 에너지와 관련한 NVIDIA 작업에 대해 자세히 알아보고 NVIDIA Inception 가입을 신청해보세요!