회의 피로감까지 해결하는 대화형 AI 툴킷 NVIDIA NeMo

셈블리(Sembly) 설립자들은 비즈니스 프로세스 관리 제품에 대한 경험을 적용해 NVIDIA NeMo를 통해 인공지능(AI)을 활용하여 비즈니스 회의를 더욱 효율적으로 만들었습니다
by NVIDIA Korea

길 메이클프(Gil Makleff)와 아르틈 코렌(Artem Koren)은 회의 기록을 위한 AI를 개발해 보통 너무 길어서 읽지 않는(TL;DR, too long; didn’t read) 텍스트를 핵심 요점만 공유하게 만들면서 시간을 절약합니다.

셈블리(Sembly) 설립자들은 언스트 앤 영(Ernst & Young)이 인수한 UMT 컨설팅 그룹(UMT Consulting Group)에서 다년간 기업 운영 컨설팅 분야에서 일한 끝에 이 아이디어를 구상했죠.

셈블리 최고제품책임자(CFO) 코렌은 “저희는 AI가 비즈니스 운영에 대한 대화에 활용되고 그 내용을 이해한다면 기업에 가져오는 가치 이득이 엄청날 것이라는 생각을 했습니다”라고 말했습니다.

셈블리는 기본적인 문자 변환 기능을 훨씬 뛰어넘어, 사람들이 회의에 참여하지 않고도 후속 작업을 위해 회의 화자의 주요 내용과 핵심 작업 항목을 받을 수 있게 합니다.

미국 뉴욕에 소재한 이 스타트업은 독점적인 AI 모델을 사용해 회의를 전사하고 분석하여 실행 가능한 새로운 정보로 전환하죠. 작업팀이 노트 작성에 시간을 들이기보다는 결과물을 내는 데 집중할 수 있도록 지원하는 것이 목표입니다.

셈블리의 GPU 기반 자동 음성 인식 AI는 줌(Zoom), 웨벡스(Webex), 마이크로소프트(Microsoft) 팀, 구글 미트(Google Meet) 등 인기있는 영상통화 서비스와 함께 사용할 수 있습니다. 셈블리 웹사이트에서 몇 번만 클릭하면 아웃룩(Outlook)이나 구글 캘린더와 동기화하거나 이메일, 웹 앱 또는 셈블리 모바일 앱에서 진행 중인 호출에 사용할 수 있습니다.

이 서비스는 중요한 토론 주제를 정확하게 보여주는 주요 내용을 포함해 시장을 선도하는 전사의 정확도와 AI 기반 분석을 제공합니다. 또한 사용자가 회의 화자에 집중할 수 있고 개별 구절의 클립을 팀원들과 쉽게 공유할 수 있어 협업이 강화됩니다.

2019년에 설립된 셈블리는 NVIDIA Inception 스타트업 프로그램의 회원사입니다.

NeMo로 화자 추적 향상

전사에서 셈블리가 다루는 문제점 중 하나는 텍스트에서 올바른 화자를 식별하는 분할(diarization)이라는 기능입니다. 이런 작업은 매우 까다로울 수 있는데요. 셈블리는 주요 소프트웨어 제조사들로부터 인기 있는 분할 시스템을 시도해봤지만 결과는 미미했습니다.

분할은 회의 프로세스 파이프라인에서 핵심 단계입니다. 셈블리의 많은 자연어 처리 기능들이 제대로 식별되려면 바로 텍스트에 의존해야 되기 때문이죠. 예를 들어, 글랜스 뷰(Glance View) 기능은 핵심적인 회의 내용과 이를 제안한 화자를 식별할 수 있습니다.

만약 회의 내용의 화자를 잘못 추적하게 되면 수행 항목에 대한 후속 조치가 어려워지죠.

하지만 GPU 가속 음성 및 자연어 이해 모델을 구축, 훈련하고 미세 조정하기 위한 오픈 소스 프레임워크인 NVIDIA NeMo를 활용하게 되면서 화자 추적의 정확도가 크게 향상됐습니다.

NVIDIA A100 GPU에서 실행되는 분화 모델 훈련을 위해 NeMo 대화형 AI 툴킷을 사용해 화자 추적이 획기적으로 개선됐죠. Nemo를 적용하기 전에는 분열 오류율이 11%였지만 적용 후에는 5%로 감소했습니다.

회의로 인한 피로감을 해결하는 비즈니스 성장

셈블리 CFO 코렌은 대면 회의가 줄고 가상 회의가 늘어나면서 기업들은 직원들의 온라인 회의에서 생기는 피로감을 해소할 방법을 모색하고 있다며, 이는 매력적인 직장 경험을 제공하는 데 중요하다고 전했습니다.

코렌은 “대규모 기관에는 ‘관광객과의 만남(meeting tourist)’이라는 개념이 있습니다. 그리고 이는 셈블리가 해결하는데 도움이 되기를 바라는 것 중 하나입니다”라고 말했습니다.

또한 코렌은 셈블리의 지원을 받아 전사의 핵심 요점과 화자를 더욱 쉽게 공유할 수 있다면 근로자들에게 시간적 여유가 더 많이 생기게 된다고 전했습니다. 또한 효율적인 운영 기술 사용으로 기업들은 주요 사업목표에 더욱 집중할 수 있어서 더 큰 경쟁우위를 갖출 수 있다고 합니다.

일정이 빡빡하고 두 개의 회의 사이를 번갈아 가며 바쁘게 일하는 사람들에게도 셈블리는 도움을 줄 수 있는데요. 셈블리가 사용자 대신 회의에 참석할 수 있으며, 요약과 주요 항목 목록을 함께 제공해줌으로써 시간을 절약하는 것은 물론 팀에 더 많은 정보를 제공할 수 있습니다.

코렌은 “저는 시간이 겹치는 두 개의 회의에 참석하고 싶을 때가 있습니다. 이제는 가능한 일이 되었습니다”라고 소감을 밝혔습니다.