AI의 성공을 위한 길, NVIDIA AI Enterprise 3.0를 소개합니다

컨택 센터 지능형 가상 비서, 음성 전사, 사이버 보안을 위한 디지털 지문 채취, 50가지 이상의 NVIDIA AI 프레임워크와 사전 훈련된 모델을 지원합니다
by NVIDIA Korea

NVIDIA AI Enterprise 소프트웨어 제품군 3.0이 발표됐습니다! 새로운 NVIDIA AI Enterprise 소프트웨어는 일찍이 AI를 도입한 기업부터 새롭게 그 도입을 계획하고 있는 기업까지 광범위한 영역과 산업별 워크로드에 걸쳐 전 세계 기업들을 지원합니다.

지난 수년간, 기업들은 급변하는 수요부터 인력난, 공급망 복잡성을 비롯한 수많은 과제를 해결해왔습니다. 2023년 강력한 도약을 준비하는 많은 기업들은 비용을 절감하면서 동시에 성장을 견인하기 위해 AI와 가속 컴퓨팅의 사용을 계획하죠.

NVIDIA AI Enterprise 3.0은 컨택 센터 지능형 가상 비서, 음성 전사(transcription), 사이버 보안 디지털 지문 채취를 위한 솔루션 워크플로우를 도입합니다. 이들은 보다 나은 고객 서비스를 제공하기 위해 사용되는 AI 채택 기업용 애플리케이션입니다.

또한 NVIDIA AI Enterprise 3.0은 NVIDIA NGC 소프트웨어 카탈로그에서 제공되는 50가지 이상의 NVIDIA AI 소프트웨어 프레임워크와 사전 훈련된 모델에 대한 지원을 확장합니다. 이를 통해 전 세계 단체들의 AI 구축을 강화하고 간소화할 수 있죠. NVIDIA AI Enterprise 3.0은 12월 말에 출시될 예정입니다.

도이치은행, NVIDIA와 함께 혁신 파트너십 발표

도이치은행(Deutsche Bank)이 금융 서비스에 AI 도입을 가속화하기 위해 NVIDIA와 파트너십 체결을 발표했습니다. 업계 내 AI 기반 음성, 비전, 사기 탐지 애플리케이션 개발을 위한 전략의 일환으로 이루어진 이번 파트너십 체결에 따라 새로운 소프트웨어의 출시가 시작됐는데요.

도이치은행의 최고 혁신 책임자 겸 클라우드 및 혁신 네트워크 담당자인 길 페레즈(Gil Perez)는 “AI와 머신 러닝은 뱅킹을 재정의할 것입니다. 도이치은행은 이미 NVIDIA와 긴밀히 협력하여 이러한 기술을 통해 고객 서비스를 개선하고 위험을 완화하고 있습니다. 거래자는 가속 컴퓨팅을 통해 에너지 효율성을 개선하는 동시에 위험을 관리하고 보다 많은 시나리오를 빠르게 실행할 수 있습니다. 한편 NVIDIA AI Enterprise는 하이브리드 인프라 전반에서 AI 개발을 지원할 수 있는 유연성을 제공합니다”고 말했습니다.

NVIDIA AI Enterprise는 AI 실무자를 위한 동급 최고의 개발 도구, 프레임워크 및 사전 훈련된 모델을 포함하고 있습니다. 또한 IT 전문가를 위한 신뢰할 수 있는 관리, 조정 기능이 포함되어 성능과 높은 가용성, 보안을 보장합니다.

사업의 성공을 가속화하는 새로운 NVIDIA AI Enterprise 워크플로우

조직은 안전하고 클라우드에 최적화된 최신 버전의 AI 소프트웨어를 통해 운영 효율성을 높이는 동시에 당면한 비즈니스 과제를 해결할 수 있는데요. AI 소프트웨어는 데이터 사이언스 파이프라인을 가속화하고 AI 모델의 개발과 배치를 간소화하여 필수 프로세스를 자동화하며 데이터로부터 신속한 통찰력을 얻습니다.

NVIDIA AI Enterprise 3.0의 컨택 센터 지능형 가상 비서, 음성 전사, 사이버 보안 디지털 지문 채취를 위한 새로운 AI 워크플로우는 NVIDIA의 전문 지식을 활용하여 개발 시간과 비용을 줄임으로써 구축에 소요되는 시간을 단축합니다.

워크플로우는 헬름(Helm) 차트, 주피터(Jupyter) 노트북 등을 비롯하여 NVIDIA 프레임워크와 사전 훈련된 모델을 사용하는 클라우드에 최적화된 마이크로서비스로 구동됩니다. 기업들은 마이크로서비스(microservice)를 독립형 쿠버네티스(Kubernetes) 컨테이너로 활용하거나 기타 서비스와 결합하여 보다 높은 정확도와 성능을 갖춘 프로덕션-레디(production-ready) 애플리케이션을 생성할 수 있습니다.

기업들은 NVIDIA 컨택 센터 지능형 가상 비서 AI 워크플로우를 통해 24시간 내내 고객에게 응답함으로써 대기시간을 줄일 수 있습니다. 또한 컨택 센터 에이전트가 보다 복잡한 문의에 대응할 수 있도록 시간을 벌어주는데요. 여기서 중요한 것은 이 모든 것이 비용 절감과 동시에 일어난다는 점입니다. 기업들은 워크플로우를 통해 자연스러운 목소리로 정확하면서도 맞춤화된 응답을 제공하는 에이전트를 개발할 수 있습니다. AI 기술을 활용하면 에이전트들은 음성 품질이 떨어지는 통화에서도 고객의 응답을 정확하게 듣고 이해할 수 있습니다.

NVIDIA 음성 전사 AI 워크플로우를 사용하면, 기업들은 NVIDIA의 자동 음성인식 기술을 통해 다음의 언어들을 활용할 수 있는데요. 영어, 스페인어, 중국어, 인도어, 러시아어, 한국어, 독일어, 프랑스어, 포르투갈어로 정확한 대본을 신속하게 작성할 수 있으며, 앞으로 일본어, 아랍어, 이탈리아어가 추가될 예정입니다. 음성 전사 워크플로우는 완전한 사용자화가 가능한 GPU 최적화 모델을 사용하여 실시간의 정확도로 보다 나은 이해, 맥락에 대한 통찰력, 감정 분석을 가능케 합니다. 음성 전사가 완료되면 기업들은 이를 통해 제품 개발을 개선하고 컨택 센터 에이전트의 교육에 속도를 낼 수 있습니다.

비지도 학습(unsupervised learning)을 사용하는 NVIDIA 디지털 지문 AI 워크플로우는 위협 탐지 기능을 통해 포괄적인 데이터 가시성을 달성합니다. 또한 기업이 네트워크를 통해 모든 사용자, 서비스, 계정, 컴퓨터를 고유하게 지문 인식하여 비정상적인 동작을 탐지할 수 있도록 지원함으로써 보안을 향상시키죠. 워크플로우는 지능적인 경고와 실행 가능한 정보를 제공하여 기존에 몇 주 가까이 소요되던 탐지시간을 분 단위까지 단축합니다. 따라서 보안 분석가는 위협을 신속하게 식별하고 대응할 수 있습니다.

설명 가능성과 이해를 돕는 사전 훈련 모델

NVIDIA AI Enterprise 3.0은 암호화되지 않은 사전 훈련 모델과 최신 버전의 NVIDIA TAO Toolkit의 소스 코드를 제공합니다. NVIDIA TAO Toolkit은 고도의 정확성을 갖춘 맞춤형, 프로덕션 레디(production-ready) AI 모델을 만들기 위한 로코드(low-code) AI 개발 솔루션으로, 음성과 컴퓨터 비전 AI 애플리케이션에서 사용됩니다.

암호화되지 않은 모델은 NVIDIA AI Enterprise에서만 사용할 수 있습니다. 이는 병리 종양 감지, 사람 감지, 차량 감지, 자세 추정, 동작 인식 등 의료와 스마트 시티, 유통 산업을 위한 다양한 이미징, 비전 AI 작업을 지원합니다.

암호화 없이 사전 훈련된 모델을 사용하면, 개발자가 모델의 가중치와 편향을 볼 수 있어 모델 설명 가능성과 모델 편향 이해에 도움이 됩니다. 또한 암호화되지 않은 모델은 보다 쉬운 디버그(debug)와 맞춤형 AI 애플리케이션에 대한 통합이 가능합니다.

NVIDIA AI Enterprise 3.0이 지원하는 광범위한 NVIDIA AI 프레임워크와 인프라 옵션은 아래와 같습니다:

  • 헬스케어를 증진하는 NVIDIA Clara Parabricks와 MONAI(Medical Open Network for AI): NVIDIA Clara Parabricks에 대한 새로운 지원을 통해 시퀀싱 센터, 임상 실험실, 유전체학 연구자와 유전체학 기기 제조업체에 대해 보다 빠르고 정확한 유전체 분석이 가능합니다. 또한 NVIDIA AI Enterprise는 영역별 의료 영상 AI 프레임워크인 MONAI를 지원합니다. MONAI는 사전 훈련된 모델과 데이터 레이블링, 강력한 AI 모델 훈련을 위해 협업과 확장이 가능한 워크플로우를 제공합니다.
  • 고객 서비스, 안전, 판매 등을 촉진하는 NVIDIA AI 프레임워크: 현재 NVIDIA AI Enterprise 3.0가 지원하는 50개 이상의 프레임워크와 사전 훈련된 모델은 NVIDIA Riva를 포함하고 있습니다. NVIDIA Riva는 GPU 가속 음성 AI 소프트웨어 개발 키트로, 온프레미스(on premise)와 엣지, 임베디드 장치의 모든 주요 클라우드에서 세계 최고 수준의 정확성을 제공합니다. 이를 통해 완전한 사용자화가 가능한 실시간 AI 파이프라인을 구축하고 배포할 수 있죠. 한편 사이버 보안 개발자들은 NVIDIA Morpheus를 사용하여 대량의 실시간 데이터의 필터링, 처리 및 분류에 최적화된 AI 파이프라인을 만들 수 있습니다. 비전 AI용 TAO Toolkit, NVIDIA DeepStream과 같은 NVIDIA Metropolis 지능형 비디오 분석 플랫폼의 SDK가 지원되며, 규모에 맞게 고성능 추천 시스템을 구축하는 NVIDIA Merlin 오픈 소스 프레임워크 역시 지원됩니다.
  • 클라우드에 대한 인증 확대: NVIDIA AI Enterprise 3.0을 통해 하이브리드 클라우드 전략을 사용하는 조직은 오라클 클라우드(Oracle Cloud Infrastructure)의 GPU 가속 인스턴스에서 소프트웨어를 유연하게 실행할 수 있습니다. NVIDIA의 채널 파트너를 통해 라이센스를 구입한 고객은 지정된 OCI 인스턴스에서 NVIDIA의 전체 인증 및 지원을 받아 OCI에 구축할 수 있죠. 이는 아마존웹서비스(Amazon Web Services), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure) 상의 가속 인스턴스에 대한 기존 NVIDIA AI Enterprise 인증에 이어 새롭게 추가된 것입니다.
  • 하이브리드 데이터센터에 대한 AI 지원을 확장하는 휴렛 팩커드(Hewlett Packard)와 NVIDIA: 휴렛 팩커드(이하 HPE)와 NVIDIA는 HPE 그린레이크(GreenLake)와 에즈메랄(Ezmeral)에서 NVIDIA AI Enterprise0을 지원하는 공동 제품을 출시합니다. 해당 솔루션을 통해 고객들은 관리되는 HPE 그린레이크 인스턴스에서 NVIDIA AI Enterprise를 쉽게 조달하고 배포하여 안전하게 AI 애플리케이션 개발 속도를 높일 수 있죠.
  • 확장된 저장공간 및 가상화 지원: NVIDIA AI Enterprise0이 NVIDIA Magnum IO GDS(GPUDirect Storage)의 지원을 시작합니다. NVIDIA Magnum IO GDS는 로컬 또는 원격 저장공간과 GPU 메모리 간에 직접 데이터 경로를 제공하여 AI 워크로드 속도를 가속합니다. 또한 KVM이 포함된 레드햇 엔터프라이즈 리눅스(Red Hat Enterprise Linux)와 VM웨어 v스피어(VMware vSphere) 8을 비롯한 확장된 가상화 옵션을 제공합니다.

NVIDIA AI Enterprise 3.0은 12월 말에 기존, 신규 가입 고객을 대상으로 출시될 예정입니다. 가격은 전 세계 NVIDIA 파트너에게 문의할 수 있습니다. NVIDIA AI Enterprise 라이선스는 델 테크놀로지스(Dell Technologies), 휴렛 팩커드, 레노보(Lenovo), 슈퍼마이크로(Supermicro) 등 NVIDIA H100 PCIe GPU를 사용하는 NVIDIA 파트너의 서버에도 포함돼 있습니다.

기업들은 NVIDIA LaunchPad에서 무료로 제공되는 NVIDIA AI Enterprise의 NVIDIA AI 워크플로우와 프레임워크를 통해 AI 전문성을 높일 수 있습니다.