초기 생성형 AI의 물결은 인터넷 서비스에서 시작됐습니다. 사람들에게 글쓰기, 연구, 상상 등을 그 어느 때 보다 빠르게 도와줄 수 있는 도구를 제공하며 놀랍고도 새로운 가능성을 보여줬죠.
이제 생성형 AI의 두 번째 물결이 다가오고 있습니다. 고급 오픈소스 기반 모델의 가용성과 AI 워크플로우의 효율성과 자율성을 개선하는 에이전트 AI의 발전 덕분인데요. 다양한 산업 분야의 기업들은 구글 젬마(Google Gemma), 라마 3.1(Llama 3.1) 405B, 마이크로소프트 파이(Microsoft Phi), 믹스트랄(Mixtral), Nemotron과 같은 모델을 사용해 비즈니스 성장을 지원하고 생산성을 향상시키는 자체 AI 애플리케이션을 개발할 수 있습니다.
비즈니스 혁신을 가속하기 위해 기업은 디지털 휴먼 고객 서비스 챗봇, 검색 증강 생성(retrieval-augmented generation, RAG), 신약 개발과 같은 표준 생성형 AI 워크플로우에 대한 청사진이 필요합니다. NVIDIA NIM™ 마이크로서비스는 이러한 모델을 효율적이고 엔터프라이즈에서 사용할 수 있도록 지원합니다. 하지만 엔터프라이즈 생성형 AI 애플리케이션 구축은 복잡하고 여러 단계를 거쳐야 하는 프로세스죠.
이번에 발표한 NVIDIA NIM Agent Blueprint에는 엔터프라이즈 개발자가 비즈니스 목표에 부합하는 맞춤 생성형 AI 애플리케이션을 구축하고 배포하는 데 필요한 모든 것이 포함돼 있습니다.
데이터 기반 엔터프라이즈 플라이휠을 위한 Blueprint
NIM Agent Blueprint는 특정 사용 사례에 맞게 조정된 레퍼런스 AI 워크플로우입니다. 여기에는 NVIDIA NIM과 파트너 마이크로서비스로 구축된 샘플 애플리케이션, 레퍼런스 코드, 사용자 정의 문서, 배포를 위한 헬름차트(Helm chart)가 포함됩니다.
개발자는 NIM Agent Blueprint를 통해 각 사용 사례에 대한 NVIDIA의 고급 AI 도구와 엔드 투 엔드 개발 환경을 바탕으로 자체 애플리케이션을 손쉽게 제작할 수 있습니다. 또한 수정과 개선이 가능하도록 설계됐죠. 개발자는 복잡한 작업을 수행할 수 있는 정보 검색과 에이전트 기반 워크플로우를 모두 활용할 수 있습니다.
아울러 NIM Agent Blueprint는 개발자가 AI 수명 주기 전반에 걸쳐 애플리케이션을 개선하는 데 도움을 줍니다. 사용자가 AI 애플리케이션과 상호작용을 하면 새로운 데이터가 생성되는데요. 이 데이터는 지속적인 학습 주기를 통해 모델을 개선하고 향상시키는 데 사용됩니다. 이로써 데이터 기반 생성형 AI 플라이휠(flywheel)을 만들 수 있습니다.
NIM Agent Blueprint는 기업이 모델과 데이터를 연결하는 애플리케이션을 통해 자체적인 생성형 AI 플라이휠을 구축할 수 있도록 지원합니다. NVIDIA NeMo는 이 프로세스를 용이하게 하고, NVIDIA AI Foundry는 플라이휠을 실행하기 위한 생산 환경 역할을 합니다.
첫 번째 NIM Agent Blueprint에서는 다음의 기능을 사용할 수 있습니다.
- 고객 서비스를 위한 디지털 휴먼
- 신약 개발 가속화를 위한 생성형 가상 스크리닝
- 엔터프라이즈 RAG를 위한 멀티모달 PDF 데이터 추출
서비스나우(ServiceNow)는 디지털 워크플로우 플랫폼에 고급 생성형 AI 기능을 통합한 엔터프라이즈 AI 분야의 선두주자입니다. 이미 나우 어시스트 AI(Now Assist AI) 솔루션에 NIM 마이크로서비스를 도입하고 고객 서비스를 위한 디지털 휴먼 NIM Blueprint에 포함된 기술을 활용하고 있죠.
서비스나우의 플랫폼 및 AI 담당 수석 부사장인 존 시글러(Jon Sigler)는 “AI는 단순한 도구가 아니라 기업이 직원을 더 잘 교육하고 고객에게 서비스를 제공할 수 있는 근본적인 변화의 토대입니다. NVIDIA와의 협업을 통해 우리는 차세대 AI 제품과 기능을 구축했으며, 서비스나우 고객의 성장을 주도하고 AI 트랜스포메이션을 촉진하고 있습니다”고 말했습니다.
고객 서비스, 콘텐츠 생성, 소프트웨어 엔지니어링, 소매 쇼핑 자문 서비스, R&D 등을 위한 생성형 AI 애플리케이션을 제작하기 위한 더 많은 NIM Agent Blueprint가 개발 중입니다. NVIDIA는 매달 새로운 NIM Agent Blueprint를 선보일 계획입니다.
기업들의 채택을 촉진하는 NVIDIA 에코시스템
글로벌 시스템 통합업체 및 서비스 제공 파트너인 액센츄어(Accenture), 딜로이트(Deloitte), 소프트서브(SoftServe), 퀀티파이(Quantiphi), 월드 와이드 테크놀로지(World Wide Technology) 등 NVIDIA의 파트너 에코시스템은 전 세계 기업에 NIM Agent Blueprint를 제공하고 있습니다.
NIM Agent Blueprint는 고객 상호작용 데이터를 사용해 NVIDIA 파트너 에코시스템에서 제공하는 툴을 통해 최적화될 수 있습니다. 여기에는 모델 미세 조정, 관리, 모니터링을 위한 데이터이쿠(Dataiku)와 데이터로봇(DataRobot), 워크플로우 구축을 위한 딥셋(Deepset), 라마 인덱스(LlamaIndex), 랭체인(Langchain), 생성형 AI 애플리케이션 평가를 위한 웨이트 앤 바이어스(Weights and Biases. W&B), 추가적인 보안을 위한 크라우드스트라이크(CrowdStrike), 데이터독(Datadog), 피들러 AI(Fiddler AI), 뉴렐릭(New Relic), 트렌드 마이크로 (Trend Micro) 등이 있습니다. 뉴타닉스(Nutanix), 레드햇(Red Hat), 브로드컴(Broadcom)을 비롯한 인프라 플랫폼 제공업체는 자사의 엔터프라이즈 솔루션에서 NIM Agent Blueprint를 지원할 예정입니다.
고객은 시스코(Cisco), 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo)와 같은 제조업체의 NVIDIA-Certified Systems에서 NIM Agent Blueprint를 구축하고 배포할 수 있습니다. 또한, 아마존 웹 서비스(Amazon Web Services, AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure), 오라클 클라우드 인프라스트릭처(Oracle Cloud Infrastructure)의 NVIDIA 가속 클라우드 인스턴스에서도 이용할 수 있습니다.
NIM Agent Blueprint는 기업이 생성형 AI 애플리케이션에서 데이터를 활용할 수 있도록 코히시티(Cohesity), 데이터스택스(Datastax), 드롭박스(Dropbox), 넷앱(NetApp), 바스트 데이터(VAST Data)와 같은 NVIDIA 파트너의 데이터, 스토리지 플랫폼과 통합할 수 있습니다.
개발자와 데이터 사이언티스트를 위한 협업의 미래
생성형 AI는 이제 개발자와 데이터 사이언티스트 간의 협업을 촉진하고 있습니다. 개발자는 NIM Agent Blueprint를 기반으로 애플리케이션을 구축하고, 데이터 사이언티스트는 데이터 플라이휠을 구현해 맞춤형 NIM 마이크로서비스를 지속적으로 개선하죠. NIM이 개선되면 관련 애플리케이션도 개선돼 지속적인 성능 향상과 데이터 생성의 순환이 이루어집니다.
NIM Agent Blueprint와 NVIDIA 파트너의 지원을 통해 거의 모든 기업은 생성형 AI를 애플리케이션에 원활하게 통합해 산업 전반의 효율성과 혁신을 주도할 수 있습니다.
기업들은 지금 NVIDIA NIM Agent Blueprint를 체험할 수 있습니다.
소프트웨어 제품 정보에 관한 공지를 참고하세요.