NVIDIA의 AI 플랫폼은 모든 미래 지향적 비즈니스에서 사용할 수 있으며, 그 어느 때보다 사용이 쉬워졌습니다.
NVIDIA AI Enterprise 5.0 출시 소식을 알려드립니다! 여기에는 NVIDIA 마이크로서비스, 다운로드 가능한 소프트웨어 컨테이너, 생성형 AI 애플리케이션 배포를 위한 가속 컴퓨팅이 포함돼 있습니다. 주요 클라우드 서비스 제공업체, 시스템 빌더, 소프트웨어 공급업체에서 사용할 수 있으며, 우버(Uber)와 같은 고객사에서 사용 중입니다.
우버의 플랫폼 엔지니어링 부사장 알버트 그린버그(Albert Greenberg)는 “NVIDIA AI Enterprise 추론 소프트웨어의 도입은 사용자들이 기대하는 높은 성능을 충족하는 데 있어 매우 중요합니다. 우버는 효율성과 우수성에 대한 업계 표준을 제시하는 고객 서비스 플랫폼을 제공하기 위해 최첨단 AI 혁신을 도입하고 사용하는 데에 앞장서고 있습니다. 우리는 이 점에 대해 자부심을 느낍니다”고 말했습니다.
앱 개발 속도를 높이는 마이크로서비스
개발자들은 글로벌 규모의 최신 엔터프라이즈 애플리케이션을 효율적으로 구축하기 위한 방안으로 마이크로서비스를 채택하고 있습니다. 브라우저에서 실행 가능한 마이크로서비스는 클라우드 API 또는 애플리케이션 프로그래밍 인터페이스를 사용해 시스템에서 실행하고, 전 세계 사용자에게 서비스를 제공할 수 있는 앱을 구성하죠.
NVIDIA AI Enterprise 5.0에는 생산에서 AI 모델을 배포하기 위한 NVIDIA NIM과 NVIDIA cuOpt를 포함하는 마이크로서비스 모음인 NVIDIA CUDA-X 등 광범위한 마이크로서비스가 포함됩니다.
NIM 마이크로서비스는 NVIDIA와 파트너 에코시스템에서 제공하는 수십 개의 인기 있는 AI 모델에 대한 추론을 최적화합니다.
Triton 추론 서버, TensorRT, TensorRT-LLM과 같은 NVIDIA 추론 소프트웨어로 구동되는 NIM은 배포 시간을 몇 주에서 몇 분으로 단축하죠. 또한 업계 표준에 기반한 보안과 관리 용이성, 기업용 관리 도구와의 호환성도 제공합니다.
NVIDIA cuOpt는 경로 최적화 분야에서 세계 기록을 세운 GPU 가속 AI 마이크로서비스로, 비용, 시간, 탄소 발자국을 줄이는 동적 의사 결정을 지원할 수 있습니다. 이는 산업 현장에서 AI를 프로덕션에 적용할 수 있도록 도움을 주는 CUDA-X 마이크로서비스 중 하나입니다.
더 많은 기능들이 개발 중에 있습니다. 예를 들어, NVIDIA RAG LLM 오퍼레이터를 사용하면 검색 증강 생성(RAG, retrieval-augmented generation)을 사용하는 코파일럿과 기타 생성형 AI 애플리케이션을 코드 재작성 없이 파일럿에서 생산으로 이동하는 것이 가능합니다. 이는 현재 얼리 액세스로 만날 수 있으며, 여기에서 자세한 설명을 확인할 수 있습니다.
현재 크라우드스트라이크(CrowdStrike), SAP, 서비스나우(ServiceNow) 등 선도적인 애플리케이션과 사이버 보안 플랫폼 제공업체에서 NVIDIA 마이크로서비스를 채택하고 있습니다.
더 많은 도구와 기능
NVIDIA AI Enterprise 5.0의 다른 세 가지 업데이트도 주목할 필요가 있습니다.
NVIDIA AI Enterprise 5.0에는 생성형 AI 프로젝트를 빠르게 다운로드, 최적화, 실행할 수 있는 개발자 툴킷인 NVIDIA AI Workbench가 포함됩니다. 이제 정식 출시됐으며, NVIDIA AI Enterprise 라이선스를 통해 지원됩니다.
그리고 NVIDIA AI Enterprise 5.0는 대부분의 포춘 500(Fortune 500) 기업이 프라이빗 및 퍼블릭 클라우드 서비스를 생성하는 데 사용하는 환경인 레드햇 오픈스택 플랫폼(Red Hat OpenStack Platform)을 지원합니다. 레드햇에서 유지, 관리하는 이 플랫폼은 개발자에게 가상 컴퓨팅 환경 구축을 위한 친숙한 옵션을 제공하죠. IBM 컨설팅(IBM Consulting)은 고객이 이러한 새로운 기능을 배포할 수 있도록 지원합니다.
더불어 다양한 최신 NVIDIA GPU, 네트워킹 하드웨어와 가상화 소프트웨어를 포괄하도록 지원을 확대했습니다.
어디서나 실행 가능
개선된 NVIDIA AI 플랫폼에 대한 액세스가 그 어느 때보다 쉬워졌습니다.
NIM, CUDA-X 마이크로서비스와 NVIDIA AI Enterprise 5.0의 모든 기능은 곧 아마존웹서비스(AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure), 오라클 클라우드(Oracle Cloud) 마켓플레이스에서 사용할 수 있게 될 예정입니다.
자체 데이터센터에서 코드 실행하기를 선호하는 고객을 위해 VM웨어 프라이빗 AI 파운데이션 위드 NVIDIA(VMware Private AI Foundation with NVIDIA)에서 소프트웨어를 지원하므로, 브로드컴(Broadcom) 고객의 가상화된 데이터센터에 배포할 수 있습니다다.
기업들은 레드햇 오픈시프트(OpenShift)에서 NVIDIA AI Enterprise를 실행할 수 있는 옵션을 통해 베어메탈 또는 가상화 환경에 배포할 수 있습니다. 또한 캐노니컬(Canonical)의 참드 쿠버네티스(Charmed Kubernetes)와 우분투(Ubuntu)에서도 지원됩니다.
또한 이 NVIDIA AI 플랫폼은 휴렛팩커드 엔터프라이즈(HPE, Hewlett Packard Enterprise)의 HPE 프로라이언트(ProLiant) 서버에서 사용할 수 있는 소프트웨어의 일부가 되는데요. 생성형 AI를 위한 HPE의 엔터프라이즈 컴퓨팅 솔루션은 NVIDIA AI Enterprise를 사용해 추론과 모델 미세 조정을 처리합니다.
머신 러닝 운영 관리를 위한 소프트웨어를 제공하는 3개의 주요 공급업체인 애니스케일(Anyscale), 데이터이쿠(Dataiku), 데이터로봇(DataRobot)도 자사 플랫폼에서 NIM을 지원할 예정입니다. 이들 업체는 마이크로소프트 애저 머신 러닝(Azure Machine Learning), 데이터루프 AI(Dataloop AI), 도미노 데이터랩(Domino Data Lab), 웨이츠 앤드 바이어시스(Weights & Biases) 등 수백 개의 MLOps 파트너로 구성된 NVIDIA 에코시스템에 합류합니다.
NVIDIA AI Enterprise 5.0 사용자는 액세스 방식에 관계없이 안전하게 생산에 바로 사용할 수 있으며, 성능에 최적화된 소프트웨어의 이점을 누릴 수 있습니다. 더불어 데이터센터, 클라우드, 워크스테이션 또는 네트워크 엣지의 애플리케이션을 위해 유연하게 배포할 수도 있습니다.
NVIDIA AI Enterprise는 시스코(Cisco), 델 테크놀로지스(Dell Technologies), HP, HPE, 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯한 주요 시스템 공급업체를 통해 제공됩니다.
GTC에서 발표되는 성공 사례들
3월 18일부터 21일까지 미국 새너제이 컨벤션 센터에서 열리는 글로벌 AI 콘퍼런스인 NVIDIA GTC에서 사용자들이 소프트웨어에 대한 경험이 공유될 예정입니다.
예를 들어, 서비스나우의 최고 디지털 정보 책임자 크리스 베디(Chris Bedi)는 패널에서 생성형 AI의 잠재력 활용에 대해 발표합니다. 또 다른 강연에서는 서비스나우의 AI 제품 부문 부사장 제레미 반즈(Jeremy Barnes)가 NVIDIA AI Enterprise를 사용해 개발자의 생산성을 극대화하는 방법을 공유합니다.
블랙록(BlackRock), 메드트로닉(Medtronic), SAP, 우버의 임원들은 금융, 헬스케어, 엔터프라이즈 소프트웨어, 비즈니스 운영 분야에서 NVIDIA AI 플랫폼을 활용한 작업에 대해 논의할 예정입니다.
또한 독일에 본사를 둔 글로벌 자동차 보험사 애플리케이션 제공업체인 컨트롤엑스퍼트(ControlExpert)의 임원들이 NVIDIA AI Enterprise 소프트웨어를 사용해 AI 기반 보험금 청구 관리 솔루션을 개발한 방법을 공유할 예정입니다.
NVIDIA는 안정성과 보안 테스트를 거친 단일 패키지로 통합되는 수백 개의 내외부 생성형 AI 프로젝트를 평가하고 있으며, 이 회사를 포함해 이러한 혜택을 받고 있는 기업이 점점 늘어나고 있습니다.
NVIDIA의 창립자 겸 CEO인 젠슨 황(Jensen Huang)의 GTC 키노트에서 자세한 내용을 확인할 수 있습니다.
공지에서 소프트웨어 제품 정보를 참조하세요.