NVIDIA의 엔터프라이즈 AI 개발은 현재 진행형!

by NVIDIA Korea

NVIDIA는 엔터프라이즈 AI 개발과 애플리케이션 관리를 간소화하기 위해 VM웨어(VMware)와의 협력을 글로벌 멀티 클라우드 컨퍼런스 VM월드(VMworld) 2021에서 발표했습니다.

이번 협력을 통해 NVIDIA와 VM웨어는 전세계 수십만개 기업에서 사용되는 인프라에 세계 최고 AI 스택과 최적화된 소프트웨어를 제공하는 AI 지원 엔터프라이즈 플랫폼 개발과정을 한 단계 더 끌어올리게 됐죠.

VM월드 2021에서 VM웨어는 VM웨어 v스피어 위드 탄주(vSphere with Tanzu)의 최신 업데이트를 발표했습니다. 이는 업계 선도적 가상화 플랫폼이자 IT 담당자가 기존 인프라에서 쿠버네티스(Kubernetes) 워크로드를 가장 신속하게 활용하도록 지원하는 플랫폼입니다.

이로써 기업들은 NVIDIA AI Enterprise 소프트웨어 제품군과 v스피어 위드 탄주에 기반해 다양한 AI 프로젝트를 테스트할 수 있게 됐는데요. 지난 2021년 8월 발표된 NVIDIA AI Enterprise는 오늘날 하이브리드 클라우드에서 AI 애플리케이션이 신속하게 배포, 관리 및 확장되도록 NVIDIA의 최적화, 인증, 지원을 거친 툴과 엔드-투-엔드(end-to-end), 클라우드 네이티브(cloud-native) AI 및 데이터 분석 프레임워크로 구성돼 있습니다.

AI 가상화 부문 MLPerf 벤치마크 제출

이번 발표에 앞서, 최근 델 테크놀로지스(Dell Technologies)는 델 EMC 파워엣지(PowerEdge) R7525 서버에서 3개의 NVIDIA AI A100 Tensor Core GPU를 통해 NVIDIA AI Enterprise 및 VM웨어 v스피어를 구동하는 동급 베어메탈 성능의 94.4~100%에 달하는 MLPerf 벤치마크를 달성한 사례가 있습니다.

이는 공급업체가 가상화 인프라에 대한 MLPerf 결과를 제출한 두 번째 사례인데요. 이는 NVIDIA AI Enterprise가 오늘날 데이터 센터의 가속화된 업계 표준 센터 서버에서 고급 AI 워크로드를 지원하도록 설계된 방식을 보여줍니다.

AI IT의 결합을 통한 시너지

현재의 AI 워크로드는 전문화된 인프라와 소프트웨어를 요구합니다. 이 때문에 기업 데이터 센터와 하이브리드 클라우드에서의 고급 애플리케이션 요구사항을 지원하는 IT 담당자에게 복잡함을 안겨주죠. NVIDIA AI Enterprise는 IT 오퍼레이션, 데이터 과학자와 애플리케이션 개발자 간의 격차를 해소하여 AI 개발 라이프사이클을 간소화합니다. 또한, 고객이 프로젝트를 더 빨리 생산에 투입하도록 지원합니다.

개발자는 NVIDIA AI Enterprise와 VM웨어 v스피어 위드 탄주를 통해 자사 VM웨어 환경 내 쿠버네티스 컨테이너에서 AI 워크로드를 실행할 수 있으며, IT 담당자가 간편하게 관리할 수 있는 인프라를 활용할 수 있습니다. 해당 소프트웨어는 주요 서버 제조업체의 메인스트림 NVIDIA 인증 시스템에서 구동되며 AI에 최적화된 완전한 소프트웨어와 하드웨어 스택을 제공합니다.

VM웨어 클라우드 인프라 비즈니스 그룹 마케팅 담당 부사장인 리 카스웰(Lee Caswell)은 “VM웨어는 인프라의 복잡성을 해소하여 기업에 서비스를 제공합니다. NVIDIA와의 이번 협업으로 고객은 하이브리드 클라우드에서 고급 AI 애플리케이션을 개발하고 구현하게 됐습니다. 또한, NVIDIA AI Enterprise와 VM웨어 v스피어 위드 탄주를 통해 고객은 메인스트림 데이터 센터 서버와 클라우드에서 AI 개발과 배포를 관리하고, 모든 산업의 성장을 이끄는 AI 애플리케이션을 쉽게 통합할 수 있습니다”라고 설명했습니다.

개발자와 IT 담당자를 위한 엔터프라이즈급 AI

NVIDIA AI Enterprise는 파이토치(PyTorch), 텐서플로우(TensorFlow), NVIDIA Tensor RT, NVIDIA Triton 추론 서버NVIDIA RAPIDS를 비롯해 개발자에 최적화된 AI 소프트웨어를 제공합니다. 이러한 도구를 통해 AI 개발자와 데이터 과학자는 대화형 AI, 컴퓨터 비전, 추천 시스템과 같은 다채로운 엔터프라이즈 AI 애플리케이션을 구축하는 데 필요한 도구와 프레임워크에 쉽게 액세스할 수 있죠.

IT 담당자는 NVIDIA AI Enterprise의 클라우드 네이티브 아키텍처를 통해 자사 하이브리드 클라우드 인프라의 모든 클러스터와 애플리케이션을 중앙집중형으로 관리할 수 있는데요. 해당 소프트웨어는 가상화 환경에서도 베어메탈에 가까운 AI 성능을 제공하죠. 따라서, 모델을 구축할 때 IT 담당 팀은 개발자들이 아이디어를 신속하게 탐색하고 구현하도록 보장할 수 있습니다.

광범위한 서버 제조업체의 지원

NVIDIA AI Enterprise는 아토스(Atos), 델 테크놀로지스, 기가바이트(GIGABYTE), H3C, 휴렛 팩커드 엔터프라이즈(Hewlett Packard Enterprise), 인스퍼(Inspur), 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯해 NVIDIA 인증 시스템을 제공하는 광범위한 서버 제조업체의 지원을 받습니다. 해당 제조업체들은 NVIDIA A100, NVIDIA A30을 비롯한 NVIDIA GPU를 보유합니다.

NVIDIA AI Enterprise는 전 세계 NVIDIA 채널 파트너로부터 공급받을 수 있는데요. 해당 파트너로는 Atea, 캐러소프트 테크놀로지 코퍼레이션(Carahsoft Technology Corp.), 컴퓨터센터(Computacenter), 인사이트 엔터프라이즈(Insight Enterprises), NTT, 프레시디오(Presidio), 시리우스(Sirius), 소프트서브(SoftServe), SVA 시스템 버트리브 알렉산더 GMBH(SVA System Vertrieb Alexander GMBH), TD 시넥스(TD SynNEX), 트레이스3(Trace3)와 WWT가 있습니다. AI 인프라에 즉시 액세스해야 하는 고객들을 지원하기 위해 디지털 인프라 선도기업 에퀴닉스(Equinix)와의 협력으로 진행되는 NVIDIA AI LaunchPad 프로그램에서도 NVIDIA AI Enterprise를 선보일 예정입니다.

NVIDIA AI Enterprise는 VM웨어 v스피어에서 사용 가능하며, NVIDIA AI Enterprise 및 VM웨어 v스피어 위드 탄주를 평가하려는 고객에게 평가 라이선스가 제공됩니다. 또한, VM웨어 v스피어 기반 NVIDIA AI Enterprise 소프트웨어 가운데 최초로 공동 엔지니어링된 솔루션인 AI를 위한 델 테크놀로지스 검증 설계(Dell Technologies Validated Design for AI)가 현재 이용 가능합니다.

자세한 정보는 10월 5일부터 7일(현지시간)까지 온라인으로 개최되는 VM월드 2021에서 NVIDIA와 VM웨어가 모든 기업이 AI를 사용하도록 지원하는 방법을 논의하는 프레젠테이션, 엔터프라이즈 AI 관련 공동 업데이트다른  NVIDIA 세션에서 확인해보세요.