NVIDIA DGX Cloud Lepton으로 연결되는 전 세계 개발자들

컴퓨팅 마켓플레이스가 포함된 AI 플랫폼인 NVIDIA DGX Cloud Lepton을 소개합니다! DGX Cloud Lepton은 글로벌 클라우드 제공업체 네트워크에서 제공되는 수만 개의 GPU를 통해 에이전틱 AI·물리 AI 애플리케이션을 구축하는 전 세계 개발자들을 연결합니다.

AI 수요를 충족하기 위해 NVIDIA Cloud Partner(NCP)는 DGX Cloud Lepton 마켓플레이스에서 NVIDIA Blackwell과 기타 NVIDIA 아키텍처 GPU를 제공할 예정인데요, NCP에는 코어위브(CoreWeave), 크루소(Crusoe), 퍼머스(Firmus), 폭스콘(Foxconn), GMI 클라우드(GMI Cloud), 람다(Lambda), 네비우스(Nebius), 엔스케일(Nscale), 소프트뱅크(Softbank Corp), 요타 데이터 서비스(Yotta Data Services) 등의 다양한 파트너들이 포함되어 있습니다.

개발자는 온디맨드와 장기 컴퓨팅을 위해, 특정 지역의 GPU 컴퓨팅 용량을 활용해 전략적인 소버린 AI(Sovereign AI) 운영에 필요한 요구 사항을 지원할 수 있습니다. 여기에 선도적인 클라우드 서비스 제공업체와 GPU 마켓플레이스도 DGX Cloud Lepton 마켓플레이스에 참여할 것으로 예상되고 있죠.

NVIDIA 젠슨 황 CEO는 “NVIDIA DGX Cloud Lepton은 글로벌 GPU 클라우드 제공업체 네트워크와 AI 개발자를 연결해줍니다. NVIDIA는 NCP와 함께 행성 규모의 AI 팩토리를 구축하고 있습니다”고 밝혔는데요,

DGX Cloud Lepton은 NVIDIA 컴퓨팅 에코시스템 전반에서 클라우드 AI 서비스와 GPU 용량에 대한 액세스를 통합합니다. 이를 통해 안정적인 고성능 GPU 리소스를 확보할 수 있도록 지원합니다. 특히 이 플랫폼은 NVIDIA 소프트웨어 스택과 통합돼 AI 애플리케이션의 개발과 배포를 가속화하고 간소화하게 되는데, 통합 가능한 NVIDIA 소프트웨어 스택에는 NVIDIA NIM™과 NeMo™ 마이크로서비스, NVIDIA Blueprints와 NVIDIA Cloud Functions 등이 포함됩니다.

DGX Cloud Lepton은 클라우드 제공업체에 실시간 GPU 상태 진단을 제공하고 근본 원인 분석을 자동화하는 관리 소프트웨어를 제공합니다. 수작업을 배제하고 가동 중단 시간을 줄여주죠.

DGX Cloud Lepton의 주요 이점에는 다음과 같은 것들이 있습니다.

생산성과 유연성 향상: 개발, 훈련, 추론 전반에 걸쳐 통합된 환경을 제공해 생산성 향상을 지원합니다. 개발자는 마켓플레이스를 통해 참여 클라우드 제공업체로부터 GPU 용량을 직접 구매하거나 자체 컴퓨팅 클러스터를 가져올 수 있어 유연성과 제어력이 향상됩니다.
원활한 배포: 추론, 테스트, 훈련 워크로드를 위한 통합 서비스를 사용함으로써 최소한의 운영 비용으로 멀티 클라우드와 하이브리드 환경 전반에 걸쳐 AI 애플리케이션을 배포할 수 있습니다.
민첩성과 독자성: 개발자가 특정 지역의 GPU 리소스에 빠르게 액세스해 데이터 주권 규정을 준수하고, 민감한 워크로드에 대한 저지연 요구 사항을 충족할 수 있도록 지원합니다.
예측 가능한 성능: 참여 클라우드 제공업체에 엔터프라이즈급 성능, 안정성, 보안을 제공해 일관된 사용자 경험을 보장합니다.

AI 클라우드 성능의 새로운 기준

NVIDIA는 NVIDIA Exemplar Clouds도 발표했습니다. 이는 NVIDIA의 전문성, 레퍼런스 하드웨어와 소프트웨어, 운영 툴을 사용해 NCP가 보안, 사용성, 성능, 탄력성을 강화할 수 있도록 지원하는데요, NVIDIA Exemplar Cloud는 AI 플랫폼에서 워크로드 성능을 최적화하고 비용과 성능 간 관계를 정량화하기 위한 포괄적인 도구와 레시피 모음인 NVIDIA DGX Cloud Benchmarking을 활용합니다.