오라클은 자사 데이터센터에 수랭식 NVIDIA GB200 NVL72 랙을 최초로 도입하고 최적화했습니다. 현재 수천 개의 NVIDIA Blackwell GPU가 NVIDIA DGX Cloud와 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure, OCI)를 통해 고객이 사용할 수 있도록 배치되고 있죠. 이를 통해 차세대 추론 모델과 AI 에이전트를 개발하고 실행할 수 있습니다.
오라클이 도입한 최첨단 GB200에는 고속 NVIDIA Quantum-2 InfiniBand와 NVIDIA Spectrum-X 이더넷 네트워킹이 포함됩니다. 따라서 확장 가능하며 저지연 성능을 구현하고, NVIDIA와 OCI 소프트웨어와 데이터베이스 통합의 풀스택을 지원합니다.
세계 최대이자 가장 빠르게 성장하는 클라우드 서비스 제공업체로 꼽히는 OCI는 NVIDIA GB200 NVL72 시스템을 최초로 도입한 기업 중 하나입니다. OCI는 세계 최대 규모의 Blackwell 클러스터를 구축하려는 원대한 계획을 갖고 있는데요. OCI 슈퍼클러스터(Supercluster)는 10만 개 이상의 NVIDIA Blackwell GPU로 확장해 전 세계적으로 급증하는 추론 토큰과 가속 컴퓨팅 수요를 충족할 예정입니다. 지난 몇 주 사이 오픈AI(OpenAI)를 비롯한 여러 기업에서 새로운 추론 모델을 출시하면서 AI 혁신은 놀라운 속도로 계속되고 있습니다.
OCI는 NVIDIA Grace Blackwell 시스템이 전 세계적으로 본격 가동되기 시작한 최신 사례입니다. 이는 클라우드 데이터센터를 대규모 인텔리전스를 제조하는 AI 팩토리로 탈바꿈시키고 있죠. 이러한 새로운 AI 팩토리는 36개의 NVIDIA Grace CPU와 72개의 NVIDIA Blackwell GPU를 결합한 랙 스케일 시스템인 NVIDIA GB200 NVL72 플랫폼을 활용합니다. 이를 통해 고급 AI 추론 모델 기반의 에이전틱 AI를 위한 탁월한 성능과 에너지 효율을 제공합니다.
OCI는 모든 규모의 고객에게 Blackwell을 제공할 수 있는 유연한 배포 옵션을 지원합니다. 여기에는 공공, 정부, 소버린 클라우드는 물론 OCI 전용 리전(Dedicated Region)과 OCI 알로이(Alloy)를 통한 고객 소유의 데이터센터까지 포함되죠.
많은 고객이 OCI GB200 시스템에 워크로드를 즉시 배치할 계획입니다. 주요 기술업체와 기업 고객, 정부 기관과 도급업체, 지역 클라우드 제공업체 등이 이에 포함됩니다.
새로운 GB200 NVL72 랙은 NVIDIA DGX Cloud에서 사용할 수 있는 첫 번째 시스템입니다. NVIDIA DGX Cloud는 OCI와 같은 선도적인 클라우드에서 AI 워크로드를 개발하고 배포하기 위해 소프트웨어, 서비스, 기술 지원을 제공하는 최적화된 플랫폼입니다. NVIDIA는 추론 모델 훈련, 자율주행 자동차 개발, 칩 설계와 제조 가속화, AI 도구 개발 등 다양한 프로젝트에 이 랙을 사용할 예정입니다.
GB200 NVL72 랙은 현재 DGX Cloud와 OCI에서 사용할 수 있습니다.