대규모 AI를 위해 설계된 새로운 네트워킹 스위치인 X800 시리즈를 발표합니다!
NVIDIA Quantum-X800 InfiniBand와 NVIDIA Spectrum-X800 Ethernet은 엔드 투 엔드 800Gb/s 처리량을 지원하는 세계 최초의 네트워킹 플랫폼입니다. 이들은 컴퓨팅과 AI 워크로드를 위한 네트워킹 성능의 범위를 확장하죠. 또한 새로 출시된 NVIDIA Blackwell 아키텍처 기반 제품 라인업을 비롯해, 모든 유형의 데이터센터에서 AI, 클라우드, 데이터 처리, HPC 애플리케이션 등을 더욱 가속화하는 소프트웨어가 탑재됐습니다.
마이크로소프트 애저(Microsoft Azure)의 AI 인프라 담당 부사장인 나디아 샤펠(Nidhi Chappell)은 “AI는 데이터를 지식으로 전환하는 강력한 도구입니다. 이러한 변화의 이면에는 네트워킹 인프라에 대한 수요가 증가하면서 데이터센터가 고성능 AI 엔진으로 진화하고 있습니다. NVIDIA 네트워킹 솔루션의 새로운 통합을 통해 마이크로소프트 애저(Microsoft Azure)는 클라우드 AI의 경계를 넓히는 인프라를 계속 구축할 것”이라고 전했습니다.
Quantum InfiniBand와 Spectrum-X Ethernet을 가장 먼저 도입한 곳은 마이크로소프트 애저와 오라클 클라우드 인프라(Oracle Cloud Infrastructure), 코어위브(Coreweave) 등 입니다.
최고의 성능을 위한 차세대 표준
Quantum-X800 플랫폼은 AI 전용 인프라를 위해 최고의 성능을 제공하는 새로운 표준을 제시합니다. 업계 최고의 엔드 투 엔드 처리량인 800Gb/s를 달성하는 NVIDIA Quantum Q3400 스위치와 NVIDIA ConnectX-8 SuperNIC가 포함되는데요. 이는 이전 세대 대비 5배 높은 대역폭 용량과 9배 향상된 14.4T플롭의 인네트워크 컴퓨팅을 제공하는 NVIDIA의 확장 가능한 프로토콜인 SHARPv4를 통해 이루어집니다.
Spectrum-X800 플랫폼은 AI 클라우드, 엔터프라이즈 인프라에 최적화된 네트워킹 성능을 제공합니다. 이 플랫폼은 Spectrum SN5600 800Gb/s 스위치와 NVIDIA BlueField-3 SuperNIC를 활용합니다. 또한 멀티 테넌트(Multi-tenant) 생성형 AI 클라우드와 대기업에 반드시 필요한 고급 기능 세트를 제공합니다.
Spectrum-X800은 네트워크 성능을 최적화해 AI 워크로드를 빠르게 처리, 분석, 실행함으로써 AI 솔루션의 개발, 배포, 출시 시간을 단축합니다. 멀티 테넌트 환경을 위해 특별히 설계된 Spectrum-X800은 각 테넌트의 AI 워크로드에 대한 성능을 독립적으로 보장하죠. 이로써 최적의 일관된 성능 수준을 유지하고 고객 만족도와 서비스 품질을 향상시킵니다.
NVIDIA의 소프트웨어 지원
NVIDIA는 수조 개의 파라미터를 가진 AI 모델의 성능을 최적화하기 위해 네트워크 가속화 라이브러리의 전체 패키지, 소프트웨어 개발 키트, 관리 소프트웨어 제품군을 제공합니다.
여기에는 NCCL(NVIDIA Collective Communications Library)이 포함되는데요. GPU 병렬 컴퓨팅 작업을 Quantum-X800 네트워크 패브릭으로 확장해 FP8을 지원하는 SHARPv4의 강력한 인네트워크 컴퓨팅 기능을 활용합니다. 이를 통해 대규모 모델 훈련과 생성형 AI의 성능을 크게 향상시킬 수 있습니다.
NVIDIA의 풀스택 소프트웨어 접근 방식은 고급 프로그래밍 기능을 제공합니다. 이를 통해 데이터센터 네트워크를 더욱 유연하고 안정적이며 빠르게 만들어 궁극적으로 전반적인 운영 효율성을 높입니다. 아울러 최신 애플리케이션과 서비스의 요구 사항도 지원합니다.
에코시스템 모멘텀
Quantum-X800과 Spectrum-X800은 내년에 에이브레스(Aivres), DDN, 델 테크놀로지스(Dell Technologies), 에비덴(Eviden), 히타치 밴타라(Hitachi Vantara), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo), 슈퍼마이크로(Supermicro), 바스트데이터(VAST Data) 등 전 세계 주요 인프라, 시스템 공급업체를 통해 제공될 예정입니다.