NVIDIA는 전 세계 에이전틱 AI 팩토리를 구동하기 위한 NVIDIA Vera Rubin 플랫폼의 양산을 시작했습니다.
대만의 주요 서버 제조사와 글로벌 공급망 선도 기업들은 Vera Rubin 기반 시스템을 대규모로 제조하고 있는데요. 이를 통해 AI 연구소, 클라우드 제공업체, 하이퍼스케일러가 차세대 인텔리전스를 구축할 수 있도록 지원하고 있습니다.
Vera Rubin은 NVIDIA의 가장 광범위한 POD 규모 플랫폼으로, 5개의 전용 랙이 하나의 대규모 AI 슈퍼컴퓨터처럼 작동해 에이전틱 워크로드를 처리합니다. 이 플랫폼은 NVIDIA Vera Rubin NVL72 시스템, NVIDIA Vera CPU, NVIDIA Groq 3 LPX, NVIDIA Vera BlueField-4 STX 스토리지, NVIDIA Spectrum™-6 SPX 이더넷 랙을 완전 통합 시스템으로 결합하죠. Vera Rubin은 대규모 환경에서 이전 세대 NVIDIA Grace Blackwell 플랫폼 대비 10배 높은 에이전트 처리량을 제공합니다.
NVIDIA 창립자 겸 CEO 젠슨 황(Jensen Huang)은 “에이전틱 AI는 새로운 유형의 워크로드입니다. 단 하나의 프롬프트만으로도 추론, 검색, 도구 활용, 응답 생성에 이르는 수천 단계의 여정이 시작될 수 있죠. Vera Rubin은 바로 이 순간을 위해 설계됐습니다. 차세대 산업 혁명을 구동하는 데 필요한 성능, 효율, 보안을 바탕으로 대규모 인텔리전스를 제공하는 AI 팩토리 엔진입니다”라고 말했습니다.
Vera Rubin 생산 확대
Vera Rubin은 3세대 NVIDIA MGX™ 랙스케일 시스템입니다. 검증된 오픈소스 MGX 설계를 기반으로, 수백 개의 NVIDIA 공급망 생태계 파트너가 30개국 350개 이상의 공장에서 Vera Rubin 생산을 확대하고 있는데요. 특히 대만에서만 150개 파트너가 참여하고 있습니다.
주요 시스템 구축업체, 인프라 소프트웨어, 스토리지 파트너들은 Vera Rubin 양산에 돌입했습니다. 여기에는 델 테크놀로지스(Dell Technologies), HPE, 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯해 AIC, 에이브레스(Aivres), 애즈락 랙(ASRock Rack), 에이수스(ASUS), 클라우디안(Cloudian), 컴팔(Compal), DDN, 에버퓨어(Everpure), 폭스콘(Foxconn), 기가바이트(GIGABYTE), 히타치 밴타라(Hitachi Vantara), 하이브 솔루션스(Hyve Solutions), IBM, 인벤텍(Inventec), 민아이오(MinIO), 미텍 컴퓨팅(MiTAC Computing), MSI, 넷앱(NetApp), 뉴타닉스(Nutanix), 페가트론(Pegatron), 콴타 클라우드 테크놀로지(Quanta Cloud Technology, QCT), 바스트 데이터(VAST Data), 웨카(WEKA), 위스트론(Wistron), 위윈(Wiwynn)이 포함됩니다.
100만 GPU AI 팩토리를 위한 패브릭 구축
스케일아웃(scale-out)과 스케일어크로스(scale-across) 기반의 AI 팩토리 배포를 지원하기 위해 Vera Rubin 플랫폼은 현재 생산 중인 NVIDIA Spectrum-X™ 이더넷 포토닉스(Photonics)를 도입합니다. 이는 200Gb/s 서데스(SerDes)를 탑재한 세계 최초의 공동 패키징 광학(CPO) 기반 스위치죠.
Spectrum-X 이더넷 포토닉스는 CPO 기반의 차세대 스위칭 기술로, 기존 트랜시버를 사용하는 네트워크 대비 전력 효율을 5배 높이고, AI 가동 시간을 5배 늘리며, 배포 시간을 1.3배 단축합니다.
NVIDIA CPO 네트워킹은 설계를 단순화하고 컴퓨팅 연산에 더 많은 전력을 할당할 수 있도록 돕습니다. 이를 통해 100만 GPU 규모의 AI 팩토리를 위한 핵심 패브릭을 제공하죠. 코어위브(CoreWeave), 람다(Lambda), 람다(Lambda), 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure)가 초기 생태계 파트너와 도입 기업으로 참여합니다.
또한 NVIDIA Vera Rubin 플랫폼은 NVIDIA BlueField®-4 DPU도 통합합니다. BlueField-4 DPU는 최대 800Gb/s 속도의 소프트웨어 정의 네트워킹과 내장형 멀티테넌트 격리 기능을 제공하죠. 고객은 NVIDIA BlueField-4 고급 보안 신뢰 아키텍처(Advanced Secure Trusted Resource Architecture)를 통해 네트워크 운영을 간소화하고, 테넌트 격리 성능을 높이며, 100만 GPU AI 클러스터 전반에 걸쳐 더 높은 수준의 제어력을 확보할 수 있습니다.
AI 팩토리를 위한 보안 AI
AI 팩토리는 에이전틱 워크플로우에서 기업 고유 데이터, 규제 대상 콘텐츠, 미션 크리티컬 모델을 점점 더 많이 처리하고 있습니다. 따라서 인프라를 암묵적으로 신뢰할 수 없는 공유 또는 클라우드 환경에서 자율 에이전트에 맞춰 설계된 첨단 인프라 보안이 필요한데요.
Vera Rubin 플랫폼은 랙스케일의 신뢰 실행 환경(TEE)을 위해 풀스택 NVIDIA 컨피덴셜 컴퓨팅(Confidential Computing)을 기반으로 설계됐습니다. Vera Rubin NVL72는 Vera CPU, Rubin GPU, NVIDIA NVLink™ 네트워킹, 보안 기능을 통합 플랫폼으로 결합하며, 고속 인터커넥트 전반에서 데이터를 암호화합니다. 이를 통해 시스템이 변조 방지 상태임을 검증하는 하드웨어 수준의 증명을 제공합니다.
클라우드 제공업체인 코어위브, 퍼머스(Firmus), GMI 클라우드(GMI Cloud), IBM 클라우드(IBM Cloud), 아이렌(IREN), 람다, 마이크로소프트 애저(Microsoft Azure), 네비우스(Nebius), 엔스케일(Nscale), 스페이스XAI(SpaceXAI), 벌처(Vultr)가 NVIDIA 컨피덴셜 컴퓨팅을 도입하고 있습니다.
POD 규모에서 이러한 수준의 보호를 제공하려면 전체 시스템에 걸쳐 보안 정책을 적용, 오케스트레이션, 조정할 수 있는 프로그래머블 소프트웨어 계층도 필요합니다. NVIDIA DOCA™ 소프트웨어 플랫폼은 모든 Vera Rubin 플랫폼 랙과 AI 팩토리의 각 계층 전반에 첨단 보안을 제공합니다. BlueField-4 실리콘 하드웨어에서 직접 적용되는 기능을 통해 데이터, 에이전트, 컨텍스트 메모리, AI 추론을 보호합니다.
DOCA는 호스트 CPU 리소스에 부담을 주지 않으면서 최대 800Gb/s 속도로 멀티테넌트 네트워크 격리, 제로 트러스트 정책 적용, 런타임 위협 탐지, 엔드-투-엔드 암호화를 지원합니다. 이를 통해 기업은 AI 팩토리를 안정적으로 확장할 수 있습니다.
AI 팩토리 구축 가속화
NVIDIA DSX™ 플랫폼은 Vera Rubin AI 팩토리를 위한 완전한 설계와 운영 기반을 제공합니다. 레퍼런스 설계, 시뮬레이션, 인프라 소프트웨어, 설비, 생태계 기술을 통합해 토큰 비용을 최소화하도록 최적화된 에너지 효율적인 AI 팩토리의 구축과 운영을 지원합니다.
Vera Rubin POD 아키텍처에 맞춰 설계된 DSX는 실리콘과 시스템부터 수명주기 관리, 멀티테넌트 운영에 이르기까지 스택의 모든 계층을 일관되게 조율합니다. 이를 통해 배포를 크게 가속화하고, 대규모 환경에서 운영 신뢰성과 복원력에 대한 새로운 기준을 제시하게 되죠.
델 테크놀로지스, HPE, 레노버, 슈퍼마이크로는 에이수스, 폭스콘, 기가바이트, 페가트론, QCT, 위스트론, 위윈과 함께 NVIDIA DSX를 도입해 베라 루빈 기반 AI 팩토리 구축 속도를 가속화하고 있습니다.
출시 정보
Vera Rubin의 양산 제품 출하는 올해 가을부터 시작될 예정입니다.
NVIDIA 젠슨 황 CEO의 키노트를 시청하고, NVIDIA GTC Taipei에 대해 자세히 알아보세요.