모듈형 컨테이너 내부에 완전한 NVIDIA Vera Rubin AI 팩토리를 구축할 수 있도록 지원하는 레퍼런스 설계 DSX POD가 공개됐습니다. 파트너사는 DSX POD를 기반으로 시스템을 사전에 통합·검증한 뒤 현장에 공급할 수 있습니다. DSX POD 유닛은 현장에 마련된 전력, 냉각, 네트워킹과 기타 지원 인프라에 즉시 연결할 수 있도록 설계돼, 기존 약 6개월이 걸리던 구축 기간을 빠르면 14일까지 단축할 수 있죠.
DSX POD는 컴퓨팅, 네트워킹, 케이블링, 랙 단위 전력 공급, 액체 냉각 시스템의 통합과 설치 과정을 제조 시설에서 수행하도록 해, 기존 현장 구축 방식에 필요한 복잡한 계획과 시공, 전문 인력, 물류 부담을 줄입니다. 또한 공장에서 테스트를 완료한 컨테이너를 활용함으로써 부품 조달 지연과 비용이 많이 들고 오류가 발생하기 쉬운 현장 작업에 따른 위험을 줄이죠. 이를 통해 모델 학습과 생산 추론까지 걸리는 시간을 단축해 고객이 더 빠르게 토큰을 생성하고 수익을 창출할 수 있도록 지원합니다.
NVIDIA 젠슨 황 CEO는 “AI 팩토리는 건설이 완료되는 시점이 아니라 토큰을 생산하기 시작할 때 가치를 창출합니다. NVIDIA DSX POD는 공장 제작 방식의 정밀도와 속도를 AI 인프라 구축에 도입해 구축 기간을 수개월에서 수주로 단축하죠. 이를 통해 고객은 컴퓨팅 용량을 확장하고 수익 창출이 가능한 생산 환경을 더 빠르게 가동할 수 있습니다”라고 말했습니다.
공장 제작 방식으로 AI 인프라 구축 가속
NVIDIA DSX POD는 Vera Rubin 시스템과 이를 운영하는 데 필요한 인프라를 반복 구축이 가능한 공장 제작 방식의 컨테이너형 설계로 통합해, 파트너사가 이를 대규모로 생산하고 공급할 수 있도록 지원합니다.
DSX POD는 보다 광범위한 NVIDIA DSX™ 인프라 플랫폼의 설계 철학을 계승하면서도, 운송과 설치 전에 전용 컨테이너 내부에서 시스템을 통합하고 검증하는 독자적인 아키텍처를 적용했습니다. 파트너사는 출하 전에 랙 간 케이블 연결과 배선, 배관, 기능 검증을 완료합니다. 이러한 작업은 현장 준비 과정과 별도로 진행되어 새로운 컴퓨팅 용량을 가동하기까지 걸리는 시간을 더욱 단축할 수 있죠.
이러한 생산 가동 시점을 앞당기는 것은 구축 속도를 경제적 가치로 연결하는 핵심 요소인데요. 첫 토큰 생성 시점(Time to first token, TTFT)은 새로운 AI 팩토리가 실제 생산 워크로드를 처리하기 위해 모델을 실행하기 시작하는 시점을 의미합니다. 이를 통해 운영자는 인프라를 더욱 빠르게 고객 서비스에 활용할 수 있습니다.
글로벌 파트너 생태계 및 공급 계획
NVIDIA는 Anduril, Armada, Bull, Crusoe, DayOne, Dell Technologies, Delta, Eaton, Foxconn(Ingrasys), GIGABYTE, HPE, Lenovo, Pegatron, Quanta Cloud Technology(QCT), Schneider Electric, Vertiv, Wistron과 협력해 2027년 초부터 전 세계에 DSX POD AI 팩토리를 공급할 예정입니다.
NVIDIA 젠슨 황 CEO의 GTC Berlin 키노트를 시청하고, 관련 세션을 확인하세요.