NVIDIA가 유럽의 주요 생태계 파트너들이 NVIDIA DSX™ AI 팩토리 플랫폼을 도입해 냉각용 물 사용량을 최소화하고, 동일한 AI 출력을 더 적은 전력으로 제공하는 AI 팩토리를 구축하고 있습니다. 또한 이 플랫폼은 파트너들이 새로운 컴퓨팅 용량을 더 빠르게 가동하고, 워크로드 전력 사용량을 유연하게 조정해 전력망 안정성을 지원할 수 있도록 합니다.
NVIDIA DSX는 세계 유수의 인프라 기업들과 공동 개발한 풀스택 AI 팩토리 레퍼런스 아키텍처입니다. 컴퓨팅, 네트워킹, 스토리지, 소프트웨어, 전력, 냉각 시스템을 하나의 시스템으로 공동 설계해 설계부터 운영까지 전 과정을 최적화하죠.
AI 클라우드 기업과 주요 설계·건설·에너지·냉각 기업들은 DSX를 활용해 유럽 기업, 개발자, 정부를 위한 인프라를 구축하고 운영하고 있습니다.
NVIDIA DSX 제품 관리 부문 부사장 Warren Barkley는 “유럽의 기술 리더십은 전력과 인프라를 얼마나 효율적으로 인텔리전스로 전환할 수 있는지에 달려 있죠. NVIDIA DSX는 운영자가 책임감 있게 인프라를 구축하고, 대규모 환경에서 효율적으로 운영하며, 인텔리전스를 시장에 더 빠르게 제공하는 데 필요한 기술과 생태계 전문성을 하나로 결합합니다”라고 말했습니다.
NVIDIA DSX 플랫폼에는 동적 전력 할당을 위한 DSX MaxLPS™, 전력망 상황에 맞춰 워크로드 전력 소비를 조정하는 DSX Flex, 검증된 인프라 아키텍처를 제공하는 DSX 레퍼런스 설계, 시뮬레이션을 위한 DSX Sim™, 인프라 관리를 위한 DSX OS™, 컴퓨팅 시스템과 시설 시스템을 연결하는 DSX Exchange™가 포함됩니다. 이러한 기술은 운영자가 중요한 자원을 절감하면서 AI 팩토리를 설계·구축·운영할 수 있도록 지원합니다.
NVIDIA DSX, AI 팩토리 냉각 효율 혁신
기존 냉각탑은 물을 증발시켜 열을 제거하기 때문에 지속적인 보충수 공급이 필요한데요. NVIDIA DSX 레퍼런스 설계는 액체 냉각 컴퓨팅과 증발을 사용하지 않는 드라이 쿨러 기반 방열 방식을 결합합니다. 냉각액은 컴퓨팅 장비의 열을 흡수해 폐쇄형 회로를 순환하고, 대형 라디에이터와 유사한 외부 드라이 쿨러는 물을 증발시키지 않고 열을 공기 중으로 방출합니다.
NVIDIA Vera Rubin 인프라는 최대 섭씨 45도의 냉각수를 활용하는 100% 액체 냉각을 지원합니다. 드라이 쿨러 기반 설계를 적용하면 시설 냉각용 물 사용량을 거의 0에 가까운 수준까지 줄일 수 있죠. 2GW 규모에서 NVIDIA DSX는 기존 냉각탑 기반 시스템 대비 하루 5,400만 리터의 물을 절약할 수 있으며, 이는 약 18만 가구의 하루 물 사용량에 해당합니다. 가장 더운 시기에 추가적인 기계식 냉각이 필요한지는 현지 기후 조건에 따라 달라집니다.
더 적은 전력으로 동일한 AI 출력 구현
가용 전력은 운영자가 실제로 가동할 수 있는 컴퓨팅 용량을 결정합니다. DSX MaxLPS와 DSX Flex는 이러한 전력 제약에 대응합니다.
DSX MaxLPS는 AI 팩토리에 할당된 전력 예산 내에서 전력을 동적으로 배분해, 운영자가 동일한 수의 토큰을 최대 30% 적은 전력으로 생성할 수 있도록 지원합니다. 운영자는 이러한 효율성을 활용해 기존 전력 예산 안에서 더 많은 GPU 용량과 더 높은 처리량을 확보할 수도 있죠. CoreWeave, Firmus, Google Cloud, IREN, Lambda, Nebius, Nscale, Sharon AI가 이 소프트웨어의 활용을 검토하고 있습니다.
Lambda는 DSX MaxLPS를 적용한 NVIDIA HGX™ B200 시스템 기반 개념 검증에서 고정된 전력 예산 내 클러스터 토큰 처리량을 24%, GPU 용량을 19% 높였습니다.
AI 팩토리 전력 수요와 전력망 연계
DSX Flex는 AI 팩토리가 전력망을 위한 유연한 자산으로 기능할 수 있도록 지원합니다. 운영자는 전력 사업자의 요구, 수요반응 이벤트, 에너지 가격에 맞춰 워크로드의 전력 소비를 조정할 수 있습니다. 또한 전력망 전력, 현장 재생에너지, 에너지 저장장치의 전력 사용을 조율해 AI 팩토리가 유연한 전력 부하로 운영되도록 지원하며, 전력망 안정성과 더 빠른 계통 연결을 가능하게 하죠.
초기 실증에서 Emerald AI, EPRI, Nebius, U.K. National Grid, NVIDIA는 시뮬레이션된 전력망 이벤트에 대응해 NVIDIA Blackwell Ultra GPU 클러스터의 전력 사용량을 최대 40% 줄이면서도 핵심 워크로드를 지속적으로 운영할 수 있음을 입증했습니다.
Nscale, NVIDIA DSX로 AI 팩토리 효율성 향상
Nscale은 DSX MaxLPS, DSX Flex, DSX Sim을 활용해 NVIDIA DSX 플랫폼이 전력 최적화, 전력망 대응형 운영, 인프라 설계를 어떻게 연결하는지 보여주고 있습니다.
Nscale은 아이슬란드 AI 팩토리에서 4개의 NVIDIA GB300 NVL72 랙에 DSX MaxLPS를 적용한 평가를 통해, 동일한 264킬로와트 할당 전력 예산 내에서 추론 처리량을 49% 높이고 관리 가능한 GPU 용량을 37% 확대했습니다. 이러한 결과는 동적 전력 할당을 통해 기존 인프라에서 추가적인 컴퓨팅 용량을 확보할 수 있음을 보여줍니다.
Nscale은 워크로드 전력 소비를 전력망 상황에 맞춰 조정하기 위해 DSX Flex 활용도 검토하고 있습니다.
Nscale 창립자 겸 CEO Josh Payne은 “유럽의 AI 비전을 실현하려면 모든 메가와트를 최대한 효율적으로 활용해야 하죠. NVIDIA DSX를 통해 가용 전력에서 더 많은 컴퓨팅 성능을 제공하고, 전력망 상황에 대응하며, 설계부터 구축까지의 시간을 단축하는 AI 팩토리를 구축하고 있습니다”라고 말했습니다.
Nscale은 포르투갈과 아이슬란드 시설에서 DSX Sim을 활용해 디지털 트윈을 구축하고, 실제 구축에 앞서 전력·냉각·인프라 구성을 평가하고 있는데요. 설계를 가상 환경에서 사전 검증함으로써 잠재적인 문제를 조기에 파악하고 구축 위험을 낮추며, 계획 단계에서 실제 생산 가능한 컴퓨팅 용량 확보까지의 시간을 단축할 수 있습니다.
DSX Sim·SimReady 센트럴 라이브러리로 AI 팩토리 설계 가속
NVIDIA는 Vertiv 등 파트너가 제공하는 검증된 전력·냉각 장비 에셋을 포함한 SimReady Central Library를 Hugging Face에 출시합니다. 이를 통해 DSX AI 팩토리 디지털 트윈 구축을 가속하죠.
PTC를 비롯한 생태계 파트너들은 DSX Sim과 함께 사용할 수 있도록 CAD 기반의 시뮬레이션 준비 에셋을 제작하고 있습니다. 이를 통해 구축 사업자는 장비 설치 전에 인프라 구성을 모델링하고 전력·냉각 관련 의사결정을 평가할 수 있는 SimReady 워크플로우를 활용할 수 있는데요. 운영자는 설계를 더 이른 단계에서 검증해 구축 위험을 낮추고 계획에서 시공까지의 속도를 높일 수 있습니다.
NVIDIA DSX OS로 실제 운영 준비 가속
NVIDIA는 운영자가 구축된 인프라를 실제 생산 가능한 컴퓨팅 용량으로 전환할 수 있도록 모듈형 오픈소스 DSX OS 포트폴리오를 확장하고, 다음 세 가지 구성 요소를 개발자 프리뷰로 제공합니다.
- NVIDIA Config Manager는 AI 팩토리 네트워크 구성을 자동화합니다.
- NVIDIA Rack Management Service는 랙 수준의 전력, 인벤토리, 펌웨어, 스위치 관리를 제공합니다.
- NVIDIA Cluster Readiness Engine은 실제 프로덕션 워크로드를 투입하기 전에 분산 워크로드를 실행해 GPU 클러스터를 검증하고, 장애 발생 시 문제가 있는 특정 노드를 식별합니다.
이러한 구성 요소는 NVIDIA Infrastructure Controller, NVIDIA AI Cluster Runtime, NVSentinel과 함께 인프라 수명주기 관리를 자동화하고, 일관된 런타임 환경을 유지하며, 시스템 상태 검증과 장애 원인 식별, 복구 역량을 강화할 수 있도록 지원합니다.
Aleria, Cassava, CoreWeave, Crusoe, Firmus, Firebird, G42, GMI Cloud, IREN, Lambda, Nebius, Nscale, Radiant, Sharon AI, Volta 등 클라우드 파트너들은 인프라 수명주기 관리를 자동화하고 복원력과 신뢰성을 높이기 위해 최신 NVIDIA DSX OS 구성 요소 활용을 검토하고 있습니다.
유럽 AI 팩토리 생태계 전반의 설계·전력·냉각 연결
NVIDIA의 산업용 소프트웨어, 전력, 냉각 파트너들은 시설 인프라와 가속 컴퓨팅을 연결하는 DSX 레퍼런스 설계, 수명주기 디지털 트윈, 검증된 장비를 통해 유럽의 AI 팩토리 구축을 가속하고 있습니다.
- Schneider Electric은 NVIDIA Vera Rubin 인프라를 위한 전력냉각 레퍼런스 설계를 개발했으며, AVEVA와 함께 인프라 설계·시공·운영 전반을 아우르는 디지털 트윈을 개발하고 있습니다.
- Procore는 DSX Sim과 통합된 건설 관리 플랫폼을 통해 AI 팩토리 구축 관리를 지원하고 있습니다.
- Siemens는 DSX Sim을 활용해 전력, 냉각, 음향을 시뮬레이션하고 있으며, Dassault Systèmes과 Vertiv는 Vertiv OneCore 인프라의 디지털 트윈 모델을 개발해 모델 기반 시스템 엔지니어링을 통한 시뮬레이션과 최적화를 지원하고 있습니다.
- ABB는 NVIDIA DSX Sim을 활용해 SimReady 에셋을 개발하고 있으며, 이를 통해 엔지니어가 실제 시공 전에 전력원부터 랙까지의 아키텍처를 평가할 수 있도록 합니다. 또한 새롭게 발표한 Infinitus Direct Current 포트폴리오를 통해 800V DC 기술 개발을 가속화하고 있습니다.
파트너들은 DSX 레퍼런스 설계에 맞춘 통합 전력·냉각 인프라도 제공하고 있는데요. 최근 Trane Technologies와 Eaton은 NVIDIA와 협력해 데이터센터 효율성을 높이고 설치 비용을 절감하기 위한 통합 설계를 개발했습니다. NVIDIA Vera Rubin DSX AI 팩토리 레퍼런스 설계를 기반으로 하는 이 솔루션은 Eaton의 Beam 플랫폼 및 전력 인프라와 Trane Continuum 냉각 시스템, 통합 제어 기술을 결합해 전력망부터 칩까지 아우르는 통합 아키텍처를 구현합니다.
Trane Technologies는 대규모 열 관리 인프라 구축 계획을 지원하기 위해 250MW 규모의 DSX 기반 냉각 레퍼런스 설계 3종을 포함해 총 7종의 열 관리 시스템 레퍼런스 설계를 공개했습니다.
NVIDIA DSX Ready 프로그램을 통해 구축 사업자는 각 DSX 카테고리에서 검증된 장비를 선택할 수 있습니다. 냉각수 분배 장치인 Trane Technologies의 LiquidStack GigaModular와 Vertiv의 2.3메가와트 CoolChip은 각각 해당 카테고리의 인증을 획득했으며, Hitachi Energy의 배터리 에너지 저장 시스템은 NVIDIA DSX Ready BESS 인증을 획득했습니다.
에너지 공급과 전력망 통합 측면에서는 GE Vernova, Hitachi Energy, Siemens Energy가 NVIDIA와 협력해 시설 요구사항을 기반으로 에너지 시스템 엔지니어링과 전력망 계획을 연결하는 전력 인프라 및 디지털 트윈 프로젝트를 추진하고 있습니다. Hitachi Energy는 전력망, 발전, 저장 자원과 워크로드 수요를 조율하기 위해 자사 에너지 관리 시스템과 DSX Flex를 통합하는 기술을 개발하고 있습니다.
여기에서 NVIDIA 젠슨 황 CEO의 GTC 베를린 키노트를 시청하고, 여기에서 관련 세션을 확인할 수 있습니다.