새로운 NVIDIA NVLink Fusion™을 소개합니다. 이 새로운 실리콘 기술은 전 세계적으로 가장 발전된 컴퓨팅 패브릭인 NVIDIA NVLink™ 생태계를 기반으로 산업계가 세미 커스텀(semi-custom) AI 인프라를 구축할 수 있도록 지원하게 되는데요,
미디어텍(MediaTek), 마벨(Marvell), 알칩 테크놀로지(Alchip Technologies), 아스테라 랩스(Astera Labs), 시놉시스(Synopsys), 케이던스(Cadence)는 NVLink Fusion을 최초로 채택한 기업들입니다. 이들은 맞춤형 실리콘 확장을 통해 모델 훈련과 에이전틱 AI 추론을 위한 까다로운 워크로드 요구 사항을 충족할 수 있습니다. 또한, NVLink Fusion을 통해 후지쯔(Fujitsu)와 퀄컴 테크놀로지스(Qualcomm Technologies)의 CPU를 NVIDIA GPU와 통합하고 고성능 NVIDIA AI 팩토리를 구축할 수 있습니다.
NVIDIA 젠슨 황 CEO는 “수십 년 만에 데이터센터를 근본적으로 재설계해야 하는 지각변동이 일어나고 있습니다. 모든 컴퓨팅 플랫폼에 AI가 융합되고 있습니다. NVLINK Fusion은 NVIDIA의 AI 플랫폼과 풍부한 생태계를 파트너사에 개방해 맞춤형 AI 인프라 구축을 가능하게 합니다”라고 NVLink Fusion를 소개했는데요,
NVLink Fusion은 클라우드 제공업체에 AI 팩토리를 수백만 개의 GPU로 손쉽게 확장할 수 있는 경로를 제공합니다. 특히 이는 ASIC, NVIDIA의 랙 스케일 시스템, NVIDIA 엔드-투-엔드 네트워킹 플랫폼을 통해 실현되는데요. 이 네트워킹 플랫폼은 최대 800Gb/s의 처리량을 제공하며, NVIDIA ConnectXⓇ-8SuperNIC, NVIDIA Spectrum-X 이더넷, NVIDIA Quantum-X800 InfiniBand 스위치를 지원합니다. 또한, 공동 패키징 광학(co-packaged optics, CPO)도 제공할 예정입니다.
상호 연결된 기술 생태계
하이퍼스케일러는 NVLink Fusion을 활용해 NVIDIA 파트너 생태계와 협력하고, 데이터센터 인프라에 NVIDIA 랙 스케일 솔루션을 통합해 원활한 배포를 지원합니다.
NVIDIA NVLINK Fusion을 이용해 배포 가능한 맞춤형 AI 컴퓨팅을 구축하는 AI 칩 제조 파트너로는 미디어텍, 마벨, 알칩, 아스테라 랩스, 시놉시스, 케이던스 등이 있습니다.
미디어텍 부회장 겸 CEO인 Rick Tsai는 “저희세계 최고 수준의 ASIC 설계 서비스와 고속 인터커넥트 분야에서의 깊은 전문성을 바탕으로 NVIDIA와 협력해 차세대 AI 인프라를 구축하고 있습니다. 자동차 부문에서 시작된 양사의 협력은 이제 더욱 확장됐죠. 이러한 협력으로 빠르게 진화하는 클라우드 규모의 AI 요구사항을 충족하는 확장 가능하고, 효율적이며, 유연한 기술을 제공할 수 있게 됐습니다”고 소감을 밝혔습니다.
마벨 회장 겸 CEO인 Matt Murphy는 “마벨은 NVIDIA와 협력해 AI 팩토리 통합의 가능성을 재정의하고 있습니다. NVLink Fusion이 적용된 마벨의 맞춤형 실리콘은 고객에게 고급 AI 인프라를 구축할 수 있는 고성능의 유연한 기반을 제공합니다. 따라서 차세대 조 단위 파라미터 AI 모델에 필요한 고대역폭, 안정성, 민첩성을 제공합니다”고 밝혔습니다.
알칩 CEO인 Johnny Shen은 “알칩은 고급 공정, 검증된 패키징, 그리고 ASIC 산업에서 가장 유연한 협업 방식을 포함한 설계와 제조 생태계를 통해 NVLink Fusion의 가용성을 확대하고, 그 채택을 지원하고 있습니다. 우리는 차세대 AI 모델을 효율적으로 훈련하고 배포해, 미래 지능형 애플리케이션의 요구 사항을 충족하는 데 기여하고 있습니다”라고 말했습니다.
아스테라 랩스 CEO인 Jitendra Mohan은 “NVIDIA와의 오랜 협력을 바탕으로 NVLink Fusion 생태계를 위한 전용 연결 솔루션을 추가하게 되어 매우 기쁩니다. 메모리 시맨틱을 기본적으로 지원하는 저지연, 고대역폭 스케일업 인터커넥트는 AI 서버 활용률과 성능을 극대화하는 데 매우 중요하죠. NVLink 솔루션으로 스케일업 연결 포트폴리오를 확장함으로써, 하이퍼스케일러와 엔터프라이즈 AI 고객에게 더 많은 옵션을 제공하고 시장 출시 시간을 단축할 수 있게 되었습니다”라고 말했습니다.
시놉시스 회장 겸 CEO인 Sassine Ghazi는 “데이터센터는 AI 팩토리로 전환되고 있습니다. 업계를 선도하는 시놉시스의 AI 칩 설계 솔루션과 표준 기반 인터페이스 IP는 이를 가능하게 하는 핵심 요소입니다. 저희는 NVIDIA NVLink Fusion에 대한 지원으로 차세대 AI와 고성능 컴퓨팅을 위한 개방적이고 확장 가능한 생태계를 육성하고 있습니다”고 이번 협업에 대해 설명했습니다.
케이던스의 실리콘 솔루션 그룹(Silicon Solutions Group) 수석 부사장 겸 총괄 매니저인 Boyd Phelps는 “HPC, AI 워크로드 수요는 독특하고 빠르게 진화하고 있습니다. 최첨단 맞춤형 AI 시스템을 설계하는 하이퍼스케일러는 데이터센터에서 엣지까지 구현 가능한 기술을 제공하기 위해 케이던스의 기술에 의존하고 있죠. 설계 IP, 칩렛 인프라, 서브시스템, 기타 핵심 IP를 포함한 저희의 포괄적인 IP 포트폴리오는 NVIDIA NVLink 생태계를 보완합니다. 이를 통해 보다 강력하고 에너지 효율적이며 대규모 생산이 가능한 AI 팩토리의 제공을 가속화합니다”고 말했습니다.
이 뿐만 아니라 후지쯔, 퀄컴 테크놀로지스와 같은 AI 혁신 기업은 NVLink Fusion을 통해 각자의 맞춤형 CPU와 NVIDIA GPU를 랙 스케일 아키텍처에 결합해 AI 성능을 향상시키게 되었습니다.
후지쯔 CTO인 Vivek Mahajan은 “후지쯔의 첨단 CPU 기술과 NVIDIA의 풀스택 AI 인프라를 결합하면 새로운 차원의 성능을 제공할 수 있습니다. 후지쯔의 차세대 프로세서인 후지쯔-모나카(FUJITSU-MONAKA)는 극한의 전력 효율을 목표로 하는 2나노미터 Arm 기반 CPU입니다. 저희의 기술을 NVIDIA의 아키텍처에 직접 연결하는 것은 세계 최고 수준의 컴퓨팅 기술을 통해 AI의 진화를 주도하겠다는 저희의 비전을 실현하는 중요한 진전입니다. 동시에 확장 가능하고 자주적이며, 지속 가능한 새로운 종류의 AI 시스템을 위한 길을 열었습니다”고 말했습니다.
퀄컴 테크놀로지스 회장 겸 CEO인 Christiano Amon은 “퀄컴 테크놀로지스의 첨단 맞춤형 CPU 기술과 NVIDIA의 풀스택 AI 플랫폼은 데이터센터 인프라에 강력하고 효율적인 인텔리전스를 제공합니다. 맞춤형 프로세서를 NVIDIA의 랙 스케일 아키텍처에 연결할 수 있게 됨으로써, 저희의 미션인 고성능, 에너지 효율적 컴퓨팅을 데이터센터로 확장하고 있습니다”고 밝혔습니다.
업계에서 검증된 규모, NVIDIA NVLink
AI 팩토리의 처리량과 성능을 가장 전력 효율적인 방식으로 극대화하기 위해, 5세대 NVIDIA NVLink 플랫폼에는 NVIDIA GB200 NVL72와 GB300 NVL72를 포함되어 있는데요, 이들 시스템은 GPU당 총 1.8TB/s의 대역폭을 제공하는 고밀도 컴퓨팅 랙을 지원하며, 이는 5세대 PCIe보다 14배 빠른 속도입니다.
선도적인 하이퍼스케일러들은 이미 NVIDIA NVLink 풀랙 솔루션 배포에 나서고 있는데요, NVLink Fusion을 통해 이질적인 실리콘 데이터센터를 NVIDIA 랙 아키텍처로 표준화해 가용성 확보까지 걸리는 시간을 단축할 수 있습니다.
AI 팩토리를 위해 제작된 소프트웨어
NVIDIA NVLink Fusion과 연결된 AI 팩토리는 NVIDIA Mission Control™에 의해 구동됩니다. 이는 AI 데이터센터와 워크로드의 복잡한 관리를 자동화하는 통합 운영, 오케스트레이션 소프트웨어 플랫폼이죠.
NVIDIA Mission Control은 배포 구성부터 인프라 검증, 중요한 워크로드의 오케스트레이션까지 AI 팩토리 운영의 모든 측면을 개선하게 되는데, 이를 통해 기업이 프론티어 모델을 더 빠르게 가동하고 실행할 수 있도록 지원할 수 있게 되었습니다.
지금 이용하기
NVIDIA NVLink Fusion 실리콘 설계 서비스와 솔루션은 현재 미디어텍, 마벨, 알칩, 아스테라 랩스, 시놉시스, 케이던스를 통해 이용할 수 있습니다.
보다 자세한 발표 내용은 젠슨 황 CEO의 Computex 키노트와 NVIDIA GTC Taipei 2025 세션을 통해 확인하세요.