NVIDIA, GPU 수백만 개 규모 AI 팩토리의 가능성을 열다

NVIDIA Spectrum™-X와 NVIDIA Quantum-X 실리콘 포토닉스 네트워킹 스위치를 공개합니다. 이를 통해 에너지 소비와 운영 비용을 대폭 절감하는 동시에 AI 팩토리는 수백만 개의 GPU를 연결할 수 있습니다. 이로써 NVIDIA는 전자 회로와 광통신 기술을 대규모 융합하는 데 성공했습니다.

AI 팩토리가 전례 없는 규모로 성장함에 따라, 이에 맞는 네트워크의 발전도 요구되고 있습니다. NVIDIA 포토닉스 스위치는 세계에서 가장 발전된 네트워킹 솔루션으로, 광학 기술과 기존 대비 4배 적은 레이저를 통합합니다. 3.5배 높은 전력 효율성을 지원하며, 63배 뛰어난 신호 무결성, 10배 개선된 대규모 네트워크 복원력, 1.3배 빠른 배포 속도를 제공합니다.

NVIDIA 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “AI 팩토리는 엄청난 규모의 데이터 처리 능력을 요구하는 새로운 형태의 데이터센터이며, 이에 맞춰 네트워킹 인프라도 혁신적으로 변화해야 합니다. NVIDIA는 실리콘 포토닉스를 스위치에 직접 통합함으로써 하이퍼스케일과 기업 네트워크가 지닌 기존 한계를 극복하고, GPU 수백만 개 규모의 AI 팩토리의 가능성을 열었습니다”고 말했습니다.

NVIDIA 실리콘 포토닉스 네트워킹 스위치는 NVIDIA Spectrum-X Photonics 이더넷과 NVIDIA Quantum-X Photonics InfiniBand 플랫폼의 일부로 제공됩니다.

Spectrum-X 이더넷 네트워킹 플랫폼은 기존 이더넷에 비해 우수한 성능과 1.6배 향상된 대역폭 밀도를 제공합니다. 이는 세계에서 가장 큰 슈퍼컴퓨터를 포함한 멀티테넌트, 하이퍼스케일 AI 팩토리 환경에서 사용되죠.

NVIDIA Spectrum-X 포토닉스 스위치는 총 대역폭 100Tb/s를 제공하는 800Gb/s 128포트 또는 200Gb/s 512포트와 총 처리량 400Tb/s를 제공하는 800Gb/s 512포트 또는 200Gb/s 2,048포트 등 다양한 구성을 포함합니다.

NVIDIA Quantum-X 포토닉스 스위치는 200Gb/s 서데스(SerDes)를 기반으로 800Gb/s InfiniBand 144포트를 제공하며, 수냉식 설계를 사용해 온보드 실리콘 포토닉스를 효율적으로 냉각합니다. NVIDIA Quantum-X 포토닉스 스위치는 AI 컴퓨팅 패브릭에 이전 세대에 비해 2배 빠른 속도와 5배 높은 확장성을 제공합니다.

에코시스템 네트워크

NVIDIA의 실리콘 포토닉스 에코시스템에는 TSMC, 브로웨이브(Browave), 코히런트(Coherent), 코닝(Corning Incorporated), 패브리넷(Fabrinet), 폭스콘(Foxconn), 루멘텀(Lumentum), 센코(SENKO), SPIL, 스미토모 전기공업(Sumitomo Electric Industries), TFC 등이 포함됩니다.

TSMC의 회장 겸 CEO인 웨이저자(C.C. Wei)는 “새로운 AI 팩토리 시대에는 차세대 작업 부하 처리에 필요한 규모 달성을 위해 효율성과 최소한의 유지보수가 필요합니다. TSMC의 실리콘 포토닉스 솔루션은 최첨단 칩 제조와 TSMC-SoIC 3D 칩 스태킹 강점을 결합했습니다. 이로써 NVIDIA가 100만 개 이상의 GPU를 갖춘 AI 팩토리 구축을 지원하고 AI의 지평을 넓히도록 도울 수 있을 것”이라고 말했습니다.

NVIDIA 포토닉스는 코히런트, 신역성통신기술(Eoptolink), 패브리넷, 이노라이트(Innolight)와 같은 업계 선도 기업들이 지원하는 플러그형 광 트랜시버 기술과 함께 최신 AI 팩토리의 새로운 물결을 위한 대규모 성장을 이끌 것입니다.