100만 배 속도 향상의 NVIDIA 데이터센터의 ‘완벽한 오케스트레이션’

by NVIDIA Korea

분주한 데이터센터의 윙윙거리는 소리는 AI 개발자에게 마치 음악처럼 들립니다. NVIDIA 데이터센터는 GTC 키노트에서 스윙의 클래식인 “Sing, Sing, Sing”에 맞춰 리듬을 맞췄습니다.

NVIDIA Omniverse 플랫폼으로 제작된 경쾌한 비디오는 전설적인 애비로드 스튜디오(Abbey Road Studios)에서 재녹음된 루이스 프리마(Louis Prima)의 상징적인 음악이 담겨 있는데요. 드럼을 치며 춤추는 데이터센터는 단순히 재미를 위한 것이 아니라, 유례없는 AI 퍼포먼스를 조정하기 위한 NVIDIA 데이터센터 솔루션의 능력을 높이 평가하고 있는 것이라고 볼 수 있죠.

최첨단 AI는 세계에서 가장 큰 어려움에 도전하고 있지만 이를 위해선 수천 개의 하드웨어와 소프트웨어 컴포넌트가 완벽하게 조화를 이루는 최첨단 데이터센터가 필요합니다.

GTC에서 NVIDIA는 비즈니스, 연구, 예술 분야의 차세대 애플리케이션을 가속화하는 최신 데이터센터 기술을 선보였습니다. 이러한 응용 프로그램 컴퓨팅에 대한 증가하는 수요를 따라잡기 위해서는 전체 컴퓨팅 스택에 대한 최적화와 분산 알고리즘, 소프트웨어와 시스템 수준의 혁신이 필요합니다.

무어(Moore)의 법칙에 근거한 컴퓨팅 스택 하단의 성능 향상은 이러한 애플리케이션의 요건을 따라가지 못합니다. 그러나 컴퓨팅 성능이 2년마다 2배 증가할 것으로 예측했던 무어의 법칙은 GPU가 매년 AI 성능을 2배로 끌어올릴 것이라는 황(Huang)의 법칙에 결국 굴복했죠.

실리콘에서 애플리케이션 레벨의 소프트웨어에 이르기까지 컴퓨팅 스택 전체에 걸친 진보는 지난 10년간 가속 컴퓨팅의 속도를 전례 없는 100만 배 수준으로 향상시켰습니다. 이는 고속 GPU, DPU, CPU 뿐만이 아닙니다. 뉴럴 네트워크 모델, 고급 네트워크 테크놀로지 및 분산 소프트웨어 알고리즘에 기반한 컴퓨팅은 모두 지속적으로 증가하는 AI 모델의 요구를 맞추는 데 필요한 데이터센터 혁신에 기여하고 있습니다.

이러한 혁신을 통해 데이터센터는 컴퓨팅의 단일 단위가 됐습니다. NVIDIA Magnum IO 소프트웨어와 GTC에서 공개된 NVIDIA NVLink 스위치 시스템과 같은 새로운 혁신을 통해 수천 대의 서버가 하나로 원활하게 작동하여 고급 AI 인프라를 연결합니다.

완벽하게 조정된 NVIDIA 기반 데이터센터는 현재로서 상상조차 할 수 없는 혁신을 지원할 것입니다.

데이터센터의 디지털 트윈 개발

GTC에서의 공개된 비디오 퍼포먼스는 NVIDIA의 데이터센터를 구축하고 있는 디지털 트윈을 보여줍니다. 이는 NVIDIA 설계자와 엔지니어가 물리 시스템의 업데이트를 발표하기 전에 새로운 구성 또는 소프트웨어 빌드를 테스트하기 위해 사용할 수 있는 물리 슈퍼컴퓨터의 가상 표현입니다.

데이터센터의 디지털 트윈은 지속적인 통합과 제공을 가능하게 할 뿐만 아니라 응답 시간, 자원 사용률, 에너지 소비 등 운영 효율성을 최적화할 수 있습니다.

디지털 트윈은 팀의 장비 고장을 예측하고 취약한 링크를 사전에 교체하며, 적용하기 전에 개선 조치를 테스트할 수 있도록 도움을 줍니다. 또한 특정 기업 사용자들이나 애플리케이션을 위해 데이터센터를 미세 조정할 수 있는 테스트 장소를 제공할 수도 있죠.

산업 및 애플리케이션 전반에 걸쳐 적용할 수 있는 디지털 트윈 기술은 이미 창고 최적화, 기후 시뮬레이션, 스마트 공장 개발재생 에너지 계획을 위한 강력한 도구로 사용되고 있습니다.

NVIDIA의 데이터센터 디지털 트윈에서 NVIDIA DGX Super POD와, BlueField DPUInfiniBand 스위치가 있는 EGX 기반의 NVIDIA-Certified 시스템을 비롯한 주요 기술들을 만나볼 수 있습니다. 또한 이번에 Omniverse Avatar로 구축한 애플리케이션인 Toy Jensen의 특별 출연도 주목할 만할 특징입니다.

이 시각화는 NVIDIA Omniverse에서 개발됐으며, NVIDIA Omniverse는 실시간 세계 시뮬레이션 및 3D 디자인 협업을 위한 플랫폼입니다. Omniverse는 산업 전반에 걸친 크리에이터, 개발자, 엔지니어와 AI를 한데 모아 공유 가상 세계에서 함께 작업함으로써 과학과 예술을 연결합니다.

Omniverse 디지털 트윈은 실제 상대방의 물리학과 물질을 정확하게 시뮬레이션하여 현실에 충실합니다. 이러한 사실성을 통해 Omniverse 사용자는 실제로 적용하기 전에 디지털 공간에서 프로세스, 상호 작용 및 새로운 기술을 테스트할 수 있습니다.

모든 공장, 이웃과 도시는 언젠가 디지털 트윈으로 복제될 수 있는데요. 엣지 컴퓨팅으로 구동되는 연결된 센서를 사용하면, 이러한 샌드박스 환경을 지속적으로 업데이트하여 해당 실세계의 자산 또는 시스템에 대한 변경 사항을 반영할 수 있습니다. 이는 차세대 자율 로봇, 스마트 도시 및 5G 네트워크를 개발하는 데 도움을 줄 수 있습니다.

디지털 트윈은 물리학, 화학, 생물학 등의 법칙을 학습하고 이 정보를 컴퓨팅 두뇌에 저장할 수 있습니다.

마치 수세기 전 왕국이 탐험가를 보내 세계를 여행하고 새로운 지식을 가지고 돌아오도록 한 것처럼, 엣지 센서와 로봇은 오늘날 디지털 트윈 환경을 위한 탐험가라고 할 수 있습니다. 각 센서는 디지털 트윈의 뇌에 새로운 관찰 결과를 가져와 데이터를 통합하고 이를 통해 학습하며 가상 환경 내의 자율 시스템을 업데이트합니다. 이러한 집단 학습은 디지털 트윈을 완벽하게 조정할 것입니다.

3월 24일까지 진행된 GTC에서는 AI, 가속 컴퓨팅 및 가상 세계 시뮬레이션의 최신 혁신에 대해 알아봤습니다. 무료로 등록하고 “데이터센터 성능에서 100만 배의 속도 향상을 달성하는 방법” 세션에서 데이터센터 가속화에 대해 자세히 알아보세요. NVIDIA 설립자 겸 CEO 젠슨 황(Jensen Huang)의 키노트 연설도 아래 영상에서 확인할 수 있습니다.