NVIDIA 창립자 겸 CEO 젠슨 황(Jensen Huang)은 수조 달러 규모의 산업을 혁신하고 이 시대의 “대과제” 해결을 약속하며, 인텔리전스가 산업 규모로 생성되고 실제와 가상 세계로 통합되는 시대에 대한 비전을 공유했습니다.
NVIDIA GTC를 시작하면서 젠슨 황은 새로운 Hopper GPU 아키텍처와 새로운 H100 GPU, 새로운 AI 가속화 컴퓨팅 소프트웨어, 강력한 신규 데이터센터 규모 시스템을 포함한 신제품 칩을 소개했습니다.
젠슨 황은 “기업들이 데이터를 처리, 정제하고, AI 소프트웨어를 만들고, 인텔리전스 제조업체가 되고 있습니다”라며 실시간 3D 협업, 시뮬레이션 플랫폼인 NVIDIA Omniverse의 가상 환경에서 AI가 어떻게 “모든 방향에서 도약하고 있는지”에 대해 설명했죠.
그리고 이 모든 것들은 Omniverse에 의해 통합되어, 사람과 AI 간의 협업을 가속화하고 현실 세계를 더 잘 모델링하고 이해하며 새로운 종류의 로봇인 “차세대 AI”를 위한 시험장 역할을 할 것입니다.
젠슨 황은 최고의 개발자, 과학자, 연구원들이 한데 모인 세계에서 가장 중요한 AI 컨퍼런스 중 하나가 된 GTC에서 자신의 비전을 공유했는데요.
이번 컨퍼런스에는 아메리칸 익스프레스(American Express), 도어대시(DoorDash), 링크드인(LinkedIn), 핀터레스트(Pinterest), 세일즈포스(Salesforce), 서비스나우(ServiceNow), 스냅(Snap), 비자(Visa)와 같은 기업에서 온 1,600명 이상의 연사와 200,000명의 등록된 참석자가 모였습니다.
젠슨 황의 프레젠테이션은 최첨단 로보틱스 프로젝트를 수행하는 연구실을 포함해 Omniverse에서 렌더링된 NVIDIA의 새 캠퍼스의 멋진 플라이스루 영상으로 시작됐습니다.
젠슨 황은 NVIDIA가 어떻게 더 광범위한 에코시스템과 협력하여 헬스케어와 약물 발견을 발전시키고 심지어 지구 환경 보호를 도우면서 생명을 구하고 있는지를 공유했는데요.
젠슨 황은 “과학자들은 지역 기후 변화를 효과적으로 시뮬레이션하려면 현재보다 10억 배 더 큰 슈퍼컴퓨터가 필요하다고 예측합니다”라고 말했습니다.
이어 “NVIDIA는 세계 최초의 AI 디지털 트윈 슈퍼컴퓨터인 Earth-2로 이 거대한 도전을 해결하고, 더 늦기 전에 10억 배의 성능을 제공하기 위해 새로운 AI와 컴퓨팅 기술을 발명할 것”이라고 말했습니다.
새로운 실리콘 칩 NVIDIA H100: “세계 AI 인프라의 새로운 엔진“
이렇게 야심 찬 노력의 일환으로, 젠슨 황은 Hopper 아키텍처를 기반으로 한 NVIDIA H100을 “세계 AI 인프라의 새로운 엔진”으로 소개했습니다.
젠슨 황은 스피치, 대화, 고객 서비스, 추천자와 같은 AI 애플리케이션이 데이터센터 설계의 근본적인 변화를 주도하고 있다고 말했습니다.
그리고 “AI 데이터센터는 AI 모델을 훈련하고 개선하기 위해 엄청난 양의 연속 데이터를 처리합니다. 원시 데이터가 들어오고 정제되고 인텔리전스를 추출합니다. 기업들은 인텔리전스를 제조하는 거대한 AI 공장을 운영하고 있습니다”라고 말했습니다.
젠슨 황은 AI 공장은 24시간 365일 가동되고 있다며, 약간의 품질 개선으로도 고객 참여와 회사 수익이 크게 증가한다고 설명합니다.
H100은 이러한 공장 가동 가속화에 도움이 될 것입니다. 무려 800억 개의 트랜지스터가 탑재된 칩으로 TSMC의 4N 프로세스를 사용하죠.
젠슨 황은 ” A100보다 9배 높은 대규모 훈련 성능과 30배 높은 대규모 언어 모델 추론 처리량을 자랑하는 Hopper H100은 역대 최대의 세대 도약을 이룬 제품입니다”라고 말했습니다.
Hopper는 정확성을 잃지 않고 네트워크 속도를 6배 높일 수 있는 새로운 트랜스포머 엔진을 비롯한 기술 혁신으로 가득 차 있습니다.
젠슨 황은 “트랜스포머 모델 훈련을 몇 주에서 며칠로 단축할 수 있습니다”라고 말했습니다.
젠슨 황은 H100이 현재 생산 중이며, 3분기에 출시될 예정이라고 말했습니다.
또한 젠슨 황은 고성능 컴퓨팅을 위한 NVIDIA 최초의 개별 데이터센터 CPU인 Grace CPU Superchip을 발표했는데요.
젠슨 황은 초당 900기가바이트의 NVLink 칩 투 칩 인터커넥트를 통해 연결된 두 개의 CPU 칩으로 초당 1테라바이트의 메모리 대역폭을 가진 144코어 CPU를 만들었다고 설명했습니다.
젠슨 황은 “Grace는 전 세계 AI 인프라에 이상적인 CPU입니다”라고 강조했습니다.
젠슨 황은 또한 새로운Hopper GPU 기반 AI 슈퍼컴퓨터인 DGX H100, H100 DGX POD, DGX SuperPOD도 발표했습니다.
모든 것을 연결하기 위해서, NVIDIA의 새로운 NVLink 고속 인터커넥트 기술이 CPU, GPU, DPU, SOC와 같은 미래의 모든 NVIDIA 칩에 적용될 것이라고 젠슨 황은 말했습니다.
또한 NVIDIA는 고객과 파트너가 컴패니언 칩(companion chip)을 구축할 수 있도록 NVLink를 제공할 것이라고 밝혔는데요.
젠슨 황은 “NVLink는 고객이 NVIDIA의 플랫폼과 에코시스템을 활용하는 세미 커스텀 칩과 시스템을 구축할 수 있는 새로운 기회의 세계를 열어줄 것”이라고 말했습니다.
새로운 소프트웨어 — AI가 소프트웨어를 “근본적으로 변화“시키고 있습니다
젠슨 황은 가속 컴퓨팅으로 가속화된 AI의 발전이 “놀랍다”고 표현했는데요.
젠슨 황은 “AI는 소프트웨어가 만들 수 있는 것과 소프트웨어를 만드는 방법을 근본적으로 변화시켰습니다”라고 말했습니다.
그는 트랜스포머가 자기 지도 학습을 시작했으며 인간이 레이블한 데이터의 필요성을 해소하고 있다고 설명했습니다. 그 결과 트랜스포머는 점점 더 다양한 분야에서 활용되고 있는데요.
젠슨 황은 “트랜스포머는 자기 지도 학습을 가능하게 했고 AI 성능은 전속력으로 뛰어올랐습니다”고 말했죠.
언어 이해를 위한 Google BERT, 신약 개발을 위한 NVIDIA MegaMolBART, DeepMind AlphaFold2는 모두 트랜스포머에서 유래한 혁신이라고 젠슨 황은 말했습니다.
젠슨 황은 자연어 이해, 물리학, 창의적인 디자인, 캐릭터 애니메이션, 심지어 NVCell을 사용하는 칩 레이아웃을 위한 새로운 딥 러닝 모델을 소개했는데요.
젠슨 황은 “AI는 새로운 아키텍처, 새로운 학습 전략, 더 크고 강력한 모델, 새로운 과학, 새로운 애플리케이션, 새로운 산업 등 모든 방향에서 동시에 도약하고 있습니다”라고 말했습니다.
NVIDIA는 AI의 새로운 혁신을 가속화하고 모든 산업에 AI와 머신 러닝의 채택을 가속화하기 위해 “전력을 다하고 있다”고 젠슨 황은 말했습니다.
젠슨 황은 Triton Inference Server, 대규모 언어 모델 교육을 위한 NeMo Megatron 0.9 프레임워크, 오디오와 비디오 품질 향상을 위한 Maxine 프레임워크를 포함해 NVIDIA AI 플랫폼에 대한 주요 업데이트가 진행 중이라고 말했는데요.
이 플랫폼에는 NVIDIA가 최적화와 인증을 완료하고 현재 모든 주요 데이터센터와 클라우드 플랫폼에서 지원되는 엔드 투 엔드 클라우드 네이티브 AI, 데이터 분석 도구와 프레임워크 제품군인 NVIDIA AI Enterprise 2.0이 포함됩니다.
젠슨 황은 “이번 GTC에서 우리는 60개의 SDK를 업데이트했습니다. 3백만 명의 개발자, 과학자, AI 연구원, 수만 개의 스타트업과 기업을 위해 여러분이 사용하는 동일한 NVIDIA 시스템이 더욱 빨라졌습니다”라고 말했습니다.
NVIDIA AI 소프트웨어와 가속 컴퓨팅 SDK는 현재 세계 최고의 기업 중 일부가 사용하고 있습니다.
- 마이크로소프트 번역기(Microsoft Translator)는 NVIDIA Triton이 제공하는 실시간 번역 기능으로 글로벌 커뮤니케이션을 가속화합니다.
- AT&T는 수조 개의 기록을 더 쉽게 처리할 수 있도록 돕는 NVIDIA RAPIDS 소프트웨어로 데이터 사이언스 팀 업무를 가속화합니다.
젠슨 황은 “NVIDIA SDK는 헬스케어, 에너지, 운송, 소매, 금융, 미디어, 엔터테인먼트에 서비스를 제공하고 있습니다”라고 말했습니다.
‘차세대 진화‘: 가상 세계를 위한 Omniverse
반세기 전, 아폴로 13호 달 탐사선은 문제에 봉착했습니다. 비행사들을 구하기 위해 NASA 엔지니어들이 지구에서 “문제를 해결하기 위한” 비행사 캡슐 모델을 만들었다고 젠슨 황은 말했죠.
젠슨 황은 “광범위한 규모로 확장된 디지털 트윈은 물리적 세계와 연결된 가상 세계입니다. 그리고 인터넷의 맥락에서 이는 차세대 진화입니다”라고 말했습니다.
디지털 트윈 구축을 위한 NVIDIA Omniverse 소프트웨어와 새로운 데이터센터 규모 NVIDIA OVX 시스템은 “행동 지향 AI”에 필수적입니다.
젠슨 황은 Omniverse의 새로운 릴리스와 업데이트를 발표하면서, “Omniverse는 우리 로보틱스 플랫폼의 핵심입니다. NASA, 아마존(Amazon)과 마찬가지로, 로보틱스와 산업 자동화 분야의 고객들과 NVIDIA는 디지털 트윈과 Omniverse의 중요성을 인식하고 있습니다”라고 말했습니다.
OVX는 동일한 시공간에서 작동하는 여러 자율 시스템을 사용하는 대규모 시뮬레이션을 위해 Omniverse 디지털 트윈을 실행할 것이라고 젠슨 황은 설명했습니다.
젠슨 황은 NVIDIA Spectrum-4 고성능 데이터 네트워킹 인프라 플랫폼을 발표하면서 OVX의 백본은 네트워킹 패브릭이라고 말했습니다.
세계 최초의 400Gbps 엔드 투 엔드 네트워킹 플랫폼인 NVIDIA Spectrum-4는 Spectrum-4 스위치 제품군, NVIDIA ConnectX-7 SmartNIC, NVIDIA BlueField-3 DPU, NVIDIA DOCA 데이터센터 인프라 소프트웨어로 구성됩니다.
그리고 더 많은 사용자가 Omniverse에 액세스할 수 있도록 Omniverse Cloud도 발표됐습니다. 이제 몇 번의 클릭만으로 공동 작업자가 클라우드의 Omniverse를 통해 연결할 수 있습니다.
젠슨 황은 가상 세계를 구축하기 위해 협업하는 4명의 디자이너(그중 한 명은 AI)의 데모를 통해 작동 방법을 보여줬습니다.
또한 아마존이 Omniverse Enterprise를 사용하여 “풀필먼트 센터 운영을 설계하고 최적화하는 놀라운 방법”도 소개했죠.
젠슨 황은 “현대의 풀필먼트 센터는 놀라운 기술력으로 인간과 로봇이 함께 작업하는 시설로 진화하고 있습니다”라고 말했습니다.
‘차세대 AI’: 로봇과 자율주행 자동차
젠슨 황은 새로운 실리콘 칩, 새로운 소프트웨어, 새로운 시뮬레이션 기능은 로봇이 “개발, 계획, 행동할 수 있는 차세대 AI 시대”를 가져올 것이라고 예측했습니다.
NVIDIA Avatar, DRIVE, Metropolis, Isaac, Holoscan은 “4대 요소”인 실측 데이터 생성, AI 모델 교육, 로봇 스택, Omniverse 디지털 트윈을 중심으로 엔드 투 엔드와 풀스택으로 구축된 로보틱스 플랫폼이라고 젠슨 황은 설명했습니다.
젠슨 황은 NVIDIA DRIVE 자율주행 자동차 시스템은 본질적으로 “AI 운전기사”라고 말했는데요.
NVIDIA DRIVE가 구축된 NVIDIA의 자율주행 자동차용 하드웨어 아키텍처인 Hyperion 8은 360도 카메라, 레이더, 라이더, 초음파 센서 제품군을 통해 완전 자율주행을 구현할 수 있습니다.
젠슨 황은 Hyperion 8이 2024년부터 메르세데스-벤츠(Mercedes-Benz) 차량에 탑재될 예정이며, 2025년에는 재규어 랜드로버(Jaguar Land Rover)에 탑재될 것이라고 말했습니다.
젠슨 황은 차세대 EV, 로보택시, 셔틀, 자동차의 엔진 역할을 하는 중앙 집중식 AV, AI 컴퓨터인 NVIDIA Orin의 출하가 이번 달에 시작됐다고 발표했습니다.
또한 젠슨 황은 2026년 출시 예정으로, 현재의 DRIVE Orin 기반 아키텍처보다 두 배 더 높은 성능을 제공하는 신형 DRIVE Atlan SoC를 탑재한 Hyperion 9를 발표했습니다.
젠슨 황은 세계 2위의 EV 제조업체인 BYD가 2023년 상반기에 생산을 시작하는 자동차에 DRIVE Orin 컴퓨터를 도입할 것이라고 발표했습니다.
또한 루시드 모터스(Lucid Motors)는 자사의 DreamDrive Pro 고급 드라이버 지원 시스템이 NVIDIA DRIVE를 기반으로 구축됐다고 밝혔습니다.
전체적으로 NVIDIA의 자동차 파이프라인은 향후 6년간 110억 달러 이상으로 증가했습니다.
Clara Holoscan은 RF 초음파, 4K 수술 영상, 높은 처리량의 카메라와 레이저와 같은 의료 기기와 실시간 센서를 지원하는 작업에 DRIVE에 사용되는 실시간 컴퓨팅 근육의 상당 부분을 투입합니다.
젠슨 황은 Holoscan이 라이트 시트 현미경으로 이미지를 가속하는 영상을 보여주었는데, 이는 세포들이 움직이고 분열하는 “영화”를 만들어 냈죠.
이러한 의료 기기가 한 시간 내에 생성하는 3TB의 데이터를 처리하려면, 일반적으로 하루가 꼬박 소요됩니다.
그러나 UC 버클리 대학의 고급 바이오 이미징 센터(Advanced Bio Imaging Center)에서는 Holoscan을 사용하는 연구원들이 실시간으로 데이터를 처리할 수 있어, 실험이 진행되는 동안 현미경의 초점을 자동으로 맞출 수 있습니다.
Holoscan 개발 플랫폼은 현재 얼리 액세스 고객을 위해 제공되며, 일반 출시는 5월에, 의료 등급 출시는 2023년 1분기로 계획돼 있습니다.
NVIDIA는 또한 제조, 소매, 헬스케어, 농업, 건설, 공항, 도시 전체를 위한 로봇을 제작하고 있는 수천 명의 고객과 개발자들과 협력하고 있다고 밝혔습니다.
NVIDIA의 로보틱스 플랫폼은 Metropolis와 Isaac으로 구성되어 있는데요. Metropolis는 움직이는 물체를 추적하는 고정형 로봇이고, Isaac은 움직이는 물체를 추적하는 플랫폼이라고 젠슨 황은 설명했습니다.
로봇이 공장이나 창고와 같은 실내 공간을 탐색할 수 있도록 지원하기 위해 NVIDIA는 이동형 자율 로봇 개발, 구현을 가속화하는 최첨단 컴퓨팅, 센서 참조 플랫폼인Jetson AGX Orin을 기반으로 하는Isaac Nova Orin을 발표했습니다.
젠슨 황은 영상을 통해 펩시코(PepsiCo)가 어떻게 Metropolis와 Omniverse 디지털 트윈을 함께 사용하고 있는지를 보여주었습니다.
4개 계층, 5가지 다이내믹
젠슨 황은 모든 기술, 제품 발표, 데모를 NVIDIA가 차세대 컴퓨팅을 어떻게 추진할 것인지에 대한 비전으로 다시 연결하면서 마무리했는데요.
NVIDIA는 하드웨어, 시스템 소프트웨어와 라이브러리, 소프트웨어 플랫폼(NVIDIA HPC, NVIDIA AI, NVIDIA Omniverse), AI와 로보틱스 애플리케이션 프레임워크의 4개 계층 스택에 걸쳐 신제품을 발표했습니다.
젠슨 황은 또한 업계를 형성하는 5가지 다이내믹, 즉 컴퓨팅 속도 백만 배 향상, 트랜스포머 성능을 높이는 AI, 로보틱스 시스템에 대한 수요가 기하급수적으로 증가하고 있는 AI 공장이 되는 데이터센터, 차세대 AI 시대를 위한 디지털 트윈을 살펴봤습니다.
젠슨 황은 “NVIDIA는 풀스택과 데이터센터 규모 가속화를 통해 향후 10년 내에 또 다른 백만 배 도약을 목표로 노력할 것입니다. 다음 백만 배의 성능 향상이 어떤 결과를 가져올지 무척 기대됩니다”라고 말했습니다.
마지막으로 젠슨 황은 Omniverse가 “오늘 보여준 모든 렌더링과 시뮬레이션”을 생성했다는 점을 강조하면서, NVIDIA의 크리에이티브 팀이 제작한 멋진 영상을 통해 시청자를 “Omniverse로의 여행”으로 또 한 번 초대했는데요. 영상에는 NVIDIA 캠퍼스에서 벌어지는 환상적인 뮤지컬 재즈곡 연주와 함께 젠슨 황의 디지털 아바타인 토이 젠슨(Toy Jensen)이 카메오로 등장했습니다.