이제 생성형 AI는 모든 산업에 혁신을 가져올 것이 분명합니다. 이를 가능하게 하는 기술만 있으면 되죠.
NVIDIA의 창립자 겸 CEO인 젠슨 황(Jensen Huang)이 지난 19일 오전 5시(한국 시간) 미국 실리콘밸리 SAP 센터에서 열린 GTC 키노트에서 새로운 Blackwell 컴퓨팅 플랫폼을 비롯해 컴퓨팅 성능 향상이 가져올 기술 발전에 대해 설명했습니다. 강화된 컴퓨팅 성능이 소프트웨어부터 서비스, 로보틱스, 의료 기술에 이르기까지 모든 분야에 놀라운 혁신을 가져올 것이라고 강조했죠.
젠슨 황은 “가속 컴퓨팅은 변곡점에 도달했으며 범용 컴퓨팅은 한계에 다다랐습니다. 우리는 계속해서 컴퓨팅 비용을 낮추면서 지속 가능한 방식으로 더 많은 컴퓨팅을 수행할 수 있도록 끊임없이 확장 가능한 컴퓨팅을 위한 새로운 방법이 필요합니다. 가속 컴퓨팅은 모든 산업에서 범용 컴퓨팅에 비해 획기적인 속도 향상을 가져옵니다”고 말했습니다.
젠슨 황은 테니스 코트 크기의 40피트(약 12미터) 높이 8K 해상도 스크린의 거대한 영상 앞에서 CEO와 개발자, AI 애호가, 창업가들로 가득 찬 관중을 향해 연설했습니다. 많은 관중들은 행사에 참석하기 위해 새너제이 컨벤션 센터에서 SAP센터의 아레나까지 20분 거리를 걸어왔죠. 이날 현장에는 11,000여 명이 참석했으며, 수만 명 이상이 온라인 실시간 생중계를 통해 키노트를 시청했습니다.
젠슨 황은 수조 개의 파라미터로 구성된 거대 언어 모델(LLM)에서 실시간 생성형 AI를 구현해 전 세계 AI 인프라에 대대적인 업그레이드를 제공할 NVIDIA Blackwell 플랫폼을 소개했습니다.
젠슨 황은 이날 NVIDIA 추론 마이크로서비스에 대한 레퍼런스인 NVIDIA NIM을 발표했습니다. 이는 개발자가 모든 종류의 맞춤형 AI를 배포할 수 있도록 수억 개의 GPU와 연결해주는 새로운 소프트웨어 패키징이자 제공 방식입니다.
또한 젠슨 황은 AI를 실제 세계에 접목해 고급 시뮬레이션 기능을 제공하는 Omniverse Cloud API를 소개했습니다.
젠슨 황은 주요 발표와 함께 강력한 데모, 세계 최대 기업들과의 파트너십, 그리고 자신의 비전도 자세히 소개했습니다.
지역 호텔 연회장에서 시작해 15년 만에 세계에서 가장 중요한 AI 콘퍼런스로 성장한 GTC가 5년 만에 첫 오프라인 행사로 돌아왔습니다!
올해 GTC는 트랜스포머의 개념을 처음으로 소개한 8명의 선구자들과 함께 젠슨 황이 진행하는 트랜스포머 관련 패널 토론, 300개 이상의 전시, 20개 이상의 기술 워크샵 등 900개 이상의 세션이 준비돼 있죠.
이번 행사에서는 거의 모든 것이 AI와 교차해 있습니다. 키노트의 오프닝 무대는 세계적인 AI 아티스트인 레픽 아나돌(Refik Anadol)이 준비했습니다. 그는 초록색, 파란색, 노란색, 빨간색의 파도 같은 소용돌이가 화면을 가로질러 충돌하고 뒤틀리고 풀리는 거대한 실시간 AI 데이터 조형물을 선보였죠.
젠슨 황은 키노트를 시작하면서 여러 모델에서 처리 가능하며 다양한 데이터 유형을 처리할 수 있는 멀티모달(multi-modal) AI의 등장으로 AI의 적응력과 성능이 향상됐다고 설명했습니다. 이러한 모델은 매개변수를 늘림으로써 더 복잡한 분석을 처리할 수 있습니다.
하지만 이는 컴퓨팅 성능에 대한 필요성이 크게 증가한다는 의미이기도 합니다. 그리고 이러한 협업형 멀티모달 시스템이 1조 개에 달하는 매개변수로 더욱 복잡해짐에 따라, 고급 컴퓨팅 인프라에 대한 수요도 증가하죠.
젠슨 황은 “우리는 더 큰 모델이 필요합니다. 이러한 모델은 인터넷의 텍스트뿐 아니라 텍스트와 이미지, 그래프와 차트, 그리고 우리가 TV를 보면서 배웠던 것처럼 수많은 영상을 시청하는 멀티모달 데이터로 훈련시킬 것”이라고 말했습니다.
차세대 가속 컴퓨팅
간단히 말해 젠슨 황은 “더 큰 GPU가 필요하다”고 말했습니다. Blackwell 플랫폼은 이 과제를 해결하기 위해 만들어졌습니다. 젠슨 황은 주머니에서 Blackwell 칩을 꺼내 Hopper 칩과 나란히 들어보이자 Hopper가 왜소해 보였습니다.
게임 이론과 통계학을 전공한 미국 캘리포니아 버클리 대학교의 수학자이자 흑인 학자로는 최초로 미국국립과학원에 입회한 David Harold Blackwell의 이름을 딴 이 새로운 아키텍처는 2년 전 출시된 NVIDIA Hopper 아키텍처의 후속작입니다.
Blackwell은 훈련용 FP8에서 칩당 이전 세대 대비 2.5배, 추론용 FP4에서는 5배의 성능을 제공합니다. 이 제품은 Hopper보다 두 배 빠른 5세대 NVLink 인터커넥트를 갖추고 있으며, 최대 576개의 GPU까지 확장할 수 있습니다.
그리고 NVIDIA GB200 Grace Blackwell Superchip은 초당 900 기가바이트(GB) 초저전력 NVLink 칩투칩(chip-to-chip) 인터커넥트를 통해 두 개의 Blackwell NVIDIA B200 Tensor Core GPU를 NVIDIA Grace CPU에 연결합니다.
젠슨 황은 시스템이 탑재된 보드를 들어 보이며 “이 컴퓨터는 이 작은 공간에 이렇게 많은 컴퓨팅이 들어가는 최초의 컴퓨터입니다. 메모리 일관성이 있기 때문에 하나의 애플리케이션에서 함께 작동하는 하나의 행복한 가족과 같습니다”고 말했죠.
최고의 AI 성능을 위해 이날 발표된 GB200 기반 시스템을 최대 800Gb/s의 속도로 고급 네트워킹을 제공하는 NVIDIA Quantum-X800 InfiniBand, Spectrum-X800 Ethernet 플랫폼과 연결할 수 있습니다.
젠슨 황은 “우리가 절약하는 에너지의 양, 절약하는 네트워킹 대역폭의 양, 절약되는 시간의 양은 엄청날 것입니다. 생성형이 바로 미래이기 때문에 이 분야는 완전히 새로운 산업입니다. 우리의 컴퓨팅 방식은 근본적으로 다릅니다. 우리는 생성형 AI 시대를 위한 프로세서를 만들었습니다”고 말했습니다.
NVIDIA는 Blackwell을 확장하기 위해 NVLink Switch라는 새로운 칩을 개발했습니다. 이 칩은 초당 1.8테라바이트(TB) 속도로 4개의 NVLink 인터커넥트를 연결하고, 네트워크 내 감소를 수행해 트래픽을 제거할 수 있습니다.
NVIDIA Switch와 GB200은 젠슨 황이 ‘하나의 거대한 GPU’라고 부른 멀티노드의 수냉식 랙 규모 시스템인 NVIDIA GB200 NVL72의 핵심 구성요소입니다. 이는 Blackwell을 활용해 단일 랙에서 720페타플롭의 AI 훈련 성능과 1.4 엑사플롭의 AI 추론 성능을 제공하는 조 단위 파라미터 모델을 위한 초강력 컴퓨팅을 제공합니다.
젠슨 황은 60만 개의 부품으로 구성돼 있고 무게가 3,000파운드(1,360kg)에 달하는 이 장비에 대해 “엑사플롭 장비는 현재 지구상에 두세 대 정도밖에 없습니다. 그래서 이것은 하나의 랙에 들어 있는 엑사플롭 AI 시스템입니다. 이제 그 뒷면을 살펴봅시다”고 말했는데요.
더 나아가, NVIDIA는 차세대 AI 슈퍼컴퓨터인 NVIDIA GB200 Grace Blackwell Superchip 기반 DGX SuperPOD도 발표했습니다. 이 슈퍼컴퓨터는 수조 개의 파라미터 모델을 처리하고 초거대 생성형 AI 훈련과 추론 워크로드를 위한 지속적인 가동 시간을 보장합니다.
새로운 고효율 수냉식 랙 스케일 아키텍처를 특징으로 하는 새로운 DGX SuperPOD은 NVIDIA DG GB200 시스템으로 구축됐습니다. 또한 FP4 정밀도에서 11.5 엑사플롭의 AI 슈퍼컴퓨팅과 240테라바이트의 고속 메모리를 제공하고, 랙을 추가하면 더 확장할 수 있습니다.
젠슨 황은 “앞으로 데이터센터는 AI 공장으로 여겨질 것입니다. 이들의 목표는 수익을 창출하는 것이며, 이 경우에는 인텔리전스를 창출하는 것”이라고 말했습니다.
업계는 이미 Blackwell을 환영하고 있습니다.
Blackwell 발표 보도자료에 따르면, 알파벳(Alphabet)과 구글(Google) CEO 순다르 피차이(Sundar Pichai), 아마존(Amazon) CEO 앤디 재시(Andy Jassy), 델 테크놀로지스(Dell Technologies) CEO 마이클 델(Michael Dell), 구글 딥마인드(DeepMind) CEO 데미스 허사비스(Demis Hassabis), 메타(Meta) CEO 마크 저커버그(Mark Zuckerberg), 마이크로소프트(Microsoft) CEO 사티아 나델라(Satya Nadella), 오픈AI(Open AI) CEO 샘 알트만(Sam Altman), 오라클(Oracle) 회장 래리 엘리슨(Larry Ellison), 테슬라(Tesla)와 xAI의 CEO 일론 머스크(Elon Musk)가 Blackwell에 대한 지지를 표현했죠.
Blackwell은 모든 주요 글로벌 클라우드 서비스 제공업체, 선도적인 AI 기업, 시스템과 서버 공급업체, 전 세계 지역 클라우드 서비스 제공업체, 통신회사들이 도입할 예정입니다.
젠슨 황은 “업계 전체가 Blackwell을 맞을 준비를 하고 있습니다. Blackwell은 NVIDIA 역사상 가장 성공적인 출시가 될 것”이라고 말했습니다.
소프트웨어를 만드는 새로운 방법
젠슨 황은 생성형 AI가 애플리케이션 작성 방식을 바꾼다고 말했는데요.
그는 기업이 소프트웨어를 작성하는 대신 AI 모델을 조립하고, 미션을 부여하고, 작업 결과물의 예시를 제시하고, 계획과 중간 결과를 검토한다고 설명했습니다.
NVIDIA NIM은 이를 위한 패키지로, NVIDIA의 가속 컴퓨팅 라이브러리와 생성형 AI 모델을 기반으로 구축됐다고 설명했습니다.
젠슨 황은 “미래에는 소프트웨어를 어떻게 구축할까요? 처음부터 새로 작성하거나 파이썬(Python) 코드 같은 것을 작성하는 일은 거의 없을 것입니다. 아마도 AI 팀을 구성할 가능성이 높습니다”고 말했습니다.
마이크로서비스는 업계 표준 API를 지원하므로 쉽게 연결할 수 있고, NVIDIA의 대규모 CUDA 설치 기반에서 작동합니다. 또한, 새로운 GPU에 맞게 다시 최적화되고, 보안 취약점과 노출 여부를 지속적으로 검사합니다.
젠슨 황은 고객이 기성품으로 제공되는 NIM 마이크로서비스를 사용하거나, NVIDIA의 도움으로 자체 AI와 코파일럿을 구축할 수도 있다고 설명했습니다. 코파일럿은 특정 기업만이 알 수 있는 전문 기술을 모델에 학습시켜 가치 있는 새로운 서비스를 만들 수 있죠.
젠슨 황은 “기업용 IT 업계는 금광 위에 앉아 있습니다. 그들은 수년에 걸쳐 구축한 놀라운 툴과 데이터를 모두 보유하고 있습니다. 이 금광을 코파일럿으로 만들 수 있다면, 이는 우리의 업무에 도움을 줄 수 있습니다”고 말했습니다.
주요 기술 기업들은 이미 이를 활용하고 있습니다. 젠슨 황은 코히시티(Cohesity), 넷앱(NetApp), SAP, 서비스나우(ServiceNow), 스노우플레이크(Snowflake)가 코파일럿과 가상 비서를 구축하는 데 NVIDIA가 어떻게 도움을 주고 있는지 자세히 설명했습니다. 그리고 업계도 이에 동참하고 있죠.
통신 분야에서 젠슨 황은 차세대 통신 시대를 앞당기기 위한 생성형 AI와 Omniverse 기반 플랫폼인 NVIDIA 6G Research Cloud를 발표했습니다. 이 플랫폼은 NVIDIA의 Sionna 뉴럴 라디오 프레임워크, NVIDIA Aerial CUDA 가속 무선 액세스 네트워크, 6G용 NVIDIA Aerial Omniverse 디지털 트윈으로 구축됐죠.
반도체 설계와 제조 분야에서 젠슨 황은 TSMC, 시놉시스(Synopsys)와의 협력을 통해 NVIDIA가 혁신적인 컴퓨팅 리소그래피 플랫폼인 cuLitho의 생산을 시작한다고 발표했습니다. 이 플랫폼은 반도체 제조에서 가장 컴퓨팅 집약적인 워크로드를 40~60배까지 가속화할 것입니다.
또한 젠슨 황은 NVIDIA Earth Climate 디지털 트윈도 발표했습니다. 현재 이용 가능한 이 클라우드 플랫폼은 대화형 고해상도 시뮬레이션을 통해 기후와 날씨 예측을 가속화합니다.
젠슨 황은 AI의 가장 큰 영향력은 의료 분야에서 나타날 것이라고 말했습니다. NVIDIA는 이미 영상 시스템, 유전자 염기서열 분석 기기 분야에서 작업 중이며, 선도적인 수술 로봇 회사들과 협력하고 있습니다.
NVIDIA는 새로운 유형의 생물학 소프트웨어를 출시합니다. 이날 NVIDIA는 전 세계 의료 기업이 어디서나 모든 클라우드에서 최첨단 생성형 AI를 활용할 수 있는 20여 개의 새로운 마이크로서비스를 출시했는데요. 이 서비스들은 고급 영상, 자연어와 음성 인식, 디지털 생물학 생성, 예측, 시뮬레이션을 제공합니다.
Omniverse, 실제 세계에 AI를 접목하다
젠슨 황은 AI의 다음 물결은 실제 세계에 대해 학습하는 AI가 될 것이라고 말했습니다.
그는 “로봇이 로봇이 되는 방법을 배울 수 있도록, 로봇을 위해 세계를 디지털로 표현하는 시뮬레이션 엔진이 필요합니다. 우리는 이 가상 세계를 Omniverse라고 부릅니다”고 말했습니다.
이날 NVIDIA는 NVIDIA Omniverse Cloud를 API로 제공한다고 발표했습니다. 이를 통해 산업용 디지털 트윈 애플리케이션과 워크플로우를 제작하는 세계 최고의 플랫폼의 적용 범위를 소프트웨어 제조업체의 전체 에코시스템으로 확장할 것이라고 밝혔죠.
개발자는 5가지 새로운 Omniverse Cloud API를 통해 Omniverse의 핵심 기술을 직접 쉽게 통합할 수 있습니다. 여기에는 디지털 트윈을 위한 기존 설계, 자동화 소프트웨어 애플리케이션 또는 로봇이나 자율주행 자동차와 같은 자율 기계의 테스트, 검증을 위한 시뮬레이션 워크플로우가 포함됩니다.
NVIDIA의 로봇 지게차는 멀티 카메라 인식과 추적 기능을 사용해 작업자를 감시하고, 전체 로봇 스택이 작동하는 가운데 자율적으로 주행할 수 있습니다. 젠슨 황은 키노트에서 로봇 웨어하우스 데모를 통해 작동 방식을 직접 선보였습니다.
또한 젠슨 황은 NVIDIA가 애플 비전 프로에 Omniverse를 제공한다고 발표했습니다. 새로운 Omniverse Cloud API를 통해 개발자는 대화형 산업용 디지털 트윈을 VR 헤드셋으로 스트리밍할 수 있습니다.
세계 최대 산업용 소프트웨어 제조업체들도 Omniverse Cloud API를 도입하고 있다. 대표적인 기업으로는 앤시스(Ansys), 케이던스(Cadence), 다쏘시스템(Dassault Systèmes)의 3D익사이트(3DEXCITE), 헥사곤(Hexagon), 마이크로소프트, 로크웰 오토메이션(Rockwell Automation), 지멘스(Siemens), 트림블(Trimble) 등이 있습니다.
로보틱스
젠슨 황은 움직이는 모든 것이 로봇이 될 것이라고 말했습니다. 대표적인 것이 바로 자동차 산업인데요. NVIDIA 컴퓨터는 이미 자동차, 트럭, 배달 로봇, 로보 택시 등에 탑재돼 있습니다.
젠슨 황은 세계 최대 자율주행 자동차 회사인 BYD가 자율주행 자동차 개발을 위해 NVIDIA의 차세대 컴퓨터를 선택해 DRIVE Thor를 기반으로 자사의 차세대 전기차 플릿을 구축하고 있다고 발표했습니다.
또한 로봇이 주변 환경을 더 잘 볼 수 있도록 최첨단 멀티 카메라 시각 거리 측정, 3D 재구성과 점유 지도, 깊이 인식 기능을 갖춘 Isaac Perceptor 소프트웨어 개발 키트도 발표했습니다.
또한, 로봇 팔인 매니퓰레이터의 적응성을 높이기 위해 NVIDIA는 최첨단 로봇 팔 인식, 경로 계획과 운동 제어 라이브러리인 Isaac Manipulator를 발표했습니다.
마지막으로는 휴머노이드 로봇을 위한 범용 파운데이션 모델 GR00T를 발표했습니다. GR00T는 로보틱스와 임바디드 AI(Embodied AI)의 혁신을 주도하는 NVIDIA의 노력을 더욱 진전시키기 위해 설계됐습니다.
이러한 노력을 뒷받침하기 위해 젠슨 황은 NVIDIA Thor 시스템 온 칩(SoC) 기반의 휴머노이드 로봇을 위한 새로운 컴퓨터인 Jetson Thor와 NVIDIA Isaac 로봇 플랫폼의 중요한 업그레이드를 공개했습니다.
키노트의 마지막 부분에 젠슨 황은 디즈니 리서치(Disney Research)에서 제작한 NVIDIA 기반의 소형 로봇 한 쌍을 무대에 올렸습니다.
그는 “컴퓨터 그래픽, 물리학, 인공지능의 교차점이 바로 NVIDIA의 핵심입니다. 이 모든 것이 지금 이 순간 이루어졌습니다”고 말했습니다.