젠슨 황(Jensen Huang) NVIDIA CEO가 칩과 슈퍼컴퓨터, AI 소프트웨어로 확장을 거듭하는 가상 세계와 더불어 오토노머스 머신과 초지능 AI 등 다채로운 부문에서 특별한 비전을 제시했습니다.
“NVIDIA는 컴퓨팅 플랫폼 기업입니다. 우리 시대 혁신가들을 지원하고 있죠. 언어 이해, 신약 개발, 양자 컴퓨팅 등 다양한 분야에 기여합니다.” NVIDIA GTC 21을 여는 키노트에서 젠슨 황 CEO는 이렇게 말했습니다. “NVIDIA는 여러분이 만들 일생의 작품을 뒷받침하는 하나의 도구입니다.”
이번 키노트는 제품 발표, 파트너십 소개, 최신 테크놀로지 스택을 소개하는 데모 등으로 꾸며졌는데요. 젠슨 황 CEO는 NVIDIA가 CPU와 DPU 그리고 GPU에 집중적으로 투자하고 있으며 이들을 연결해 데이터센터 규모의 컴퓨팅 솔루션을 새롭게 개발하는데 지원을 계속할 것이라고 전했습니다.
또한 소프트웨어 기업으로서 NVIDIA를 조명하면서 시뮬레이션, 협업, 오토노머스 머신의 훈련을 위한 NVIDIA Omniverse를 비롯해 NVIDIA AI를 기반으로 구축된 여러 소프트웨어를 함께 살펴보기도 했죠.
마지막으로 NVIDIA가 새롭게 내놓는 시스템온칩(SoC)인 NVIDIA Atlan과 추가적 시뮬레이션 기능들로 더욱 진일보하게 될 자동차를 위한 컴퓨팅 솔루션을 소개했습니다.
CPU와 DPU, 그리고 GPU
NVIDIA 최초의 데이터센터용 CPU인 Grace가 공개되었습니다. 미 해군 제독이자 컴퓨터 프로그래밍의 선구자였던 그레이스 호퍼(Grace Hopper)의 이름을 딴 제품인데요.
NVIDIA Grace는 대규모의 데이터 집약적 HPC와 AI 애플리케이션에 고도로 특화된 프로세서로 1조 개 이상의 파라미터를 가진 차세대 자연어 처리 모델의 훈련을 처리할 수 있습니다.
Grace 기반 시스템이 NVIDIA GPU와 결합하면 x86 CPU에서 구동되는 현재의 최첨단 NVIDIA DGX 기반 시스템 대비 10배 빠른 성능을 제공할 것입니다.
데이터센터 상당수가 기존 CPU의 사용을 계속할 것으로 예상되는 가운데 Grace는 컴퓨팅에 대한 니치 시장을 파고들 겁니다. 젠슨 황 CEO는 Grace가 “Arm이 가진 미덕을 집약한 제품”이라고 평가하기도 했죠.
그는 스위스 국립 슈퍼컴퓨터 센터(Swiss National Supercomputing Center)가 Grace와 NVIDIA의 차세대 GPU로 구성된 슈퍼컴퓨터 알프스(Alps)를 구축한다는 소식을 전하기도 했습니다. NVIDIA에 따르면, 미국 에너지부 소속의 로스 앨러모스 국립연구소(Los Alamos National Laboratory) 또한 2023년에 Grace 기반의 슈퍼컴퓨터를 가동할 계획입니다.
BlueField-3로 데이터센터 가속화
이번 키노트에서는 NVIDIA BlueField-3 DPU도 공개되었습니다. 하이퍼스케일 데이터센터와 워크스테이션, 슈퍼컴퓨터의 인프라를 더욱 가속화하기 위한 것인데요.
이 차세대 데이터 처리장치는 가장 강력한 소프트웨어 정의 네트워킹, 스토리지, 사이버 보안 가속화 기능을 제공합니다.
젠슨 황 CEO는 BlueField-2는 CPU 코어 30개에 해당하는 기능을 지원한다고 설명합니다. 여기에 비해 BlueField-3는 300개에 해당하는 CPU 코어를 사용하는 것과 같아 400 Gbps의 네트워크 트래픽과 보안, 오프로드 등을 가속화하는 데 10배의 성능 향상을 경험할 수 있습니다.
‘3개의 칩’
Grace와 BlueField는 CPU, GPU, DPU라는 3개의 칩으로 구성되는 데이터센터 로드맵의 핵심입니다. 각 칩의 아키텍처는 2년 주기로 큰 변화를 맞고 있습니다. 그리고 중간에 업그레이드된 제품을 선보이는데요. 한 해에는 x86 플랫폼에, 이듬해에는 Arm 플랫폼에 집중하는 방식이죠.
젠슨 황 CEO는 “NVIDIA의 흥미로운 신제품들이 매년 여러분을 찾아가게 될 것”이라면서 “3개의 칩, 매년 이뤄질 도약, 하나의 아키텍처”를 기대해달라고 말했습니다.
클라우드로 확장하는 Arm
그는 Arm이 세계에서 가장 큰 인기를 누리는 CPU라고 평가합니다. “그럴 만한 이유가 있습니다. Arm CPU는 에너지 효율이 뛰어납니다. 또한 오픈 라이선스 모델이 혁신의 동력이 되고 있죠.”
클라우드, 엣지 데이터센터, 슈퍼컴퓨팅, PC 등의 영역에서 Arm은 이제 막 시작하는 단계입니다. 젠슨 황 CEO가 발표한 Arm의 핵심 파트너사에는 클라우드 컴퓨팅의 아마존 웹 서비스(Amazon Web Services), 과학 연구와 클라우드 컴퓨팅 분야의 암페어 컴퓨팅(Ampere Computing), 하이퍼 컨버지드(hyper-converged) 엣지 서버를 구축하는 마블(Marvel), 크롬 OS및 리눅스 PC용 SDK와 참조 시스템을 만드는 미디어텍(MediaTek) 등이 포함되어 있습니다.
AI를 위한 컴퓨터, DGX
NVIDIA 칩과 소프트웨어의 결합으로 NVIDIA DGX Station이 ‘소형 AI 데이터센터’로 거듭납니다. NVIDIA DGX SuperPod 역시 집약적인 AI 연구개발을 위한 AI 데이터센터 서비스로 새롭게 출시됩니다.
신형 DGX Station 320G는 초고속 HBM2e 320GB가 초당 8TB의 메모리 대역폭을 통해 A100 GPU 4개와 연결됩니다. 일반 콘센트를 사용하기 때문에 전력소비량이 1,500와트밖에 되지 않습니다.
DGX SuperPOD는 새로운 80GB NVIDIA A100을 탑재해 HBM2e 메모리를 90TB로 늘립니다. NVIDIA BlueField-2로 업그레이드되었으며 이제 NVIDIA의 DGX 관리∙조율 툴인 Base Command가 함께 제공됩니다.
엔터프라이즈용 NVIDIA EGX
AI의 대중화를 위해 젠슨 황 CEO는 세계 최고의 제조사들이 만든 엔터프라이즈용 대용량 서버 등을 대상으로 NVIDIA 인증 시스템을 도입했습니다. 인증을 받으면 NVIDIA AI Enterprise 소프트웨어 제품군을 사용할 자격을 갖추게 되며, 전세계에서 가장 널리 사용되는 컴퓨팅 가상화 플랫폼인 VMware vSphere 7에서 구동이 가능하도록 NVIDIA가 지원을 제공합니다.
NVIDIA 인증 서버 생태계는 AI 그래픽, 가상 워크스테이션, 혼합 컴퓨팅, 그래픽 워크로드를 위한 NVIDIA A10 GPU와 메인스트림 AI 및 데이터 애널리틱스를 위한 NVIDIA A30 GPU가 탑재된 시스템들을 확대합니다.
AI와 5G의 결합
젠슨 황 CEO는 이번 키노트에서 NVIDIA AI-on-5G 컴퓨팅 플랫폼을 소개했습니다. 5G와 AI를 결합해 새로운 형태의 컴퓨팅 플랫폼을 구축하는 것인데요. 이 플랫폼은 NVIDIA Aerial 소프트웨어 개발 키트와 NVIDIA BlueField-2 A100을 사용하는 엣지용으로 고안되며 GPU와 CPU를 하나로 통합해 “지금까지 개발된 것 중 가장 발전된 PCI 익스프레스 카드”로 만들어줍니다.
후지쯔(Fujitsu), 구글 클라우드(Google Cloud), 마베니어(Mavenir), 라디시스(Radisys), 윈드 리버(Wind River) 등의 파트너사들이 NVIDIA의 AI-on-5G 플랫폼을 위한 솔루션을 개발하고 있습니다.
NVIDIA AI와 NVIDIA Omniverse
인간과 AI, 로봇이 함께 살아가는 가상의 실시간 3D 세계는 이제 더 이상 공상과학소설 속의 얘기가 아닙니다.
NVIDIA Omniverse는 클라우드 네이티브 기반으로 멀티 GPU 확장이 가능하며 물리적 정확성을 자랑합니다. 또한 RTX의 실시간 경로 추적과 NVIDIA DLSS의 이점을 제공하는데요. NVIDIA MDL로 머티리얼 시뮬레이션, NVIDIA PhysX로 물리 시뮬레이션을 진행할 수 있으며 NVIDIA AI와도 완벽히 통합됩니다.
젠슨 황 CEO는 NVIDIA Omniverse가 “3D 세계를 연결해 가상 세계를 공유하도록 고안되었다”고 설명합니다. “닐 스티븐슨(Neal Stephenson)이 1990년대에 발표한 공상과학소설 <스노우 크래쉬(Snow Crash)>에 묘사된 메타버스와 다르지 않죠.”
올 여름, NVIDIA Omniverse 엔터프라이즈 라이선스가 출시된다고 전하기도 했습니다. 오픈 베타 버전이 공개된 후 건축 업계의 포스터 앤드 파트너스(Foster and Partners), 엔터테인먼트계의 ILM, 게임 업계의 액티비전(Activision), 광고 업계의 WPP 등 여러 파트너사들이 NVIDIA Omniverse를 활용해왔습니다.
미래의 공장
NVIDIA Omniverse의 가능성을 확인하기 위해 젠슨 황 CEO와 밀라노 네델코비치(Milan Nedeljković) BMW AG 경영위원회 위원은 BMW의 고도로 자동화된 공장 중 하나의 ‘디지털 트윈(digital twin)’ 사용 사례를 통해 포토리얼리스틱 디지털 모델이 현대의 제조 과정을 실시간으로 가속화하는 방법을 공개했습니다.
네델코비치 위원은 “새로운 혁신은 유연성과 정밀도를 개선해 플래닝 과정의 효율이 30% 증가하는 결과로 이어졌습니다”라고 평가했습니다.
NVIDIA AI 소프트웨어
젠슨 황 CEO는 자연어 처리의 혁신을 이끈 트랜스포머(Transformers)의 훈련용 프레임워크인 NVIDIA Megatron을 발표하기도 했습니다. 트랜스포머는 문서요약본 생성, 이메일 문구 완성, 퀴즈 채점, 실시간 스포츠 해설, 더 나아가 코드 생성 등을 지원합니다.
또한 신약 개발용 가속화 라이브러리인 NVIDIA Clara Discovery의 새 모델들을 살펴보며 물리 기반의 머신 러닝 컴퓨팅 플랫폼 부문에서 선도적 역할을 담당하고 있는 슈로딩거(Schrodinger)와의 파트너십도 조명했습니다.
양자 컴퓨팅 연구의 가속화도 언급했습니다. 양자 컴퓨팅의 기본 처리 단위는 큐비트입니다. 큐비트는 0이나 1뿐 아니라 두 값을 동시에 가질 수도 있는데요. 젠슨 황 CEO는 연구자들이 더 우수한 양자 컴퓨터를 설계할 수 있도록 양자회로 시뮬레이터를 가속화할 수 있는 cuQuantum을 소개했습니다.
현대 데이터센터의 보안을 위한 NVIDIA Morpheus도 공개했습니다. NVIDIA Morpheus는 NVIDIA AI, NVIDIA BlueField, Net-Q 네트워크 원격측정 소프트웨어, EGX에 구축되어 모든 패킷을 실시간으로 검사하는 데이터센터용 보안 플랫폼입니다.
대화형 AI의 가속화를 위한 NVIDIA Riva의 출시 소식도 알렸습니다. NVIDIA Riva는 최첨단 딥 러닝 AI로 음성 인식, 언어 이해, 번역, 감정이 담긴 말투 등을 지원합니다.
검색, 광고, 온라인 쇼핑, 음악, 도서, 영화, 사용자 생성 컨텐츠, 뉴스의 추천 시스템을 가속화하는 NVIDIA Merlin을 이제 NGC에서 사용할 수 있다는 설명도 덧붙였습니다. NGC는 NVIDIA의 딥 러닝 프레임워크 컨테이너 카탈로그입니다.
젠슨 황 CEO는 고객이 자신의 전문성을 AI에 반영할 수 있도록 지원하는 NVIDIA TAO를 소개하기도 했습니다. TAO는 NVIDIA의 사전학습 모델을 고객과 파트너사의 데이터에 맞춰 미세 조정하면서도 데이터상의 개인정보를 보호해줍니다.
마지막으로 짚은 것은 추론 서버인 NVIDIA Triton입니다. 고객의 EGX 서버 또는 클라우드 인스턴스로 쉼 없이 흘러들어오는 데이터에서 인사이트를 추출하는 서버입니다.
젠슨 황 CEO는 “cuDNN에서 구동되는 AI 모델, 즉 기본적으로 AI 모델 일체와 텐서플로(TensorFlow), 파이토치(Pytorch), ONNX, 오픈비노(OpenVINO), 텐서RT(TensorRT), 커스텀 C++/파이썬(python) 백엔드 등의 모든 프레임워크를 처리할 수 있습니다”라고 설명했습니다.
NVIDIA DRIVE로 견인하는 자동차의 진보
젠슨 황 CEO는 자율주행 자동차가 “머신 러닝과 로보틱스를 가장 집약적으로 활용하는 분야이며, 가장 까다로운 동시에 가장 강력한 영향력을 가진다”고 평가했습니다.
NVIDIA는 10조 달러 규모에 달하는 운송업계를 위해 모듈식 엔드-투-엔드(end-to-end) 솔루션을 구축해 각 파트너사가 필요에 따라 부품을 활용할 수 있도록 지원합니다.
젠슨 황 CEO는 NVIDIA의 자율주행 컴퓨팅 SoC인 NVIDIA DRIVE Orin이 차량의 중앙 컴퓨터 역할을 수행하도록 설계되었으며 2022년부터 생산에 들어간다고 밝혔습니다.
볼보는 2016년부터 NVIDIA DRIVE를 탑재해 왔습니다. 볼보는 자율주행 소프트웨어 개발 회사인 젠스엑트(Zenseact)와 함께 NVIDIA DRIVE Xavier 기반의 AI 주행 기능을 갖춘 신규 모델을 개발하고 있습니다.
또한 볼보는 차세대 자동차의 자율주행 컴퓨터 구동에 NVIDIA DRIVE Orin을 채택한다고 발표하기도 했죠.
이러한 결정은 볼보가 내년에 출시하는 차세대 XC90을 시작으로 속속 등장할 소프트웨어 정의 모델 라인업에 있어 NVIDIA와 볼보의 협업을 더욱 굳건히 만들어줄 것입니다.
이와 더불어 젠슨 황 CEO는 NVIDIA의 차세대 자동차 SoC이자 ‘바퀴 달린 데이터센터’인 NVIDIA DRIVE Atlan의 등장이 “또 하나의 위대한 도약이 될 것”이라고 기대감을 보였습니다.
1,000TOPS(초당 테라 연산) 이상 성능의 NVIDIA DRIVE Atlan은 2025년 양산 모델적용을 목표로 하고 있습니다.
젠슨 황 CEO는 NVIDIA DRIVE Atlan이 “경이로운 기술이 될 것”이라면서 “AI, 자동차, 로보틱스, 보안, 데이터센터 등에서 NVIDIA가 이룩해온 모든 테크놀로지가 집대성될 것입니다”라고 말했습니다.
NVIDIA의 8세대 Hyperion 자동차 플랫폼도 함께 발표되었습니다. 여기에는 레퍼런스 센서, 3D 실측자료 데이터 리코더, 네트워킹을 비롯한 필수 소프트웨어 일체가 포함됩니다.
젠슨 황 CEO는 올여름부터 NVIDIA DRIVE Sim이 본격적으로 업계에 도입될 것이라고 밝히기도 했는데요.
NVIDIA Omniverse로 자동차 제조 공장의 디지털 트윈을 만들 수 있는 것과 마찬가지로 NVIDIA DRIVE Sim은 자율주행 자동차 개발 공정 전반에 사용될 디지털 트윈을 생성할 수 있습니다.
“NVIDIA Omniverse 내에 만들어지는 NVIDIA DRIVE Sim 기반 디지털 트윈은 기업의 엔지니어와 차량 전체가 연결되어 있는 가상의 공간”이라는 것이 젠슨 황 CEO의 설명입니다.
‘일생의 작품을 뒷받침하는 도구’
젠슨 황 CEO는 4가지 핵심을 이렇게 정리했습니다.
하나, NVIDIA는 이제 GPU, CPU, DPU를 제공합니다.
둘, NVIDIA는 소프트웨어 플랫폼 기업으로 NVIDIA AI와 NVIDIA Omniverse에 막대한 투자를 진행하고 있습니다.
셋, NVIDIA는 AI 기업으로 Megatron, Riva, Merlin, Maxine, Isaac, Metropolis, Clara와 DRIVE를 비롯해 TAO로 커스터마이징이 가능한 사전학습 모델들을 지원합니다.
넷, NVIDIA는 연구자용 DGX, 클라우드용 HGX, 엔터프라이즈와 5G 엣지용 EGX, 로보틱스용 AGX 등을 통해 AI의 범위를 확장하고 있습니다.
젠슨 황 CEO는 “무엇보다도 NVIDIA는 여러분이 만들 일생의 작품을 뒷받침하는 하나의 도구”라는 말로 키노트를 마무리했습니다.