NVIDIA의 창립자 겸 CEO 젠슨 황(Jensen Huang)은 새로운 시스템, 실리콘, 소프트웨어로 가득 찬 GTC 키노트를 통해 AI 워크플로우를 지원하는 새로운 클라우드 서비스와 차세대 GeForce RTX GPU 출시를 공개했습니다.
젠슨 황은 NVIDIA GTC를 시작하는 온라인 프레젠테이션에서 “컴퓨팅은 놀라운 속도로 발전하고 있으며, 이 로켓을 추진하는 엔진은 가속 컴퓨팅이고 연료는 AI입니다”라고 말했습니다.
AI를 활용한 새로운 차원의 그래픽으로 게임 경험을 향상하는 것부터 세계 최대 기업들이 제품을 개선할 수 있는 가상 시험장을 구축하는 것까지, 젠슨 황은 계속해서 새로운 기술과 신제품을 새로운 기회에 연결하고 있습니다.
새로운 아이디어, 신제품, 새로운 애플리케이션의 홍수를 촉진, AI를 발전시키겠다는 가속 컴퓨팅의 단일한 비전은 전 세계 산업에 영향을 미칠 것입니다.
게이머와 크리에이터는 새로운 NVIDIA Ada Lovelace 아키텍처를 기반으로 하는 최초의 GPU를 사용할 수 있습니다.
기업은 Grace CPU와 Grace Hopper Superchip기반 시스템을 통해 고성능 컴퓨팅 애플리케이션을 위한 강력한 새 도구를 활용할 수 있습니다. 3D 인터넷을 구축하는 사람들은 Ada Lovelace L40 데이터센터 GPU로 구동되는 새로운 OVX 서버를 사용할 수 있죠. 연구원과 컴퓨터 사이언티스트는 NVIDIA LLMs NeMo 서비스를 통해 새로운 대규모 언어 모델 기능을 활용할 수 있습니다. 자동차 산업은 2,000 테라플롭의 놀라운 성능을 가진 새로운 두뇌인 Thor를 사용할 수 있습니다.
젠슨 황은 다양한 산업 분야의 주요 파트너와 고객이 NVIDIA의 기술을 어떻게 활용하고 있는지 강조했습니다.
그는 도입 속도를 높이기 위해 세계 최대의 전문 서비스 기업 딜로이트(Deloitte)가 NVIDIA AI와 NVIDIA Omniverse를 기반으로 구축된 새로운 서비스를 전 세계 기업에 제공한다고 발표했습니다.
그는 또한 대형 통신사 차터(Charter), 자동차 산업의 제너럴 모터스(General Motors), 운송 부문의 독일 철도 시스템 도이체 반(Deutsche Bahn), 의료 연구 부문의 브로드 인스티튜트(The Broad Institute), 유통 부문의 로우스(Lowe’s) 등의 고객 사례를 공유했습니다.
이번 주에 시작된 NVIDIA GTC는 보잉(Boeing), 도이치은행(Deutsche Bank), 로우스(Lowe’s), 폴스타(Polestar), 존슨앤드존슨(Johnson & Johnson), 크로거(Kroger), 메르세데스-벤츠(Mercedes-Benz), 지멘스 AG(Siemens AG), T-모바일(T-Mobile), US뱅크(US Bank) 등 기업에서 200여 명의 연사가 참여하는 세계에서 가장 영향력 있는 AI 행사 중 하나로, 200,000명 이상이 이번 컨퍼런스에 등록했습니다.
‘양자 도약’: GeForce RTX 40 시리즈 GPU
키노트에서 가장 먼저 공개된 소식은 Ada로 구동되는 차세대 GeForce RTX 40 시리즈 GPU의 출시였는데요. 젠슨 황은 이를 크리에이터에게 완전히 시뮬레이션된 세계로의 길을 열어주는 “양자 도약(quantum leap)”이라고 불렀습니다.
젠슨 황은 물리적으로 모델링된 모든 동작과 함께 완전히 레이 트레이싱되는 풀 인터랙티브 시뮬레이션 Racer RTX를 통해 청중에게 무엇이 가능한지에 대한 맛보기를 보여줬습니다.
Ada의 발전에는 새로운 Streaming Multiprocessor, 광선-삼각형 교차 처리량이 두 배인 새로운 RT Core, Hopper FP8 Transformer Engine과 1.4페타플롭의 Tensor 프로세서 성능을 갖춘 새로운 Tensor Core가 포함됩니다.
Ada는 또한 최신 버전의 NVIDIA DLSS 기술인 DLSS 3을 도입했습니다. 이 기술은 AI를 사용해 장면이 어떻게 변화하는지 이해하기 위해 이전 프레임과 새 프레임을 비교하여 새 프레임을 생성합니다. 그 결과, 브루트 포스(brute force) 렌더링에 비해 게임 성능이 최대 4배 향상됐습니다.
DLSS 3는 35개 이상의 게임과 애플리케이션 등 세계 최고의 게임 개발자들로부터 지원을 받았는데요. 젠슨 황은 “DLSS 3은 우리의 가장 위대한 신경 렌더링 발명품 중 하나입니다”라고 말했습니다.
젠슨 황은 이러한 혁신을 통해 새로운 GeForce RTX 4090이 이전 제품인 RTX 3090 Ti에 비해 4배 더 많은 프로세싱 처리량을 제공할 수 있다고 말했습니다. 이 “새로운 헤비급 챔피언”은 1,599달러부터 시작하며 10월 12일에 출시될 예정입니다.
또한 새로운 GeForce RTX 4080은 11월에 두 가지 구성으로 출시됩니다.
1,199달러의 GeForce RTX 4080 16GB는 9,728개의 CUDA 코어와 16GB의 고속 마이크론 GDDR6X 메모리를 탑재합니다. DLSS 3를 사용하면 게임 속도가 GeForce RTX 3080 Ti보다 2배 빠르며, 저전력에서 GeForce RTX 3090 Ti보다 강력한 성능을 자랑합니다.
GeForce RTX 4080 12GB에는 7,680개의 CUDA 코어와 12GB의 마이크론(Micron) GDDR6X 메모리가 있으며, DLSS 3을 사용하면 이전 세대 플래그십 GPU인 RTX 3090Ti보다 빠릅니다. 가격은 899달러입니다.
젠슨 황은 또한 NVIDIA Lightspeed Studios가 Omniverse를 사용하여 역사상 가장 유명한 게임 중 하나인 ‘포탈(Portal)’을 재창조했다고 발표했습니다. AI 지원 툴셋인 NVIDIA RTX Remix를 통해 사용자는 좋아하는 게임을 조정하여 텍스처와 자산의 해상도를 높이고 재료에 물리적으로 정확한 속성을 부여할 수 있습니다.
AI 발전을 가속화하는 H100 GPU 양산 중
더 많은 시스템과 소프트웨어를 광범위한 기술 트렌드에 또 한 번 연결하면서, 젠슨 황은 대규모 언어 모델(LLM)과 추천 시스템이 오늘날 가장 중요한 두 가지 AI 모델이라고 설명했습니다.
그는 추천 시스템이 전자 상거래에서 엔터테인먼트, 광고에 이르기까지 모든 것을 지원하며 “디지털 경제를 좌우”한다고 말했습니다. “소셜 미디어, 디지털 광고, 전자 상거래, 검색의 엔진이라고 할 수 있습니다.”
그리고 2017년에 처음 도입된 Transformer 딥 러닝 모델을 기반으로 하는 대규모 언어 모델은 이제 AI 연구에서 가장 활발한 영역 중 하나이며, 감독이나 레이블이 지정된 데이터셋 없이 인간의 언어를 이해하는 방법을 배울 수 있습니다.
젠슨 황은 “사전 훈련된 단일 모델은 질문 답변, 문서 요약, 텍스트 생성, 번역, 심지어 소프트웨어 프로그래밍까지 여러 작업을 수행할 수 있습니다”라고 말했습니다.
이렇게 거대한 모델을 구동하는 데 필요한 컴퓨팅 성능을 제공하는 NVIDIA의 젠슨 황은 Hopper의 차세대 Transformer Engine이 탑재된 NVIDIA H100 Tensor Core GPU를 양산 중이며 앞으로 몇 주 안에 시스템이 출하될 것이라고 말했습니다.
젠슨 황은 “Hopper는 현재 양산 중이며, 곧 전 세계 AI 팩토리를 지원할 예정입니다”라고 말했습니다.
시스템 구축 파트너로는 아토스(Atos), 시스코(Cisco), 델 테크놀로지스(Dell Technologies), 후지쯔(Fujitsu), 기가바이트(GIGABYTE), 휴렛 팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo), 슈퍼마이크로(Supermicro)가 있습니다. 그리고 아마존웹서비스(AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure), 오라클 클라우드 인프라(Oracle Cloud Infrastructure)는 내년부터 클라우드에 H100 기반 인스턴스를 최초로 배포할 예정입니다.
또한 젠슨 황은 NVIDIA의 Arm 기반 Grace 데이터센터 CPU와 Hopper GPU를 결합한 Grace Hopper는 고속 메모리 용량이 7배 증가하여 추천 시스템에 “거대한 도약”을 제공할 것이라고 말했습니다. Grace Hopper를 통합한 시스템은 2023년 상반기에 출시될 예정입니다.
메타버스 구현을 위한 L40 데이터센터 GPU 양산 중
젠슨 황은 메타버스라고 불리는 인터넷의 다음 진화는 3D로 확장될 것이라고 설명했습니다. Omniverse는 메타버스 애플리케이션을 구축하고 실행하기 위한 NVIDIA 플랫폼입니다.
여기에서도 젠슨 황은 이러한 세계를 연결하고 시뮬레이션하는데 강력하고 유연한 새 컴퓨터가 왜 필요한지 설명했습니다. 그리고 NVIDIA OVX 서버는 메타버스 애플리케이션의 확장을 위해 구축됐습니다.
젠슨 황은 NVIDIA의 2세대 OVX 시스템은 현재 양산 중인 Ada Lovelace L40 데이터센터 GPU로 구동될 것이라고 발표했습니다.
자율주행 자동차, 로보틱스, 의료 기기 등을 위한 Thor
현재 차량에서 능동 안전, 주차, 운전자 모니터링, 카메라 미러, 클러스터, 인포테인먼트 기능들은 서로 다른 컴퓨터에 의해 구동됩니다. 미래에는 중앙 집중식 컴퓨터에서 실행되며 시간이 지남에 따라 개선되는 소프트웨어로 제공될 것이라고 젠슨 황은 말했습니다.
이를 지원하기 위해 NVIDIA는 Hopper의 트랜스포머 엔진, Ada의 GPU, Grace의 놀라운 CPU를 결합한 DRIVE Thor를 출시했습니다.
젠슨 황에 따르면, 새로운 Thor 슈퍼칩은 2,000테라플롭의 성능을 제공하여 DRIVE 로드맵에서 Atlan을 대체하며 254 TOPS(초당 테라 연산)의 성능을 제공하고 현재 양산 차량에 탑재되는 DRIVE Orin에서 원활한 전환을 지원합니다. Thor는 로보틱스, 의료 기기, 산업 자동화, 엣지 AI 시스템을 위한 프로세서가 될 것입니다.
350만 개발자, 3,000개의 가속 애플리케이션
젠슨 황은 NVIDIA의 시스템과 실리콘, 가속 컴퓨팅의 이점을 전 세계 산업에 제공함으로써 350만 명 이상의 개발자가 NVIDIA의 550개 소프트웨어 개발 키트(SDK)와 AI 모델을 사용하여 3,000여 개의 가속 앱을 만드는 소프트웨어 생태계를 구축하고 있다고 말했습니다.
그리고 이 생태계는 빠르게 성장하고 있습니다. 지난 12개월 동안 NVIDIA는 100개 이상의 SDK를 업데이트하고 25개의 새로운 SDK를 출시했습니다.
젠슨 황은 “새로운 SDK는 고객이 이미 소유한 시스템의 기능과 성능을 향상시키는 동시에 가속 컴퓨팅을 위한 새로운 시장을 열어줍니다”라고 말했습니다.
AI, 가상 세계를 위한 새로운 서비스
젠슨 황은 대규모 언어 모델이 “오늘날 가장 중요한 AI 모델”이라고 말했는데요. 트랜스포머 아키텍처를 기반으로 하는 이 거대한 모델은 감독이나 레이블이 지정된 데이터셋 없이 의미와 언어를 이해하는 방법을 학습함으로써 놀라운 능력을 보여줄 수 있습니다.
연구원들이 이 “놀라운” 기술을 작업에 더 쉽게 적용할 수 있도록 젠슨 황은 사전 훈련된 LLM을 특정 작업을 수행하도록 조정하는 NVIDIA 관리 클라우드 서비스인 Nemo LLM 서비스를 발표했습니다.
제약, 생명과학 연구원의 연구를 가속화하기 위해 젠슨 황은 화학 물질, 단백질, DNA와 RNA 서열을 이해하는 LLM을 생성하는 서비스인 BioNeMo LLM도 발표했습니다.
젠슨 황은 NVIDIA가 세계 최대의 인간 게놈 정보 생산 기관인 브로드 인스티튜트와 NVIDIA Parabricks, Genome Analysis Toolkit, BioNeMo와 같은 NVIDIA Clara 라이브러리를 브로드 인스티튜트의 테라 클라우드 플랫폼(Terra Cloud Platform)에서 사용할 수 있도록 협력하고 있다고 발표했습니다.
젠슨 황은 또한 클라우드, 온프레미스 또는 디바이스에서 실행되는 Omniverse 애플리케이션을 연결하는 서비스형 인프라인 NVIDIA Omniverse 클라우드에 대해서도 자세히 설명했습니다.
젠슨 황은 합성 데이터 생성을 위한 Replicator, 렌더 팜 확장을 위한 Farm, AI 로봇 구축과 훈련을 위한 Isaac Sim 등 새로운 Omniverse 컨테이너를 이제 클라우드 배포에 사용할 수 있다고 발표했습니다.
Omniverse는 현재 널리 사용되고 있으며, 젠슨 황은 다음과 같은 몇 가지 고객 사례와 데모를 공유했습니다.
- 거의 2,000개의 매장을 보유한 로우스는 Omniverse를 사용해 매장의 디지털 트윈을 설계, 구축, 운영하고 있습니다.
- 500억 달러 규모의 통신사인 차터와 인터랙티브 데이터 분석 기업 HeavyAI는 Omniverse를 사용해 차터의 4G와 5G 네트워크의 디지털 트윈을 생성하고 있습니다.
- GM은 디자이너, 엔지니어, 마케팅 담당자가 협업할 수 있도록 Omniverse에 미시간 디자인 스튜디오(Michigan Design Studio)의 디지털 트윈을 만들고 있습니다.
로보틱스를 위한 새로운 Jetson Orin Nano
가상 세계에서 세상을 변화시킬 기계로 주제를 전환하면서, 젠슨 황은 로봇 컴퓨터가 바로 “가장 최신식 컴퓨터”라고 말하며, NVIDIA의 로보틱스용 2세대 프로세서인 Orin을 홈런이라고 표현했습니다.
Orin을 더 많은 시장에 출시하기 위해 그는 기존의 인기 모델 Jetson Nano보다 80배 빠른 소형 로봇 컴퓨터인 Jetson Orin Nano를 발표했습니다.
Jetson Orin Nano는 NVIDIA Isaac 로보틱스 스택을 실행하고 ROS 2 GPU 가속 프레임워크를 특징으로 하며, 로보틱스 시뮬레이션 플랫폼인 NVIDIA Iaaac Sim은 클라우드에서 사용할 수 있습니다.
그리고 AWS RoboMaker를 사용하는 로보틱스 개발자를 위해, 젠슨 황은 로보틱스 개발을 위한 NVIDIA Isaac 플랫폼용 컨테이너가 AWS 마켓플레이스에서 출시됐다고 발표했습니다.
비디오, 이미지 서비스를 위한 새로운 툴
전 세계 인터넷 트래픽의 대부분은 비디오가 차지하고 있으며, 사용자 생성 비디오 스트림은 AI 특수 효과와 컴퓨터 그래픽으로 점점 더 증가할 것이라고 젠슨 황은 설명했습니다.
젠슨 황은 “아바타는 컴퓨터 비전, 음성 AI, 언어 이해, 컴퓨터 그래픽을 클라우드 규모로 실시간 수행할 것입니다”라고 말했습니다.
젠슨 황은 실시간 그래픽, AI, 통신의 교차점에서 새로운 혁신을 위해, NVIDIA가 CV-CUDA와 같은 가속 라이브러리, UCF Unified Computing Framework라는 클라우드 런타임 엔진, Omniverse ACE Avatar Cloud Engine, 고객 서비스 아바타를 위한 Tokkio라는 샘플 애플리케이션을 구축하고 있다고 발표했습니다.
딜로이트, 기업에 AI, Omniverse 서비스 제공
또한 젠슨 황은 이러한 모든 기술을 전 세계 기업이 신속하게 도입할 수 있도록 돕기 위해 세계 최대의 전문 서비스 기업인 딜로이트(Deloitte)가 NVIDIA AI와 NVIDIA Omniverse를 기반으로 구축된 새로운 서비스를 전 세계 기업에 제공한다고 발표했습니다.
그는 딜로이트의 전문가들이 전 세계 기업이 NVIDIA 애플리케이션 프레임워크를 사용하여 고객 서비스, 사이버 보안, 산업 자동화, 물류 및 유통 자동화 등을 위한 최신 멀티 클라우드 애플리케이션을 구축하도록 도울 것이라고 말했습니다.
시작하기
젠슨 황은 새로운 기술 소개와 제품 발표로 가득 찬 키노트를 한 가지 통일된 비전으로 요약하면서 다음과 같이 마무리했습니다.
“오늘 우리는 새로운 칩, 플랫폼의 새로운 발전, 그리고 처음으로 새로운 클라우드 서비스를 발표했습니다. 이러한 플랫폼은 AI의 새로운 혁신, AI의 새로운 애플리케이션, 과학과 산업에서 AI의 차세대 물결을 촉진할 것입니다.”