‘AI 시대’의 엔비디아 비전을 젠슨 황 CEO의 GTC 2020 기조연설로 들어보세요

젠슨 황 CEO는 GTC 2020의 기조연설에서 ‘AI가 모든 것을 바꾸고 있다’는 AI 시대를 위한 엔비디아의 비전을 발표했습니다
by NVIDIA Korea

젠슨 황 엔비디아 CEO가 GTC 2020 기조연설에서 ‘인공지능(AI) 시대’에 대한 비전을 제시했습니다.

젠슨 황 CEO는 “AI는 칩에서 시스템, 알고리즘, 툴, 생태계에 이르기까지 컴퓨팅의 완전한 재발명을 필요로 합니다”라며 연설을 시작했습니다. 헬스케어부터 로봇공학, 화상회의까지 모든 것을 아우르는 일련의 발표 뒤에 숨은 젠슨 황 CEO의 근본적인 메시지는 간단했습니다. AI가 모든 것을 바꾸고 있다는 것인데, 이로 인해 엔비디아가 오늘날 생활 전반에 영향을 미치는 변화의 중심에 놓이게 됐다는 것이죠.

그는 “엔비디아는 풀스택 컴퓨팅 회사로서 세상에 지대한 영향을 미치는 매우 어려운 컴퓨팅 과제를 해결합니다”라며, “우리는 AI 시대를 맞아 이 새로운 형태의 컴퓨팅을 발전시키는데 올인하고 있다”고 덧붙였습니다.

엔비디아가 이번 GTC에서 공개한 새로운 제품 및 솔루션을 자세히 알아볼까요?

새로운 엔비디아 BlueField-2 DPU

현재 소프트웨어 정의 데이터센터는 뛰어난 유연성과 적응성을 구현하고 있지만, 엄청난 부하를 발생시키고 있습니다. 데이터센터 인프라 구동은 CPU 코어의 20~30%를 소비하는데요. 동서 트래픽을 포함한 데이터센터 내 트래픽과 마이크로서비스가 늘어나면서 이 부하는 급격히 증가하고 있습니다.

1008 [이미지] 엔비디아의 블루필드2 DPU
엔비디아 BlueField-2 DPU
젠슨 황 CEO는 “새로운 종류의 프로세서가 필요합니다. 우리는 그것을 DPU(Data Processing Unit, 데이터 처리 장치)라고 부릅니다”라고 설명했습니다. DPU는 하이퍼바이저를 오프로드하기 위한 네트워크, 스토리지, 보안과 프로그래밍 가능한 Arm CPU용 가속기로 구성됩니다.

새로운 엔비디아 BlueField-2 DPU는 강력한 Arm 코어와 가속 엔진을 탑재해 네트워크, 스토리지, 보안을 고속 처리할 수 있는 프로그래밍 가능한 프로세서입니다. 이것은 엔비디아가 지난 4월 멜라녹스 테크놀로지(Mellanox Technologies)를 인수한 후 달성해 낸 최신 결과물입니다.

프로그래밍 가능한 데이터센터 인프라 프로세서 ‘DOCA’

엔비디아는 또한 프로그래밍 가능한 데이터센터 인프라-온-칩 아키텍처(DOCA)를 발표했는데요. 젠슨 황 CEO는 “DOCA SDK를 통해 개발자들은 아직 발명되지 않은 소프트웨어 정의 네트워크, 소프트웨어 정의 스토리지, 사이버 보안, 원격 측정 및 네트워크 내 컴퓨팅 애플리케이션을 위한 인프라 앱을 작성할 수 있습니다”라고 말했습니다.

또한 젠슨 황 CEO는 최근 발표한 VMware와의 파트너십에 대해서 “VMware는 전 세계 기업들의 인프라를 구동합니다. 전 세계 기업의 70%가 사용하는 운영체제(OS) 플랫폼”이라고 말하며 VMware를 BlueField에 포팅하기 위한 노력을 언급했습니다.

DPU 로드맵  

젠슨 황 CEO는 엔비디아의 DPU 로드맵이 빠른 발전을 보이고 있다고 설명했습니다. 젠슨 황 CEO에 따르면, BlueField-2는 현재 시제품으로 제공되며, BlueField-3은 거의 완성 단계에 있고, BlueField-4는 개발 작업을 본격 진행 중이라고 밝혔습니다. 2023년에 출시 예정인 BlueField-4는 쿠다(CUDA) 병렬 프로그래밍 플랫폼과 엔비디아 AI 기술이 결합돼 네트워크 내 컴퓨팅 비전을 한층 강화시킬 것으로 기대됩니다. 엔비디아는 이미 새로운 BlueField-2에 엔비디아 암페어(Ampere) 아키텍처를 추가해 이러한 기능을 지원하고 있습니다.

GPU 추론 도입의 확대

소비자 인터넷 기업들도 AI 서비스 제공을 위해 엔비디아 기술을 활용하고 있습니다. 완전히 훈련된 AI 모델을 작동시키는 GPU 추론은 차세대 AI 기반 소비자 서비스의 핵심입니다. 전반적으로 클라우드 상에서 엔비디아 GPU 추론 컴퓨팅은 이미 모든 클라우드 CPU를 능가하고 있는데요.

젠슨 황 CEO는 마이크로소프트가 스마트 문법 수정과 텍스트 예측 등 오피스의 스마트한 사용자 경험을 강화하기 위해 애저(Azure)에 엔비디아 AI 기술을 도입한다고 밝혔습니다. 이로써, 마이크로소프트는 스퀘어(Square), 트위터(Twitter), 이베이(eBay), GE 헬스케어(GE Healthcare), 죽스(Zoox)에 이어 엔비디아 GPU 기반 추론을 사용하는 다양한 기업 중 하나가 됐습니다.

클라우데라, VMware와의 파트너십

방대한 양의 데이터를 빠르게 작업할 수 있는 능력은 오늘날 AI와 데이터 과학의 핵심입니다. 엔비디아 RAPIDS는 세계에서 가장 빠른 ETL(추출, 변환, 로드) 엔진으로 멀티 GPU와 멀티노드를 지원합니다.

엔비디아는 RAPIDS 사용을 가속화하기 위해 판다스(Pandas), 엑스지부스트(XGBoost), 사이킷런(ScikitLearn)과 같은 널리 활용되는 데이터 사이언스 프레임워크를 기반으로 API를 모델링했습니다. 10TB 데이터 세트의 복잡한 데이터베이스 쿼리를 구동하는 산업 표준 데이터 처리 벤치마크에서 16노드 엔비디아 DGX 클러스터는 가장 빠른 CPU 서버보다 20배 더 신속한 성능을 지원했습니다. 7분의 1 수준의 비용과 3분의 1의 전력만으로 말이죠.

데이터로부터 예측 모델을 관리, 보안, 분석, 학습할 수 있는 하이브리드 클라우드 데이터 플랫폼인 클라우데라(Cloudera)는 엔비디아 RAPIDS, 엔비디아 AI, 엔비디아로 가속화된 Spark를 통해 클라우데라 데이터 플랫폼(Cloudera Data Platform)을 가속화할 예정입니다.

엔비디아는 또한 VMware와의 두 번째 파트너십도 발표했습니다. 엔비디아와 VMware는 가상화, 분산형 스케일아웃, 마이크로서비스 등 3대 컴퓨팅 영역 모두에 대해 GPU 가속화를 지원하는 데이터센터 플랫폼을 구축할 계획입니다.

“이제 VMware 고객들은 엔비디아 GPU와 AI 컴퓨팅을 통해 모든 컴퓨팅 모드를 지원할 수 있게 됐습니다”라고 젠슨 황 CEO는 말했습니다.

최첨단 엣지 AI

세계 유수의 기술 기업들은 엔비디아 EGX AI 플랫폼을 광범위하게 채택하여 엔터프라이즈 및 엣지 데이터센터에 새로운 수준의 보안, GPU 가속 소프트웨어, 서비스 및 서버를 구현하고 있습니다.

엔비디아 EGX 플랫폼은 PCIe 카드 하나로 엔비디아 암페어 아키텍처 GPU와 BlueField-2 DPU를 결합할 수 있도록 지원합니다. 이를 통해 기업들은 안전하고 가속화된 데이터센터를 구축할 수 있게 됐습니다.

1008 [이미지] 엔비디아 EGX AI 플랫폼
엔비디아 EGX AI 플랫폼
더불어, 엔비디아는 플릿 커맨드(Fleet Command)라는 새로운 서비스를 위한 조기 액세스 프로그램을 발표했습니다. 이 신규 애플리케이션은 엣지 보안, 실시간 프로세싱 기능과 서비스형 소프트웨어(Software-as-a-Service)의 원격 관리 및 용이성을 결합해 다양한 IoT 디바이스 전반에서 업데이트를 쉽게 배포하고 관리할 수 있게 해줍니다.

Jetson Nano 2GB 개발자 키트

엔비디아는 엣지 AI를 위한 엔비디아 Jetson 플랫폼을 59달러에 확대 공급한다고 발표했습니다. 이로써 학생 및 교육자를 비롯해 AI에 관심이 있는 누구나 합리적인 가격으로 AI와 로보틱스의 세계를 경험할 수 있게 됐습니다. 엔비디아 Jetson Nano 2GB 개발자 키트를 통해 로보틱스와 지능형 사물인터넷(IoT) 등의 분야에서 AI의 핸즈온 교육과 학습이 가능합니다. 또 엔비디아는 무료 온라인 교육과 AI 인증 프로그램도 추가 제공하는데요. 이 프로그램을 통해 수 천명의 개발자들이 Jetson 커뮤니티에 기부한 수많은 오픈소스 프로젝트와 노하우, 그리고 관련 영상을 공유할 예정입니다.

1008 [이미지] 젯슨 나노 2GB 개발자 키트
젯슨 나노 2GB 개발자 키트

실시간 개방형 3D 디자인 협업 플랫폼 ‘옴니버스’ 오픈베타 출시

엔비디아는 실시간 개방형 3D 디자인 협업 플랫폼 옴니버스(Omniverse)의 오픈베타 버전을 출시했습니다. 올 하반기부터 다운로드 가능한 이 서비스는 온프레미스와 원격 환경 전반에서 수 천만 디자이너, 건축가, 크리에이터들의 실시간 협업을 지원할 예정입니다.

젠슨 황 CEO는 또한 대화형 AI인 엔비디아 Riva도 오픈베타에 들어갔다고 밝혔는데요. 스피드스쿼드(SpeedSquad) 벤치마크에서 엔비디아 GPU를 통해 엔비디아 Riva를 실행했을 때 반응성이 두 배 뛰어나고 사운드는 더 자연스러우며 동시에, 운영비는 3분의 1로 감소된 것으로 나타났습니다.

“더 좋은 그래픽카드를 살수록 더 많은 돈을 아낄 수 있습니다”라고 젠슨 황 CEO는 덧붙였습니다.

클라우드 네이티브 AI 동영상 스트리밍 플랫폼 ‘Maxine’

엔비디아는 클라우드 네이티브 AI 동영상 스트리밍 플랫폼인 엔비디아 맥신(Maxine)도 공개했습니다. 엔비디아 Maxine은 개발자들이 클라우드 기반의 GPU 가속 AI 화상회의 소프트웨어를 활용해 인터넷 트래픽의 가장 많은 부분을 차지하는 동영상 스트리밍 품질을 향상시키도록 지원합니다.

화상회의 서비스 제공업체들은 클라우드에서 엔비디아 GPU로 해당 플랫폼을 구동함으로써, 시선 교정, 초고해상도, 노이즈 캔슬링, 페이스 리라이팅(face rewriting)과 같은 새로운 AI 기능을 제공할 수 있습니다. 또한, 데이터는 로컬 디바이스가 아닌 클라우드에서 처리되므로, 최종 사용자는 별도의 하드웨어가 없이도 새로운 기능을 이용할 수 있습니다.

영국 최대 AI 슈퍼컴퓨터 ‘Cambridge-1’

코로나19 팬데믹 상황에서 신약 개발은 생명이 걸린 사안입니다. 하지만 신약 개발에는 10년 이상이 소요되고 연구개발 비용은 25억 달러 이상(9 년마다 두 배씩 증가)에 달하며 개발 노력의 90%는 실패합니다.

새로운 툴이 필요한 시점입니다. 여기에 획기적인 컴퓨터 과학 기술을 활용한 시뮬레이션 및 인실리코(in silico) 방법을 통해 질병에 영향을 미치는 단백질의 생물학적 조직을 이해하고 신약 후보를 탐색할 수 있는데요. 이러한 노력을 가속화하기 위해 엔비디아는 과학자들이 약물의 발견을 돕는 최첨단 툴로 구성된 엔비디아 Clara Discovery를 발표했습니다.

뿐만 아니라, 엔비디아는 최첨단 컴퓨팅 인프라를 의료 연구에 접목하기 위한 영국에서 가장 빠른 슈퍼컴퓨터 Cambridge-1 구축 계획을 공개했습니다.

1008 [이미지] 영국 최대 AI 슈퍼컴퓨터 케임브리지-1
영국 최대 AI 슈퍼컴퓨터 Cambridge-1
400페타플롭의 AI 성능을 자랑하는 Cambridge-1은 세계에서 가장 빠른 30대 슈퍼 컴퓨터 중 하나가 되어 영국 AI 및 의료 분야에서 엔비디아의 학계, 업계 및 스타트업과의 협업을 주도할 예정인데요. 엔비디아의 첫 파트너는 아스트라제네카(AstraZeneca), GSK, 킹스 칼리지 런던(King’s College London), 가이스&세인트 토마스 영국국가보건서비스 파운데이션 트러스트(Guy’s and St Thomas’ NHS Foundation Trust) 및 스타트업 옥스포드 나노포어(Oxford Nanopore)가 있습니다. 엔비디아는 또한 세계 최초의 AI 신약개발 연구소를 건설하기 위한 GSK와의 협업도 발표했습니다.

Arm과의 파트너십

엔비디아는 Arm과의 파트너십에 대한 업데이트도 공개했습니다. 지난달 엔비디아는 영국의 반도체 설계회사인 Arm을 400억 달러에 인수하기로 합의했는데요. 젠슨 황 CEO는 Arm 플랫폼을 발전시키기 위한 주요 이니셔티브를 발표하면서 엔비디아가 다음의 세 가지 부문에 투자하고 있다고 설명했습니다.

첫째, 엔비디아는 GPU, 네트워크, 스토리지 및 보안 기술로 Arm 파트너들을 보완하여 완벽한 가속 플랫폼을 구축할 예정입니다.

둘째, 엔비디아는 Arm 파트너들과 협력하여 고성능컴퓨팅(HPC), 클라우드, 엣지 및 PC용 플랫폼을 만들고 있으며 이를 위해 칩, 시스템 및 시스템 소프트웨어가 필요합니다.

셋째, 엔비디아는 엔비디아 AI와 엔비디아 RTX 엔진을 Arm에 포팅하고 있습니다.

젠슨 황 CEO는 “현재 이러한 기능은 x86에서만 사용할 수 있습니다. 이 같은 이니셔티브를 통해 Arm 플랫폼은 가속화 및 AI 컴퓨팅에서도 경쟁력을 가질 것입니다”라고 설명했습니다.

이번 GTC 2020는 역대 최대 규모를 자랑하는데요. 지난 GTC보다 400개가 더 많은 1천 개 이상의 세션이 진행됐고 사상 최초로 영어, 중국어, 한국어, 일본어, 히브리어에 이르는 다양한 언어의 자막이 제공됐습니다.

젠슨 황 엔비디아 CEO의 GTC 2020 기조연설은 한국어 자막 지원을 통해

여기에서 다시 보실 수 있습니다.