미국 워싱턴 D.C.에서 열린 NVIDIA AI Summit 키노트에서 NVIDIA 엔터프라이즈 플랫폼 담당 부사장 밥 피트(Bob Pette)는 ‘가속 컴퓨팅은 지속 가능한 컴퓨팅’이라고 설명했습니다.
NVIDIA의 가속 컴퓨팅은 단순히 효율적이기만 한 것이 아니라 차세대 산업, 과학, 의료 혁신에 매우 중요한 역할을 하고 있습니다.
이날 밥 피트 부사장은 행사에 참석한 정책 담당자, 언론, 개발자, 기업가 등에게 “우리는 새로운 산업 혁명의 태동기에 있습니다. NVIDIA는 성능뿐만 아니라 에너지 효율을 염두에 두고 시스템을 설계하고 있다는 점을 말하기 위해 이 자리에 섰습니다”고 말했습니다.
NVIDIA Blackwell 플랫폼은 지난 10년 동안 GPT-4와 같은 훈련 모델의 에너지 소비를 최대 2,000배까지 줄이며, AI 컴퓨팅 분야에서 획기적인 에너지 효율성을 달성했습니다.
NVIDIA 가속 컴퓨팅은 전 세계적으로 AI가 빠르게 도입되는 가운데 지속 가능성을 위한 가속 컴퓨팅의 가치를 강조합니다. 실제로 AI 모델의 결과물인 토큰 생성에 필요한 에너지 사용량을 10만 배까지 절감하고 있죠.
밥 피트 부사장은 “이 AI 팩토리는 제품을 생산합니다. 그 제품은 토큰이고, 토큰은 인텔리전스이며, 인텔리전스는 곧 돈이죠. 이것이 바로 지구상의 모든 산업에 혁명을 일으킬 것”이라고 말했습니다.
그는 산업 전반에서 혁신을 실현하는 데 기본이 된 NVIDIA CUDA 라이브러리는 현재 4,000개 이상의 가속 애플리케이션을 지원하고 있다고 설명했습니다.
“CUDA는 가속화를 가능하게 합니다. 또한 에너지 소비를 줄일 수 있는 가장 탁월한 방법 중 하나로 밝혀졌습니다.”
이러한 라이브러리는 전력 소비를 최소화하면서 상당한 성능 향상을 이끌어내는 에너지 효율적인 AI 혁신의 핵심입니다.
또한 밥 피트 부사장은 NVIDIA의 AI 소프트웨어가 어떻게 조직의 AI 솔루션을 빠르고 효율적으로 배포해 기업이 더 빠르게 혁신하고, 여러 부문의 복잡한 문제를 해결할 수 있도록 지원하는지에 대해서도 자세히 설명했습니다.
지능형 에이전트가 자율적으로 인지하고 추론하며 행동할 수 있도록 지원해 기존 AI를 뛰어넘는 에이전틱 AI(Agentic AI)의 개념에 대해서도 소개했습니다.
부사장은 “에이전틱 AI는 추론하고, 학습하고, 행동을 취할 수 있습니다. 이는 제조, 고객 서비스, 의료와 같은 산업을 변화시킵니다”고 말했습니다.
이러한 AI 에이전트는 복잡한 작업을 자동화하고 제조, 고객 서비스, 의료와 같은 분야에서 혁신을 가속화함으로써 산업을 변화시키고 있습니다.
또한 AI 에이전트가 어떻게 기업이 의료, 제조, 과학 연구, 기후 모델링 분야에서 혁신을 주도할 수 있도록 지원하는지에 대해서도 이야기했는데요.
그는 “에이전틱 AI를 사용하면 며칠이 걸리던 일을 몇 분 만에 할 수 있습니다”고 말했습니다.
NVIDIA는 파트너사들과 협력해 질병 진단, 의료 서비스 개선, 기후 모델링 발전, 지구 밖 생명체 탐지 등 세계가 직면한 가장 큰 도전과제를 해결하고 있습니다.
밥 피트 부사장은 NVIDIA는 세티(SETI)연구소와 협력해 먼 은하계에서 발생하는 고속 전파 폭발에 대한 실시간 AI 검색을 수행해 우주 탐사를 지속할 수 있도록 돕고 있다고 말했습니다.
NVIDIA가 의료 분야에서 10조 달러 규모의 기회를 창출하고 있다고도 전했죠.
NVIDIA는 AI를 통해 질병 진단, 신약 개발, 의료 영상 분야의 혁신을 가속화해 전 세계적으로 의료 서비스를 변화시키고 있습니다.
NVIDIA Clara 의료 이미징 플랫폼과 같은 솔루션은 진단을 혁신하고 있습니다. 또한 Parabricks는 유전체학 연구 분야에서 획기적인 발전을 이루고 있으며, MONAI AI 프레임워크는 의료 이미징 기능을 발전시키고 있죠.
밥 피트 부사장은 카네기멜론대학교(Carnegie Mellon University), 피츠버그 대학교(University of Pittsburgh)를 비롯한 주요 기관과의 파트너십을 강조하며, AI 혁신과 개발을 촉진하고 있다고 말했습니다.
또한 NVIDIA와 연방 기관과의 협력에 대해서도 설명했습니다. 이 협력은 의료, 기후 모델링과 국가 안보 분야에서 AI 기반 솔루션을 발전시키는 데 있어 공공과 민간 파트너십의 중요성을 보여줍니다.
그는 새로운 NVIDIA NIM Agent Blueprint가 사이버 보안의 발전을 지원한다고 발표했습니다. 이는 업계가 AI 기반 솔루션으로 중요 인프라를 보호할 수 있도록 도울 예정입니다.
사이버 보안 분야에서 실시간 위협 탐지와 분석을 통해 조직이 중요 인프라를 보호할 수 있는 강력한 도구인 NVIDIA NIM Agent Blueprint도 집중 조명했습니다.
NVIDIA NIM Agent Blueprint는 위협 대응 시간을 며칠에서 몇 초로 단축해 산업 보호에 있어 중대한 도약을 의미합니다.
“에이전틱 시스템은 도구에 액세스하고 전체 맥락을 통해 추론하며, 클릭 한 번으로 즉각적인 평가를 제공할 수 있습니다. 이를 통해 보안 분석가는 가장 중요한 작업에 집중할 수 있고, 과중한 분석 작업은 AI가 처리해 빠르고 실행 가능한 인사이트를 제공함으로써 생산성이 향상되죠.”
NVIDIA의 가속 컴퓨팅 솔루션은 보다 정확하고 빠른 기후 모델링을 가능하게 함으로써 기후 연구를 발전시키고 있습니다. 이 기술은 과학자들이 지구 온도 모니터링부터 자연재해 예측에 이르기까지 가장 시급한 환경 문제를 해결하는 데 도움을 주고 있습니다.
기후 전문가들이 NVIDIA Earth-2 플랫폼을 통해 여러 소스에서 데이터를 가져와 NVIDIA Omniverse를 사용해 분석할 수 있는 방법을 설명하며, 그는 “NVIDIA Earth-2는 시뮬레이션 AI와 시각화의 힘을 결합해 기후와 기술 생태계를 강화합니다”고 설명했습니다.
미래 AI 인력 구축에 나선 NVIDIA
밥 피트 부사장의 키노트에 이어 NVIDIA 기업 마케팅과 개발자 프로그램 부문 부사장인 그레그 에스테스(Greg Estes)는 NVIDIA AI 테크 커뮤니티(AI Tech Community)와 같은 이니셔티브를 통해 인력 교육에 전념하고 있는 NVIDIA의 노력에 대해 강조했습니다.
NVIDIA는 DLI(Deep Learning Institute)를 통해 이미 전 세계 60만 명 이상에게 교육을 제공하며, 차세대가 AI 기반 미래를 탐색하고 주도할 수 있는 핵심 기술을 갖추도록 지원하고 있습니다.
사이버 보안과 지속 가능성에서 AI의 역할
이번 AI Summit에서 업계 리더들은 사이버 보안과 지속 가능성 분야에서 핵심 문제를 해결하는 데 AI의 역할에 대한 이야기를 나눴습니다.
미국 에너지부 장관 제니퍼 그랜홈(Jennifer Granholm)은 AI가 에너지 혁신과 과학적 발견을 어떻게 발전시키고 있는지에 대해 논의했죠.
다른 연사들은 기후 모니터링과 환경 관리에서 AI의 역할을 다루며, 글로벌 지속 가능성 문제를 해결할 수 있는 기술을 선보였습니다.
NVIDIA AI Summit에서 다뤄진 내용들을 확인해보세요.