NVIDIA가 새롭게 출시한 65개 가속 컴퓨팅 라이브러리 살펴보기

양자 컴퓨팅 가속화, 라스트 마일 배송, PyData 에코시스템용 슈퍼 컴퓨팅과 150개 이상의 제품 카탈로그를 더욱 강화하기 위한 65개의 소프트웨어 개발 키트 출시
11월 11, 2021 by NVIDIA Korea

NVIDIA는 향상된 기능과 능력을 제공하는 라이브러리, 코드 샘플 및 가이드를 포함하여 업데이트된 신규 소프트웨어 개발 키트 65개를 소개합니다! 이는 광범위한 컴퓨팅 도전과제 해결에 앞장선 데이터 사이언티스트, 연구원들, 학생들, 개발자들을 위해 출시되었는데요.

NVIDIA 창립자 겸 CEO 젠슨 황(Jensen Huang)이 GTC 키노트에서 발표한 추가 내용에는 양자 컴퓨팅 가속화, 라스트 마일 배송(last-mile delivery) 알고리즘, 그래프 신경망 마이닝(mining)을 위한 차세대 소프트웨어 개발 키트(SDK)가 포함됐습니다.

150개가 넘는 가속 컴퓨팅 키트의 카탈로그는 NVIDIA의 개발자 프로그램에 속한 약 300만 명의 회원이 사용하고 있는데요. 가입 회원수는 지난 5년간 6배 이상 증가했죠. 병렬 컴퓨팅 플랫폼이자 프로그래밍 모델인 CUDA의 다운로드 건수는 작년 한 해에만 700만건이었고, 출시 이후 총 다운로드 건수는 현재 3000만건에 달합니다.

신규 시장 진출

신규 소프트웨어 개발 키트(SDK) 일부는 다음과 같습니다.

  • NVIDIA ReOpt는 실시간 물류를 위한 SDK로, 차량 경로, 물류창고 선택, 수송차량 혼합을 최적화하는 고급 대규모 병렬 알고리즘을 도입합니다. 동적 경로 변경 기능은 이동 시간 단축, 연료 비용 절약, 유휴 기간 최소화를 통해 물류와 공급망 산업에 수십억 달러를 절약해줍니다.
  • cuNumeric은 어레이 컴퓨팅을 위한 SDK입니다. 코드 변경이 필요 없는 다중 GPU, 다중 노드 시스템으로 자동 확장(scaling) 해주는 NumPy 애플리케이션 프로그래밍 인터페이스를 구현합니다. 이는 파이썬(Python)을 사용하는 데이터 사이언티스트, 연구원, 과학자로 구성된 2천만 명 규모의 커뮤니티 가치를 제공하죠. 현재 깃허브(GitHub)와 Conda에서 사용할 수 있는 이 소프트웨어 키트(SDK)는 수천 개의 GPU로 확장되어 PyData와 넘파이(NumPy) 생태계를 위한 가속 컴퓨팅을 생성합니다.
  • cuQuantum는 양자 컴퓨팅을 위한 SDK로, 큰 양자 회로를 획기적으로 빠르게 시뮬레이션하여 양자 연구자가 연구할 수 있는 알고리즘과 응용 프로그램의 범위를 확장합니다. 개발자는 내결함성을 파악하기 위해 분자에 대한 단기 변이 양자 알고리즘, 오류 수정 알고리즘과 같은 영역을 시뮬레이션합니다. 또한 아토스(Atos), 구글(Google), IBM의 인기 있는 양자 시뮬레이터를 가속화할 수 있습니다.
  • CUDA-X 가속 DGL 컨테이너는 그래프 신경망(GNN, graph neural network)을 위한 SDK로, 그래프 신경망(GNN)에서 대용량 그래프로 작업하는 개발자와 데이터 사이언티스트를 위해 작업 환경을 신속하게 만들어줍니다. 컨테이너를 사용하면 DGL과 파이토치(Pytorch)를 결합한 통합 GPU 가속 GNN 환경에서 쉽게 작업할 수 있습니다. 또한 GPU 가속 GNN을 사용하면 단일 그래프로 1조 엣지에 달하는 세상에서 가장 큰 그래프도 마이닝하여 인사이트를 제공할 수 있습니다. 예를 들어 핀터레스트(Pinterest)는 모델 훈련과 추론을 위해 GPU와 최적화된 라이브러리를 기반으로 수십억 개의 노드와 엣지가 있는 그래프 신경망을 통해 3,000억 개 이상의 핀(Pin) 생태계를 다루고 있습니다.

아마존 웹서비스(Amazon Web Services)의 머신 러닝 책임자인 알렉스 스몰라(Alex Smola)는 “저희 팀은 그래프 구성용 RAPIDS cuDF, 그래프 샘플링용 RAPIDS cuGraph와 그래프 신경망용 사용자 컴퓨팅 커널을 통한 DGL 가속화에 NVIDIA와 협력하게 되어 기쁩니다. 오픈 소스 DGL은 아마존 NeptuneML을 통한 관리형 서비스로도 이용 가능합니다”라고 전했습니다.

업데이트된 소프트웨어 개발 키트(SDK)로 애플리케이션 개발 가속화

NVIDIA에서 가장 인기 있는 소프트웨어 개발 키트인 Clara, DLSS, RTX, Nsight, Isaac을 포함해 여러 소프트웨어 개발 키트에 대해 기능이 향상되고 업그레이드됐습니다.

추가로 업데이트된 소프트웨어 개발 키트는 다음과 같습니다.

  • RAPIDS 21.10는 데이터 사이언스 분야 SDK로, 시계열 데이터로 작업하고 기존 알고리즘에 몇 가지 속도를 향상시키는 새로운 기능을 제공합니다. Apache Spark 3.0용 RAPIDS Accelerator를 사용하면, 코드 변경 없이 NVIDIA GPU에서 분석 작업을 가속화할 수 있습니다. RAPIDS 다운로드 건수는 올해 400% 증가했고, NVIDIA의 가장 인기 있는 SDK 중 하나가 됐습니다.
  • Deepstream 6.0은 지능형 비디오 분석을 위한 SDK입니다. 최소한의 코딩 기능을 갖춘 사용자가 컴퓨터 비전에 액세스할 수 있는 새로운 그래프 작성기 인터페이스(graph composer interface)와 단순하고 직관적인 인공지능(AI) 제품 개발을 위한 시각적 드래그-앤-드롭 인터페이스(drag-and-drop interface)를 도입했습니다.
  • Triton 2.15, TensorRT 8.2와 cuDNN 8.4는 심층 신경망을 위한 SDK로, 대형 언어 모델을 새롭게 최적화하고, GBDT(Gradient-boosted decision tree)와 랜덤 포레스트(random forest)에 대한 추론 가속을 제공합니다.
  • DOCA 1.2는 데이터센터 네트워킹을 위한 SDK입니다. 하드웨어와 소프트웨어 인증, 라인 레이트(line-rate) 데이터 암호화, 분산 방화벽, 스마트 원격 측정을 통해 위협에 대한 보호기능을 강화한 제로 트러스트(Zero-trust) 보안 프레임워크를 제공합니다.
  • Merlin 0.8은 추천 시스템을 위한 SDK로, 사용자 데이터가 거의 없거나 전혀 없는 상태에서 사용자의 다음 행동을 예측하는 신규 기능을 제공하며 GPU 메모리보다 더욱 큰 모델을 지원합니다.

소프트웨어 개발 키트(SDK)를 위한 신규 교육 과정

인터내셔널 데이터 코퍼레이션(IDC)은 전세계적으로 부족한 전업 개발자들의 수를 2021년 140만 명에서 2025년 400만 명까지 증가할 것으로 예측합니다. 이 분석기관은 개발자 공급 부족을 해소하려면 교육과 역량을 강화하는 인프라를 구축하는 것이 장기적인 해결책이 될 것이라고 믿고 있죠.

개발자 교육과 SDK 사용을 지원하고 가속하는 NVIDIA 딥 러닝 인스티튜트(Deep Learning Institute)의 새로운 과정 2개가 40개 이상의 과정으로 구성된 딥 러닝 인스티튜트(DLI) 카탈로그에 추가됩니다.

  • ‘DPU용 DOCA 소개’는 NVIDIA BlueField DPU에서 가속화된 데이터센터 컴퓨팅을 위한 지원 플랫폼인 NVIDIA DOCA의 기본 개념을 개발자, 연구원, 학생이 스스로 배울 수 있도록 구성된 학습 과정입니다.
  • ‘실시간 비디오 AI 애플리케이션 구축하기’는 이번 달 말에 제공되는 교육과정입니다. NVIDIA DeepStream 지능형 비디오 분석과 NVIDIA TAO 툴킷을 통해 고성능 스트리밍 파이프라인 구축을 위한 하드웨어 가속 구성 요소를 구현하면서 미가공 비디오 데이터에서 실시간 딥 러닝 기반으로 인사이트를 추출하는 내용을 다룹니다.

신규 소프트웨어 개발 키트(SDK)에 관한 딥 러닝 인스티튜트(DLI) 과정 중 몇 가지는 다음과 같습니다.

Enterprise AI용 소프트웨어 개발 키트(SDK)

Triton과 RAPIDS 등의 소프트웨어 개발 키트를 포함한 NVIDIA AI 엔터프라이즈용 소프트웨어 제품군은 메인스트림 가속 서버에서 실행되며 NVIDIA에서 최적화, 인증, 지원됩니다. 개발자는 NVIDIA LaunchPad 프로그램을 활용해 큐레이션된 랩(curated lab)에서 NVIDIA AI Enterprise를 경험할 수 있습니다.

더욱 더 자세한 내용은 NVIDIA 개발자 영역에서 확인하세요!

아래 영상을 클릭해 NVIDIA CEO 젠슨 황의 GTC 키노트도 시청해보세요.