NVIDIA® Project DIGITS를 공개합니다. NVIDIA® Project DIGITS는 개인용 AI 슈퍼컴퓨터로, 전 세계 AI 연구자와 데이터 사이언티스트, 학생에게 NVIDIA Grace Blackwell 플랫폼의 성능을 제공합니다.
Project DIGITS는 새로운 NVIDIA GB10 Grace Blackwell 슈퍼칩을 탑재했습니다. 이 슈퍼칩은 대규모 AI 모델의 프로토타이핑, 미세 조정, 실행을 위한 페타플롭의 AI 컴퓨팅 성능을 제공하죠.
사용자는 Project DIGITS를 통해 자체 데스크톱 시스템으로 모델에서 추론을 개발하고 실행한 다음, 가속화된 클라우드 또는 데이터센터 인프라에 모델을 원활하게 배포할 수 있습니다.
NVIDIA 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “AI는 모든 산업의 모든 애플리케이션에서 주류가 될 것입니다. Project DIGITS를 통해 수백만 명의 개발자에게 Grace Blackwell 슈퍼칩을 제공할 수 있게 됐습니다. 모든 데이터 사이언티스트, AI 연구원, 학생의 책상에 AI 슈퍼컴퓨터를 배치함으로써 NVIDIA는 이들이 AI 시대에 참여하고 시대를 만들어 나갈 수 있도록 지원할 것”이라고 말했습니다.
페타플롭의 전력 효율적인 AI 성능을 제공하는 GB10 슈퍼칩
GB10 슈퍼칩은 NVIDIA Grace Blackwell 아키텍처 기반의 시스템 온 칩(SoC)으로, FP4 정밀도에서 최대 1페타플롭의 AI 성능을 제공합니다.
GB10은 최신 세대 CUDA® 코어와 5세대 Tensor 코어를 갖춘 NVIDIA Blackwell GPU를 탑재합니다. NVLink®-C2C 칩-투-칩 인터커넥트를 통해 Arm 아키텍처로 제작된 20개의 전력 효율적인 코어를 포함하는 고성능 NVIDIA Grace™ CPU에 연결됩니다. Arm 기반 SoC 설계 분야 시장 리더인 미디어텍(MediaTek)이 GB10 설계에 협력해 동급 최고의 전력 효율, 성능, 연결성에 기여했습니다.
GB10 슈퍼칩을 사용하면 표준 전기 콘센트만으로도 강력한 성능을 구현할 수 있습니다. 각 Project DIGITS는 128GB의 통합된 일관된 메모리와 최대 4TB의 NVMe 스토리지를 갖추고 있는데요. 개발자는 이 슈퍼컴퓨터를 통해 최대 2천억 파라미터의 거대 언어 모델(LLM)을 실행해 AI 혁신을 가속화할 수 있습니다. 또한, NVIDIA ConnectX® 네트워킹을 통해 두 대의 Project DIGITS AI 슈퍼컴퓨터를 연결해 최대 4,050억 개의 파라미터 모델을 실행할 수 있습니다.
손쉽게 이용 가능한 Grace Blackwell AI 슈퍼컴퓨팅
기업과 연구자들은 Grace Blackwell 아키텍처를 통해 리눅스(Linux) 기반 NVIDIA DGX OS를 실행하는 로컬 Project DIGITS 시스템에서 모델을 프로토타이핑, 미세 조정, 테스트할 수 있습니다. 그 다음에는 NVIDIA DGX Cloud™, 가속화된 클라우드 인스턴스 또는 데이터센터 인프라에 원활하게 배포할 수 있죠.
이를 통해 개발자는 동일한 Grace Blackwell 아키텍처와 NVIDIA AI Enterprise 소프트웨어 플랫폼을 사용해 Project DIGITS에서 AI를 프로토타이핑한 다음, 클라우드 또는 데이터센터 인프라에서 확장할 수 있습니다.
Project DIGITS 사용자는 실험과 프로토타이핑을 위한 광범위한 NVIDIA AI 소프트웨어 라이브러리에 액세스할 수 있습니다. 여기에는 NVIDIA NGC 카탈로그와 NVIDIA Developer 포털에서 제공되는 소프트웨어 개발 키트, 오케스트레이션 도구, 프레임워크, 모델이 포함됩니다. 개발자는 NVIDIA NeMo™ 프레임워크로 모델을 미세 조정하고, NVIDIA RAPIDS™ 라이브러리로 데이터 사이언스를 가속화하며, 파이토치(PyTorch), 파이썬(Python), 주피터(Jupyter) 노트북과 같은 일반적인 프레임워크를 실행할 수 있습니다.
사용자는 에이전트 AI 애플리케이션 구축을 위해 NVIDIA Blueprints와 NVIDIA NIM™ 마이크로서비스를 활용할 수 있습니다. 이를 통해 NVIDIA 개발자 프로그램으로 연구, 개발, 테스트가 가능하죠. AI 애플리케이션이 실험 단계에서 생산 환경으로 전환할 준비가 되면, NVIDIA AI Enterprise 라이선스를 통해 엔터프라이즈급 보안, 지원, NVIDIA AI 소프트웨어의 제품 릴리스를 제공합니다.
더 알아보기
Project DIGITS는 올해 5월부터 NVIDIA와 주요 파트너를 통해 $3,000부터 구매할 수 있습니다. 알림을 신청해 보세요.