새로운 개인용 AI 슈퍼컴퓨터, ‘DGX Spark’와 ‘DGX Station’ 공개

Grace Blackwell 플랫폼을 기반으로 한 NVIDIA DGX™ 개인용 AI 슈퍼컴퓨터 DGX Spark와 DGX Station™을 발표합니다!

DGX Spark(구 Project DIGITS)와 DGX Station™은 Blackwell Ultra 플랫폼을 기반으로 한 고성능 Grace Blackwell 데스크톱 슈퍼컴퓨터입니다. 이들은 AI 개발자, 연구자, 데이터 사이언티스트, 학생이 데스크톱에서 대규모 모델을 프로토타입 제작, 미세 조정, 추론할 수 있도록 지원합니다. 사용자는 이러한 모델을 로컬에서 실행하거나, NVIDIA DGX Cloud, 기타 가속 클라우드, 데이터센터 인프라에 배포할 수 있습니다.

DGX Spark와 DGX Station은 기존에 데이터센터에서만 사용할 수 있었던 Grace Blackwell 아키텍처의 강력한 성능을 데스크톱으로 가져옵니다. DGX Spark와 DGX Station을 개발하는 글로벌 시스템 빌더로는 에이수스(ASUS), 델 테크놀로지스(Dell Technologies), HP(HP Inc), 레노버(Lenovo) 등이 있습니다.

NVIDIA 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “AI는 컴퓨팅 스택의 모든 계층을 변화시키고 있다”고 말했습니다. “AI 네이티브 개발자와 AI 네이티브 애플리케이션을 위해 설계된 새로운 유형의 컴퓨터가 등장하는 것은 필연적인 일입니다. 새로운 DGX 개인용 AI 컴퓨터를 통해 AI가 클라우드 서비스부터 데스크톱, 엣지 애플리케이션까지 확장될 것입니다.”

DGX Spark로 혁신 가속

DGX Spark는 세계에서 가장 작은 AI 슈퍼컴퓨터로, 수백만 명의 연구자, 데이터 사이언티스트, 로봇 개발자, 학생에게 엄청난 성능과 기능을 제공하는데요. 이를 통해 생성형 AI와 물리 AI의 한계를 뛰어넘을 수 있도록 지원합니다.

DGX Spark의 핵심은 데스크톱 폼 팩터에 최적화된 NVIDIA GB10 Grace Blackwell 슈퍼칩입니다. GB10은 5세대 Tensor 코어와 FP4를 지원하는 강력한 Blackwell GPU를 탑재해, 초당 최대 1,000조 회의 연산을 수행할 수 있습니다. 또한, NVIDIA Cosmos-Reason 월드 파운데이션 모델(World Foundation Model, WFM)과 NVIDIA GR00T N1 로봇 파운데이션 모델을 비롯한 최신 AI 추론 모델을 통해 미세 조정과 추론을 수행할 수 있습니다.

GB10 슈퍼칩은 NVIDIA NVLink™-C2C 상호 연결 기술을 사용해, 5세대 PCIe 대비 5배 높은 대역폭을 지원하는 CPU+GPU 코히어런트 메모리 모델을 구현하는데요. 이를 통해 GPU와 CPU 간 데이터에 액세스해 메모리 집약형 AI 개발자 워크로드 성능을 최적화할 수 있습니다.

DGX Spark 사용자는 NVIDIA의 풀스택 AI 플랫폼을 사용해 코드를 거의 변경하지 않고도 데스크톱에서 DGX Cloud 또는 기타 가속화된 클라우드나 데이터센터 인프라로 모델을 원활하게 이동할 수 있죠. 그 어느 때보다도 쉽게 워크플로우의 프로토타이핑, 미세 조정, 반복 작업을 수행할 수 있게 됐습니다.

DGX Station으로 빨라지는 AI 개발

NVIDIA DGX Station은 데스크톱에 AI 개발을 위한 데이터센터 수준의 성능을 구현합니다. 이는 NVIDIA GB300 Grace Blackwell Ultra Desktop 슈퍼칩이 탑재된 최초의 데스크톱 시스템입니다. 대규모 훈련과 추론 워크로드 가속화를 위한 784GB의 대용량 코히어런트 메모리 공간을 갖추고 있죠. GB300 Desktop 슈퍼칩은 최신 세대 Tensor 코어와 FP4 정밀도를 갖춘 NVIDIA Blackwell Ultra GPU를 탑재하고 있습니다. 또한 NVLink-C2C를 통해 고성능 NVIDIA Grace™ CPU에 연결돼 동급 최고의 시스템 통신과 성능을 지원합니다.

DGX Station은 또한 하이퍼스케일 AI 컴퓨팅 워크로드를 강화하도록 최적화된 NVIDIA ConnectX®-8 SuperNIC를 갖추고 있는데요. 초당 최대 800기가비트(Gb/s)의 네트워킹을 지원하는 ConnectX-8 SuperNIC는 매우 빠르고 효율적인 네트워크 연결을 제공합니다. 이를 통해 보다 큰 워크로드에서도 다수의 DGX Station을 고속 연결하고, AI 워크로드를 위한 네트워크 가속 데이터 전송을 구현합니다.

이러한 최첨단 DGX Station 기능과 NVIDIA CUDA-X™ AI 플랫폼을 결합하면 탁월한 데스크톱 AI 개발 성능을 확보할 수 있습니다.

또한 사용자는 NVIDIA AI Enterprise 소프트웨어 플랫폼을 사용해 NVIDIA NIM™ 마이크로서비스에 액세스할 수 있는데요. 이를 통해 엔터프라이즈 지원이 포함된 고도로 최적화되고 배포하기 쉬운 추론 마이크로서비스를 사용할 수 있습니다.