로컬 AI는 토큰 하나하나가 쌓일수록 더 쓸모 있어지고 있습니다.
AI 에이전트가 실험 단계를 지나 일상적인 개발로 들어오는 가운데, 점점 유능해지는 오픈 모델이 더 많은 기기에 들어갈 만큼 작아지면서 개발자가 로컬에서 돌릴 수 있는 것도 늘어나고 있죠.
이달 중 NVIDIA DGX Spark에 64GB 통합 메모리 구성이 추가돼 Acer와 ASUS, Dell, Gigabyte, HP, MSI 등 주요 제조 파트너를 통해 공급됩니다. 개발자와 연구자, AI 애호가는 DGX OS와 NVIDIA AI 소프트웨어 스택이 처음부터 준비된 새 구성을 만나게 되는 셈이죠.
이 새 SKU는 유능한 로컬 에이전트를 클라우드에 기대지 않고 기기 안에서 비공개로 실행합니다. 그리고 워크로드가 커지면 별도의 설정 없이도 NVIDIA Sync Cluster Assistant로 두 대를 하나의 클러스터로 묶을 수 있습니다.
개인용 AI 슈퍼컴퓨팅의 새로운 출발점
DGX Spark는 NVIDIA Grace Blackwell 컴퓨팅과 통합 메모리, NVIDIA ConnectX-7 네트워킹, 그리고 NVIDIA CUDA 가속 AI 소프트웨어 스택을 한 시스템에 담았습니다. 에이전트와 추론, 파인 튜닝, 데이터 사이언스, 엣지 개발을 아우르는 완결된 로컬 AI 플랫폼이죠.
이 작은 개인용 AI 슈퍼컴퓨터는 작업마다 클라우드 인스턴스를 띄우지 않고도 모델과 자신의 데이터를 가지고 실험할 수 있는 공간을 제공합니다.
제조 파트너를 통해서만 공급되는 새 64GB 구성은 GB10 Grace Blackwell 슈퍼칩과 DGX OS, 전체 NVIDIA AI 소프트웨어 스택을 128GB 모델과 똑같이 유지하면서 가격 문턱을 낮췄습니다. 최대 1,000억 파라미터 모델과 그 위에 올린 에이전틱 애플리케이션을 온전히 기기 안에서 구동할 수 있죠.
64GB 두 대를 묶으면 메모리만 두 배가 되는 것이 아닙니다. NVIDIA가 진행한 Qwen 3.8 27B 테스트에서 64GB 시스템 두 대를 클러스터로 구성하자 한 대일 때보다 최대 1.7배 높은 성능이 나왔고, 워크로드가 요구하는 만큼 더 확장할 여지도 남아 있었습니다.
DGX Spark는 첫날부터 에이전트 개발에 바로 쓸 수 있는 상태로 출하됩니다. NVIDIA Agent Toolkit과 CUDA-X AI 라이브러리, Nemotron 오픈 모델은 물론 Ollama와 vLLM, CUDA를 지원하는 PyTorch 같은 인기 런타임까지 기본으로 지원하죠. 전원을 켜고 몇 분이면 모델을 돌릴 수 있습니다.
Blender는 이 플랫폼을 지원하는 첫 주요 창작 애플리케이션 공급사 중 하나로, 미리 빌드된 설치 파일을 곧 내려받을 수 있게 할 예정입니다.
NVIDIA Sync Cluster Assistant로 확장하기
개발자는 지금 프로젝트에 필요한 만큼의 메모리로 시작한 뒤, 파이프라인이 커지면 더 큰 워크로드를 위해 멀티 노드 클러스터로 매끄럽게 확장하도록 설계된 플랫폼 위에서 계속 쌓아 올릴 수 있습니다.
모든 DGX Spark에는 NVIDIA ConnectX-7 NIC가 기본으로 내장돼 출하됩니다. 여기에 두 대를 QSFP 케이블로 직접 연결하면 메모리를 128GB로 모아 최대 2,000억 파라미터 모델까지 지원하면서, 메모리 대역폭은 두 배, 성능은 최대 1.7배까지 끌어올릴 수 있죠.
NVIDIA Sync 앱은 이 멀티 노드 클러스터를 매끄럽게 구성해 줍니다. 클러스터 어시스턴트 기능이 연결된 장치를 감지하고 장치 구성을 검증한 뒤 ConnectX-7 네트워크까지 설정하므로, 개발자는 인프라가 아니라 자기 일에 집중할 수 있는데요. 모든 노드가 동일한 NVIDIA 소프트웨어 스택으로 돌아가기 때문에 한 대에서 두 대로 확장할 때 다시 설정할 것이 없습니다.
이달 말에는 NVIDIA Sync Model Launcher가 나와 로컬 AI 실행을 버튼 몇 번 누르는 일로 바꿔 놓습니다. 개발자는 DGX Spark 한 대 또는 클러스터에 Qwen3.8 27B를 내려받아 실행할 수 있고, NVIDIA Sync가 연결된 장치 전반에 걸쳐 모델을 구성해 노트북에서도 접근할 수 있게 해 주죠. 런처는 OpenCode가 해당 모델을 쓰도록 설정해 주기도 해서, 개발자는 브라우저에서 바로 코딩을 시작할 수 있습니다.
DGX Spark로 할 수 있는 개발 사례
새로운 DGX Spark 64GB 구성은 첫날부터 실질적인 작업을 뒷받침합니다. 최대 1,000억 파라미터 모델을 전부 기기 안에서 돌릴 수 있어, 개발자와 애호가는 메모리에 들어가는 모델이라면 한 대로 시작할 수도 있고, 더 많은 메모리와 컴퓨팅이 필요한 워크로드라면 NVIDIA Sync Cluster Assistant로 여러 대를 연결할 수도 있죠.
워크플로우 예시 세 가지를 소개합니다.
- AI 에이전트를 24시간 돌리기: 코딩이나 리서치 에이전트를 DGX Spark에서 계속 띄워 두고 코드 리뷰, 문서 분석, 다단계 작업 수행에 대비할 수 있습니다. 클러스터로 묶으면 더 큰 모델이나 더 긴 컨텍스트 창, 또는 여러 에이전트를 동시에 돌릴 여유가 생깁니다.
- 평소 쓰는 PC에서 AI 앱 구동하기: 언어 모델이나 이미지 생성 모델은 DGX Spark에서 돌리고, 에이전트나 창작 애플리케이션은 노트북·데스크톱에서 쓰는 방식입니다. DGX Spark가 모델 추론을 맡아 주니 PC는 다른 작업에 쓸 수 있죠.
- 작업이 커지면 확장하기: 더 큰 모델이나 더 긴 컨텍스트 창, 동시에 들어오는 에이전트 요청처럼 한 대로 감당하기 어려워지면, DGX Spark 64GB 두 대를 200GbE 패브릭으로 NVIDIA Sync Cluster Assistant를 통해 연결해 메모리를 128GB로 모읍니다. 한 대에서 돌아가던 워크플로우가 소프트웨어 환경을 다시 구성할 필요 없이 두 대로 확장되죠.
DGX Spark 시작하기
DGX Spark 64GB는 10월 23일 금요일부터 Acer와 ASUS, Dell, Gigabyte, HP, MSI를 통해 4,999달러부터 공급됩니다.
시작하는 방법은 다음과 같습니다.
- 지원되는 추론 프레임워크(llama.cpp, Ollama, vLLM, LM Studio 중 하나)를 내려받습니다.
- 해당 워크플로우에 권장되는 로컬 모델을 내려받습니다.
- 두 대로 확장하려면 NVIDIA ConnectX-7 포트로 서로 연결한 뒤 NVIDIA Sync Cluster Assistant를 실행합니다. 네트워크 설정과 워크로드 분배는 자동으로 이뤄집니다.
DGX Spark용 에이전틱 AI 플레이북은 build.nvidia.com의 NemoClaw와 OpenClaw, Hermes Agent, OpenShell 페이지에서 확인할 수 있습니다.
#ICYMI: NVIDIA 로컬 AI 소식 더 보기
DGX Spark용 플레이북은 build.nvidia.com/spark에서 살펴보세요. 아래 플레이북이 곧 64GB 기기에도 제공될 예정입니다.
- vLLM으로 LLM 서빙하기
- 로컬 LLM으로 OpenClaw 실행하기
- 분산 워크로드를 위해 여러 DGX Spark 연결하기
NVIDIA RTX Spark 기반의 새로운 윈도우 PC가 이달 중 Acer와 ASUS, Dell, HP, Lenovo, Microsoft, MSI를 통해 출시됩니다. 앞으로의 소식을 받아 보려면 RTX Spark 뉴스레터를 구독하세요.
Alibaba의 Qwen-Image-2.1은 이미지 생성과 편집을 가벼운 개방형 가중치 모델 하나에 묶어 냅니다. NVIDIA RTX GPU와 DGX Spark, DGX Station에서 로컬로 구동되므로 크리에이터는 자기 하드웨어에서 이미지를 만들고 다듬을 길이 더 넓어지죠.
NVIDIA RTX Spark를 X와 Instagram, TikTok, Facebook에서 팔로우하고, NVIDIA 로컬 AI 뉴스레터를 구독해 소식을 받아 보세요. NVIDIA Workstation은 LinkedIn과 X에서 팔로우할 수 있습니다.
소프트웨어 제품 정보에 관한 고지를 참고하세요.