NVIDIA가 Nemotron 3.5 Super VL을 공개했습니다. 특화된 상시 가동 에이전트를 위해 가장 빠른 작업 완료 속도와 가장 높은 정확도를 제공하는 1,200억 파라미터 오픈 모델이죠.
여기에 두 가지 새로운 엣지 모델이 더해집니다. 로컬 에이전틱 워크로드를 위해 GB당 지능과 속도의 균형을 맞춘 Nemotron 3.5 Bolt 74B-A9B 24GB, 그리고 빠른 대화형 에이전트를 위해 GB당 지능을 최적화한 Nemotron 3.5 Bolt E4B 4GB입니다.
Super VL과 Bolt 74B-A9B는 지금 바로 쓸 수 있고, Bolt E4B는 10월 23일 공개됩니다.
이들 세 가지 오픈 모델은 대규모 엔터프라이즈 서버부터 엣지 기기와 로컬 하드웨어까지 에이전트 배포의 전 영역을 아우릅니다.
이제 NVIDIA 인프라에서 에이전트를 돌리려는 조직은 역량과 배포 용이성 사이에서 고민할 필요 없이, 자신의 계층에 맞는 개방형 최적화 모델을 쓸 수 있습니다.
Super VL과 Bolt는 Lightning, Ultra와 함께 Nemotron 제품군에 합류합니다. 8월 공개된 Lightning은 높은 처리량이 필요한 워크로드를, Ultra는 가장 어려운 리즈닝 작업을 맡고, Bolt는 엣지에 지능을 가져다주죠.
Nemotron 3.5 Super VL: 5분의 1 크기로 구현한 프런티어급 정확도
Super VL은 Nemotron Coalition과 협력해 만든 모델로, 지시 수행과 도구 사용, 다단계 비즈니스 워크플로우, 시각 이해 같은 멀티모달 에이전틱 작업에서 선도적인 정확도를 보여 줍니다. 파라미터 수가 NVIDIA의 가장 큰 리즈닝 모델의 약 5분의 1인데도 그에 견줄 만한 수준이죠.
Nemotron 3.5 Super VL은 대량 에이전틱 워크플로우를 위해 동급 최고 수준의 프런티어급 지능을 제공합니다.
동급에서 가장 빠른 오픈 에이전틱 모델로 그다음으로 빠른 모델보다 5배 빠른데요. 덕분에 엔터프라이즈 에이전트가 며칠에서 몇 주에 걸친 워크플로우 전반에서 대량의 작업을 더 빨리 끝낼 수 있습니다.
Artificial Analysis Intelligence Index 리더보드에 오른 Nemotron 3.5 Super VL은 동급 모델 대비 최대 5배 높은 처리량을 달성합니다.
폐쇄형 프런티어 모델과 달리 조직은 Super VL을 자체 데이터로 포스트트레이닝하고, 자체 인프라에 배포하며, 자신이 만든 것을 직접 관리할 수 있습니다.
Nemotron 3.5 Bolt: 엣지에서 구현하는 에이전틱 지능
Bolt 74B-A9B 24GB는 NVIDIA RTX/DGX Spark에서 일상적인 에이전틱 작업을 로컬로 처리하도록 설계됐습니다. 네이티브 2비트 양자화로 24GB 메모리에 들어가 다른 애플리케이션과 나란히 돌아가죠.
비슷한 메모리를 쓰는 다른 모델과 견주면 지능과 속도의 균형이 좋습니다. 대부분의 일을 끝낼 만큼 똑똑하면서도, 가장 똑똑한 모델들보다 훨씬 빠르죠.
Bolt 74B-A9B 24GB를 쓰면 웹 리서치부터 글쓰기, 코드 디버깅까지 널리 쓰이는 로컬 에이전트 하네스에 프로젝트를 맡길 수 있습니다. 그 워크로드를 클라우드로 보내지 않고도 말이죠. 이 모델은 PinchBench에서 동급 개방형 모델 1위, BrowseComp에서 개방형 모델 2위에 올라 있습니다.
Bolt E4B 4GB는 GeForce RTX와 Jetson, RTX/DGX Spark에서 돌아가는 피지컬·대화형 에이전트를 위해 만들어졌습니다. 자연스러운 대화와 멀티턴 에이전틱 역량을 결합해 빠른 로컬 음성 어시스턴트와 인터랙티브 캐릭터, 임베디드 인터페이스를 구동하죠.
확산되는 맞춤형 슈퍼 인텔리전스
여러 산업의 수십 개 조직이 자체 데이터와 도구, 정책, 워크플로우로 Super VL을 포스트트레이닝하며, 각자의 에이전트 배포를 규정하는 특화 작업에서 정확도를 더 끌어올리고 있습니다.
Scale AI는 Skydance의 공급업체 여신 금융 에이전트와 EY의 M&A 실사 에이전트를 위해 이 모델을 포스트트레이닝했습니다. AfterQuery는 Hebbia의 신용 계약 분석용으로 모델을 맞춤 구성했고요. AI21과 Alice는 사이버 공격 대응력을 높이기 위해 모델을 포스트트레이닝했습니다. Mercor는 계획을 세우고 코드를 작성하고 디버깅하는 코딩 에이전트를 위해 APEX-SWE 코딩 벤치마크로 모델을 포스트트레이닝했죠. ModelScope는 ms-swift 프레임워크를 통해 개발자가 특화 멀티모달 애플리케이션용으로 모델을 파인튜닝할 수 있게 합니다.
Nemotron 3.5 Super VL을 맞춤 구성하는 조직은 더 있습니다. 금융 문서 인텔리전스를 맡은 Ramp, 소버린 AI 기반 사이버보안 연구와 취약점 분석에 나선 Dream, 과학적 발견과 탐색을 겨냥한 Lila Sciences, 의료 청구 분석과 수익 주기 관리를 다루는 R1 등이죠. TrainLoop은 Nolla의 피부과 데이터로 모델을 포스트트레이닝했는데요. Nolla는 AI가 초진 처방을 작성하도록 승인받은 최초의 기업입니다.
Nemotron 3.5 Super VL을 통합하고 있는 소프트웨어 플랫폼 기업은 다음과 같습니다.
- Atlassian: Jira와 Confluence 같은 앱을 넘나드는 에이전틱 검색 등의 작업에 활용합니다.
- CrowdStrike: 엔터프라이즈 보안의 에이전틱 블루팀 운영을 위해 모델을 맞춤 구성하고 있습니다.
- Dassault Systèmes: 엔지니어링 설계와 시뮬레이션을 구동합니다.
- Perplexity: Perplexity Search와 Computer의 검색과 에이전틱 작업에 씁니다.
- Salesforce: Missionforce Operations를 통해 안전한 고객 환경에서 복잡한 정부 워크플로우를 디지털화하고 자동화하는 AI 에이전트를 구동하기 위해 Nemotron을 맞춤 구성하고 있습니다.
- Synopsys: 반도체 설계 검증 소프트웨어가 이 모델과 연동됩니다.
Nemotron 3.5 Super VL은 실제로 무엇을 보는가
Nemotron 3.5 Super VL의 비전 언어 역량은 에이전트가 현장에서 마주하는 것들을 겨냥합니다. 광학 문자 인식(OCR)과 표, 차트, 그리고 시각 문서 속 구조화된 정보죠.
이 모델은 웹 페이지를 처리해 텍스트를 추출하고 그래프와 차트를 읽어 낸 뒤 거기서 얻은 인사이트를 돌려줍니다. 에이전트가 흔히 다루는 PDF와 각종 문서에도 똑같이 적용되고요.
Nemotron 3.5 Super VL은 이미지와 웹페이지, PDF를 이해하고 그 이해를 바탕으로 행동합니다. 텍스트 이해와 시각 이해를 한 모델에 담았다는 것은 에이전트가 작업을 서로 다른 시스템으로 넘길 필요가 없다는 뜻인데요. 문서에서 데이터로, 다시 의사결정으로 일이 옮겨 가는 동안 맥락이 그대로 이어집니다.
최대한의 통제권과 보안, 프라이버시를 위한 개방
개방성과 맞춤 구성은 서로를 강화합니다. 이 모델은 개방형 가중치와 공개 데이터셋, 학습 레시피와 함께 제공되죠.
통제권은 두 방향으로 작동합니다. 조직은 자사의 보안·데이터 소재지 요건에 맞는 곳이라면 어디서든 모델을 돌릴 수 있습니다. 또한 공급자의 제약을 받는 모델 대신 직접 손볼 수 있는 모델을 택할 수도 있고요.
예를 들어 보험에서는 맞춤 구성한 에이전트가 청구 건을 반복해서 훑으며 사기 징후를 찾아낼 수 있습니다. 금융 서비스에서는 에이전트가 신용 점수를 검토하고 자사 대출 기준에 비춰 의심스러운 활동을 표시할 수 있죠. 모델은 온프레미스에 머물고, 데이터는 외부로 나가지 않습니다.
NVIDIA NeMo와 Python 기반 파이프라인, 공개 데이터셋이 맞춤 구성을 뒷받침합니다.
Nemotron 3.5 Super VL은 사전 학습과 이어지는 추가 사전 학습을 통해 약 26조 토큰으로 학습됐고, 이후 약 380만 개 샘플과 수십 가지 환경에 걸친 강화 학습으로 포스트트레이닝을 거쳤습니다.
NVIDIA는 에이전틱 도구 사용과 금융, 지시 수행, 롱 컨텍스트, 공정성, 비전 언어 이해를 아우르는 공개 데이터셋도 Hugging Face에 내놓고 있으며, NeMo Gym의 강화 학습 환경도 함께 공개합니다.
NVIDIA NIM은 이 모델을 프로덕션에 바로 쓸 수 있는 마이크로서비스로 패키징합니다. 성능이 최적화된 검증 구성과 엔터프라이즈급 지원이 함께 제공되며, 2주마다 보안 패치와 성능 개선이 반영되죠.
NVIDIA Dynamo에서 이 모델을 구동하면 지연 시간을 85% 낮추면서 최대 8배 많은 사용자에게 서비스할 수 있습니다.
Nemotron 3.5 Super VL은 지금 Hugging Face와 Open Router, ModelScope 커뮤니티에서, 그리고 NVIDIA NIM으로 이용할 수 있습니다.
DGX Spark와 DGX Station, RTX에서 구동되다
Nemotron 3.5 Super VL은 NVIDIA의 하드웨어 스택 전반에서 돌아갑니다. 데스크톱에서 로컬 지능을 제공하는 DGX Spark와 DGX Station, RTX PRO 및 RTX 시스템은 물론, 엣지의 NVIDIA Jetson, 그리고 데이터센터와 클라우드 환경까지 아우르죠.
Nemotron 3.5 Bolt 74B-A9B 24GB는 지금 Hugging Face에서 받을 수 있으며 llama.cpp와 Ollama, LM Studio, Unsloth, vLLM을 지원합니다. 10월 16일 출시된 NVIDIA RTX Spark 노트북에 맞춰 만들어졌고, GeForce RTX PC와 DGX Spark, DGX Station, RTX PRO 워크스테이션에서도 구동됩니다.
개방형 가중치를 내려받고 NVIDIA NeMo로 맞춤 구성 자료를 살펴보거나, 전체 아키텍처를 자세히 뜯어본 기술 블로그를 읽어 보세요.
에이전트와 NVIDIA Nemotron 소식은 NVIDIA 뉴스 구독과 커뮤니티 참여로 계속 받아 보고, LinkedIn과 Instagram, X, Facebook에서 NVIDIA AI를 팔로우하세요.
자기주도 영상 튜토리얼과 라이브스트림도 살펴보세요.
소프트웨어 제품 정보에 관한 고지를 확인하세요.