Open Secret: NVIDIA의 Nemotron 모델, 데이터셋 및 기술이 AI 개발을 이끄는 방식

Nemotron 오픈소스 기술 제품군은 개발자와 기업이 범용 및 특화된 인공지능을 효과적으로 구축할 수 있도록 지원합니다.
9월 26, 2025 by NVIDIA Korea

개발자와 기업이 자유롭게 도입하고 수정하며 혁신할 수 있는 오픈 기술은 인터넷의 탄생부터 클라우드 컴퓨팅 초기까지 모든 주요 기술 변화의 기반이 되어 왔으며, AI도 이러한 흐름을 이어가야 합니다.

이런 흐름 속에서 NVIDIA는 누구나 활용할 수 있는 멀티모달 AI 모델, 데이터셋, 그리고 기술들을 하나로 묶은 ‘NVIDIA Nemotron’ 제품군을 공개했습니다. Nemotron은 연구부터 상업적 활용까지 폭넓게 적용 가능하며, 로컬 PC에서 대규모 엔터프라이즈 환경까지 사용할 수 있도록 설계되었습니다. 개발자들은 GitHub, Hugging Face, OpenRouter.를 통해 손쉽게 Nemotron을 시작할 수 있습니다.

Nemotron은 오픈소스 학습 데이터를 기반으로 학습된 모델을 제공해, 개발자, 스타트업, 대기업 등 다양한 조직이 AI를 구축하고 활용할 수 있도록 지원합니다. 또한 맞춤화부터 배포까지 개발 전 과정을 가속화할 수 있는 도구도 함께 제공합니다.

특히 가장 큰 강점 중 하나는 ‘투명성’입니다. 이를 통해 사용자는 자신이 쓰는 모델이 어떻게 동작하는지 이해할 수 있고, 결과에 대한 신뢰성도 높일 수 있습니다.

Nemotron은 범용 인공지능은 물론 자율적 추론이 가능한 에이전트 개발에도 적합하며, 다양한 산업별 특화 용도에도 유연하게 적용할 수 있으며 현재 제조, 의료, 교육, 유통 등 여러 분야의 선도 기업들이 Nemotron을 실무에 적극 활용하고 있습니다.

NVIDIA Nemotron이란?

NVIDIA Nemotron은 AI 개발 전 과정을 효율적으로 지원하기 위해 만들어진 오픈소스 AI 제품군입니다. Nemotron에는 다음과 같은 요소들이 포함되어 있습니다:

  • 멀티모달 모델: 최신 AI 모델을 오픈 체크포인트 형태로 제공합니다. 대학원 수준의 과학적 추론, 고급 수학, 코딩, 지시 이해, 도구 호출, 시각적 추론 등에 뛰어난 성능을 보입니다.

  • 사전 학습, 후속 학습, 멀티모달 데이터셋: 텍스트, 이미지, 영상 등 엄선된 데이터를 기반으로 언어 이해, 수학, 문제 해결 능력을 AI에 학습시킵니다.

  • 수치 정밀도 알고리즘과 최적화 방식: 정확도는 유지하면서도 AI 모델을 더 빠르고 효율적으로 실행할 수 있도록 돕는 고급 연산 기법을 제공합니다.

  • GPU 클러스터에서의 대규모 학습을 위한 시스템 소프트웨어: NVIDIA GPU 환경에서 대형 모델을 빠르게 학습하고 추론할 수 있도록 최적화된 소프트웨어와 프레임워크를 지원합니다.

  • 후속 학습 기법과 소프트웨어: 모델을 특정 작업에 맞게 더 똑똑하고 안전하며 효과적으로 만드는 파인튜닝 기술도 함께 제공합니다.

Nemotron은 NVIDIA가 추진하는 더 개방적이고 투명하며 유연한 AI 플랫폼 구축의 일환으로, 개발자, 기업, 공공 및 민간 부문 모두에서 활용할 수 있도록 설계됐습니다.

범용 인공지능과 특화 인공지능은 무엇이 다를까요?

NVIDIA는 AI 추론을 포함한 범용 지능 역량의 수준을 높이는 동시에, 특화 영역을 빠르게 발전시켜 전 세계 기업들이 산업별 과제를 해결하기 위해 AI를 도입할 수 있도록 Nemotron을 개발했습니다.

범용 인공지능은 방대한 공개 데이터셋을 기반으로 학습해 다양한 작업을 수행할 수 있는 모델로, 복잡한 문제 해결이나 추론 같은 광범위한 작업의 토대가 됩니다. 반면 특화 인공지능은 특정 산업이나 조직의 언어, 업무 프로세스, 우선순위를 학습해 실제 환경에 최적화된 성능을 발휘하며, 현실의 과제를 보다 정확하고 효과적으로 해결할 수 있도록 돕습니다.

AI를 산업 전반에 대규모로 확산시키기 위해서는 이 두 가지가 모두 필요합니다.

이러한 이유로 Nemotron은 다양한 컴퓨팅 플랫폼에 최적화된 사전 학습된 파운데이션 모델을 제공하며, NVIDIA NeMo와 NVIDIA Dynamo와 같은 도구를 통해 범용 AI 모델을 특화 지능에 맞는 맞춤형 모델로 전환할 수 있도록 지원합니다.

개발자와 기업은 Nemotron을 어떻게 활용하고 있을까요?

NVIDIA는 전 세계 개발자들의 작업 속도를 높이고, 미래 AI 시스템 설계에 필요한 인사이트를 얻기 위해 Nemotron을 개발하고 있습니다.

연구자부터 스타트업, 글로벌 기업에 이르기까지, 오늘날 개발자에게는 유연하면서도 신뢰할 수 있는 AI가 필요합니다. Nemotron은 거의 모든 분야에 적용 가능한 AI를 구축하고, 맞춤화하며, 통합할 수 있는 도구를 제공합니다.

예를 들어:

  • CrowdStrike는 자사의 Charlotte AI AgentWorks 노코드 플랫폼을 Nemotron과 연동해 보안팀을 위한 에이전트 생태계를 강화하고 있습니다. 이를 통해 분석가는 보안성이 검증된 Nemotron 모델을 기반으로 특화 AI 에이전트를 대규모로 만들고 배포할 수 있으며, 보안 운영 방식 자체를 새롭게 정의하고 있습니다.

  • DataRobot은 NVIDIA와 공동 개발한 Agent Workforce Platform에서 AI 에이전트를 학습, 커스터마이징, 관리하는 기반으로 Nemotron을 활용하고 있습니다. 이 플랫폼은 온프레미스, 하이브리드, 멀티클라우드 환경 모두에서 AI 에이전트를 효율적으로 운영·관리할 수 있도록 설계되었습니다.

  • ServiceNow는 올해 초 NVIDIA와 협력해 Apriel Nemotron 15B 모델을 공개했습니다. 양사 데이터를 활용해 후속 학습된 이 모델은 실시간 워크플로우 실행에 특화되어 있으며, 작은 크기로도 뛰어난 추론 능력을 제공해 속도와 효율성, 비용 면에서 모두 유리합니다.

  • University College London이 주도하는 영국의 소버린 AI 이니셔티브인 UK-LLM 프로젝트는 Nemotron의 오픈소스 기술과 데이터셋을 활용해 영어와 웨일스어를 위한 AI 추론 모델을 개발했습니다.

또한 NVIDIA는 Nemotron 개발 과정에서 얻은 통찰을 바탕으로 차세대 시스템 설계에도 반영하고 있습니다. Grace Blackwell, Vera Rubin, Feynman과 같은 차세대 아키텍처에, 저정밀 연산, 희소 행렬 계산, 새로운 attention 메커니즘, 최적화 알고리즘 등 최신 AI 혁신 요소들이 적용되고 있습니다.

예를 들어, NVFP4라는 새로운 데이터 포맷은 LLM 학습 시 파라미터당 단 4비트만 사용하는 방식으로, 에너지 사용을 획기적으로 줄이는 기술입니다. 이 역시 Nemotron을 통해 개발되었으며, 앞으로의 시스템 설계에 중요한 영향을 주고 있습니다.

NVIDIA는 넓은 AI 커뮤니티에서 개발된 오픈 기술들을 Nemotron에 적극 반영하며, 모델과 데이터셋을 지속적으로 개선하고 있습니다.

  • Alibaba의 Qwen 오픈 모델은 데이터 증강을 통해 Nemotron의 사전 학습 및 후처리 데이터셋 품질을 향상시켰습니다. 최신 Qwen3-Next 아키텍처는 긴 문맥 AI의 한계를 확장했으며, NVIDIA Research와 MIT가 개발한 Gated Delta Networks를 활용하고 있습니다.

  • AI 추론 분야의 개척자인 DeepSeek R1은 Nemotron의 수학, 코드, 추론 오픈 데이터셋 개발로 이어졌으며, 이를 통해 모델이 사고하는 방법을 학습할 수 있게 되었습니다.

  • OpenAI의 gpt-oss 오픈 웨이트 모델은 조정 가능한 추론 설정을 포함해 뛰어난 추론, 수학, 도구 호출 기능을 보여주며, Nemotron의 후처리 데이터셋을 강화하는 데 활용될 수 있습니다.

  • Meta의 Llama 오픈 모델 컬렉션은 Llama-Nemotron의 기반이 되었으며, 이는 Nemotron 데이터셋과 학습 레시피를 활용해 고급 추론 기능을 추가한 오픈 모델 제품군입니다.

NVIDIA Nemotron 모델과 데이터를 Hugging Face에서 활용해 AI 모델과 에이전트를 학습하고 커스터마이징하거나, OpenRouter에서 무료로 모델을 체험해보세요. NVIDIA RTX PC를 사용하는 개발자는 llama.cpp 프레임워크를 통해 Nemotron에 접근할 수 있습니다.

NVIDIA는 10월 29일 수요일, 워싱턴 D.C.에서 열리는 NVIDIA GTC의 Agentic AI Day에 여러분을 초대합니다. 이 행사에서는 개발자, 연구자, 기술 리더들이 모여 NVIDIA 기술이 국가 AI 우선 과제를 어떻게 가속화하고 차세대 AI 에이전트를 어떻게 구현하는지를 조명합니다.

Agentic AI, Nemotron 등 최신 소식을 받아보려면 NVIDIA 개발자 뉴스레터를 구독하고, 개발자 커뮤니티에 참여하며, LinkedIn, Instagram, X, Facebook에서 NVIDIA AI를 팔로우하세요.