소버린 AI는 한국의 경제와 기술 전략의 핵심 축으로 부상하고 있는데요.
한국은 정부 주도의 소버린 AI 파운데이션 모델 프로젝트(Sovereign AI Foundation Model Project, K-AI 프로젝트) 등의 이니셔티브를 통해 자체 AI 모델 개발에 투자하고 있습니다. 자국민에게 서비스를 제공하고 글로벌 경쟁력 확보에 나서고 있는 것이죠.
이러한 접근 방식은 한국어, 문화, 그리고 실제 사용 사례를 반영한 데이터로 훈련된 현지 특화 AI 개발에 중점을 두고 있습니다.
NVIDIA는 가속 컴퓨팅, NVIDIA Nemotron 오픈 모델, 데이터셋, 훈련 레시피, NeMo 라이브러리를 포함한 풀스택 플랫폼을 통해 이러한 노력을 지원하고 있습니다. 이를 통해 개발자들은 훈련부터 배포까지의 워크플로우를 더욱 빠르게 수행할 수 있죠.
또한 한국의 모델 개발자들을 지원하기 위해 ‘NVIDIA Nemotron Developer Days Seoul’을 개최했습니다. 이틀간 진행되는 이번 행사에서 NVIDIA Nemotron 팀은 참가자들과 직접 소통하고, 모델·데이터·AI 에이전트 개발에 대한 심층 기술 세션을 통해 지식을 공유합니다.
‘NVIDIA Nemotron Developer Days Seoul’은 과학기술정보통신부(MSIT)와 정보통신산업진흥원(NIPA)가 공식 후원하며, 국내 AI 생태계를 글로벌 무대와 직접 연결하는 혁신적인 교두보가 될 전망입니다.
과학기술정보통신부는 이번 행사를 “국내 AI 개발자와 기업들이 세계 최고 수준의 기술을 직접 체험할 수 있는 중요한 기회”라고 강조했습니다. 국내 개발자들은 NVIDIA의 Nemotron 오픈 모델, 데이터셋, 라이브러리를 중심으로 구성된 기술 프로그램을 통해 GPU 인프라, 데이터 파이프라인, 모델 훈련, 최적화 기법 등 풀스택 AI 기술을 직접 체험할 수 있죠. 또한 SK텔레콤(SK Telecom), 업스테이지(Upstage), 엘리스 그룹(Elice Group), 모티프테크놀로지스(Motif Technologies) 등 4개 기업이 패널 토론에 참여해 한국 자체 개발 파운데이션 모델의 경쟁력과 글로벌 시장 진출 전략에 대해 논의할 예정입니다.
정부의 비전과 NVIDIA의 풀스택 기술 역량 결합은 한국 AI 혁신이 글로벌 시장으로 도약하는 강력한 동력이 될 것으로 기대됩니다.
소버린 AI 본격 도입하는 업계 선도 기업들
한국의 AI 혁신 선도 기업들은 모델 개발을 넘어, 이를 실제 응용 분야에 적용하고 있습니다.
- 네이버 클라우드(NAVER Cloud)는 Nemotron 3 Nano 아키텍처, Megatron-LM, NeMo Curator 등 NVIDIA의 훈련 기술을 자체 한국어 데이터셋과 네이버 클라우드의 자체 사전 훈련 파이프라인과 결합해 한국어 모델을 개발했습니다. 기본 모델은 완성돼 현재 내부 검증 단계에 있으며, 강화학습 기반의 사후 훈련이 진행 중입니다.
- LG AI연구원(LG AI Research)은 AI 통화 보조 시스템, 내부 코파일럿, 엔지니어링 설계 지원 등을 포함한 비즈니스 생산성, 통신 서비스, 제조 인텔리전스 활용 사례를 위해 엑사원(EXAONE) 엔터프라이즈와 산업용 AI 모델을 개발하고 있습니다. 이를 위해 대규모 사전 훈련과 파인튜닝을 위한 NVIDIA NeMo 프레임워크, Megatron-LM, Nemotron 훈련 레시피와 데이터셋을 활용하고 있습니다.
- SK텔레콤은 AI 어시스턴트와 고객 경험 등 차세대 통신 서비스를 지원하기 위해 NVIDIA Cloud Partner(NCP)인 쿠팡(Coupang)의 인프라를 활용해 NeMo Curator와 Megatron-LM을 활용합니다. 이를 통해 5,190억 파라미터 규모의 전문가형 혼합 모델(mixture-of-experts, MoE)인X K1을 훈련했는데요. 국내 기업들은 이 모델의 파생 버전을 활용해 제조, 게임, IT 서비스 분야의 애플리케이션을 구동하고 있습니다.
- 크래프톤(KRAFTON)은 차세대 인터랙티브 경험과 콘텐츠 생성을 포함한 게임 및 크리에이티브 인텔리전스 활용 사례를 지원하기 위해 자체 파운데이션 모델인 라온(Raon)을 구축하고 있습니다. 크래프톤은 대규모 훈련을 위해 메가트론-LM(Megatron-LM)을 활용하는 동시에, 메가트론-LM 백엔드에 디온(Dion) 최적화를 적용한 메가트론-디온(Megatron-Dion)을 통해 생태계에 기여하고 있죠.
- 모티프테크놀로지스는 금융 시스템, 정부 서비스, 멀티 모달 추론 등을 포함한 기업과 공공 부문 AI 애플리케이션을 위해 대규모 파운데이션 모델과 멀티 모달 모델(LLM, VLM, VLA)을 구축하고 있습니다. 대규모 멀티 모달 데이터 처리를 위한 NeMo Curator, 합성 데이터 생성을 위한 Nemotron 3 Super, 텍스트·코드·수학·멀티 모달 영역 전반에 걸친 훈련을 위한 Nemotron 전체 데이터셋을 활용하고 있습니다.
- 트릴리온랩스(Trillion Labs)는 AI 인프라를 위한 AI 에이전트인 인더스트리얼 인텔리전스(Industrial intelligence)를 구축하고 있습니다. STEM 데이터로 사전 훈련된 Gravity-16B-A3B MoE 모델은 발전소와 AI 팩토리를 운영하는 도메인 특화 에이전트의 기반이 되며, 의료 분야에 특화된 파생 모델(L1-16B-A3B)은 과학 분야로의 전환 능력을 입증합니다. 트릴리온은 GPU 가속 사전 훈련 데이터 큐레이션 도구인 NeMo Curator, 최신 Nemotron STEM 사후 훈련 데이터셋, Nemotron Cascade RL 기법을 활용해 이러한 모델을 훈련시켰습니다.
고품질 데이터에 대한 접근성 확대
데이터는 소버린 AI 구축의 큰 과제 중 하나입니다.
이를 해결하기 위해 NVIDIA는 국가통계포털(KOSIS), 대법원, 국민건강보험공단, 한국농촌경제연구원, 네이버 클라우드 등 다양한 출처의 공식 인구조사와 노동 데이터를 기반으로 한 600만 건 규모의 합성 데이터셋인 Nemotron-페르소나-코리아(Nemotron-Personas-Korea)를 공개했습니다. 모든 페르소나는 완전히 합성된 데이터로 구성돼 있으며, 개인정보(PII)를 전혀 포함하지 않아 한국의 개인정보보호법(PIPA)을 준수하도록 설계됐습니다.
이 데이터셋은 존댓말 체계부터 지역별 직업 패턴에 이르기까지 한국의 인구통계학적, 지리적, 문화적 다양성을 반영해 개발자들이 지역적 맥락을 더 잘 이해하는 AI 시스템을 구축할 수 있도록 지원하죠.
NVIDIA, 차세대 에이전틱 AI 시대를 열다
NVIDIA는 GTC 2026에서 보안, 제어 기능, 운영 안정성이 내장된 보다 안전하고 장기간 가동 가능한 AI 에이전트를 구현하기 위해 설계된 NemoClaw를 발표한 바 있습니다. 이러한 시스템은 기업들이 업무를 자동화하고, 의사결정을 개선하며, 더욱 개인화된 서비스를 제공할 수 있도록 지원하죠.
Nemotron Developer Days Seoul의 일환으로, NVIDIA는 디캠프 마포에서 Build-a-Claw 행사를 개최합니다. 개발자들은 NVIDIA 전문가 팀의 지원을 받아 Nemotron과 기타 인기 오픈 모델에서 실행되는 AI 에이전트를 신속하게 구축할 수 있습니다. 자세한 내용을 확인해 보세요.
NVIDIA Nemotron 시작하기
소버린 AI 시스템을 구축하고자 하는 개발자들은 이제 NVIDIA Nemotron과 NeMo를 이용할 수 있습니다.
Nemotron 모델은 허깅페이스(Hugging Face), 오픈라우터(OpenRouter), 주요 클라우드 서비스 제공업체, 프렌들리AI(Friendli.ai)와 투게더AI(Together.ai) 등 추론 서비스 제공업체를 통해 이용할 수 있습니다.
또한 Nemotron과 NemoClaw를 사용해 안전하고 장기간 작동하는 에이전트를 구축하는 개발자를 위해, 개인용 AI 슈퍼컴퓨터인 NVIDIA DGX Spark가 공식 파트너인 리더스시스템즈(Leaders Systems)를 통해 국내에 공급됩니다.