일본의 주요 기업, 스타트업, 연구 기관들이 NVIDIA NemotronTM 오픈 모델, 데이터, 라이브러리를 활용해 산업 특화 AI 모델과 애플리케이션을 구축하고 있다고 발표했습니다. 이를 통해 일본의 언어와 산업, 인력 구조에 맞춘 AI 개발이 가속화될 예정입니다.
오픈 모델은 국가 AI 생태계의 기반으로, 조직이 직접 통제할 수 있는 AI를 맞춤화하고, 배포하며, 관리할 수 있도록 지원합니다.
일본에서는 고령화와 인력 구조 전환에 대응하는 과정에서 이러한 역량의 중요성이 더욱 커지고 있는데요. 이에 따라 노동력을 강화하고 생산성을 유지하며 혁신을 가속화할 수 있도록 현지 산업에 특화된 AI에 대한 수요가 증가하고 있죠.
NVIDIA 젠슨 황 CEO는 “모든 국가와 기업은 자체 지능형 인프라를 소유하고 통제해야 하며, 오픈 모델이 이를 가능하게 합니다. 오픈 모델은 국가와 기업, 연구자들이 각자의 필요에 따라 AI를 검토하고, 개선하고, 적용하고, 보호하며, 배포할 수 있는 자유를 제공합니다. NVIDIA는 일본의 AI 리더들과 함께 새로운 발견을 가속화하고 국가 역량을 강화하며, 모든 사회가 AI 혁명에 참여하고 그 혜택을 누릴 수 있도록 하는 오픈 AI 생태계를 발전시키고 있습니다”라고 말했습니다.
NVIDIA Nemotron 기반 일본 특화 AI 구축
일본 전역의 개발자들은 NVIDIA Nemotron 오픈 모델과 데이터셋을 활용해 일본의 산업과 공공 부문 요구에 맞춘 특화 AI를 구축하고 있는데요.
도쿄과학대학(Institute of Science Tokyo)은 NVIDIA Nemotron 데이터셋과 NVIDIA NeMoTM 소프트웨어 스택을 활용한 지속적 사전 학습과 사후 학습을 통해 스왈로(Swallow) 오픈 파운데이션 모델군을 개발했습니다. 스왈로 모델은 기본 모델의 핵심 영어, 수학, 코딩 역량을 유지하면서 일본어 처리와 추론 성능을 향상시켰는데요. 기업들은 금융 문서 번역과 자산관리 보고서 생성 등 특화된 사용 사례에 맞게 스왈로를 맞춤화하고 배포하고 있습니다.
SoftBank Corp.의 생성형 AI 연구 자회사인 SB Intuitions Corp.은 NVIDIA NeMo RL과 Megatron-LM 라이브러리를 포함한 NVIDIA Nemotron 기술을 활용해 자체 생성형 AI 모델인 Sarashina 시리즈를 학습시켰습니다. Sarashina3 mini는 일본 디지털청(Digital Agency)의 특화 AI 활용 사례에 적용할 모델로 선정됐습니다. SoftBank는 Sarashina와 NVIDIA Nemotron을 모두 활용한 대규모 통신 모델(Large Telecom Model, LTM)도 개발·배포해 통신 네트워크의 자율 운영을 지원하고 있습니다.
Stockmark가 이번 발표와 함께 공개한 일본어 문서 이해 모델은 Nemotron 3 Nano Omni 모델을 기반으로 합니다. Stockmark는 NVIDIA NeMo RetrieverTM와 Nemotron-Personas-Japan 데이터셋을 활용한 기업용 지식 애플리케이션도 개발하고 있습니다. 아울러 일본의 생성형 AI 가속기 챌린지(Generative AI Accelerator Challenge, GENIAC) 국가 프로젝트를 통해 일본 전역의 제조, 에너지, 화학 산업 고객에게 관련 서비스를 제공하고 있죠.
NVIDIA Nemotron 기반 일본 산업 혁신
일본 기업들은 NVIDIA Nemotron을 활용해 핵심 서비스를 현대화하고, 생산성을 높이며, 국가의 노동력을 지원하고 있습니다.
AI 및 로보틱스 스타트업인 avatarin은 NVIDIA Nemotron 오픈 모델과 NVIDIA NeMo를 활용해 기업용 AI 에이전트의 일본어 음성과 추론 기능을 개발하고 있는데요. NVIDIA HGXTM B300 시스템은 이러한 에이전트가 고객과의 대화를 안전하게 분석하고 기업 지식에 접근해 보다 정확한 응답을 제공할 수 있도록 프라이빗 AI 인프라를 지원합니다. 또한 NVIDIA JetsonTM은 일본 전역의 공항과 기타 장소에 배포되고 있는 디지털 아바타 시스템을 비롯한 엣지 AI 기능을 구동합니다.
ENEOS Holdings는 NVIDIA Nemotron 오픈 모델과 NVIDIA AI-Q Blueprint, NVIDIA ALCHEMI NIM 마이크로서비스를 활용해 에너지와 소재 연구개발 분야의 에이전틱 AI 워크플로우를 발전시키고 있죠. 연구진은 이러한 기술을 통해 기술 문서 검색, 시각과 언어 이해, 시뮬레이션 기반 분자 스크리닝을 통합함으로써 액침 냉각 유체와 첨단 촉매 등 다양한 응용 분야를 위한 소재 탐색을 가속화하고 있습니다.
NTT의 운영 자회사 NTT DATA는 NVIDIA Nemotron-Personas-Japan을 활용해 자체 개발한 츠즈미 2(tsuzumi 2) 모델의 학습 데이터를 보강했습니다. 이를 통해 질의응답 정확도를 높이고 추가 지식이 필요한 질문에 대한 응답 품질을 개선했죠. 또한 NVIDIA Nemotron을 포함한 NVIDIA Agent Toolkit을 활용해 확장 가능한 멀티 에이전트 프레임워크를 도입하는 방안을 검토하고 있는데요. 이 프레임워크는 작업을 가장 적합한 모델로 라우팅해 정확하고 효율적이며 자율적인 기업 워크플로우를 구현할 수 있도록 지원합니다.
Hitachi는 NVIDIA Nemotron과 NVIDIA CosmosTM 오픈 모델에 자체 IT와 OT 분야의 전문성을 결합해 실제 운영 현장의 과제를 해결하는 피지컬 AI 기술을 개발하고 있습니다. 멀티 에이전트 오케스트레이션 플랫폼의 일부로 활용되는 이 기술은 IT와 OT 운영을 연결하고 조율하도록 설계됐는데요. 이를 통해 복잡한 워크플로우 전반에서 전사적 비즈니스 프로세스를 혁신하는 데 기여할 수 있죠.
Sakana AI는 NVIDIA와 협력해 모델 오케스트레이션 플랫폼인 Fugu에 NVIDIA Nemotron을 통합하고 있습니다. 이를 통해 Fugu가 지능적으로 오케스트레이션할 수 있는 AI 모델의 범위를 확장하고, 에이전틱 AI 워크플로우에서 각 작업에 가장 적합한 모델을 동적으로 선택할 수 있도록 지원합니다. Fugu는 각 요청을 해당 작업에 가장 적합한 모델로 라우팅해 개발자들이 다양한 오픈 모델과 독점 AI 모델 전반에서 정확도, 성능, 비용의 균형을 맞출 수 있도록 돕습니다. 또한 정교한 오케스트레이션을 통해 개별 모델만으로는 달성하기 어려운 역량을 구현할 수 있음을 보여주죠. 복잡한 실제 코딩 작업에서 확인된 초기 성능 결과는 모델 간 조율이 더욱 뛰어난 AI를 구현하는 유망한 접근 방식임을 보여줍니다.
개방적이고 맞춤화 가능하며 어디서나 배포 가능한 AI
Nemotron 모델은 오픈 가중치, 데이터셋, 레시피 형태로 제공됩니다. 이를 통해 조직은 투명성과 제어권을 확보하고, 도메인별 워크플로우에 맞게 모델을 맞춤화해 애플리케이션과 데이터가 위치한 환경에 맞춰 모델을 배포할 수 있습니다.
개발자는 NVIDIA NeMo를 활용해 각자의 사용 사례에 맞게 모델을 맞춤화, 평가, 최적화하고 규제, 주권, 데이터 현지화 요건을 충족하는 환경에 모델을 배포할 수 있죠.
Nemotron 모델은 허깅 페이스(Hugging Face), 모델스코프(ModelScope), 오픈라우터(OpenRouter)에서 제공되는데요. build.nvidia.com에서는 NVIDIA NIMTM 마이크로서비스 형태로 이용할 수 있으며, NVIDIA Cloud Partner, 추론 플랫폼, 클라우드 서비스 제공업체를 통해서도 사용할 수 있습니다.