NVIDIA는 NVIDIA AI Summit Japan에서 일본 내 클라우드 선도 기업들이 산업 전반의 혁신을 가속화할 수 있도록 AI 인프라 구축을 지원하고 있다고 발표했습니다.
일본의 클라우드 선도 기업들은 로봇, 자동차, 의료, 통신 등 산업 전반의 혁신을 가속화하기 위해 NVIDIA 가속 컴퓨팅, 네트워킹, 소프트웨어를 활용한 AI 인프라를 구축하고 있습니다. 여기에는 소프트뱅크(SoftBank Corp.), GMO 인터넷 그룹(GMO Internet Group), 하이레소(Highreso), KDDI, 루틸레아(Rutilea), 사쿠라 인터넷(SAKURA internet) 기업들이 포함됩니다.
일본 클라우드 제공업체들은 산업 전반에 걸쳐 중요한 컴퓨팅 자원을 공급하기 위해 일본 경제산업성(Ministry of Economy, Trade and Industry, METI) 프로그램을 통해 서비스를 지원하고 있습니다. 이들은 일본 중부, 북부, 서부 지역에 걸쳐 AI 데이터센터를 운영하며 국가와 지역의 NVIDIA 가속 컴퓨팅 인프라를 통한 개발을 지원하고 있죠.
NVIDIA 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “일본 기업들은 AI 기반의 새로운 산업 혁명으로부터 엄청난 혜택을 받게 될 것입니다. 기업 직원들은 AI 에이전트를 통해 업무를 자동화하고, 이를 통해 속도와 생산성을 극대화할 것입니다. 미래의 산업 기업들은 현재 공장에서 생산하는 제품과 기계를 위한 소프트웨어 인텔리전스를 생산하는 새로운 AI 팩토리인 듀얼 팩토리를 운영할 것입니다. 일본의 클라우드 제공업체들은 NVIDIA와 협력해 일본의 자동차, 로보틱스, 통신, 의료 산업을 AI 시대에 맞게 재편하는 데 필수적인 AI 팩토리를 구축하고 있습니다”고 말했습니다.
NVIDIA AI로 산업을 지원하는 일본 전역의 클라우드 서비스
소프트뱅크는 일본에서 가장 강력한 AI 슈퍼컴퓨터를 구축하기 위해 NVIDIA Blackwell 플랫폼을 도입합니다. 또한 여기에는 NVIDIA DGX B200 시스템이 탑재된 세계 최초의 NVIDIA DGX SuperPOD™이 포함되죠.
소프트뱅크는 NVIDIA AI 인프라를 활용해 다양한 산업을 가속화하고 있습니다. 소프트뱅크의 자회사인 SB 인튜이션(SB Intuitions)은 일본어 특화 고성능 거대 언어 모델(Large Language Model, LLM)의 연구, 개발을 위해 NVIDIA AI를 사용하고 있습니다.
GMO 인터넷 그룹은 일본 최초의 로컬 클라우드 서비스인 GMO GPU 클라우드(GMO GPU Cloud)를 출시할 예정입니다. 이 서비스는 풀스택 NVIDIA H200 Tensor 코어 GPU, AI용 NVIDIA Spectrum-X™ 이더넷 플랫폼, NVIDIA BlueField™-3 DPU, NVIDIA AI Enterprise 소프트웨어 제품군을 갖추고 있습니다. 이 서비스는 델 파워엣지(Dell PowerEdge) 서버를 기반으로 구축됐으며, 이번 달 온라인에 출시돼 일본 내 기업에 클라우드 기반 AI 컴퓨팅을 제공할 예정입니다.
GMO GPU 클라우드 고객은 NVIDIA AI Enterprise 소프트웨어를 사용해 플랫폼에서 프로덕션 환경으로 실행 중인 생성형 AI 애플리케이션을 가속화할 수 있습니다.
하이레소는 NVIDIA 가속 컴퓨팅으로 구동되는 전용 AI 데이터센터인 하이레소 카가와(Highreso Kagawa)를 설립해 일본 내 AI 개발에 박차를 가하고 있습니다. NVIDIA H200 Tensor 코어 GPU로 구축된 카가와 데이터센터는 다음 달 운영을 시작할 예정입니다. 또한 하이레소의 GPUSOROBAN AI 슈퍼컴퓨터 클라우드 서비스를 위한 고성능 인프라를 제공할 계획입니다.
하이레소의 두 번째 AI 데이터센터는 내년 여름에 가동될 예정입니다. 두 데이터센터는 일본 전역의 연구진과 기업에게 1,600개의 NVIDIA GPU에 대한 액세스를 제공하며 제조, 연구, 교육 기관에서 AI 개발을 촉진하는 데 기여할 것입니다.
KDDI는 엘리자(ELYZA) 비즈니스 그룹과 협력해 생성형 AI와 특화된 LLM 개발을 지원하기 위해 NVIDIA HGX™ 시스템으로 구축된 AI 컴퓨팅 인프라를 출시합니다. KDDI 고객은 NVIDIA 소프트웨어를 활용해 이 인프라를 사용할 수 있습니다. 이를 통해 AI 모델 훈련과 추론 가속화, 디지털 트윈 구축, 자율주행 차량, 로봇 모션 제어와 센서 데이터 처리를 위한 시뮬레이션 작업 등을 수행할 수 있습니다.
또한 KDDI는 NVIDIA GB200 Grace Blackwell 슈퍼칩이 탑재된 NVIDIA GB200 NVL72 플랫폼을 기반으로 하는 수냉식 데이터센터를 계획하고 있습니다.
교토에 본사를 둔 NVIDIA Inception 회원인 루틸레아는 자사의 AI 클라우드 데이터센터에서 사용 가능한 NVIDIA Hopper™ 컴퓨팅을 2배로 확대하고 있습니다. 이 스타트업은 1,000개 이상의 NVIDIA Hopper GPU를 제공하고 있죠. 이는 애니메이션, 소매, 식품 서비스, 비전 기반 편집과 데이터 추출을 위한 파운데이션 모델을 구축하는 고객들의 LLM 개발에 사용될 예정입니다.
또한 루틸레아의 자회사인 AI 후쿠시마(AI Fukushima)는 2011년 도호쿠 지역에서 발생한 지진 이후 지속적인 산업 복구를 지원하기 위해 지난 9월 후쿠시마 오쿠마에 새로운 데이터센터를 가동하기 시작했습니다. 루틸레아가 구축한 인프라를 운영하는 AI 후쿠시마는 최첨단 AI 컴퓨팅 플랫폼을 제공해 지역 경제와 지역 개발의 활성화 기여를 목표로 하고 있습니다.
사쿠라 인터넷은 생성형 AI를 위한 코카료쿠(Koukaryoku) 클라우드 서비스의 NVIDIA Hopper GPU를 2,000개에서 약 4,000개로 확장할 계획입니다. 또한 이시카리 데이터센터에 Blackwell GPU가 탑재된 NVIDIA HGX B200 인프라를 설치할 계획입니다. 이 데이터센터는 2027년까지 재생 에너지로 완전히 구동될 것으로 기대되죠. 사쿠라 인터넷은 고성능 AI 컴퓨팅 제공의 일환으로 약 10,800개의 GPU를 제공할 계획입니다.
사쿠라 인터넷의 고객으로 공공 부문 연구 기관인 국립정보연구소(National Institute of Informatics, NII)가 있는데요. 이 기관은 거대 언어 모델 연구 및 개발 센터(Research and Development Center for Large Language Models)를 설립했으며, 일본어 중심의 의료용 LLM 개발 등 오픈 생성형 AI 연구, 개발 활동을 통해 일본 내 산업, 정부, 학계 간의 협력을 촉진하고 있습니다. 일본에 본사를 둔 드라이빙 소프트웨어 스타트업인 티어포(TIER IV)도 NVIDIA 가속 사쿠라 인터넷 컴퓨팅을 활용해 오픈 소스 소프트웨어로 지능형 차량을 개발한다는 비전을 실현하고 있습니다.