수십억 개의 디바이스의 중심에 Arm이 있습니다. 휴대폰, 자율주행 자동차, 엣지 시스템에서부터 세계에서 가장 빠른 컴퓨터인 일본의 후가쿠(Fugaku)에 이르기까지 수많은 기기들이 Arm을 기반으로 하고 있죠.
이렇게 광범위한 시스템을 1,300만 개발자들이 든든히 받쳐줍니다. 그리고 이 생동하는 커뮤니티에 이제 NVIDIA의 툴이 확대 적용되고 있는데요.
대표적인 툴은 다음과 같습니다.
- NVIDIA AI – AI의 학습과 추론 가속화를 위한 업계 표준
- NVIDIA RAPIDS – GPU 가속화된 데이터 사이언스와 애널리틱스를 위한 소프트웨어 라이브러리 세트
- NVIDIA HPC SDK – 고성능 컴퓨팅(HPC) 컴파일러와 라이브러리, 소프트웨어 툴
- NVIDIA RTX – 레이 트레이싱과 AI 기능을 제공하는 그래픽 드라이버
NVIDIA는 엣지 컴퓨팅과 오토노머스 머신용 NVIDIA Jetson SoC(시스템온칩), 그리고 보다 최근에는 NVIDIA BlueField DPU와 같은 네트워킹 제품에 Arm 코어를 사용해 왔습니다.
NVIDIA BlueField DPU는 파트너사들과 개별 소프트웨어 벤더의 지원을 받아 클라우드, 임베디드, 엔터프라이즈 애플리케이션을 위한 네트워킹과 스토리지 업무를 가속화하고 보호합니다.
이러한 리소스들을 에너지 효율적인 컴퓨팅 분야를 선도하는 Arm 기술에 도입하면 고객 선택의 폭을 넓히는 한편 4개 부문에 광범위하게 걸쳐 있는 NVIDIA의 파트너사들과 Arm을 위한 기회들을 창출할 수 있습니다.
고성능 컴퓨팅의 새로운 지평
Arm은 세계에서 가장 크고 강력한 시스템들의 요구에 부응하기 위하여 자체 프로세서 테크놀로지를 SVE(Scalable Vector Extensions)로 확장시킵니다. NVIDIA의 엔지니어들은 후가쿠의 후지쯔(Fujitsu) A64FX 프로세서에 SVE를 추가하는 작업에 이미 돌입했습니다.
SVE는 데이터센터 컴퓨팅과 네트워킹용으로 만들어진 Arm Neoverse 플랫폼에 가장 최근에 추가된 기능입니다. 세계에서 가장 강력한 컴퓨터 500위 중 1위를 차지한 후가쿠로 진행하는 연구들의 시뮬레이션 구동을 담당해 과학 발전을 앞당기고 있죠.
NVIDIA의 이 같은 노력들은 Arm의 파트너사와 고객들이 Neoverse CPU와 NVIDIA GPU의 결합 시스템에 최적화된 소프트웨어를 개발할 수 있게 도울 것입니다. 이는 2019년 6월에 Arm에서의 컴퓨팅과 AI 가속화를 위해 NVIDIA CUDA 소프트웨어를 지원하겠다고 발표한 HPC 이니셔티브(HPC Initiative)의 최종 단계에 해당합니다.
NVIDIA HPC SDK 외에도 고성능 컴퓨팅 네트워크의 중추에 해당하는 NVIDIA Mellanox InfiniBand용 소프트웨어가 현재 Arm 서버에서 완벽 지원⋅배포되고 있습니다. 또한 NVIDIA의 엔지니어들은 멀티 노드 시스템을 위해 스토리지와 네트워크 성능을 극대화하는 소프트웨어인 NVIDIA Magnum IO에서도 Arm의 지원을 확대해 나가고 있죠.
클라우드 게임의 엄청난 잠재력
NVIDIA는 Arm 기반의 서버용 SoC, OEM 파트너사들과 협력하여 클라우드 컴퓨팅 분야의 새로운 영역들을 개척합니다.
일례로 NVIDIA는 암페어 컴퓨팅(Ampere Computing)과 제휴하여 마운틴 제이드(Mt. Jade) 서버 플랫폼을 클라우드 게이밍으로 확장했습니다. 암페어 알트라(Altra) 기반의 이 시스템은 80코어 Arm SoC 2개, NVIDIA T4 GPU 4개, NVIDIA Mellanox BlueField-2 DPU 1개로 구성됩니다. 그 결과 128명의 게임 사용자에게 서비스를 동시 제공할 수 있으며 중국의 5G 스마트폰 사용자 급증으로 인기가 높은 안드로이드 인 더 클라우드(AIC) 서비스를 위한 세션을 스트리밍합니다.
이에 더해 NVIDIA의 엔지니어들은 Arm에 코드를 포팅하고 클라우드 게임들이 Arm 기반 서버와 사용자 사이에서 인코딩, 렌더링, 스트리밍되는 방식을 최적화할 새로운 툴들을 개발해 왔습니다. 이러한 툴들은 기가바이트(GIGABYTE), 인스퍼(Inspur), 위윈(Wiwynn) 등의 Arm 서버 OEM 기업들에 폭넓게 제공됩니다.
NVIDIA는 자사 게임 플랫폼인 GeForce NOW로부터 얻은 경험 덕분에 클라우드 게이밍의 성장 잠재력을 누구보다 잘 알고 있습니다.
클라우드 서비스 기업들은 게임과 더불어 GPU 가속 머신 러닝, 스토리지, 기타 애플리케이션에도 Arm 기반 서버를 채택하고 있습니다. 바로 이것이 NVIDIA가 Arm 기반 서버에서 실행되는 GPU 관리와 모니터링 툴을 다양하게 제공하는 이유이기도 하죠. 여기에는 Arm에서 도커 컨테이너와 쿠버네티스를 구동할 수 있게 해주는 NVIDIA Container 툴킷이 포함됩니다.
엔터프라이즈 AI 가속화
엔터프라이즈 네트워크의 엣지는 앞으로 잠재력이 큰 차세대 컴퓨팅 분야로 꼽힙니다. NVIDIA EGX edge AI 플랫폼은 Arm을 포함한 주요 프로세서 아키텍처 전체를 지원하게 될 텐데요.
NVIDIA는 엣지에서 에너지 효율적 컴퓨팅의 필요성을 인식하고 Arm을 가속 컴퓨팅과 AI용 플랫폼의 주축으로 삼았습니다. 플랫폼은 GPU 1개와 NVIDIA Jetson 같은 임베디드 모듈 시스템에 탑재된 멀티코어 Arm 기반 CPU 1개로 구성됩니다.
또한 NVIDIA는 이러한 모듈들의 맞춤형 버전을 부문별로 특화된 개발자 키트들, 예를 들어 헬스케어(Clara), 로보틱스(Isaac), 자율주행 자동차(DRIVE) 등과 결합시킵니다. 이렇게 Arm의 소프트웨어 파트너사들과 SoC 기업들이 엔터프라이즈 AI를 구현할 수 있게 됩니다.
Arm 인수 당시에 NVIDIA가 밝혔던 대로 NVIDIA의 기술과 Arm의 지적재산권(IP)이 더해질 때 진정한 AI가속화가 실현될 것입니다.
다가올 미래의 모습
윈도우 컴퓨터와 크롬북은 이미 Arm 프로세서를 기반으로 구동되고 있으며 더 많은 소비자 플랫폼들이 개발 중에 있습니다. 바로 여기에서 퍼스널 시스템(personal systems)의 미래라는 아이디어가 출발했는 데요.
NVIDIA는 모양과 크기를 불문하고 NVIDIA GPU를 탑재한 모든 PC와 Arm 기반 시스템을 오랜 기간 지원해 왔습니다. 최근의 조사에 따르면 게이밍PC의 70퍼센트 이상이 NVIDIA GPU를 사용하고 있다고 하죠.
미래에는 훌륭한 그래픽과 연결성을 자랑하면서 오늘날의 PC 만큼 강력하고 에너지 효율은 더 높은 AI 가속 퍼스널 시스템에 관심이 모아질 것입니다. 현재 헬스케어 시장에서 활용되는 NVIDIA의 레퍼런스 설계는 Arm 생태계가 퍼스널 시스템과 같은 시장에서도 활용될 수 있다는 가능성을 보여줍니다.
플랫폼을 구축하는 툴
Arm 프로세서 설계자산 포트폴리오와 같은 진일보한 테크놀로지와 NVIDIA가 지원하는 풍부한 툴이 더해지면 새로운 플랫폼의 개발이 가능합니다.
Arm을 위한 CUDA 툴킷은 Arm의 생태계에 NVIDIA GPU 가속 컴퓨팅과 AI 기능을 더합니다. CUDA를 통해 개발자들은 딥 러닝 추론을 위한 TensorRT, 영상 애널리틱스를 위한 DeepStream 등에 액세스할 수 있게 되죠.
NVIDIA는 Arm 기반 SoC와 서버들을 프로파일러, 디버거 등의 기능으로 지원하는 NVIDIA Nsight 비주얼 개발자 키트 일체를 제공합니다. NVIDIA의 툴, SDK, 플랫폼 전체는 NVIDIA 개발자 사이트에서 확인할 수 있습니다.
젠슨 황(Jensen Huang) NVIDIA CEO가 Arm의 인수에 따른 성장 잠재력을 이야기 한 GTC 영상을 시청하세요.
NVIDIA는 10년이 넘는 시간 동안 Arm을 지원해 왔습니다. 그러한 지원은 지금부터 빛을 발할 것입니다. 스마트카드와 슈퍼컴퓨터를 비롯하여 우리를 찾아올 미래의 많은 것들을 가능케 해줄 전도유망한 커뮤니티의 일원이 된다는 것은 신나는 일입니다.
NVIDIA는 무엇이 가능한가에 대한 수많은 아이디어를 가지고 있습니다. 또한 Arm의 생태계를 이루고 있는 1,300만 개발자로부터 많은 것들을 배우게 되기를 희망하고 있습니다.