AI 자동차는 더 이상 미래의 비전이 아닙니다. 이제는 현실이죠. 그리고 진정한 의미의 AI 자동차는 엔비디아의 자율주행 차량용 SoC(시스템 온 칩) 자비에(Xavier)가 있어야만 가능한 일이 됩니다.
최첨단 AI 차량의 핵심은 추론입니다. 추론은 AI 모델을 실시간으로 구동해 방대한 양의 데이터에서 인사이트를 추출하는 프로세스인데요. NVIDIA Xavier가 2년 연속으로 실시간 AI 프로세싱이 가능한 세계 최고의 AI 추론 플랫폼으로 입증받았습니다.
최근 엔비디아 GPU가 데이터센터와 엣지 컴퓨팅 시스템에서 AI 추론 성능을 시험하는 MLPerf 벤치마크 테스트에서 신기록을 경신했는데요. MLPerf는 동료평가(peer review)를 기반으로 한 최초의 독립 AI 추론 벤치마크 테스트입니다. NVIDIA Xavier는 작년에 진행된 제1회 MLPerf 테스트에서 그 선도적 입지를 이미 증명한 바 있죠. 그리고 에너지 효율적 엣지 컴퓨팅 SoC에 새롭게 추가된 사용사례를 모두 지원하면서 그 존재감을 더욱 넓혔습니다.
지능형 차량용 추론은 풀스택을 요구하는 작업입니다. 센서 처리와 신경망, 운영체제, 애플리케이션의 구동을 동시에 수행할 능력이 필요합니다. 이 고도의 복잡성 때문에 막대한 투자가 필요하고, 엔비디아가 그 노력을 계속하고 있죠.
엔비디아 암페어(Ampere) 아키텍처 기반 NVIDIA A100 GPU는 이번 테스트에서 단연 두각을 나타냈는데요, 데이터센터 추론에서 CPU 대비 최대 237배 우수한 성능을 자랑했습니다. 데이터센터에서 이 정도의 성능은 차량 내에서 대규모로 구동되고 광범위하게 배포될 신경망들의 학습과 검증에 대단히 중요합니다.
사실 이러한 성능의 달성은 쉽지 않은 일입니다. 현재 풀스택의 자율주행 능력을 인정받은 기업 대부분이 엔비디아 테크놀로지를 활용하고 있죠.
MLPerf 테스트는 AI의 프로세싱 역량에서 플랫폼의 초당 테라 연산(TOPS)만을 따지는 것이 전부가 아니라는 것을 보여줍니다. 컴퓨팅 플랫폼의 AI 기량을 결정하는 것은 아키텍처와 유연성, 그리고 함께 제공되는 툴입니다.
SoC 최강자로 우뚝 선 NVIDIA Xavier
MLPerf 추론 테스트는 소프트웨어 정의형 차량에 필요한 복잡한 워크로드 유형을 평가하는 기준이 있습니다. 엣지 컴퓨팅을 포함한 다중의 시나리오에서 다양한 벤치마크 테스트를 진행하며 해당 솔루션이 하나가 아닌 여러 업무에서 우수한 성능을 낼 수 있는지 확인하는데요, 이는 오늘날의 자동차에도 반드시 필요한 부분이기도 하죠.
차량과 로봇의 엣지 컴퓨팅에 필수적인 SoC 프로세서 NVIDIA Xavier는 이번 MLPerf의 단일 및 멀티 스트림 추론 업무 모두에서 에너지 효율적인 엣지 컴퓨팅 SoC의 독보적 면모를 보여주었습니다.
NVIDIA Xavier는 자율주행과 콕핏(cockpit) 애플리케이션용 NVIDIA DRIVE AGX 컴퓨터의 두뇌를 구동하는 현 세대 SoC입니다. NVIDIA Xavier는 일종의 슈퍼컴퓨터로 CPU, GPU, 딥러닝 가속기, 프로그래밍 가능한 비전 가속기, 이미지 처리 프로세서, 입체음향과 광학흐름 가속기 등 6종의 프로세서로 구성되어 있습니다.
NVIDIA Xavier는 우수한 아키텍처를 앞세워 AI 추론의 최강자로 자리매김했습니다. NVIDIA Xavier의 프로그래밍 가능한 심층신경망 가속기는 DNN 프로세싱의 최적화를 지원하여 처리량은 늘리고 지연시간은 줄입니다. 이러한 알고리즘은 아직 초기 단계에 있기 때문에 NVIDIA Xavier 컴퓨팅 플랫폼은 새로운 반복처리 또한 감당할 수 있도록 유연하게 구축되었습니다.
새롭고 다양한 신경망을 지원하기 위해서는 서로 다른 종류의 데이터를 광범위한 신경회로망으로 프로세싱해야 합니다. NVIDIA Xavier의 엄청난 프로세싱 성능은 추론의 부하(load) 문제를 해결해 지능형 사용자 인터페이스와 함께 안전한 자동화 또는 자율주행 차량을 제공합니다.
업계에 검증된 유효성
관련 업계가 TOPS 성능을 기반으로 자율주행 역량을 평가하고 있기 때문에 자율주행 플랫폼들이 실제 AI 워크로드를 어떻게 처리하는지 테스트하는 것이 중요합니다.
업계의 선도적인 추론 벤치마크에서 연달아 정상급 기량을 보여주고 있는 NVIDIA Xavier는 엔비디아의 아키텍처가 AI 애플리케이션의 배포에 얼마나 유리한지 증명해 보입니다. 엔비디아 SoC는 자율주행이라는 이 전례 없는 도전에 부응할 유일한 그리고 검증된 플랫폼입니다.
자동차 제조사와 Tier-1 공급업체, 스타트업의 거의 대부분이 엔비디아 드라이브 플랫폼을 활용해 개발사업을 진행하고 있습니다. 엔비디아는 파트너사들의 플랫폼에서 AI 애플리케이션을 실제로 구동해가며 수많은 경험을 축척했죠. 이 모든 학습과 개선이 엔비디아 드라이브 생태계를 더욱 발전시킬 것입니다.
한계는 없다
여기가 끝이 아닙니다. 엔비디아가 내년에 선보일 차세대 SoC 오린(Orin)은 NVIDIA Xavier보다 7배 가까이 향상된 성능을 제공하면서도 놀라운 수준의 에너지 효율을 보장합니다.
NVIDIA Xavier는 CUDA와 TensorRT 등의 소프트웨어 툴과 호환되어 타겟 하드웨어에의 심층신경망 최적화를 지원합니다. 이와 동일한 툴들이 오린에서도 사용 가능할 전망인데요, 이는 개발자들이 기존의 소프트웨어 개발에서 최신 하드웨어 개발로 막힘없이 옮겨갈 수 있음을 의미합니다.
엔비디아는 지금까지 NVIDIA Xavier가 실시간 AI의 유일한 솔루션일 수밖에 없는 이유를 거듭 증명해 왔습니다. 그리고 앞으로도 자율주행 자동차와 같은 혁신적 테크놀로지를 견인해 보다 안전하고 진보된 미래를 향한 노력을 계속할 것입니다.