에지(edge)단의 로봇과 임베디드 컴퓨팅 디바이스를 위한 세계에서 가장 강력한 초소형 AI 슈퍼컴퓨터 엔비디아 ‘젯슨 자비에 NX(Jetson Xavier™ NX)’가 발표됐습니다
신용카드 크기 보다도 작은 소형 폼팩터로 높은 에너지 효율성을 제공하는 젯슨 자비에 NX 모듈은 21 TOPS(초당 테라 연산)에 이르는 서버 수준의 성능을 제공해 최신 AI 워크로드를 실행합니다. 반면, 전력 소비량은 불과 10와트(w) 밖에 되지 않죠.
젯슨 자비에 NX는 강력한 성능을 요구하면서도, 크기, 중량, 전력예산, 비용 등의 제약을 받는 임베디드 에지 컴퓨팅 디바이스 분야에 새로운 지평을 열 것으로 기대됩니다. 여기에는 소형 상업용 로봇, 드론, 공장 물류 및 생산라인용 지능형 고해상도 센서, 광학검사, 네트워크 동영상 리코더, 휴대용 의료기기, 기타 산업용 IoT 시스템 등이 포함됩니다.
디푸 탈라(Deepu Talla) 엔비디아 에지 컴퓨팅 사업부 부사장 겸 총괄은 “AI는 업계를 혁신하는 최신 로봇과 임베디드 디바이스를 구현하는 기반이 됩니다. 이 같은 디바이스들은 대부분 소형 폼팩터와 저전력을 기반으로 하기 때문에 AI 기능을 추가하는데 제약이 많죠. 하지만, 젯슨 자비에 NX는 엔비디아 고객 및 파트너들이 디바이스의 크기나 전력 소모량을 늘리지 않고도 AI 성능을 획기적으로 높일 수 있도록 하죠”라고 말했습니다.
젯슨 자비에 NX는 10w로 최대 14 TOPS 또는 15w로 21 TOPS의 성능을 제공하여 여러 뉴럴 네트워크를 병렬로 처리할 뿐 아니라, 70mmx45mm 크기의 나노 폼팩터에서 다양한 고해상도 센서로부터 수집된 데이터를 동시에 처리합니다. 또한, 이미 임베디드 머신을 개발중인 기업들을 위해 젯슨 자비에 NX는 모든 젯슨 제품군과 동일한 쿠다-X AI(CUDA-X AI™) 소프트웨어 아키텍처를 적용하여 시장 출시 기간을 단축하고 개발 비용을 절감하도록 합니다. 엔비디아의 단일 소프트웨어 아키텍처 접근방식의 일환으로, 젯슨 자비에 NX는 컴퓨터 비전, 컴퓨터 그래픽, 멀티미디어는 물론 복잡한 AI 네트워크와 딥러닝용 가속 라이브러리 등을 실행할 수 있는 완전한 AI 소프트웨어 스택인 엔비디아 젯팩(NVIDIA JetPack™) SDK가 지원됩니다.
젯슨 자비에 NX를 지지하는 세계 유수의 기업들
젯슨 자비에 NX는 로봇과 임베디드 디바이스 생태계의 강력한 지원을 받고 있습니다.
리 리톨츠(Lee Ritholtz) 록히드 마틴(Lockheed Martin) 응용 인공지능 사업부 총괄 및 수석 설계자는 “엔비디아의 임베디드 젯슨 제품은 록히드 마틴 플랫폼의 임베디드 AI 솔루션 연구, 개발, 배포를 가속화해왔습니다. 록히드 마틴은 젯슨 자비에 NX의 뛰어난 성능, 소형 폼팩터, 저전력 성능으로 그 어느때보다 많은 데이터를 에지에서 실시간으로 처리할 수 있게 됐죠”라고 말했습니다.
오츠카 히로시(Hiroshi Otsuka) 무사시 세이미츠(Musashi Seimitsu) CEO는 “무사시 세이미츠의 목표는 광학검사 시스템의 품질과 정확도를 획기적으로 높이고 4차 산업으로의 전환을 가속화하는 것입니다. 엔비디아 젯슨 자비에 NX는 무사시 세이미츠 광학검사 시스템의 크기나 출력을 늘리지 않으면서 육안검사 능력을 강화하는 연산능력을 제공합니다”라고 말했습니다.
엔비디아는 최근 AI 훈련 벤치마크 테스트에서 높은 성능을 입증한데 이어, 데이터센터와 에지에서 AI 추론 성능을 측정하는 5개 벤치마크 테스트 기준을 모두 충족했습니다. 업계 최초의 독립적인 AI 추론 벤치마크 테스트인 이번 MLPerf Inference 0.5의 결과는 데이터센터용 엔비디아 튜링(Turing) GPU와 에지 컴퓨팅용 엔비디아 젯슨 자비에(Jetson Xavier) 시스템온칩(SoC)의 우수한 성능을 명확히 보여준 것입니다. 젯슨 자비에 NX 모듈은 해당 벤치마크에 사용된 자비에 SoC의 저전력 버전입니다.
패트릭 무어헤드(Patrick Moorhead) 무어 인사이트&스트레티지(Moor Insights & Strategy) 창립자겸 수석 애널리스트는 “AI 칩이 거의 날마다 발표되고 있는 듯한 요즘, 엔비디아가 젯슨 자비에 NX로 AI 칩의 기준을 한단계 높였다고 생각합니다. 작은 사이즈와 저전력 성능에도 불구하고 놀라운 성능을 구현하는 엔비디아의 능력은, 일관적이면서도 강력한 소프트웨어 아키텍처와 함께 임베디드 에지 컴퓨팅에서 가장 중요한 요소라는 것을 입증하고 있죠”라고 말했습니다.
젯슨 자비에 NX 모듈 사양
- GPU: 384개의 엔비디아 쿠다코어와 48개의 텐서 코어, 2개의 NVDLA를 탑재한 엔비디아 볼타(NVIDIA Volta)
- CPU: 6-core Carmel Arm 64비트 CPU, 6MB L2 + 4MB L3
- 비디오: 2개의 4K30 인코드, 2개의 4K60 디코드
- 카메라: 최대 6개 CSI 카메라 (가상 채널의 경우 36개); 12 레인 (3×4 or 6×2) MIPI CSI-2
- 메모리: 8GB 128비트 LPDDR4x; 51.2GB/초
- 연결방식: 기가비트 이더넷
- OS 지원: 우분투 기반 리눅스
- 모듈 크기: 70mmx45mm젯슨 자비에 NX는 젯슨 나노(Jetson Nano™), 젯슨 AGX 자비에(Jetson AGX Xavier™) 시리즈와 젯슨 TX2 시리즈(Jetson TX2 series) 등이 포함된 젯슨 제품군의 최신 제품입니다. 젯슨 자비에 NX는 고속 CSI와 PCIe에서 저속 I2C와 GPIO에 이르는 다양한 IO를 제공합니다. 많은 주변기기 및 센서와의 호환성은 소형 폼팩터, 강력한 성능과 함께 임베디드 AI와 산업용 IoT 시스템에 새로운 능력을 제공할 것으로 기대됩니다.젯슨 자비에 NX는 젯슨 나노와 상호 핀 호환이 가능해 하드웨어 설계를 공유하고, 젯슨 나노의 캐리어 보드와 시스템을 젯슨 자비에 NX로 업그레이드할 수 있습니다. 이 외에도, 텐서플로우(TensorFlow), 파이토치(PyTorch), MxNet, 카페(Caffe) 등 모든 주요 AI 프레임워크를 지원합니다. 젯슨 자비에 NX는 대량생산 에지 시스템을 개발하고자 하는 기업들을 위해 엔비디아의 유통채널을 통해 2020년 3월부터 399달러에 판매됩니다. 개발자들은 젯슨 자비에 NX를 본뜬 소프트웨어 패치가 포함된 젯슨 AGX 자비에 개발자 키트를 이용해 애플리케이션 개발을 시작할 수 있습니다.