새로운 NVIDIA Jetson AGX Orin으로 엣지 AI와 오토노머스 머신의 미래를 엿보다

by NVIDIA Korea

로보틱스, 오토노머스 머신, 의료기기와 다양한 유형의 임베디드 컴퓨팅을 구현하는 NVIDIA Jetson AGX Orin을 공개합니다! 세계에서 가장 작은 AI 슈퍼 컴퓨터인 NVIDIA Jetson AGX Orin은 강력한 성능과 함께 에너지 효율성을 극대화합니다.

NVIDIA Ampere 아키텍처를 기반으로 구축된 Jetson AGX Orin은 최대 6배 향상된 처리능력, 이전 세대인 Jetson AGX Xavier의 폼팩터 및 핀에 대한 호환성을 제공합니다. Jetson AGX Orin은 GPU 지원 서버와 유사하지만 손바닥만큼 작은 크기이며, 초당 약 200TOPS(초당 테라 연산)를 수행합니다.

새로운 Jetson AGX Orin은 NVIDIA AI 소프트웨어 풀 스택을 가속화하는데요. 이는 개발자가 자연어 이해, 3D 인식, 멀티센서 퓨전 등과 관련된 엣지(edge) AI와 로보틱스 문제 해결에 필수적인 가장 크고 복잡한 모델을 배치할 수 있도록 합니다.

NVIDIA 임베디드 및 엣지 컴퓨팅 부문 부사장 겸 총괄 매니저인 디푸 탈라(Deepu Talla)는 “로봇과 임베디드 컴퓨팅이 제조업, 헬스케어, 소매업, 운송업, 스마트 시티와 기타 경제 필수 분야를 혁신함에 따라 프로세싱에 대한 수요는 계속해서 급증하고 있습니다”라고 말했습니다. 또한 “Jetson AGX Orin은 85만 명의 Jetson 개발자와 상업용 제품을 만드는 6천 개 이상의 기업들에게 불가능해 보였던 오토노머스 머신과 첨단 AI 애플리케이션을 구축하고 배포할 수 있도록 이러한 수요 급증을 해결했습니다”라고 설명했죠.

Jetson AGX Orin은 차세대 딥 러닝, 비전 액셀러레이터와 함께 NVIDIA Ampere 아키텍처 GPU와 Arm 코텍스(Cortex)-A78AE CPU를 통합했습니다. 고속 인터페이스, 더 빠른 메모리 대역폭과 멀티모달 센서를 통해 여러 개의 동시 다발적 AI 애플리케이션 파이프라인을 지원합니다.

포괄적인 소프트웨어와 에코시스템 지원

Jetson AGX Orin을 사용하는 고객은 NVIDIA CUDA-X 가속 컴퓨팅 스택, NVIDIA JetPack 소프트웨어개발키트(SDK)와 클라우드 네이티브 개발 워크플로우를 비롯해 애플리케이션 개발, 최적화를 위한 최신 NVIDIA 툴을 활용할 수 있습니다. NVIDIA NGC 카탈로그에서 사전 훈련된 모델이 최적화되어 NVIDIA TAO 툴킷과 고객 데이터세트로 미세 조정될 수 있죠. 이를 통해 프로덕션 품질 수준의 AI 배포에 소요되는 시간과 비용을 절감하는 동시에 클라우드 네이티브 기술로 제품 수명주기에 걸쳐 원활한 업데이트를 진행할 수 있습니다.

Jetson 임베디드 컴퓨팅 파트너 생태계는 카메라, 기타 멀티모달 센서, 캐리어 보드, 하드웨어 설계 서비스, AI 및 시스템 소프트웨어, 개발자 도구 및 맞춤형 소프트웨어 개발을 비롯해 광범위한 서비스와 제품을 포함합니다.

티리아스 리서치(TIRIAS Research)의 수석 애널리스트 짐 맥그리거(Jim McGregor)는 “AI의 발전 덕분에 로봇 시장은 기하급수적으로 성장하고 있습니다. NVIDIA는 AI 분야에서 인정받는 선도 기업이며, 전문 지식을 활용해 공통 툴, 신경망 모델을 활용하는 다양한 하드웨어 플랫폼을 포함하는 강력한 에코시스템과 완벽한 엔드-투-엔드 솔루션을 통해 로보틱스를 발전시키고 있습니다. 새로운 Jetson 플랫폼은 NVIDIA Ampere 아키텍처의 성능과 다용성을 기반으로 농업, 제조에서 헬스케어, 스마트 시티에 이르는 광범위한 애플리케이션의 오토노머스 모바일 로봇 활용을 더욱 가속화합니다”라고 강조했습니다.

구체적인 활용 사례를 보면, 소프트웨어 프레임워크에는 로보틱스를 위한 Omniverse 기반 NVIDIA Isaac Sim, 헬스케어를 위한 NVIDIA Clara Holoscan SDK와 자율주행을 위한 NVIDIA DRIVE가 포함됩니다. 최신 Isaac 배포 버전에는 로봇운영체제(ROS) 개발자 커뮤니티에 대한 상당한 지원사항이 포함돼 있습니다. 또한 NVIDIA는 Isaac GEM를 위한 최신 Omniverse Replicator를 출시했는데요. Isaac GEM은 합성 데이터 생성 및 ROS의 개발자들이 Jetson 플랫폼에서 고성능 AI 지원 로봇을 더 쉽게 구축하도록 돕는 하드웨어 가속 소프트웨어 패키지입니다.

실시간 감지 기기와 의료 기기를 위한 컴퓨팅 플랫폼

Jetson AGX Orin은 헬스케어 산업용 최신 컴퓨팅 플랫폼인 NVIDIA Clara Holoscan의 기반입니다. 개발자가 낮은 지연시간 스트리밍 애플리케이션을 엣지에서 실행하는 소프트웨어 정의 의료기기를 개발할 수 있도록 하죠. 이러한 프로세싱 능력은 CT 스캐너와 중환자실 카메라와 같은 디바이스가 AI 의사결정을 지원하도록 센서에서 데이터 파이프라인으로 데이터를 전송하는 데 필수적입니다. 이를 통해 개발자는 더 복잡한 작업을 데이터 센터에 전송하는 동시에 디바이스에서 낮은 지연시간 스트리밍 애플리케이션을 실행하는 AI 마이크로 서비스를 구축할 수 있습니다.

NVIDIA DRIVE Orin 기반의 새로운 교통 시스템

DRIVE AGX Orin 또한 Jetson AGX Orin과 같이 NVIDIA Ampere 아키텍처에 기반하며, 운송 업계를 위한 최고의 플랫폼입니다. DRIVE AGX Orin은 새롭게 발표된 AI 플랫폼인 NVIDIA DRIVE Concierge와 DRIVE Chauffeur의 기초가 되는 첨단 프로세서입니다. 두 최신 플랫폼은 AI 어시스턴트를 통해 차량 내에서의 경험을 재정의하고, 각각 차량의 안전성과 자율주행을 지원하죠. 오늘날 수십 개의 글로벌 자동차와 트럭 제조업체, 신생 에너지 자동차 스타트업 및 로봇택시 기업들이 고성능 AI 컴퓨팅을 차세대 지능형 소프트웨어 정의 모빌리티 솔루션에 사용하고 있습니다.

출시 일정에 대하여

NVIDIA Jetson AGX Orin 모듈과 개발자 키트는 2022년 1분기에 제공될 예정입니다. 사전 등록을 통해 구체적인 출시 일정, 세부 사양, 백서 다운로드를 확인할 수 있습니다.

11월 11일(현지시간)까지 온라인으로 진행되는 GTC에서 Jetson AGX Orin에 대한 자세한 정보를 확인해보세요. GTC의 무료 참가 등록은 여기에서 가능합니다!