‘NVIDIA Jetson Thor‘, 로보틱스와 피지컬 AI 위한 실시간 추론 시대를 열다

NVIDIA Jetson Thor는 연구와 산업 현장의 로봇 시스템에서 ‘두뇌’ 역할을 합니다. 이제 피지컬 AI 개발자들이 NVIDIA Jetson Thor 모듈을 도입하면서 전 세계 로봇들은 한층 더 스마트해질 것입니다.

로봇은 방대한 센서 데이터와 저지연 AI 처리를 동시에 요구합니다. 실시간 로봇 애플리케이션을 실행하려면 여러 센서에서 동시에 발생하는 데이터 스트림을 빠르게 처리할 수 있는 충분한 AI 연산 성능과 메모리가 필요하죠. 정식 출시된 Jetson Thor는 이전 세대인 NVIDIA Jetson Orin 대비 AI 성능이 7.5배, CPU 성능이 3.1배, 메모리 용량이 2배 향상되어 이러한 요구를 디바이스 자체에서 충족할 수 있습니다.

이 성능 향상은 로봇 연구자들이 고속 센서 데이터를 처리하고 엣지에서 시각적 추론을 수행할 수 있게 합니다. 기존에는 실제 환경에서 실행하기에는 속도가 부족해 시도하기 어려웠던 워크플로우가 이제는 가능해진 것이죠. 그 결과, 휴머노이드 로보틱스와 같은 멀티모달 AI 애플리케이션에서도 새로운 가능성이 열리고 있습니다.

휴머노이드 로보틱스 선도 기업인 어질리티 로보틱스(Agility Robotics)는 자사 5세대 로봇 디지트(Digit)에 NVIDIA Jetson을 통합했습니다. 이어서 6세대 디지트에는 온보드 컴퓨팅 플랫폼으로 Jetson Thor를 채택할 계획이죠. 디지트는 실시간 인식과 의사결정 능력을 강화하고 점차 복잡해지는 AI 기술과 행동을 지원할 수 있게 됩니다. 디지트는 현재 상용화됐으며, 창고와 제조 환경에서 적재, 상차, 팔레타이징(palletizing) 등 물류 작업을 수행하고 있습니다.

어질리티 로보틱스의 CEO인 Peggy Johnson은 “Jetson Thor가 제공하는 강력한 엣지 처리 성능은 디지트를 한 단계 도약시켜 실시간 반응성을 개선하고, 더 폭넓고 복잡한 기술을 수행할 수 있도록 능력을 확장합니다. Jetson Thor를 통해 최신 피지컬 AI 혁신을 고객의 물류창고와 공장 운영 최적화에 적용할 수 있죠”라고 말했습니다.

30년 넘게 업계 최고 수준의 로봇을 개발해온 보스턴 다이내믹스(Boston Dynamics)는 자사 휴머노이드 로봇 아틀라스(Atlas)에 Jetson Thor를 탑재하고 있습니다. 아틀라스는 이전에는 서버급에서만 가능했던 컴퓨팅, AI 워크로드 가속, 고대역폭 데이터 처리, 대용량 메모리를 디바이스 내에서도 활용할 수 있게 됐습니다.

휴머노이드 로봇 외에도, Jetson Thor는 더 크고 복잡한 AI 모델을 위한 실시간 추론을 통해 다양한 로봇 애플리케이션을 가속화할 예정입니다. 여기에는 수술 보조, 스마트 트랙터, 배송 로봇, 산업용 매니퓰레이터(manipulator), 시각 AI 에이전트 등도 포함돼 있습니다.

실시간 로봇 추론을 위한 거대한 도약

Jetson Thor는 생성형 추론 모델을 위해 설계됐습니다. 차세대 피지컬 AI 에이전트가 클라우드 의존도를 최소화하면서 엣지에서 실시간으로 실행될 수 있도록 돕죠. 차세대 피지컬 AI 에이전트는 대형 트랜스포머 모델, 비전 언어 모델(vision language model, VLM), 비전 언어 행동(vision language action, VLA) 모델을 기반으로 구동됩니다.

Jetson Thor는 Jetson 소프트웨어 스택으로 최적화돼 실제 애플리케이션에서 요구되는 저지연과 고성능을 구현합니다. 따라서 Jetson Thor는 모든 주요 생성형 AI 프레임워크와 AI 추론 모델을 지원하며, 탁월한 실시간 성능을 제공하죠. 여기에는 Cosmos Reason, 딥시크(DeepSeek), 라마(Llama), 제미나이(Gemini), 큐원(Qwen) 모델과 함께, 로보틱스 특화 모델인 Isaac GR00T N1.5 등이 포함됩니다. 이를 통해 개발자는 손쉽게 로컬 환경에서 실험과 추론을 실행할 수 있습니다.

NVIDIA Jetson Thor는 다중 센서 입력을 활용한 실시간 추론에서 새로운 가능성을 열어줍니다. 또한, FP4와 스펙큘레이티브 디코딩 최적화를 통해 추가적인 성능 향상이 기대됩니다.

Jetson Thor는 생애 주기 전반에 걸쳐 NVIDIA CUDA 생태계의 지원을 받는데요. 따라서 향후 소프트웨어 발표 시 더욱 향상된 처리량과 빠른 응답 속도를 제공할 것으로 기대됩니다.

또한, Jetson Thor 모듈은 전체 NVIDIA AI 소프트웨어 스택을 실행해 사실상 모든 피지컬 AI 워크플로우를 가속화합니다. 여기에는 로보틱스를 위한 NVIDIA Isaac, 영상 분석 AI 에이전트를 위한 NVIDIA Metropolis, 센서 처리를 위한 NVIDIA Holoscan 등의 플랫폼이 활용됩니다.

이러한 소프트웨어 도구를 통해 개발자는 다양한 애플리케이션을 손쉽게 구축하고 배포할 수 있는데요. 그 예로 실시간 카메라 스트림을 분석해 작업자 안전을 모니터링하는 시각 AI 에이전트, 비정형 환경에서 조작 작업을 수행할 수 있는 휴머노이드 로봇, 다중 카메라 스트림 데이터를 기반으로 외과의에게 안내를 제공하는 스마트 수술실 등이 있습니다.

연구 혁신을 앞당기는 Jetson Thor

스탠퍼드 대학교(Stanford University), 카네기 멜론 대학교(Carnegie Mellon University), 취리히 대학교(University of Zurich)의 연구실들은 Jetson Thor를 활용해 인식, 계획, 내비게이션 모델의 역량을 확장하며 다양한 잠재적 애플리케이션을 탐구하고 있습니다.

카네기 멜론 대학교 로보틱스 연구소(Robotics Institute)의 연구 팀은 NVIDIA Jetson을 활용해 복잡하고 비정형적인 환경을 자율적으로 탐색하며 부상자 분류와 수색, 구조 작업을 수행할 수 있는 로봇을 개발하고 있죠.

카네기 멜론 대학교의 연구부교수이자 에어랩(AirLab)의 책임자인 Sebastian Scherer는 “저희는 사용 가능한 컴퓨팅의 범위 내에서 연구를 할 수 있습니다. 과거에는 컴퓨터 비전 워크로드가 실시간 의사결정을 내리기에는 너무 느려 컴퓨터 비전과 로보틱스 간의 괴리가 컸었죠. 그러나 이제는 모델과 컴퓨팅 속도가 충분히 빨라져 로봇이 훨씬 더 정교한 작업을 수행할 수 있습니다”고 말했습니다.

Scherer는 팀이 보유하고 있는 기존의 NVIDIA Jetson AGX Orin 시스템을 Jetson AGX Thor 개발자 키트로 업그레이드하면, AI 모델의 성능 개선이 가능해질 것으로 전망하는데요. 이 AI 모델에는 엣지에서 로봇 인식을 수행하는 수준급 MAC-VO 모델이 포함됩니다. 또한 Scherer는 이 업그레이드를 통해 센서 융합 역량을 향상시키고 로봇 플릿(fleet) 실험도 가능해질 것으로 기대하고 있습니다.

Jetson Thor의 강력한 성능 활용하기

Jetson Thor 제품군에는 개발자 키트와 양산용 모듈이 포함됩니다. 개발자 키트에는 Jetson T5000 모듈과 다양한 연결성을 제공하는 레퍼런스 캐리어 보드, 팬이 장착된 액티브 방열판, 전원 공급 장치가 함께 제공되죠.

Jetson 생태계는 다양한 애플리케이션 요구사항과 고속 산업 자동화 프로토콜, 센서 인터페이스를 지원해 기업 개발자의 시장 출시 시간을 단축합니다. 하드웨어 파트너들은 다양한 폼팩터로 유연한 I/O와 맞춤형 구성을 갖춰 생산에 준비된 Jetson Thor 시스템을 개발하고 있습니다. 파트너로는 어드밴텍(Advantech), 애티나(Aetina), 커넥트테크(ConnectTech), 미비(MiiVii), 티지텍(TZTEK) 등이 있죠.

아날로그 디바이스(Analog Devices, Inc., ADI), 이콘 시스템즈(e-con Systems), 인피니언(Infineon), 레오파드 이미징(Leopard Imaging), 리얼센스(RealSense), 센싱(Sensing) 등 센서, 액추에이터 업체들은 NVIDIA Holoscan 센서 브릿지를 활용하고 있습니다. 이 플랫폼은 센서 융합과 데이터 스트리밍을 간소화하며, 카메라, 레이더, 라이다 등에서 발생한 센서 데이터를 초저지연으로 Jetson Thor GPU 메모리에 직접 연결할 수 있게 해주죠.

수천 개의 소프트웨어 기업들은 Jetson Thor에서 구동되는 다중 AI 에이전트 워크플로우를 통해 기존 비전 AI와 로보틱스 애플리케이션 성능을 향상시킬 수 있습니다. 주요 도입 기업으로는 오픈제카(Openzeka), 리보트닉스(Rebotnix), 솔로몬(Solomon), 바이디오(Vaidio)가 있습니다.

200만 명 이상의 개발자들은 NVIDIA 기술을 활용해 로보틱스 워크플로우를 가속화하고 있습니다. Jetson Thor를 활용하고 싶다면, NVIDIA 테크니컬 블로그에서 개발자 키트 소개 글을 읽고, 워크스루 영상을 시청하세요.