피지컬 AI는 연구 단계를 빠르게 벗어나 대규모 배포로 넘어가고 있습니다. ABI Research는 2035년까지 레벨 3~5 자율주행차(AV) 보급 대수가 4,900만 대에 이를 것으로 전망하고, Omdia는 2026년부터 2035년 사이에 약 6,000만 대의 산업용 로봇이 배포될 것으로 추정하고 있습니다. 이런 기계들이 도로와 공장, 창고를 비롯해 사람과 함께 쓰는 공간으로 들어오는 만큼, 안전도 그 규모에 맞춰 함께 커져야 합니다.
피지컬 AI의 안전이란 자율주행차와 휴머노이드 로봇, 산업용 로봇을 비롯해 AI로 구동되는 기계가 자신의 판단을 물리적 행동으로 옮길 때 안전하게 움직인다는 것을 입증하는 일입니다. 이를 위해서는 하드웨어와 소프트웨어, AI, 운영 환경, 그리고 배포 수명 주기 전반에 걸친 안전이 필요하죠. 배포 직전에 한 번 점검하고 끝낼 일이 아닙니다.
안전은 왜 피지컬 AI 확장의 열쇠인가?
수년간의 테스트와 벤치마킹을 거친 자율주행 자동차는 상업적으로 계속 영역을 넓혀 가고 있습니다. 그 과정에서 개발사들은 자동화 시스템이 하드웨어·소프트웨어 고장과 의도된 기능의 한계, 그리고 AI 특유의 리스크에 어떻게 대응하는지를 입증해야 했죠.
로보틱스도 자율 기계가 공장과 창고를 비롯해 사람과 함께 쓰는 공간으로 들어오면서 비슷한 변곡점에 다다르고 있습니다.
피지컬 AI 전반에서 제조사와 규제 기관, 보험사, 산업안전 담당 조직은 하드웨어와 소프트웨어, AI의 거동, 운영 환경이 사람의 개입 없이도 안전하게 맞물려 돌아간다는 증거를 필요로 합니다.
피지컬 AI에 새로운 안전 모델이 필요한 이유는?
아래와 같은 네 가지 변화가 새로운 안전 기준을 규정합니다.
- 역동적인 환경에는 맥락을 인지하는 안전이 필요합니다. 도로와 공장, 창고는 고정된 구역이나 물리적 차단벽만으로 온전히 통제할 수 없습니다. 자율 시스템은 변화하는 상황을 인지하고 행동을 조정하며, 예기치 못한 일이 벌어지면 안전한 상태로 들어가야 하죠.
- AI의 거동에는 별도의 보증이 필요합니다. 테스트는 기존 기능 안전과 더불어 AI 소프트웨어까지 평가해야 하며, 설계 시점과 런타임, 검증 시점의 가드레일을 함께 활용해야 합니다. ISO/IEC TS 22440 같은 새로운 표준이 이러한 AI 특유의 리스크를 다루기 시작했습니다.
- 배포는 한 번으로 끝나지 않습니다. 자율주행차와 로봇은 소프트웨어와 모델 업데이트, 새로운 작업, 달라지는 운영 조건을 거치며 계속 변합니다. 중대한 변경이 생기면 추가 안전 테스트가 필요할 수 있죠.
- 대규모 검증에는 시뮬레이션과 합성 데이터가 필요합니다. 있을 수 있는 시나리오의 수와 복잡도를 감안하면, 실제 환경 테스트를 시뮬레이션과 합성 데이터 생성, 시나리오 재구성과 결합해야 합니다.
이 네 가지 변화를 종합하면, 안전은 기반 하드웨어부터 AI의 거동과 운영 환경에 이르기까지 설계와 배포, 검증 전반에서 실제로 작동하는 체계가 돼야 합니다.
NVIDIA가 피지컬 AI를 위해 마련한 안전 기반은?
피지컬 AI 안전에는 전문적인 엔지니어링과 데이터, 프로세스, 검증이 필요한데, 이를 혼자 갖출 수 있는 기업은 많지 않습니다. NVIDIA의 안전 기반은 10년이 넘는 자율주행 안전 개발 경험에서 나왔고, 그 과정에서 기능 안전과 센서 퓨전, AI 거동 보증, 비전 AI, 시뮬레이션, 실제 환경 검증에 걸친 전문성을 쌓아 왔습니다.
NVIDIA Halos는 피지컬 AI를 위한 최초이자 유일한 풀스택 안전 시스템으로, 개발자가 설계와 검증, 배포의 모든 계층에서 안전을 엔지니어링하도록 돕습니다. 원칙은 자율주행과 로보틱스가 공유하지만, 플랫폼과 표준, 증거는 각 영역에 맞게 따로 준비되죠.
자율주행차 개발에서 Halos는 다음을 아우릅니다.
- 하드웨어: NVIDIA DRIVE AGX Thor는 안전을 고려해 설계된 가속 컴퓨팅을 제공하고, NVIDIA Hyperion은 레벨 4 자율주행차를 위한 풀스택 차량 플랫폼과 레퍼런스 아키텍처를 제공합니다.
- 운영체제와 미들웨어: Halos OS는 ASIL-D 인증을 받은 DriveOS를 기반으로 통합된 소프트웨어 토대를 제공합니다. Halos Core와 Halos Middleware는 시스템 격리와 모니터링, 결정론적 통신을 지원합니다.
- 엔드투엔드 모델: NVIDIA Alpamayo는 롱테일 시나리오에 설명 가능성을 더하는 개방형 추론 비전 언어 행동 모델을 제공합니다.
- 시뮬레이션과 검증: NVIDIA Halos 안전 평가 프레임워크는 자동화 수준별로 자율주행 안전 논증(safety case)을 뒷받침할 증거를 만들어 내는 도구와 지침을 제공합니다.
이 요소들이 맞물리면서 클라우드 기반 AI 개발·시뮬레이션과 차량 내 배포가 이어지고, 안전 증거를 차량 수명 주기 전반에서 추적할 수 있게 됩니다.
로보틱스에서 Halos는 다음과 같은 요소들을 아우릅니다.
- 하드웨어: NVIDIA IGX Thor는 가속 컴퓨팅과 기능 안전을 하나의 플랫폼에 담은 산업용 모듈로, 전용 Functional Safety Island를 갖추고 있습니다. IEC 61508과 ISO 13849를 비롯한 표준에 맞춰 개발되는 시스템을 지원하도록 설계됐죠.
- 소프트웨어: IGX용 Halos Core는 결함 탐지와 모니터링, 보고를 비롯한 안전 관련 운영 기능의 소프트웨어 토대를 제공하며, 센서와 액추에이터를 비롯한 안전 구성 요소를 잇는 통신·처리 역량도 함께 제공합니다.
- 실시간 센싱: NVIDIA Holoscan Sensor Bridge는 센서 데이터를 AI 및 안전 관련 처리와 연결해, 시스템이 잘못된 정보를 가려내고 정해진 안전 대응을 실행하도록 돕습니다.
- 시뮬레이션과 검증: NVIDIA Isaac Lab과 NVIDIA Omniverse 라이브러리는 개발자가 관련 조건과 엣지 케이스 전반에서 로봇의 거동을 시험하도록 해 실제 환경 검증을 보완합니다.
- 아웃사이드인 안전: 오픈 소스 NVIDIA Halos Outside-In Safety 블루프린트는 외부 카메라와 비전 AI 에이전트를 활용해 온보드 센서 너머로 인지 범위를 넓히고, 시설 단위 모니터링과 기능 안전 활용 사례를 지원합니다.
자율주행과 로보틱스 양쪽 모두에서 NVIDIA Halos AI Systems Inspection Lab은 안전과 사이버보안, AI 안전 요구사항을 반복 가능한 검사로 바꿔 내고, Halos 통합 결과물이 제3자 기관의 최종 시스템 수준 인증을 준비하도록 돕습니다.
NVIDIA Halos 안전 생태계에는 누가 참여하고 있는가?
NVIDIA Halos는 피지컬 AI 솔루션을 만들고 통합하고 평가하고 배포하는 기업들을 잇습니다. 제품 개발사와 소프트웨어·임베디드 시스템 공급사, 센서·반도체 기업, 안전 솔루션 개발사, 인증 기관이 여기에 포함되죠.
자율주행차 분야에서는 Geely와 Isuzu, Nissan(Wayve 소프트웨어 탑재), Einride가 Halos OS의 지원을 받아 NVIDIA Hyperion 위에서 레벨 4 대응 차량을 만들고 있습니다.
Uber와 Grab, Lyft를 비롯한 모빌리티 사업자들도 Hyperion을 활용해 로보택시 개발과 배포를 확장하고 있는데요. NVIDIA Halos AI Systems Inspection Lab에는 AUMOVIO, Bosch, Gatik, Hesai, Lucid, MIRA, onsemi, PlusAI, Sony, Valeo, Wayve가 참여해 자율주행 개발과 ADAS, 센서, 반도체, 시스템 통합, 검증, 안전 보증을 아우릅니다.
로보틱스 분야에서는 acontis와 QNX가 안전 기능을 예측 가능하게 실행하는 데 필요한 임베디드 소프트웨어를 제공하고, Advantech와 NexCOBOT은 안전을 고려해 설계한 NVIDIA IGX 시스템을 만듭니다. Infineon과 NXP, STMicroelectronics, Texas Instruments는 센서와 안전 마이크로컨트롤러를 비롯한 반도체 기술로 힘을 보태죠. KION Group은 자율주행 지게차용 기능 안전 에이전트를 개발하고 있고, Agility는 Digit 5 휴머노이드의 안전 시스템에 NVIDIA IGX Thor와 Halos Core를 통합하고 있습니다.
NVIDIA Halos는 어떻게 독립적으로 평가받고 있나?
자율주행차 분야에서는 TÜV SÜD가 NVIDIA의 자동차 제품 수명 주기 소프트웨어 프로세스와 DriveOS 6.0을 ISO 26262 ASIL D로, NVIDIA의 자동차 엔지니어링 프로세스를 ISO/SAE 21434로 인증했습니다. TÜV Rheinland도 NVIDIA DRIVE AV에 대해 독립적인 UNECE 안전성 평가를 수행했죠.
로보틱스 분야에서는 TÜV Rheinland가 NVIDIA IGX Thor와 Halos OS, Holoscan Sensor Bridge의 기능 안전 인증 준비 상태를 검사하고 있습니다. 앞서 TÜV SÜD가 ISO 26262를 기준으로 Thor SoC와 Halos Core를 검사한 결과 위에서 이뤄지는 작업입니다.
피지컬 AI 전반에서는 ANAB가 NVIDIA Halos AI Systems Inspection Lab을 ISO/IEC 17020 검사 기관으로 인정했습니다. 이 랩은 범위가 정해진 Halos 통합 결과물을 검사하고, 기업이 독립적인 제3자 기관의 최종 인증을 준비하도록 돕죠.
피지컬 AI를 확장하는 기업은 단순히 가장 뛰어난 시스템을 만드는 데 그치지 않을 것입니다. 평가받고 인증받고 배포돼 현실 세계에서 신뢰받을 수 있는 시스템을 만들어 낼 것입니다. 처음부터 기능 안전을 설계에 넣는 것, 그것이 프로토타입과 확장 가능한 솔루션을 가르는 차이죠.
자율주행차와 로보틱스를 위한 NVIDIA Halos를 자세히 살펴보고, 피지컬 AI를 위한 풀스택 안전 아키텍처도 확인해 보세요.