NVIDIA가 의료기기에 AI 통합을 지원하기 위해 NVIDIA Clara AGX 개발자 키트를 공개합니다.
의료기기 알고리즘의 연구·개발에는 최첨단 알고리즘 구축을 위한 고급 컴퓨팅 성능을 갖춘 전문 PC가 필요합니다. 여기에 병렬 컴퓨팅 플랫폼과 프로그래밍 모델 쿠다(CUDA)의 등장으로 많은 의료 디바이스, 의료 기기 및 모델에 NVIDIA GPU가 통합되고 있는데요. 이를 통해 고성능 알고리즘 워크로드를 위한 소프트웨어 개발이 가능합니다. 현재 의료 영상 워크플로우에도 AI가 채택되고 있는 가운데, 그 범위는 영상 혹은 이미지 캡처가 가능한 의료기기 등을 포함해 의료 영상이 활용되는 영역으로 확대되고 있습니다. 의료기기에 AI를 통합하려는 요구가 증가함에 따라, 새로운 기능의 개발을 가속화하기 위한 컴퓨팅 리소스에 대한 필요성이 높아지고 있습니다.
NVIDIA Clara AGX 개발자 키트는 의료기기를 대상으로 하는 고급 알고리즘 및 AI 기술 연구를 가능케 합니다. NVIDIA Clara AGX 개발자 키트에는 Jetson AGX Xavier, Mellanox Connect X-6 NIC, RTX 6000 GPU, HDMI 2.0 입력이 포함돼 있습니다. NVIDIA Clara AGX SDK는 컨테이너 런타임 및 AI 기술 사용사례와 함께 필수 운영체제(OS), 드라이버, 라이브러리를 제공합니다. 이러한 하드웨어와 소프트웨어의 결합을 통해 의료기기 제조업체, 소프트웨어 개발자, 의료 연구계가 보다 쉽게 의료기기에서 진보된 AI 성능을 구현할 수 있는 독보적인 플랫폼을 지원합니다 .
AI 기술 개발을 위한 확장 가능한 컴퓨팅
Jetson AGX 자비에 위에 구축된 NVIDIA Clara AGX 개발자 키트는 젯슨 제품군이 제공하는 매우 풍부하고 다양한 라이브러리와 툴 생태계를 지원합니다. Jetson AGX 자비에 모듈은 불과 10W의 전력으로 최대 32TOPS(초당 테라 연산)의 성능을 제공하며 AI 기반 오토노머스 머신을 구현하는데요. 업계 선도적인 AI 컴퓨팅 플랫폼 중 하나인 NVIDIA Clara AGX 개발자 키트는 풍부한 AI 툴과 및 워크플로우 세트를 활용해 개발자들이 신경망을 신속하게 훈련하고 구축할 수 있도록 지원합니다. AI 애플리케이션 구축을 위한 종합 솔루션인 Jetpack SDK는 표준 리눅스(Linux) OS, 보드 구성품을 지원하는 BSP, 쿠다 지원을 포함한 NVIDIA Clara AGX 개발자 키트를 제공하며, 이를 통해 쿠다 가속화를 위한 생태계 전반을 함께 지원합니다. 또한, NVIDIA Clara AGX SDK에는 스트리밍 데이터 처리 파이프라인을 구축하기 위한 리버맥스(Rivermax) 및 딥스트림(Deepstream)과 EGX를 통한 배치를 지원하기 위한 컨테이너 런타임, 특정 사용사례를 모델링하는 레퍼런스 애플리케이션이 포함돼 있습니다.
젯슨 플랫폼은 제품화에 매우 적합하지만, 차세대 알고리즘 개발을 위해서는 개별 NVIDIA GPU가 제공하는 컴퓨팅 리소스를 늘려야 하는데요. RTX GPU의 높은 성능은 코드 최적화에 소요되는 시간을 줄이며, 성능 저하 없이 알고리즘 실험을 가능하게 합니다.
NVIDIA Clara AGX 개발자 키트에는 NVIDIA RTX 6000 GPU가 포함돼 있으며, 최고 200 이상의 AI TOPS INT8 컴퓨팅 성능을 제공합니다. RTX 6000은 가장 복잡하고 까다로운 AI 애플리케이션의 다중 추론 파이프라인을 동시에 실행할 수 있어 최신 AI 모델 연구 개발을 가능케 합니다.
연구개발 단계가 마무리되고 최종 AI 모델이 준비되면, 개발자는 해당 모델을 최적화하고 확장성이 뛰어난 아키텍처에 배치할 수 있습니다. 낮은 전력이 필요하다면, 소형 폼팩터의 전력과 규모 예산에 부합하는 젯슨 제품군을 활용할 수 있습니다. 젯슨 제품군과 RTX GPU의 올바른 조합으로 제품화된 시스템을 통해 고성능 사용사례를 구축할 수 있습니다. NVIDIA는 하나의 애플리케이션 소프트웨어 세트에서 완전 확장 가능한 제품군을 제공하고 있습니다.
고대역폭 센서를 위한 확장 가능한 연결성
의료기기는 다른 임베디드 시스템과 마찬가지로 업스트림 센서와 GPU 간의 높은 대역폭 연결이 필요하며, 이는 GPU Direct 또는 RDMA 스트리밍을 통해 이루어집니다. NVIDIA Clara AGX 개발 키트는 두 개의 서로 다른 방식을 통해 특화된 방식으로 연결시킵니다.
먼저, NVIDIA Mellanox ConnectX-6 NIC를 통합해 100G와 10G 이더넷을 모두 지원합니다. NVIDIA Mellanox ConnectX-6 NIC는 풀 라인 속도로 RTX 6000 GDDR DRAM에 GPU 다이렉트를 지원합니다. NVIDIA Clara AGX 개발 키트는 네트워킹 스택을 오프로드해 CPU 사용률에 미치는 영향은 최소화하고, 스트리밍 센서 데이터 패킷은 최고의 처리량과 성능을 발휘합니다.
두 번째로, PCIe Gen4x8 슬롯 2개가 사용 가능하며 이는 커스텀 PCIe 카드 및 추가적인 네트워크 인터페이스 카드를 지원합니다. 첫 번째 PCIe 포트는 NVIDIA Mellanox ConnectX-6 NIC의 통합 스위치와 연결됩니다. 해당 포트는 RDMA 데이터를 바로 RTX6000 GDDR DRAM으로 전송할 수 있도록 합니다. 이러한 포트의 활용 예시로는 다중 4k60 12G SDI 입력이 가능한 커스텀 비디오 캡처 카드가 있습니다. 두 번째 PCIe 포트는 젯슨 AGX 자비에 모듈에 직접 연결된다. 해당 포트는 외부 호스트에 연결하거나 커스텀 카드를 통해 특수 출력을 사용할 수 있습니다.
파트너 개발자 프로그램
NVIDIA Clara AGX 개발 키트를 위한 파트너 개발 프로그램도 발표됐습니다. 파트너 개발자 프로그램은 NVIDIA 하드웨어 및 협업 네트워킹 등으로 구성되어 있는데요. NVIDIA Clara AGX 개발 키트의 구매를 희망할 경우, 해당 링크 통해 신청하거나 NVIDIA 담당자를 통해 자세한 구매 관련 정보를 확인할 수 있습니다.
또한, 지난 GTC 2020에서 발표된 마티아스 블레이크(Mathias Blake), 주하 투키넨(Juha Tukkinen), 브라이언 필리(Brian Feeley) 박사의 심층 프레젠테이션인 ‘AI에 의해 구동되는 의료 기기 구축(Architecting AI-Powered Medical Instruments)’을 통해 NVIDIA Clara AGX에 대한 보다 자세한 정보를 확인할 수 있습니다. AI 혁신이 의료 기기 산업에서 가치를 창출하는 방법과 NVIDIA Clara AGX가 그 혁신의 과정에서 맡을 역할에 대해 설명합니다.
NVIDIA Clara AGX 개발 키트에 대한 자세한 내용은 여기에서 확인하세요!