NVIDIA가 최신 컴퓨팅 플랫폼인 Clara Holoscan을 공개했습니다! 이 플랫폼은 의료 애플리케이션에 다중 모드 센서 데이터 처리, 물리학 기반 모델 실행, AI 추론 가속화와 실시간 고품질 그래픽 렌더링 등 다양한 기능을 지원합니다.
AI와 결합된 의료기기 기술의 혁신은 로봇 보조 수술, 중재적 방사선 시술, 방사선 치료 계획 등을 수행하는 의료 전문가에 더 나은 의사 결정 도구를 제공합니다. 임상 애플리케이션에서 이를 가능하게 하려면 AI 기반 의료기기에서 데이터를 실시간으로 처리, 예측하고 시각화하는 가속화된 파이프라인이 필요하죠.
NVIDIA AGX Orin 기반 헬스케어용 컴퓨팅 플랫폼 NVIDIA Clara Holoscan은 의료기기에서 스트리밍되는 데이터의 확장 가능한 소프트웨어 정의 방식의 엔드-투-엔드 처리에 필요한 연산 인프라를 제공합니다.
개발자는 의료기기와 엣지 서버를 원활하게 연결하기 위해 구축된 엔드-투-엔드 플랫폼을 통해 기기에서 지연시간이 짧은 스트리밍 애플리케이션을 실행하는 AI 마이크로서비스를 생성할 수 있습니다. 동시에 데이터 센터 리소스에 더 복잡한 작업을 전송할 수 있습니다.
실시간 파이프라인으로 가속화 실현
대부분의 지능형 의료기기에는 센서에서 출발해 데이터 도메인으로 이동한 다음 인간의 의사 결정을 위해 시각화되는 유사한 처리 파이프라인이 있는데요. 사용하는 기기(CT 스캐너, 내시경 또는 중환자실 실내 카메라)에 따라 워크플로우의 단계별로 필요한 연산 수준은 다릅니다.
NVIDIA Clara Holoscan은 다음과 같은 각 단계를 가속화합니다.
- 고속 I/O: NVIDIA ConnectX 네트워크 인터페이스 카드(SmartNIC) 또는 타사 PCI 익스프레스(Express) 카드를 통한 NVIDIA GPU Direct RDMA는 초저지연 시간의 다운스트림 처리를 위해 GPU 메모리로 직접 데이터를 스트리밍할 수 있습니다.
- 물리 처리: 데이터가 GPU로 전송되면, CUDA-X와 NVIDIA Triton Inference Server는 물리 기반 계산 또는 AI 처리를 가속화하여 센서 데이터를 이미지 도메인으로 변환합니다. 그 예로는 X선과 CT 이미지 재구성 또는 초음파 빔포밍(beamforming) 등이 있습니다.
- 이미지 처리: NVIDIA Triton을 사용해 AI 모델에 이미지 데이터를 공급하여 개체를 감지, 분류, 분할 또는 추적합니다.
- 데이터 처리: NVIDIA cuCIM 라이브러리를 사용해 센서에서 스트리밍되는 이미지 데이터를 이전에 획득한 다른 이미지와 결합함으로써, 개발자는 등록을 수행하거나 전자 건강 기록과 같은 추가 정보를 이용해 데이터를 향상시킬 수 있습니다.
- 렌더링: 실시간으로 Clara Render Server를 사용해 기기 데이터와 결과 예측을 3D로 시각화하거나, NVIDIA Omniverse 또는 CloudXR을 통한 증강 현실에서 인터랙티브 시네마틱 렌더링을 구현할 수 있습니다. 예를 들어, 임상의에게 장기나 종양이 분할되는 모습을 더 자세히 보여줄 수 있죠.
Clara Holoscan은 의료기기부터 NVIDIA 인증 엣지 서버, 데이터 센터 또는 클라우드의 NVIDIA DGX 시스템까지 확장 가능한 아키텍처입니다. 개발자는 Clara Holoscan를 통해 지연 시간, 비용, 공간, 전력과 대역폭 요구 사항에 대해 균형을 유지하면서 필요에 따라 의료 기기에 컴퓨팅과 입출력 기능을 원하는 만큼 추가할 수 있죠.
의료기기 생태계 가속화
많은 의료기기 회사에서 AI와 로봇 공학을 활용하고 있고, 로봇 수술, 모바일 CT 스캔, 기관지경 검사 등에 NVIDIA 가속 컴퓨팅 플랫폼을 사용하고 있는데요.
NVIDIA Clara Holoscan은 기기 제조업체가 기기에서 데이터 센터까지 확장함으로써 이러한 애플리케이션을 더 효과적으로 지원하고, 광범위한 NVIDIA AI 솔루션에 액세스하여 확장할 수 있도록 개발됐습니다.
Clara Holoscan 플랫폼은 다양한 센서 입력으로 실시간 의료기기 개발을 가속화하기 위해 아래와 같은 AI, 데이터 사이언스 스타트업을 위한 NVIDIA Inception 액셀러레이터 프로그램 회원의 I/O 카드를 지원합니다.
- AJA 비디오 시스템스: 내시경과 수술 시각화 애플리케이션을 위한 비디오 캡처 카드
- KAYA인스트러먼트: 현미경과 과학 영상 기기에 일반적으로 사용되는 비디오 캡처 카드
- us4us: 소프트웨어 정의 초음파 솔루션 개발을 지원하는 연구 프론트엔드 장치
한 번의 개발로 어디에나 배포 가능한 Clara Holoscan SDK
초음파 연구 프론트엔드 하드웨어의 선두 주자인 베라소닉스(Verasonics)는 Clara Holoscan이 고속 네트워킹 기술을 사용해 NVIDIA GPU로 직접 데이터를 스트리밍하도록 지원합니다. 개발자는 Clara Holoscan을 사용해 기기와 서버에서 모듈식 마이크로서비스로 실행되도록 애플리케이션을 맞춤 설정할 수 있죠. 이 플랫폼은 소프트웨어 정의 방식이므로, 의료기기 업체는 시간이 지남에 따라 솔루션을 계속 업그레이드하고 개선할 수 있습니다.
Clara Holoscan SDK는 초음파, 디지털 병리학, 내시경 등에서 가속 라이브러리, AI 모델, 참조 애플리케이션과 함께 개발자가 확장 가능한 임베디드 하이브리드 클라우드 컴퓨팅 이점을 활용할 수 있도록 지원합니다. 배포를 위한 엔드-투-엔드 플랫폼을 통해 기업은 설치 기반을 보다 쉽게 업그레이드하여 일상적인 의료 방식에 새로운 연구 혁신을 가져올 수 있습니다.
NVIDIA Clara Holoscan에 대한 자세한 내용은 NVIDIA Clara Holoscan 공식 페이지에서 확인해보세요. 11월 11일까지 온라인으로 진행되는 NVIDIA GTC에서 의료 분야의 AI에 대해 자세히 알아볼 수 있습니다!
아래 영상을 통해 GTC 키노트도 확인해보세요!