기업들이 AI 도입을 점점 확대함에 따라, 복잡하고 에이전트 기반의 워크플로우가 실행되는 AI 팩토리의 보안은 그 어느 때보다 중요해졌습니다.
NVIDIA는 새로운 NVIDIA DOCA 소프트웨어 프레임워크를 통해 모든 AI 팩토리에 런타임 사이버보안을 도입하고 있습니다. 이 프레임워크는 NVIDIA 사이버보안 AI 플랫폼의 일부로, NVIDIA BlueField 네트워킹 플랫폼에서 실행되는데요, NVIDIA DOCA Argus는 각 노드에서 작동하여 AI 워크로드에 대한 공격을 즉시 탐지하고 대응하며, 엔터프라이즈 보안 시스템과 원활하게 통합되어 즉각적인 위협 인사이트를 제공합니다.
DOCA Argus 프레임워크는 고급 메모리 포렌식을 활용해 실시간으로 위협을 모니터링하며, 기존 에이전트리스 솔루션 대비 최대 1,000배 빠른 탐지 속도를 제공하면서도 시스템 성능에는 영향을 주지 않습니다.
기존 도구와 달리 Argus는 호스트와 독립적으로 실행되어 에이전트, 통합 또는 호스트 기반 리소스에 의존하지 않습니다. 이러한 에이전트리스(Agentless), 제로 오버헤드 디자인(Zero-overhead design)는 시스템 효율성을 높이고, 컨테이너화 및 멀티테넌트 인프라를 포함한 모든 AI 컴퓨팅 환경에서 강력한 보안 성능을 제공합니다. 특히 호스트 외부에서 작동하기 때문에, 시스템이 손상된 경우에도 Argus는 공격자에게 보이지 않게 되지요.
사이버보안 전문가는 이 프레임워크를 SIEM, SOAR, XDR 보안 플랫폼과 원활하게 통합할 수 있어, AI 인프라에 대한 지속적인 모니터링과 자동화된 위협 완화가 가능하며, 기존 사이버보안 역량을 확장할 수 있습니다.
NVIDIA BlueField는 모든 AI 팩토리를 위한 기본 보안 구성 요소로, 대규모 AI 워크로드에 대해 내장된 데이터 중심 보호 기능을 제공하는데요, BlueField의 가속화 기능과 DOCA Argus의 사전적 위협 탐지를 결합함으로써, 기업은 성능이나 효율성을 저해하지 않고 AI 팩토리를 안전하게 보호할 수 있습니다.
특히 Cisco는 NVIDIA와 협력하여 엔터프라이즈가 AI 인프라를 대규모로 배포하고 보호하는 방식을 단순화하는 NVIDIA 아키텍처 기반의 Secure AI Factory를 제공하고 있는데요, 이 아키텍처는 AI 팩토리의 모든 계층에 보안을 내장하여, 배포 후 추가하는 것이 아니라 처음부터 런타임 보호가 적용되도록 합니다.
“지금이 바로 기업들이 AI를 적극적으로 추진해야 할 시기이며, 혁신적인 사용 사례를 실현하고 광범위한 도입을 가능하게 하는 핵심은 안전성과 보안입니다.”라고 Cisco의 부사장 겸 최고 제품 책임자인 Jeetu Patel은 밝혔습니다. “NVIDIA와 Cisco는 기업이 가장 소중한 데이터를 보호하면서 AI를 자신 있게 확장할 수 있는 인프라를 제공하고 있습니다.”
DOCA Argus와 BlueField는 NVIDIA 사이버보안 AI 플랫폼의 일부로, AI 기반 보호를 위해 설계된 풀스택 가속 컴퓨팅 플랫폼입니다. 이 플랫폼은 BlueField의 데이터 중심 보안과 Argus의 실시간 위협 탐지, 그리고 NVIDIA Morpheus 사이버보안 AI 프레임워크를 포함한 NVIDIA AI Enterprise 소프트웨어를 결합하여 AI 팩토리 전반에 걸쳐 높은 가시성과 컨트롤을 보장해줍니다. 또한, 에이전틱 AI를 활용해 위협을 실시간으로 자율적으로 인지, 추론, 대응할 수 있습니다.

최적화된 AI 워크로드 위협 탐지
기업들은 방대한 양의 데이터에 침수되어 있어 실제 위협을 정확히 파악하기 어려운 상황인데요, 에이전틱 AI의 확산으로 기업 규모에서 AI 모델과 자율 에이전트가 데이터, 애플리케이션, 사용자를 원활하게 연결하며 데이터에서 통찰력을 추출할 수 있는 전례 없는 기회가 열렸지만, 이를 따라잡을 수 있는 고급 보호 기술의 필요성도 대두되고 있습니다.
DOCA Argus는 NVIDIA 자체 보안 팀의 통찰력을 기반으로 파인튜닝 및 최적화되어 검증된 실제 위협만을 표면화합니다. 잘 알려진 위협 행위자에 집중하고 오탐지를 제거함으로써 이 프레임워크는 실행 가능한 인텔리전스를 기업에 제공하여 경고 피로도를 줄이고 보안 운영을 효율화합니다.
Argus는 NVIDIA NIM 마이크로서비스와 같은 컨테이너화된 워크로드를 보호하도록 특수 제작되었으며, 실제 위협 인텔리전스와 검증을 통합해 AI 애플리케이션 스택의 모든 계층을 보호합니다.
“사이버보안 담당자들은 에이전트 추론의 기반이 되는 AI 팩토리를 효과적으로 보호하기 위해 강력한 도구가 필요합니다. DOCA Argus 프레임워크는 자율적 탐지 및 대응을 가능하게 하는 실시간 보안 인사이트를 제공함으로써 실행 가능한 인텔리전스를 통해 데이터 우위를 방어자에게 부여하게 됩니.” 라고 NVIDIA의 최고 보안 책임자 David Reber는 Argus에 대한 소감을 밝혔습니다.