에이전트 AI가 사이버 보안을 혁신하는 방법

에이전틱 AI는 사이버보안의 흐름을 혁신하고 있습니다. AI 보안을 새롭게 바라보게 만들 만큼 많은 기회를 열어주고, 동시에 그에 따르는 과제에 대응할 실마리도 함께 제공합니다.

기존의 AI와 달리, AI 에이전트는 스스로 판단해 행동하며 도구나 시스템, 다른 에이전트, 민감한 정보와 직접 다룰 수 있습니다. 이로 인해 보안 팀에게는 새로운 가능성이 열리지만, 동시에 지금까지 없던 위험 요소들도 함께 따라옵니다. 따라서 이제 기업은 에이전틱 AI를 활용해 방어하는 동시에, 그 AI에 의한 위협에도 대응할 수 있어야 합니다.

에이전트 AI로 사이버 보안 방어 구축

사이버보안 팀은 인력 부족과 폭증하는 보안 문제들으로 점점 더 많은 부담을 안게 되었습니다. 에이전틱 AI는 위협 탐지와 대응을 혁신하고 AI 보안을 강화하며, 사이버보안 생태계 전반에 근본적인 변화를 불러오고 있습니다.

에이전틱 AI 시스템은 상황을 인식하고, 스스로 판단해 복잡한 문제를 해결할 수 있습니다. 사이버 보안 전문가에게는 협력 파트너로서 디지털 자산을 보호하고, 기업 환경에서의 위험을 줄이며, 보안 운영센터의 업무 효율을 높이는 데 도움을 줄 수 있죠. 덕분에 보안 팀은 반복 업무에서 벗어나 더 중요한 의사결정에 집중할 수 있고, 전문성을 더 넓게 활용하면서 과중한 업무로 인한 번아웃도 줄일 수 있습니다.

예를 들어, AI 에이전트는 새로운 보안 취약점에 대한 위험을 단 몇 초 만에 조사해 대응 시간을 크게 줄일 수 있습니다. 외부 자료를 찾아보고, 시스템 환경을 평가하고, 핵심 내용을 정리해 우선순위를 제시해줌으로써, 담당자들이 더 빠르고 정확한 결정을 내릴 수 있게 돕습니다.

Deloitte와 같은 선도 기업들은 NVIDIA AI Blueprint를 활용해 취약점 분석을 수행하고, NVIDIA NIM과 NVIDIA Morpheus를 통해 고객들이 소프트웨어 패치와 취약점 관리를 더 빠르게 진행할 수 있도록 지원하고 있습니다. AWS 역시 NVIDIA와 협력해, AWS 클라우드 환경에서의 소프트웨어 보안 패치를 위한 오픈소스 기준 아키텍처를 NVIDIA AI Blueprint 기반으로 구축했습니다.

AI 에이전트는 보안 경고 분류 작업의 효율도 크게 높여줍니다. 대부분의 보안 운영센터는 매일 수많은 경고에 대응하느라 과부하 상태에 놓이기 쉽고, 그중 중요한 신호를 찾아내는 일은 느리고 반복적일 뿐 아니라 경험과 조직 내 지식에 많이 의존합니다.

CrowdStrike, Trend Micro 같은 보안 업계의 주요 기업들도 NVIDIA AI software를 활용해 에이전틱 AI 기술을 사이버보안에 적용하고 있습니다. 예를 들어, CrowdStrike의 Charlotte AI Detection Triage는 기존보다 두 배 빠르게 경고를 분류하면서도 연산 자원은 절반만 사용해, 보안팀의 피로도를 낮추고 운영 효율을 높이는 데 도움을 주고 있습니다.

에이전틱 시스템은 경고 분석부터 관련 정보 수집, 원인 파악, 대응 조치에 이르기까지 전 과정을 실시간으로 처리해 보안 업무 전반의 속도를 높일 수 있습니다. 또한 보안 전문가들의 전문 지식을 학습해, 신규 인력이 업무에 빠르게 적응하도록 지원하는 데에도 활용될 수 있습니다.

기업은 NVIDIA AI-Q Blueprint를 활용해 AI 에이전트를 자사 데이터와 연결하고, AI 에이전트 개발과 업무 흐름 최적화를 지원하는 오픈소스 도구인 NVIDIA Agent Intelligence toolkit을 사용해 경고 분류용 에이전트를 구축할 수 있습니다.

Agentic AI 어플리케이션 보호

에이전틱 AI 시스템은 단순히 정보를 분석하는 데 그치지 않고, 그 정보를 바탕으로 스스로 판단하고 행동까지 합니다. 이런 능력으로 인해 새로운 보안 과제가 생기는데요. 에이전트가 도구에 접근하거나, 그 결과가 다른 시스템에 영향을 주거나, 민감한 데이터를 실시간으로 다룰 수 있기 때문입니다. 따라서 이러한 시스템이 안전하고 예측 가능하게 작동하려면, 사전 테스트와 실행 중 제어가 모두 필요합니다.

사전 배포 전 단계에서의 레드팀 훈련과 테스트는 에이전트가 프롬프트를 해석하거나 도구를 사용할 때의 약점, 예상치 못한 입력을 처리하는 방식 등을 미리 점검하는 데 효과적입니다. 여기에는 에이전트가 정해진 제약을 얼마나 잘 지키는지, 실패에서 어떻게 회복하는지, 악의적인 공격이나 조작 시도에 얼마나 잘 대응하는지도 포함됩니다.

Garak은 LLM 기반 에이전트를 위한 자동 보안 테스트 도구로, 프롬프트 인젝션, 도구 오용, 추론 오류 같은 적대적 행위를 시뮬레이션해 잠재적인 취약점을 찾아낼 수 있도록 도와줍니다.

런타임 가드레일은 정책 범위를 강제하고, 위험한 행동을 제한하며, 에이전트의 출력을 기업의 목표에 빠르게 맞추는 역할을 합니다. NVIDIA NeMo Guardrails는 개발자가 AI 에이전트의 발언과 행동에 대한 규칙을 손쉽게 정의하고, 배포하며, 빠르게 업데이트할 수 있도록 지원하는 소프트웨어입니다. 비용과 노력이 적게 들면서도 유연하게 대응할 수 있어, 문제가 발생했을 때 빠르고 효과적으로 조치할 수 있고, 운영 환경에서도 에이전트의 행동을 일관되고 안전하게 유지할 수 있습니다.

Amdocs, Cerence AI, Palo Alto Networks와 같은 선도 기업들은 고객에게 신뢰할 수 있는 에이전틱 경험을 제공하기 위해 NeMo Guardrails를 적극 활용하고 있습니다.

런타임 보호 기능은 에이전트가 실행 중 민감한 데이터를 다루거나 행동을 취할 때 보안을 유지하는 데 중요한 역할을 합니다. NVIDIA Confidential Computing은 데이터를 처리 중에도 보호해주는 기술로, 즉 ‘사용 중인 데이터 보호’를 가능하게 합니다. 이로 인해 AI 모델이 학습하거나 추론하는 동안의 노출 위험을 줄일 수 있어, 다양한 규모의 모델에서도 안전한 운영이 가능합니다.

NVIDIA Confidential Computing은 Google Cloud, Microsoft Azure를 포함한 주요 글로벌 서비스 제공업체를 통해 이용할 수 있으며, 향후 더 많은 클라우드 서비스에서도 제공될 예정입니다.

에이전틱 AI 애플리케이션의 기반은 추론 스택을 구성하는 소프트웨어 도구, 라이브러리, 서비스입니다. NVIDIA AI Enterprise 소프트웨어 플랫폼은 안정적인 API를 유지하면서도 전 라이프 사이클 동안 보안 취약점을 적극적으로 관리하는 개발 프로세스를 통해 제작됩니다. 이에는 정기적인 코드 스캔과 신속한 보안 패치 또는 대응 방안 제공이 포함됩니다.

에이전틱 AI 시스템에서 신뢰를 확장하려면 AI 구성 요소의 진위성과 무결성을 공급망 단계에서부터 보장하는 것이 중요합니다. NVIDIA AI Enterprise 소프트웨어 스택에는 컨테이너 서명, 모델 서명, 소프트웨어 구성 명세(SBOM)가 포함돼 있어 구성 요소에 대한 검증이 가능합니다.

이러한 기술들은 온프레미스부터 클라우드까지 다양한 환경에서 중요한 데이터와 모델을 보호하는 데 필요한 보안 계층을 추가로 제공합니다.

에이전틱 AI 인프라 보호

에이전틱 AI 시스템이 더 자율적으로 진화하고 기업의 업무 흐름에 깊이 통합될수록, 이들이 작동하는 인프라도 보안의 핵심 요소가 됩니다. 데이터센터, 엣지, 제조 현장 등 어디에 배포되든, 에이전틱 AI가 제대로 작동하려면 처음부터 격리, 가시성, 제어가 가능하도록 설계된 인프라가 필요합니다.

에이전틱 시스템은 설계 단계부터 높은 자율성을 기반으로 작동하며, 그만큼 영향력 있는 행동을 수행할 수 있습니다. 이는 긍정적인 결과를 만들 수도 있지만, 예상치 못한 위험을 초래할 가능성도 있습니다. 이러한 자율성 때문에 실행 중인 워크로드 보호, 운영 모니터링, 그리고 제로 트러스트 원칙의 철저한 적용이 필수적입니다.

NVIDIA BlueField DPU와 NVIDIA DOCA Argus를 함께 사용하면, 애플리케이션이 에이전트의 워크로드 동작을 실시간으로 폭넓게 파악하고 고급 메모리 포렌식을 통해 위협을 정확히 탐지할 수 있는 기반을 제공합니다. 보안 제어를 서버 CPU가 아닌 BlueField DPU에 직접 배치하면, 인프라 수준에서 위협을 격리해 잠재적인 피해 범위를 크게 줄일 수 있고, 전반적인 보안 일관성을 갖춘 구조를 구현할 수 있습니다.

시스템 통합 업체들도 NVIDIA Confidential Computing을 활용해 에이전틱 인프라의 보안 기반을 강화하고 있습니다. 예를 들어, EQTYLab은 AI 에이전트가 실행 중에도 정책을 준수하고 있는지를 확인할 수 있도록, 실리콘 단에서 거버넌스를 구현하는 새로운 암호 기반 인증 시스템을 개발했습니다. 이 기술은 이번 주 RSA에서 ‘RSA Innovation Sandbox Top 10’ 수상 기술 중 하나로 소개될 예정입니다.

NVIDIA Confidential Computing은 NVIDIA Hopper와 Blackwell GPU에서 지원되며, 단일 GPU 환경에서 다중 GPU 환경으로 확장할 때도 격리 기술을 ‘Confidential VM’으로 이어갈 수 있습니다.

또한 Protected PCIe 기반의 Secure AI는 Confidential Computing 위에 구축돼, 단일 GPU에서 최대 8개의 GPU로 워크로드를 확장하면서도 성능을 유지한 채 보안을 제공할 수 있도록 돕습니다. 기업들은 이를 통해 에이전틱 AI 환경에 맞춰 유연하게 인프라를 조정하면서도 강력한 보안을 유지할 수 있습니다.

이러한 인프라 구성 요소들은 로컬 및 원격 인증 기능을 모두 지원해, 민감한 워크로드를 배포하기 전에 플랫폼의 무결성을 검증할 수 있도록 돕습니다.

이런 보안 기능은 특히 에이전틱 시스템이 자동화, 모니터링, 실제 환경에서의 의사결정에 활용되기 시작한 AI 팩토리 같은 환경에서 더욱 중요해집니다. Cisco는 NVIDIA BlueField DPU를 통합해 안전한 AI 인프라를 구축하고 있으며, 이를 기반으로 NVIDIA와 함께 Cisco Secure AI Factory를 만들고, 기업이 확장 가능하고 안전하며 효율적인 AI를 운영할 수 있도록 지원하고 있습니다.

에이전틱 AI가 사이버-물리 시스템으로 확장될수록 위험 요소도 커집니다. 시스템이 침해될 경우 운영 중단, 안전 문제, 실제 장비의 신뢰성 저하로 이어질 수 있기 때문입니다. Armis, Check Point, CrowdStrike, Deloitte, Forescout, Nozomi Networks, World Wide Technology와 같은 주요 파트너들은 NVIDIA의 사이버보안 AI 풀스택 기술을 통합해 에너지, 공공 인프라, 제조 등 다양한 산업에서 핵심 인프라를 위협으로부터 보호할 수 있도록 지원하고 있습니다.