사이버 보안 AI의 수레바퀴를 활용하는 3가지 방법

생성형 AI가 가져오는 비즈니스 혁신에는 AI 자체가 일종의 발전의 톱니바퀴를 돌리는 데 도움이 될 수 있는 위험이 수반됩니다.

20여 년 전에 개방형 인터넷을 빠르게 수용한 기업들은 그 혜택을 가장 먼저 누리고 최신 네트워크 보안에 능숙해졌습니다.

오늘날 엔터프라이즈 AI도 비슷한 패턴을 따르고 있습니다. 특히 강력한 생성형 AI 기능을 통해 발전을 추구고 있는 조직들은 이러한 학습을 보안 강화에 적용하고 있습니다.

이제 막 이 여정을 시작하는 분들을 위해 업계 전문가들이 거대 언어 모델(LLM)에 대해 파악한 세 가지 주요 보안 위협을 AI로 해결하는 방법을 소개합니다.

프롬프트 주입을 방지하는 AI 가드레일

생성형 AI 서비스는 배후에 있는 LLM을 방해하거나 데이터에 액세스하기 위해 설계된 악성 프롬프트의 공격을 받을 수 있습니다. 위에서 인용한 보고서에서 언급했듯이 “직접 주입은 시스템 프롬프트를 덮어쓰고, 간접 주입은 외부 소스의 입력을 조작합니다.”

프롬프트 주입에 대한 가장 좋은 해독제는 LLM에 내장되거나 주변에 배치된 AI 가드레일입니다. 도로의 금속 안전 장벽이나 콘크리트 연석과 마찬가지로 AI 가드레일은 LLM 애플리케이션이 제 궤도에 오를 수 있도록 도와줍니다.

업계에서는 오랫동안 이 분야의 솔루션을 제공해왔고 계속해서 연구하고 있습니다. 예를 들어, 개발자는 NVIDIA NeMo Guardrails 소프트웨어를 통해 생성형 AI 서비스의 신뢰성, 안전성 및 보안을 보호할 수 있습니다.

민감한 데이터를 감지하고 보호하는 AI

LLM이 프롬프트에 응답할 때 민감한 정보가 노출될 수 있습니다. 다단계 인증과 다양한 모범 사례로 인해 자격 증명이 점점 더 복잡해지면서 민감한 데이터로 간주되는 범위가 넓어지고 있습니다.

노출을 방지하기 위해 모든 민감한 정보는 AI 학습 데이터에서 신중하게 제거하거나 가려야 합니다. 학습에 사용되는 데이터 세트의 규모를 고려할 때, 데이터 위생 프로세스가 효과적인지 확인하는 것은 사람에게는 어렵지만 AI 모델에게는 쉽습니다.

민감한 정보를 탐지하고 난독화하도록 훈련된 AI 모델은 LLM의 학습 데이터에 실수로 남겨진 기밀 정보가 노출되지 않도록 보호할 수 있습니다.

기업은 사이버 보안 애플리케이션 구축을 위한 AI 프레임워크인 NVIDIA Morpheus를 사용하여 네트워크에서 민감한 정보를 찾아 보호하는 AI 모델과 가속화된 파이프라인을 만들 수 있습니다. Morpheus를 사용하면 기존의 규칙 기반 분석을 사용하는 사람이 할 수 없는 작업, 즉 전체 기업 네트워크의 방대한 데이터 흐름을 추적하고 분석하는 작업을 AI가 수행할 수 있습니다.

AI를 통한 액세스 제어 강화

마지막으로 해커는 LLM을 사용하여 조직의 에셋에 대한 액세스 제어 권한을 얻으려고 시도할 수 있습니다. 따라서 기업은 생성형 AI 서비스가 권한 수준을 초과하지 않도록 방지해야 합니다.

이러한 위험에 대한 최선의 방어책은 보안 설계 모범 사례를 사용하는 것입니다. 특히, 최소한의 권한만 부여하고 해당 권한을 지속적으로 평가하여 의도한 기능을 수행하는 데 필요한 도구와 데이터에만 액세스할 수 있도록 해야 합니다. 이 단순하고 표준적인 접근 방식은 대부분의 사용자에게 필요한 전부일 것입니다.

그러나 AI는 LLM에 대한 액세스 제어를 제공하는 데에도 도움을 줄 수 있습니다. 별도의 인라인 모델을 학습시켜 LLM의 출력을 평가함으로써 권한 상승을 감지할 수 있습니다.