생성형 AI 덕분에 소프트웨어가 소프트웨어를 작성하는 시대가 왔습니다.
이제 소프트웨어에 사이버 보안 혹은 기타 위험이 있는지도 확인할 수 있죠.
NVIDIA 창립자 겸 CEO 젠슨 황(Jensen Huang)은 GTC 키노트에서 NVIDIA의 생성형 AI 기술을 통해 기업이 CVE(common vulnerabilities and exposures)와 기타 소프트웨어 보안 문제를 신속하게 감지하고 해결할 수 있는 방법을 공개했습니다.
새로운 NVIDIA NIM과 NeMo Retriever 마이크로서비스를 NVIDIA Morpheus 가속 AI 프레임워크와 함께 작동하면, 보안 분석가들이 기존 툴로는 몇 시간, 심지어 며칠이 걸리던 문제를 단 몇 초 만에 식별할 수 있습니다.
기존 방식에서는 발견된 취약점에 대한 해결책을 찾기 위해 상당한 수작업이 필요했습니다. 그러나 NVIDIA 기술은 거대 언어 모델(LLM)과 검색 증강 생성(RAG)을 사용해 신속하면서 자동화됐고, 실행 가능한 CVE 위험 분석이 가능합니다.
따라서 분석가들은 AI를 통해 운영 업무의 상당 부분을 가속화하고 사람들의 선택에 정보를 전달하는 데이터 기반 인사이트를 제공해, 이른바 ‘미래 기업’에서 CEO와 같은 의사 결정자 역할을 할 수 있게 됐습니다.
지난해 CVE 퍼블릭 데이터베이스에 보고된 소프트웨어 보안 결함이 사상 최고치를 기록했는데요. 사이버 보안을 위한 생성형 AI는 점점 더 중요해지고 확산될 것으로 예상됩니다.
사이버 보안에서 생성형 AI의 역할
가트너(Gartner)는 2027년까지 생성형 AI가 애플리케이션 보안 테스트와 위협 탐지의 오탐률(False Positive Rate, FPR)을 30% 줄일 수 있을 것으로 예측했습니다.
NVIDIA 생성형 AI 마이크로서비스와 Morpheus는 NVIDIA AI Enterprise 소프트웨어 플랫폼의 일부로 제공되고 있습니다. 이들은 대다수 전문 인력의 결과와 일치하는 매우 높은 수준의 정확도로 CVE 위험 분석을 신속하게 수행하죠.
보안 분석가는 이러한 기술을 통해 새로운 소프트웨어 패키지의 생성 또는 CVE 탐지에 의해 활성화되는 거대 언어 모델과 이벤트 기반 RAG를 사용합니다. 이를 통해 소프트웨어 패키지에 악용 가능하거나 취약한 구성요소가 포함돼 있는지 판단할 수 있습니다.
거대 언어 모델은 NVIDIA 애플리케이션에서 소프트웨어 패키지의 취약점을 검사하기 위한 작업 목록을 생성합니다.
그런 다음, NVIDIA AI 기반 거대 언어 모델 에이전트가 내부와 외부 데이터 소스에서 소프트웨어의 규정 준수를 위해 취해야 할 안전 조치를 검색하죠.
이 단계는 체크리스트의 모든 항목이 분류될 때까지 반복됩니다. 이후 애플리케이션은 상호작용을 요약하고 조치에 대한 타당한 이유를 생성합니다. 그리고 이는 적절한 다음 단계를 결정하기 위해 인간 분석가에게 전달됩니다.
이러한 방식으로 이벤트 기반 RAG는 사람이 보안 조치를 감독하는 동안 생성형 AI가 일반적으로 완료하는 데 최대 며칠이 걸리는 연구 조사 작업을 획기적으로 가속화합니다.
보안을 위해 NVIDIA 생성형 AI를 활용하는 기업들
NVIDIA는 자사의 내부 소프트웨어 개발 워크플로우의 보안을 보장하기 위해 해당 애플리케이션을 사용하고 있습니다.
이 애플리케이션은 평균적으로 단 몇 초 만에 400개 이상의 인터넷 검색을 수행하고, 다양한 기업 데이터 소스에서 500개 이상의 쿼리를 수행해 단일 소프트웨어 컨테이너를 분석합니다. 이는 일반적으로 사람이 직접 할 때 최대 며칠이 걸리는 작업인데요. NVIDIA는 하루에 1,000개 이상의 컨테이너를 스캔합니다.
사이버 보안 분야의 선두주자인 크라우드스트라이크(CrowdStrike)는 NVIDIA와 협력해 생성형 AI와 RAG를 구현하고 있습니다.
크라우드스트라이크(CrowdStrike)의 수석 부사장 겸 수석 과학자 스벤 크라서(Sven Krasser)는 ” 사이버 보안 산업은 AI가 보안팀과 공격자를 동등하게 만들면서 중요한 전환점에 도달했습니다. 오늘날 위협 행위자들은 최신 AI 기술을 활용해 더욱 빠른 속도로 조직을 공격하고 있습니다. 이에 따라 보안 또는 운영 팀이 한 발 앞서 나가기 위해서는 데이터의 힘과 표적화된 AI를 결합해야 합니다. 조사를 가속화하고 잠재적 취약점을 식별하며 기업 환경 내 침해를 방지하는 고급 위협 탐지와 대응 역량이 필요합니다”고 말했습니다.
NVIDIA NIM, NeMo Retriever, Morpheus는 NVIDIA AI Enterprise를 통해 이용할 수 있습니다. NVIDIA AI Enterprise는 생성형 AI 파운데이션 모델을 위한 빠르고 효율적인 런타임을 제공하는 클라우드 네이티브 소프트웨어 플랫폼으로 보안, 안정성, 관리 용이성, 지원을 제공해 생성형 AI 도입을 간소화합니다.
이용 정보
여기에서 개발자는 무료로 NVIDIA 마이크로서비스를 실험해 볼 수 있습니다. 기업은 NVIDIA Certified System과 주요 클라우드 마켓플레이스에서 실행되는 NVIDIA AI Enterprise 5.0을 통해 프로덕션급 NIM 마이크로서비스를 배포할 수 있습니다.