AI는 조직이 애플리케이션을 만들고 정보를 처리하며 의사결정을 자동화하는 방식을 바꿔 놓고 있습니다. AI 에이전트가 점점 더 자율적으로 움직이며 민감한 데이터에 접근하고 도구와 상호작용하며 기업 시스템 전반에서 직접 행동에 나서는 지금, 그 에이전트를 떠받치는 인프라를 지키는 일은 그 어느 때보다 중요해졌죠.
AI 보안의 범위는 모델과 애플리케이션에서 끝나지 않습니다. 워크로드를 실행하고 보안 통제를 집행하는 컴퓨팅과 네트워킹, 스토리지, 펌웨어, 관리 시스템까지 모두 아우르죠.
그래서 신뢰할 수 있는 AI는 신뢰할 수 있는 인프라에 뿌리를 둬야 합니다. 가정에 기댄 신뢰에서 검증 가능한 신뢰로 옮겨 간다는 뜻이죠. 핵심 인프라가 정상으로 확인된 상태에 있고, 설정이 올바르게 유지되며, 취약점이나 무단 변경, 공급망 침해, 지속형 위협 탓에 그 상태에서 벗어나지 않았다는 증거를 갖춘다는 의미입니다.
NVIDIA와 사이버보안 파트너 Eclypsium은 클라우드 컴퓨팅과 에이전틱 AI를 위한 인프라 보안을 함께 끌어올리고 있죠.
NVIDIA에 기본 탑재된 플랫폼 보호 기능과 Eclypsium의 인프라 어슈어런스는 AI를 떠받치는 인프라에 신뢰를 세우고 지켜 내는 신뢰 계층이 돼 줍니다. 그 결과 검증된 하드웨어·펌웨어에서 독립적으로 집행되는 AI 에이전트 실행에 이르기까지 신뢰 사슬이 한층 단단해지죠.
NVIDIA BlueField DPU는 프로그래밍 가능한 가속에 하드웨어에 뿌리를 둔 신뢰와 격리, 설정 가능한 보안 경계를 결합해 이런 인프라를 지키는 토대가 됩니다. 실제로 모든 클라우드 제공업체가 DPU를 중심으로 인프라를 설계하죠. 이런 역량은 클라우드 사업자와 기업이 저마다의 운영 요건에 맞춘 안전하고 확장 가능한 인프라를 구축하도록 돕습니다.
사이버보안 생태계가 커지면서 이 토대 위에 더 많은 역량이 얹히고 있습니다. Eclypsium은 지속적인 인프라 보안과 펌웨어 무결성 평가, 설정 분석, 모니터링에 강점을 갖고 있어, 조직이 자사 환경 전반의 가시성과 운영 신뢰도를 끌어올리도록 돕죠.
설계 단계부터 보안을 품은 NVIDIA BlueField
오늘날의 클라우드와 AI 인프라는 네트워킹과 스토리지, 보안, 관리를 가속하는 전용 프로세서에 기대고 있습니다.
NVIDIA BlueField DPU는 고성능 네트워킹과 프로그래밍 가능한 컴퓨팅, 실리콘 단 가속을 한데 묶어 핵심 인프라 서비스를 호스트 워크로드와 분리된 상태로 돌리죠.
이렇게 분리하면 서로 구분되는 신뢰 도메인이 만들어지고, 인프라 운영자는 서버에서 돌아가는 애플리케이션·운영체제와 무관하게 하부 자원을 관리하고 보호할 수 있습니다.
BlueField는 NVIDIA OpenShell 레퍼런스 아키텍처의 한 축인 NVIDIA Sentry를 구동합니다. 자율 AI 에이전트를 보호하는 이 역할 때문에 DPU 자체를 지키는 일도 점점 더 중요해지죠. BlueField에는 전용 Arm CPU 코어와 운영체제, 펌웨어, 관리 컨트롤러가 들어 있고, 평소 동작의 일부로 호스트와 GPU 메모리에 데이터를 직접 옮기고요. 이런 특권적 위치 덕분에 BlueField는 효과적인 독립 통제 지점이 되며, 그래서 DPU는 모든 운영자의 보안 모델과 자산 목록, 모니터링 대상에 반드시 들어가야 합니다.
BlueField는 심층 방어를 염두에 두고 설계됐습니다. 하드웨어 신뢰 루트에서 출발해 펌웨어와 운영체제, 소프트웨어, 기기 관리까지 이어지죠.
보안 아키텍처에는 인증 부팅과 하드웨어로 강제되는 격리, 보호된 키 관리, 보안 펌웨어 업데이트, 롤백 방지, 기기 어테스테이션이 들어 있습니다. 이 장치들이 함께 맞물려 플랫폼 무결성을 지키고 보안 경계를 집행하죠.
보안은 제품 수명주기 전반으로도 이어집니다. NVIDIA는 위협 모델링과 아키텍처·코드 리뷰, 자동화된 보안 분석, 취약점 관리, 퍼징, 공격자 관점의 보안 연구를 아우르는 엄격한 보안 개발 관행을 따르고 있죠.
아무리 정교한 컴퓨팅 플랫폼도 취약점에서 자유로울 수는 없습니다. NVIDIA가 지원 기간 내내 보안 엔지니어링과 취약점 대응, 소프트웨어·펌웨어 업데이트에 꾸준히 힘을 쏟는 이유죠.
인프라 신뢰 모델에 맞춰 조절하는 보안
보안 요구사항이 똑같은 인프라 환경은 없습니다.
여러 테넌트를 수용하는 하이퍼스케일 클라우드는 단일 테넌트 기업 AI 클러스터나 에어갭 AI 환경과는 전혀 다른 신뢰 전제 위에서 돌아가죠.
이런 차이는 관리 권한과 관리 인터페이스, 기기 접근, 격리 경계를 어떻게 설정해야 하는지를 좌우합니다.
DPU의 결정적인 강점은 실리콘 단 가속과 프로그래밍 가능한 컴퓨팅을 함께 갖췄다는 점입니다. 기존 고속 네트워크 어댑터와 달리 DPU는 정교한 인프라 서비스와 정책을 호스트와 무관하게 돌릴 수 있는 전용 연산 자원을 제공하죠.
NVIDIA BlueField는 이 프로그래밍 가능성을 활용해 설정 가능한 보안 경계로 서로 다른 배포 모델을 지원합니다. 운영자는 어떤 기능을 켤지, 인터페이스를 어디까지 노출할지, 인프라 접근을 어떻게 통제할지 직접 정할 수 있죠.
예를 들어 클라우드 사업자는 테넌트 워크로드와 호스트 운영체제를 하나의 신뢰 도메인에 두고, 인프라 서비스는 사업자가 통제하는 별도 도메인에서 운영할 수 있습니다.
BlueField는 암호학적으로 증명 가능한 신뢰 프로파일로 잠글 수 있는 구성을 지원해, 운영자가 의도한 보안 경계를 세우고 확인하도록 돕죠.
어떤 기능이나 인터페이스가 존재한다고 해서 모든 배포에서 그것을 노출하거나 켜야 하는 것은 아닙니다. 안전한 인프라 설계란 알맞은 신뢰 모델을 정하고 거기에 맞춰 플랫폼을 구성하는 일이죠.
메모리 접근 보호가 좋은 예입니다. DPU와 GPU, 관리 컨트롤러는 직접 메모리 접근(DMA)을 통해 시스템 메모리를 직접 읽고 쓸 수 있죠. Eclypsium의 연구는 IOMMU 변환과 PCIe 접근 제어 서비스(ACS), 주소 변환 서비스(ATS) 같은 호스트 측 통제가 왜 중요한지 보여 줍니다. Eclypsium을 쓰면 운영자가 핵심 하드웨어 설정을 짐작하는 대신 직접 검증할 수 있고요.
이런 유연성 덕분에 조직은 천편일률적인 아키텍처를 강요받지 않고도 보안과 성능, 운영 요건 사이에서 균형을 잡을 수 있습니다.
생태계로 넓혀 가는 인프라 보안
인프라에 내장된 보안 기능은 보호의 토대가 됩니다. 사이버보안 파트너는 그 토대 위에서 추가적인 운영 요건까지 메울 수 있죠.
Eclypsium은 인프라 가시성과 펌웨어 무결성, 설정 평가, 상시 모니터링에 초점을 맞춘 보완 역량을 들고 옵니다. Eclypsium AI Infrastructure Assurance는 하드웨어와 펌웨어를 정상 기준(known-good baseline)과 대조해 검증하고, 취약점과 안전하지 않은 설정을 찾아내며, 기기·펌웨어 상태를 모니터링하고, 운영체제 아래 계층에서 일어나는 구성 이탈과 무단 변경, 지속형 위협을 잡아내죠.
환경 전반의 가시성을 원하는 조직이라면 Eclypsium의 기술로 인프라 구성 요소를 식별하고 펌웨어를 점검하며, 위협과 악성코드, 취약점, 설정 리스크는 물론 보안 상태에 영향을 줄 수 있는 변화까지 탐지할 수 있습니다.
이런 역량은 운영자에게 인프라 보안을 평가하고 관리할 도구를 더해 줍니다. 양쪽이 맞물리면 하드웨어 무결성을 독립적으로 점검하고, 검증 가능한 증거를 바탕으로 하부 인프라에 대한 신뢰를 세울 수 있죠.
예를 들어 조직은 배포 단계에서 승인된 인프라 구성을 확정한 뒤, BlueField에 내장된 보안 장치로 플랫폼 무결성을 지키고, Eclypsium의 평가 기능으로 예상치 못한 설정 변경이나 새로 떠오른 펌웨어 리스크를 찾아낼 수 있습니다.
가치는 개별 기기 하나에 그치지 않습니다. 오늘날 AI 인프라에는 GPU와 DPU, 관리 컨트롤러, 네트워킹 장비를 비롯한 여러 구성 요소가 들어가고, 저마다 전체 보안 상태에 영향을 주죠.
Eclypsium의 폭넓은 인프라 평가 역량은 환경이 커지고 변해 가는 동안에도 조직이 이 구성 요소들을 계속 들여다보도록 돕습니다.
어떤 단일 보안 통제도 AI 스택 전체에 걸친 신뢰를 혼자 세울 수는 없습니다. 심층 방어는 플랫폼 보안과 독립적인 검증, 끊임없는 보증이 함께 맞물려야 하고, 각 계층이 다른 계층도 믿을 만한 토대 위에서 돌아가고 있다는 증거를 서로 내놓아야 하죠. BlueField가 설계 단계부터 보안을 제공한다면, Eclypsium은 AI 인프라 전반에 추가적인 검증과 모니터링을 더합니다.
인프라 수명주기 내내 이어지는 보안
인프라 보안은 시스템이 운영에 들어간다고 끝나는 게 아니죠.
기기는 제조와 프로비저닝, 배포, 운영, 업데이트, 복구를 거쳐 결국 재배치되거나 폐기됩니다. 단계가 바뀔 때마다 조직이 챙겨야 할 운영상의 고려 사항이 생기죠.
BlueField는 이 모든 단계에 보안 보호 장치를 심어 둡니다. 안전한 프로비저닝과 인증된 펌웨어 업데이트, 롤백 방지, 기기 어테스테이션이 여기에 들어가죠.
이런 장치들은 인프라가 변해 가는 동안에도 플랫폼 무결성을 세우고 유지하도록 돕습니다.
조직은 여기에 Eclypsium의 수명주기 평가·모니터링 역량을 더해, 구성 요소 가시성을 유지하고 위협과 악성코드, 취약점을 탐지하며, 펌웨어 리스크를 가늠하고 시간에 따른 설정 변화를 짚어 낼 수 있습니다.
이는 배포 전 승인된 구성을 확정하고, 운영 중 인프라를 모니터링하며, 업데이트나 복구 뒤 관련 기기 상태를 다시 평가하는 식의 반복 가능한 운영 관행으로 이어지죠.
실무로 옮기면 이런 모습입니다. DPU와 GPU, 관리 컨트롤러 하나하나를 저마다 펌웨어 버전과 설정, 담당자를 가진 일급 자산으로 다루고, 호스트 운영체제와 나란히 취약점 관리 대상에 넣으며, 베이스보드 관리 컨트롤러(BMC)와 Redfish 로그 같은 관리 인터페이스 텔레메트리까지 보안 모니터링에 포함하는 것이죠. 이 구성 요소들은 운영체제를 다시 설치해도 그대로 남기 때문에, 침해 대응 뒤에도 다시 평가해야 하고 하드웨어를 새 테넌트에 넘기기 전에도 마찬가지고요.
장치마다 보장해 주는 것이 다릅니다. 보안 부팅은 부팅 구성 요소를 인증하고, 어테스테이션은 측정된 플랫폼 상태에 대한 증거를 내놓으며, 설정 평가는 시스템이 어떻게 배포되고 관리되는지 운영자가 가늠하도록 돕죠.
이들은 모두 필요하지만, 어느 하나만으로는 충분하지 않습니다. 부팅 시점의 측정값은 시스템이 어떻게 시작했는지를 알려 줄 뿐 지금 어떻게 동작하고 있는지는 말해 주지 않고, 모델 파일에 대한 무결성 검사도 디스크에 놓인 산출물을 확인할 뿐 메모리에서 돌아가는 사본까지 보증하지는 못하죠. 런타임을 계속 검증하면 실행 중에 일어나는 변화를 잡아낼 수 있습니다. 하드웨어 설정에 대한 호스트 구성, PCIe 토폴로지, 관리 컨트롤러 펌웨어, 변경 이력처럼 서로 독립적인 관점에서 같은 상태를 모아 두면, 공격자는 모든 시야를 일관되게 꾸며야 하므로 침해를 숨기기가 훨씬 어려워집니다.
연구와 협업으로 끌어올리는 인프라 보안
보안은 엔지니어링과 평가, 개선이 끊임없이 돌아가는 과정이죠.
인프라가 복잡해질수록 독립적인 보안 연구는 잠재적 약점을 찾아내고 기존 전제에 의문을 던지며 업계의 보안 관행을 끌어올리는 데 중요한 몫을 합니다.
NVIDIA는 깊은 제품 전문성과 보안 개발 관행, 자리 잡은 취약점 대응 프로세스를 갖추고 있습니다. Eclypsium은 독립적인 보안 연구와 함께 인프라 구성 요소·펌웨어·설정을 평가하는 전문성을 더하죠.
서로를 보완하는 이 두 관점은 보안 연구를 제품 보호 기능과 배포 가이드, 운영 관행의 실질적인 개선으로 옮기는 데 보탬이 됩니다.
그 연구의 목적은 생태계를 더 튼튼하게 만드는 데 있죠. NVIDIA는 Eclypsium과 함께 침해된 AI 인프라가 모델과 그 추론에 어떤 영향을 줄 수 있는지를, 그것도 저장된 모델의 무결성 검사에는 걸리지 않은 채로 가능하다는 점을 실증했습니다. 모델 파일과 해시, 서명은 모두 멀쩡했지만 메모리에서 돌아가던 모델은 다르게 움직였죠.
이 문제는 특정 벤더나 아키텍처만의 일이 아닙니다. GPU 기반 시스템이든 다른 가속기든 맞춤형 ASIC이든, 모두 호스트 프로세서와 가속기 펌웨어, 관리 컨트롤러, 스마트 NIC, 그리고 이들 사이에서 모델 데이터를 옮기는 장치처럼 모델보다 아래에 자리하면서 모델이 돌아가는 메모리에 닿을 수 있는 특권 구성 요소에 기대고 있죠.
NVIDIA는 제품 수명주기 내내 BlueField 보안에 계속 투자하면서, 제보된 사안을 검토하고 필요에 따라 업데이트나 가이드를 내놓고 있습니다.
기술 공급업체와 사이버보안 파트너, 연구자, 인프라 운영자가 함께 움직이면 생태계 전체가 튼튼해지고 신뢰할 수 있는 인프라도 계속 진화해 갑니다. Open Secure AI Alliance 같은 활동을 통해 연구자와 기술 공급업체, 보안 팀은 연구 결과를 공동의 평가 방법과 검증 항목, 방어 수단으로 바꿔 내며 AI 인프라의 보증 수준을 한 단계 끌어올릴 수 있죠.
에이전틱 AI까지 넓어지는 신뢰 인프라
컴퓨팅의 다음 대전환은 이미 시작됐습니다.
AI 에이전트는 정보를 만들어 내는 시스템에서, 스스로 추론하고 민감한 데이터에 접근하며 도구와 상호작용하고 사람과 조직을 대신해 행동하는 자율 시스템으로 진화하고 있죠.
이런 시스템을 지키려면 에이전트의 행동을 독립적으로 관찰하고, 접근을 통제하며, 보안 정책을 실시간으로 집행할 수 있는 인프라가 필요합니다.
NVIDIA는 NVIDIA OpenShell 레퍼런스 아키텍처로 하드웨어 격리에 기반한 인프라 보안을 자율 AI 시대까지 넓히고 있죠.
NVIDIA BlueField-4는 NVIDIA DOCA 위에 올라간 통합 보안 소프트웨어 프레임워크 NVIDIA Sentry의 인프라 토대가 됩니다. 호스트와 무관하게, 그리고 에이전트의 손이 닿지 않는 곳에서 돌아가는 NVIDIA Sentry는 에이전트 행동을 아웃오브밴드로 모니터링하고 실리콘 단에서 실시간으로 정책을 집행해 위협을 탐지하고 가두는 데 힘을 보태죠.
이 방식은 NVIDIA OpenShell의 소프트웨어 실행 경계에 독립적인 인프라 보호 계층을 더해 줍니다.
조직이 에이전틱 AI를 대규모로 배포할수록 하부 인프라의 보안은 더욱 중요해집니다. NVIDIA는 안전한 에이전트 행동을 통제하고 집행할 장치를 제공하고, Eclypsium은 AI 인프라 전반의 하드웨어와 펌웨어를 검증하고 모니터링할 도구를 더하죠.
그렇게 해서 신뢰할 수 있는 AI를 위한 운영 모델이 만들어집니다. 인프라를 검증하고, 독립된 보안 경계에서 AI 실행을 집행하며, 에이전트가 무엇에 접근하고 무엇을 할 수 있는지 통제하고, 신뢰 사슬을 끊을 수 있는 변화가 없는지 각 계층을 계속 지켜보는 모델이죠. 두 회사는 앞으로도 가능한 공격 시나리오를 함께 짚어 보며 AI 인프라 보안을 다져 갈 계획입니다.