NVIDIA가 기업 인프라와 엣지 시스템에서 안전한 AI 에이전트를 구축하고 격리·모니터링하며 보안 정책을 적용할 수 있도록 지원하는 NVIDIA OpenShell 레퍼런스 아키텍처를 발표했습니다.
OpenShell 레퍼런스 아키텍처는 NVIDIA OpenShell™ 보안 런타임 소프트웨어를 기반으로 하며, 이를 에이전트 개발과 운영을 위한 풀스택 산업 규모 인프라로 확장합니다.
이 아키텍처에는 NVIDIA Nemotron™으로 구축된 폐쇄형 및 개방형 모델을 포함한 기업 워크로드를 실행하는 NVIDIA Vera Rubin 인프라, 에이전트 하네스 운영을 위한 NVIDIA Vera CPU, 오픈소스 NVIDIA OpenShell 소프트웨어, NVIDIA Sentry 통합 보안 소프트웨어 프레임워크를 실행하는 NVIDIA BlueField® DPU가 포함됩니다. NVIDIA Sentry는 에이전트의 동작을 지속적으로 대역 외 방식으로 모니터링하고 하드웨어 수준에서 보안 정책을 집행합니다.
OpenShell 레퍼런스 아키텍처는 NVIDIA RTX Spark™, NVIDIA DGX Spark™, NVIDIA DGX Station™ 시스템을 활용해 리테일, 헬스케어, 제조, 로보틱스, 소프트웨어 개발, 통신 등 다양한 산업의 엣지 환경에서 실행되는 에이전트까지 지원 범위를 확장할 수 있습니다.
NVIDIA 젠슨 황 CEO는 “AI 역량과 안전성은 함께 발전해야 합니다. 기업들이 수십억 개의 AI 에이전트 배포를 준비하는 가운데, 안전성과 제어 기능은 컴퓨팅 아키텍처 자체에 내재돼야 하죠. 저희는 에이전트가 명확하게 정의된 경계 내에서 유용한 업무를 자유롭게 수행하면서도 격리되고 모니터링되며 통제될 수 있도록 OpenShell을 개발했습니다. OpenShell 레퍼런스 아키텍처를 통해 에이전트는 Rubin에서 사고하고, Vera에서 행동하며, BlueField에서 통제됩니다”라고 말했습니다.
에이전트를 위한 풀스택 인프라
OpenShell 레퍼런스 아키텍처는 NVIDIA 가속 컴퓨팅과 안전한 에이전트 운영을 위한 소프트웨어를 결합한 것이 특징입니다.
- NVIDIA Vera Rubin: NVIDIA Vera Rubin NVL72 인프라를 핵심으로, 사전 학습, 사후 학습, 추론 단계 전반에 걸쳐 유연하게 활용할 수 있습니다. 에이전틱 워크로드에서 NVIDIA Vera Rubin NVL72 시스템은 메가와트당 30배 더 높은 처리량을 제공합니다.
- NVIDIA Vera CPU: x86 프로세서 대비 2배 높은 성능과 향상된 에너지 효율을 제공합니다. 또한 자율형 에이전트를 위한 안전한 런타임 경계를 제공하는 NVIDIA OpenShell을 실행합니다.
- NVIDIA BlueField-4 DPU: NVIDIA DOCA™ 소프트웨어 기반의 NVIDIA Sentry를 통해 에이전트의 행동을 지속적으로 모니터링합니다. BlueField와 NVIDIA Sentry는 함께 하드웨어 수준에서 보안 적용 기능을 제공합니다. 에이전트가 소프트웨어 경계를 벗어나려고 시도할 경우 NVIDIA Sentry는 밀리초 단위로 해당 에이전트를 격리하고 중단시킵니다. DOCA 기반으로 BlueField-4에서 실행되는 NVIDIA Sentry는 에이전트 처리 용량을 최대 20% 향상시킵니다.
NVIDIA, 파트너사와 OpenShell 기반 안전한 에이전트 배포 지원
NVIDIA는 다양한 산업 분야에서 에이전트를 생산 환경에 안전하게 배포할 수 있도록 인프라, 모델, 소프트웨어를 구축하는 업계 선도 기업들과 협력하고 있습니다.
OpenShell 레퍼런스 아키텍처는 Canonical, SUSE, Red Hat이 제공하는 Linux와 Kubernetes 인프라를 비롯해 MXC(Microsoft Execution Containers)를 활용하는 Microsoft Windows 등 주요 엔터프라이즈 운영체제와 컨테이너 오케스트레이션 계층에서 실행됩니다. 또한 AWS(Amazon Web Services), Google Cloud, Microsoft Azure의 클라우드 운영체제에서도 실행할 수 있죠.
기업들은 OpenShell 인프라에서 Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection, SpaceX Super Intelligence 등 모델 개발사가 제공하는 에이전트를 실행할 수 있습니다. NVIDIA는 첨단 모델 연구를 위한 OpenShell 배포에서도 모델 개발사 파트너들과 협력하고 있습니다.
사이버 보안 분야의 선도 기업인 1Password, Check Point, CrowdStrike, Cisco, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI, Zscale는 자사의 에이전트 보안 솔루션에 OpenShell 레퍼런스 아키텍처 지원 기능을 통합하고 있습니다.
유럽의 BBVA와 Santander를 비롯한 주요 은행들은 NVIDIA와 협력해 에이전트의 안전성, 보안, 거버넌스를 강화하기 위한 프레임워크로 OpenShell 레퍼런스 아키텍처를 활용하는 방안을 검토하고 있습니다.
엔터프라이즈 소프트웨어 분야의 선도 기업인 Cadence, Dassault Systèmes, IBM, SAP, Siemens, Synopsys는 OpenShell을 활용해 에이전트 소프트웨어 플랫폼을 개발하고 있는데요. Palantir와 NVIDIA는 고객들이 안전한 에이전트를 프로덕션 환경에 배포할 수 있도록 협력하고 있습니다.
SAP는 NVIDIA OpenShell 레퍼런스 아키텍처를 SAP 비즈니스 AI 플랫폼의 일부인 Joule Studio 런타임에 통합해 비즈니스 거버넌스와 안전한 에이전트 실행을 연결하고 있습니다.
ServiceNow는 ServiceNow Super Intelligence Control Tower가 런타임에서 작업을 관리하고 NVIDIA OpenShell이 관련 정책을 집행하는 개인용 장기 실행 AI 에이전트인 ServiceNow Arc의 정식 출시를 발표했죠. 또한 최근 발표한 AI Passport 권한 계층은 이러한 정책을 NVIDIA OpenShell과 NVIDIA Sentry로 전달해 기업이 단 몇 초 만에 소프트웨어와 하드웨어 전반에서 AI 에이전트의 접근 권한을 취소할 수 있도록 합니다.
NVIDIA 시스템 제조사인 Dell Technologies, Cisco, HPE, Lenovo, Supermicro는 OpenShell 레퍼런스 아키텍처를 기반으로 인프라를 구축하고 있습니다.
NVIDIA는 CoreWeave, Crusoe, Firebird, Firmus, GMI Cloud, IREN, Lambda, Nebius, Nscale, Oracle Cloud Infrastructure, Vultr 등 클라우드 서비스 제공업체와도 협력해 OpenShell을 지원하는 인프라를 구축하고 있습니다.
Baseten, Deepinfra, Fireworks and Together AI 등 추론 및 사후 학습 서비스 제공업체들은 자사의 모델 개발 파이프라인에 OpenShell 레퍼런스 아키텍처를 통합하고 있습니다.
이용 정보
NVIDIA OpenShell은 현재 이용 가능합니다