지금까지 엔터프라이즈 AI는 생성하는 법을 배웠습니다. 추론하는 법도 배웠습니다. 이제 기업들은 다음 질문을 던지고 있습니다. AI는 과연 어떻게 행동해야 할까요?
초기 에이전트 시스템은 단순한 프롬프트를 넘어 더 복잡한 작업을 수행할 수 있다는 가능성을 보여줬습니다. 다음 단계는 이러한 역량을 엔터프라이즈 환경에 도입하는 것입니다. 에이전트가 실제 워크플로우 전반에서 맥락·제어·일관성을 갖추고 운영되어야 하는 환경이 바로 그것입니다.
ServiceNow Knowledge 2026에서 NVIDIA 젠슨 황 CEO는 ServiceNow 회장 겸 CEO Bill McDermott과 함께 개막 키노트에 나서 엔터프라이즈 AI의 다음 단계에 대해 논의했습니다.
양사는 전체 스택에 걸쳐 협력을 확대해, 안전하고 도입이 쉬운 특화형 자율 AI 에이전트를 제공합니다. 이는 NVIDIA 가속 컴퓨팅, 오픈 모델, 도메인별 스킬, 보안 에이전트 실행 소프트웨어를 기반으로 하며, ServiceNow Action Fabric의 엔터프라이즈 워크플로우 맥락과 ServiceNow AI Control Tower의 거버넌스를 결합합니다.
ServiceNow는 Project Arc를 발표했습니다. 개발자, IT 팀, 관리자 등 지식 근로자를 위한 장기 실행형 자기 진화형 자율 데스크톱 에이전트입니다.
독립형 AI 에이전트와 달리 Project Arc는 ServiceNow AI 플랫폼에 ServiceNow Action Fabric을 통해 기본 연결되어, 자율 데스크톱 에이전트가 수행하는 모든 작업에 거버넌스·감사 추적성·워크플로우 인텔리전스를 제공합니다. 로컬 파일 시스템, 터미널, 설치된 애플리케이션에 접근해 기존 자동화로는 처리하기 어려운 복잡한 다단계 작업을 완수하되, 기업이 AI를 대규모로 배포하는 데 실제로 필요한 제어 기능도 갖추고 있습니다.
이 작업은 장기 실행형 자율 에이전트를 위해 모든 기업이 필요로 하는 세 가지 요건을 바탕으로 설계되었습니다. 커스터마이징 가능한 오픈 모델과 도메인별 스킬, 민감한 데이터나 시스템을 노출하지 않고 에이전트가 행동할 수 있도록 돕는 보안, 그리고 효율적인 토큰 이코노믹스를 제공하는 AI 팩토리가 바로 그것입니다.
이 수준의 자율성을 기업에 도입하려면 처음부터 제어가 필요합니다.
Project Arc는 NVIDIA OpenShell을 활용합니다. OpenShell은 샌드박스 처리된 정책 기반 환경에서 자율 에이전트를 개발·배포하기 위한 오픈소스 보안 런타임입니다. ServiceNow는 OpenShell을 기반으로 구축하고 기여함으로써 안전한 엔터프라이즈급 에이전트 실행을 위한 공통 기반을 발전시키고 있습니다. OpenShell을 통해 기업은 에이전트가 볼 수 있는 것, 사용할 수 있는 도구, 각 작업의 격리 방식을 정의할 수 있습니다.
“Project Arc는 NVIDIA와의 지속적인 협력에서 다음 단계를 나타냅니다. 자율 실행을 데스크톱으로 가져오는 것이죠. OpenShell의 런타임 레이어와 ServiceNow AI Control Tower를 결합하고, ServiceNow Action Fabric으로 구동함으로써 엔터프라이즈 AI에 필요한 거버넌스와 보안을 제공하고 있습니다.” — Jon Sigler, ServiceNow AI 플랫폼 부문 EVP 겸 GM
오픈 모델과 에이전트 스킬로 엔터프라이즈 AI 확장
효과적인 엔터프라이즈 AI 시스템은 적응력이 있어야 합니다. NVIDIA와 ServiceNow는 조직이 특정 도메인과 데이터에 맞게 모델과 애플리케이션을 맞춤화할 수 있는 오픈 에코시스템을 구축하고 있습니다.
NVIDIA 에이전트 스킬은 ServiceNow AI 스페셜리스트와 같은 특화형 에이전트가 엔터프라이즈 워크플로우 전반에 걸쳐 특화된 역량을 제공할 수 있도록 합니다. 예를 들어, 특화된 딥 리서치 에이전트 구축을 위한 NVIDIA AI-Q Blueprint는 ServiceNow AI 스페셜리스트가 맥락을 수집하고 정보를 종합하며 비즈니스 기능 전반에 걸쳐 더 복잡한 의사결정을 지원할 수 있도록 합니다.
또한 NVIDIA Nemotron 오픈 모델을 포함한 NVIDIA Agent Toolkit은 맞춤형 AI 애플리케이션 개발을 위한 유연한 빌딩 블록과 특화 스킬을 제공합니다. 이러한 시스템이 신뢰성 있게 실제 성능을 발휘할 수 있도록 양사는 NOWAI-Bench도 발전시키고 있습니다. NVIDIA NeMo Gym 라이브러리와 통합된 엔터프라이즈 AI 에이전트를 위한 오픈 벤치마킹 스위트입니다. NOWAI-Bench에는 EnterpriseOps-Gym이 포함되어 있으며, 이는 업계에서 가장 까다로운 엔터프라이즈 에이전트 벤치마크 중 하나로, Nemotron 3 Super가 현재 오픈소스 모델 중 1위를 차지하고 있습니다.
일반 벤치마크와 달리 이 평가는 다단계 워크플로우에 초점을 맞춥니다. 엔터프라이즈 AI 시스템이 실제 어려움을 겪는 영역이기 때문입니다. 이를 통해 팀이 프로덕션 환경에서 신뢰성 있게 작동하는 에이전트를 구축할 수 있도록 돕습니다.
효율적인 AI 팩토리
AI 에이전트가 장기 실행되고 항상 가동되면서 수백만 개의 워크플로우에 걸쳐 확장하려면 역량뿐만 아니라 효율성도 필요합니다. 토큰 이코노믹스가 엔터프라이즈 AI의 핵심이 되는 바로 그 이유죠.
NVIDIA AI 팩토리는 프로덕션 AI를 위해 가장 낮은 비용과 가장 효율적인 토큰 이코노믹스를 제공하도록 구축되었습니다. NVIDIA Blackwell 플랫폼은 NVIDIA Hopper 대비 와트당 토큰 출력이 50배 이상 향상되어 백만 토큰당 비용이 약 35배 낮아졌습니다. 수백만 개의 워크플로우에서 에이전트를 실행하는 기업의 경우, 이 효율성은 AI가 파일럿에서 광범위한 프로덕션 사용으로 얼마나 빠르게 전환될 수 있는지를 결정하는 요소가 됩니다.
ServiceNow AI Control Tower는 NVIDIA Enterprise AI Factory 검증 설계와 통합되어 대규모 AI 워크로드에 거버넌스와 관찰 가능성을 확장합니다. 에이전트 관찰 가능성 기능이 추가됨으로써 조직은 실시간으로 동작을 모니터링하고 배포부터 최적화까지 전체 라이프사이클에 걸쳐 AI 시스템을 관리할 수 있습니다.
AI는 업무가 이루어지는 새로운 방식이 되고 있습니다. 지금 변화하는 것은 AI를 대규모로 배포하는 데 필요한 핵심 요소들, 즉 유능한 에이전트, 내재된 가드레일, 검증된 성능이 모두 결합되고 있다는 점입니다.
가장 빠르게 움직이는 기업은 에이전트에게 행동할 인프라, 의사결정을 위한 맥락, 모든 행동에 책임을 부여하는 거버넌스를 제공하는 기업이 될 것입니다. NVIDIA와 ServiceNow는 이를 전 세계 기업의 현실로 만들고 있습니다.
NVIDIA OpenShell과 NVIDIA AI-Q Blueprint에 대해 자세히 알아보세요.