NVIDIA 에이전트 툴킷이 이끄는 업무 환경의 새로운 혁명

NVIDIA 에이전트 툴킷(Agent Toolkit)은 기업의 효율적인 AI 에이전트 구축과 운영을 지원합니다.
by NVIDIA Korea
NVIDIA 에이전트 툴킷이 이끄는 업무 환경의 새로운 혁명

NVIDIA는 AI의 새로운 시대를 열고 있습니다. 파트너사들과 협력해 자율적으로 진화하는 엔터프라이즈 AI 에이전트를 위한 오픈소스 소프트웨어를 선보이고 있는데요, 또한 에이전트의 안전성, 보안성, 효율성을 높이며, 소프트웨어와 지식 업무 분야에서 세대 전환을 가속화합니다.

NVIDIA 에이전트 툴킷(Agent Toolkit)은 기업과 개발자가 주어진 작업을 자율적으로 완수할 수 있도록 돕는 오픈소스 모델과 소프트웨어를 제공합니다. 이번에 새롭게 포함된 NVIDIA OpenShell™은 정책 기반 보안, 네트워크, 개인정보 보호 가드레일을 적용하는 오픈소스 런타임으로, 자율 에이전트 또는 클로(claws)를 안전하게 배포할 수 있도록 지원하죠.

NVIDIA 젠슨 황 CEO는 “클로드 코드(Claude Code)와 오픈클로(OpenClaw)는 에이전트 시대의 전환점을 이끌어냈습니다. 이제 AI는 단순한 생성과 추론을 넘어 실행의 영역으로 확장되고 있습니다. 직원들은 직접 배포하고 관리하는 최첨단 맞춤형 에이전트로 구성된 전문 팀을 통해 업무 효율을 극대화하게 될 것입니다. 엔터프라이즈 소프트웨어 산업은 전문적인 에이전틱 플랫폼으로 진화하고, IT 산업은 다음 단계의 거대한 확장을 눈앞에 두고 있습니다”라고 말했습니다.

NVIDIA 에이전트 툴킷, 커뮤니티와 엔터프라이즈 소프트웨어 진화 가속화

NVIDIA 에이전트 툴킷은 NVIDIA Nemotron™과 같은 오픈 모델, NVIDIA AI-Q와 같은 오픈 에이전트, NVIDIA cuOpt™와 같은 오픈 스킬, OpenShell과 같은 오픈 런타임을 포함합니다. 개발자는 이 에이전트 툴킷 소프트웨어를 활용해 자율적으로 작동하는 전문적인 AI 에이전트를 구축할 수 있죠. 다른 소프트웨어를 활용하거나 직접 개발해 작업을 수행할 수도 있습니다.

개발자는 NVIDIA AI-Q 오픈 에이전트 블루프린트를 활용해 엔터프라이즈 지식을 기반으로 스스로 인지하고 추론하며 실행할 수 있는 맞춤형 AI 에이전트를 구축할 수 있습니다. 이 에이전트는 정확하고 상황에 적절한 답변을 제시하기 위해 최적의 데이터 소스와 분석 수준을 자율적으로 결정하는데요. 내장된 평가 시스템은 각 AI 답변이 생성된 과정을 설명해줍니다.

AI-Q의 하이브리드 아키텍처는 오케스트레이션에 프런티어 모델을, 연구에 NVIDIA Nemotron 오픈 모델을 사용하며, 최상의 정확도를 유지하면서도 쿼리 비용을 50% 이상 절감시킵니다. NVIDIA는 AI-Q Blueprint를 활용해 딥리서치 벤치(DeepResearch Bench)딥리서치 벤치 II(DeepResearch Bench II) 순위에서 모두 1위를 기록한 AI 에이전트를 개발했습니다.

NVIDIA OpenShell은 정책 기반 보안, 네트워크, 개인정보 보호 가드레일을 엄격히 적용하는 동시에, 자율 에이전트가 생산성을 발휘하는 데 필요한 접근 권한을 제공하죠. NVIDIA는 시스코(Cisco), 크라우드스트라이크(CrowdStrike), 구글(Google), 마이크로소프트 시큐리티(Microsoft Security), 트렌드AI(TrendAI) 등 주요 보안 업체들과 협력해, OpenShell이 사이버, AI 보안 도구와 호환되도록 지원합니다.

10억 회 이상 다운로드된 오픈소스 프레임워크를 제공하는 에이전트 엔지니어링 기업인 랭체인(LangChain)은 NVIDIA와 협력해 AI-Q, OpenShell, Nemotron 오픈 모델, 데이터세트, 도구를 포함한 에이전트 툴킷을 랭체인 딥 에이전트 라이브러리(deep agent library)에 통합할 계획입니다. 이를 통해 정교하고 정확한 엔터프라이즈 AI 에이전트를 개발하고, 이를 대규모로 실행할 수 있습니다.

엔터프라이즈 소프트웨어 플랫폼, NVIDIA와 함께 AI 에이전트 역량 확장

다양한 산업 분야의 선도적인 소프트웨어 기업들은 OpenShell과 NVIDIA Nemotron 오픈 모델을 포함한 NVIDIA 에이전트 툴킷 소프트웨어를 활용해, 자사 애플리케이션과 플랫폼 내 AI 에이전트의 기능을 확장하고 있습니다.

  • 어도비(Adobe)는 개인화되고, 안전하며, 비용 효율적인 환경에서 하이브리드와 장기 실행형 크리에이티브, 생산성, 마케팅 에이전트를 운영하기 위한 기반으로 에이전트 툴킷 소프트웨어를 도입할 예정입니다.
  • 암독스(Amdocs)는 자사의 코그니티브 코어(Cognitive Core) 에이전트 플랫폼에 NVIDIA AI-Q와 Nemotron을 활용해, 고객 상호작용과 청구 데이터를 지속적으로 모니터링해 고객이 불편을 겪기 전에 문제를 미리 식별하고 해결합니다.
  • 아틀라시안(Atlassian)은 NVIDIA 에이전트 툴킷과 OpenShell을 활용해 자사 AI 에이전트 전략인 로보(Rovo)를 고도화하고 지라(Jira), 컨플루언스(Confluence) 등 협업 도구를 위한 AI 기반 업무 시스템을 향상시킵니다.
  • 박스(Box)는 NVIDIA 에이전트 툴킷을 활용해 박스 파일 시스템을 이용하는 엔터프라이즈 에이전트가 장시간 소요되는 비즈니스 프로세스를 안전하고 안정적으로 수행할 수 있도록 지원합니다.
  • 케이던스(Cadence)는 엔지니어들이 더욱 복잡하고 정밀한 반도체를 설계하고 검증할 수 있도록, 자사의 칩스택 AI 슈퍼에이전트(ChipStack AI SuperAgent)에 NVIDIA 에이전트 툴킷과 Nemotron을 도입할 예정입니다.
  • 시스코는 시스코 AI 디펜스(Cisco AI Defense)를 통해 OpenShell을 위한 AI 보안 보호 체계를 구축합니다. 에이전트와 클로 작업을 관리하기 위한 제어 기능과 가드레일도 제공합니다.
  • 코헤시티(Cohesity)는 NVIDIA OpenShell에 대한 지원을 추가하고, NVIDIA AI-Q 기반으로 가이아(Gaia) AI 플랫폼을 확장해, 더욱 진보된 에이전트 기반 워크플로우를 구현합니다.
  • 크라우드스트라이크는 NVIDIA AI-Q와 OpenShell 기반 에이전트를 포함한 NVIDIA AI 에이전트 아키텍처에 자사의 팔콘(Falcon) 플랫폼 보호 기능을 직접 내장하는 시큐어 바이 디자인 AI 블루프린트(Secure-by-Design AI Blueprint)를 공개했습니다. 또한, NVIDIA Nemotron 추론 모델과 네모 데이터 디자이너(NeMo Data Designer)를 활용해 조사 워크플로우용 AI 에이전트를 구동함으로써, 에이전트 기반의 관리형 탐지 및 대응(MDR) 서비스를 향상시킵니다.
  • 다쏘시스템(Dassault Systèmes)은 3D익스피리언스(3DEXPERIENCE) 에이전트 플랫폼에서 구동되는 역할 기반 AI 에이전트인 버추얼 동반자(Virtual Companions)에 NVIDIA 에이전트 툴킷 소프트웨어와 NVIDIA Nemotron 오픈 모델을 적용하는 방안을 검토 중입니다.
  • 아이큐비아(IQVIA)는 NVIDIA Nemotron과 기타 에이전트 툴킷 소프트웨어를 자사의 통합 에이전트 AI 플랫폼인ai에 통합합니다. 이를 통해 생명과학 기관들이 임상부터 상업화, 실제 의료 현장 전반에서 업무 효율성과 의사결정의 질을 높이고, 책임감 있는 AI 운용체계를 구축하도록 지원하죠. 특히 아이큐비아는 이미 글로벌 상위 20개 제약사 중 19곳을 비롯한 주요 고객사와 내부 조직에 150개 이상의 에이전트를 실전 배치했습니다.
  • 팔란티어(Palantir)는 NVIDIA와 협력해 팔란티어 소버린 AI 운영체제 레퍼런스 아키텍처(AI Operating System Reference Architecture)에서 구동되는 AI 에이전트 개발에 Nemotron을 활용하고 있습니다.
  • 레드햇(Red Hat)은 NVIDIA와 함께 구축한 레드햇 AI 팩토리(Red Hat AI Factory)에 에이전트 툴킷 소프트웨어를 통합합니다. 고객이 고도의 보안성과 자율성을 갖춘 AI 에이전트를 쉽게 개발할 수 있는 엔터프라이즈급 플랫폼 환경을 제공합니다.
  • 세일즈포스(Salesforce)는 에이전트포스(Agentforce)에 NVIDIA Nemotron 모델을 포함한 NVIDIA 에이전트 툴킷을 활용합니다. 고객사들이 서비스, 영업, 마케팅 업무 전반에 AI 에이전트를 직접 구축하고 맞춤화해 협업에 즉시 배포할 수 있도록 지원하죠. 이번 협력으로 슬랙(Slack)을 주요 대화형 인터페이스와 오케스트레이션 레이어로 활용하는 새로운 레퍼런스 아키텍처가 도입됩니다. 이를 통해 직원들은 NVIDIA AI 인프라 기반의 에이전트포스 에이전트와 슬랙에서 실시간으로 소통할 수 있습니다. 또한 해당 에이전트는 온프레미스와 클라우드를 아우르는 데이터 저장소에서 정보를 호출해 비즈니스 워크플로우에 직접 참여할 수 있습니다.
  • SAP는 SAP 비즈니스 테크놀로지 플랫폼(SAP Business Technology Platform)의 줄 스튜디오(Joule Studio)를 통해 AI 에이전트를 활성화합니다. 이를 위해 NVIDIA NeMo™를 포함한 오픈 NVIDIA 에이전트 툴킷 소프트웨어를 활용합니다. 이를 통해 고객과 파트너사는 각자의 비즈니스 요구사항에 최적화된 맞춤형 에이전트를 직접 설계할 수 있습니다.
  • 지멘스(Siemens)는 반도체와 인쇄 회로 기판(PCB) 산업을 대상으로, 지멘스의 전자 설계 자동화(EDA) 포트폴리오 전반에서 특정 도메인별 작업을 자율적으로 조율하는 퓨즈 EDA AI 에이전트(Fuse EDA AI Agent)를 출시합니다. NVIDIA Nemotron을 활용하는 이 에이전트는 설계 구상부터 제조 승인 단계에 이르기까지 전 과정을 아우르며 엔지니어링 효율성과 설계 품질을 혁신적으로 향상시킵니다.
  • 서비스나우(ServiceNow)는 자사 AI 플랫폼을 기반으로 구축된 AI 전문가용 자율 워크포스(Autonomous Workforce of AI Specialists)에 NVIDIA 에이전트 툴킷과 AI-Q Blueprint를 적용했으며, NVIDIA Nemotron과 서비스나우의 아프리엘(ServiceNow Apriel) 모델을 포함한 폐쇄형 및 오픈소스 모델의 조합을 활용합니다.
  • 시놉시스(Synopsys)는 NVIDIA Nemotron과 Nemo 에이전트 툴킷을 사용해, 반도체와 시스템 설계를 위해 자사의 에이전트엔지니어(AgentEngineer) 기술을 기반으로 한 멀티 에이전트 프레임워크를 구축하고 있습니다.

현재 build.nvidia.com에서 NVIDIA 에이전트 툴킷과 OpenShell을 직접 경험해 볼 수 있습니다. 해당 서비스는 베이스텐(Baseten), 비트디어 AI(Bitdeer AI), 코어위브(CoreWeave), 딥인프라(DeepInfra), 디지털오션(DigitalOcean), GMI 클라우드(GMI Cloud), 파이어웍스(Fireworks), 라이트닝(Lightning), 투게더 AI(Together AI), 벌처(Vultr) 등 추론 서비스 제공업체와 NVIDIA 클라우드 파트너사 플랫폼에서 실행됩니다.

또한 개발자는 OpenShell을 랭체인과 결합해 사용할 수 있으며, 깃허브(GitHub)에서 다운로드해 NVIDIA GeForce RTX PC와 노트북, NVIDIA RTX 워크스테이션에서 로컬 환경으로 구동할 수 있습니다. 아울러 알토스 컴퓨팅(Altos Computing), 에이수스(ASUS), 델 테크놀로지스(Dell Technologies), 기가바이트(GIGABYTE), HP, 레노버(Lenovo), MSI, 슈퍼마이크로(Supermicro) 등의 NVIDIA DGX 스테이션™(DGX Station™)과 NVIDIA DGX 스파크™(DGX Spark™) 슈퍼컴퓨터에서도 운용이 가능합니다.

또한 엔터프라이즈는 아마존 웹 서비스(AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure), 마이크로소프트 시큐리티, 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure, OCI) 등 주요 클라우드 서비스 제공업체의 AI 팩토리 인프라와 시스코, 델 테크놀로지스, HPE, 레노버, 슈퍼마이크로 등이 공급하는 서버에서 AI 에이전트를 구축하고 실행할 수 있습니다.

젠슨 황 CEOGTC 키노트 다시보기를 시청할 수 있으며, 다양한 GTC 세션을 확인할 수 있습니다.