편집자 주: 이 글은 에이전트형 AI, 챗봇, 코파일럿 등의 최신 기술과 실제 활용 사례를 소개하는 AI On 블로그 시리즈의 일부입니다. 이 시리즈는 AI 쿼리 엔진을 뒷받침하는 고급 AI 에이전트와, 이를 구동하는 NVIDIA의 소프트웨어 및 하드웨어에 대해 함께 다룹니다.
앞으로 3년 안에 대부분의 비즈니스 업무에 AI 에이전트가 관여할 것으로 예상됩니다. 특히 사람과 AI가 효과적으로 협업할 경우, 사람들이 고부가가치 업무에 집중할 수 있는 시간이 65%까지 늘어날 수 있다는 전망도 있습니다.
AI 에이전트는 맥락과 결과를 바탕으로 스스로 학습하고 추론하며, 상황에 맞게 유연하게 대응합니다. 단순한 효율 향상을 넘어, 기대 이상의 성과를 이끌어낼 수 있는 잠재력을 지니고 있습니다. 이러한 에이전트가 비즈니스 전략의 중심으로 떠오르면서, 어떤 영역에서 실질적인 효과를 내고 있으며, 투자의 가치를 어떻게 증명할 수 있는지가 리더들에게 중요한 과제로 부상하고 있습니다.
다음은 에이전틱 AI가 팀 성과를 높이는 여섯 가지 방법과, 그 효과를 측정하는 실질적인 기준입니다.
1. AI 에이전트를 통한 소프트웨어 개발 가속화
AI 에이전트는 지능형 코파일럿처럼 작동하며, 코드 생성, 테스트, 배포 등 소프트웨어 개발 과정 전반을 자동화하는 데 기여합니다.
오류를 조기에 발견해 품질을 높이고 출시 속도를 개선할 수 있으며, 문서화된 정보를 구조화해 제공함으로써 신입 엔지니어의 온보딩 속도도 높일 수 있습니다.
예를 들어, NVIDIA ChipNeMo는 NVIDIA의 내부 칩 설계 데이터를 기반으로 맞춤형 거대 언어 모델(LLM)로 학습된 전문 에이전트 팀입니다. 이 시스템은 설계, 검증, 문서화 업무를 수행하는 5,000명의 NVIDIA 엔지니어들이 단 1년 만에 총 4,000일에 달하는 엔지니어링 업무 시간을 절약할 수 있도록 지원했습니다.
ChipNeMo는 도입 이후 다음과 같은 성과를 달성했습니다:
NVIDIA Nemotron을 활용한 에이전트 구축 방법과 NVIDIA NeMo Agent Toolkit으로 AI 코드 생성 성능을 높이는 방법도 함께 소개됩니다.
2. 데이터 기반 의사결정 지원
AI 에이전트는 다양한 산업에서 복잡하고 시급한 데이터를 빠르게 분석해, 투자나 비즈니스 전략 같은 중요한 의사결정을 내리는 데 필요한 인사이트를 제공합니다.
예를 들어, BlackRock의 Aladdin Copilot은 수천 개 금융기관의 사용자들이 활용하는 내장형 AI 어시스턴트입니다. 간단한 텍스트 입력만으로 포트폴리오 인사이트를 얻고, 투자 리서치를 평가하며, 가용 현금 잔액을 모니터링할 수 있습니다. 이를 통해 데이터 기반 투자 결정의 정확도는 높이고, 리서치에 걸리는 시간은 몇 분에서 몇 초로 줄일 수 있었습니다.
VAST Data는 내부와 외부의 다양한 소스에서 정보를 빠르게 수집하고 통합하는 데 에이전트를 활용하고 있습니다. 이 덕분에 영업팀은 고객 계정에 대한 유용하고 최신의 인사이트에 더 빠르게 접근할 수 있습니다.
3. IT 운영 최적화
AI 에이전트는 인프라를 선제적으로 모니터링하고, 의사결정을 자동화하는 등 IT 운영 관리에 효과적으로 활용됩니다.
IT 운영 관리를 위한 AI 에이전트는 다음을 제공합니다.:
빠르게 변화하는 통신 환경에서는, AI 에이전트가 실시간 성능 지표를 분석하고 서비스 장애를 예측함으로써 네트워크 운영을 효과적으로 지원할 수 있습니다. 예를 들어, Telenor Group은 통신망 구성에 NVIDIA Blueprint를 적용해 5G 및 그 이후 세대의 성능 요구를 충족하는 지능형 자율 네트워크를 구축했습니다.