엔비디아가 강력한 엔터프라이즈급 생성형 AI 기능을 개발하기 위해 서비스나우(ServiceNow)와 파트너십을 체결하였습니다. 이번 파트너십을 통해 개발되는 생성형 AI 기능을 사용하면 보다 빠르고 지능적인 워크플로우 자동화를 기반으로 비즈니스 프로세스를 혁신할 수 있답니다.
서비스나우는 엔비디아의 소프트웨어, 서비스, 가속화된 인프라를 사용해 맞춤형 대규모 언어 모델(LLM)을 개발하고 있는데요, 해당 LLM은 엔드투엔드(end-to-end) 디지털 전환을 위한 지능형 플랫폼인 서비스나우 플랫폼(ServiceNow Platform)에 특화된 데이터로 훈련됩니다.
이를 통해 서비스나우의 광범위한 AI 기능을 더욱 확장해 IT 부서, 고객 서비스 팀, 직원, 개발자를 포함한 엔터프라이즈 전반에서 생성형 AI를 새롭게 활용할 수 있습니다. 이에 따라 워크플로우 자동화 강화 및 빠른 생산성 향상이 가능합니다.
또한 서비스나우는 이러한 생성형 AI 툴을 바탕으로 엔비디아 데이터를 사용해 엔비디아 네모(NeMo) 기반 모델을 맞춤화함으로써 엔비디아가 IT 운영을 간소화할 수 있도록 돕습니다. 네모 기반 모델들은 엔비디아 DGX 클라우드(Cloud) 및 온프레미스 엔비디아 DGX 슈퍼POD(SuperPOD) AI 슈퍼컴퓨터로 구성된 하이브리드 클라우드 인프라에서 실행됩니다.
엔비디아의 젠슨 황(Jensen Huang) CEO는 “IT는 모든 산업 분야에 걸친 모든 현대 기업의 신경계와 같습니다. 기업을 위한 고도로 맞춤화된 생성형 AI를 구축하려는 양사의 협력은 서비스나우 플랫폼을 사용하는 전 세계 IT 전문가들의 역량과 생산성을 향상시킬 것입니다”이라고 이번 파트너십에 대한 소감을 밝혔습니다.
서비스나우의 최고 운영 책임자(COO)인 CJ 데사이(CJ Desai)는 “생성형 AI의 도입이 가속화됨에 따라, 기업들은 생산성 향상, 경쟁 우위 확보, 데이터 및 IP 보호를 위해 신뢰할 수 있고 안전한 AI 기능을 갖춘 공급업체를 찾고 있습니다. 엔비디아와 서비스나우는 함께 새로운 수준의 자동화를 추진하며 생산성 향상과 사업 영향력 극대화를 지원할 것입니다”이라고 밝혔습니다.
생성형 AI를 통한 디지털 사업의 재편
서비스나우와 엔비디아는 IT 분야에 보다 높은 정확도와 가치를 제공함으로써 기업 전반의 생산성을 개선 및 단순화하기 위해 다양한 생성형 AI 사용 사례를 모색하고 있습니다.
여기에는 목적 기반 챗봇을 활용하는 지능형 가상 비서 및 에이전트 개발이 포함됩니다. 이들은 대규모 언어 모델을 사용하며 특정 IT 작업에 집중하는 목적 기반 챗봇을 통해 광범위한 사용자의 질문과 지원 요청의 신속한 해결을 돕습니다.
기업은 사용자 경험을 간소화하기 위해 독점 데이터로 챗봇을 커스터마이징할 수 있습니다. 이를 통해 화제에서 벗어나지 않으면서 다양한 요청을 해결하는 중앙 생성형 AI 리소스 생성이 가능하답니다.
이러한 생성형 AI 활용 사례는 고객 서비스 상담원에게도 적용 가능한데요, 생성형 AI는 보다 정확하게 사례의 우선순위를 정하여 시간을 절약하고 결과를 개선할 수 있습니다. 또한 동시에 고객 서비스 팀은 자동 문제 해결, 고객 사례 요약을 통한 문서 자료 작성, 채팅 요약 등의 분야에 생성형 AI를 사용하여 보다 신속하게 업무를 전달하고 해결할 수 있습니다.
또한 생성형 AI는 성장 기회를 파악하여 직원 경험을 개선할 수 있습니다. 예를 들어, 자연어 쿼리와 직원 프로필 정보를 기반으로 교육 과정 및 멘토링과 같은 직원 맞춤형 학습 및 개발 권장 사항을 제공할 수 있습니다.
신속한 개발을 촉진하는 엔비디아의 풀스택 생성형 AI 소프트웨어 및 인프라
서비스나우는 생성형 AI 연구 및 개발 과정에서 엔비디아 네모 프레임워크가 포함된 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 플랫폼과 엔비디아 AI 파운데이션(AI Foundations) 클라우드 서비스를 사용하고 있습니다.
네모에는 프롬프트 튜닝(prompt tuning), 슈퍼바이즈드 파인 튜닝(supervised fine-tuning, SFT) 및 지식 검색 도구가 포함되어 있습니다. 이는 개발자가 기업 사용 사례에 맞는 언어 모델을 구축, 사용자 지정 및 배포하는 것을 돕습니다. 네모 가드레일(NeMo Guardrails) 소프트웨어도 포함되어 개발자가 AI 챗봇에게 주제, 안전, 보안 기능을 손쉽게 추가할 수 있습니다.