NVIDIA와 Oracle의 협력, 기업의 에이전트 AI 추론 앞당기다

NVIDIA와 Oracle의 협력, 기업의 에이전트 AI 추론 앞당기다
3월 20, 2025 by NVIDIA Korea

NVIDIA는 전 세계 기업들이 에이전트 AI 애플리케이션을 더욱 신속하게 개발할 수 있도록 오라클(Oracle)과 협력합니다. NVIDIA의 가속 컴퓨팅과 추론(inference) 소프트웨어를 오라클의 AI 인프라, 생성형 AI 서비스와 업계 최초로 통합할 계획입니다.

오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure, OCI)와 NVIDIA Enterprise 소프트웨어 플랫폼 간의 새로운 통합은 160개 이상의 AI 도구와 100개 이상의 NVIDIA NIM™ 마이크로서비스를 OCI 콘솔에서 직접 활용할 수 있습니다. 또한, 양사는 오라클과 NVIDIA AI Blueprint의 노코드 배포를 지원하고, NVIDIA cuVS 라이브러리를 활용해 오라클 데이터베이스 23ai(Oracle Database 23ai)에서 AI 벡터 검색(Vector Search)을 가속화하기 위해 협업하고 있습니다.

오라클 CEO 새프라 캐츠(Safra Catz)는 “오라클은 AI 훈련과 추론을 위한 최적의 플랫폼으로 자리 잡았으며, 이번 협력으로 고객은 더욱 혁신적인 비즈니스 성과를 창출할 수 있게 됐습니다. NVIDIA의 기술과 OCI의 뛰어난 유연성, 확장성, 성능, 보안성의 결합은 AI 도입을 가속화하고, 데이터 활용 가치를 극대화할 것”이라고 말했습니다.

NVIDIA 창립자 겸 CEO 젠슨 황(Jensen Huang)은 “NVIDIA와 오라클은 추론의 시대를 함께하는 최고의 파트너입니다. AI, 가속 컴퓨팅을 선도하는 NVIDIA와 전 세계의 많은 기업 데이터를 처리하고 있는 오라클이 만났습니다. 에이전트 AI 혁신을 통해 기업이 고객과 파트너를 위한 놀라운 서비스를 제공할 수 있도록 지원합니다”고 말했습니다.

기업 AI 요구에 맞춘 특화 솔루션

NVIDIA AI Enterprise는 추론 모델 배포 시간을 단축하기 위해 OCI 콘솔에서 직접 제공됩니다. 이를 통해 고객은 최신 NVIDIA Llama Nemotron 모델을 포함한 100개 이상의 최적화된 클라우드 네이티브 추론 마이크로서비스인 NVIDIA NIM™을 빠르고 손쉽게 활용할 수 있죠.

OCI 베어메탈 인스턴스와 OCI 쿠버네티스 엔진(Kubernetes Engine)을 사용하는 쿠버네티스 클러스터에서 NVIDIA AI Enterprise를 배포 이미지로 사용할 수 있으며, OCI 콘솔 고객은 오라클을 통해 직접 결제하고 고객 지원을 받을 수 있습니다.

기업들은 OCI의 150개 이상의 AI, 클라우드 서비스를 NVIDIA 가속 컴퓨팅과 NVIDIA AI Enterprise와 결합해, 데이터센터, 퍼블릭 클라우드, 엣지 환경에서 AI를 배포할 수 있습니다. 이 솔루션은 데이터 프라이버시, 소버린 AI(Sovereign AI), 저지연성 요건을 충족하는 통합 AI 스택을 제공하죠.

생명공학 회사인 솔레이 테라퓨틱스(Soley Therapeutics)는 OCI AI 인프라, NVIDIA AI Enterprise, NVIDIA Blackwell GPU를 배포해 세포 언어를 캡처, 디코딩, 해석해 세포 운명을 예측합니다. 이를 통해 복잡한 질병에 대한 가능한 치료법을 찾기 위한 AI 신약 발견 플랫폼을 구축합니다.

솔레이 테라퓨틱스의 공동 창립자이자 CEO인 예렘 예기아자리안스(Yerem Yeghiazarians)는 “우리는 AI가 암과 기타 복잡한 질병에 대한 치료법 개발에 도움을 줄 수 있는 잠재력이라고 믿습니다. OCI와 NVIDIA의 조합은 우리에게 필요한 저장소, 컴퓨팅, 소프트웨어 도구, 지원을 제공하는 풀 스택 AI 솔루션을 지원하고, 우리는 페타바이트의 데이터를 활용해 AI 신약 발견 플랫폼을 더 빠르게 혁신할 수 있습니다”고 말했습니다.

맞춤형 블루프린트로 대규모 AI 배포

OCI AI 블루프린트는 고객이 소프트웨어 스택을 결정하거나 인프라를 수동으로 프로비저닝할 필요 없이, AI 워크로드를 신속하게 실행할 수 있도록 지원하는 노코드 배포 레시피를 제공합니다. 또한, 이 블루프린트는 NVIDIA GPU, NIM 마이크로서비스, 사전 구성된 가시성 도구에 대한 명확한 하드웨어 권장 사항을 제공해 기업이 AI 프로젝트를 몇 주에서 몇 분으로 단축할 수 있도록 돕죠.

더불어, NVIDIA Blueprint는 NVIDIA 스택 전반에 걸친 통합된 개발자 경험을 제공하며, 엔터프라이즈 AI 활용 사례를 위한 참조 워크플로우를 지원한다. NVIDIA Blueprint를 통해 기업은 NVIDIA AI Enterprise와 NVIDIA Omniverse™ 소프트웨어, API, 마이크로서비스를 사용해 맞춤형 AI 애플리케이션을 구축하고 운영할 수 있습니다. 예를 들어, 개발자는 고객 서비스 AI 어시스턴트용 NVIDIA AI Blueprint로 시작한 후, 필요에 따라 맞춤화할 수 있습니다.

물리적 AI와 시뮬레이션 애플리케이션의 개발, 배포, 확장을 간소화하기 위해, NVIDIA Omniverse 플랫폼이 올해 말 OCI 마켓플레이스(Oracle Cloud Infrastructure Marketplace)에서 제공될 예정입니다. NVIDIA L40S GPU로 가속된 컴퓨팅 베어메탈 인스턴스도 사전 구성됩니다.

OCI 데이터 사이언스에서 NVIDIA NIM으로 실시간 AI 추론 구현

기업의 AI 도입을 더욱 가속화하고 최소한의 설정으로 신속한 AI 배포를 지원하기 위해, 데이터 사이언티스트는 OCI 데이터 사이언스(OCI Data Science)에서 사전 최적화된 NVIDIA NIM 마이크로서비스를 직접 활용할 수 있는데요. 기업은 복잡한 인프라 관리 없이 실시간 AI 추론을 구현할 수 있습니다.

데이터 보안과 규정 준수를 위해, 모델은 고객의 OCI 테넌시(Tenancy) 내에서 실행됩니다. 고객은 유연한 종량제 기반의 시간 요금제를 통해 모델을 구매하거나, 오라클 유니버설 크레딧(Oracle Universal Credit)를 적용할 수 있습니다.

기업들은 이 통합 솔루션을 활용해 사전 구성된 최적화된 NIM 추론 엔진을 몇 분 안에 배포하고, AI 기반 어시스턴트, 실시간 추천 엔진, 코파일럿과 같은 다양한 활용 사례에서 가치를 신속하게 창출할 수 있습니다. 이러한 통합은 소규모 워크로드에서 시작해 원활하게 엔터프라이즈 전반으로 확장할 수 있죠.

NVIDIA 가속 컴퓨팅 플랫폼으로 오라클 데이터베이스 23ai에서 AI 벡터 검색 속도 향상

오라클과 NVIDIA는 오라클 데이터베이스 23ai에서 AI 벡터 검색 워크로드의 벡터 임베딩과 벡터 인덱스 생성 속도를 가속화하기 위해, NVIDIA GPU와 NVIDIA cuVS를 활용하기 위해 협력하고 있습니다.

기업들은 텍스트, 이미지, 비디오 등 대량의 입력 데이터를 일괄 벡터화해 벡터 임베딩을 활성화할 수 있으며, 벡터 인덱스를 빠르게 생성하고 유지할 수 있습니다. 오라클 데이터베이스 고객들은 NVIDIA GPU로 가속화된 AI 벡터 검색을 활용해 AI 파이프라인 성능을 대폭 향상시켜 대규모 AI 벡터 워크로드를 지원할 수 있습니다.

듀이비전(DeweyVision)은 고급 컴퓨터 비전과 AI 기술을 활용해 미디어를 데이터로 변환하고, 이를 검색 가능하고 활용할 수 있도록 지원합니다. 듀이비전은 노코드 데이터 웨어하우징 AI 도구를 위해 오라클 자율운영 데이터베이스(Oracle Autonomous Database)에서 오라클 데이터베이스 23ai를 활용하고 있습니다. 이를 통해 프로덕션 전문가들은 영상 자료를 몇 분 만에 정리하고, 직관적인 검색 기능을 활용해 워크플로우를 연결하며, 빠르게 영상 편집을 수행할 수 있죠.

듀이비전의 CEO 마지드 베마니안(Majid Bemanian)은 “오라클 데이터베이스 23ai와 AI 벡터 검색을 활용하면 듀이비전 플랫폼의 확장성을 높이는 동시에 검색 성능을 크게 향상할 수 있습니다. NVIDIA GPU를 활용해 오라클 데이터베이스에 로드할 벡터 임베딩을 생성함으로써, 새로운 데이터의 플랫폼 내 유입 속도를 가속화할 수 있습니다. 또한, 오라클 자율운영 데이터베이스와 오라클 데이터베이스 23ai의 통합 기능을 통해 운영 비용을 절감하면서 지속적인 성장과 새로운 기회를 모색할 수 있을 것으로 기대합니다. 듀이비전, 오라클 데이터베이스 23ai, 그리고 OCI에서 구동되는 NVIDIA GPU의 조합이 우리가 ‘할리우드의 데이터 웨어하우스’로 자리 잡는 데 중요한 역할을 할 것이라 확신합니다”고 덧붙였습니다.

OCI에서의 NVIDIA Blackwell로 어디서나 AI 구현

오라클과 NVIDIA는 다양한 클라우드 환경에서 AI 인프라를 지속적으로 발전시키고 있습니다. 여기에는 OCI의 공공 지역, 정부 클라우드, 소버린 클라우드, OCI 전용 리전(Dedicated Region), 오라클 알로이(Alloy), 오라클 컴퓨트 클라우드앳커스터머(Compute Cloud@Customer), OCI 이동식 엣지 디바이스(Roving Edge Devices) 등이 포함됩니다.

NVIDIA Quantum-2 InfiniBand 클러스터 네트워크 환경, NVIDIA Spectrum™ 이더넷 스위치, 그리고 시장 최대 규모의 AI 슈퍼클러스터를 위해 최적화된 NVIDIA NVLink™와 NVLink 스위치 기능이 포함됩니다.

OCI는 NVIDIA GB200 NVL72 시스템을 OCI 슈퍼클러스터(Supercluster)에서 제공할 예정이며, 최대 131,072개의 NVIDIA GPU를 지원하는 이 시스템은 곧 일반에 제공될 예정입니다. 또한, NVIDIA Blackwell Ultra GPU를 탑재한 클라우드 기반 최대 규모의 AI 슈퍼컴퓨터에 대한 주문도 접수 중입니다.

OCI는 NVIDIA Blackwell 가속 컴퓨팅 플랫폼의 차세대 버전을 제공하는 최초의 클라우드 서비스 제공업체 중 하나가 될 것입니다. 지난해 소개된 혁신적인 Blackwell 아키텍처를 기반으로 한 Blackwell Ultra는 NVIDIA GB300 NVL72 랙 스케일 솔루션과 NVIDIA HGX™ B300 NVL16 시스템을 포함하죠. GB300 NVL72는 NVIDIA GB200 NVL72에 비해 1.5배 더 많은 AI 성능을 제공하며, NVIDIA Hopper™로 구축된 AI 공장에 비해 Blackwell의 수익 기회를 50배 증가시킵니다.

글로벌 대화형 인공지능 선도기업 사운드하운드(SoundHound)는 음성과 대화형 AI 솔루션을 제공해 전 세계 브랜드의 수백만 제품에서 음성 관련 경험을 지원합니다. 그들의 음성 AI 플랫폼은 OCI에서 실행되며 매년 수십억 개의 쿼리를 처리하고, NVIDIA GPU를 사용해 고객에게 빠르고 정확한 음성 서비스를 제공하는데요.

사운드하운드의 제품 최고 책임자인 제임스 홈(James Hom)은 “사운드하운드는 OCI와 오랜 협력 관계를 유지해 왔습니다. 이러한 우리의 지속적인 협력이 미래 성장 지원에 중요한 역할을 할 것이라고 믿죠. NVIDIA GPU는 차세대 음성 AI 모델의 훈련 속도를 획기적으로 향상시킬 것”이라고 말했습니다.

추가 자료 보기

오라클 분산형 클라우드 소개

오라클의 분산형 클라우드는 클라우드의 이점을 유지하면서도 더 높은 수준의 제어와 유연성을 제공합니다. 오라클의 분산 클라우드 라인업은 다음과 같습니다.

  • 공공 클라우드: 하이퍼스케일 공공 클라우드 지역은 엄격한 EU 주권 통제를 필요로 하는 조직을 포함해 모든 규모의 기업을 지원합니다. 여기에서 전체 지역 목록을 확인할 수 있습니다.
  • 전용 클라우드: 고객은 OCI 전용 지역을 통해 모든 OCI 클라우드 서비스를 자체 데이터센터에서 운영할 수 있으며, 파트너사는 오라클 알로이를 활용해 OCI 클라우드 서비스를 재판매하고 맞춤형 환경을 구축할 수 있습니다. 또한, 오라클은 미국, 영국, 호주 정부 클라우드뿐만 아니라 국가 안보를 위한 독립 클라우드 지역도 운영하고 있으며, 각 솔루션은 고객이 소버린 클라우드로 배포할 수 있는 완전한 클라우드와 AI 스택을 제공합니다.
  • 하이브리드 클라우드: OCI는 오라클 엑사데이터 클라우드앳커스터머(Exadata Cloud@Customer)와 컴퓨트 클라우드앳커스터머를 통해 주요 클라우드 서비스를 온프레미스에서 제공하며, 현재 60개국 이상에서 배포를 관리하고 있습니다. 또한, OCI 로빙 엣지 인프라스트럭처(Roving Edge Infrastructure)는 견고하고 휴대 가능한 고성능 장비로 구성돼 고객이 엣지에서 원격 AI 추론을 활용할 수 있도록 지원합니다.
  • 멀티클라우드: OCI는 아마존 웹 서비스(Amazon Web Services, AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure) 등의 모든 하이퍼스케일 클라우드 제공업체 내에서 물리적으로 배포돼 있습니다. 오라클 데이터베이스앳AWS(Database@AWS), 오라클 데이터베이스앳애저(Database@Azure), 오라클 데이터베이스앳구글클라우드(Database@Google Cloud), 오라클 AWS 기반 오라클 히트웨이브(HeatWave on AWS) 등 저지연, 네이티브 통합 오라클 데이터베이스 서비스를 제공합니다. 또한, 마이크로소프트 애저용 오라클 인터커넥트(Interconnect for Microsoft Azure)와 구글 클라우드용 오라클 인터커넥트(Interconnect for Google Cloud)를 통해 고객이 여러 클라우드의 주요 기능을 조합해 활용할 수 있도록 지원합니다.