NVIDIA와 Oracle, “전 세계에 소버린 AI 솔루션 제공 위해” 협력

NVIDIA는 전 세계 고객들에게 소버린 AI(sovereign AI) 솔루션을 제공하기 위해 오라클(Oracle)과의 협력을 확대합니다.

오라클의 분산형 클라우드, AI 인프라, 생성형 AI 서비스는 NVIDIA의 가속 컴퓨팅, 생성형 AI 소프트웨어와 결합해 정부와 기업이 AI 팩토리를 구축할 수 있도록 지원하게 되는데요. 이러한 AI 팩토리는 다양한 운영 제어를 통해 국가 또는 조직의 안전한 시설에서 클라우드 서비스를 로컬로 실행할 수 있으며, 경제 성장을 다각화하고 촉진하려는 국가 목표를 지원합니다.

오라클의 CEO인 사프라 캣츠(Safra Catz)는 “AI가 전 세계의 비즈니스, 산업, 정책을 재편함에 따라 국가와 조직은 가장 가치 있는 데이터를 보호하기 위해 디지털 주권을 강화해야 합니다. NVIDIA와의 지속적인 협력과 클라우드 리전(regions)을 로컬에 신속하게 배포할 수 있는 오라클의 독보적인 능력은 사회가 보안을 약화시키지 않고도 AI를 활용할 수 있도록 보장할 것”이라고 말했습니다.

NVIDIA의 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “생성형 AI가 혁신을 주도하는 시대에 데이터 주권은 문화적, 경제적 필수 요소”라고 말하며, “오라클의 통합 클라우드 애플리케이션과 인프라는 NVIDIA 가속 컴퓨팅, 생성형 AI 서비스와 결합해 국가와 지역이 스스로의 운명을 통제하는 데 필요한 유연성과 보안을 제공합니다”고 말했습니다.

고객의 데이터 주권 실현을 지원하는 턴키(Turnkey) 솔루션

NVIDIA 풀스택 AI 플랫폼은 오라클 엔터프라이즈 AI와 결합해 고객에게 운영, 위치, 보안에 대한 제어력을 강화하고 디지털 주권을 지원하는 최첨단 AI 솔루션을 제공합니다. 오라클 엔터프라이즈 AI는 OCI 전용 리전(OCI Dedicated Region), 오라클 알로이(Oracle Alloy), 오라클 EU 소버린 클라우드(Oracle EU Sovereign Cloud), 오라클 정부 클라우드(Oracle Government Cloud)에 배포할 수 있습니다.

전 세계 국가들은 자국의 문화적, 경제적 목표 달성에 도움이 될 AI 인프라에 투자를 늘리고 있는데요. 26개국 66개 클라우드 리전에서 고객들은 인프라와 애플리케이션을 아우르는 100개 이상의 클라우드와 AI 서비스에 액세스해 IT 마이그레이션, 현대화, 혁신을 달성할 수 있습니다.

양사의 통합 솔루션은 퍼블릭 클라우드 또는 특정 위치의 고객 데이터센터에 유연한 운영 제어를 통해 배포할 수 있습니다. 오라클은 어디서나 로컬로 AI와 전체 클라우드 서비스를 제공할 수 있는 유일한 하이퍼스케일러(Hyperscaler)입니다. 배포 유형에 관계없이 일관적인 오라클 서비스와 가격은 계획, 이동성, 관리를 간소화하죠.

오라클 클라우드 서비스는 NVIDIA 가속 컴퓨팅 인프라와 NVIDIA AI Enterprise 소프트웨어 플랫폼을 비롯한 다양한 NVIDIA 스택을 활용합니다. 또한, 새로 발표된 NVIDIA NIM 추론 마이크로서비스는 NVIDIA TensorRT, NVIDIA TensorRT-LLM, NVIDIA Triton Inference Server와 같은 NVIDIA 추론 소프트웨어를 기반으로 구축됐습니다.

소버린 AI의 선두주자들

자산 관리 기술 분야의 선두주자인 아발로크(Avaloq)는 자체 데이터센터에 완전한 OCI 클라우드 리전을 운용하기 위해 OCI 전용 리전을 선택했다고 합니다.

아발로크의 최고기술책임자 마틴 부치(Martin Büchi)는 “OCI 전용 리전은 최신 클라우드 인프라에 대한 액세스를 제공하면서 데이터 보존을 최대한 제어하려는 우리의 노력과 일치합니다. 은행과 자산 관리사의 디지털 혁신을 지속적으로 추진하는 데 큰 도움이 될 것”이라고 밝혔습니다.

뉴질랜드의 선도적인 정보관리서비스 제공업체인 팀 아이엠(TEAM IM)은 뉴질랜드 최초의 현지에서 소유하고 운영되는 하이퍼스케일 클라우드인 팀 클라우드(TEAM Cloud)를 구축하기 위해 오라클 알로이를 선택했죠.

팀 아이엠의 CEO 이안 로저스(Ian Rogers)는 “뉴질랜드 기업들은 고유한 하이퍼스케일 클라우드 솔루션을 활용해 자국 내에서 데이터의 무결성을 보호하면서 클라우드의 강력한 기능을 활용하고자 하는 요구가 점점 더 커지고 있습니다. 오라클 알로이와 클라우드 서비스에 NVIDIA AI 플랫폼을 통합함으로써 우리는 공공, 상업 부문 그리고 이위 부족(iwi) 등 여러 조직이 복잡한 디지털 환경을 탐색하고 디지털 혁신을 최적화하도록 지원할 수 있는 클라우드 서비스 제공업체로 거듭날 수 있었습니다”고 말했습니다.

이앤(e&) 그룹의 통신 계열사인 이앤 UAE(e& UAE)는 AI 역량을 강화하기 위해 오라클과 협력하고 있으며, OCI 전용 리전 내에 NVIDIA H100 Tensor Core GPU 클러스터를 구축할 계획입니다.

이앤 UAE의 최고 기술 및 정보 책임자(CTIO)인 칼리드 무르셰드(Khalid Murshed)는 “OCI는 이앤 UAE 데이터센터에 호스팅된 자체 OCI 전용 리전 내에 NVIDIA H100 GPU 클러스터를 배포할 수 있게 해줄 것”이며, “이러한 유형의 현지화를 통해 UAE 전역에서 AI 혁신을 가속화하고 새로운 세대의 AI 애플리케이션과 사용 사례를 대규모로 개발할 수 있습니다. 이는 혁신을 선도하고 기술의 미래를 설계하려는 이앤 UAE의 혁신 노력과 일치합니다. 우리는 탁월한 고객 경험을 제공하기 위해 AI의 우수성을 높이는 데 중점을 둘 것”이라고 말했습니다.

NVIDIA Grace Blackwell로 OCI 슈퍼클러스터(Supercluster)와 OCI 컴퓨트(Compute) 강화

오라클은 고객들이 지속적으로 증가하는 AI 모델에 대한 요구사항을 충족할 수 있도록 GTC에서 발표된 최신 NVIDIA Grace Blackwell 컴퓨팅 플랫폼을 OCI 슈퍼클러스터와 OCI 컴퓨트에 활용할 계획이라고 합니다. OCI 슈퍼클러스터는 새로운 OCI 컴퓨트 베어 메탈 인스턴스, 초저지연 RDMA 네트워킹, 고성능 스토리지를 통해 훨씬 더 빨라질 예정인데요. OCI 컴퓨트에는 NVIDIA GB200 Grace Blackwell Superchip과 NVIDIA Blackwell B200 Tensor Core GPU가 모두 탑재될 예정입니다.

NVIDIA GB200 Grace Blackwell Superchip은 컴퓨팅의 새로운 시대를 열 것입니다. GB200은 이전 세대의 GPU에 비해 최대 30배 빠른 실시간 거대 언어 모델(LLM) 추론, 25배 낮은 TCO(총소유비용), 25배 적은 에너지를 제공하는데요. 이를 통해 AI 훈련, 데이터 처리, 엔지니어링 설계, 시뮬레이션 등을 대폭 강화합니다. NVIDIA Blackwell B200 Tensor Core GPU는 고난이도 AI, 데이터 분석, 고성능 컴퓨팅(HPC) 워크로드를 위해 설계됐습니다.

또한 검색 증강 생성(RAG) 추론 배포를 위한 NVIDIA NeMo Retriever를 포함한 NVIDIA NIM과 CUDA-X 마이크로서비스도 활용할 예정인데요. OCI 고객들은 앞으로 자체 데이터를 사용해 생성형 AI 코파일럿과 기타 생산성 도구에 더 많은 인사이트와 정확성을 제공할 수 있습니다.

DGX Cloud on OCI에 NVIDIA Grace Blackwell 추가

점점 더 복잡해지는 AI 모델에 대한 고객들의 수요가 증가하고 있는데요. 이에 부응하기 위해서 NVIDIA와 오라클은 NVIDIA DGX Cloud on OCI에 NVIDIA Grace Blackwell을 추가합니다. 고객들은 조 단위 매개변수 LLM 시대에서 에너지 효율적인 훈련과 추론을 위해 설계된 이 공동 엔지니어링 슈퍼컴퓨팅 서비스를 통해 새로운 GB200 NVL72 기반 인스턴스에 액세스할 수 있습니다.

전체 DGX Cloud 클러스터 구축에는 20,000개 이상의 GB200 가속기와 NVIDIA CX8 Infiniband 네트워킹이 포함돼 확장성과 성능이 뛰어난 클라우드 인프라를 제공할 것입니다. 이 클러스터는 5세대 NVLink가 탑재된 72개의 Blackwell GPU NVL72와 36개의 Grace CPU로 구성돼 있습니다.