AI 시대를 위한 새로운 ‘NVIDIA AI Data 플랫폼’

NVIDIA AI Data 플랫폼을 공개합니다! 이는 주요 스토리지 공급업체가 고성능 AI 추론 워크로드를 위한 새로운 AI 인프라를 구축하는 데 활용하는 맞춤형 참조 설계입니다. NVIDIA AI Data 플랫폼은 NVIDIA 가속 컴퓨팅, 네트워킹, 소프트웨어를 기반으로 AI 쿼리 에이전트를 포함한 엔터프라이즈 스토리지 플랫폼을 지원합니다.

NVIDIA-Certified™ Storage 공급업체는 NVIDIA AI Data 플랫폼을 활용해 특화된 AI 쿼리 에이전트로 AI 추론 워크로드를 가속화하는 인프라를 구축할 수 있습니다. 이러한 에이전트는 새로운 NVIDIA Llama Nemotron 모델의 추론 기능을 지원하는 NVIDIA NIM™ 마이크로서비스와 새로운 NVIDIA AI-Q Blueprint를 포함한 NVIDIA AI Enterprise 소프트웨어를 기반으로 합니다. 이를 통해 기업이 데이터를 실시간에 가깝게 분석하고 인사이트를 도출할 수 있도록 지원하죠.

스토리지 공급업체는 NVIDIA Blackwell GPU, NVIDIA BlueField® DPU, NVIDIA Spectrum-X™ 네트워킹, NVIDIA Dynamo 오픈소스 추론 라이브러리를 활용해 이러한 에이전트를 구동할 인프라를 최적화할 수 있습니다.

DDN, 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE), 히타치 밴타라(Hitachi Vantara), IBM, 넷앱(NetApp), 뉴타닉스(Nutanix), 퓨어스토리지(Pure Storage), 바스트 데이터(VAST Data), 웨카(WEKA) 등 주요 데이터 플랫폼과 스토리지 공급업체들은 NVIDIA와 협력하고 있습니다. 이들은 기업 데이터를 활용해 복잡한 쿼리를 추론하고 응답할 수 있는 맞춤형 AI Data 플랫폼을 개발하죠.

NVIDIA 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “데이터는 AI 시대에서 산업을 구동하는 핵심 원료입니다. NVIDIA는 세계적인 스토리지 선도기업과 협력해 기업들이 하이브리드 데이터센터에서 에이전트 AI를 구축, 확장하는 데 필요한 새로운 종류의 엔터프라이즈 인프라를 개발하고 있습니다”고 말했습니다.

스토리지에 가속 컴퓨팅과 AI를 더하는 NVIDIA AI Data 플랫폼

NVIDIA AI Data 플랫폼은 엔터프라이즈 스토리지를 사용하는 수백만 개의 비즈니스에 가속 컴퓨팅과 AI를 제공합니다. 여기서 엔터프라이즈 스토리지는 기업의 핵심 데이터를 저장하죠.

NVIDIA Blackwell GPU, BlueField DPU, Spectrum-X 네트워킹은 기업 시스템에 저장된 데이터에 대한 AI 쿼리 에이전트의 접근 속도를 높이는 가속 엔진 역할을 합니다. BlueField DPU는 CPU 기반 스토리지 대비 최대 1.6배 높은 성능을 제공하면서도 전력 소비를 최대 50% 절감해 와트당 성능을 3배 이상 향상시킵니다. Spectrum-X는 적응형 라우팅과 혼잡 제어를 적용해 AI 스토리지 트래픽 속도를 기존 이더넷 대비 최대 48% 가속화합니다.

AI Data 플랫폼 스토리지 인프라는 NVIDIA AI-Q Blueprint를 활용해 기업 데이터와 연결하고 추론할 수 있는 에이전트 시스템을 개발합니다. AI-Q는 NVIDIA NeMo™ Retriever 마이크로서비스를 활용해 NVIDIA GPU에서 데이터 추출과 검색 속도를 최대 15배 향상시킵니다.

AI-Q Blueprint로 구축된 AI 쿼리 에이전트는 추론 과정에서 데이터에 연결돼, 보다 정확하고 맥락에 맞는 응답을 제공합니다. 또한, 대규모 데이터에 신속히 접속하고 텍스트, PDF, 이미지, 비디오 등 다양한 출처에서 수집된 정형, 반정형, 비정형 데이터를 포함한 다양한 데이터 유형을 처리할 수 있습니다.

NVIDIA와 AI Data 플랫폼을 구축하는 스토리지 선도기업

NVIDIA-Certified Storage 파트너들은 NVIDIA와 협력해 맞춤형 AI Data 플랫폼을 구축하고 있습니다.

DDN은 DDN 인피니아(Infinia) AI 플랫폼에 AI Data 플랫폼 기능을 통합합니다.
델은 델 파워스케일(PowerScale) 제품군과 프로젝트 라이트닝(Project Lightning) 솔루션을 위한 AI Data 플랫폼을 개발하고 있습니다.
HPE는 HPE 프라이빗 클라우드 포 AI(Private Cloud for AI), HPE 데이터 패브릭(Data Fabric), HPE 알레트라 스토리지 MP(Alletra Storage MP), HPE 그린레이크 포 파일 스토리지(GreenLake for File Storage)에 AI Data 플랫폼 기능을 통합합니다.
히타치 밴타라는 히타치 IQ 생태계에 AI Data 플랫폼을 도입해 고객이 실질적인 AI 성과를 창출할 수 있도록 스토리지 시스템과 데이터 솔루션을 혁신하고 있습니다.
IBM은 IBM 퓨전(Fusion)과 IBM 스토리지 스케일(Storage Scale) 기술을 활용한 콘텐츠 인식 스토리지 기능과 NVIDIA AI Data 플랫폼을 통합해 검색 증강 생성(Retrieval Augmented Generation, RAG) 애플리케이션을 가속화합니다.
넷앱은 NVIDIA AI Data 플랫폼을 기반으로 넷앱 AI팟(AIPod™) 솔루션을 개발해 에이전트 AI를 위한 엔터프라이즈 스토리지를 확대하고 있습니다.
뉴타닉스는 뉴타닉스 유니파이드 스토리지(Unified Storage)를 포함한 뉴타닉스 클라우드 플랫폼을 NVIDIA AI Data 플랫폼과 통합해 엣지, 데이터센터, 퍼블릭 클라우드 전반에서 추론과 에이전트 워크플로우를 구현할 예정입니다.
퓨어스토리지는 퓨어스토리지 플래시블레이드(FlashBlade®)를 통해 AI Data 플랫폼 기능을 제공할 예정입니다.
바스트 데이터는 AI Data 플랫폼을 활용해 바스트 인사이트엔진(InsightEngine)을 통한 실시간 인사이트를 도출하고 있습니다.
웨카 Data 플랫폼(Data 플랫폼) 소프트웨어는 NVIDIA GPU, DPU, 네트워킹과 통합돼 에이전틱 AI(Agentic AI) 추론과 인사이트를 위한 데이터 접속을 최적화합니다. 또한, AI 추론과 토큰 처리 워크로드를 가속화하는 고성능 스토리지 기반을 제공합니다.