세계 최고 스토리지, 서버 제조업체들은 NVIDIA의 설계, 엔지니어링 전문 기술을 NVIDIA AI 데이터 플랫폼과 결합하고 있습니다. NVIDIA AI 데이터 플랫폼은 새로운 형태의 AI 인프라를 구축하기 위한 맞춤형 참조 설계로, 차세대 에이전틱 AI 애플리케이션과 도구를 구현합니다.
특히 이 레퍼런스 설계는 전 세계 스토리지 시스템 선도기업들이 AI 추론 에이전트를 지원하고 기업이 사용하는 수백만 건의 문서, 동영상, PDF에 저장된 정보를 발굴하는 데 활용되고 있습니다.
NVIDIA-Certified Storage 파트너는 NVIDIA AI 가속 컴퓨팅, 네트워킹, 소프트웨어를 포함하는 NVIDIA AI 데이터 플랫폼에 기반한 제품과 솔루션을 선보이고 있는데요, 파트너로는 DDN, 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE), 히타치 밴타라(Hitachi Vantara), IBM, 넷앱(NetApp), 뉴타닉스(Nutanix), 퓨어스토리지(Pure Storage), 바스트 데이터(VAST Data), 웨카(WEKA)가 있습니다.
또한, AIC, 에이수스(ASUS), 폭스콘(Foxconn), 퀀타 클라우드 테크놀로지(Quanta Cloud Technology, QCT), 슈퍼마이크로(Supermicro), 위스트론(Wistron)과 기타 제조자 개발 생산 업체(Original Design Manufacturer, ODM)들은 NVIDIA 참조 설계를 지원하는 새로운 스토리지와 서버 하드웨어 플랫폼을 개발하고 있습니다. 이들 플랫폼은 NVIDIA RTX PRO 6000 Blackwell 서버 에디션 GPU, NVIDIA BlueField DPU, NVIDIA Spectrum-X 이더넷 네트워킹을 지원합니다. 동시에 NVIDIA AI Enterprise 소프트웨어를 실행하도록 최적화합니다.
산업 전반의 기업들은 이와 같은 통합 기술을 통해 대규모의 개인 및 공공 문서를 실시간으로 스캔, 색인, 분류, 검색하는 스토리지와 데이터 플랫폼을 빠르게 구축할 수 있는데, 그 결과, AI 에이전트는 추론과 계획 기능이 강화돼, 복잡한 다단계 문제를 해결할 수 있습니다.
이러한 새로운 AI 데이터 플랫폼 기반 솔루션으로 에이전틱 AI 인프라를 구축하면, 기업은 검색 증강 생성(retrieval-augmented generation, RAG) 소프트웨어를 사용해 데이터를 실행 가능한 지식으로 전환할 수 있습니다. 여기에는 NVIDIA NeMo Retriever 마이크로서비스와 AI-Q NVIDIA Blueprint가 포함됩니다.
NVIDIA AI 데이터 플랫폼 참조 설계로 구축된 스토리지 시스템은 데이터를 지식으로 전환해 다양한 분야에서 에이전틱 AI의 정확도를 향상시킵니다. 이를 통해 AI 에이전트와 고객 서비스 담당자는 더욱 빠르고 정확한 응답을 제공할 수 있죠.
또한, 데이터에 대한 액세스가 용이해지면서, 에이전트는 모든 연구자를 위해 복잡한 문서와 동영상에 대한 대화형 요약을 생성할 수 있습니다. 동시에 사이버 보안 팀이 소프트웨어 보안을 유지하는 데 도움을 줄 수도 있습니다.
스토리지 선도기업, 에이전틱 AI 지원하는 AI 데이터 플랫폼 공개
스토리지 시스템 선도기업은 AI 에이전트를 실행하는 AI 인프라를 제공하는 데 중요한 역할을 합니다.
NVIDIA GPU, 네트워킹, NIM 마이크로서비스를 스토리지와 가깝게 임베드하면 컴퓨팅을 중요 콘텐츠와 밀접한 곳에 배치할 수 있어 AI 쿼리를 향상시킬 수 있습니다. 또한, 스토리지 제공업체가 자사의 문서 보안, 액세스 제어 기술을 콘텐츠 색인과 검색 단계에 통합할 수 있는데요. 이를 통해 AI 추론 과정에서 보안과 데이터 프라이버시 보호 수준을 높일 수 있습니다.
IBM, 넷앱, 바스트 데이터와 같은 데이터 플랫폼 선도기업들은 NVIDIA 참조 설계를 사용해 AI 기술을 확장하고 있습니다.
IBM 퓨전(Fusion)은 레드햇 오픈시프트(Red Hat OpenShift)에서 가상 머신, 쿠버네티스(Kubernetes), AI 워크로드를 실행하는 하이브리드 클라우드 플랫폼입니다. 이는 콘텐츠 인식 스토리지 서비스를 제공해 비정형 기업 데이터의 의미를 파악하고 추론을 강화합니다. 이를 통해 AI 어시스턴트와 에이전트가 더 정확하고 관련성 높은 답변을 제공하도록 지원합니다. 콘텐츠 인식 스토리지는 NVIDIA GPU, NVIDIA 네트워킹, AI-Q NVIDIA Blueprint, NVIDIA NeMo Retriever 마이크로서비스와 결합해, RAG를 사용하는 AI 애플리케이션의 인사이트 도출 시간을 단축할 수 있습니다. 이들은 모두 NVIDIA AI 데이터 플랫폼에 속합니다.
넷앱은 NVIDIA 참조 설계로 구축된 넷앱 AI팟(AIPod) 솔루션을 통해 에이전틱 AI용 엔터프라이즈 스토리지를 발전시키고 있습니다. 넷앱은 NVIDIA GPU를 데이터 컴퓨팅 노드에 통합해 NVIDIA NeMo Retriever 마이크로서비스를 실행합니다. 동시에 NVIDIA 네트워킹을 통해 이 노드를 확장 가능한 스토리지에 연결하죠.
바스트 데이터는 바스트 데이터 플랫폼에 NVIDIA AI-Q를 임베드해, 지능형 다중 에이전트 시스템의 구축, 확장이 가능한 통합 AI 네이티브 인프라를 제공합니다. 고속 데이터 액세스, 엔터프라이즈급 보안, 지속적인 학습 루프를 통해 조직은 스마트한 의사결정, 복잡한 업무 처리의 자동화, 새로운 차원의 생산성을 실현하는 에이전틱 AI 시스템을 운영할 수 있습니다.
ODM 업체, AI 데이터 플랫폼 하드웨어를 기반으로 혁신 중
ODM 업체들은 서버, 스토리지 설계와 제조에 대한 풍부한 경험을 바탕으로 스토리지 선도기업들과 협력에 나섰습니다. 혁신적인 AI 데이터 플랫폼 하드웨어를 기업에 더욱 빠르게 공급하고 있는데요.
ODM 업체들은 섀시 설계, GPU 통합, 냉각 혁신, 스토리지 매체 연결 등을 제공합니다. 이에 따라 신뢰성 높고 콤팩트하며, 에너지 효율적이면서도 경제적인 AI 데이터 플랫폼 서버를 구축하고 있습니다.
ODM 업계의 상당수는 대만에 본사를 두고 있거나 현지에 위치한 제조업체들로 구성돼 있는데요. 이와 같이 대만은 확장 가능한 에이전틱 AI와 추론, AI 사고를 실행하는 하드웨어 제공에 있어 핵심 허브로 떠오르는 중입니다.
대만 타오위안에 본사를 둔 AIC는 NVIDIA BlueField DPU 기반의 플래시 스토리지 서버를 구축하고 있습니다. NVIDIA BlueField DPU는 기존 스토리지 설계보다 높은 처리량과 전력 효율을 제공합니다. 이러한 어레이(array)는 여러 AI 데이터 플랫폼 기반 설계에 적용되고 있습니다.
에이수스는 웨카, IBM과 협력해 AI와 고성능 컴퓨팅 워크로드를 위한 차세대 통합 스토리지 시스템을 선보였습니다. 이는 광범위한 스토리지 요구 사항을 해결하는데요. 웨카 인증을 받은 소프트웨어 정의 스토리지 솔루션인 RS501A-E12-RS12U는 기존 하드웨어 한계를 극복해 뛰어난 유연성을 자랑합니다. 파일, 오브젝트, 블록 스토리지는 물론 올플래시, 계층화, 백업 기능까지 모두 지원해 다양하게 활용될 수 있습니다.
대만 신베이에 본사를 둔 폭스콘은 제조업에서 사용되는 AI 데이터 플랫폼 솔루션용 가속 서버와 스토리지 플랫폼을 제작합니다. 폭스콘의 자회사인 인그라시스(Ingrasys)는 AI 데이터 플랫폼을 지원하는 NVIDIA 가속 GPU 서버를 제공합니다.
슈퍼마이크로는 NVIDIA 참조 설계를 사용해 NVIDIA Grace CPU Superchip 또는 BlueField-3 DPU로 구동되는 지능형 올플래시 스토리지 어레이를 구축하고 있습니다. 슈퍼마이크로 페타스케일 JBOF(Petascale JBOF)와 페타스케일 올플래시 어레이 스토리지 서버(All-Flash Array Storage Server)는 소프트웨어 정의 스토리지 공급업체와 함께 고성능, 고전력 효율을 제공합니다. AI 데이터 플랫폼 솔루션과 호환되죠.
대만에 본사를 둔 퀀타 클라우드 테크놀로지는 NVIDIA GPU, 네트워킹이 통합된 가속 서버와 스토리지 어플라이언스를 설계, 구축 중입니다. 이 제품군은 NVIDIA AI Enterprise 소프트웨어 실행과 AI 데이터 플랫폼 솔루션을 지원하는 데 최적화돼 있습니다.
대만 타이베이에 본사를 둔 위스트론(Wistron)과 위윈(Wiwynn)은 AI 데이터 플랫폼과 호환되는 혁신적인 하드웨어 설계를 제공하고 있습니다. 여기에는 NVIDIA GPU, NVIDIA BlueField DPU, NVIDIA 이더넷 SuperNIC이 통합됩니다.
5월 21일부터 22일까지 컴퓨텍스(COMPUTEX)에서 열리는 NVIDIA GTC 타이베이(Taipei)에서 에이전틱 AI의 발전에 대해 자세히 알아보세요.