급증하는 AI 수요로 인해 시스템 메모리의 한계를 넘어서는 방대한 데이터세트와 컨텍스트 윈도우가 필요해지고 있습니다.
하지만 늘어나는 수요는 스토리지 용량을 더 늘리는 것만으로 충족되지 않습니다. 필요한 것은 AI 팩토리에서 나오는 유용하고 근거 있는 인사이트, 그리고 그 인사이트를 가능하게 하는 효율적이고 안전한 스토리지 아키텍처입니다.
얼마 전 열린 Future of Memory and Storage(FMS) 컨퍼런스에서 NVIDIA는 새로운 스토리지 기술 성과를 공개하고, AI의 다음 도약이 컴퓨팅 성능 자체만큼이나 가속 컴퓨팅에 데이터를 공급하는 스토리지 인프라에 달려 있음을 보여주었습니다.
AI 에이전트가 막대한 양의 데이터를 소비하고, 이제 GPU가 스토리지 요청을 직접 개시해 수천 건의 동시 작업을 발생시키면서 이 인프라에 가해지는 압박은 더욱 커지고 있습니다.
이러한 요청을 처리하려면 스토리지 시스템은 끊임없이 데이터를 암호화하고 압축하고 검증하고 재구성해야 합니다. 수천 개의 에이전트가 동시에 스토리지에 접근할 때 이 핵심 데이터 서비스는 병목이 될 수 있습니다.
NVIDIA 기술 블로그에서 소개된 벤치마크에 따르면, NVIDIA Vera BlueField-4 STX에 포함된 NVIDIA Vera CPU는 2단계 압축·암호화 파이프라인에서 x86 CPU 대비 최대 3.21배 높은 처리량을 제공합니다. Vera를 사용하면 스토리지 플랫폼이 밀려드는 AI 데이터를 더 효율적으로 흡수할 수 있으며, 훨씬 적은 컴퓨팅 인프라로 더 높은 처리량을 낼 수 있다는 뜻입니다.
가속 컴퓨팅과 함께 스토리지는 데이터를 보관하는 수동적인 장소에서 벗어나 데이터 경로의 능동적인 구성 요소가 됩니다.
이는 어떤 데이터를 메모리에 둘지(애플리케이션이 더 빠르게 가져올 수 있는 곳), 아니면 스토리지 드라이브에 둘지(저렴하고 넉넉한 공간에 보관할 수 있는 곳)를 판단하던 기존의 경제학을 뒤집습니다. 이 트레이드오프는 40년 전 처음 정립됐고, 당시 답은 데이터에 접근하는 데 걸리는 분 단위 시간으로 측정됐습니다. NVIDIA와 파트너사의 AI 스토리지 솔루션과 결합된 최신 GPU에서는 같은 트레이드오프가 마이크로초 단위에서 펼쳐집니다.
AI의 니즈와 메모리 부족 사이의 간극을 좁히는 일은 메모리·스토리지 제조사부터 그 위에 구축되는 소프트웨어에 이르기까지 생태계 전반에 걸친 극한의 코디자인에 달려 있습니다.
오픈 소스로 공개된 NVIDIA cuFile API, 스토리지 솔루션 간 상호운용성을 열다
NVIDIA는 FMS에서 cuFile 애플리케이션 프로그래밍 인터페이스(API)와 그 아래의 수직 스토리지 소프트웨어 스택을 오픈 소스로 공개한다고 발표했습니다. cuFile은 CPU뿐 아니라 GPU가 스토리지에서 직접 읽고 쓸 수 있게 해주며, NVIDIA GPUDirect Storage의 오픈 소스 구성 요소입니다.
cuFile은 수십만 개의 GPU 스레드와 빠른 고대역폭 메모리를 비롯한 여러 기법을 활용해 단 수 마이크로초 만에 스토리지의 데이터에 안전하게 접근할 수 있게 합니다.
이는 업계가 Linux 모범 사례를 기반으로 보안을 최우선에 둔 스토리지 스택을 하나로 통합해 GPU와 데이터 사이의 상호운용성을 제공하고 있음을 보여줍니다.
또한 데이터와 스토리지에 빠르고 안전하게 접근하는 것은 예방적·탐지적 사이버보안 조치를 뒷받침하는 근간입니다. cuFile을 공개함으로써 AI 기반 방어 체계가 요구하는 속도로 보안 컨텍스트와 데이터, 스토리지에 접근할 수 있게 됩니다. 이러한 개방형 기술은 새롭게 출범한 Open Secure AI Alliance 같은 이니셔티브를 뒷받침합니다.
이 사이트는 기여에 열려 있는 API의 새로운 거점으로, Google과 Intel, NVIDIA, Meta가 최초 메인테이너로 참여합니다. 다양한 소프트웨어·하드웨어 플랫폼에서 활용할 수 있도록 최적화할 수 있어, 개발자와 기업의 혁신과 효율을 이끕니다.
NVIDIA와 업계 리더들, AI 스토리지의 새로운 지평을 열다
이와 함께 NVIDIA와 스토리지 업계 리더들은 Storage-Next라는 이니셔티브를 통해 메모리·스토리지 솔루션을 최적화하고 있습니다. NVIDIA가 주도하는 이 이니셔티브는 스토리지 제조사와 컨트롤러 공급사, 열 설계·냉각·오케스트레이션 사업자, 표준화 단체를 한데 모아 GPU 주도 스토리지가 어떻게 동작해야 하는지에 대한 기준을 맞추고, 그 성과를 상호운용 가능한 개방형 업계 표준으로 만들어 갑니다.
Storage-Next에는 DDN과 KIOXIA, Micron을 비롯한 40개 이상의 선도적인 스토리지·플래시 기업이 참여해, 각각 NVIDIA와 함께 차세대 AI 스토리지 기술에 기여하고 있습니다.
이 이니셔티브는 대규모 AI 데이터세트에 대한 가속화된 데이터 접근을 토대로 합니다. 이를 뒷받침하기 위해 NVIDIA는 SCADA(scaled, accelerated data access, 확장형 가속 데이터 접근)를 제공합니다. 대규모 병렬 GPU가 애플리케이션에 필요한 데이터만 스토리지에서 자체 고속 메모리로 직접 가져올 수 있게 해주는 프레임워크입니다.
예를 들어 DDN은 대규모 환경에서 스토리지 병목을 없애기 위해 설계된 소프트웨어 정의 AI 네이티브 데이터 인텔리전스 플랫폼 Infinia에 SCADA를 통합하고 있습니다.
DDN의 최고 기술 책임자 Sven Oehme는 “AI의 성공은 조직이 얼마나 많은 인프라를 보유했는지가 아니라 그것을 얼마나 생산적으로 활용하는지로 결정될 것”이라며 “NVIDIA와의 협력은 GPU와 데이터를 더 직접적이고 효율적으로 연결하는 데 도움이 되고 있다. 가속 컴퓨팅 자원을 생산적으로 유지하고, 인사이트 도출 시간을 앞당기며, 고객이 AI 투자에서 더 강력한 비즈니스·재무 성과를 거둘 수 있게 한다”고 말했습니다.
Storage-Next와 SCADA는 NVIDIA Vera BlueField-4 STX를 비롯해 NVIDIA가 오랫동안 이어온 AI 스토리지 인프라 작업의 연장선에 있습니다. Vera BlueField-4 STX는 NVIDIA Vera Rubin 플랫폼과 NVIDIA Vera BlueField-4 스토리지 프로세서, NVIDIA Spectrum-X Ethernet 네트워킹으로 구동되는 모듈형 랙 스케일 기반입니다.
NVIDIA Vera BlueField-4 STX 스토리지 프로세서.
AI 네이티브 데이터 플랫폼의 새로운 범주를 정의하는 NVIDIA STX는 통합 NVIDIA DOCA 보안 스택을 활용해 기업이 AI 데이터 경로에서 정책을 지속적으로 적용할 수 있게 합니다.
여기에 더해 NVIDIA CMX Context Memory Storage는 NVIDIA STX를 기반으로 긴 컨텍스트와 멀티턴 에이전틱 AI 추론을 위한 AI 네이티브 컨텍스트 계층을 제공합니다.
SCADA, 빠르면서도 안전한 AI 스토리지를 구현하다
스토리지 계층의 속도에는 함정이 따릅니다. 애플리케이션이 드라이브와 곧바로 대화하게 하면 빠르지만, 부주의하게 처리하면 다른 프로세스의 메모리를 덮어쓸 수 있습니다. 이는 기능이 아니라 보안 구멍입니다.
NVIDIA SCADA는 작업을 둘로 나누는 안전하고 견고한 방식으로 확장된 직접 접근을 구현합니다.
- 최대한의 속도가 필요한 애플리케이션의 사용자 영역은 신뢰 컴퓨팅 기반(TCB) 바깥에 둡니다.
- 별도의 권한 있는 구성 요소가 설정 단계에서 사용자 애플리케이션과 승인된 스토리지 사이의 보호된 접근을 구성합니다. 보안 적용을 위한 표준 Linux 프로토콜을 따르면서 데이터를 효율적으로 보호합니다.
이 모든 것은 빠르고 대규모 병렬적이며 효율적이고 안전한 AI 스토리지 인프라의 발전이 어떻게 애플리케이션과 AI 팩토리에 더 나은 데이터를 공급하는지를 보여줍니다. 그 결과 이들은 더 유용하고 정확하며 근거 있는 인텔리전스를 대규모로 만들어낼 수 있습니다.
소프트웨어 제품 정보에 관한 공지사항을 확인하세요.