생성형 AI의 배포가 급격히 증가하면서 생성형 AI는 산업 전반에서 기업의 비즈니스 혁신을 주도하고 있습니다. 하지만 길고 복잡한 인프라 배포 주기로 인해 시간이 많이 소요되는데요. 이로 인해 기업의 IT 팀은 자사 데이터를 사용해 AI 워크로드를 신속히 가동하지 못하는 어려움을 겪고 있습니다.
이러한 어려움을 극복하기 위해 NVIDIA는 NVIDIA OVX 컴퓨팅 시스템을 위한 새로운 스토리지 파트너 검증 프로그램을 도입했습니다! NVIDIA OVX 스토리지 검증을 완료하는 데 선두에 있는 고성능 스토리지 시스템으로는 DDN, 델 파워스케일(Dell PowerScale), 넷앱(NetApp), 퓨어스토리지(Pure Storage), WEKA가 있는데요.
NVIDIA OVX 서버는 고성능 GPU 가속 컴퓨팅과 고속 스토리지 액세스, 저지연 네트워킹을 결합했습니다. 이를 통해 다양하고 복잡한 AI와 고해상도 그래픽 워크로드를 처리하죠. 예를 들어 챗봇, 요약 및 검색 도구 등에는 대량의 데이터가 필요하고, 시스템 처리량을 최대화하기 위해서는 고성능 스토리지가 필수적입니다.
이러한 새로운 프로그램은 기업이 적합한 스토리지를 NVIDIA-Certified OVX 서버와 결합할 수 있도록, 파트너가 스토리지 어플라이언스를 검증할 수 있는 표준화된 프로세스를 제공합니다. 파트너는 NVIDIA DGX BasePOD 레퍼런스 아키텍처용 스토리지를 검증하는 데 필요한 동일한 프레임워크와 테스트를 사용할 수 있습니다.
파트너는 검증을 달성하기 위해 일련의 NVIDIA 테스트를 완료해야 합니다. 이 테스트는 다양한 엔터프라이즈 AI 작업의 요구 사항을 나타내는 여러 매개변수를 통해 스토리지 성능과 입/출력 확장을 측정합니다. 여기에는 다양한 I/O 크기, 다양한 스레드(thread) 수, 버퍼링된 I/O와 직접 I/O, 랜덤 읽기, 다시 읽기 등의 조합이 포함됩니다.
각 테스트는 결과를 검증하고 필수적인 데이터를 수집하기 위해 여러 번 실행되며, NVIDIA 엔지니어링 팀은 감사를 통해 스토리지 시스템의 테스트 통과 여부를 결정합니다.
이 프로그램은 NVIDIA OVX 시스템을 통한 엔터프라이즈 AI 작업을 위해 최적의 스토리지 성능과 확장성을 보장하는 규범적 지침을 제공합니다. 그러나 전반적인 설계는 유연하게 유지되므로 고객은 기존 데이터센터 환경에 맞게 시스템과 스토리지를 맞춤화하고 데이터가 있는 모든 곳에 가속화된 컴퓨팅을 제공할 수 있습니다.
생성형 AI 사용 사례는 기존의 엔터프라이즈 애플리케이션과는 근본적으로 요구 사항이 다르기 때문에 IT 팀은 고성능과 확장성을 보장하기 위해 컴퓨팅, 네트워킹, 스토리지 및 소프트웨어를 신중하게 선택해야 합니다.
NVIDIA-Certified System은 AI 워크로드를 위한 엔터프라이즈급 성능, 관리 용이성, 보안과 확장성을 제공하기 위해 테스트와 검증을 거쳤습니다. 이 시스템의 유연한 레퍼런스 아키텍처를 사용하면 처음부터 독립적으로 구축하는 경우보다 더 빠르고 효율적이며 비용 효율적으로 배포할 수 있습니다.
NVIDIA L40S GPU로 구동되는 OVX 서버에는 NVIDIA Quantum-2 InfiniBand 또는 NVIDIA Spectrum-X 이더넷 네트워킹을 갖춘 NVIDIA AI Enterprise 소프트웨어와 NVIDIA BlueField-3 DPU가 포함됩니다. 이 제품은 Llama2 7B 또는 70B와 같은 소규모 LLM을 위한 훈련, 기존 모델 미세 조정, 높은 처리량과 짧은 지연 시간으로 추론 등 생성형 AI 워크로드에 최적화돼 있습니다.
현재 기가바이트(GIGABYTE), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 레노버(Lenovo)를 비롯한 글로벌 시스템 공급업체에서 NVIDIA-Certified OVX 서버를 구매하고 배송을 받을 수 있습니다. 각 시스템 빌더는 NVIDIA와 협력해 이러한 서버에 대한 포괄적인 엔터프라이즈급 지원을 제공합니다.
NVIDIA OVX 이용하기
NVIDIA-Certified OVX 서버용 검증된 스토리지 솔루션은 현재 사용 가능하며, 각 스토리지와 시스템 공급업체는 향후 몇 주에 걸쳐 레퍼런스 아키텍처를 공개할 예정입니다. NVIDIA OVX 시스템에 대해 확인해보세요.