최근 엔비디아는 인공지능(AI)과 머신 러닝 워크로드에 최적화된 NGC-레디(NGC-Ready) 인증을 획득한 새로운 7개의 서버를 발표했습니다. 이에 따라, NGC-레디 시스템 포트폴리오와 지원 서비스를 대폭 확대했습니다.
보험업계의 보험사기 식별부터 소매업의 고객수요 예측에 이르기까지 업계 전반에 걸쳐 경쟁우위를 확보하기 위한 AI 활용이 증가하고 있죠. 이 가운데, 비즈니스 리더들은 AI 기술의 이점을 깨닫고 이를 조직 전반에 적용하고 있습니다.
기업들이 적절한 AI 기반 솔루션을 갖추기 위해서는 데이터 과학자와 개발자가 필요합니다. 따라서, IT 담당자와 시스템 관리자는 신속하게 설정하고, 최고의 성능을 구현하며, 다운타임을 최소화할 수 있는 인프라를 식별, 구입,지원해야 하죠. 또한 이들은 적합한 공급자와 협력해 기존의 인프라와 쉽게 통합할 수 있는 시스템을 조달하길 원합니다.
이러한 요구를 충족시키기 위해, 엔비디아는 IT 담당자들이 데이터센터, 클라우드, 그리고 엣지(edge)에서 오늘날의 까다로운 AI 워크로드를 실행할 수 있는 시스템을 신속하게 식별하도록 돕는 서버 검증 프로그램인 엔비디아 NGC-레디를 개발했습니다.
엔비디아 NGC-레디, 기업들의 AI 프로젝트 가속화
NGC-레디 시스템은 NGC(NVIDIA GPU Cloud) 컨테이너 레지스트리에서 제공하는 AI와 머신 러닝 소프트웨어를 실행해 사용자 생산성을 높입니다. NGC에는 최적의 성능과 최신 프레임워크에 대한 손쉬운 액세스를 제공하는 GPU 가속 소프트웨어뿐 아니라, 일반적인 사용 사례에 대한 최고수준의 정확도를 제공하는 사전 훈련된 모델이 포함돼 있습니다.
엔비디아가 새롭게 발표한 7개의 새로운 NGC-레디 인증 시스템은 다음과 같습니다. 이 시스템들은 전세계 유수의 OEM 파트너들로부터 제공되는 NGC-레디 시스템 포트폴리오에 추가됩니다.
- ASRock Rack 2U2G_C622
- ASUS ESC 4000 G4
- GIGABYTE G191-H44
- QCT QuantaGrid D52BV-2U
- QCT QuantaGrid D52G-4U
- Tyan TN76-B7102
- WiWynn SV310G3
엔비디아 T4, 그리고 엔비디아 V100 GPU를 기반으로 하는 NGC-레디 시스템은 시스템 관리자가 AI 워크로드에 가장 적합한 솔루션을 쉽게 선택할 수 있도록 해주는데요. 이러한 시스템은 기능성을 검증하고 AI와 머신 러닝에 최적화된 성능을 제공해 데이터 과학자와 개발자들이 신속하게 솔루션을 구축할 수 있게 해줍니다.
또한, NGC-레디 시스템은 엔비디아 EGX 엣지 컴퓨팅 플랫폼의 일부로, 각 NGC-레디 인증 시스템은 까다로운 AI 추론 워크로드를 엣지에서 실행할 수 있는 능력을 갖추고 있습니다.
새로운 NGC-레디 시스템으로 확장된 NGC 지원 서비스
AI 채택이 증가하면서 각 기업의 IT 부서는 다양한 사용자를 위한 새로운 유형의 워크로드, 소프트웨어 스택 및 하드웨어를 관리하고 있습니다. 이들은 관련 문제를 신속하게 처리해야 하지만, 전문 지식이 부족할 수 있죠.
엔비디아의 NGC 지원 서비스(NGC Support Services)는 NGC-레디 시스템이 최적으로 실행되고 시스템 활용도와 사용자 생산성을 최대화할 수 있도록 엔터프라이즈급 지원을 제공합니다. 이 서비스는 새로 출시된 NGC-레디 시스템과 함께 옵션으로 구매할 수 있습니다.
이 지원 서비스는 네트워크 1계층(L1)부터 3계층(L3)에 이르는 문제를 다루며, IT 부서가 엔비디아 관련 전문가에 직접 액세스할 수 있게 해 소프트웨어 문제를 빠른 속도로 해결하고 시스템 다운타임을 최소화하며 사용자 생산성을 유지할 수 있도록 돕습니다.
데이터센터, 클라우드, 엣지 등 어디서나 AI를 지원하는 NGC 소프트웨어
AI 애플리케이션과 워크플로우를 효과적으로 구축하기 위해 개발 소프트웨어는 데이터센터, 클라우드, 그리고 엣지에서 실행돼야 합니다. 일반적인 사용 사례는 처리 능력이 충분한 데이터센터 혹은 클라우드에서 모델을 교육한 다음, 예측을 위해 새로운 데이터가 들어오는 엣지에서 추론용으로 훈련된 모델을 배포하는 것입니다.
예를 들어, 조직에서는 주차 관리, 소매 재고 보충, 중요한 인프라, 그리고 물류관리와 같은 사용 사례에 대한 비디오 분석 기능을 찾고 있습니다.
이를 지원하기 위해 NGC는 엔비디아 트랜스퍼 러닝 툴킷(Transfer Learning Toolkit)을 사용해 데이터가 있는 온프레미스 혹은 클라우드 환경에서 교육을 수행할 수 있는 포괄적인 AI 워크플로우를 제공합니다. 또한, 엔비디아의 딥스트림 SDK(DeepStream SDK)는 데이터를 수집되는 엣지에서 추론을 가능하게 합니다.
온프레미스 환경 혹은 엣지에서 NGC-레디 시스템 배포
NGC-레디 시스템과 NGC 지원 시스템으로 온프레미스 환경 혹은 엣지에서 AI 인프라를 신속하게 구축하고 사용자 생산성을 극대화할 수 있습니다.