세계 유수의 기술 기업들이 엔비디아 EGX Edge AI 플랫폼을 광범위하게 채택하여 엔터프라이즈와 엣지 데이터센터에 새로운 수준의 보안, GPU 가속 소프트웨어, 서비스, 서버를 구현하고 있습니다.
현재 델 테크놀로지스(Dell Technologies), 인스퍼(Inspur), 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯한 주요 서버 제조업체는 물론, 캐노니칼(Canonical), 클라우데라(Cloudera), 레드햇(Red Hat), SUSE, VMware를 비롯한 선도적인 소프트웨어 인프라 업체들이 현재 엔비디아 EGX 플랫폼을 통해 기업의 엣지 AI를 지원하고 있습니다.
엔비디아는 또한 EGX 플랫폼을 단일 PCIe 카드에 엔비디아 암페어(Ampere) GPU 및 BlueField-2 DPU 기능을 결합하도록 확장해 기업들이 안전하고 가속화된 데이터센터를 구축하도록 돕는 공통 플랫폼을 제공한다고 발표했는데요. BlueField-2 DPU에는 강력한 Arm CPU 코어가 포함돼 GPU 기반 AI 추론 모델에 대해 신뢰할 수 있는 엔클로저 생성을 지원합니다.
GTC 2020 기조연설에서 이 소식을 공개한 젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 “전 세계 기업들이 AI를 활용해 사실상 비즈니스의 모든 측면을 개선하게 될 것입니다. 엔비디아는 이 같은 대규모 전환을 지원하기 위해 기업들이 데이터센터를 현대화하고 AI를 어디에나 배치할 수 있도록 돕는 가속 컴퓨팅 플랫폼을 개발했습니다”라고 설명했습니다.
엣지와 데이터센터를 위한 최적화된 AI 소프트웨어
EGX 플랫폼의 중심에는 엔비디아 NGC에서 이용할 수 있는 최적화된 AI 소프트웨어 스택이 있습니다. 엔비디아 NGC는 엔비디아 인증 시스템 상에 AI 애플리케이션을 보다 쉽게 구축 및 배치할 수 있도록 하는 다양한 산업별 AI 툴킷과 사전 교육된 모델을 제공하는 소프트웨어 카탈로그입니다.
엔비디아 AI 애플리케이션 프레임워크는 딥노스(Deep North), 에버신(Everseen), 화이트보드 코디네이터(Whiteboard Coordinator) 등 선도적인 AI 소프트웨어 벤더들이 헬스케어, 소매, 물류, 스마트시티 솔루션을 구축 및 배포하는데 활용되고 있습니다.
엔비디아 vGPU 소프트웨어 제품과 GPUDirect RDMA 기술은 엔비디아 GPU가 최대 대역폭에서 데이터를 주고받을 수 있는 기능을 제공해 뛰어난 성능을 구현합니다.
어디서나 EGX 서버 구축 및 관리가 가능해져
미래의 엔터프라이즈 데이터센터는 1만 대의 서버를 한 곳에 두는 대신, 사무실 건물, 공장, 창고, 기지국, 학교, 상점 및 은행을 포함한 1만개의 서로 다른 로케이션에 1대 이상의 서버를 두게 될 것입니다.
NVIDIA는 이러한 대규모 서버에서 AI 애플리케이션과 모델의 구축과 관리를 단순화하고 안전하게 하기 위해 엔비디아 플릿 커맨드(NVIDIA Fleet Command)라는 새로운 서비스의 조기 액세스 프로그램을 발표했습니다. 이 하이브리드 클라우드 플랫폼은 엣지 보안, 실시간 프로세싱과 서비스형 소프트웨어(SaaS)가 지닌 원격 관리와 용이성을 결합한 플랫폼입니다.
플릿 커맨드는 통합관제기를 통해 공장, 병원, 소매점, 심지어 시내 거리 등 광활한 지역에 분산된 서버 관리를 중앙집중화 합니다. 플릿 커맨드의 원터치 프로비저닝, 무선 소프트웨어 업데이트, 원격 관리 및 세부 모니터링 대시보드를 통해 운영자들은 IT의 부담을 줄여 AI 애플리케이션의 활용성과 운영 효율성을 극대화할 수 있습니다.
플릿 커맨드에 조기 액세스할 수 있는 첫 번째 기업으로는 글로벌 공급망 솔루션의 선두주자인 KION 그룹이 있는데요, 이 회사는 엔비디아 EGX AI 플랫폼을 이용해 자사의 지능형 웨어하우스 시스템을 위한 AI 애플리케이션을 개발해 소매 유통 센터의 처리량과 효율성을 높이고 있습니다.
또한, 미국 일리노이주 최대 병원인 노스웨스턴 메모리얼 병원은 화이트보드 코디네이터와 협력해 사물인터넷(IoT) 센서 플랫폼에 플릿 커맨드를 사용하고 있는데요, 이 플랫폼에는 컴퓨터 비전, 음성 인식, 블루투스 추적 기능이 포함돼 있습니다.
앤드류 고스틴(Andrew Gostine) 화이트보드 코디네이터 CEO는 “화이트보드 코디네이터는 선도적인 헬스케어 제공업체들과 협력해 그들이 언제 어디서나 클라우드에서 애플리케이션, 서버, 소프트웨어 배포를 구성할 수 있도록 하고 있습니다. 엔비디아 플릿 커맨드를 사용해 몇 번의 클릭만으로 여러 병원에 의료 AI 애플리케이션 제품군을 원격으로 배포하고 안전하게 관리하고 있습니다. 이는 우리가 인프라 관리에 시간을 소비하는 대신 환자에게 가치를 제공하는 데 더 집중할 수 있도록 하고 있습니다”라고 설명했습니다.
엔비디아 EGX 시스템은 엔비디아 인증 서버 카탈로그를 통해 구매할 수 있는데요. 엔비디아 AI 소프트웨어를 지원하는 기존 서버들은 아수스(ASUS), 아토스(Atos), 델 테크놀로지스(Dell Technologies), 후지쯔(Fujitsu), 기가바이트(GIGABYTE), H3C, 인스퍼(Inspur), 레노버(Lenovo), 콴타(Quanta/QCT), 슈퍼마이크로(Supermicro)를 통해 이용 가능합니다. 또 엔비디아 플릿 커맨드 조기 액세스 프로그램은 자격을 갖춘 고객들에게 제공될 예정입니다.