아마존웹서비스(Amazon Web Services, AWS) GPU 가속화로 누릴 수 있는 모든 장점들을 이제 사용자 데이터센터에서도 구현하세요.
엔비디아 T4 텐서 코어 GPU가 탑재된 AWS 아웃포스트(AWS Outposts)가 최근 출시됐습니다. AWS 아웃포스트는 클라우드 기반 아마존 EC2 G4 인스턴스를 사용자 데이터센터 내 구현해 다양한 AI, 그래픽 애플리케이션에서 사용자의 보안과 저지연 조건을 충족해줍니다.
이번 출시를 통해 AI는 연구 프로젝트 차원을 넘어서게 됐습니다.
대다수의 기업들은 데이터를 핵심 지적자산으로 여기고 사내에 데이터를 보관합니다. 그러나 딥 러닝이 연구단계를 넘어 생산단계로 발전하기 위해서는, 기업들은 자사 데이터 바로 옆에서 클라우드가 제공하는 유연성과 손쉬운 개발 능력을 활용할 수 있어야 합니다. 그리고 이것이 바로 T4 GPU가 탑재된 AWS 아웃포스트가 제공하는 핵심 기능이죠.
기업들은 AWS 아웃포스트를 통해 완전관리형 랙 스케일(rack-scale) 기기를 사내 데이터센터에 안전하게 보관된 대규모 데이터 레이크 근처에 설치할 수 있습니다.
전사적인 AI 가속화
뉴럴 네트워크 훈련을 위해서는, 엔비디아 드라이버에서 컨테이너 런타임, 애플리케이션 프레임워크에 이르는 소프트웨어의 모든 부분을 최적화해야 합니다. 세이지메이커(Sagemaker), 엘라스틱 맵리듀스(Elastic MapReduce) 등 고객 맞춤형 아마존 머신 이미지(Amazon Machine Images, AMI) 상에서 개발된 AWS 서비스들을 이용해 대규모 데이터 세트 훈련을 시작하려면 우선 모델을 개발해야 합니다. 엔비디아로 구동되는 AWS 아웃포스트 도입을 통해, 이런 서비스들을 엔터프라이즈 데이터센터에서 안전하게 실행할 수 있습니다.
아웃포스트에 탑재된 GPU들은 딥 러닝과 고성능 컴퓨팅, 그리고 기타 GPU 애플리케이션을 가속화합니다. 아웃포스트 GPU는 사전 훈련된 모델 등 애플리케이션, 프레임워크, 라이브러리, SDK가 다수 포함된 엔비디아의 GPU 가속 소프트웨어 최적화 허브인 NGC내 소프트웨어에 접근 가능합니다.
엔비디아 EGX 엣지 컴퓨팅 플랫폼은 AWS 아웃포스트에서 구동되고, AWS 엘라스틱 쿠버네티스 서비스(AWS Elastic Kubernetes Service)와 함께 실행해 AI 추론을 진행합니다. 엔비디아 T4 GPU로 구동되는 이 서비스들을 이용하면 CPU만으로만 처리할 수 있었던 정보 대비 훨씬 많은 양의 정보들을 처리할 수 있습니다. 또, 제조, 의료, 금융 서비스, 리테일, 그리고 그 밖의 업계에서 사용되는 사물인터넷(IoT) 센서에서 실시간 스트리밍 되는 방대한 데이터를 통해 빠르게 인사이트를 얻을 수 있답니다.
EGX 외에도, 엔비디아 메트로폴리스 애플리케이션 프레임워크(NVIDIA Metropolis application framework)는 스마트 시티, 리테일, 물류, 산업 검사를 포함해, AWS 아웃포스트가 제공하는 기타 AI, IoT 목적으로 사용가능한 비전 AI의 구성요소들을 제공합니다.
엔비디아 클라라 애플리케이션 프레임워크(NVIDIA Clara application framework)는 의료서비스 제공자에게 의료영상, 연합학습(federated learning), AI 지원 데이터 레이블링(AI-assisted data labeling) 등의 목적으로 AI 기술을 제공할 수 있도록 개발됐습니다.
T4 GPU의 튜링(Turing) 아키텍처는 텐서RT(TensorRT)를 사용해 업계 최다 AI 모델 세트를 가속화합니다. T4 GPU의 튜링 아키텍처 텐서코어(Tensor Cores)는 CPU 대비 40배 많은 추론 성능을 제공하는 여러 개의 다중 정밀도 컴퓨팅(multi-precision computing)을 지원합니다.
로컬 호스팅을 지원하는 원격 그래픽 기능
최첨단 그래픽 제품 사용자들을 위한 제품도 있습니다. 대규모 데이터세트나 모델에 접속해야 하는 외딴 지역의 디자이너, 아티스트, 전문 기술자들도 클라우드가 제공하는 편의성과 높은 GPU 성능을 이용할 수 있습니다.
그래픽 전문가들은 퍼블릭 AWS 클라우드 뿐 아니라 T4 GPU가 탑재된 AWS 아웃포스트가 적용된 사내 클라우드에서 전세계 대다수의 전문 워크스테이션에 적용되는 엔비디아의 쿼드로(Quadro) 기술을 이용할 수 있습니다.
로컬에서 작업을 하든 클라우드에서 작업을 하든, 이제 쿼드로 사용자들은 수 백 개의 동일한 제3자 그래픽 집약적 GPU 가속 애플리케이션을 사용할 수 있습니다.
AWS 마켓플레이스(AWS Marketplace)에서 구매 가능한 쿼드로 가상 워크스테이션 AMI(Quadro Virtual Workstation AMI, 쿼드로 vWS AMI)에는 실제 워크스테이션에서 사용하는 것과 동일한 쿼드로 드라이버가 포함됩니다. 쿼드로 vWS AMI는 다쏘 시스템(Dassault Systèmes)의 솔리드웍스(SOLIDWORKS)와 카티야(CATIYA), 지멘스(Siemens) NX, 오토데스크(Autodesk) 오토캐드(AutoCAD)와 마야(Maya), 에스리(ESRI) ArcGIS Pro, 앤시스 플루언트(ANSYS Fluent)와 메커니컬(Mechanical), 디스커버리 라이브(Discovery Live) 등 수 백 개의 쿼드로 인증 애플리케이션을 지원합니다.