21개의 NVIDIA NGC 소프트웨어 리소스가 AWS 마켓플레이스(AWS Marketplace)에서 무료로 제공됩니다. AWS 마켓플레이스는 고객들이 AWS에서 실행되는 소프트웨어와 서비스를 빠르게 찾고 구입해 사용하도록 지원하고 있습니다.
NVIDIA A100 Tensor Core GPU는 Amazon EC2 P4d 인스턴스에서 전례없는 성능을 제공하고 있는데요. 이와 마찬가지로 NGC 소프트웨어 카탈로그는 NVIDIA GPU 클라우드 인스턴스에서 최적화해 실행됩니다. 이제 AWS 고객은 NGC 소프트웨어 리소스를 무료로 활용해 인공지능(AI) 구축을 가속화할 수 있게 됐습니다.
NVIDIA는 2017년부터 자사의 NGC 카탈로그를 통해 GPU 최적화 소프트웨어를 공급해왔는데요. 현재까지 25만명 이상의 순 방문자(unique user)가 NGC 카탈로그에서 지원하는 백만 개 이상의 AI 컨테이너, 사전 훈련된 모델, 애플리케이션 프레임워크, 헬름 차트(Helm charts) 및 기타 머신 러닝 리소스를 다운로드 받았습니다.
AWS, 클라우드 업체 최초로 마켓플레이스에서 NGC 카탈로그 제공
AWS는 NGC 카탈로그를 제공하는 최초의 클라우드 서비스 제공업체가 됐습니다. 많은 기업들이 새로운 AI 서비스 구축 작업을 위해 클라우드를 우선적으로 고려하고 있는 가운데, NGC 소프트웨어는 데이터 사이언티스트와 개발자들이 쉽게 리소스를 이용해 효과적으로 작업을 시작할 수 있도록 지원합니다. NGC를 통해 기업은 AWS 생태계 내에서 새로운 AI 프로젝트를 쉽게 시작할 수 있습니다.
AWS 마켓플레이스 담당 이사 크리스 그루스(Chris Grusz)는 “AWS와 NVIDIA는 컴퓨팅 성능을 향상시키기 위해 10년 이상 협력해 왔습니다. 이러한 신뢰를 바탕으로 NVIDIA NGC 카탈로그를 AWS 마켓플레이스에서 무료로 제공하게 되어 기쁩니다”고 말했습니다. 그는 이어 “이제 NVIDIA NGC 소프트웨어를 AWS 마켓플레이스에 바로 액세스하고 전문 소프트웨어 리소스를 AWS에서 직접 구축함으로써 AI 구축 파이프라인을 간소화하고 속도를 높일 수 있습니다”라고 설명했습니다.
AWS 마켓플레이스에 출시된 NGC AI 컨테이너
NGC 카탈로그는 데이터 사이언티스트와 개발자가 AI 기반 솔루션을 구축하고 배포하는 것을 지원하기 위해 수백 개의 NVIDIA GPU 가속 머신 러닝 프레임워크와 산업별 소프트웨어 개발 키트를 제공합니다. NGC는 AWS 마켓플레이스에서 다음과 같은 헬스케어, 추천 시스템, 대화형 AI, 컴퓨터 비전, 고성능컴퓨팅(HPC), 로보틱스, 데이터 사이언스, 머신 러닝 분야에서 가장 인기있는 GPU 가속 AI 소프트웨어를 지원합니다.
- NVIDIA AI: MXNet, TensorFlow, Triton 추론 서버, PyTorch를 포함한 프레임워크 및 툴 스위트
- NVIDIA Clara 이미징: 의료 영상 활용 사례를 위한 딥 러닝 훈련 및 추론을 가속화하는 NVIDIA의 도메인 최적화 애플리케이션 프레임워크
- NVIDIA DeepStream SDK: 엣지에서 클라우드까지 연결할 수 있는 확장가능한 멀티 플랫폼 비디오 애널리틱스 프레임워크
- NVIDIA HPC SDK: HPC를 위한 컴파일러, 라이브러리, 소프트웨어 툴
- NVIDIA Issac Sim 머신 러닝 훈련: 로보틱스 머신러닝 엔지니어가 아이작 Sim으로 합성 이미지를 생성해 물체 감지 딥 뉴럴 네트워크를 훈련시킬 수 있도록 지원하는 툴킷
- NVIDIA Merlin: 대규모 딥 러닝 추천 시스템을 구축하기 위한 개방형 베타 프레임워크
- NVIDIA NeMo: 최신 대화형 AI 모델을 개발하기 위한 오픈소스 Python 툴킷
- RAPIDS: 오픈소스 데이터 사이언스 소프트웨어 라이브러리 스위트
최적화된 성능의 AI 소프트웨어에 즉시 액세스 가능
AWS 마켓플레이스의 NGC 소프트웨어는 데이터 사이언티스트와 개발자가 성공적인 AI 기반을 구축하는데 필요한 많은 이점을 제공합니다.
- 보다 빠른 소프트웨어 검색: 개발자와 데이터 사이언티스트는 AWS 마켓플레이스를 통해 클릭 한 번만으로 NVIDIA AI 소프트웨어의 최신 버전에 액세스할 수 있습니다.
- 최신 소프트웨어: AWS 마켓플레이스의 NGC 소프트웨어는 통합되어, NGC 카탈로그에서 업데이트가 되는 즉시 AWS 사용자는 최신 버전에 액세스할 수 있습니다. 소프트웨어는 지속적으로 최적화되고 배포돼 사용자는 언제나 최신 기능과 성능 향상을 만나볼 수 있습니다.
- 간단한 소프트웨어 구축: 아마존 EC2(Amazon EC2), 아마존 세이지메이커(Amazon SageMaker), 아마존 ECS(Amazon Elastic Container Service)의 사용자는 모든 AWS 콘솔에서 NVIDIA GPU 인스턴스 내의 NGC 소프트웨어를 신속하게 접속해 실행할 수 있습니다. 또한 아마존 세이지메이커 사용자는 컨테이너를 아마존 ECR(Amazon Elastic Container Registry)에 저장할 필요가 없어 워크플로우를 간소화할 수 있습니다.
- 지속적인 통합 및 개발: NGC 헬름 차트는 데브옵스(DevOps)팀이 서비스를 신속하고 일관되게 구축할 수 있도록 AWS 마켓플레이스에서도 제공됩니다.