AI 애플리케이션을 위한 GPU 최적화 허브인 NVIDIA NGC 카탈로그에 새로 추가된 Determined AI 애플리케이션은 딥러닝 엔지니어가 모델 빌드 자체에 집중할 수 있는 오픈소스 플랫폼을 제공해줍니다.
Determined AI는 AI 분야에서 유망 스타트업을 지원하는 프로그램, NVIDIA Inception 의 회원사입니다.
Determined AI 애플리케이션은 모델 코드를 변경할 필요 없이 첨단 분산 트레이닝을 통해 모델을 더 신속하게 훈련시킵니다. 컴퓨터 비전(Computer Vision)이나 자연어 처리(NLP)와 같은 사용 사례를 연구하는 딥러닝 엔지니어는 내장형 최첨단 하이퍼파라미터 튜닝을 사용해, 고품질 모델을 기존 툴보다 최대 100배 빠르게 찾을 수 있습니다.
또한, 세부기능에 포함된 내장형 실험 트래킹, 저용량 모델 레지스트리, 스마트 GPU 스케줄링 등을 사용해, 아이디어에서 프로덕션까지 모델을 훨씬 더 빠르고 저렴한 비용으로 얻을 수 있습니다.
Determined AI 애플리케이션은 Kubernetes 배포용 Helm 차트를 통해 제공되는 사용자 관리 소프트웨어 혹은 온프레미스나 클라우드용 Docker 컨테이너 세트로 제공됩니다. 모든 GPU 노드가 에이전트를 실행하며, 중앙 제어 노드는 워크로드를 스케줄링하고 에이전트 간에 작업을 조정합니다. 사용자가 딥러닝 워크로드를 보내면, 이 자동화된 시스템은 작업 스케줄링과 리소스 프로비져닝부터 분산 트레이닝까지 모든 것을 처리해줍니다.
개발자는 직접 또는 API를 통한 프로그래밍 방식으로 작업을 할당하고 Kubeflow Pipelines 와 Airflow 와 같은 ML 워크플로우 시스템을 쉽게 통합할 수 있습니다. 이 시스템은 메타데이터, 모델 체크포인트, 메트릭을 추적하고, 모델을 Seldon과 TensorFlow Serving과 같은 다운스트림 시스템으로 쉽게 내보낼 수 있게 해줍니다. 시스템의 웹 UI를 통해 작업이나 클러스터 상태를 모니터링하고, 현재나 과거의 실험을 디버깅하고 상호작용할 수 있습니다.
Determined AI을 시작하시려면 먼저 NGC 카탈로그에서 Helm 차트를 다운받으세요.