데이터 사이언티스트 위한 ‘NVIDIA GPU Cloud’ 소프트웨어 허브 확장

데이터 사이언티스트의 신속하고 최적화된 솔루션 구축을 지원하는 NGC 소프트웨어 허브를 확장하고 AI 컨테이너 세트를 위한 산업 솔루션 제공
by NVIDIA Korea

과학적 발전, 자율주행 자동차의 개발, 엄청난 양의 데이터로부터 비즈니스 인사이트 확보. 데이터 사이언티스트와 연구자, 개발자들이 방금 나열한 작업을 하기 위해선 강력한 GPU 컴퓨팅이 필요합니다. 또한 올바른 소프트웨어 도구도 필요하죠.

AI는 복잡하며, 모델을 만드는데 시간이 많이 소요됩니다. 그래서 컨테이너 기술이 복잡한 배포와 워크플로우를 간소화 하는데 중요한 역할을 하는데요.

GTC 2019에서 엔비디아는 강력한 NGC(NVIDIA GPU Cloud)를 선보였습니다. NGC는 사전 트레이닝된 AI 모델과 모델 트레이닝 스크립트, 업계별 소프트웨어 스택을 갖춘 딥 러닝, 머신 러닝, HPC 등을 위한 필수 소프트웨어 허브입니다.

이러한 새로운 도구를 사용하면 여러분의 기술 수준에 관계 없이 AI를 활용해 신속하고 쉽게 가치를 실현할 수 있습니다.

시간을 아껴주는NGC

데이터 사이언티스트의 시간은 소중합니다. 이들이 모델을 개발하기 위해 필요로 하는 컴퓨팅 리소스는 수요가 많죠. 오류를 찾기 위해 소스에서 프레임워크를 컴파일링 하는데 몇 시간, 심지어 며칠을 들여야 한다면 이는 생산성과 수익, 경쟁력 손실로 이어집니다.

수 천명의 데이터 사이언티스트와 개발자들은NGC에서 매달 업데이트 되는 텐서플로(TensorFlow)와 파이토치(PyTorch)같은 성능 최적화된 딥 러닝 프레임워크 컨테이너를 추출했는데요, NGC를 통해 시간 소모가 많고 오류에 취약한 배포 단계를 건너뛰고 솔루션을 구축하는데 집중할 수 있었기 때문이죠.

NGC는 최신 컴퓨팅 트렌드에 함께 하고자 하는 기업을 위해 진입 장벽을 낮췄습니다. 이미 합류한 기업들에겐 더 큰 가치와 더 빠른 속도를 제공하죠.

 NGC로 AI 프로젝트 가속화

많은AI 애플리케이션이 공통적으로 필요로 하는 요소가 있습니다: 분류, 객체 탐지, 언어 변환, 텍스트-음성 변환, 추천 엔진, 감정 분석 등인데요. 이러한 기능을 가진 애플리케이션이나 서비스를 개발할 때 개별 사용 사례에 맞는 사전 트레이닝된 모델을 사용 사례에 맞게 처음부터 조정하는 것이 작업 속도를 훨씬 빠르게 해줍니다.

NGC의 새로운 모델 레지스트리는 데이터 사이언티스트와 연구자들에 가장 널리 사용되는AI 모델 저장소를 제공해 이들이 자체 AI 애플리케이션을 리트레이닝하고 벤치마크 해 빠르게 구축할 수 있는 시작점을 제공합니다.

NGC 엔터프라이즈 계정 소유자는 호스팅 된 개인 레지스트리를 통해 조직과 팀에 자체 모델을 업로드하고 공유하며 게시할 수 있습니다. 이 모델 레지스트리는 https://ngc.nvidia.com와 명령형 인터페이스를 통해 액세스 할 수 있으며 사용자는 하이브리드 클라우드 환경에 이를 적용하여 조직 버전 모델에 대한 제한적 액세스를 제공할 수 있습니다.

또한NGC는 엔비디아 텐서 코어(Tensor Cores)로 실행되며 혼합 정밀도를 이용하는 우수 사례를 갖춘 모델 트레이닝 스크립트를 제공하는데요. 엔비디아 텐서 코어는 엔비디아 튜링(Turing)가 볼타(Volta) GPU가 기존 세대 대비 트레이닝과 추론 시 최대3배 성능 향상을 제공할 수 있도록 지원합니다.

NGC는 정확성과 컨버전스 테스트를 거친 모델과 트레이닝 스크립트로 사용자들에 가장 중요한 엔비디아 딥 러닝 자산의 중앙집중화와 큐레이션(curation)도 제공합니다.18-ngc-software-stack

의료 이미징과 스마트시티 위한 NGC

업계 전반에 걸친 효율적인 워크플로우는 사전 트레이닝 된 모델에서 시작되며, 그 후 새로운 데이터로 이전 학습 트레이닝을 수행합니다. 그 다음, 네트워크를 잘라내 최적화한 후 추론을 위해 에지 디바이스로 배치됩니다. 사전 트레이닝 된 모델과 이전 학습의 조합은 대규모 데이터를 수집하고 아예 새롭게 모델을 분류하여 트레이닝 하는 작업에 수반되는 비용 부담을 없애주기에 도메인 전문가들이 자체 딥 러닝 워크플로를 바로 시작할 수 있는 기반을 제공합니다.

그러나 트레이닝 최적화와 배포 세부 사항은 업계마다 확연히 다릅니다. NGC는 이제 스마트시티와 의료 이미징을 위한 업계 특화 워크플로를 제공하는데요.

스마트시티의 경우, 엔비디아 트랜스퍼 러닝 툴킷 포 스티리밍 애널리틱스(NVIDIA Transfer Learning Toolkit for Streaming Analytics)는 객체 감지, 카메라 비디오 프레임 분류와 같은 지능형 비디오 분석 워크로드에 맞는 이전 학습을 제공합니다. 그 후 리트레이닝과 최적화를 거쳐 정리된 모델은 스마트시티에 사용되기 위해 엔비디아 딥스트림  SDK (NVIDIA DeepStream SDK)를 통해 엔비디아 테슬라(NVIDIA Tesla) 또는 젯슨(Jetson) 플랫폼으로 배치되죠.

의료 이미징의 경우, 엔비디아 클라라 트레인 SDK(NVIDIA Clara Train SDK)를 사용할 수 있는데요. 의료기관은 이를 활용해 사전 트레이닝된 MRI 스캔 모델로 장기 분류 작업을 시작할 수 있으며, 이전 학습으로 의료기관이 자체 소유한 데이터세트에 기반해 이 모델을 향상시킬 수 있습니다. 클라라 트레인 최적화된 모델을 생성하며, 이는 이후 엔비디아클라라디플로이 SDK(NVIDIA Clara Deploy SDK)를 사용해 배포되어 새로운 환자 스캔에 향상된 세분화를 제공하죠. 

NGC 지원 시스템 – AI 워크로드에 최적화된 인증 플랫폼

전 세계 주요 시스템 제조사가 제공하는 NGC 지원 시스템은 엔비디아 인증을 받은 것으로, 데이터 사이언티스트와 개발자는 신속히 딥 러닝과 머신 러닝 워크로드를 이용해 최적의 업무를 실행할 수 있습니다.

최대 성능 시스템은640 텐서 코어와 최대32G에 이르는 메모리를 가진 엔비디아 V100 GPU로 실행되는데요. 최대 활용도를 위한 시스템은 엔비디아T4 GPU로 실행되는데, 이때 머신 러닝, 딥 러닝, 가상 데스크톱, HPC 등 모든 가속 워크로드에서 탁월한 성능을 보이는GP입니다. 엔비디아 인증 NGC 지원 시스템 목록은 여기에서 확인할 수 있습니다.

자신 있는 AI 인프라 배포

업계 전반에 걸쳐 AI 채택이 급속도로 늘어나고 있습니다. 이는 IT 팀이 다양한 사용자를 위해 새로운 유형의 워크로드와 소프트웨어 스택, 하드웨어를 지원해야 하는 필요성으로 이어졌죠. 이렇게 판도가 바뀐 상황에서는 시스템 다운타임을 최소화하고 사용자 생산성을 유지하는 것이 관건이 됐습니다.

이러한 우려를 해소하기 위해 엔비디아는 엔비디아 NGC 서포트 서비스(NVIDIA NGC Support Services)를 출시했는데요. NGC 지원 시스템이 최적으로 실행되고 시스템 활용도와 사용자 생산성을 극대화 하기 위한 엔터프라이즈급 지원을 제공합니다. 이 새로운 서비스는IT 팀에 엔비디아 분야별 전문가와 직접 소통해 소프트웨어 문제를 신속히 해결하고 시스템 다운타임을 최소화 할 수 있도록 지원하죠.

NGC 서포트 서비스는NGC지원 시스템 판매업체를 통해 제공되며, 시스코(Cisco)는NGC 지원 인증 엔비디아 V100 시스템인 시스코 UCS C480 ML을 현재 판매 중입니다. HPE는 오는6월 인증 획득한 NGC 지원 엔비디아 T4 서버인 HPE 프로라인트 DL380 Gen10 서버 (HPE ProLiant DL380 Gen10 server)를 선보이며, 다른 몇몇 OEM사도 곧 자체 서비스를 출시할 예정입니다.

NGC를 바로 시작해 보세요

ngc.nvidia.com에서 GPU 기반 시스템 또는 클라우드 인스턴스에서 무료로 NGC 컨테이너와 사전 트레이닝된 모델을 사용해 보세요.