NVIDIA A100 GPU로 구현되고 있는 Tesla 자율주행용 슈퍼컴퓨터

by NVIDIA Korea

NVIDIA GPU가 테슬라(Tesla)의 오토파일럿과 자율주행 기능을 위해 활용되고 있습니다.

테슬라의 AI 담당 수석 디렉터 안드레아 카르파티(Andrej Karpathy)는 미 현지시간 6월 19일부터 25일까지 온라인으로 진행되는 세계 최대 컴퓨터 비전 컨퍼런스 CVPR 2021에서 오토파일럿, 자율주행 기능을 위한 심층 신경망(DNN) 훈련에 사용하는 자사 슈퍼컴퓨터를 공개했는데요. 해당 클러스터는 8개의 NVIDIA A100 Tensor Core GPU(총 5,760 GPU)의 720개 노드를 활용하여 업계 최고 수준인 1.8 엑사플롭(exaflops) 성능을 구현합니다.

엔비디아 A100 GPU

안드레아 카르파티 디렉터는 “이 슈퍼컴퓨터는 정말 획기적입니다. 실제로, 플롭 측면에서 보면 해당 슈퍼컴퓨터는 세계 5위라 할 수 있습니다”라고 설명했습니다.

자동차 산업에 전례 없는 수준의 컴퓨팅 기술이 적용되고 있는 가운데, 테슬라는 자율주행차 엔지니어들이 최첨단 기술로 작업을 보다 효율적으로 수행하도록 지원하고 있습니다.

NVIDIA A100 GPU는 규모에 상관없이 가속화를 제공하여 업계 최고 수준의 성능을 구현하는 전세계 데이터센터를 지원하고 있습니다. NVIDIA Ampere 아키텍처를 기반으로 하는 A100 GPU는 이전 세대보다 최대 20배 향상된 성능을 제공하며, 요구에 따라 최대 7개의 독립된 GPU 인스턴스로 분할 가능합니다.

해당 슈퍼컴퓨터는 테슬라의 자율주행에 대한 수직적 통합 접근방식의 일환으로, 이미 도로에서 주행중인 1백만 대 이상의 자동차를 사용해 지속적으로 기능을 개선하고 새로운 기능을 구축하고 있습니다.

자동차부터 데이터센터까지 지원

‘그림자 모드’로 구동되는 테슬라의 DNN은 실제로 차량을 제어하지 않아도 주행하는 동안 조용히 감지하고 예측을 수행합니다. 이러한 예측과 모든 실수 또는 잘못된 식별은 기록되죠. 테슬라의 엔지니어들은 이 같은 인스턴스를 활용해 복잡하고 다양한 시나리오의 훈련 데이터세트를 생성하여 DNN을 개선합니다.

초당 36 프레임으로 녹화된 약 10초 길이의 1백만 개의 클립이 수집되어 총 1.5 페타바이트(PB)에 이르는 엄청난 양의 데이터가 쌓이면, DNN이 오류 없이 작동할 때까지 데이터센터에서 시나리오를 반복해서 실행합니다. 이는 차량으로 다시 전송되고 프로세스가 다시 시작되는 과정을 거칩니다.

안드레아 카르파티 디렉터는 “이 같은 방식으로 DNN을 훈련하고 이렇게 많은 양의 데이터를 저장하기 위해서는 엄청난 양의 컴퓨팅이 필요합니다. 따라서, 테슬라는 고성능 A100 GPU를 갖춘 최첨단 슈퍼컴퓨터를 구축하게 됐습니다”고 말했죠.

안드레아 카르파티 디렉터가 NVIDIA GPU가 탑재된 슈퍼컴퓨터를 소개하고 있다.

끊임없는 반복 작업

테슬라의 슈퍼컴퓨터는 자율주행차 엔지니어들에 개발 과정에서 실험과 반복에 필요한 성능을 제공합니다. 안드레아 카르파티 디렉터는 “현재 구축하고 있는 DNN 스트럭처는 20명의 엔지니어로 구성된 팀이 단일 네트워크에서 동시에 작업할 수 있도록 하며, 병렬 개발을 위한 다양한 기능을 격리시킬 수 있습니다”라고 설명했습니다. 이 DNN은 이전의 가능했던 반복작업보다 훨씬 빠른 속도로 훈련 데이터세트를 통해 구동됩니다.

또한, “컴퓨터 비전은 우리가 하는 일의 핵심으로, 오토파일럿을 가능케 합니다. 이를 위해 거대한 신경망을 훈련시키고 많은 실험을 해야 합니다. 이것이 바로 우리가 컴퓨팅에 상당한 투자를 하고 있는 이유입니다”라고 덧붙였습니다.