AI, 엑사스케일 컴퓨팅으로 가는 관문
지난 11월 14일 미국 유타주 솔트레이크시티에서 슈퍼컴퓨팅 2016 컨퍼런스(SuperComputing 2016, SC 16)가 성황리에 개최되었습니다. 엔비디아의 CEO 젠슨 황(Jensen Huang)은 연설을 통해, 현재의 AI 붐은 슈퍼컴퓨팅 세계의 최고 목표인 엑사스케일(exascale) 컴퓨팅으로 가는 관문이라고 평했습니다.
젠슨 황 CEO는,“몇 년 전, 딥 러닝은 하늘에서 토르의 해머가 떨어지듯 갑작스럽게 등장했습니다. 매우 까다로운 문제들을 해결 할 수 있는 놀라우리만큼 강력한 툴이 우리에게 생긴 것이지요. 이제 모든 산업이 AI의 가능성에 눈을 떴습니다”라고 말했습니다.
또한, 젠슨 황 CEO는 2016년이 딥 러닝과 GPU 컴퓨팅에 기념비적인 해라고 밝혔습니다. GPU에 최적화된 고성능 컴퓨팅 애플리케이션의 수는 400개를 넘어섰고, 탑 10 애플리케이션은 모두 GPU에 최적화 되어 있습니다. 딥 러닝 개발자의 수는 2년 만에 세 배로 증가해 40만 명에 이르렀지요. 특히, 엔비디아가 차세대 파스칼(Pascal) GPU 아키텍처를 출시하며 이 모든 애플리케이션의 속도와 효율성이 전과 비교할 수 없을 만큼 뛰어난 수준으로 향상되었습니다.
슈퍼컴퓨팅 16 참가자들 앞에서 연설하는 젠슨 황 엔비디아 CEO
슈퍼컴퓨팅 2016 컨퍼런스(SC 16) 개막과 더불어 젠슨 황 CEO의 발표를 듣기 위해 300여명의 개발자, 과학자, 기술책임자들이 엔비디아 부스를 찾았는데요. 젠슨 황 CEO는 이 자리에서 엔비디아의 AI 리더십을 확인해주었습니다. 젠슨 황 CEO의 주요 발표 내용은 다음과 같습니다.
- 마이크로소프트와 엔비디아는 마이크로소프트 코그니티브 툴킷(Cognitive Toolkit)을 발표했습니다. 코그니티브 툴킷은 온프레미스(on-premise) 방식으로 마이크로소프트 애저(Azure)의 엔비디아 테슬라(Tesla) GPU에서 구동되도록 최적화된 최초의 엔터프라이즈 AI 프레임워크입니다. 젠슨 황 CEO는 전 세계 기업들에 접근성이 있는 마이크로소프트와의 협업으로 세계 곳곳의 기업들이 AI를 활용할 수 있게 되었다고 밝혔습니다.
- 엔비디아는 미국 국립 암 연구소, 미국 에너지부 및 여러 국립연구소와 협력해 캔들(CANDLE, Cancer Distributed Learning Environment)이라는 AI 프레임워크 구축을 지원합니다. 캔들은 미 정부의 암 정복 계획인 문샷 프로젝트(Project Moonshot)의 일환으로 추진되고 있습니다. 과학자, 연구자들은 연산과학(computational sciences)뿐 아니라 딥 러닝을 통해 암 극복에 있어 시급한 과제들을 해결할 수 있습니다.
- 또한, 젠슨 황 CEO는 엔비디아의 새로운 DGX SATURNV 슈퍼컴퓨터를 소개하고, 캔들 프로젝트 작업을 어떻게 가속화하는지 설명했습니다. DGX SATURNV 슈퍼컴퓨터는 지난 14일 업데이트된 ‘세계 슈퍼컴 상위 500대 리스트’에서 전력 효율 부문 1위, 속도 부문 28위를 기록했습니다. 젠슨 황 CEO는 “달에 가고자 한다면, 커다란 로켓이 필요하지요. 이는 엔비디아가 세상에서 가장 위대한 슈퍼컴퓨터를 만든 이유입니다”라고 설명했습니다.
엔비디아의 슈퍼컴퓨터는 어떻게 개발되었을까요? GPU의 병렬 프로세싱 파워가 그 답입니다. 연구진은 GPU의 병렬 프로세싱의 힘을 빌어 인간의 사고 구조를 본 따 딥 뉴럴 네트워크를 설계합니다. 기계가 인간처럼 세상 사물을 인식하고 이해하려면 딥 뉴럴 네트워크가 필요합니다. (관련 포스팅인 “GPU: 인공지능의 발전을 가속화하는 새로운 컴퓨팅 모델”을 참고하세요).
이와 동시에 PC 게임 시장에서 비롯된 거대한 규모의 경제는 GPU의 발전에 추진력이 되어왔습니다. GPU 덕분에 슈퍼컴퓨터 과학자들은 소비전력 당 연산력이 탁월한 기계를 설계할 수 있게 된 것이지요. 전력효율성은 현실적인 전력 예산에서 최대의 연산 속도를 구현하는 기계를 만드는 데 필수적인 부분입니다.
AI는 기업들이 앞다투어 보다 강력한 성능의 기계를 찾는 계기가 될 것입니다. 클라우드와 데이터센터, 어느 기반에서든 상관없이 말입니다. 젠슨 황 CEO는 “딥 러닝은 기회이자 과제이며, 슈퍼컴퓨팅은 딥 러닝 기술의 구현에 꼭 필요합니다”라고 설명했습니다. (관련 포스팅인 “엔비디아, 전세계 GTC 통해 AI 산업혁명의 현주소 확인하다”를 참고하세요)
젠슨 황 CEO는 차세대 슈퍼컴퓨터는 물리적, 생물학적인 행태를 예측하는 등의 연산과학 과제를 해결하기 위해 64비트 부동소수점(Floating Point) 연산을 수행할 수 있다고 설명했습니다.
동시에, 차세대 슈퍼컴퓨터는 정보가 불완전하거나, 가장 기본이 되는 원칙이 없는 경우에도 작업을 처리할 수 있어야 합니다. 이는 전형적인 딥 러닝의 문제이지요. 세계 바둑 챔피언과의 대국도 이에 해당하는데, 여기에는 16비트 부동소수점 연산이면 충분합니다.
현재 가장 빠른 컴퓨터들은 이미 엑사스케일 속도로 작업을 처리하고, 놀라운 결과를 내고 있습니다.