말레이시아에서 항공우주 엔지니어로 일한 치하우 림(Chee How Lim)은 제대로 비상할 수 있는 스타트업을 만드는 것이 꿈이었습니다. 현재 그의 회사인 탭웨이(Tapway)는 동남아시아 내 컴퓨터 비전과 AI 열풍을 가져온 주역 중 하나입니다.
2019년 비디오 분석에 대한 도움 요청은 말레이시아 쿠알라룸푸르에 소재한 이 회사의 현재까지 가장 큰 프로젝트로 이어졌습니다.
말레이시아 최대 유료 고속도로 운영업체인 PLUS는 하루 이용자가 150만 명이 넘는 교통 체증을 줄이기를 원했습니다. 자동차, 택시, 버스, 트럭이 여러 차선을 자유롭게 이동하게 되어 있는 국가 계획에는 몇 가지 큰 문제가 있었습니다.
교통 체증 해소
말레이시아 고속도로는 차량 유형에 따라 5가지 등급의 통행료를 부과합니다. 운전자는 4가지 다른 시스템을 사용하여 요금을 지불하고 보통 하나의 결제 시스템을 사용하여 고속도로에 진입한 다음 또 다른 결제 시스템을 사용하여 고속도로를 나가기 때문에 차량을 추적하기 어렵죠.
다양한 차량 등급별 전용 차선으로 인해 이용자는 속도를 늦추고 정차해서 부스 운영자가 특정 차량을 식별할 수 있어야 했습니다. 하지만 일부 운전자는 시스템을 속이고 고속도로에서 더 낮은 통행료를 내기 위해 카드를 바꿨습니다.
림은 “우리는 카메라와 AI로 구성된 컴퓨터 비전을 사용해 이 모든 것을 해결할 수 있는 방법을 보여줬습니다”라고 말했습니다.
AI로 교통 흐름을 원활하게
탭웨이는 NVIDIA GPU와 소프트웨어를 사용해 차량이 최대 시속 40km로 톨게이트를 통과하는 동안 차량 번호판을 읽고 50밀리초(눈 깜박임의 1/10) 만에 차량 등급, 제조사, 색상을 감지하도록 AI 모델을 훈련, 실행했습니다.
탭웨이의 VehicleTrack 소프트웨어는 어떠한 빛과 날씨 조건에서도 97%의 일관된 정확도로 작동합니다. 또한 NVIDIA Triton Inference Server덕분에 단일 GPU로 최대 50개의 동시 비디오 스트림을 관리할 수 있습니다.
PLUS는 지금까지 577대의 카메라를 설치했으며, 92개 톨게이트에 900여대로 확장하여 자유로운 교통 흐름을 구현하겠다는 목표를 달성할 계획입니다.
컴퓨터 비전 시스템
시스템은 NVIDIA A100과 V100 Tensor Core GPU 네트워크 상에서 클라우드에서 훈련된 스마트 AI 모델을 활용합니다.
림에 따르면, AI모델은 최대 100,000개의 이미지 데이터 세트를 사용하여 몇 시간 만에 탭웨이 고객을 위한 새 모델을 준비하는데, 이는 며칠이 걸리던 CPU 기반 시스템에서 크게 개선된 것이라고 합니다.
그러나 진정한 마술은 바로 추론에서 이루어지는데요. 프로덕션에서 모델을 실행하여 NVIDIA A10, A30, T4 GPU를 사용하는 엣지 서버에서 분당 최대 28,800개의 이미지를 처리합니다.
독보적인 성능의 소프트웨어
탭웨이는 NVIDIA DeepStream 소프트웨어 개발 키트로 컴퓨터 비전 앱을 구축하고 NVIDIA TensorRT 를 통해 AI 모델을 가볍고 빠르게 유지하며, Triton은 AI 추론 작업을 지시하는 교통 경찰 역할을 합니다.
그는 “Triton은 우리에게 구세주와 같습니다. 우리는 추론과 멀티스레딩을 자체적으로 수행하는 데 약간의 확장 문제가 있었고, 서버에서 12개의 비디오 스트림을 초과하여 확장할 수 없었습니다. 하지만 Triton을 사용하면 20개를 쉽게 처리할 수 있으며 최대 50개의 동시 스트림에 대해서 테스트를 마쳤습니다”라고 말했습니다.
2월에 탭웨이는 NVIDIA Metropolis 공식 파트너가 됐는데요. 지능형 비디오 분석 기업이 기술과 전문 지식에 조기에 액세스할 수 있도록 돕는 프로그램입니다.
탭웨이는 또한 최첨단 스타트업 육성 프로그램인 NVIDIA Inception의 회원입니다.
림은 “우리는 멀티스트리밍, 보안과 같은 영역에서 스트레스 테스트를 통과해야 했고 이는 우리 제품 라인업을 강화하는 데 도움이 됐습니다. 비즈니스 관점에서 이는 지역에서 AI 전문가로 인정받고 입지를 다질 수 있는 방법입니다”라고 말했습니다.
AI의 다양한 활용 범위
탭웨이는 2014년 설립된 이래 말레이시아와 싱가포르 전역의 500개 지역에 3,000여개의 센서를 배포했습니다. 도로 밖에서는 쇼핑몰과 유통업체가 고객의 쇼핑 습관을 이해하는 데 도움을 주고 있으며, 이제 이 지역의 자동차 제조업체와 팜유 생산업체와 같은 제조업체의 품질 관리를 위한 제품 검사를 지원하기 위해 준비하고 있습니다.
그는 “수요가 그 어느 때보다 높아지고 있고 세계에는 많은 비전 문제가 있으며 곧 착수할 수 있을 것으로 기대되는 몇 가지 흥미로운 프로젝트가 있습니다”라고 말했습니다.
자세한 내용은 림의 GTC 강연에서 확인할 수 있습니다(등록 시 무료). 또한 무료 전자책을 다운로드하여 NVIDIA Metropolis가 전 세계에서 어떻게 더 스마트하고 안전한 공간을 구축하는 데 도움을 주고 있는지 알아보세요.