동영상 스트리밍 트래픽은 기하급수적으로 증가하는 중이며, 이와 같은 추세는 지속될 것으로 보이는데요. 시스코 비주얼 네트워킹 인덱스(Cisco Visual Networking Index)에 따르면, 동영상 스트리밍 관련 인터넷 트래픽은 2021년에 현재 수준의 4배로 증가할 전망입니다.
이는 페이스북(Facebook), 스냅챗(SnapChat), 유튜브(YouTube) 사용자들에게는 반가운 소식일 텐데요. 유튜브의 경우, 현재 사용자가 10억명에 달하며 이는 전체 인터넷 사용자의 약 1/3에 해당합니다. 하지만 플랫폼에 업로드 되는 부적절하거나 불법적인 콘텐츠를 필터링해야 하는 기업들에게는 부담이 더욱 커지게 되었습니다.
징동닷컴(JD.com)은 중국 2위의 B2C 전자상거래 기업이며, 엔비디아 테슬라(Tesla) GPU와 딥스트림(DeepStream) 소프트웨어 개발 키트(SDK) 기반의 스마트 비디오 애널리틱스 딥 러닝 플랫폼을 통해 동영상 감지 효율성을 40배 가량 개선했습니다.
온라인 스토어 POP의 빠른 동영상 필터링 비결
2억 6,500만명이 넘는 활성 사용자를 보유한 징동닷컴은 포춘(Fortune)이 선정한 세계 500대 기업(Fortune Global 500) 중 한 곳인데요. 2016년의 거래 규모는 약 1조 위안(RMB)에 달했습니다. 징동닷컴의 고속성장을 이끈 주역은 바로 오픈 전자상거래 플랫폼인 POP인데요. 개별 매장들은 POP을 통해 제품의 사진과 동영상을 직접 업로드 할 수 있습니다.
매장들은 매일 테라바이트 규모의 동영상, 사진, 텍스트를 POP에 업로드 합니다. 매일 새롭게 업로드 되는 사진의 양은 1억장이 넘습니다. 징동닷컴은 매장들이 업로드한 사진과 동영상에서 부적절한 콘텐츠를 필터링해야 합니다.
이전에는 POP에 업로드 된 동영상 1개를 처리할 때마다 CPU 1개를 필요로 했습니다. 1천개의 동영상을 동시에 처리하려면, 클라우드에 1천개의 CPU를 배치해야 했는데요. 이는 지나치게 큰 규모의 투자이며 매우 복잡한 프로세스입니다.
징동닷컴은 동영상 처리 니즈를 충족하기 위해 테슬라 P40 GPU, 딥스트림 SDK, 프로그래밍이 가능한 추론 가속기 텐서RT(TensorRT)로 구동되는 엔비디아의 AI 추론 플랫폼을 채택했습니다. 이 플랫폼을 통해 풀 HD급 동영상 1,000개를 실시간으로 식별하고 필터링할 수 있습니다. 추론 기반의 동영상 콘텐츠를 필터링할 수 있는 처리량이 20배 가량 확대된 셈이지요.
엔비디아 테슬라 P40는 딥 러닝 추론 시에 방대한 양을 처리할 수 있도록 설계되었는데요. CPU 대비 40배 더 빠른 속도로 추론 작업을 처리합니다. 즉, 테슬라 P40 GPU 4개가 장착된 서버 1대로 50개가 넘는 CPU를 장착한 수많은 서버를 대신할 수 있습니다.
디코딩과 분석을 동시에 처리
딥스트림 SDK는 스마트 시티와 하이퍼스케일 데이터 센터를 구현하는, 확장 가능한 인텔리전트 비디오 애널리틱스 애플리케이션의 개발을 간소화시킵니다. 딥스트림 SDK는 텐서RT로 추론 작업을 진행하고, 비디오 코덱 SDK(Video Codec SDK)를 통해 최적화된 단일 API로 트랜스코딩(transcoding) 및 모든 필요한 데이터 전처리(preprocessing), 데이터 큐레이션(data curation) 작업을 처리합니다.
징동닷컴은 딥스트림을 활용해서 동영상 스트리밍 감지 과정에서 디코딩 및 분석 작업을 동시에 수행하고, 텐서RT로 추론 속도를 가속화시키며 전력 소모를 줄일 수 있습니다. 또한, 큰 묶음의 동영상 콘텐츠를 이해할 수 있기 때문에 동영상 분석의 효율성이 높아집니다.
현재 엔비디아의 AI 플랫폼에 기반한 모든 서버는 20개의 동영상을 동시에 처리할 수 있는데요. 이는 징동닷컴이 HD급 동영상 스트리밍 1천 건을 실시간으로 동시에 추론할 수 있다는 뜻입니다. 그리고 필요한 서버 자원을 83% 가량 줄여 장비와 인력을 대폭 절감했습니다.
징동닷컴 AI, 빅 데이터 인식/식별 R&D팀의 첸 유(Chen Yu) 부장은 “엔비디아 GPU와 스마트 비디오 애널리틱스를 위한 딥스트림 SDK는, 동영상 스트림 처리에 장족의 발전을 가져왔습니다. 엔비디아의 지속적인 GPU 성능 개선에 감사를 전합니다. 덕분에, 어떤 프레임워크에서도 동영상 스트림을 추론할 수 있습니다”라고 말했습니다.
징동닷컴의 강화된 동영상 감지 효율성 덕분에, 매장들이 제품의 데이터를 POP에 업로드하고 판매 허가를 받기까지 걸리는 시간까지 단축할 수 있게 되었는데요. 절약한 시간으로 보다 나은 서비스 경험을 만들어냈습니다.