2021년에는 엣지 컴퓨팅의 수요가 크게 증가했습니다. 이를 견인한 것은 코로나 팬데믹과 효율적인 비즈니스 프로세스에 대한 필요성, 그리고 사물인터넷(IoT), 5G, 인공지능(AI) 분야의 주요 발전이었죠.
예를 들어, 지난 5월 IBM이 발표한 연구에 따르면, 조사대상 기업 임원들의 94%가 앞으로 5년 내에 기업 조직이 엣지 컴퓨팅을 구축할 것이라고 답했습니다.
스마트 병원에서부터 도시, 출납원 없는 상점, 자율주행 자동차에 이르기까지, 엣지 컴퓨팅과 AI와의 결합체인 엣지 AI는 그 어느 때보다 필요한 상황입니다.
기업은 현재 물류 문제, 인력 부족, 인플레이션, 계속되는 코로나 팬데믹으로 인한 불확실성으로 엄청난 어려움에 봉착해 있죠. 하지만 엣지 AI 솔루션이 인간과 기계를 잇는 다리 역할을 하며 예측치 향상, 작업자 배정, 제품 설계, 물류 등에 활용될 수 있습니다.
NVIDIA가 2022년에 예측하는 엣지 AI 트렌드 5가지는 다음과 같습니다.
1. 엣지 관리를 집중 담당하게 될 IT 부서
엣지 컴퓨팅은 많은 기업에서 빠르게 필수 요소가 되고 있지만, 엣지 컴퓨팅 구축은 아직 초기 수준에 있습니다.
생산 단계로 가기 위해서 엣지 AI 관리는 IT부서가 담당하게 될 것입니다. 미국의 시장조사 컨설팅 사인 가트너(Gartner)는 최근 보고서에서 “엣지 솔루션은 과거에 영업부문에서 관리했지만 현재 IT부서 쪽으로 담당이 전가되고 있으며, 기업들은 IT 리소스를 활용해 비용을 최적화에 나서고 있습니다”라고 전했습니다.i
IT 부서는 관리 용이성, 보안, 규모와 관련된 엣지 컴퓨팅 문제들을 해결하기 위해 클라우드 네이티브 기술로 전환될 것입니다. 컨테이너형 마이크로서비스 플랫폼인 쿠버네티스(Kubernetes)가 대규모 엣지 AI 애플리케이션 관리를 위한 최고의 도구로 부상했죠.
클라우드에서 이미 쿠버네티스를 사용하고 있는 IT 부서가 있는 고객사들은 그 경험을 통해 엣지를 위한 자체적인 클라우드 네이티브 관리 솔루션을 구축할 수 있습니다. 또한 레드 햇 오픈시프트(Red Hat OpenShift), VM웨어 탄주(VMware Tanzu), 윈드 리버 클라우드 플랫폼(Wind River Cloud Platform), NVIDIA Fleet Command 등 타사 제품을 구매하는 기업도 늘어날 것입니다.
2. 엣지에서의 AI 활용 사례 확대
컴퓨터 비전이 엣지의 AI 구축에서 지대한 역할을 해왔습니다. 이미지 인식은 AI 훈련을 주도했고, 결과적으로 컴퓨터 비전 애플리케이션의 강력한 생태계를 만들었죠.
컴퓨터 비전 AI 애플리케이션을 만드는데 기여한 애플리케이션 프레임워크이자 개발자 도구 세트인 NVIDIA Metropolis는 2017년 이후로 파트너사 네트워크를 100배 성장시켜 현재는 1,000개 이상의 회원사가 있습니다.
많은 기업들이 컴퓨터 비전 애플리케이션을 배포하거나 구매하고 있습니다. 컴퓨터 비전을 선도하는 그런 기업들은 멀티모달(multimodal) 솔루션으로 기울기 시작할 것입니다.
멀티모달 AI는 서로 다른 데이터 소스를 가져와 보고 듣고 감지하는 것에 반응하는 더욱 지능적인 애플리케이션을 만듭니다. 이러한 복잡한 AI 활용 사례에는 자연어 이해, 대화형 AI, 자세(pose) 추정, 검사, 시각화 등의 기술이 사용되죠.
멀티모달 AI는 데이터 스토리지, 프로세싱 기술, 입출력이나 센서 기능과 결합돼 로보틱스, 헬스케어, 개인화 수준이 높은 광고, 출납원 없는 쇼핑, 컨시어지 경험 등에서의 사용 사례 확장을 위해 엣지에서 실시간 성능을 제공할 수 있습니다.
가상의 비서와 쇼핑한다고 상상해 보세요. 전통적인 AI를 통해 아바타는 사람들이 선반대에서 고르는 걸 볼 수 있고, 음성 비서는 주문한 내용을 들을 수 있습니다.
두 개의 데이터 소스를 결합한 멀티모달 AI 기반 아바타는 주문을 듣고, 응답을 제공하며, 사람들의 반응을 보고, 그에 기반해 추가적으로 응답을 제공할 수 있습니다. 이 보완적인 정보를 통해 AI는 보다 나은 인터랙티브한 고객 경험을 제공합니다.
실제 사례를 보시려면 Project Tokkio를 확인해보세요.
3. AI와 산업용 IoT 솔루션의 융합
지능형 공장은 새로운 엣지 AI 애플리케이션이 작동되는 또 하나의 공간입니다. 상기와 동일한 가트너 보고서에 따르면, “2027년이 되면 딥 러닝 형태의 머신 러닝이 엣지 사용 사례의 65% 이상을 차지할 것입니다. 2021년 10퍼센트 미만에서 훨씬 상승한 것입니다”라고 밝혔습니다.
공장은 검사와 예측 정비를 위해 카메라와 다른 센서에 AI 애플리케이션을 추가할 수 있는데요. 하지만 탐지 작업은 시작에 불과하죠. 일단 문제가 감지되면 조치가 필요합니다.
AI 애플리케이션은 이상징후나 결함을 감지한 후에 사람이 개입할 수 있도록 경고해 줍니다. 다만 즉각적인 조치가 필요한 안전 어플리케이션이나 기타 활용 사례에 있어서, 조립 라인, 로봇 팔, 픽앤플레이스(pick-and-place) 기계 등을 관리하는 IoT 플랫폼과 AI 추론 애플리케이션을 연결해 실시간으로 대응합니다.
이런 애플리케이션 간의 결합은 맞춤형 개발 작업에 의존하고 있습니다. 따라서 산업 환경에서 엣지 AI 도입을 간소화하는 기존 IoT 관리 플랫폼과 AI 간 파트너십이 더욱 강화될 것으로 기대됩니다.
4. 5G의 AI를 도입하는 기업 증가
5G의 AI 통합 컴퓨팅 인프라는 현장, 사내 또는 클라우드에서 센서, 컴퓨팅 플랫폼, AI 애플리케이션을 통합하는 고성능 보안 연결 패브릭을 제공합니다.
이런 인프라의 주요 강점으로는 무선 환경에서의 초저지연, 서비스 품질 보장, 보안 향상 등이 있습니다.
5G의 AI 인프라는 새로운 엣지 AI 사용 사례를 만듭니다.
- Industry 4.0: 플랜트 자동화, 공장 로봇, 모니터링, 검사.
- 자동화 시스템: 유료 도로와 차량 원격 측정 애플리케이션.
- 스마트 공간: 소매업, 스마트 시티, 공급망 애플리케이션.
세계 최초의 풀 스택 5G의 AI 플랫폼 중 하나인 마베니어 엣지 AI(Mavenir Edge AI)가 지난 11월 선보였는데요. 내년에는 엔터프라이즈 5G 환경의 성능, 관리, 규모를 제공하는 풀스택 솔루션이 추가로 출시될 예정입니다.
5. 클라우드에서 엣지까지 AI 라이프사이클 관리
엣지 AI를 구축한 기업의 경우, MLOps는 엣지 간 데이터 흐름을 유도하는 데 핵심적인 역할을 하게 될 것입니다. 엣지에서 새롭고 흥미로운 데이터나 필요한 정보를 수집하고, 모델을 재교육하며, 애플리케이션을 테스트한 다음, 이를 엣지에 재배치하면 모델 정확도와 결과가 향상됩니다.
기존 소프트웨어로는 업데이트가 분기별이나 연간 단위로 이루어졌을 지 모르지만, AI는 업데이트 주기가 지속적이어서 상당한 혜택을 제공합니다.
MLOps는 많은 대형 기업들과 신생기업들이 AI 기술 업데이트의 지속적인 필요를 위해 솔루션을 구축하면서, 아직 개발 초기 단계에 머물러 있습니다. 현재는 주로 데이터 센터 문제 해결에 초점을 두고 있지만, 앞으로는 이런 솔루션이 엣지 컴퓨팅으로 전환될 것입니다.
AI 컴퓨팅의 다음 단계
AI는 옆의 그림과 같이 여러 단계로 발전해왔습니다.
새로운 도구와 솔루션이 현실 속에 직접 활용되면서 AI의 대중화가 진행되고 있습니다. IoT의 엄청난 성장과 5G의 활용성에 힘입어, 엣지 AI는 AI의 발전 단계의 다음 주인공이 될 것입니다.
2022년에는 업계가 클라우드에서 엣지로 확장하는 방법을 모색하는 한편, 더 많은 기업들이 AI 추론을 엣지로 이동하면서 생태계 성장을 이끌 것입니다.
엣지 AI에 대해 더 자세한 사항은 GTC 세션, ‘지능형 엣지의 성장: 기업에서 디바이스 엣지까지(The Rise of Intelligent Edge: From Enterprise to Device Edge)’를 온디맨드로 확인할 수 있습니다.
NVIDIA 엣지 컴퓨팅 솔루션을 확인해보세요.
i 가트너, “2022년 예측: 분산 엔터프라이즈가 컴퓨팅을 엣지로 주도”, 2021년 10월 20일. 애널리스트: 토마스 비트먼(Thomas Bittman), 밥 길(Bob Gill), 팀 짐머맨(Tim Zimmerman), 테드 프리드먼(Ted Friedman), 닐 맥도널드(Neil MacDonald), 캐런 브라운(Karen Brown)