‘엣지 AI’ 해부하기

최근 인공지능(AI)의 발전과 사물인터넷(IoT) 기기의 도입, 엣지 컴퓨팅의 힘이 한데 어우러져 엣지 AI의 파워가 크게 발휘되고 있습니다.

이로써 과거에는 상상도 하지 못했던 엣지 AI의 새로운 기회가 열렸습니다. 병원에서 방사선과 전문의들의 병리 식별, 고속도로 주행, 식물 수분 지원 등 엣지 AI는 광범위하게 쓰일 수 있게 되었죠.

현재 수많은 분석가와 기업이 엣지 컴퓨팅을 논의하며 구현시키고 있습니다. 사실 엣지 컴퓨팅의 원조는 사용자와 가깝게 배치된 엣지 서버로부터 웹이나 영상 콘텐츠를 제공하기 위해 콘텐츠 제공 네트워크가 만들어진 1990년대로 거슬러 올라갑니다.

현재 거의 모든 기업들이 다루는 업무 기능이 엣지 AI를 도입해서 혜택을 얻을 수 있습니다. 사실상 엣지 애플리케이션은 가정, 직장, 학교, 교통체계에서 우리의 삶을 개선하는 방향으로 차세대 AI를 이끌고 있죠.

그렇다면 엣지 AI란 무엇이며, 그 이점과 작동 방식, 사용 사례, 엣지 컴퓨팅과 클라우드 컴퓨팅 사이의 관계에 관해 더 자세히 알아볼까요?

엣지 AI란?

엣지 AI는 물리적 세계 전반에 걸쳐 기기에 AI 애플리케이션을 구축하는 것을 뜻합니다. “엣지 AI” 명칭이 부쳐진 이유는 AI 연산이 클라우드 컴퓨팅 설비나 사설 데이터센터 중심에서 이뤄지는 것이 아니라 데이터가 위치한 곳에 근접한 네트워크의 가장자리(엣지) 사용자 주변에서 이뤄지기 때문입니다.

인터넷은 전세계적인 영역에서 이루어지고 있기 때문에 네트워크의 엣지란 사실상 모든 위치를 뜻합니다. 소매점, 공장, 병원, 혹은 우리 주변에 있는 신호등, 자동 기계, 전화기와 같은 장치일 수 있죠.

엣지 AI가 지금 필요한 이유

모든 업계의 조직들은 프로세스와 효율성, 안전성을 개선하기 위해 자동화를 확대하려고 합니다.

이를 위해서는 컴퓨터 프로그램이 패턴을 인식하고 작업을 반복적이고 안전하게 실행할 필요가 있는데요. 하지만 현재 구조화되지 않은 세상에서 인간은 프로그램과 규칙만 가지고는 기술할 없는 무한한 상황을 다뤄야 합니다.

엣지 AI가 발전하면서 기계와 기기는 어디서든 인간의 인지기능인 ‘지능’을 통해 작동이 가능한 시대를 열었습니다. AI 기반 스마트 애플리케이션은 실제와 매우 유사한 다른 상황에서 유사한 작업을 수행하는 방법을 학습하죠.

엣지에 AI 모델을 효율적으로 배치할 수 있게 된 것은 최근에 다음과 같은 세 가지 혁신이 있었기 때문입니다.

신경망의 성숙: 신경망과 관련 AI 인프라가 드디어 일반화된 머신 러닝 수준으로 발전했습니다. 기관들은 AI 모델을 성공적으로 훈련하고, 엣지에 배치하는 방법을 배워 나가고 있습니다.
컴퓨팅 인프라의 발전: 엣지에서 AI를 실행하려면 강력한 분산 연산력이 필요합니다. 최근 고도의 병렬 GPU의 발전은 신경망을 실행하도록 조정됐습니다.
loT 기기 도입: loT가 광범위하게 사용되면서 빅데이터가 폭발적으로 늘어나고 있는데요. 산업용 센서, 스마트 카메라, 로봇 등 비즈니스의 모든 측면에서 갑자기 데이터를 수집할 수 있게 되어 이제는 AI 모델을 엣지에 배치할 필요성이 생긴 데이터와 장치들이 생겨났습니다. 게다가, 5G는 IoT에 더욱 빠르고, 안정적이며, 안전한 연결성을 제공하고 있습니다.

AI를 엣지에 배치하는 이유와 엣지 AI의 이점

AI 알고리즘은 언어, 시각, 소리, 냄새, 온도, 얼굴, 기타 아날로그 형태의 비정형 정보를 이해할 수 있기 때문에 실제로 문제를 해결해야 하는 최종 사용자가 있는 장소에 특히 유용합니다. 하지만 AI 애플리케이션은 지연 시간과 대역폭, 개인 정보 보호와 관련된 문제때문에 중앙 집중식 클라우드나 엔터프라이즈 데이터센터에 배포하는 것은 비현실적이거나 불가능합니다.

엣지 AI의 이점은 다음과 같습니다.

인텔리전스: AI 애플리케이션은 오로지 프로그래머가 예상한 입력에만 대응할 수 있는 기존 애플리케이션보다 더 강력하고 유연합니다. AI 신경망은 특정 질문에 답하는 방식에 훈련된 것이 아니라 질문 자체가 새로워도 특정한 유형의 질문에 답하는 방식에 훈련됩니다. AI 기능이 없다면 애플리케이션은 문자, 구어, 영상과 같은 수 없이 다양한 입력을 처리할 수 없을 것입니다.
실시간으로 제공할 수 있게 된 유용한 정보: 엣지 기술은 장거리 통신으로 지연될 수 있는 멀리 놓인 클라우드가 아니라 사용자와 가까운 곳에서 데이터를 분석하기 때문에 사용자의 요구에 실시간으로 대응할 수 있습니다.
비용 절감: 데이터 처리를 엣지에서 수행하게 됨에 따라 애플리케이션이 요구하는 인터넷 대역폭이 줄어 네트워킹 비용을 크게 절감시킵니다.
개인 정보 보호 향상: 실생활에 대한 정보를 타인에게 노출하지 않고 분석할 수 있는 AI는 정보 분석을 위해 외모, 목소리, 의료 영상, 기타 개인 정보를 제공해야 하는 사람들의 개인정보 보호를 강화합니다. 엣지 AI는 해당 데이터를 로컬에 저장하고 분석 내용과 도출된 정보만 클라우드에 업로드함으로써 개인정보 보호가 더욱 강화됩니다. 훈련 목적으로 일부 정보가 업로드된 경우에도 익명화 할 수 있어서 사용자 신원을 보호할 수 있죠. 이로써 엣지 AI는 데이터 규제 준수와 관련한 일을 간단하게 만듭니다.
고가용성: 데이터 처리에 인터넷 접속이 필요하지 않아서 탈중앙화와 오프라인 기능은 엣지 AI를 더욱 견고하게 합니다. 따라서 임무 수행에 필수적인 산업용 등급 AI 애플리케이션의 가용성과 신뢰성을 향상시킵니다.
지속적인 개선: AI 모델은 데이터를 더 많이 학습할수록 정확도가 높아집니다. 엣지 AI 애플리케이션이 정확하거나 자신 있게 처리할 수 없는 데이터에 직면하게 되면 대체적으로 이를 업로드해 AI가 재교육하고 학습할 수 있도록 합니다. 따라서 모델이 엣지에서 생산되는 기간이 길어질수록 모델의 정확도가 높아집니다.

엣지 AI 기술 작동방식

기계가 물체를 보고 탐지하거나, 자동차를 운전하고, 말을 이해하거나 말하고, 걷거나, 인간의 기술을 모방하려면 기능적으로 인간의 지능을 복제해야 할 것입니다.

AI는 인간의 인지능력을 복제하기 위해 심층신경망(DNN)이라고 하는 데이터 구조를 사용하죠. 이러한 심층신경망은 정답과 함께 해당 유형의 질문에 대한 많은 예를 보여줌으로써 특정 유형의 질문에 답하도록 훈련됩니다.

“딥 러닝“으로 알려진 이 훈련 과정은 정확한 모델을 훈련하는 데 필요한 데이터 양이 방대하고 데이터 사이언스가 모델을 구성하기 위해 협업해야 하기 때문에 데이터 센터나 클라우드에서 실행되는 경우가 많습니다. 훈련을 마친 모델은 실생활의 질문에 답할 수 있는 “추론 엔진”이 됩니다.

엣지 AI 구축에 있어서 추론 엔진은 공장, 병원, 자동차, 위성, 가정 등과 같이 멀리 떨어진 장소에 있는 컴퓨터나 장치에서 작동합니다. AI가 문제에 봉착하면, 그 문제가 되는 데이터는 원래 AI 모델을 추가 훈련하기 위해 일반적으로 클라우드에 업로드합니다. 이는 어느 시점에서 엣지에서 추론 엔진을 대체하게 되죠. 모델 성능을 향상시키는 데 중요한 역할을 하는 이런 피드백 루프 덕분에 일단 배치된 엣지 AI 모델들은 점점 더 스마트해지게 됩니다.

엣지 AI 사용 사례

AI는 우리 시대의 가장 강력한 기술력입니다. 이제 AI는 세계 최대 산업에 혁명을 가져오고 있죠.

제조, 헬스케어, 금융 서비스, 운송, 에너지 등 모든 분야에서 엣지 AI는 새로운 비즈니스 성과를 이뤄내고 있습니다. 그 예는 다음과 같습니다.

에너지 분야의 지능형 예측: 일정치 않는 공급이 국민의 건강과 복지를 위협할 수 있는 에너지처럼 중요한 산업에 있어서, 지능형 예측 기능은 아주 중요합니다. 엣지 AI 모델은 과거 데이터, 날씨 패턴, 그리드(grid) 상태, 기타 정보를 결합해 에너지 자원을 보다 효율적으로 생성, 분배, 관리할 수 있는 정보를 고객에게 제공할 수 있는 복잡한 시뮬레이션을 만드는 데 도움을 줍니다.
제조업 분야에서의 예측가능한 유지보수: 센서 데이터를 사용하면 이상 징후를 조기에 감지하고 시스템 고장 시기를 예측할 수 있습니다. 장비에 장착된 센서는 결함을 검색하고 기계에 수리가 필요한 경우 경고 관리를 통해 문제를 조기에 해결할 수 있으므로 비용이 많이 드는 정지 시간을 방지할 수 있습니다.
헬스케어 분야의 AI 기반 장비: 엣지 AI 현대식 의료 기기는 초저지연 수술 영상 스트리밍을 사용하는 AI 기반 장비가 되서 외과 수술을 줄이고 필요한 정보를 즉시 제공해줍니다.
유통업 분야에서의 스마트 가상 비서: 유통업체들은 텍스트 기반 검색을 음성 명령으로 대체하기 위해 음성 주문 기능을 도입해 디지털 고객 경험을 개선하기 위해 노력하고 있습니다. 음성 주문을 통해 쇼핑객들은 스마트 스피커나 다른 지능형 모바일 기기를 사용해 물건을 쉽게 검색하고, 제품 정보를 요청하고, 온라인으로 주문할 수 있습니다.

엣지 컴퓨팅에서 클라우드 컴퓨팅의 역할

AI 애플리케이션은 퍼블릭 클라우드와 같은 데이터센터에서 실행되거나 사용자 근처의 현장, 네트워크 엣지에서 실행될 수 있습니다. 클라우드 컴퓨팅과 엣지 컴퓨팅은 엣지 AI를 구축할 경우 결합될 수 있는 장점을 각각 제공합니다.

클라우드는 인프라 비용, 확장성, 높은 활용률, 서버 장애에 따른 복원력, 협업과 관련된 이점을 제공합니다. 엣지 컴퓨팅은 응답 시간과 대역폭 비용을 단축하고 네트워크 장애에 대한 복원력을 제공합니다.

클라우드 컴퓨팅이 엣지 AI 배치를 지원하는 몇 가지 방법이 있습니다.

클라우드는 훈련 기간 동안 모델을 실행할 수 있습니다.
클라우드는 엣지에 있는 데이터로 모델을 재훈련하므로 모델을 계속 실행합니다.
클라우드는 응답 시간보다 높은 계산력이 중요시되는 현장에서 모델을 보완하는 AI 추론 엔진을 실행할 수 있습니다. 예를 들어 음성 비서는 자신의 이름이 불리면 응답할 수 있지만 요청 내용을 분석하기 위해 그 내용을 클라우드로 다시 보낼 수 있습니다.
클라우드는 최신 버전의 AI 모델과 애플리케이션을 제공합니다.
동일한 엣지 AI가 클라우드에 소프트웨어를 설치한 현장의 여러 장치에서 실행되는 경우가 많습니다.

하이브리드 엣지 아키텍처에 대한 모범 사례를 자세히 알아보세요.

엣지 AI의 미래

상업 분야에서의 신경망 사용 확대, IoT 기기의 확산, 병렬 연산과 5G의 발전 덕분에 이제 일반화된 머신 러닝을 위한 강력한 인프라가 구축됐습니다. 이를 통해 기업은 비용을 절감하고 개인 정보를 보호하는 것은 물론, AI를 사업장에서 활용하고 실시간으로 제공받는 정보를 기반으로 행동할 수 있는 엄청난 기회를 활용할 수 있게 됐죠.

이제 초기 단계에 불과한 엣지 AI의 그 활용 사례는 무수히 많아 보입니다.

엣지에 AI 구축시 고려 사항을 확인하며 기업용 엣지 AI 배치 방법을 배워보세요.