기업은 퍼블릭 클라우드 컴퓨팅 플랫폼을 통해 인프라를 모든 위치로 확장할 수 있으며, 필요에 따라 컴퓨팅 리소스를 확장 또는 축소할 수 있는 글로벌 서버로 프라이빗 데이터센터를 보완할 수 있습니다. 이러한 하이브리드 퍼블릭-프라이빗 클라우드는 엔터프라이즈 컴퓨팅 애플리케이션에 전례 없는 유연성, 가치, 보안을 제공합니다.
그러나 전 세계에서 실시간으로 실행되는 AI 애플리케이션은 중앙 집중식 클라우드 서버에서 아주 멀리 떨어진 원격 위치에서 상당한 로컬 처리 능력을 요구할 수 있습니다.
또한 짧은 지연 시간 또는 데이터 레지던시(data residency) 요구 사항으로 인해 일부 워크로드는 온프레미스 또는 특정 위치에 남아 있어야 하죠.
많은 기업이 데이터가 생성되는 곳에서 발생하는 프로세싱을 일컫는 엣지 컴퓨팅을 이용해 AI 애플리케이션을 구축하는 것도 이 때문입니다. 원격 중앙 집중식 데이터 저장소에서 작업을 수행하는 클라우드 프로세싱 대신, 엣지 컴퓨팅은 엣지 장치에서 로컬로 데이터를 처리하고 저장합니다. 또한 인터넷 연결에 의존하는 대신, 장치를 독립형 네트워크 노드로 구동할 수 있습니다.
클라우드와 엣지 컴퓨팅은 다양한 이점과 사용 사례를 가지고 있으며 함께 구동할 수 있습니다.
클라우드 컴퓨팅이란?
리서치 기업인 가트너(Gartner)에 따르면, “클라우드 컴퓨팅은 인터넷 기술을 활용해 확장 가능하고 탄력적인 IT 기능을 서비스로 제공하는 컴퓨팅 유형”입니다.
클라우드 컴퓨팅에는 많은 이점이 있습니다. 하버드 비즈니스 리뷰(Harvard Business Review)의 ‘클라우드 기반 혁신 현황’ 보고서에 따르면, 응답자의 83%가 클라우드가 조직의 미래 전략과 성장에 상당히 또는 매우 중요하다고 말했습니다.
클라우드 컴퓨팅 도입이 늘어나고 있습니다. 클라우드 인프라를 구축하는 기업들이 계속 늘어나는 이유는 다음과 같습니다.
- 초기 비용 절감 – 하드웨어, 소프트웨어, IT 관리, 전력 공급과 냉각을 위해 24시간 전기를 구매하는 자본 비용이 제거됩니다. 기업은 클라우드 컴퓨팅을 통해 낮은 재정적 진입 장벽으로 애플리케이션을 신속하게 출시할 수 있습니다.
- 유연한 가격 정책 – 기업은 사용한 컴퓨팅 리소스에 대해서만 비용을 지불하므로 비용을 더 잘 제어하고 예상치 못한 비용을 줄일 수 있습니다.
- 무한한 온디맨드 컴퓨팅 – 클라우드 서비스는 리소스를 자동으로 프로비저닝 또는 프로비저닝 해제하여 변화하는 요구에 즉시 대응하고 적응할 수 있습니다. 이를 통해 비용을 절감하고 조직의 전반적인 효율성을 높일 수 있습니다.
- IT 관리 단순화 – 클라우드 공급자는 고객에게 IT 관리 전문가에 대한 액세스를 제공하여 직원들이 핵심 업무에 집중할 수 있도록 합니다.
- 쉬운 업데이트 – 클릭 한 번으로 최신 하드웨어, 소프트웨어, 서비스에 액세스할 수 있습니다.
- 안정성 – 클라우드 공급자 네트워크의 여러 이중화 사이트에서 데이터를 미러링할 수 있으므로 더 쉽고 저렴하게 데이터 백업, 재해 복구, 비즈니스 연속성 확보를 할 수 있습니다.
- 시간 절약 – 기업은 프라이빗 서버와 네트워크를 구성하는 데 시간을 허비할 수 있습니다. 온디맨드 클라우드 인프라를 사용하면 짧은 시간 안에 애플리케이션을 배포하고 더 빨리 시장에 출시할 수 있습니다.
엣지 컴퓨팅이란?
엣지 컴퓨팅은 컴퓨팅 성능을 데이터가 생성되는 위치(일반적으로 사물 인터넷 장치 또는 센서)에 물리적으로 더 가깝게 이동하는 방식입니다. 컴퓨팅 성능이 네트워크 또는 장치의 엣지에서 제공되는 방식에서 이름을 딴 엣지 컴퓨팅은 더 빠른 데이터 처리, 증가된 대역폭, 데이터 주권 보장을 가능하게 하죠.
엣지 컴퓨팅은 네트워크 엣지에서 데이터를 처리함으로써, 처리를 위해 서버, 클라우드, 장치 또는 엣지 위치 간에 많은 양의 데이터를 이동해야 하는 필요성을 줄입니다. 이는 데이터 사이언스, AI와 같은 최신 애플리케이션에 특히 중요합니다.
엣지 컴퓨팅의 이점은?
가트너는 “엣지 사용 사례를 프로덕션에 적용한 기업은 2019년 약 5%에서 2024년 약 40%로 늘어날 것”이라고 예상했습니다. 딥 러닝, 추론, 데이터 처리와 분석, 시뮬레이션, 비디오 스트리밍과 같은 많은 고성능 컴퓨팅 애플리케이션은 현대 생활의 중심이 됐는데요. 더 많은 기업이 이러한 애플리케이션이 엣지 컴퓨팅에 의해 구동된다는 사실을 인식하게 됨에 따라, 프로덕션에서 엣지 사용 사례의 수는 증가할 것입니다.
기업들은 다음과 같은 이점을 얻기 위해 엣지 기술에 투자하고 있습니다.
- 낮은 지연 시간: 엣지에서의 데이터 처리는 데이터 이동을 제거하거나 감소시킵니다. 이를 통해 완전 자율주행 자동차나 증강 현실과 같이 짧은 지연 시간이 필요한 복잡한 AI 모델의 사용 사례에 대한 통찰력을 가속화할 수 있습니다.
- 비용 절감: 데이터 프로세싱에 근거리 통신망을 사용하므로, 클라우드 컴퓨팅에 비해 더 낮은 비용으로 더 높은 대역폭과 스토리지를 제공합니다. 또한 프로세싱이 엣지에서 발생하기 때문에 추가 프로세싱을 위해 클라우드나 데이터센터로 보내야 하는 데이터가 줄어듭니다. 그 결과 이동해야 하는 데이터의 양이 줄어들고 비용도 절감됩니다.
- 모델 정확도: AI는 특히 실시간 응답이 필요한 엣지 사용 사례의 경우 고정밀 모델에 의존합니다. 네트워크의 대역폭이 너무 낮으면 일반적으로 모델에 공급되는 데이터의 크기를 줄여 완화시킵니다. 그 결과 이미지 크기가 줄어들고, 비디오에서 프레임이 건너뛰며, 오디오에서 샘플 속도가 감소하죠. 엣지에 배포하면 데이터 피드백 루프를 사용해 AI 모델 정확도를 개선하고 여러 모델을 동시에 실행할 수 있습니다.
- 적용 범위 확장: 인터넷 액세스는 기존 클라우드 컴퓨팅의 필수 요소입니다. 그러나 엣지 컴퓨팅은 인터넷 액세스 없이 로컬에서 데이터를 처리할 수 있습니다. 이는 이전에 액세스할 수 없던 위치나 원격 위치까지 컴퓨팅 범위를 확장합니다.
- 데이터 주권: 데이터가 수집된 위치에서 처리되는 엣지 컴퓨팅을 통해 기업은 모든 민감한 데이터와 컴퓨팅을 LAN과 회사 방화벽 내부에 보관할 수 있습니다. 따라서 클라우드 내 사이버 보안 공격에 대한 노출을 줄이고, 더욱 강화되고 끊임없이 변화하는 데이터 법규를 더 잘 준수할 수 있습니다.
엣지 AI에서 클라우드 컴퓨팅은 어떤 역할을 하나요?
엣지 컴퓨팅과 클라우드 컴퓨팅 모두 컨테이너화된 애플리케이션을 활용할 수 있습니다. 컨테이너는 모든 운영 체제에서 애플리케이션을 실행할 수 있는 배포하기 쉬운 소프트웨어 패키지입니다. 소프트웨어 패키지는 호스트 운영 체제에서 추상화되어 모든 플랫폼이나 클라우드에서 실행할 수 있습니다.
클라우드와 엣지 컨테이너의 주요 차이점은 위치입니다. 엣지 컨테이너는 데이터 소스에 더 가까운 네트워크 엣지에 위치하며 클라우드 컨테이너는 데이터센터에서 구동됩니다.
이미 컨테이너화된 클라우드 솔루션을 구축한 조직은 엣지에 쉽게 배포할 수 있습니다.
많은 기업이 엣지 AI 데이터센터를 관리하기 위해 클라우드 네이티브 기술을 활용합니다. 엣지 AI 데이터센터에는 물리적 보안이나 훈련된 직원이 없는 1만여 곳에 서버를 두는 경우가 많기 때문입니다. 결과적으로 엣지 AI 서버는 안전하고 탄력적이며 대규모로 관리하기 쉬워야 합니다.
클라우드가 아닌 온프레미스에서 AI를 개발할 때의 차이점에 대해 자세히 알아보세요.
엣지 컴퓨팅과 클라우드 컴퓨팅을 언제 사용해야 할까요?
엣지와 클라우드 컴퓨팅은 각각 고유한 기능이 있으며 대부분의 조직에서는 결국 둘 다 사용하게 됩니다. 다음은 다양한 워크로드를 배포할 위치를 정할 때 고려해야 할 몇 가지 사항입니다.
엣지 컴퓨팅이 클라우드 컴퓨팅보다 선호되는 상황의 예로 외과의사가 실시간 데이터에 액세스해야 하는 의료 로봇이 있습니다. 이러한 시스템에는 클라우드에서 실행할 수 있는 많은 소프트웨어가 통합되어 있지만, 수술실에서 점점 더 많이 사용되고 있는 스마트 분석, 로봇 제어는 지연 시간, 네트워크 안정성 문제 또는 대역폭 제약을 용인할 수 없습니다. 이 예에서 엣지 컴퓨팅은 환자의 생사가 달린 이점을 제공합니다.
엣지에서 AI를 배포할 때 고려해야 할 사항에 대해 자세히 알아보세요.
두 가지의 장점을 모은 하이브리드 클라우드 아키텍처
많은 기업이 클라우드와 엣지의 융합을 필요로 합니다. 기업은 가능할 때 중앙 집중화하고 필요할 때 배포하죠. 하이브리드 클라우드 아키텍처를 통해 기업은 온프레미스 시스템의 보안과 관리 용이성을 활용하는 동시에 서비스 공급업체의 퍼블릭 클라우드 리소스를 활용할 수 있습니다.
조직마다 하이브리드 클라우드 솔루션의 의미가 다릅니다. 클라우드에서 훈련하고 엣지에서 배포, 데이터센터에서 훈련하고 엣지에서 클라우드 관리 도구 사용, 또는 엣지에서 훈련하고 클라우드를 사용해 연합 학습을 위한 모델을 중앙 집중화하는 것을 의미할 수 있습니다. 클라우드와 엣지를 결합할 수 있는 가능성은 무한합니다.
클라우드, 엣지, 그리고 그 사이의 모든 위치에서 애플리케이션이 어디에 있든 상관없이 실행되도록 구축된 NVIDIA의 가속화된 컴퓨팅 플랫폼에 대해 자세히 알아보세요!