대만의 기상 캐스터들은 업무에 필요한 시간과 에너지를 줄여주는 컴퓨터로 생성된 태풍 예보를 가까이서 보고는 놀라움을 감추지 못했습니다.
생성형 AI가 새로운 수준의 성능을 통해 총소유비용(total cost of ownership, TCO)을 절감하는 방법을 보여주면서 많은 분야의 사용자들이 느끼고 있는 반응이기도 합니다.
폭풍의 AI 내부
태풍 예측은 생성형 AI의 성능을 보여주는 훌륭한 테스트 사례였습니다. 이 작업은 일반적으로 25킬로미터 해상도의 대기 모델을 생성하기 위해 복잡한 알고리즘을 실행하는 CPU 클러스터로 시작되죠.
기상, 기후 연구를 위한 서비스와 소프트웨어 세트인 NVIDIA Earth-2의 일부인 생성형 AI 모델인 CorrDiff를 소개합니다!
CorrDiff는 기존 방법보다 1,000배 빠른 속도로 25킬로미터 모델을 2킬로미터까지 해상도를 높이고, 한 번의 추론에 3,000배 적은 에너지를 사용합니다. 이는 오늘날의 텍스트-이미지 변환 서비스를 구동하는 확산 모델 클래스를 사용하고 있죠.
비용 50배, 에너지 소비량 25배를 절감하는 CorrDiff
CorrDiff는 NVIDIA AI 플랫폼에서 1년에 한 번 모델을 재훈련하고 수천 개의 예측 통계 그룹을 사용해 예측의 정확도를 높일 때에도 빛을 발합니다. 이러한 조건에서 기존 방식과 비교했을 때 비용은 50배, 에너지 사용량은 연간 25배 절감할 수 있습니다.
즉, CPU 클러스터와 이를 실행하기 위한 에너지에 거의 3백만 달러가 필요했던 작업을 NVIDIA H100 Tensor 코어 GPU를 갖춘 단일 시스템에서 약 6만 달러로 해결할 수 있습니다. 이는 생성형 AI와 가속 컴퓨팅이 에너지 효율성을 높이고 총소유비용을 낮추는 방법을 보여주는 엄청난 절감 효과죠.
또한 이 기술은 기상 캐스터들이 태풍이 상륙할 위치를 보다 정확하게 예측해 잠재적으로 인명을 구할 수 있도록 돕습니다.
대만 NDCR(National Science and Technology Center for Disaster Reduction)의 책임자인 헝이 첸(Hongey Chen)은 “NVIDIA의 CorrDiff 생성형 AI 모델은 AI로 생성된 킬로미터 단위의 일기 예보 활용의 새로운 문을 열었습니다. 이를 통해 대만은 태풍에 더 잘 대비할 수 있게 됐습니다”고 말했습니다.
대만 기상 캐스터들은 CorrDiff를 사용해 연간 거의 1기가와트시(gigawatt-hour, GWh)를 절약할 수 있습니다. 전 세계 200여 곳의 지역 기상 데이터센터가 이 기술을 도입해 보다 지속 가능한 컴퓨팅을 구현한다면 에너지 절감 효과는 더욱 커질 수 있는데요.
상업용 예보를 판매하는 회사들도 속도와 절감 효과에 매료돼 CorrDiff를 도입하고 있습니다.
에너지 효율을 위한 광범위한 지평
NVIDIA Earth-2는 이러한 기능을 행성 규모로 확장합니다. AI, 물리 시뮬레이션, 관측 데이터를 융합해 국가와 기업이 기후 변화와 같은 글로벌 이슈에 대응할 수 있도록 지원합니다. 이를 통해 2050년까지 백만 명의 목숨과 연간 1조 7천억 달러의 비용이 발생할 것으로 예상되는 기후 변화의 영향을 해결하는 데 도움이 될 예정입니다.
가속 컴퓨팅과 생성형 AI는 많은 애플리케이션에 새로운 차원의 성능과 에너지 효율성을 제공하고 있습니다. 그린 컴퓨팅과 GPU가 AI에 적합한 이유에 대한 설명에서 자세한 배경 설명과 몇 가지 예를 확인할 수 있습니다.
이 간단한 계산기를 통해 x86 CPU 기반 서버에서 실행되는 인기 워크로드와 NVIDIA GPU 서버의 비용과 에너지 소비를 비교해보세요. 그리고 컴퓨텍스(COMPUTEX)에서 진행된 NVIDIA 창립자 겸 CEO인 젠슨 황(Jenson Huang)의 키노트를 통해 큰 그림을 파악해보세요.