AI, 네트워킹의 효율성 향상
오늘날 GPU 와 데이터 프로세싱 유닛(DPU)은 슈퍼컴퓨터와 기업 데이터센터에서 실행되는 시뮬레이션과 같은 HPC 작업뿐만 아니라 AI와 네트워킹 작업에 더 큰 에너지 효율성을 제공합니다.
우리 시대의 가장 강력한 기술인 AI는 모든 비즈니스의 일부가 될 것입니다. 맥킨지 & 컴퍼니(McKinsey & Co.)는 AI 배포가 증가함에 따라 2030년까지 전 세계 GDP에 13조 달러를 추가할 것으로 추정합니다.
NVIDIA는 모든 AI, HPC, 네트워킹 오프로드가 GPU와 DPU 가속기에서 실행된다면 데이터센터가 연간 19테라와트시 전기를 절약할 수 있을 것으로 추정합니다(아래 차트 참조). 이는 승용차 290만대가 1년 동안 소비하는 에너지와 맞먹는 양이죠.
이는 가속 컴퓨팅을 통한 에너지 효율성의 잠재력에 대한 놀라운 척도입니다.
효율성 측정하는 AI 벤치마크
AI는 엔터프라이즈 워크로드의 증가하는 부분을 나타내기 때문에 AI에 대한 MLPerf 업계 벤치마크는 2021년 2월부터 데이터센터와 엣지 추론 제출 자료에 대한 와트당 성능을 측정하고 있습니다.
6개의 다른 칩과 시스템의 구성원이 포함된 MLPerf 전력 그룹의 이드군지는 “우리의 다음 목표는 더 큰 분산 시스템, HPC 워크로드와 AI 훈련을 위한 AI의 에너지 효율성을 측정하는 것입니다. 이는 Green500 작업과 유사합니다”라고 말했습니다.
공개 결과는 참가자가 각 제품 세대에서 상당한 개선을 하도록 동기를 부여합니다. 또한 엔지니어와 개발자가 MLPerf가 테스트하는 주요 AI 워크로드에서 성능과 효율성의 균형을 유지하는 방법을 이해하는 데 도움이 됩니다.
이드군지는 “소프트웨어 최적화는 에너지 효율성에 큰 영향을 미칠 수 있기 때문에 작업의 큰 부분을 차지합니다. 시스템이 에너지 효율적이면 안정성도 높아집니다”라고 말했습니다.
소비자를 위한 그린 컴퓨팅
거의 20년 동안 PC와 노트북 분야에서 일한 NVIDIA의 GPU 전력 아키텍트 나라얀 쿨슈레스타(Narayan Kulshrestha)는 “우리는 효율성이 옳은 방향이기 때문에 오랫동안 효율성에 투자해 왔습니다”라고 말했습니다.
예를 들어, Dynamic Boost 2.0은 딥 러닝을 사용하여 CPU, GPU 또는 GPU의 메모리에 자동으로 전원을 전달하여 시스템 효율성을 높입니다. 또한 NVIDIA는 에너지 효율성과 성능을 최적화하고 균형을 맞추기 위해 Max-Q라는 노트북용 시스템 수준 설계를 만들었습니다.
순환 경제 구축
사용자가 시스템을 교체할 때 그린 컴퓨팅의 표준 관행은 기존 시스템을 분해하여 재활용하는 것입니다. 그러나 매트 헐(Matt Hull)은 더 나은 가능성을 보고 있습니다.
NVIDIA의 데이터센터 AI 제품 판매 부사장인 헐은 “우리의 비전은 다양한 가격대의 AI를 모든 사람이 사용할 수 있도록 하는 순환 경제입니다”라고 말했습니다.
그래서 그는 이 시스템이 유용하고 합리적인 가격이라고 생각하는 개발도상국의 사용자들과 함께 새 집을 찾는 것을 목표로 하고 있습니다. 적절한 파트너를 찾고 기존 수명 주기 관리 프로세스의 새로운 장을 여는 작업이 진행 중입니다.
기후 변화에 대응하는 그린 컴퓨팅
에너지 효율적인 컴퓨터는 기후 변화에 맞서 싸우는 가장 강력한 도구 중 하나입니다.
각국 정부의 연구실과 대학의 과학자들은 오랫동안 GPU를 사용하여 기후 시나리오를 모델링하고 날씨 패턴을 예측해 왔습니다. NVIDIA GPU로 구동되는 AI의 최근 발전은 이제 기존 모델보다 100,000배 더 빠르게 일기 예보를 모델링하는 데 도움이 될 수 있습니다. 자세한 내용은 다음 동영상을 시청하세요.
기후 과학을 가속화하기 위한 노력의 일환으로, NVIDIA는 기후 변화의 영향을 예측하는 전용 AI 슈퍼컴퓨터인 Earth-2를 구축할 계획을 발표했습니다. 3D 설계 협업, 시뮬레이션 플랫폼인 NVIDIA Omniverse를 사용해 과학자들이 초고해상도로 기후를 모델링할 수 있도록 지구의 디지털 트윈을 구축합니다.
또한 NVIDIA는 유엔위성센터(United Nations Satellite Center)와 협력하여 기후 재해 관리를 가속화하고 전 세계의 데이터 사이언티스트들이 AI를 사용하여 홍수 감지를 개선하도록 교육하고 있습니다.
한편, 유틸리티는 친환경적이고 탄력적이며 스마트한 그리드로 이동하기 위해 머신 러닝을 수용하고 있습니다. 발전소는 디지털 트윈을 사용하여 비용이 많이 드는 유지관리를 예측하고 핵융합로 설계와 같은 새로운 에너지원을 모델링합니다.
그린 컴퓨팅의 미래
펭은 그린 컴퓨팅의 핵심 기술이 여러 측면에서 발전하고 있다고 보고 있습니다.
단기적으로 그는 에너지 비례성, 다시 말하면 빨간 불에서 RPM을 늦춘 후 멈추는 자동차 엔진처럼 시스템이 최고 성능이 필요할 때는 최고 전력을 얻고 유휴 상태로 느려지면 전력을 0으로 우아하게 줄이는 방법을 연구하고 있습니다.
장기적으로 그는 에너지 소비를 줄이기 위해 컴퓨터 칩 내부 그리고 칩 간의 데이터 이동을 최소화하는 방법을 모색하고 있습니다. 그리고 그는 새로운 종류의 가속을 제공하기 위한 양자 컴퓨팅의 가능성을 연구하는 많은 연구원 중 한 명입니다.
이는 모두 현재 진행 중인 그린 컴퓨팅 작업의 일부이며, 그 어느 때보다 더 높은 효율성과 더 많은 성능을 제공하고 있습니다.