새롭게 공개된 NVIDIA Minerva는 팀이 문제를 더 일찍 찾아내 AI 팩토리를 계속 생산적으로 유지하도록 돕는 AIOps 플랫폼입니다. 인프라와 AI 워크로드에서 나오는 텔레메트리를 한데 모은 뒤, 전용 AI 모델을 적용해 그 데이터를 제때 쓸 수 있는 인사이트로 바꿔 주죠.
AI 팩토리는 세상에서 가장 복잡한 운영 현장에 속합니다. 수많은 GPU가 고속 네트워크를 넘나들며 모델을 학습시키고 AI 애플리케이션을 서비스하죠. 그런 규모에서는 성능이 떨어진 부품 하나가 작업 전체를 늦출 수 있습니다. 다른 GPU보다 뜨겁게 돌아가는 GPU나 부하가 걸리면 성능이 떨어지는 NVMe 드라이브처럼, 경고 신호는 놓치기 쉽고요.
이 플랫폼이 초점을 맞추는 것은 AI 팩토리 수율입니다. GPU 가동 시간과 굿풋, 클러스터 가동률, 토큰 생산량으로 인프라가 만들어 내는 유효 작업량을 재는 지표죠.
AI 팩토리를 살아 있는 하나의 그림으로
기존 모니터링 도구는 데이터센터를 여러 조각으로 나눠 보여 주곤 합니다. 네트워킹과 컴퓨팅, 사이트 신뢰성, 머신러닝 팀이 저마다 운영의 다른 단면만 보게 되죠. Minerva는 NVIDIA GPU와 네트워킹, 스토리지, 스케줄러, 워크로드를 넘나드는 신호를 하나로 잇습니다.
Minerva는 이 신호들로 동적 지식 그래프를 만들어 GPU와 SuperNIC, 스위치, 케이블 같은 인프라와 그 위에서 돌아가는 작업을 논리적으로 지도화합니다. 이런 맥락 덕분에 운영자는 GPU가 수십만 개에 이르는 팩토리에서도 느려진 학습 작업을 그 원인이 된 부품까지 추적할 수 있죠.
Minerva는 지도·비지도 머신러닝으로 시간당 수십억 개의 데이터 포인트를 분석합니다. 정상 동작을 학습하고, 전에 본 적 없는 이상을 탐지하며, 다가오는 장애를 예측하고, 팩토리의 토폴로지를 바탕으로 관련 이벤트를 묶어 내죠. 모든 증상을 운영자에게 그대로 흘려보내는 대신, 쏟아지는 이벤트를 가장 유력한 근본 원인이 달린 하나의 인시던트로 모아 줍니다.
Minerva에는 자체 AI 어시스턴트가 함께 제공되며 외부 에이전틱 AI 도구와도 연결됩니다. 실시간 텔레메트리에 근거한 자연어 인터페이스가 더해지는 셈이죠. 운영자는 대화를 통해 클러스터 상태를 들여다보고 조치 방안을 추천받을 수 있습니다. 사람이 직접 수정에 관여하도록 남겨 둘 수도 있고, 인프라 API와 외부 시스템을 통해 Minerva를 자동화에 연결할 수도 있고요.
AI 팩토리 수율을 끌어올리는 성과
워크로드와 인프라의 문제를 서로 연결해 보는 능력에 에이전틱 AI 역량이 더해지면서 AI 팩토리 운영이 한결 단순해집니다. 알림이 눈보라처럼 쏟아지는 대신, Minerva가 관련된 문제를 모아 바로 손댈 수 있는 하나의 항목으로 만들어 주죠. 덕분에 AIOps 팀은 사후 대응에서 선제적 유지보수로 옮겨 갈 수 있고, 이 모든 것이 AI 팩토리의 GPU 가동률을 끌어올리는 데 보탬이 됩니다.
Minerva는 AI 팩토리가 중요하게 보는 핵심 지표에서 성과를 냅니다.
- 중단 사이 간격이 길어집니다: Minerva가 문제를 터지기 전에 짚어 내 작업이 사고 없이 더 오래 이어집니다.
- 복구가 빨라집니다: 사고가 나더라도 Minerva가 문제 지점을 정확히 찍어 줘 해결이 훨씬 빨라지죠.
- 더 깊이 들여다봅니다: 요즘 AI 인프라는 데이터를 홍수처럼 쏟아 내는데, Minerva가 이를 걸러 내 정말 중요한 알림 몇 건만 남겨 줍니다.
IREN은 Minerva로 AI 팩토리를 최적화하고 있는 NVIDIA 파트너 가운데 하나입니다.
“AI 팩토리를 키워 가면서 고객에게 최고의 서비스를 제공하는 열쇠는 GPU의 생산성을 최대로 끌어올리는 일입니다”라며 “NVIDIA Minerva는 저희 운영팀에 네트워크와 GPU, 그 위에서 돌아가는 작업을 아우르는 하나의 시야를 줍니다. 덕분에 장애 처리보다 선제적 유지보수에 더 집중할 수 있습니다. 그 가시성이 저희가 다음에 지을 인프라의 운영 모델을 더 탄탄하게 만들어 줍니다”라고 IREN 최고기술책임자 Denis Skrinnikoff는 말했습니다.
IREN과 함께 Aolani와 Bitdeer AI, IBM, Jio, Lambda, Quake AI, Tesla도 Minerva 도입을 계획하고 있습니다.
여기에 더해 Dell Technologies와 Lenovo, Supermicro가 자사 AI 팩토리 운영 포트폴리오의 일부로 Minerva를 제공할 예정입니다.
NVIDIA Minerva에 대해 더 알아보세요.
소프트웨어 제품 정보에 관한 고지를 확인하세요.