NVIDIA가 Palantir Technologies와 협력해 NVIDIA 자체 운영을 시작으로 핵심 공급망에 소버린 AI를 도입합니다!
이번 협력을 통해 Palantir 온톨로지(Ontology)를 기반으로 NVIDIA Nemotron™ 오픈 모델을 Palantir Foundry와 인공지능 플랫폼(Artificial Intelligence Platform, AIP)에 통합한 AI 스택이 구축되는데요, 이를 통해 공급망 가시성을 전례 없는 수준으로 높이고, 제약 요소를 식별하며, 운영 전문성을 지속적으로 체계화하고, 머신 속도로 의사결정을 지원하는 것을 목표로 합니다. 동시에 NVIDIA AI 인프라 공급망의 안정성과 효율성을 유지하면서 독점 데이터에 대한 통제권과 소유권을 유지합니다.
이번 협력의 기반이 되는 AI 스택과 다양한 산업에서의 활용 사례는 Palantir의 AIPCon 11 콘퍼런스에서 자세히 소개되었는데요. 농업, 제조, 제약, 리테일, 기술 산업과 정부 기관 등 복잡한 산업 환경의 조직들은 이 AI 스택을 활용해 각자의 고유한 공급망 운영을 최적화할 수 있습니다.
NVIDIA는 수백만 개의 부품과 수천 개의 공급업체, 전 세계 제조 파트너 네트워크로 구성된 세계에서 가장 복잡한 공급망 중 하나를 운영하고 있습니다. 랙 스케일 AI 시스템을 생산하려면 컴퓨팅, 메모리, 네트워킹, 전력, 냉각, 기계 부품 등 각 구성 요소의 공급이 필요한 시점에 맞춰 조율돼야 하죠. AI 인프라에 대한 수요가 빠르게 증가함에 따라 NVIDIA는 생태계 파트너들과 긴밀히 협력해 각 NVIDIA Vera Rubin 랙에 필요한 130만 개의 부품 공급을 확보하고 AI 인프라 확장 속도를 높이고 있습니다.
Palantir 공동 창업자 겸 CEO Alex Karp는 “NVIDIA는 세계에서 가장 가치가 높고 정교하며 복잡한 공급망을 보유하고 있다고 해도 과언이 아닙니다. Nemotron 모델과 온톨로지를 기반으로 하는 우리의 소버린 스택은 최첨단 수준을 뛰어넘는 역량을 제공하는 동시에, 다른 방식으로는 얻을 수 없는 ‘알파 보호(alpha protection)’ 특성까지 제공하죠. 우리는 이번 파트너십과 소버린 AI 혁명에서 이 협력이 맡고 있는 핵심적인 역할을 매우 자랑스럽게 생각합니다”라고 말했습니다.
NVIDIA 젠슨 황 CEO는 “공급망은 실물경제의 운영체제이며, AI 팩토리는 지금까지 구축된 가장 복잡한 시스템 중 하나입니다. 웨이퍼와 부품부터 제조, 시스템, 고객 배송에 이르기까지 수백 개의 기업과 수조 달러 규모의 글로벌 경제 활동이 결합돼 AI 인프라를 구현하죠. NVIDIA와 Palantir는 NVIDIA Nemotron 모델과 Palantir 온톨로지를 결합해 이 방대한 운영 그래프를 소버린 인텔리전스로 전환하고 있으며, 웨이퍼에서 토큰까지의 전 과정을 추론하고 계획하며 오케스트레이션하고 있습니다”라고 말했습니다.
조직별 의사결정에 맞게 맞춤화된 오픈 모델
Palantir 고객은 Palantir 파운드리와 AIP를 활용해 자체 데이터로 NVIDIA Nemotron을 사후 학습하고, 각 조직에 맞는 공급망 AI 스택을 구축할 수 있습니다. Palantir AIP 내에서 NVIDIA cuOpt™ 소프트웨어는 최적화와 시나리오 계획 기능을 제공해 팀이 공급 제약을 모델링하고, 여러 대안의 장단점을 평가하며, 자원 할당 결정이 운영에 미치는 영향을 파악할 수 있도록 하는데요. 사후 학습된 NVIDIA Nemotron 오픈 모델은 대응 방안을 추천하고 대안 간 장단점을 설명하며 새롭게 발생하는 위험을 식별하는 한편, 최종 의사결정에 대한 통제권은 공급망 전문가가 유지합니다.
새로운 AI 스택은 NVIDIA 공급망 팀에 통합 관제 환경을 제공해 소유 시간(Time of Ownership)을 단축할 수 있도록 지원합니다. 우선 부품이 공급망을 얼마나 빠르게 이동하는지에 영향을 미치는 자재 할당 의사결정부터 적용되는데요. 이 시스템은 잠재적인 제약 요인을 조기에 파악하고, 대안을 보다 신속하게 평가하며, 생산 전 과정에 미치는 영향을 바탕으로 자재를 할당할 수 있도록 지원합니다.
오픈 모델은 이러한 접근 방식의 핵심입니다. 각 조직은 가치사슬과 공급업체 네트워크, 운영 제약, 의사결정 기준이 모두 다르기 때문에 범용 모델만으로는 이러한 고유한 맥락을 충분히 반영하기 어렵습니다. 기업은 NVIDIA NeMo™ 데이터 라이브러리를 활용해 준비하고 보강한 자체 운영 데이터로 Nemotron 오픈 모델을 맞춤화함으로써, 모델과 데이터, 배포 환경에 대한 통제권을 유지하면서 실제 비즈니스 운영 방식을 반영하는 AI를 구축할 수 있습니다.
각각의 추천과 계획 수립 과정의 조치, 생산 결과는 시스템을 더욱 고도화합니다. NVIDIA NeMo AutoModel과 NeMo RL 라이브러리가 통합된 Palantir 오토파일럿(Autopilot)은 피드백을 실제 운영에 반영해 모델이 지속적으로 개선될 수 있도록 지원합니다. 이를 통해 운영 지식을 보존하고, 실제 결과를 바탕으로 의사결정을 평가하며, 워크플로우를 지원하는 특화된 AI 모델을 지속적으로 개선하는 거버넌스가 적용된 학습 루프를 구축합니다.
소버린·엔터프라이즈급 구축을 위한 설계
양사는 NVIDIA 적용 사례에서 얻은 경험을 확장해 기업이 더욱 회복 탄력적이고 신속하게 대응하며 지능적인 공급망을 구축할 수 있도록 지원할 계획입니다. 제조, 에너지, 헬스케어, 자동차, 항공우주 등 다양한 산업에서 이 접근 방식은 기업이 독점 데이터에 대한 통제권과 소유권을 유지하면서 분산된 운영 데이터를 활용해 더욱 신속하고 안정적인 의사결정을 내릴 수 있도록 지원합니다.
NVIDIA 공급망의 민감성과 중요성을 고려해 이번 구축은 NVIDIA 레퍼런스 아키텍처와 양사가 공동 개발한 Palantir 소버린 AI 운영체제 레퍼런스 아키텍처(Palantir Sovereign AI Operating System Reference Architecture, SAIOS)를 기반으로 운영됩니다. SAIOS는 델 테크놀로지스(Dell Technologies)와 시스코(Cisco)의 지원을 받습니다.
각 공급망은 서로 다른 특성과 요구사항을 갖고 있습니다. 이 AI 스택은 시스코와 델 등 주요 시스템 제조업체를 통해 온프레미스에 구축하거나, 랙스페이스(Rackspace), 네비우스(Nebius)를 통해 코로케이션 또는 클라우드 환경에 구축할 수 있습니다. 이를 통해 조직은 데이터, 시스템, 운영 요구사항에 가장 적합한 환경에서 AI를 실행할 수 있습니다.