NVIDIA 창립자 겸 CEO인 젠슨 황(Jensen Huang)이 미국 샌프란시스코에서 열린 스노우플레이크 데이터 클라우드 서밋(Snowflake Data Cloud Summit)에 참여했습니다. 젠슨 황 CEO는 스노우플레이크 CEO 슈리다 라마스워미(Sridhar Ramaswamy)와의 노변담화에 화상으로 참여했죠.
젠슨 황 CEO는 수천 명의 관중에게 “기업은 가장 중요한 모든 프로세스를 데이터 플라이휠(flywheel)에 가져와 이를 회사의 AI로 전환해 더욱 발전시켜야 합니다”고 말하며, AI는 모든 기업이 프로세스를 데이터 플라이휠로 전환할 수 있는 기회를 제공한다고 전했습니다.
두 임원은 NVIDIA AI와 스노우플레이크 AI 데이터 클라우드의 결합이 어떻게 기업의 AI를 단순화하고 가속화할 수 있는지에 대해 설명했습니다.
대만에서 컴퓨텍스(COMPUTEX) 개막 키노트를 진행한 다음 날, 젠슨 황은 “이 행렬에 최대한 빨리 올라타서 비즈니스를 혁신하거나 새로운 비즈니스에 진출할 수 있는 기회를 놓치지 말아야 합니다”고 말했습니다.
스노우플레이크 사용자를 위한 NVIDIA AI Enterprise
기업들은 NVIDIA AI Enterprise 소프트웨어 플랫폼의 일부인 NVIDIA NIM 추론 마이크로서비스를 사용해 엔터프라이즈용 거대 언어 모델(large language model, LLM)인 스노우플레이크 아크틱(Arctic)을 단 몇 초 만에 배포할 수 있습니다.
아크틱은 NVIDIA H100 Tensor 코어 GPU에서 훈련됐습니다. 또한, NVIDIA API 카탈로그에서 사용 가능하며, 생성형 AI 추론을 가속화하는 소프트웨어인 NVIDIA TensorRT-LLM에서 완벽하게 지원되죠.
아울러 NVIDIA와 스노우플레이크는 NVIDIA NeMo Retriever와 스노우플레이크 코텍스 AI(Cortex AI)를 통합할 계획입니다. 이를 통해 기업들은 AI 기반 애플리케이션을 정보 소스에 연결하고, 검색 증강 생성(retrieval-augmented generation, RAG)으로 매우 정확한 결과를 얻을 수 있죠.
슈리다 라마스워미는 NVIDIA NeMo 프레임워크와 스노우파크 컨테이너 서비스(Snowpark Container Services)로 개발된 생성형 AI 애플리케이션의 사례를 소개했습니다. 이는 수천 명의 스노우플레이크 고객들이 사용할 수 있도록 스노우플레이크 마켓플레이스(Marketplace)에서 제공될 예정입니다.
슈리다 라마스워미는 “업계를 선도하는 NVIDIA의 가속 컴퓨팅은 우리 고객과 고객을 위한 최첨단 아크틱 모델을 개발한 당사 연구팀의 판도를 바꾸고 있습니다”고 말했습니다.
더 자세한 내용은 스노우플레이크가 RAG 아키텍처로 챗봇을 구축하는 방법과 생명과학에서 LLM을 활용하는 방법에 대해 설명하는 NVIDIA GTC 온디맨드(On-demand) 세션에서 확인하세요.