노트북에 LLM이 상륙하다: AI PC를 선보인 NVIDIA와 HP의 CEO

젠슨 황 CEO와 엔리케 로레스 CEO는 간담회를 통해 최신 모바일 워크스테이션이 어떻게 생성형 AI를 개인화하고 가속화하는지에 대해 이야기를 나누었습니다.
by NVIDIA Korea

2024년은 생성형 AI가 개인화되는 해가 될 것이라며, NVIDIA와 HP의 CEO가 HP 행사에서 가진 간담회를 통해 거대 언어 모델을 구축, 테스트 및 실행할 수 있는 새로운 노트북을 공개하며 말했습니다.

“이것은 개인용 컴퓨터의 르네상스입니다.”

라스베가스에서 약 1,500명의 리셀러와 유통업체가 모인데 열린 HP Amplify에서 NVIDIA 젠슨 황 CEO가 이같이 밝혔습니다. “크리에이터, 디자이너, 데이터 사이언티스트의 작업은 이 새로운 워크스테이션을 통해 혁신적으로 변화할 것입니다.”

“AI는 수십 년 만에 PC에 도입되는 가장 큰 변화입니다.”라고 HP의 Enrique Lores CEO 또한 업계 최대의 AI PC 및 워크스테이션 포트폴리오를 발표하기 전 말했습니다.

향상된 속도와 보안

클라우드에서 AI 작업을 실행하는 것과 비교하여 새로운 시스템은 향상된 속도와 보안을 제공하는 동시에 비용과 에너지를 절감할 수 있다고 Lores는 키노트에서 밝혔습니다.

새로운 HP ZBook은 모든 범위의 NVIDIA RTX Ada 세대 GPU로 구동되는 모바일 AI 워크스테이션 포트폴리오를 제공합니다.

엔트리급 시스템에는 NVIDIA RTX 500 Ada 세대 노트북 GPU가 탑재되어 사용자가 어디서든 생성형 AI 앱과 툴을 실행할 수 있습니다.

하이엔드 모델은 RTX 5000을 탑재하여 최대 682 TOPS를 제공하기 때문에 검색 증강 생성(RAG)을 사용하여 로컬에서 LLM을 생성 및 실행하고 콘텐츠에 연결하여 개인화되고 비공개적인 결과를 얻을 수 있습니다.

가속 소프트웨어에 액세스

새로운 워크스테이션은 생성형 AI의 기반이 되는 데이터 과학을 가속화하는 소프트웨어를 포함한 엔비디아의 풀스택 AI 플랫폼을 활용할 수 있습니다.

엔비디아와 협력하여 개발된 Z by HP AI Studio 플랫폼은 AI 및 데이터 과학을 위한 GPU 가속 소프트웨어 카탈로그인 NVIDIA NGC에 연결됩니다. NGC에는 생성형 AI 모델을 구축, 커스터마이징 및 배포하는 프레임워크인 NVIDIA NeMo가 포함되어 있습니다.

또한, HP와 엔비디아는 NVIDIA CUDA-X 라이브러리를 시스템에 통합하여 생성형 AI의 기본이 되는 데이터 준비 및 처리 속도를 높일 것이라고 발표했습니다.

데이터 사이언티스트를 위한 속도 향상

이 라이브러리에는 약 천만 명의 데이터 사이언티스트들이 사용하는 소프트웨어인 판다를 가속화하는 NVIDIA RAPIDS cuDF가 포함되어 있습니다.

“예전에는 데이터를 처리하는 데 몇 시간, 때로는 며칠이 걸렸지만 이제는 몇 분 만에 처리할 수 있습니다.”라고 젠슨 황 CEO는 말합니다.

“이 판다 라이브러리는 엄청나게 복잡합니다.”라고 덧붙이며, 엔비디아 엔지니어들이 GPU로 가속화할 수 있도록 코드를 재구성하는 데 5년 이상 공을 들였다고 설명했습니다.

새로운 시대로의 진입

새로운 시스템과 함께 HP는 NVIDIA와 협력하여 개발한 파트너 교육 프로그램을 발표했습니다. 이 프로그램을 통해 컴퓨터 공급 업체는 고객의 니즈에 맞는 적합한 AI 제품 및 솔루션을 조언할 수 있게 됩니다.

이러한 프로그램은 AI가 소프트웨어를 작성하는 시대로 접어드는 업계에 길을 열어줄 것입니다.

“저희는 컴퓨터를 재창조했습니다. 소프트웨어 구축 방식을 재창조했고, 이제 소프트웨어 활용 방식도 재창조해야 합니다.”라고 젠슨 황 CEO는 말합니다. “다른 LLM에 연결된 대규모 언어 모델은 애플리케이션 문제를 해결하는 데 도움이 될 것이며, 이것이 바로 미래입니다.”