NVIDIA RTX AI PC 및 워크스테이션이 클라우드를 활용하여 생성형 AI를 강화하는 방법

NVIDIA AI 기반 도구 및 기술은 하이브리드 AI 워크플로우를 지원합니다.
by NVIDIA Korea

편집자 노트: 본 게시물은 GeForce RTX PC 및 RTX 워크스테이션 사용자를 위한 새로운 하드웨어, 소프트웨어, 도구, 가속화를 보여주는 동시에 기술의 접근성을 높여 AI를 쉽게 이해하도록 돕기 위해 작성된 NVIDIA의 AI Decoded 시리즈 중 하나입니다.

생성형 AI는 Windows 애플리케이션 및 게임을 위한 새로운 기능을 가능하게 합니다. 스크립트가 없는 동적 NPC를 지원하고, 크리에이터가 새로운 예술 작품을 제작할 수 있도록 지원하며, 게이머가 프레임 레이트를 최대 4배 향상하는 데 도움을 줍니다. 하지만 이것은 단지 시작에 불과합니다.

생성형 AI의 기능과 사용 사례가 계속 증가함에 따라 이를 지원하는 컴퓨팅에 대한 수요도 증가하고 있습니다.

하이브리드 AI는 NVIDIA RTX의 온보드 AI 가속화와 확장 가능한 클라우드 기반 GPU를 결합하여 AI 워크로드의 요구를 효과적이고 효율적으로 충족합니다.

하이브리드 AI, 러브 스토리

AI 채택이 증가함에 따라 앱 개발자는 배포 옵션을 모색하고 있습니다. RTX GPU에서 로컬로 실행되는 AI는 높은 성능을 제공하고 레이턴시가 짧으며 인터넷에 연결되어 있지 않을 때도 항상 사용할 수 있습니다. 반면, 클라우드에서 실행되는 AI는 더 큰 모델을 실행하고 여러 GPU에서 확장하여 여러 클라이언트에 동시에 서비스를 제공할 수 있습니다. 대부분의 경우 단일 애플리케이션에서 두 가지를 모두 사용합니다.

하이브리드 AI는 로컬 PC 및 워크스테이션 컴퓨팅을 클라우드 확장성과 조화시키는 일종의 중개자입니다. 특정 활용 사례, 비용 및 성능을 기반으로 AI 워크로드를 최적화할 수 있는 유연성을 제공합니다. 개발자는 AI 작업이 특정 애플리케이션에 가장 적합한 위치에서 실행되도록 보장할 수 있습니다.

AI가 로컬에서 실행되든 클라우드에서 실행되든 관계없이 TensorRT 및 TensorRT-LLM을 비롯한 NVIDIA의 AI 스택과 NVIDIA GPU에 의해 가속화됩니다. 즉, 로딩 시간이 줄고 사용자에게 최첨단 AI 기반 기능을 제공할 기회가 더 많아지게 됩니다.

다양한 NVIDIA 도구와 기술이 크리에이터, 게이머, 개발자를 위한 하이브리드 AI 워크플로우를 지원합니다.

RTX에서 클라우드의 꿈 실현

생성형 AI는 아티스트가 새로운 창작물에 대한 아이디어를 구상하고, 프로토타입을 만들고, 브레인스토밍하도록 돕는 기능을 보여주었습니다. 그러한 솔루션 중 하나인 iStock의 클라우드 기반 생성형 AI(NVIDIA Edify에서 제공)는 아티스트를 위해 그리고 아티스트와 함께 구축된 생성형 사진 서비스로서 라이선스가 부여된 콘텐츠에 대해서만 훈련하고 아티스트 기여자에 대한 보상을 제공합니다.

iStock의 생성형 AI는 이미지 생성을 넘어 아티스트에게 스타일과 변형을 탐색하고 이미지의 일부를 수정하거나 캔버스를 확장할 수 있는 광범위한 도구를 제공합니다. 이러한 모든 도구를 통해 아티스트는 아이디어를 여러 번 구상하면서도 빠르게 구현할 수 있습니다.

크리에이티브 컨셉이 준비되면 아티스트는 이를 로컬 시스템으로 가져올 수 있습니다. RTX 기반 PC 및 워크스테이션은 아티스트가 로컬 AI 도구를 사용하여 Photoshop에서 놀라운 작품을 제작하든, DaVinci Resolve에서 시차 효과로 이미지에 애니메이션을 적용하든, 레이 트레이싱 가속화를 통해 Blender의 참조 이미지로 3D 장면을 구축하든, Optix의 AI 노이즈 제거 기능을 사용하든 완전한 비전을 실현할 수 있도록 125개 이상의 최고의 크리에이티브 앱에서 AI 가속화를 제공합니다.

NPC에 생명을 불어넣는 하이브리드 ACE

하이브리드 AI는 또한 NVIDIA ACE를 통해 인터랙티브 PC 게이밍의 새로운 영역을 지원하고 있습니다. 게임 개발자와 디지털 크리에이터는 최첨단 생성형 AI 모델을 RTX AI PC의 디지털 아바타에 통합할 수 있습니다.

개발자와 디자이너는 AI 뉴럴 네트워크 기반의 NVIDIA ACE를 통해 인간 플레이어의 텍스트와 음성을 이해하고 응답할 수 있는 NPC(Non-Playable Character)를 제작할 수 있습니다. 음성-텍스트 변환 모델을 포함한 AI 모델을 활용하여 음성 자연어를 처리하고 NPC의 응답을 실시간으로 생성합니다.

어디서나 실행되는 하이브리드 개발자 도구

하이브리드는 개발자가 새로운 AI 모델을 구축하고 조정하는 데도 도움이 됩니다. NVIDIA AI Workbench를 통해 개발자는 RTX GPU에서 사전 훈련된 생성형 AI 모델 및 LLM을 빠르게 생성, 테스트, 맞춤화할 수 있습니다. 데이터 사이언티스트와 개발자가 프로젝트를 쉽게 재현, 협업 및 마이그레이션할 수 있는 간소화된 사용자 인터페이스와 함께 Hugging Face, GitHub 및 NVIDIA NGC와 같은 인기 있는 리포지토리에 대한 간소화된 액세스를 제공합니다.

추가 성능이 필요한 경우 데이터센터, 퍼블릭 클라우드 또는 NVIDIA DGX 클라우드로 프로젝트를 쉽게 확장한 다음 추론과 맞춤화를 위해 PC 또는 워크스테이션의 로컬 RTX 시스템으로 다시 가져올 수 있습니다. 데이터 사이언티스트와 개발자는 사전 구축된 워크벤치 프로젝트를 활용하여 검색 증강 생성(RAG)을 사용해 문서와 채팅하고, 미세 조정을 사용하여 LLM을 맞춤화하고, 원활한 CPU-GPU 간 전환 등으로 데이터 사이언스 워크로드를 가속화할 수 있습니다.

Hybrid RAG Workbench 프로젝트는 개발자가 직접 실행하고 조정할 수 있는 맞춤형 RAG 애플리케이션을 제공합니다. NVIDIA의 API 카탈로그에서 호스팅되는 클라우드 엔드포인트인 로컬 RTX 시스템에서 또는 NVIDIA NIM 마이크로 서비스를 사용하여 문서를 로컬에 임베드하고 추론을 실행할 수 있습니다. 이 프로젝트는 다양한 모델, 엔드포인트 및 컨테이너를 사용하도록 조정할 수 있으며 개발자가 선택한 GPU에서 실행되도록 모델을 양자화할 수 있는 기능을 제공합니다.

NVIDIA GPU는 클라우드에서뿐만 아니라 NVIDIA GeForce RTX PC 및 RTX 워크스테이션에서 로컬로 놀라운 AI 솔루션을 지원합니다. 크리에이터, 게이머, 개발자는 성장하는 하이브리드 AI 워크플로우를 통해 두 분야의 장점을 모두 누릴 수 있습니다.

생성형 AI는 게이밍 및 화상 회의 등 모든 인터랙티브 경험을 변화시키고 있습니다. AI Decoded 뉴스레터를 구독하여 새로운 기능과 업데이트를 알아보세요.