생성형 AI는 게임 어시스턴트, 향상된 콘텐츠 제작과 생산성 도구 등 PC와 워크스테이션을 위한 새로운 기능을 선보이고 있습니다.
현재 사용 가능한 NVIDIA NIM 마이크로서비스와 출시를 앞둔 AI Blueprint는 AI 개발을 가속화하고 접근성을 개선합니다. 지난 1월 CES에서 발표된 NVIDIA NIM은 NVIDIA RTX 플랫폼에 최적화된 최첨단 AI 모델을 사전 패키지로 제공합니다. NVIDIA RTX 플랫폼에는 NVIDIA GeForce RTX 50 시리즈와 새로운 NVIDIA Blackwell RTX PRO GPU가 포함됩니다. 마이크로서비스는 쉽게 다운로드하고 실행할 수 있는데요. PC 개발을 위한 최고의 양식을 포괄하며, 최고의 생태계 애플리케이션과 도구와 호환됩니다.
이와 함께 Project G-Assist의 실험적인 시스템 어시스턴트 기능도 공개됐습니다. Project G-Assist는 AI 어시스턴트가 앱과 게임을 어떻게 향상시킬 수 있는지 보여줍니다. 시스템 어시스턴트를 통해 사용자는 간단한 음성 또는 텍스트 명령을 통해 실시간 진단을 실행하고, 성능 최적화에 대한 조언을 받거나, 시스템 소프트웨어와 주변기기를 제어할 수 있습니다. 개발자와 애호가는 간단한 플러그인 아키텍처와 새로운 플러그인 빌더를 통해 기능을 확장할 수 있습니다.
지금은 획기적인 AI 모델과 글로벌 개발자 커뮤니티가 AI 기반 도구와 워크플로우의 폭발적인 증가를 주도하고 있는 컴퓨팅의 결정적인 순간입니다. 여기서 NIM 마이크로서비스, AI Blueprint, G-Assist는 PC에 주요 혁신을 가져오고 있습니다. 이번 RTX AI Garage 블로그 시리즈는 RTX AI PC와 워크스테이션에서 차세대 AI를 구축하는 데 도움이 되는 업데이트, 인사이트, 리소스를 지속적으로 제공해 개발자와 마니아들을 지원할 예정입니다.
준비, 시작, NVIDIA NIM!
AI의 혁신 속도는 놀랍지만, PC 개발자 커뮤니티에서 이 기술을 시작하기는 여전히 어려울 수 있습니다.
연구용 AI 모델을 PC로 가져오려면 모델 변형의 큐레이션, 모든 입력과 출력 데이터를 관리하기 위한 적응, 리소스 사용을 최적화하기 위한 정량화가 필요합니다. 또한, 최적화된 추론 백엔드 소프트웨어에서 작동하도록 모델을 변환하고 새로운 AI 애플리케이션 프로그래밍 인터페이스(API)에 연결해야 하죠. 이러한 작업에는 상당한 노력이 필요하므로, AI 도입이 늦어질 수 있습니다.
NVIDIA NIM 마이크로서비스는 사전 패키지화되고 최적화되면서 쉽게 다운로드할 수 있는 AI 모델을 제공해 AI 도입을 지원합니다. 이 AI 모델은 업계 표준 API에 연결되죠. NIM 마이크로서비스는 RTX AI PC와 워크스테이션의 성능에 최적화돼 있으며, NVIDIA에서 개발한 모델뿐만 아니라 커뮤니티의 인기 AI 모델도 포함하고 있습니다.
NIM 마이크로서비스는 거대 언어 모델(LLM), 비전 언어 모델(vision language models), 이미지 생성, 음성 처리, 검색 증강 생성(retrieval-augumented generation, RAG) 기반 검색, PDF 추출, 컴퓨터 비전 등 다양한 AI 애플리케이션을 지원합니다. 다양한 애플리케이션을 지원하는 10개의 RTX용 NIM 마이크로서비스 제공됩니다. 여기에는 언어와 이미지 생성, 컴퓨터 비전, 음성 AI 등이 포함됩니다. 이러한 NIM 마이크로서비스는 지금 바로 시작할 수 있습니다.
- 언어와 추론: Deepseek-R1-distill-llama-8B, Mistral-nemo-12B-instruct, 1-8B-instruct
- 이미지 생성: dev
- 오디오: Riva Parakeet-ctc-06B-asr, Maxine Studio Voice
- RAG: Llama-3.2-NV-EmbedQA-1B-v2
- 컴퓨터 비전과 이해: NV-CLIP, PaddleOCR, Yolo-X-v1
NIM 마이크로서비스는 인기 AI 에코시스템 도구와 프레임워크를 통해서도 이용할 수 있습니다.
AnythingLLM과 ChatRTX는 NIM을 지원합니다. 이를 통해 AI 애호가는 인터페이스로 LLM, AI 에이전트와 간편하게 채팅할 수 있죠. 이러한 도구는 사용자가 개인화된 AI 어시스턴트를 만들고 자신의 문서와 데이터를 통합해 작업을 자동화하고 생산성을 향상시키게 합니다.
이제 플로와이즈AI(FlowiseAI)와 랭플로우(Langflow)도 NIM을 통해 애플리케이션에 AI를 구축, 테스트, 통합하고자 하는 개발자를 지원합니다. 이를 통해 최소한의 코딩 전문 지식으로 AI 워크플로우를 설계할 수 있는 시각적 인터페이스가 포함된 로우-코드와 노-코드 솔루션을 제공합니다. ComfyUI에 대한 지원도 곧 제공할 예정입니다. 개발자는 이러한 도구를 사용해 챗봇, 이미지 생성기, 데이터 분석 시스템과 같은 복잡한 AI 애플리케이션을 쉽게 만들 수 있습니다.
또한, 이제부터 마이크로소프트 VS Code AI 툴킷(Microsoft VS Code AI Toolkit), 크루AI(CrewAI), 랭체인(Langchain)도 NIM을 지원합니다. 이들은 마이크로서비스를 애플리케이션 코드에 통합하기 위한 고급 기능을 제공해 원활한 통합과 최적화를 보장합니다.
NVIDIA 테크니컬 블로그와 build.nvidia.com에서 자세한 내용을 확인하세요.
사전 구축된 워크플로우를 제공하는 NVIDIA AI Blueprint
NVIDIA AI Blueprint는 AI 개발자가 NVIDIA NIM 마이크로서비스로 생성형 AI 워크플로우를 구축하는 데 있어 유리한 출발점을 제공합니다.
Blueprint는 소스 코드, 샘플 데이터, 문서, 데모 앱 등 필요한 모든 것을 번들로 제공하며, 즉시 사용 가능하고 확장 가능한 참조 샘플입니다. 이는 로컬에서 실행되는 고급 AI 워크플로우를 생성하고 개인화하기 위해 사용됩니다. 개발자는 AI 블루프린트를 수정하고 확장해, 동작을 조정하거나 다른 모델을 사용하거나 완전히 새로운 기능을 구현할 수 있습니다.
PDF를 팟캐스트로 변환하는 AI Blueprint는 문서를 오디오 콘텐츠로 변환해 사용자가 이동 중에도 학습할 수 있게 합니다. 이 워크플로우는 PDF에서 텍스트, 이미지, 표를 추출하며, AI를 사용해 유익한 팟캐스트를 생성하죠. 주제에 대해 더 자세히 알아보고자 하는 경우, 사용자는 AI 기반 팟캐스트 호스트와 대화형 토론을 할 수 있습니다.
3D 가이드 생성형 AI를 위한 AI Blueprint는 아티스트가 이미지 생성을 더 세밀하게 제어할 수 있도록 합니다. AI는 간단한 텍스트 프롬프트에서 놀라운 이미지를 생성할 수 있지만, 단어만으로 이미지 구성을 제어하는 것은 어려울 수 있는데요. 이제 제작자는 블렌더(Blender)와 같은 3D 렌더러에 배치된 간단한 3D 개체를 사용해 AI 이미지 생성을 유도할 수 있습니다. 아티스트는 수작업으로 3D 에셋을 만들거나 AI를 사용해 생성하고, 장면에 배치하며 3D 뷰포트 카메라를 설정할 수 있습니다. 그리고 플럭스 NIM 마이크로서비스로 구동되는 사전 패키지화된 워크플로우가 현재 구성을 사용해 3D 장면에 맞는 고품질 이미지를 생성합니다.
리눅스용 윈도우 하위 시스템이 포함된 RTX용 NVIDIA NIM
NIM 마이크로서비스를 PC에서 실행할 수 있도록 하는 핵심 기술 중 하나는 리눅스용 윈도우 하위 시스템(Windows Subsystem for Linux, WSL)입니다.
마이크로소프트와 NVIDIA가 WSL에 CUDA와 RTX 가속을 도입하도록 협력해 윈도우에서 최적화되고 컨테이너화된 마이크로서비스를 실행할 수 있게 됐습니다. 이를 통해 PC, 워크스테이션부터 데이터센터, 클라우드에 이르기까지 어디서나 동일한 NIM 마이크로서비스를 실행할 수 있습니다.
build.nvidia.com에서 RTX AI PC용 NVIDIA NIM을 시작하세요.
맞춤형 플러그인을 통해 PC AI 기능을 확장하는 프로젝트 G-Assist
Project G-Assist의 일환으로, GeForce RTX 데스크톱 사용자를 위한 시스템 어시스턴트 기능의 실험용 버전이 현재 NVIDIA App을 통해 제공됩니다. 곧 노트북에서도 만날 수 있습니다.
G-Assist는 사용자가 기본적인 음성 또는 텍스트 명령을 통해 광범위한 PC 설정을 제어할 수 있도록 도와줍니다. 여기에는 게임과 시스템 설정 최적화, 프레임 속도 등 주요 성능 통계 차트 작성, 조명과 같은 일부 주변기기 설정 제어가 포함되죠.
G-Assist는 게임 개발자가 비플레이어 캐릭터에 생명력을 불어넣는 데 사용하는 것과 동일한 AI 기술 제품군인 NVIDIA ACE를 기반으로 합니다. 온라인 액세스와 유료 구독이 필요한 대규모 클라우드 호스팅 AI 모델을 사용하는 AI 툴과 달리, G-Assist는 GeForce RTX GPU에서 로컬로 실행됩니다. 즉, 반응이 빠르고 무료이며 인터넷 연결 없이도 실행할 수 있습니다. 제조업체와 소프트웨어 제공업체는 이미 ACE를 사용해 G-Assist와 같은 맞춤형 AI 어시스턴트를 제작하고 있습니다. 여기에는 MSI의 AI 로봇(AI Robot) 엔진, 스트림랩스 인텔리전트 AI 어시스턴트(Streamlabs Intelligent AI Assistant), 그리고 곧 출시될 HP의 오멘 게이밍 허브(Omen Gaming Hub)가 포함됩니다.
G-Assist는 커뮤니티 주도의 확장을 위해 만들어졌습니다. NVIDIA 깃허브(GitHub) 리포지토리에서 새로운 기능을 추가하는 플러그인을 만들기 위한 샘플과 지침을 확인할 수 있습니다. 간단한 JSON 형식으로 기능을 정의하고 구성 파일을 지정된 디렉토리에 드롭해 G-Assist가 자동으로 로드하고 해석하도록 할 수 있죠. 개발자는 플러그인을 NVIDIA에 제출해 검토 받고 포함될 가능성을 확인할 수 있습니다.
현재 사용 가능한 샘플 플러그인에는 핸즈프리 음악과 볼륨 제어를 지원하는 스포티파이(Spotify)와 구글 제미나이(Google Gemini)가 있습니다. 따라서 무료 구글 AI 스튜디오(AI Studio) API 키를 사용해 더 복잡한 대화, 브레인스토밍 세션, 그리고 웹 검색을 위해 훨씬 더 큰 클라우드 기반 AI를 호출할 수 있습니다.
아래 영상에서 G-Assist가 제미나이에게 에이펙스 레전드(Apex Legends) 솔로 대전에서 어떤 전설을 선택해야 하는지, 디아블로 4(Diablo IV)에서 25레벨에 악몽 모드로 바꿔 드는 것이 현명한지에 대해 질문하는 장면을 확인할 수 있습니다.
더 많은 커스터마이징을 원한다면, 깃허브 리포지토리의 지침에 따라 챗GPT(ChatGPT) 기반 “플로그인 빌더(Plug-in Builder)”를 사용해 G-Assist 플러그인을 생성할 수 있습니다. 이 도구를 사용하면 사용자가 코드를 작성하고 내보낸 다음, G-Assist에 통합해 텍스트와 음성 명령에 응답하는 AI 지원 기능을 빠르게 구현할 수 있습니다.
아래 영상에서 한 개발자가 플러그인 빌더를 사용해 스트리머가 생방송 중인지 확인하는 G-Assist용 트위치(Twitch) 플러그인을 만든 방법을 살펴볼 수 있습니다.
플로그인을 구축, 공유, 로드하는 방법에 대한 자세한 내용은 NVIDIA 깃허브 리포지토리에서 확인하세요.
시스템 요구 사항과 추가 정보는 G-Assist 문서에서 확인할 수 있습니다.
구축, 제작, 혁신
RTX용 NVIDIA NIM 마이크로서비스는 build.nvidia.com에서 이용할 수 있습니다. 개발자와 AI 애호가에게 AI 애플리케이션을 구축하기 위한 강력하고 바로 사용할 수 있는 도구를 제공합니다.
NVIDIA App ‘홈(Home)’ 탭의 ‘디스커버리(Discovery)’ 섹션에서 Project G-Assist를 다운로드할 수 있습니다. G-Assist는 현재 영어로 된 다양한 음성과 텍스트 명령 뿐만 아니라 GeForce RTX 데스크톱 GPU를 지원합니다. 향후 업데이트를 통해 GeForce RTX 노트북 GPU에 대한 지원, 새롭고 향상된 G-Assist 기능, 추가 언어 지원이 추가될 예정입니다. 설치 후 ‘Alt+G’를 눌러 G-Assist를 활성화할 수 있습니다.
매주 RTX AI Garage에서는 커뮤니티가 주도하는 AI 혁신과 콘텐츠를 통해 NIM 마이크로서비스와 AI Blueprint에 대해 자세히 알아볼 수 있습니다. 또한, AI PC와 워크스테이션에서 AI 에이전트, 창의적 워크플로우, 디지털 휴먼, 생산성 앱 등을 구축하고자 하는 사람들을 위한 정보를 제공합니다.
페이스북(Facebook), 인스타그램(Instagram), 틱톡(TikTok), X에서 NVIDIA AI PC에 연결하고 RTX AI PC 뉴스레터를 구독해 최신 소식을 받아보세요.
링크드인(LinkedIn)과 X에서 NVIDIA 워크스테이션을 팔로우하세요.
소프트웨어 제품 정보에 관한 공지를 확인하세요.