엔비디아는 생성형 AI 애플리케이션의 인상적인 고품질 텍스트 응답 생성을 지원하는 오픈 소스 소프트웨어 엔비디아 네모 가드레일(NVIDIA NeMo Guardrails)을 출시했습니다.
네모 가드레일은 대규모 언어 모델(LLM)로 구동되는 스마트 애플리케이션의 정확성, 적절성, 관련성, 안전성 확인을 돕는다. 또한 네모 가드레일에는 기업이 텍스트 생성 AI 앱에 안전성을 추가하는 데 필요한 모든 코드, 예제, 문서가 포함됩니다.
이번 네모 가드레일 출시 배경에는 AI 앱의 강력한 엔진인 LLM이 업계 전반에서 채택되고 있는 상황이 반영됐습니다. LLM은 고객의 질문에 응답, 긴 문서 요약, 소프트웨어 작성, 신약 설계 가속화까지 폭넓게 활용되고 있습니다.
네모 가드레일은 사용자가 이러한 새로운 종류의 AI 기반 애플리케이션을 안전하게 보호할 수 있도록 설계됐습니다.
강력한 모델, 견고한 레일
생성형 AI의 안전은 업계 전반의 관심사입니다. 엔비디아의 네모 가드레일은 오픈AI(OpenAI)의 챗GPT(ChatGPT)와 같은 모든 LLM과 함께 작동하도록 설계됐다. 네모 가드레일을 통해 개발자는 LLM 기반 앱을 안전하게 조정하고 회사의 전문 영역 내에 머물도록 할 수 있습니다.
개발자는 네모 가드레일을 통해 세 가지 종류의 경계를 설정할 수 있습니다:
- 토피컬 가드레일(Topical guardrails)은 앱이 원치 않는 영역으로 이탈하는 것을 방지합니다. 예를 들어, 고객 서비스 도우미가 날씨에 대한 질문에는 답변하지 못하도록 방지합니다.
- 세이프티 가드레일(Safety guardrails)은 앱이 정확하고 적절한 정보로 응답하도록 보장합니다. 원치 않는 언어를 필터링하고 신뢰할 수 있는 출처만 언급하도록 강제할 수 있습니다.
- 시큐리티 가드레일(Security guardrails)은 앱이 안전한 것으로 알려진 외부 서드파티 애플리케이션에만 연결하도록 제한합니다.
네모 가드레일을 사용한다면 머신 러닝 전문가나 데이터 사이언티스트가 아니더라도 거의 모든 소프트웨어 개발자는 몇 줄의 코드만으로 새로운 규칙을 빠르게 생성할 수 있습니다.
익숙한 도구 사용
네모 가드레일은 오픈 소스이므로 엔터프라이즈 앱 개발자가 사용하는 모든 도구에서 작동할 수 있습니다.
예를 들어, 네모 가드레일은 개발자들이 타사 애플리케이션을 LLM에 연결하기 위해 빠르게 채택하고 있는 오픈 소스 툴킷인 랭체인(LangChain)에서 실행할 수 있습니다.
랭체인(LangChain) 툴킷을 개발한 스타트업인 랭체인의 창립자 해리슨 체이스(Harrison Chase)는 “사용자는 랭체인 워크플로우에 네모 가드레일을 쉽게 추가해 AI 기반 앱에 안전한 경계를 빠르게 설정할 수 있다”라고 말했습니다.
또한 네모 가드레일은 재피어(Zapier)와 같은 광범위한 LLM 지원 애플리케이션과 함께 작동할 수 있도록 설계됐다. 재피어는 2백만 개 이상의 기업이 사용하는 자동화 플랫폼으로, 사용자가 업무에 AI를 통합하는 방법을 직접 확인했습니다.
재피어 AI 제품 수석 매니저인 리드 로빈슨(Reid Robinson)은 “안전, 보안, 신뢰는 책임감 있는 AI 개발의 초석이며, 이러한 가드레일을 AI 시스템에 내장하기 위한 엔비디아의 선제적인 접근 방식에 기대가 큽니다. AI가 확실하고 신뢰할 수 있는 미래의 일부가 됐을 때 누리게 될 이점들을 고대하고 있다”고 말했습니다.
엔비디아에서 오픈 소스로 출시
엔비디아는 엔비디아 네모 프레임워크에 네모 가드레일을 통합하고 있습니다. 엔비디아 네모 프레임워크는 사용자가 회사의 독점 데이터를 사용해 언어 모델을 훈련하고 튜닝하는 데 필요한 모든 것을 포함합니다.
네모 프레임워크의 대부분은 이미 깃허브(GitHub)에서 오픈 소스 코드로 제공되고 있습니다. 기업의 경우, 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 플랫폼의 일부인 완전한 지원 패키지로 제공받을 수도 있습니다.
네모는 서비스로도 제공되며, 자체 데이터 세트와 도메인 지식을 기반으로 맞춤형 생성 AI 모델을 만들고 실행하려는 기업을 위한 클라우드 서비스 제품군인 엔비디아 AI 파운데이션의 일부입니다.
한국의 한 선도적인 이동통신사는 네모를 사용해 고객과 800만 건의 대화를 나눈 지능형 비서를 구축했습니다. 또한 스웨덴의 한 연구팀은 병원, 정부 기관, 기업에서 텍스트 기능을 자동화할 수 있는 LLM을 개발하기 위해 네모를 사용했습니다.
지속적인 커뮤니티 노력
생성형 AI를 위한 우수한 가드레일을 구축하는 것은 AI가 발전함에 따라 많은 지속적인 연구가 필요한 어려운 문제입니다.
엔비디아는 개발자 커뮤니티의 막대한 에너지와 작업 AI 안전에 기여하기 위해 수년간의 연구 결과물인 네모 가드레일을 오픈 소스로 공개했습니다.
가드레일에 대한 엔비디아의 노력은 기업들이 스마트 서비스를 안전, 개인 정보 보호 및 보안 요구 사항에 맞게 유지해 혁신의 엔진이 원활하게 돌아갈 수 있도록 지원할 것입니다.
여기에서 네모 가드레일에 대한 자세한 내용과 시작 방법을 알아볼 수 있습니다.