36개국에서 170만명의 고객을 보유한 캐나다의 최대 은행인 캐나다 왕립은행(Royal Bank of Canada, RBC)이 NVIDIA DGX 기반 클라우드를 구축하고 인공지능(AI)에 대해 전략적인 투자를 진행했습니다. 코로나19 글로벌 팬데믹의 역풍 속에서도 NVIDIA DGX 기반 시스템은 캐나다 왕립은행이 계속 새로운 고객경험을 창출하도록 만들 예정인데요.
이러한 여정이 시작된 것은 2017년 가을입니다. 캐나다 왕립은행이 자체 전담 연구소인 ‘보레알리스 에이아이(Borealis AI)’를 설립했을 때인데요. 연구소의 본부는 머신러닝 전문가들의 글로벌 메카, 토론토의 마스 디스커버리 디스트릭트(MaRS Discovery District) 옆에 있습니다.
보레알리스 에이아이는 수십 명의 유능한 연구원들을 빠르게 끌어 모았습니다. 이 연구소의 소장이 특허권을 보유하고 스타트업을 계속 만드는 창업가이자, 캐나다의 인공지능 자문 위원회의 공동 위원장을 맡고 있는 전기 및 컴퓨터 공학 박사 포테이니 애그러피오티(Foteini Agrafioti) RBC 수석 과학 책임자(CSO)라는 사실을 알게 되면 그리 놀랄만한 일은 아닙니다.
캐나다 왕립은행은 초기에 보레알리스 에이아이를 혼합 시스템을 기반으로 설립했습니다. 하지만 연구소 규모와 AI 모델이 확장되면서 더 큰 규모의 전문적인 AI 엔진이 필요했죠.
차세대 뱅킹 서비스를 위한 프라이빗 AI 클라우드
마이크 타디프(Mike Tardif), 캐나다 왕립은행의 기술 인프라 수석 부사장은 “저는 영광스럽게도 보레알리스 에이아이 연구소의 첫 인프라를 닦는 데 기여할 수 있었지만, 연구소의 초기 시스템은 진화하는 AI 요구를 충족하는 데는 역부족이었습니다”라고 말했습니다.마이크 타디프의 팀이 필요했던 건 밴쿠버에서 몬트리올까지 네 개의 은행 지점에서 안전한 서비스를 제공해 줄 수 있는 분산형 AI 시스템이었습니다. 업무량이 증가함에 따라 규모를 확장할 수 있고 하드웨어를 업그레이드하지 않고도 오픈 소스 소프트웨어에서 AI 기술을 정기적으로 활용할 수 있는 시스템이 필요했던 것이죠.
캐나다 왕립은행의 목표는 최첨단 프라이빗 AI 클라우드를 구축하는 일이었습니다. 캐나다 왕립은행은 이 목표를 달성하기 위해 핵심 전략으로 6개의 NVIDIA DGX 시스템과 Red Hat의 Openshift를 활용해 프라이빗 AI 클라우드 시스템상에서 실행되는 여러 컨테이너를 조정했습니다.
마이크 타디프 기술 인프라 수석 부사장은 “NVIDIA는 AI 인프라 분야를 선두에서 이끄는 기업입니다. 저희는 이미 NVIDIA DGX 시스템을 사용하는 중이었고 AI 성능을 확장할 필요가 생긴 상황에서 NVIDIA 기술을 선택한 것은 당연한 수순이 였습니다”라고 밝혔습니다.
스마트 뱅킹 서비스를 지원하는 AI
캐나다 왕립은행은 코로나19 역풍 속에서도 건실한 성과를 보여주고 있습니다.
캐나다 왕립은행에 따르면, 프라이빗 AI 클라우드는 수 천개의 시뮬레이션을 실행하고 수 백만개의 데이터 포인트를 순식간에 분석해 냅니다. 이에 따라 차세대 스마트 애플리케이션으로 고객의 뱅킹 경험에 새로운 혁신을 가져올 것으로 기대를 모으고 있는데요. 이것은 시작에 불과합니다.
포테이니 애그러피오티 연구소 소장은 “우리는 자본 시장의 방대한 영역을 탐구하기 위해 수천개의 통계 모델을 훈련시킬 수 있습니다. 분산화되고 완벽하게 자동화된 환경이 없었다면 불가능했을 겁니다. 새로운 솔루션이 만든 자동화된 파이프라인을 통해 클릭 한번으로 클러스터 전체를 이동시킬 수 있죠”라고 말했습니다.
프라이빗 AI 클라우드 플랫폼은 고객 응대 통화량을 줄이고 캐나다 왕립은행 고객을 위한 신규 애플리케이션을 더욱 가속화하고 있는데요. 이는 GPU의 뛰어난 성능과 컨테이너 조정의 자동화가 이끌어낸 성과입니다.
캐나다 왕립은행은 Red Hat OpenShift를 NVIDIA DGX 인프라와 결합해 이전 대비 극히 감소된 시간으로 AI 컴퓨팅 인스턴스를 초고속 실행시킵니다.
얀 피셔(Yan Fisher), 레드햇 신기술 글로벌 에반젤리스트에 따르면 OpenShift는 사용자가 수천개의 컨테이너를 동시에 오케스트레이션 하면서, DGX 시스템에서 AI 모델을 훈련시키고 필요한 데이터세트를 추출하는 데 도움을 줍니다.
얀 피셔는 OpenShift와 NVIDIA의 소프트웨어 허브인 NGC가 기업들이 코로나 팬데믹 속에서도 은행 업무를 원격으로 지원하도록 돕는다고 덧붙였습니다.
캐나다 왕립은행의 기술 인프라 수석부사장 마이크 타디프는 “NVIDIA DGX로 구축된 AI 인프라를 통해 우리는 아마존과 구글이 제공하는 서비스와 유사한 정도의 성능을 누리며, 시스템의 총 소유 비용을 대폭 절감했습니다”라고 말했습니다.
마이크 타디프가 자사의 핵심 하드웨어 자산으로 지목한 것은 NVLink 인터커넥트, 그리고 최대 대역폭과 짧은 지연시간으로 엔터프라이즈 네트워킹 표준에 대한 NVIDIA의 기술 지원이었습니다. 이를 통해 사용자는 캐나다 왕립은행의 AI 클라우드를 호스트하는 여러 데이터 센터의 시스템 내 혹은 시스템 간에 멀티 GPU에 빠르게 액세스할 수 있습니다.
오랜 역사의 은행이 혁신을 유지하는 비결
캐나다 왕립은행은 150년된 오래된 은행이지만 보레알리스 에이아이 연구소의 경우처럼 신기술에 발빠르게 투자해 시대에 부응하고 있습니다.
마이크 타디프는 “우리에게 혁신은 DNA와 같습니다. 항상 앞으로 다가올 일을 주시하면서 그에 대한 운용 방법을 고민합니다. 그리고 AI 기술 활용은 가장 우선시되는 전략입니다”라고 밝혔습니다.
RBC의 주요 전문지식은 은행 업무지만 RBC는 기술업무도 다룹니다. 코로나때문에 이동제한 조치가 시행된 동안, RBC는 최신 시스템에 대해 “압력 테스트(pressure test)”를 실시했고, 한계가 있다고 여겨졌던 부분의 성능을 향상시켰습니다.
마이크 타디프는 “캐나다 왕립은행은 AI 인프라에 대한 비전을 NVIDIA와 함께 세워 나가고 있으며, 이 여정을 통해 금융서비스업 분야에 있는 모두가 혜택을 누릴 수 있도록 AI 혁신의 저변을 확대해 나가고 있습니다”라고 말했습니다.
더 자세한 내용은 NVIDIA가 지원하는 금융서비스업 페이지를 방문해 확인하세요.