미국 대형은행 웰스파고(Wells Fargo)가 NVIDIA GPU를 통해 규제 당국에 위험 모델 변수를 보여주고, 소비자에 대출 결정에 대한 설명을 돕는 AI 모델을 개발하고 있습니다.
대출기관들은 대출 여부 결정을 알리기 위해 재무 예측을 확인하기 위한 선형, 비선형 회귀 모델과 디폴트(채무불이행) 위험에 대한 로지스틱 및 생존성 모델을 적용했는데요. 이러한 간단한 방법은 고객에게 설명하기 쉽습니다.
반면, 머신 러닝과 딥 러닝 모델은 위험성을 새로운 방식으로 예측하고 있으며 고객과 규제 당국 공시를 위해 설명 가능한 AI(XAI)가 필요합니다. 머신 러닝과 딥 러닝 기법은 더 정확하지만 복잡하므로, 은행들은 고객과 규제 당국에 대출 여부 결정을 설명하는데 더 많은 노력이 들어갑니다.
설명 가능한 AI는 은행이 대출의 위험성을 더 잘 이해할 수 있도록 하며, 단순한 모델로 거절되었을 신청자의 대출을 승인할 수 있게 해줍니다. 설명 가능한 AI는 더 높은 처리 능력이 요구되므로 GPU 가속화 모델을 도입하고 있습니다. 이 모델은 웰스파고와 같은 금융서비스 기업들은 처리 능력, 정확성, 설명력을 향상시키고 소비자와 규제 당국에 결과를 더 빠르게 제공해주죠.
설명 가능한 AI(XAI)
XAI는 AI 모델 내의 수학을 이해하는 데 도움을 주는 툴과 기술 모음입니다. 사람들이 이해할 수 있는 방식으로 데이터 입력을 출력, 매핑 합니다.
아구스 수지안토(Agus Sudjianto) 웰스파고 수석 부사장 겸 기업 모델 리스크 부문 총괄은 “렐루 뉴럴 네트워크(ReLU Neural Networks)는 선형 하위 모델로 정확하게 분해 및 표현될 수 있으며, 어떤 요소가 가장 중요한지 알 수 있게 해줍니다. 기존 통계 모델과 마찬가지로 매우 명확하게 확인할 수 있습니다”고 설명했죠.
웰스파고의 XAI 개발
선형 반복 기능 임베딩(Linear Iterative Feature Embedding, LIFE) 알고리즘은 높은 예측 정확성, 해석 용이성과 효율적인 계산을 위해 개발됐습니다. 웰스파고는 LIFE가 직접 훈련된 단일 계층 네트워크 뿐 아니라 실험 중인 많은 다른 벤치마크 모델보다 성능이 뛰어나다고 언급했죠.
은행은 LIFE를 사용하여 모델 해석 가능성과 상관관계가 있는 코드를 생성할 수 있고, 결정에서 어떤 변수의 무게가 가장 높았는지에 대한 올바른 설명을 제공합니다. 예를 들어, 높은 총부채상환비율이나 특정 대출상품에 대해 설정된 최소값 이하로 떨어진 FICO 점수에 대해 코드가 생성될 수 있는데요. 거절 사유를 설명하기 위해 40에서 80가지 변수가 고려될 수 있죠.
수지안토 웰스파고 부사장은 “우리는 고객이 대출금을 상환할 수 있을지를 평가합니다. 대출을 거절할 경우에는 왜 대출이 거절됐는지에 대한 이유를 최근 코드로부터 제시할 수 있습니다”라고 말했죠.
웰스파고는 모델 설명 가능성을 높이기 위해 딥 렐루 네트워크를 연구하고 있는데요. 해당 연구는 여기에서 자세히 확인할 수 있습니다.