[피플펀드 제공]

[헤럴드경제=홍승희 기자] 인공지능(AI)신용평가시스템 개발 및 고도화에 주력해 온 온투업 금융사 피플펀드가 여신심사 및 평가 분야에서 사용될 ‘설명가능한 AI모델(XAI모델)’ 4종을 자체 개발해 상용화한다고 29일 밝혔다.

XAI는 AI의 작동원리 및 의사결정의 근거 등을 사용자가 이해하고 믿을 수 있게 하는 방법론을 말한다. 특히 피플펀드의 XAI모델은 AI신용평가시스템의 차입자 평가 근거를 설명해줄 뿐 만 아니라, 사용 중인 신용평가모형이 동일 시점의 시장 상황 변화에 잘 적응하고 있는지, 모형 성능이 유지되고 있는지 판단 및 설명하는 기능까지 포함하고 있다. 이는 피플펀드의 AI신용평가시스템을 도입하려는 금융기관의 수요에 특화돼 있다는 설명이다.

이번에 개발 및 상용화된 피플펀드의 XAI모델은 총 4가지로, ▷AI신용평가시스템이 도출한 차입자의 신용평가 결과값에 대해 서로게이트 모형을 이용해 각 변수 항목들이 미치는 긍·부정 요인과 그 영향도를 개별 고객들이 이해할 수 있도록 설명하는 XAI모델, ▷대출을 신청한 차입자가 수개월 후에 우량해질 가능성을 분석함으로써 잠재 우량도를 설명하는 XAI모델, ▷대출 신청을 위해 현재 유입되는 잠재 차입자의 데이터가 AI신용평가시스템이 과거 학습한 데이터와 얼마나 유사한지 실시간으로 평가함으로써 모형의 신뢰 수준을 설명해주는 XAI모델, ▷거시경제 및 금융시장 상황의 변화에 따라 모형의 성능 저하 정도 및 교체 필요성을 평가해주는 XAI모델로 구성돼 있다.

이같은 XAI모델 개발을 통한 신뢰받는 AI 구축의 필요성은 피플펀드의 AI신용평가시스템 예비 수요자인 여러 금융기관의 문의에 대응하면서 대두됐다. 2금융권 금융기관이 대출을 거절한 차입자에 대해 당사가 승인을 내주는 것에 관해 금융기관들이 근거 설명을 요청해와 당사 AI신용평가시스템의 산출값을 입체적으로 설명할 수 있는 XAI모델들을 개발하게 된 것이다.

강민승 피플펀드 최고기술책임자(CTO)이자 AI연구소장은 “아직 AI의 투명성, 공정성에 대한 사회적 신뢰가 충분치 않은 상황에서 알고리즘의 판단 결과를 충분히 설명하지 못하면 AI신용평가기술이 지속적으로 확대되기 어렵다고 판단해 XAI모델들을 개발하게 됐다”면서 “피플펀드의 향후 XAI 기술 개발의 키워드는 ‘편향성’으로, AI신용평가시스템에서 새롭게 발견되는 차별, 불공정 요소들을 빠르게 탐지하고 해결하기 위한 기술 연구에 집중할 것”이라고 말했다.