(사진=픽사베이)주요 시중은행은 물론 핀테크 기업에서 AI가 개인의 투자성향을 분석해 펀드나 연금 등 상품을 추천해주는 ‘로보어드바이저’(전자적 투자조언) 서비스를 잇달아 선보이고 있다. 하나은행 하이로보센터에 따르면, 국내 로보어드바이저 운용자산 규모는 2020년 5조원에서 2022년 18조원, 2023년 25조원 규모로 성장세가 지속할 전망이다.
그러나 현재 금융분야에서 AI 활용에 대한 법제상 규율은 명확하지 않다. 금융당국은 상품을 직접 판매하는 이른바 ‘AI 은행원’의 출현 가능성까지 대비해 올 2분기 금융분야 AI 가이드라인을 내놓을 계획이다.
불완전판매 없도록 사전 테스트 장치 구축
금융위원회는 13일 ‘제7차 디지털금융 협의회’에서 서울대 산학협력단이 수행한 ‘금융분야 AI 운영 가이드라인’ 연구용역 보고서를 발표했다.
금융 AI는 기계과 금융거래와 관련해 지각·학습·추론·조치하는 모든 과정을 말한다. 보고서는 AI 기반의 ‘대화형 에이전트’가 일반 은행원처럼 금융상품 추천이나 판매까지 할 수 있는 방안에 주목했다. 챗봇 등 대화형 에이전트는 현재는 주로 단순상담이나 고객응대 정도의 역할을 맡고 있다.
실제 금융상품 판매를 위해 중요한 건 AI 기반 대화형 에이전트의 설명 능력이다. 인간이 상품 내용을 충분히 이해할 수 있도록 설명을 제공해 불완전판매가 발생하지 않도록 하는 것이다.
보고서는 이를 위해 금융회사가 AI 기반 대화형 에이전트를 출시하기 이전 실제로 시연해 볼 수 있도록 ‘테스트베드’(시험장)을 만들 것을 제안했다. 연구책임자인 고학수 서울대 법학전문대학원 교수는 “고객 접점과 관련한 AI 활용에서 주요 장애요소는 비대면 금융상품 판매 때 불완전판매 등 설명의무와 관련된 법적 리스크”라며 “소비자의 금융 독해력이나 금융상품 이해수준을 평가하는 방법이 더욱 고도화될 필요가 있다”고 했다.
금융위는 AI 알고리즘 유효성 검증을 위한 테스트 베드를 만들기로 했다. 금융위 관계자는 “금융회사는 비금융 플랫폼보다 AI나 알고리즘 등 활용도가 높지 않았기 때문에 테스트 베드를 적극 활용할 필요가 있다는 주장이 있다”고 했다.
보고서는 양질의 데이터 확충을 위해선 AI 학습 및 교육용 합성데이터를 개발하고 금융대화형 AI를 위한 ‘금융말뭉치’ 데이터 세트 등을 대폭 확충할 것을 주문했다. 금융말뭉치는 금융상품과 상품의 자문 및 판매에 특화된 전문적 내용이 축적된 대화형태의 데이터를 말한다.
“AI도 편향성 있어”
보고서는 AI 기반의 각종 평가가 정확성과 공정성을 담보토록 기준을 유연하게 적용할 것도 제안했다.
예를 들어 은행이 대출 부적격자를 걸러내기 위해 여신심사를 강화하면 통계적으로 대출 적격자가 거절되는 경우도 늘어나는 것으로 나타났다. AI를 이용해 대출심사 등 금융거래 기회를 제공할 때에는 적격자의 거절 위험을 최소화하는 게 중요해서다. 반면 사기거래나 규제 위반을 찾아낼 때에는 탐지하지 못하는 위험의 최소화에 주안점을 둬야 한다.
일반 소비자에게 금융거래 기회를 제공할 때에는 기회의 평등 기준을 적용하면 된다. 소외계층에 대한 금융접근성을 제고하기 위해선 결과의 평등 기준을 적용할 필요가 있다고 보고서는 주문했다.
금융위는 AI 가이드라인 제정에서 AI 판단이 한쪽으로 치우치지 않도록 하는 데 주안점을 둘 방침이다. 도규상 금융위 부위원장은 “AI는 인간보다 정보를 빠르고 더 많이 처리해 의사결정 효율성을 높이지만 편향성 등 공정성 이슈가 제기될 수 있어 양자가 조화를 이루도록 운영 가이드라인을 만들겠다”고 말했다.
금융위는 딥페이크와 알고리즘에 의한 시세조종 등 AI를 이용한 새로운 금융범죄에도 대응할 계획이라고 밝혔다.
Copyright ⓒ 이데일리 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
