금감원, AI 위험관리 기준 마련…프레임워크 도입

금융권 AI 활용 확산에 선제 대응

거버넌스·위험평가 기준 구체화

1분기 최종안 확정·시행 예정

금융당국이 금융회사의 인공지능(AI) 활용이 금융안정과 소비자 보호를 훼손하지 않도록 하기 위해 금융 분야 AI 위험관리 기준을 체계화한다.ⓒ뉴시스

금융당국이 금융회사의 인공지능(AI) 활용이 금융안정과 소비자 보호를 훼손하지 않도록 하기 위해 금융 분야 AI 위험관리 기준을 체계화한다.

금융감독원은 금융회사의 AI 거버넌스와 위험관리 원칙을 구체화한 ‘금융 분야 AI 위험관리 프레임워크(AI RMF)’를 마련해 도입할 계획이라고 15일 밝혔다.

최근 AI 활용이 금융권 전반으로 확산되는 가운데, AI 오류나 오작동이 금융소비자 피해로 이어지거나 금융시스템 안정성을 저해할 수 있다는 우려가 커지고 있다. 그러나 금융회사들의 AI 거버넌스와 위험관리 체계는 미진하다는 판단이다.

실제 금감원이 지난해 4월 금융회사 118곳을 대상으로 전수조사한 결과, AI 관련 의사결정기구를 설치한 곳은 은행 5곳(25%), 보험사 4곳(7.5%), 증권사 1곳(2.7%)에 그쳤다. 전체 금융회사 중 약 85%는 AI 윤리 원칙이나 위험관리 기준조차 마련하지 않은 것으로 나타났다.

이에 금감원은 금융권이 ‘혁신과 책임’의 균형 속에서 AI를 활용할 수 있도록 법적 강제보다는 가이드라인 형태의 자율 규범을 제시하기로 했다.

금융회사는 AI 위험관리를 위한 의사결정기구와 전담 조직을 구성해 거버넌스 체계를 구축해야 한다.

의사결정기구는 AI 관련 사업계획과 전략, 주요 위험 요소를 최고경영자(CEO)가 명확히 인식할 수 있도록 정기적으로 보고하는 구조를 갖추도록 했다.

또 AI 관련 위험관리 규정과 내부 지침을 수립하고, 세부 업무 매뉴얼을 마련해 조직 전반에 적용해야 한다. 금융 및 AI 관련 법규 준수 의무를 명확히 하고, 최종 의사결정 책임은 임직원이 부담하도록 했다.

금감원은 AI 도입부터 운영·활용에 이르는 전 과정을 표준화된 매뉴얼로 관리하고, 부서 간 역할과 책임을 명확히 할 것도 요구했다.

아울러 금융회사는 ‘위험 기반 접근방법(Risk-based approach)’에 따른 종합 평가체계를 구축해 AI 위험을 체계적으로 관리해야 한다.

금융 AI 7대 원칙 가운데 정량적 요소를 중심으로 위험평가 체계를 설계하고, 원칙 준수 여부를 평가 항목에 반영해 AI 서비스별 위험 수준을 분류하도록 했다.

다만 AI 기본법상 대출 심사 등 개인의 권리·의무에 중대한 영향을 미치는 고영향 AI는 위험 등급과 관계없이 고위험 서비스로 분류해 관리하도록 했다.

금융회사는 위험 수준에 따라 통제·관리 조치를 차등 적용하고, 초고위험 AI의 경우 출시 여부를 재검토하는 등 추가적인 위험 통제 절차를 이행해야 한다.

금감원은 설명회와 간담회 등을 통해 금융권 의견을 수렴한 뒤, 올해 1분기 중 최종안을 확정해 시행할 예정이다.

금감원은 “모범사례 확산과 도입 회사에 대한 실태 점검을 통해 AI RMF의 거버넌스와 위험관리·통제 프로세스가 금융회사 내부통제 체계에 안정적으로 자리 잡도록 지원하겠다”고 말했다.