AI 대출 심사에 대한 착각
"AI는 감정이 없으니 객관적이다", "AI가 거절한 이유는 아무도 모른다", "AI가 정한 일이라 회사도 어쩔 수 없다". AI 대출 심사를 두고 흔히 듣는 말입니다. 세 가지 말을 법 조문과 금융위원회 가이드라인 앞에서 하나씩 따져 봅니다.
착각 1: AI 심사는 객관적이다
AI에는 기분도 선입견도 없으니 공정할 것 같습니다. 하지만 AI의 판단은 무엇을 배웠는지에 달려 있습니다.
백미러만 보고 운전하는 차를 떠올려 보세요. 거울에는 지나온 길만 비칩니다. AI도 지나간 대출과 상환 기록을 보고 앞날을 짐작합니다. 거울에 얼룩이 있으면 길을 잘못 읽듯, 과거 기록이 치우쳐 있으면 판단도 치우칩니다. 다만 지나온 길은 실제로 쓸모 있는 단서이고, 예측이 다 틀린다는 뜻은 아닙니다.
금융위원회 가이드라인도 이 점을 경고합니다. AI는 데이터와 모델에 담긴 데이터나 모델이 특정 집단에 한쪽으로 치우친 결과를 내는 성질입니다. 차별할 뜻이 없어도 생길 수 있습니다.을 키울 우려가 있다고 봅니다.[1] 그래서 성별, 연령, 지역에 따른 데이터 편향을 정기적으로 살피라고 합니다.[1] 편향은 차별할 뜻이 없어도 생깁니다. 데이터가 모든 사람을 고르게 대표하지 못하면 통계적 편향이 생깁니다.[1]
기록 자체가 틀릴 수도 있습니다. 법이 자동화평가에 쓰인 신용정보입니다. 틀리거나 낡았으면 고치거나 지워 달라고 할 수 있습니다.설명을 듣고 기록을 고칠 권리 챕터에서 보기를 고치고 다시 계산하게 하는 권리를 둔 까닭입니다.[2] 사람도 함정에 빠집니다. AI의 제안을 따져 보지 않고 받아들이는 사람이 AI의 판단을 따져 보지 않고 그대로 받아들이는 경향입니다.입니다.[1] 가이드라인은 이를 막는 교육을 하라고 합니다.[1]
착각 2: 거절 이유는 알 수 없다
AI는 속을 알 수 없는 상자라서 이유를 물어도 소용없다는 말이 있습니다. 법은 다르게 봅니다. 결과와 주요 기준, 쓰인 기초정보의 개요를 설명해 달라고 할 수 있습니다.[2] 개인정보 보호법의 설명에도 어떤 정보가 결정에 어떤 영향을 줬는지가 들어갑니다.[5]
다만 받는 설명에는 한계가 있습니다.
| 물을 수 있는 것 | 회사가 알려 줄 수 있는 방식 |
|---|---|
| 결과 | 회사가 정한 등급이나 점수, 백분율[3] |
| 주요 기준 | 정보 종류별 반영 비중, 협회 양식[3] |
| 기초정보 | 직접 받은 신용정보, 회사가 가공·추론한 정보는 뺄 수 있음[3] |
개인정보보호위원회도 설명은 간결하고 의미 있어야 한다고 말합니다.[4] 복잡한 기술 원리를 늘어놓으라는 뜻이 아니라고 덧붙입니다.[4] 금융위원회 가이드라인은 영업 기밀을 고려해 설명 범위를 조정하라고 합니다.[1] 그러니 이유의 큰 줄기는 알 수 있지만, 모델의 속을 통째로 볼 수는 없습니다. 평가회사들이 공시하는 요소별 비중은 신용점수 코스 1장에서 봤습니다.
착각 3: AI가 정한 일이라 회사도 어쩔 수 없다
창구에서 “시스템이 정한 것이라 어쩔 수 없다”는 말을 들을 수 있습니다. 금융위원회 가이드라인의 원칙은 반대입니다. AI는 업무의 보조수단이고, 최종 결정과 그 책임은 임직원이 집니다.[1] 외부 업체의 모델을 써도 그 책임은 금융회사에 있다고 봅니다.[1] 고객이 결정에 이의를 제기하면 답할 창구와 절차도 마련하라고 합니다.[1]
가이드라인은 법이 아니라 금융회사가 스스로 지키는 법으로 강제하지 않고 업계가 스스로 지키기로 한 기준입니다.입니다.[1] 그래서 “가이드라인을 어겼으니 결정을 무를 수 있다”고 기대하면 안 됩니다. 기댈 곳은 2장에서 본 법의 권리입니다. 설명과 정정, 고친 기록으로 평가 결과를 다시 계산하는 것입니다.설명을 듣고 기록을 고칠 권리 챕터에서 보기 요구는 법이 정한 경우에만 거절할 수 있습니다.[2]
금융회사는 신용평가, 대출 심사, 평소 거래 패턴과 크게 다른 거래를 골라 막거나 본인확인을 더 요구하는 일입니다. FDS라고도 부릅니다.금융회사가 사람 없이 정하는 것 챕터에서 보기를 사람 없이 하기도 합니다(1장).[1] 그 결정에는 설명을 듣고 기록을 고쳐 다시 계산하게 할 권리가 붙어 있습니다(2장).[2] AI의 판단은 과거 기록만큼만 정확하고, 가이드라인은 그 책임이 회사에 있다고 봅니다(3장).[1] 낯선 결정을 만나면 “누가 정했나, 무엇을 봤나, 틀린 기록은 없나”를 먼저 물어보면 됩니다.
용어 정리
- 편향
- 데이터나 모델이 특정 집단에 한쪽으로 치우친 결과를 내는 성질입니다. 차별할 뜻이 없어도 생길 수 있습니다.
- 자동화 편향
- 사람이 AI의 판단을 따져 보지 않고 그대로 받아들이는 경향입니다.
- 자율규제
- 법으로 강제하지 않고 업계가 스스로 지키기로 한 기준입니다.
이해도 점검
정답 0 / 3Q1"AI 심사는 사람의 감정이 없으니 언제나 공정하다"는 말이 틀린 까닭으로 가장 알맞은 것은 무엇입니까?
Q2대출 거절의 이유를 신용정보법에 따라 물었습니다. 받을 수 있는 설명으로 알맞은 것은 무엇입니까?
Q3금융회사가 "외부 업체의 AI 모델이 거절했으니 우리 책임이 아니다"라고 말합니다. 금융위원회 가이드라인의 원칙과 맞는 것은 무엇입니까?
이 챕터의 요약
- AI는 과거 데이터를 배우므로 그 안의 편향을 키울 수 있고, 기록이 틀리면 결정도 틀립니다.
- 거절 이유는 결과·주요 기준·기초정보의 개요까지 물을 수 있지만, 모델 전체를 받지는 못합니다.
- AI를 써도 최종 책임은 금융회사에 있다는 것이 금융위원회 가이드라인의 원칙입니다.
출처와 신뢰도
- A정부와 금융권이 함께 금융권 AX를 가속화해 나가겠습니다 (보도자료, 2026. 6. 18.)와 붙임 「금융분야 인공지능 가이드라인」 · 금융위원회금융 감독 당국의 발표와 가이드라인 본문(2026. 6. 22. 시행)입니다. 모든 금융회사에 적용되는 자율규제라는 점, AI가 데이터와 모델의 편향을 증폭할 우려와 성별·연령·지역별 데이터 편향의 정기 분석, 차별 의도 없이 생기는 통계적 편향, 담당자의 '자동화 편향' 방지 교육, 최종 의사결정과 책임은 임직원이 지고 외부 모델의 책임도 그 금융회사에 귀속된다는 보조수단성 원칙, 쉬운 말로 주요 요인 위주의 설명과 이의 제기 창구 마련, 영업 기밀을 고려한 설명 범위 조정을 가져왔습니다.본문으로
- A신용정보의 이용 및 보호에 관한 법률 제36조의2 (자동화평가 결과에 대한 설명 및 이의제기 등) · 법제처 국가법령정보센터현행 조문입니다. 결과·주요 기준·기초정보 개요의 설명 요구(제1항)와 기초정보 정정·삭제·재산출 요구(제2항)를 가져왔습니다.본문으로
- A신용정보의 이용 및 보호에 관한 법률 시행령 제31조의2 (개인신용평가 결과에 대한 설명 및 이의제기 등) · 법제처 국가법령정보센터현행 조문(2026. 9. 11. 시행)입니다. 결과는 회사가 정한 등급·점수(백분율 포함)로, 주요 기준은 정보 종류별 반영 비중이나 협회 양식으로 안내할 수 있고, 기초정보 설명에서 회사가 자체로 가공·생성·추론한 정보는 뺄 수 있다는 제8항을 가져왔습니다.본문으로
- A인공지능(AI) 시대, 개인정보 안전장치 시행된다 (보도자료, 2024. 3. 6.) · 개인정보보호위원회소관 부처의 발표입니다. 설명은 주요 개인정보가 결정에 미치는 영향 등에 대한 간결하고 의미 있는 설명이며 복잡한 기술적 작동원리를 나열하라는 뜻이 아니라는 설명을 가져왔습니다.본문으로
- A개인정보 보호법 시행령 제44조의3 (거부·설명등요구에 따른 조치) · 법제처 국가법령정보센터현행 조문(2026. 9. 11. 시행)입니다. 설명에 결과, 주요 개인정보의 유형, 그 정보가 결정에 미친 영향 등 주요 기준을 담게 한 제2항을 가져왔습니다.본문으로