Explainability 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, 인공지능 모델이 특정 답을 왜 그렇게 냈는지를 사람이 이해할 수 있는 형태로 보여주는 능력과 그 기법들을 통칭하는 표현입니다.

AI가 어떤 결정을 내렸을 때 "왜 그렇게 답했는지"를 사람이 알아볼 수 있도록 풀어 주는 기법들을 묶어 부르는 말이에요. 조별 과제에서 팀원이 갑자기 결론만 들고 와 발표하면 교수님이 "근거가 뭐였는데"라고 물어보는 것과 비슷한데, AI 모델도 답만 던지지 말고 어느 입력이 결정에 얼마나 영향을 줬는지 보여 줘야 신뢰할 수 있다는 발상에서 출발했습니다.

케이스 1: 한국 시중은행 — AI 신용평가 모델의 거절 사유 설명 금융위원회는 2021년 7월 「금융분야 AI 가이드라인」을 발표하면서, AI 의사결정이 금융거래계약 체결·유지에 중대한 영향을 주는 경우 내부통제·승인절차를 마련하고 별도 책임자를 지정하도록 명시했습니다 [5]. 신용평가회사의 개인신용평점 개발도 적용 범위에 포함됩니다 [5].