Bias 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, 학습 데이터·모델 설계·운영 환경에 들어 있는 사회적 불균형이 인공지능 출력에 그대로 반영돼 특정 집단에 불리하게 작동하는 현상을 통칭하는 표현입니다.

편향은 AI가 사람·사회의 한쪽 기울기를 그대로 답안에 옮겨 적는 현상이에요. 예전 합격자 명단만 보고 채용 평가표를 만들면, 과거에 합격이 어려웠던 학과·성별이 계속 감점되는 것과 비슷합니다. 학습 데이터가 한쪽으로 쏠려 있거나, 평가 기준이 전체 평균만 보거나, 운영 환경이 특정 집단을 자주 마주치면 모두 편향으로 이어져요. 채용·신용평가·얼굴 인식처럼 사람 인생에 영향을 주는 곳에서 자주 문제가 되기 때문에, "전체 정확도"가 아니라 "집단별 정확도"를 따로 보는 습관이 필요합니다.

**케이스 1: MIT Media Lab — 상용 얼굴 분석 정확도 격차 감사 (2018)** Buolamwini·Gebru는 IBM·Microsoft·Face++의 상용 얼굴 분석 시스템을 1,270장 이미지로 감사했습니다.[1][8] 밝은 피부 남성에서는 오류율이 0.8%였지만, 어두운 피부 여성에서는 20.8%, 34.5%, 34.7%까지 치솟았습니다.[1] 보안·출입통제·신원확인 시스