Bias 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, 학습 데이터·모델 설계·운영 환경에 들어 있는 사회적 불균형이 인공지능 출력에 그대로 반영돼 특정 집단에 불리하게 작동하는 현상을 통칭하는 표현입니다.

편향은 AI가 사람·사회의 한쪽 기울기를 그대로 답안에 옮겨 적는 현상이에요. 예전 합격자 명단만 보고 채용 평가표를 만들면, 과거에 합격이 어려웠던 학과·성별이 계속 감점되는 것과 비슷합니다. 학습 데이터가 한쪽으로 쏠려 있거나, 평가 기준이 전체 평균만 보거나, 운영 환경이 특정 집단을 자주 마주치면 모두 편향으로 이어져요.

[1] 보안·출입통제·신원확인 시스템을 도입하기 전 하위 집단별 정확도 분해 보고가 표준 절차가 돼야 함을 보여 준 사례로 인용됩니다. [3] 챗봇·고객 응대 모델을 출시하기 전 데이터 클렌징과 민감 발화 시나리오 테스트가 의무 단계가 돼야 함을 보여 준 국내 첫 대형 사례로 인용됩니다.