Bias

1. 학습 데이터의 성별·연령·지역 분포를 표로 정리해 과대·과소 대표 집단을 식별합니다.
2. 전체 정확도 대신 하위 집단별 정확도·오류율을 분리해 측정하고 격차 임계치를 정합니다.
3. 보호 속성(성별·인종 등)을 직접 쓰지 않아도, 그것과 상관관계가 높은 대리 변수(우편번호·소비 패턴 등)를 함께 점검합니다.
4. 출시 전 민감 발화·차별 시나리오 100건 이상을 정해 레드팀 테스트를 돌리고, 통과 기준을 사양서에 명시합니다.
5. NIST AI RMF 1.0(GOVERN·MAP·MEASURE·MANAGE)과 SP 1270 편향 분류표로 자체 감사 체크리스트를 만들고, 분기 단위로 운영 단계 편향을 재측정합니다.

편향은 완전히 제거하기 어렵습니다. 김재인 경희대 비교문화연구소 교수는 이루다 사건에 대해 "100억 건 데이터 전부를 통제하는 것은 불가능하다"고 지적했습니다.^[3] NIST도 AI RMF에서 편향을 "관리(managed)" 대상으로 표현하며, 완전 제거가 아닌 지속적 측정·완화의 문제로 규정합니다.^[2] 보호 속성을 모델 입력에서 빼도 우편번호·구매 패턴 같은 대리 변수로 차별이 재현되는 점, 그리고 NIST SP 1270이 추가한 인적·시스템적 편향처럼 데이터 바깥의 운영·해석 단계에서 새로 끼어드는 편향이 한계로 남습니다.^[7] Apple Card 사례처럼 발행사가 "성별을 입력값으로 쓰지 않는다"고 해명해도 결과의 격차가 사회적 차별로 인식되는 흐름도 같은 맥락입니다.^[5] 결국 "입력에서 뺐다"가 "편향이 없다"는 증거가 되지 못한다는 점이 거버넌스 설계의 출발점이 됐습니다.

진화 방향은 세 갈래입니다.

1. Buolamwini·Gebru가 제시한 하위 집단별 정확도 분해 평가가 산업 표준이 되면서 IBM은 감사 이후 신규 모델 데이터셋을 균형 재구성했고, MIT News는 이를 "상용 시스템의 편향 보고 관행을 바꾼 연구"로 평가했습니다.^[1][8]
2. NIST AI RMF(2023)와 EU AI Act가 고위험 시스템에 편향 영향 평가를 의무화하는 거버넌스 흐름을 만들고 있고, EU AI Act는 부속서 III에서 채용·신용평가를 고위험 영역으로 명시했습니다.^[2] 한국은 2026년 1월 시행 'AI 기본법'에서 채용·대출심사 등을 '고영향 AI'로 묶어 책임성을 부여하는 흐름을 따르고 있습니다.
3. Sheng 등의 EMNLP 2019 논문 'The Woman Worked as a Babysitter'는 LLM(Large Language Model, 거대 언어 모델)의 직업·성별 연상 편향을 정량화하는 Regard 지표를 제시해 생성형 AI 편향 측정의 기반을 마련했고, 이후 BBQ·BOLD 같은 벤치마크가 같은 흐름을 이어받아 생성형 AI 편향 평가의 표준 도구로 자리잡고 있습니다.^[6]