Differential Privacy 4장 카드뉴스

차분 프라이버시는 분석 결과에 통계적 잡음을 더해, 특정 개인 한 명의 데이터가 포함되든 빠지든 결과 분포가 거의 달라지지 않도록 만드는 수학적 정의입니다. 2006년 Dwork, McSherry, Nissim, Smith가 함수의 민감도에 비례해 잡음 크기를 맞추는 방식으로 제시했습니다 [1]. 보호 강도는 프라이버시 예산 엡실론이라는 단일 수치로 정량화합니다. 엡실론이 작을수록 보호는 강해지고 통계의 정확도는 떨어집니다. 익명화나 가명처리가 외부 데이터와 결합해 재식별될 수 있는 것과 달리, 공격자의 배경지식을 가정하지 않은 보장을 제공합니다.

민감한 질문에 답하기 전에 각자 동전을 던져, 앞면이면 진실을 말하고 뒷면이면 정해진 답을 말한다고 해봅시다. 답변 하나만 보면 그 사람의 진짜 응답인지 알 수 없습니다. 그런데 수천 명을 모으면 동전의 확률을 역산해 전체 비율은 꽤 정확하게 구할 수 있어요. 차분 프라이버시는 이 아이디어를 수학으로 일반화한 것이고, 잡음의 양을 정하는 손잡이가 엡실론입니다.

케이스 1: 미국 인구조사국 — 2020년 인구총조사 공표에 차분 프라이버시 기반 시스템 적용 인구조사국은 개별 응답을 재구성하는 공격을 막기 위해 공표 단계에 잡음을 넣는 방식을 택했습니다 [2]. 데이터 관리 이사회는 선거구 재획정 데이터 산출물에 배정할 프라이버시 예산을 확정해 2021년 6월 공개했습니다 [2]. 인구 파일과 주택 파일에 예산을 나눠 배분하는 구조입니다 [2].