Deepfake

케이스 1영국 아룹 — 딥페이크 CFO 영상회의에 속은 2억 홍콩달러 송금 사기

글로벌 엔지니어링 기업 아룹(Arup)의 홍콩 지사 직원은 2024년 1월 최고재무책임자와 동료들이 참석한 것처럼 꾸며진 딥페이크 영상회의에 속아 15차례에 걸쳐 회사 자금을 송금했습니다.^[1] 회의 참석자 전원이 AI로 합성된 가짜였고, 피해는 약 2억 홍콩달러(약 2,560만 달러)에 달했습니다. 이 사건은 임원 사칭 딥페이크가 기업 재무 보안의 실질 위협임을 알린 대표 사례가 됐습니다.
도입효과(피해 규모): 15회 분할 송금으로 약 2,560만 달러 피해, 이후 글로벌 기업의 송금 재확인 절차 강화 계기 (2024-05 공개)^[1]

케이스 2대한민국 국회 — 소지·시청까지 처뱌하는 성폭력처뱌법 개정

한국은 2024년 학교·지인 대상 딥페이크 성착취물 확산이 사회 문제로 불거지자 성폭력처뱌법을 개정해 2024년 10월 공포·시행했습니다.^[2] 허위 영상물 제작·유포의 법정형을 높이고, 소지·구입·저장·시청만 해도 처뱌하는 조항을 신설해 수요 자체를 차단하는 방향으로 바뀌었습니다.
도입효과: 소지·시청 처뱌 신설 — 3년 이하 징역 또는 3천만 원 이하 벌금 (2024-10 시행)^[2]

케이스 3경찰청 — 집중단속으로 7개월간 963명 검거

경찰청은 2024년 8월 28일부터 2025년 3월 31일까지 딥페이크 성범죄 집중단속을 벌여 963명을 검거하고 59명을 구속했습니다.^[3] 검거 인원의 93.1%가 10·20대였고 10대가 669명으로 가장 많았습니다. 같은 기간 피해 영상물 1만 535건의 삭제·차단을 요청했습니다. 제작 도구가 누구나 쓸 수 있을 만큼 쉬워지면서 가해 연령이 낮아진 점이 확인됐습니다.
도입효과: 집중단속 7개월간 963명 검거(직전 단속 대비 260% 증가), 피해물 10,535건 삭제·차단 요청 (2025-04 발표)^[3]

케이스 4중앙선거관리위원회 — 선거 딥페이크 금지와 삭제 조치

공직선거법 개정으로 2024년 1월 29일부터 선거일 90일 전 딥페이크 영상 등을 이용한 선거운동이 금지됐습니다. 그러나 2026년 6월 지방선거를 앞두고 선관위의 딥페이크 게시물 삭제 요청은 1만 건에 이르러 2년 전 총선 대비 25배로 늘었습니다.^[4][5] 생성 도구 대중화 속도가 단속 역량을 앞지르는 현실을 보여 줍니다.
도입효과(규제 지표): 딥페이크 게시물 삭제 요청 1만 건, 2년 전 총선 대비 25배 (2026-05 보도)^[4][5]

1. 재무·인사 등 민감한 요청은 영상통화로 받았더라도 사내 메신저·유선 등 제2채널 재확인을 팀 규칙으로 문서화합니다.
2. 가족·임원 사칭 보이스피싱에 대비해, 전화로는 확인할 수 없는 '약속된 확인 질문'을 정해 둡니다.
3. 자사 임원의 공개 영상·음성이 어디에 얼마나 있는지 점검합니다 (사칭 합성의 재료가 됩니다).
4. 피해 발생 시 신고 경로를 정리해 둡니다: 경찰청 사이버수사대, 방송통신심의위원회 디지털성범죄 신고(1377), 디지털성범죄피해자지원센터.
5. 채용 면접·계약 등 외부인과의 화상회의에서는 실시간 동작 요청(옆모습, 손 흔들기)을 보조 검증 절차로 활용합니다.

한계는 방어가 공격을 못 따라간다는 점입니다. 방송통신심의위원회의 딥페이크 성범죄 영상물 심의는 3년간 약 12배 급증했지만 심의 인력은 제자리라는 지적이 나온다습니다^[6]. 해외 플랫폼에 오른 영상은 삭제 집행력이 약하고, 탐지 기술은 생성 기술의 발전 속도를 따라잡기 어렵습니다. 처뱌 강화에도 10대 가해·피해 비중이 높아 교육·예방 과제도 함께 남아 있습니다.^[3]

진화 방향은 기술·제도 양쪽의 표준화입니다. AI 생성물에 출처·워터마크를 담는 C2PA 같은 콘텐츠 출처 표시 기술이 확산되고 있고, 한국은 2026년 1월 시행된 AI 기본법에 AI 생성물 표시 의무가 담겨 기업의 콘텐츠 제작·유통 실무에 직접 영향을 주기 시작했습니다. 기업 보안 쪽에서는 송금·계약 등 고위험 업무의 다중 채널 검증 절차가 딥페이크 대응의 기본기로 자리 잡고 있습니다.^[1]