Deepfake 4장 카드뉴스

AI 보안·윤리 분야에서 쓰이는 용어로, 딥러닝(deep learning)과 가짜(fake)의 합성어이며 AI로 실존 인물의 얼굴·목소리·몸짓을 합성해 실제처럼 보이는 가짜 영상·음성·이미지를 만드는 기술과 그 결과물을 가리킵니다. 2017년 온라인 커뮤니티에서 용어가 등장한 뒤 생성형 AI 확산으로 제작 난도가 급격히 낮아졌고, 성착취물·금융사기·선거 조작에 악용되며 각국 규제가 강화됐습니다. 한국은 2024년 성폭력처뱌법 개정으로 소지·시청까지 처뱌합니다.

딥페이크는 '딥러닝'과 '페이크(가짜)'를 합친 말로, AI가 만든 정교한 가짜 얼굴·목소리예요. 영상통화 속 상사 얼굴, 전화 속 가족 목소리가 진짜가 아닐 수 있는 시대가 된 거죠. 재미로 쓰는 얼굴 합성 필터와 원리는 같지만, 동의 없이 실존 인물을 합성하는 순간 범죄가 됩니다. 회사에서는 송금 지시 같은 요청이라면 영상통화라도 별도 채널로 재확인하는 절차가 새 기본기가 되고 있어요.

[1] 회의 참석자 전원이 AI로 합성된 가짜였고, 피해는 약 2억 홍콩달러(약 2,560만 달러)에 달했습니다. 이 사건은 임원 사칭 딥페이크가 기업 재무 보안의 실질 위협임을 알린 대표 사례가 됐습니다. [2] 허위 영상물 제작·유포의 법정형을 높이고, 소지·구입·저장·시청만 해도 처뱌하는 조항을 신설해 수요 자체를 차단하는 방향으로 바뀌었습니다.