AI for Everyone
보안·윤리

AI 워터마킹

AI Watermarking

AI가 만든 이미지·영상·텍스트에 사람 눈에는 보이지 않는 신호나 메타데이터를 심어, 나중에 AI 생성물임을 식별할 수 있게 하는 기술입니다. 구글 딥마인드의 SynthID처럼 픽셀·토큰 확률에 신호를 심는 방식과, C2PA 표준처럼 콘텐츠 출처·편집 이력을 메타데이터로 붙이는 방식이 대표적입니다. 한국 AI 기본법(2026년 1월 시행)과 EU AI법(2026년 8월 적용)이 생성물 표시를 의무화하면서 규제 준수 기술로 부상했습니다.

쉽게 말하면?

에이아이 워터마킹(AI Watermarking)은 AI 생성물에 보이지 않는 서명을 남기는 기술이에요. 지폐에 숨겨진 위조 방지 무늬처럼, 사람 눈에는 안 보여도 판독기를 대면 AI가 만든 것이라는 표식이 드러납니다. 딥페이크가 진짜 행세를 하는 시대에 진위를 가리는 최소한의 장치입니다. 다만 무늬를 지우는 기술도 함께 발전해 완벽한 방패는 아닙니다.

한 줄로 비유하면?

지폐의 숨은 위조 방지 무늬입니다. 눈에는 안 보여도 판독기가 진짜와 가짜를 가릅니다.

어디에 쓰이나?

케이스 1Google DeepMind(영국) — 200억 개 콘텐츠에 SynthID

구글 딥마인드는 2023년 8월 이미지용 비가시 워터마크 SynthID를 공개했습니다 [1]. 2024년 10월에는 토큰 생성 확률을 조정하는 텍스트 워터마킹을 네이처 논문과 함께 오픈소스로 공개했습니다 [2]. 2025년 11월에는 제미나이 앱 안 이미지 검증 기능과 함께 누적 적용 규모를 공개했습니다 [3].
도입효과: 워터마킹 적용 콘텐츠 200억 개 이상(2025년 11월 구글 발표 기준), 텍스트 방식은 Gemini 실서비스 약 2,000만 응답 실험으로 품질 검증(2024년 네이처 논문) [2][3]

케이스 2C2PA 진영 — 출처 증명 표준의 확산

어도비·마이크로소프트·BBC·인텔 등은 2021년 2월 콘텐츠 출처·이력을 메타데이터로 인증하는 표준 단체 C2PA를 결성했습니다 [4]. 구현 커뮤니티인 CAI는 2025년 8월 회원 5,000곳을 넘겼고, 삼성 갤럭시 S25는 네이티브 C2PA를 지원한 첫 스마트폰이 됐습니다 [5].
도입효과: 구현 커뮤니티(CAI) 회원 5,000곳 도달(2025년 8월), 갤럭시 S25 세계 첫 네이티브 지원 스마트폰(2025년 2월 기준) [5]

케이스 3대한민국 — AI 기본법의 생성물 표시 의무(한국)

한국은 2025년 1월 공포된 AI 기본법이 2026년 1월 22일 시행되면서 생성형 AI 결과물 표시가 법적 의무가 됐습니다 [7]. 제31조는 서비스 사전 고지, 생성물 표시, 딥페이크류는 이용자가 명확히 인식할 수 있는 표시를 요구합니다 [7]. 일반 생성물은 워터마크 같은 비가시적 표시도 인정되지만 딥페이크는 가시적 표시가 필요합니다 [7].
도입효과: 위반 시 과태료 3,000만 원 이하, 2026년 1월 22일 법·시행령 동시 시행(법무법인 해설 기준) [7]

케이스 4EU — 기계가 읽는 표시를 법으로

EU AI법 50조는 생성·조작 콘텐츠를 기계 판독 가능한 형식으로 표시하고 딥페이크는 공개하도록 요구합니다 [8]. 2026년 8월 2일부터 적용되고 기출시 시스템은 같은 해 12월까지 유예됩니다 [8]. 표시 방식을 구체화하는 실천규약 논의도 2026년 상반기 진행됐습니다 [8].
도입효과: 2026년 8월 2일 적용 개시(기출시 시스템 2026년 12월 2일까지 유예) [8]

주의할 점은?

오늘 바로 해보기
01. 제미나이 앱에 이미지를 올리고 AI 생성 여부 확인을 요청해 봅니다. SynthID 검증이 소비자 기능으로 들어와 있습니다 [3].
02. 어도비 콘텐츠 자격 증명(Content Credentials) 검사 도구에 사진 한 장을 올려 출처 정보를 확인합니다 [5].
03. 서비스가 생성형 AI 결과물을 내보낸다면 AI 기본법 제31조 표시 의무 대상인지 법무·정책 담당과 점검합니다 [7].
04. 딥페이크류 콘텐츠를 다룬다면 이용자가 명확히 인식할 수 있는 표시를 어떤 화면으로 구현할지 스케치합니다 [7].
05. 표시 정책 문서에 가시적 라벨과 비가시적 워터마크 중 무엇을 쓸지, 근거 조항과 함께 한 페이지로 정리합니다 [7][8].

한계와 진화
한계는 강건성입니다. 품질을 유지한 채 워터마크를 지우는 공격이 계속 확인되고 있고, 일정 가정에서는 강한 워터마킹 자체가 불가능하다는 이론 연구까지 나와 있습니다 [6]. 짧은 텍스트나 번역·재작성 텍스트에서는 텍스트 워터마크 신뢰도가 떨어진다고 개발 측도 밝혀 왔습니다 [2]. 메타데이터 방식은 스크린샷·재인코딩에서 정보가 소실될 수 있습니다.
그래도 방향은 의무화입니다. 한국(2026년 1월)과 EU(2026년 8월)가 표시 의무를 제도화했고 [7][8], 삼성처럼 기기 단계에서 출처 정보를 심는 하드웨어 지원도 시작됐습니다 [5]. 완벽한 판별 기술이 없는 상태에서 워터마크·메타데이터·플랫폼 라벨을 겹쳐 쓰는 다층 방어가 현실적 표준으로 자리 잡는 중입니다.

참고 자료

  1. Google DeepMind has launched a watermarking tool for AI-generated images — 언론 보도·MIT Technology Review·2023 — https://www.technologyreview.com/2023/08/29/1078620/google-deepmind-has-launched-a-watermarking-tool-for-ai-generated-images/
  2. Scalable watermarking for identifying large language model outputs — 논문·Nature(Google DeepMind)·2024 — https://www.nature.com/articles/s41586-024-08025-4
  3. How we're bringing AI image verification to the Gemini app — 공식 블로그·Google·2025 — https://blog.google/technology/ai/ai-image-verification-gemini-app/
  4. Technology and media entities join forces to create standards group(C2PA 창립) — 공식 발표·Microsoft 외·2021 — https://news.microsoft.com/source/2021/02/22/technology-and-media-entities-join-forces-to-create-standards-group-aimed-at-building-trust-in-online-content/
  5. 5,000 members: building momentum for a more trustworthy digital world — 공식 블로그·Content Authenticity Initiative·2025 — https://contentauthenticity.org/blog/5000-members-building-momentum-for-a-more-trustworthy-digital-world
  6. Watermarks in the Sand: Impossibility of Strong Watermarking for Generative Models — 논문·arXiv(ICML 2024)·2023 — https://arxiv.org/abs/2311.04378
  7. 인공지능 기본법과 콘텐츠 산업 – 투명성 확보 의무를 중심으로 — 로펌 뉴스레터·법무법인 세종·2026 — https://www.shinkim.com/kor/media/newsletter/3142
  8. The EU AI Act's Transparency Rules: A Practical Guide to Article 50 — 법령 해설·artificialintelligenceact.eu·2026 — https://artificialintelligenceact.eu/transparency-rules-article-50/

대표 출처

논문 (2024) · Google DeepMind(Nature), Scalable watermarking for identifying large language model outputs
카드뉴스로 공유하기 다른 AI 용어 보기