AI 워터마크의 작동 원리
업데이트 September 1, 2026 · 최초 게시 September 1, 2026
지원되는 Claude 모델이 생성한 텍스트에는 보이지 않는 신호가 들어 있습니다. 여러분도, 사용자도 볼 수 없습니다. 의미나 품질, 읽는 경험을 바꾸지 않으며 청구서에도 나타나지 않습니다. 그래도 분명히 들어 있습니다. 이를 깨뜨리는 요인은 여러분의 파이프라인이 매일 수행하는 작업이므로, 10분 정도 이해해 둘 가치가 있습니다.
텍스트 워터마크의 작동 방식
언어 모델은 가장 확률이 높은 다음 토큰 하나만 고르지 않습니다. 확률 분포에서 무작위성을 사용해 샘플링합니다. 워터마크 기법은 Google DeepMind의 SynthID-Text 방식을 따르며, 이 무작위성에 편향을 줍니다. 탐지기만 아는 패턴에 따라 특정 토큰이 원래보다 아주 조금 더 자주 선택되도록 만드는 것입니다.
단어 하나의 선택은 평범합니다. 그럴듯한 대안이 언제나 있었고, 모델은 그중 하나를 골랐을 뿐입니다. 하지만 수백 개의 토큰에 걸치면 그 패턴이 쌓여, 탐지기는 측정할 수 있고 독자는 인지할 수 없는 통계적 신호가 됩니다. 이것이 핵심 원리입니다. 워터마크는 모델이 이미 무작위로 내리던 결정 속에 숨어 있습니다.
여기서 두 가지 결과가 바로 따라옵니다. 둘 다 원리 자체만큼 중요합니다. 첫째, 이것은 도장이 아니라 통계입니다. 읽을 수 있는 필드는 없고, 계산해야 할 신뢰도만 있습니다. 둘째, 길이가 필요합니다. 트윗 길이의 출력은 한 페이지 분량보다 훨씬 적은 신호를 담습니다.
이미지의 출처 증명은 방식이 다릅니다
생성된 .svg, .png, .jpg 파일에는 C2PA 메타데이터가 들어 있습니다. 어떤 시스템이 파일을 만들었는지 기록한, 암호학적으로 서명된 매니페스트입니다. 통계적이지도 않고 숨겨져 있지도 않습니다. 파일에 붙은 이산적인 데이터 블록이므로 확률이 아니라 정확하게 검증할 수 있습니다.
트레이드오프는 예상한 그대로입니다. 서명된 메타데이터는 확실성을 주지만 명령 한 줄로 삭제할 수 있습니다. 통계적 텍스트 워터마크는 깔끔하게 지울 수 없지만, 편집하거나 바꿔 쓰거나 번역하면 점점 약해집니다. 어느 쪽도 자물쇠가 아니며, 둘 다 증거입니다.
누가 확인할 수 있나
탐지는 자격이 있는 곳에만 열려 있습니다. 2026년 9월 1일, 자격을 갖춘 기관을 대상으로 API가 열렸습니다. 대상은 규제 기관, 법 집행 기관, 언론, 팩트체커, 독립 연구자, 교육 기관, EU 시민사회 단체, 그리고 자체 검증 의무가 있는 기업입니다. 접근 범위는 시간이 지나며 넓어질 예정입니다. 자격이 없다면 API로 자신의 출력을 검증할 수 없으며, 증거는 자체 로그에서 찾아야 합니다.
도입 배경
EU AI법 제50조가 2026년 8월 2일에 발효되었고, AI가 생성한 콘텐츠에 기계가 읽을 수 있는 표시를 요구합니다. 표시는 EU에만 적용하지 않고 전 세계에 적용되는데, 이쪽이 더 단순한 엔지니어링 선택입니다. 그래서 여러분이 몇 달 전에 배포한 출력에도 이미 들어 있습니다.
시스템에 주는 의미
실무적으로 세 가지를 기억해 두세요. 첫째, 짧은 출력은 신호가 약합니다. 단어 하나만 반환하는 분류기나 추출 서비스는 사실상 표시가 없는 것과 같습니다. 둘째, 바꿔 쓰기, 요약, 번역, 두 번째 모델 통과 같은 무거운 후처리는 신호를 약화시킵니다. 모델 체인에서는 기껏해야 마지막 모델로만 귀속됩니다. 셋째, 이미지 파이프라인이 실수로 C2PA 메타데이터를 파괴할 수 있으며, 운영 환경에서 출처 정보가 사라지는 가장 흔한 경로가 바로 이것입니다.
그렇다고 만드는 방식을 바꿀 이유는 없습니다. 누군가 증명을 요구하기 전에, 어떤 출력이 아직 출처 정보를 가지고 있고 어떤 출력은 그렇지 않은지 알아두는 것이 중요합니다.
관련 글
관련 글
이 내용을 현재 스택에 적용하고 싶으신가요? 공급업체 청구서, 게이트웨이 로그, 주요 워크플로를 가져오시면 비용 요인과 절감 경로를 정리해드립니다. 무료 감사 예약 →