AI 워터마크가 훼손되는 방식
업데이트 September 1, 2026 · 최초 게시 September 1, 2026
AI 워터마크에서 흥미로운 질문은 이를 어떻게 무력화하느냐가 아닙니다. 아무도 무언가를 제거하려 하지 않았는데도, 왜 그렇게 많은 운영 출력물이 파이프라인 끝에서 출처 정보를 잃은 채 도착하는가가 핵심입니다. 출처 정보는 보통 공격받지 않습니다. 시스템이 설계된 대로 정확히 동작하는 과정에서 최적화되어 사라집니다.
독립적인 실패 모드는 두 가지입니다. 메커니즘이 두 가지이기 때문입니다. 이미지의 출처 정보는 삭제로 사라지고, 텍스트의 출처 정보는 희석으로 사라집니다. 둘 다 아무런 경고 없이 일어납니다.
삭제: 파이프라인이 버리는 메타데이터
C2PA 출처 정보는 파일의 메타데이터에 들어 있습니다. 다음 항목들은 별도로 설정하지 않으면 모두 이를 버리며, 대부분은 증거가 아니라 바이트 크기에 맞춰 설정되어 있습니다.
| 단계 | 제거되는 이유 |
|---|---|
| 썸네일 및 리사이즈 작업 | 픽셀을 다시 인코딩하면서 이미지가 아닌 청크를 제거함 |
| CDN 이미지 변환 | 기본적으로 전송 용량을 줄이도록 최적화됨 |
| 포맷 변환(WebP/AVIF) | 컨테이너를 바꾸는 과정에서 메타데이터가 전달되지 않는 경우가 많음 |
| 소셜 및 CMS 업로드 | 제3자 플랫폼이 이미지를 정규화하고 다시 인코딩함 |
| 생성된 이미지 스크린샷 | 완전히 새로운 파일을 만듦 |
패턴은 일관됩니다. 이미지를 다시 인코딩하는 모든 작업은 새 파일을 만들고, 새 파일에는 누군가 의도적으로 서명된 매니페스트를 다시 붙이지 않는 한 서명된 매니페스트가 없습니다. 생성과 전달 사이에 자동 변환이 하나만 있어도 충분합니다.
희석: 신호를 깎아내는 텍스트 단계
텍스트 워터마크는 통계적이므로 한 단계에서 사라지지 않고 점점 약해집니다. 다음 각 단계는 탐지 신뢰도를 떨어뜨리며, 그 효과는 누적됩니다.
번역은 다른 언어로 모든 토큰을 다시 생성합니다. 바꿔 쓰기나 "우리 톤으로 다시 쓰기" 작업도 신호를 약화시킵니다. 요약은 신호를 담고 있던 토큰 대부분을 버립니다. 출력을 두 번째 모델에 통과시키면 텍스트는 기껏해야 마지막 모델에 귀속됩니다. 심한 사람의 손 편집도 마찬가지입니다. 그리고 두 문장짜리 출력은 애초에 신호를 많이 담지 못합니다.
참고로 잘 만들어진 일반적인 제품도 이 중 여러 가지를 수행합니다. 한 모델로 생성하고, 다른 모델로 톤을 다듬고, 다섯 개 언어로 번역하고, 요약 카드로 잘라내는 파이프라인은 잘못된 일을 한 것이 아닙니다. 그럼에도 어떤 탐지기도 자신 있게 귀속시키지 못하는 출력을 만들어 냅니다. 그 과정에서 이를 목적으로 한 코드 한 줄 없이 말입니다.
이것이 비용이 되는 이유
청구서는 출처를 증명하라는 요청을 받았는데 증명할 수 없는 순간에 도착합니다. 제50조에 따르면 생성된 콘텐츠에 표시를 해야 할 의무가 있으며, 전달 경로가 그 표시를 파괴한다면 생성 당시 모델이 어떻게 동작했든 의무는 이행되지 않은 것입니다. 이후의 해결책은 마감에 쫓기며 파이프라인을 뜯어고치는 작업이 되며, 이는 엔지니어링에서 가장 비싼 형태입니다.
더 저렴한 방법은 오늘 당장 할 수 있는 테스트 하나입니다. 실제 운영 경로로 이미지 하나와 긴 텍스트 하나를 생성해 끝에서 무엇이 살아남는지 확인하세요. 반나절이면 충분하며, 파이프라인이 깨끗한지 확인하거나 문제가 되는 정확한 단계를 찾아낼 수 있습니다.
대응 방법
이미지 변환에서는 기본값에 기대지 말고 메타데이터를 명시적으로 보존하세요. 직접 제어하는 재인코딩 이후에는 출처 정보를 다시 붙이세요. 표시가 살아남을 수 없는 경우, 예를 들어 제3자 플랫폼이나 꼭 필요한 요약 단계에서는 증거를 자체 텔레메트리에 남기세요. 모델 ID, 버전, 리전, 타임스탬프를 아티팩트 ID와 연결해 두는 것입니다. 이 로그가 표시를 대체하지는 않지만, 표시가 사라졌을 때 질문에 답해 주는 기록이 됩니다.
그리고 탐지 결과는 증명이 아니라 증거로 다루세요. 이는 통계적 신호에 대한 신뢰도일 뿐입니다. 짧거나 많이 가공된 텍스트는 실제로 생성된 것이라도 결론을 내릴 수 없는 결과로 나타납니다. 낮은 신뢰도 결과를 판정으로 취급하는 시스템은 양방향으로 틀리게 됩니다.
관련 글
관련 글
이 내용을 현재 스택에 적용하고 싶으신가요? 공급업체 청구서, 게이트웨이 로그, 주요 워크플로를 가져오시면 비용 요인과 절감 경로를 정리해드립니다. 무료 감사 예약 →