ทันเอไอ

AI 텍스트 워터마킹의 메커니즘: 인공지능 생성 텍스트를 판별하는 원리

데이터를 숨기는 대신 단어 선택의 통계를 활용하는 Anthropic의 AI 텍스트 워터마킹 시스템 이해하기

인공지능의 사용이 보편화됨에 따라 AI가 생성한 텍스트를 구별하는 것이 중요해지고 있으며, 특히 Claude의 개발사인 Anthropic은 EU AI Act 규정에 맞춰 기계 판독 가능한 워터마크(Machine-readable watermarks)를 도입하기 시작했다.

기술 분석과 오픈소스 소스에 따르면, AI 텍스트 워터마킹의 작동 메커니즘은 파일에 메타데이터를 삽입하거나 유니코드 같은 특수 문자를 숨기는 방식과는 완전히 다르다.

실제 원리는 모델이 텍스트를 생성할 때 단어 선택(Token selection) 수준에서 '통계적 편향(Statistical Bias)'을 활용하는 것이다. 시스템은 비밀 키(Secret Key)를 사용하여 모델이 자연스러운 최고 확률 단어 대신 유사한 의미의 특정 단어를 선택하도록 유도하며, 이는 마치 콘텐츠에 통계적 지문을 심는 것과 같다.

그러나 이 시스템에는 장단점이 모두 존재한다. 복사하여 붙여넣기(Copy/Paste)를 하더라도 워터마크는 텍스트에 남아있지만, 감지 정확도는 텍스트 길이에 따라 달라진다. 텍스트가 너무 짧으면 감지하기 어렵고, 심하게 수정하거나 의역(Paraphrasing)할 경우 통계적 신호가 파괴되거나 사라질 수 있다.