Как работает механизм AI Text Watermarking для распознавания текстов от искусственного интеллекта
Разбираем систему встраивания водяных знаков в ИИ-тексты от Anthropic, которая работает на основе статистики выбора слов, а не скрытых данных.
На фоне широкого распространения искусственного интеллекта проблема распознавания сгенерированных текстов стала крайне актуальной — особенно после того, как компания Anthropic, создатель Claude, начала внедрять машиночитаемые водяные знаки в соответствии с требованиями закона ЕС об ИИ (EU AI Act) для повышения прозрачности.
Технический анализ и данные из открытых источников показывают, что система водяных знаков для текста (AI Text Watermarking) кардинально отличается от встраивания метаданных или скрытия специальных символов (например, невидимых юникод-знаков) в файлах.
Истинный принцип заключается в использовании «статистического смещения» (Statistical Bias) на уровне выбора токенов (Token selection). Во время генерации текста модель использует секретный ключ, который подталкивает её выбирать определённые слова среди синонимов, а не просто те слова, которые имеют наибольшую естественную вероятность. Это похоже на создание статистического отпечатка пальца, внедрённого в контент.
Тем не менее, у этой технологии есть как плюсы, так и минусы. Водяной знак сохраняется даже при копировании и вставке (Copy/Paste), однако точность обнаружения зависит от длины текста: слишком короткие фрагменты трудноdetect'ить. Кроме того, статистический сигнал может быть нарушен и стёрт при сильном редактировании или перефразировании (Paraphrasing).
Эта технология важна для пользователей в Таиланде и по всему миру, чтобы понимать, как различные организации и платформы будут проверять происхождение контента, созданного ИИ, а также осознавать технические ограничения, из-за которых водяные знаки легко искажаются при переписывании текста.