ทันเอไอ

解密 AI Text Watermarking 机制：如何分辨人工智能生成的文本

深入了解 Anthropic 的 AI 文本水印系统，其通过词语选择统计而非隐藏数据来工作。

在人工智能广泛应用的当下，区分 AI 生成的文本变得至关重要，特别是像 Claude 开发商 Anthropic 这样的公司开始根据欧盟《人工智能法案》（EU AI Act）的要求引入机器可读水印（Machine-readable watermarks）以提高透明度。

从技术分析和开源数据来看，AI 文本水印（AI Text Watermarking）的工作机制与在文件中嵌入元数据（Metadata）或隐藏特殊 Unicode 字符完全不同。

其真正的原理是在模型生成文本的词元选择（Token selection）层面上使用“统计偏差”（Statistical Bias）。系统会借助密钥（Secret Key）引导模型在同义词中偏向选择某些词汇，而不是仅凭自然概率选择概率最高的词。这就好比在内容中植入了一种统计指纹。

然而，该系统既有优势也有局限性。即使经过复制/粘贴（Copy/Paste），水印依然会附着在文本上，但检测的准确性取决于文本长度，如果文本太短则难以检测。此外，如果对文本进行重度修改或释义（Paraphrasing），统计信号可能会被破坏并逐渐消失。