ทันเอไอ

Desvelando el mecanismo de AI Text Watermarking: cómo distingue el texto generado por inteligencia artificial

Comprende el sistema de marca de agua en textos de IA de Anthropic, que funciona mediante estadística en la selección de palabras en lugar de ocultar datos.

En medio del uso generalizado de la inteligencia artificial, el tema de distinguir el texto generado por IA se ha vuelto crucial, especialmente cuando la empresa desarrolladora Anthropic, creadora de Claude, ha comenzado a implementar sistemas de marcas de agua legibles por máquina (Machine-readable watermarks) según los requisitos de la Ley de Inteligencia Artificial de la UE (EU AI Act) para aumentar la transparencia.

A partir de análisis técnicos y fuentes de código abierto, se descubre que el sistema de marcas de agua en texto (AI Text Watermarking) funciona de manera totalmente diferente a la incrustación de metadatos o a la ocultación de caracteres especiales como Unicode invisible en los archivos.

El principio real es el uso de un "sesgo estadístico" (Statistical Bias) a nivel de selección de palabras (Token selection). Mientras el modelo genera texto, se utiliza una clave secreta (Secret Key) para influir en el modelo para que elija ciertas palabras con significados similares, en lugar de elegir solo la palabra con la mayor probabilidad natural. Es comparable a crear una huella digital estadística incrustada en el contenido.

Sin embargo, este sistema tiene tanto ventajas como limitaciones. Esta marca de agua permanecerá adjunta al texto incluso después de copiar y pegar (Copy/Paste), pero la precisión de la detección dependerá de la longitud del texto. Si el texto es demasiado corto, será difícil de detectar. Además, la señal estadística puede ser destruida y desvanecerse si hay edición de texto o parafraseo (Paraphrasing) intenso.