Anthropic dévoile le filigrane textuel de Claude : basé sur des statistiques de mots sans caractères cachés, mais plus difficile à supprimer qu'il n'y paraît
Anthropic détaille le mécanisme de filigrane des textes générés par Claude, confirmant l'utilisation de techniques statistiques conformes à SynthID-Text, sans caractères spéciaux cachés, et persistant même après un copier-coller.
Après l'annonce par Anthropic d'une politique d'intégration de filigranes (watermarks) dans les textes et fichiers générés par l'IA afin de se conformer à la loi européenne sur l'intelligence artificielle (EU AI Act), de vives critiques ont immédiatement surgit, cette mesure s'appliquant aux utilisateurs du monde entier et pas seulement en Europe. Nombreux sont ceux qui ont également affirmé qu'un tel filigrane serait facile à supprimer.
Récemment, Anthropic a fourni des explications supplémentaires via son Centre d'aide, précisant qu'elle utilise la technique du filigrane statistique (Statistical Watermarking). Cette méthode ajuste la probabilité de sélection des mots (tokens) lors de la génération par le modèle, créant un motif statistique détectable tout en maintenant un texte parfaitement lisible, indiscernable d'un texte ordinaire. La société a clairement confirmé qu'aucun caractère spécial ou Unicode caché n'est inséré.
La norme utilisée est SynthID-Text, développée par Google DeepMind. Ce mécanisme permet au filigrane de « persister » même si l'utilisateur fait un copier-coller du texte ailleurs. Néanmoins, la capacité de détection peut diminuer ou disparaître si le texte subit des modifications ou des paraphrases importantes (heavy editing/paraphrasing).
Cette démarche vise à se conformer à l'article 50 de l'EU AI Act, qui impose la transparence sur les contenus générés par l'IA. Anthropic commencera à l'appliquer aux modèles lancés à partir du 2 août 2026 à l'échelle mondiale. Ces informations ont été relayées de concert par des médias internationaux tels qu'Engadget et Forbes, confirmant qu'Anthropic a opté pour une méthode statistique plutôt que d'intégrer des métadonnées ou des caractères cachés.
Les utilisateurs thaïlandais de Claude seront directement concernés, cette mesure s'appliquant à l'échelle mondiale bien que la Thaïlande ne soit pas soumise à la législation européenne. Les textes générés par l'IA et réutilisés pourront être tracés pour déterminer leur origine artificielle, un enjeu crucial pour la transparence, le milieu académique et l'utilisation commerciale de contenus.