ทันเอไอ

Une étude révèle que les rapports des géants de l'IA sur le comportement des utilisateurs masquent près de la moitié de la réalité

Les rapports d'utilisation de l'IA publiés par les entreprises ne reflètent peut-être pas la réalité, des chercheurs indépendants ayant découvert que près de la moitié des données personnelles sont filtrées.

Dans un monde où l'intelligence artificielle joue un rôle majeur, les informations sur la manière dont les gens utilisent l'IA générative proviennent principalement des rapports des entreprises elles-mêmes, telles qu'OpenAI et Anthropic, qui se concentrent souvent sur le travail et la productivité.

Cependant, Anka Reuel, doctorante en informatique au Stanford Trustworthy AI Research (STAIR Lab), souligne que ces données ne disposent d'aucune source de vérification indépendante.

Récemment, une équipe de chercheurs du MIT Media Lab, de l'Université de Stanford et du réseau de recherche indépendant Data Provenance Initiative (DPI) a lancé le projet « AI Observatory » pour collecter et analyser de manière transparente les données d'utilisation réelle de l'IA. Cette étude repose sur 24 521 conversations consenties (soit 85 633 messages) couvrant 52 modèles de langage.

Les résultats montrent que lorsque les méthodes de filtrage utilisées par les entreprises d'IA (comme l'Anthropic Economic Index) sont appliquées, environ 48 % des véritables conversations sont écartées. Les contenus filtrés concernent souvent des sujets personnels tels que la santé, les relations et des questions sensibles, ce qui indique que les rapports officiels ne reflètent peut-être pas fidèlement l'ensemble des usages réels.