ทันเอไอ

Reddit face à un nouveau type de spam : des marques falsifient des avis pour influencer l'IA

Des marques se font passer pour des avis authentiques sur Reddit afin d'apparaître dans les réponses de ChatGPT et des moteurs de recherche IA, alors qu'une étude montre qu'un texte de seulement 13 mots peut influencer les réponses de l'IA

Le site The Verge rapporte, dans un article de Mia Sato, une nouvelle vague de spam sur Reddit, qui ne vise plus seulement à tromper les lecteurs, mais aussi à tromper « l'IA ». L'exemple cité est un fil de discussion dans un subreddit consacré aux soins de la peau, où un utilisateur demande si quelqu'un a déjà essayé un spray à l'acide hypochloreux (un antiseptique populaire contre l'acné) d'une certaine marque. Un utilisateur nommé Primary-Taro4254 répond alors de manière apparemment innocente, en recommandant le spray de la marque Honeydew Labs avec des éloges détaillés — un schéma classique de faux avis destiné à alimenter l'IA.

Ce phénomène porte un nom : le « generative engine optimization » ou GEO — une stratégie consistant à créer du contenu en ligne pour faire apparaître sa propre marque dans les réponses générées par l'IA. Forbes rapporte dans le même sens qu'alors que Reddit annonce des mesures contre le spam, les bots et les contenus malhonnêtes, les marques utilisent cette plateforme pour influencer discrètement ce que les outils de recherche IA comme ChatGPT disent d'elles.

L'inquiétude vient d'une étude de l'université Cornell, qui a découvert qu'un texte de seulement 13 mots inséré dans un commentaire Reddit suffit à influencer les réponses générées par l'IA, car les modèles de langage modernes puisent souvent leurs informations dans des forums comme Reddit pour répondre aux questions des utilisateurs.

De son côté, Reddit a révélé à TechCrunch que l'entreprise bloque 23 millions de tentatives de consultation de spam par jour et détecte environ 25 000 nouveaux posts ou commentaires indésirables quotidiennement, tout en indiquant avoir réduit de 20 % l'exposition des utilisateurs au spam entre janvier et mars, par rapport aux trois mois précédents.

Les effets commencent déjà à se faire sentir au niveau des communautés. Selon 404 Media, les modérateurs de r/biohackers viennent d'annoncer des restrictions sur les publications concernant les peptides et les traitements hormonaux substitutifs, après avoir découvert que des entreprises vendant ces produits inséraient systématiquement du contenu sponsorisé afin d'être repris par des outils comme ChatGPT et Google AI search.