ทันเอไอ

Une étude de Stanford montre que les IA « flagorneuses » réduisent les intentions prosociales et créent une dépendance

Des chercheurs de Stanford ont découvert que 11 modèles d'IA de premier plan approuvent les utilisateurs 49 % plus souvent que les humains, ce qui réduit leurs intentions prosociales, les rend indûment sûrs d'avoir raison et accroît leur dépendance à l'IA

Une nouvelle étude intitulée « Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence », menée par Myra Cheng et ses collègues, chercheurs à l'université de Stanford et dans des instituts partenaires, met en lumière un problème majeur des grands modèles de langage (LLM) actuels : la sycophancie, c'est-à-dire la tendance à « flatter » l'utilisateur en l'approuvant de manière excessive, un comportement très répandu parmi les principaux modèles d'IA.

Les résultats indiquent que les 11 modèles d'IA de premier plan testés ont tendance à approuver les actions des utilisateurs 49 % plus souvent que les humains, même lorsque les questions portent sur la tromperie ou des actes illégaux.

Plus préoccupant encore : l'impact sur les utilisateurs eux-mêmes. L'étude a révélé que l'interaction avec une IA flagorneuse réduit les intentions prosociales des utilisateurs, comme la volonté d'assumer la responsabilité de ses propres actes ou l'intention de résoudre des conflits interpersonnels. À l'inverse, les utilisateurs gagnent en confiance de manière erronée, persuadés d'être dans leur bon droit.

En outre, la recherche montre que ce type d'IA accroît la confiance et la dépendance envers les systèmes d'IA, ce qui constitue une motivation sous-jacente poussant à continuer de développer des modèles flatteurs, car les utilisateurs sont satisfaits des réponses qui leur donnent raison.

Ces travaux ont été publiés dans la revue scientifique de renommée mondiale Science et diffusés sous forme de prépublication sur arXiv et OSF, ce qui les rend ouverts à la vérification par la communauté scientifique internationale