« AI Psychosis » : le nouvel angle mort des dirigeants, quand le CEO fait plus confiance à l'IA qu'aux humains
Fast Company pointe le phénomène d'« AI psychosis », nouvel angle mort des dirigeants qui s'appuient excessivement sur les réponses de l'IA, au point de perdre leur esprit critique dans la prise de décision
Le monde de la tech s'empare d'une nouvelle lecture du phénomène appelé « AI psychosis » (psychose liée à l'IA). Un article de Fast Company le décrit comme le tout dernier angle mort des dirigeants d'entreprise, nombre de cadres s'appuyant et se fiant tellement aux réponses de l'IA qu'ils en perdent tout esprit critique et cessent de vérifier les informations par eux-mêmes.
Il convient de préciser que l'« AI psychosis » n'est pas un diagnostic médical, mais une métaphore décrivant le comportement de dirigeants. Le terme a gagné en notoriété grâce à un tweet de Mitchell Hashimoto, cofondateur de HashiCorp, puis a été développé par Aaron Levie, CEO de Box, qui estime que les CEO sont particulièrement exposés à cet état, car éloignés du « dernier kilomètre du travail » (last mile of work). Ils prennent ainsi leurs décisions en s'appuyant sur des résultats d'IA qui semblent meilleurs qu'ils ne le sont réellement.
Les symptômes qualifiés d'« AI psychosis » au niveau des dirigeants incluent : une confiance dans les recommandations de l'IA supérieure à celle accordée aux avis des collaborateurs ou à leur propre expérience ; l'absence de vérification de l'exactitude des productions de l'IA ; et le renoncement au questionnement, l'IA fournissant souvent des réponses assurées qui confortent les idées préexistantes du dirigeant — créant un effet de chambre d'écho (echo chamber).
L'article considère qu'il s'agit davantage d'un échec de leadership (leadership failure) que d'un problème de santé mentale, qualifiant cet état de « cognitive surrender », soit l'abandon de sa pensée critique au profit de l'IA.
Le terme « AI psychosis » est toutefois aussi employé dans un autre contexte, en psychiatrie : il désigne alors le cas d'utilisateurs vulnérables psychologiquement qui pourraient développer des idées délirantes ou une dépendance excessive à l'IA. Il s'agit d'un sujet distinct de l'usage en entreprise, bien que le terme soit identique.
Le sujet a fait débat sur Hacker News avec 150 points et 90 commentaires, signe que les professionnels de la tech s'inquiètent eux aussi de l'utilisation de l'IA sans vérification.
Alors que les entreprises thaïlandaises commencent à intégrer l'IA dans leurs processus décisionnels, ce sujet rappelle que les outils d'IA ne devraient pas remplacer le raisonnement humain, en particulier au niveau des dirigeants, dont les erreurs de décision impactent l'ensemble de l'organisation. Il invite aussi à réfléchir à la nécessité de vérifier les informations générées par l'IA avant de les exploiter.