ทันเอไอ

Une étude pointe les risques des IA en santé mentale et le manque de tests cliniques réels

Une méta-analyse révèle le potentiel des LLM pour le dépistage en santé mentale, mais souligne d'importants défis éthiques et de sécurité.

Une équipe de chercheurs dirigée par Yisong Chen a publié une revue systématique intitulée "Large Language Models in Mental Health: A Systematic Review of Applications, Innovations, and Ethical Challenges" dans la revue Journal of Industrial Integration and Management, également mise en ligne sur le serveur de prépublications arXiv (cs.AI).

Pour cette étude, les chercheurs ont appliqué la méthodologie standard PRISMA pour examiner 304 articles de recherche, en retenant 92 publications de haute qualité afin d'analyser l'application des grands modèles de langage (LLM) dans le domaine de la santé mentale.

Les résultats montrent que les applications actuelles des LLM vont de la détection des signes de dépression et de l'évaluation précoce du risque suicidaire — via l'analyse de messages sur les réseaux sociaux et de dossiers médicaux électroniques — au développement d'agents conversationnels thérapeutiques et de systèmes d'aide à la décision pour les professionnels de santé. L'étude note également l'usage d'innovations telles que le Prompt Engineering pour la médecine spécialisée et l'intégration multimodale (texte, audio, données de capteurs) afin d'améliorer la précision.

Cependant, la recherche met en évidence des défis et des limites éthiques majeurs, soulignant que la plupart des travaux restent au stade expérimental et manquent de validation clinique réelle. Des risques liés à la précision et à la sécurité subsistent, tels que les hallucinations, la complaisance envers l'utilisateur (sycophancy) — qui peuvent mener à des erreurs de diagnostic —, ainsi que les questions de confidentialité des données des patients, l'opacité des modèles (boîte noire) et l'absence de cadres réglementaires clairs.