ทันเอไอ

Estudo aponta que IA em saúde mental ainda apresenta riscos e carece de testes clínicos reais

Análise de artigos de pesquisa internacionais revela que LLMs têm potencial para triagem em saúde mental, mas ainda enfrentam desafios éticos e de segurança que exigem cautela.

Uma equipe de pesquisadores liderada por Yisong Chen publicou uma revisão sistemática intitulada "Large Language Models in Mental Health: A Systematic Review of Applications, Innovations, and Ethical Challenges", veiculada no Journal of Industrial Integration and Management e disponibilizada no repositório arXiv (cs.AI).

No estudo, os pesquisadores utilizaram a metodologia padrão PRISMA para rastrear 304 artigos de pesquisa relacionados e selecionar 92 de alta qualidade, analisando a aplicação de modelos de linguagem grande (Large Language Models ou LLMs) na área de saúde mental.

Os resultados mostraram que o escopo atual de aplicação dos LLMs abrange desde a detecção de sinais de depressão e avaliação precoce de risco de suicídio — por meio da análise de textos em redes sociais e prontuários eletrônicos — até o desenvolvimento de chatbots terapêuticos (Conversational Agents) e sistemas de suporte à decisão para profissionais de saúde. Além disso, há o uso de inovações como Prompt Engineering para medicina personalizada e integração multimodal (texto, voz e dados de sensores) para maior precisão.

No entanto, a pesquisa aponta desafios e limitações éticas importantes, destacando que a maioria dos estudos ainda está em nível experimental e carece de validação clínica real (Lack of Clinical Validation). Há também riscos de precisão e segurança, como alucinações (Hallucination) e bajulação ao usuário (Sycophancy), que podem levar a erros de diagnóstico, além de questões sobre privacidade de dados de pacientes, transparência do modelo (Black-box) e falta de estruturas regulatórias legais claras.