ทันเอไอ

メンタルヘルス向けAIにリスク、実際の臨床試験が不足していると研究が指摘

国際的な研究論文の分析結果によると、LLMにはメンタルヘルスのスクリーニングを支援するポテンシャルがあるものの、倫理面や安全性の課題に注意が必要であることが明らかに。

Yisong Chen氏らの研究チームは、「Large Language Models in Mental Health: A Systematic Review of Applications, Innovations, and Ethical Challenges」と題したシステマティックレビュー論文を発表した。同論文は『Journal of Industrial Integration and Management』に掲載され、プレプリントリポジトリのarXiv（cs.AI）でも公開されている。

本研究では、PRISMA基準に従った研究手法を用い、関連する研究論文304件をスクリーニングし、質の高い92件を厳選して、メンタルヘルス分野における大規模言語モデル（LLM）の応用について分析を行った。

調査の結果、現在のLLMの応用範囲は、ソーシャルメディアのテキストや電子カルテの分析を通じたうつ病の兆候検知や早期の自殺リスク評価から、会話型セラピーエージェント（Conversational Agents）や医療従事者向けの意思決定支援システムの開発に至るまで多岐にわたることが判明した。さらに、医療特化型のプロンプトエンジニアリング（Prompt Engineering）や、テキスト、音声、センサーデータなどのマルチモーダル統合（Multimodal Integration）を活用した精度向上といったイノベーションも見られる。

しかし、研究では重大な課題や倫理的制限も指摘されている。大半の研究がいまだ実験段階にとどまっており、実際の臨床試験（Clinical Validation）が不足しているという。また、ハルシネーション（幻覚）やユーザーへの迎合（Sycophancy）といった精度・安全性に関するリスクもあり、誤診につながるおそれがある。さらに、患者データのプライバシー、モデルのブラックボックス問題、明確な法規制の枠組みの欠如といった課題も挙げられている。