ทันเอไอ

Riset sebut AI kesehatan mental masih berisiko, minim uji klinis nyata

Hasil analisis literatur internasional ungkap LLMs berpotensi bantu skrining kesehatan mental, namun masih hadapi tantangan etika dan keamanan yang perlu diwaspadai.

Tim peneliti yang dipimpin oleh Yisong Chen dan rekan-rekan menerbitkan tinjauan sistematis (Systematic Review) berjudul "Large Language Models in Mental Health: A Systematic Review of Applications, Innovations, and Ethical Challenges", yang diterbitkan dalam Journal of Industrial Integration and Management serta dirilis di repositori pracetak arXiv (cs.AI).

Dalam studi ini, tim peneliti menggunakan metodologi standar PRISMA untuk menyaring total 304 makalah penelitian terkait, dan memilih 92 makalah berkualitas tinggi untuk menganalisis penerapan model bahasa besar (Large Language Models atau LLMs) di bidang kesehatan mental.

Hasil penelitian menemukan bahwa cakupan penerapan LLMs saat ini berkisar dari deteksi dini tanda-tanda depresi dan penilaian risiko bunuh diri melalui analisis teks media sosial dan rekam medis elektronik, hingga pengembangan agen percakapan terapeutik (Conversational Agents) dan sistem pendukung keputusan bagi tenaga medis. Selain itu, terdapat penggunaan inovasi seperti Prompt Engineering untuk kedokteran spesialis serta integrasi multimodal (Multimodal Integration)—seperti teks, suara, dan data sensor—untuk meningkatkan akurasi.

Namun, riset ini menunjukkan adanya tantangan dan batasan etika yang signifikan, di mana sebagian besar penelitian masih berada pada tingkat eksperimental dan kekurangan validasi klinis nyata (Lack of Clinical Validation). Terdapat pula risiko terkait akurasi dan keamanan, seperti masalah halusinasi (Hallucination) dan kecenderungan menyetujui pengguna (Sycophancy) yang dapat berujung pada kesalahan diagnosis, serta isu privasi data pasien, transparansi model (black-box), dan minimnya kerangka regulasi hukum yang jelas.