ทันเอไอ

연구, 정신건강 AI는 실제 임상 시험 부족으로 여전히 위험 존재

국제 연구 논문 분석 결과, LLM이 정신건강 선별검사에 도움을 줄 잠재력이 있으나 윤리적 및 안전성 측면의 도전 과제에 주의가 필요한 것으로 나타남

Yisong Chen 연구팀은 저널 Journal of Industrial Integration and Management에 게재되고 arXiv(cs.AI) 프리프린트 저장소에 공개된 "Large Language Models in Mental Health: A Systematic Review of Applications, Innovations, and Ethical Challenges" 주제의 체계적 문헌 고찰(Systematic Review) 논문을 발표했다.

이번 연구에서 연구팀은 PRISMA 표준 연구 방법론에 따라 관련 연구 논문 총 304편을 스크리닝하고, 높은 품질을 갖춘 92편을 선별하여 정신건강 분야에서의 거대언어모델(Large Language Models, LLMs) 활용을 분석했다.

연구 결과, 현재 정신건강 분야에서의 LLM 활용 범위는 소셜 미디어 텍스트 및 전자의무기록(EMR) 분석을 통한 우울증 징후 감지 및 초기 자살 위험 평가부터, 대화형 치료 봇(Conversational Agents) 및 의료진을 위한 의사결정 지원 시스템 개발까지 아우르는 것으로 나타났다. 또한 특수 의학을 위한 프롬프트 엔지니어링(Prompt Engineering)과 정확도 향상을 위한 텍스트, 음성, 센서 데이터 등 다중 모달 통합(Multimodal Integration)과 같은 혁신 기술도 활용되고 있다.

그러나 연구는 중요한 윤리적 도전 과제와 한계점도 지적했다. 대다수 연구가 여전히 실험 단계에 머물러 있으며 실제 임상 시험(Clinical Validation)이 부족하다는 것이다. 아울러 환각(Hallucination) 및 아첨 성향(Sycophancy)과 같은 정확도 및 안전성 측면의 위험도 존재하며, 이는 진단 오류로 이어질 수 있다. 그 외에도 환자 데이터 프라이버시, 모델의 불투명성(블랙박스), 명확한 법적 규제 프레임워크 부재 등의 문제가 제기되었다.