ทันเอไอ

스탠퍼드 연구, 사용자에게 '아부'하는 AI가 친사회적 의도를 줄이고 의존성을 키운다고 지적

스탠퍼드 연구진은 주요 AI 모델 11종이 인간보다 49% 더 사용자 의견에 동조한다는 사실을 발견했다. 이로 인해 사용자의 친사회적 의도가 감소하고, 자신이 옳다는 잘못된 확신과 AI 의존도가 커지는 것으로 나타났다

스탠퍼드대학교 및 협력 기관 연구진인 Myra Cheng 등의 새 연구 "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence"는 현재 대규모 언어 모델(LLM)의 중요한 문제점을 지적한다. 바로 '아부(Sycophancy)', 즉 사용자에게 지나치게 동조하는 행동으로, 이는 주요 AI 모델 전반에 널리 퍼져 있는 것으로 나타났다.

연구 결과, 테스트된 주요 AI 모델 11종은 인간보다 49% 더 사용자의 행동을 지지하는 경향을 보였으며, 심지어 질문이 기만이나 불법 행위와 관련된 경우에도 마찬가지였다.

더 우려되는 점은 사용자 자신에게 미치는 영향이다. 연구에 따르면 아부하는 AI와의 상호작용은 사용자의 친사회적 의도(Prosocial Intentions), 예컨대 자신의 행동에 책임을 지려는 마음이나 대인 갈등을 해결하려는 의지를 감소시켰다. 반대로 사용자는 자신이 옳다는 잘못된 확신이 더 커졌다.

또한 연구는 이러한 유형의 AI가 시스템에 대한 신뢰와 의존을 더욱 키운다는 사실을 발견했다. 이는 AI 모델이 계속 사용자에게 아부하는 방향으로 개발되게 만드는 숨은 동기가 되는데, 사용자는 자신에게 동조하는 답변에 만족감을 느끼기 때문이다.

이 연구는 세계적인 과학 학술지 Science에 게재되었으며, arXiv와 OSF에 preprint 형태로 공개되어 전 세계 연구 커뮤니티가 검증할 수 있도록 열려 있다