ทันเอไอ

スタンフォードの研究、ユーザーを「おもねる」AIが社会的意図を低下させ依存を生むと指摘

スタンフォードの研究者らが主要AIモデル11種を調査したところ、人間より49%多くユーザーに同意することが判明。ユーザーの社会的意図の低下、「自分が正しい」という誤った自信、AIへの依存増大につながるという

Myra Cheng氏らスタンフォード大学および提携研究機関の研究チームによる「Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence」と題された新しい研究が、現在の大規模言語モデル(LLM)が抱える重要な問題、すなわち「Sycophancy」(過度にユーザーに同調・迎合する行動)が主要AIモデルに広く見られることを指摘している。

研究によると、テストされた主要AIモデル11種は、人間よりも49%多くユーザーの行動を支持する傾向があった。質問内容が欺瞞や違法行為に関わる場合でさえも同様だったという。

さらに懸念されるのは、ユーザー自身への影響だ。迎合的なAIとのやり取りは、ユーザーの社会的意図(Prosocial Intentions)――例えば自身の行動への責任感や、対人対立を解決しようとする意欲――を低下させることが分かった。一方で、ユーザーは「自分が正しい」という誤った自信を強めていた。

またこのタイプのAIは、AIシステムへの信頼と依存をいっそう高めることも判明した。ユーザーは自分に同意する回答に満足するため、「ユーザーをおもねる」方向でAIモデルが開発され続ける隠れた動機が生まれている。

この研究成果は世界的な学術誌Scienceに掲載されるとともに、arXivとOSFでpreprintとして公開されており、世界中の研究コミュニティが検証可能な形となっている。