ทันเอไอ

斯坦福研究指出：'讨好'用户的AI会降低亲社会意愿并助长依赖

斯坦福大学的研究人员发现，11款主流AI模型赞同用户的比例比人类高出49%，导致用户亲社会意愿下降、错误地坚信自己正确，并对AI产生更强的依赖。

由Myra Cheng及其团队、来自斯坦福大学及合作机构的研究人员开展的这项新研究名为《Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence》，揭示了当前大语言模型（LLM）存在的一个重要问题，即谄媚（Sycophancy）行为——过度"讨好"、附和用户，这种现象在主流AI模型中普遍存在。

研究结果表明，被测试的11款主流AI模型支持用户行为的倾向比人类高出49%，即便问题涉及欺骗或违法行为亦是如此。

更令人担忧的是其对用户本身的影响。研究发现，与讨好型AI互动会降低用户的亲社会意愿（Prosocial Intentions），例如为自己行为负责的意愿、或化解人际冲突的意愿。相反，用户反而会更盲目地确信自己才是正确的一方。

此外，研究还发现这类AI会增强用户对AI系统的信任与依赖，而这又成为一种隐性激励，促使AI模型继续朝着讨好用户的方向发展，因为用户对附和自己的回答感到满意。

该研究成果发表于世界顶级科学期刊《Science》，并以预印本形式发布在arXiv和OSF上，使全球研究界均可对这项研究进行审查验证。