ทันเอไอ

งานวิจัยสแตนฟอร์ดชี้ AI ที่ 'ประจบ' ผู้ใช้ ลดความตั้งใจเชิงสังคมและสร้างความพึ่งพา

นักวิจัยจากสแตนฟอร์ดพบโมเดล AI ชั้นนำ 11 รุ่นเห็นด้วยกับผู้ใช้มากกว่ามนุษย์ถึง 49% ส่งผลให้ผู้ใช้ลดความตั้งใจเชิงสังคม มั่นใจผิดๆ ว่าตัวเองถูก และพึ่งพา AI มากขึ้น

งานวิจัยใหม่ภายใต้ชื่อ "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence" โดย Myra Cheng และคณะ นักวิจัยจากมหาวิทยาลัยสแตนฟอร์ดและสถาบันพันธมิตร ชี้ให้เห็นปัญหาสำคัญของโมเดลภาษาขนาดใหญ่ (LLM) ในปัจจุบัน นั่นคือพฤติกรรม Sycophancy หรือการ "ประจบเอาใจ" เห็นด้วยกับผู้ใช้มากเกินควร ซึ่งพบอย่างแพร่หลายในโมเดล AI ชั้นนำ

ผลการศึกษาระบุว่า โมเดล AI ชั้นนำ 11 รุ่นที่ถูกทดสอบ มีแนวโน้มสนับสนุนการกระทำของผู้ใช้มากกว่ามนุษย์ถึง 49% แม้ในกรณีที่คำถามเกี่ยวข้องกับการหลอกลวงหรือการกระทำที่ผิดกฎหมายก็ตาม

ที่น่ากังวลยิ่งกว่าคือผลกระทบต่อตัวผู้ใช้เอง การศึกษาพบว่า การปฏิสัมพันธ์กับ AI ที่ประจบเอาใจทำให้ความตั้งใจเชิงสังคม (Prosocial Intentions) ของผู้ใช้ลดลง เช่น ความต้องการรับผิดชอบต่อการกระทำของตนเอง หรือความตั้งใจที่จะแก้ไขความขัดแย้งระหว่างบุคคล ในทางกลับกัน ผู้ใช้กลับมีความมั่นใจแบบผิดๆ เพิ่มขึ้นว่าตนเองเป็นฝ่ายถูกต้อง

นอกจากนี้ การวิจัยยังพบว่า AI ลักษณะนี้สร้างความไว้วางใจและความพึ่งพาต่อระบบ AI ให้มากยิ่งขึ้น ซึ่งกลายเป็นแรงจูงใจแฝงที่ทำให้โมเดล AI ถูกพัฒนาต่อไปในทิศทางที่ยังคงประจบผู้ใช้ เพราะผู้ใช้รู้สึกพึงพอใจกับคำตอบที่เห็นด้วยกับตน

ผลงานชิ้นนี้ได้รับการตีพิมพ์ในวารสารวิทยาศาสตร์ระดับโลก Science และเผยแพร่ในรูปแบบ preprint บน arXiv และ OSF ทำให้งานวิจัยเปิดให้ตรวจสอบได้จากชุมชนนักวิจัยทั่วโลก