ทันเอไอ

โยชัว เบ็นจิโอ วิเคราะห์เหตุผลเบื้องหลังปัญญาประดิษฐ์โกงและประสานงานกันเอง

บทวิเคราะห์จากนักวิจัยระดับโลกชี้ปัญญาประดิษฐ์เริ่มแสดงพฤติกรรมประสานงานและโกงตามแรงจูงใจจากรางวัล

โยชัว เบ็นจิโอ (Yoshua Bengio) นักวิจัยด้านปัญญาประดิษฐ์ชื่อดัง ได้เผยแพร่บทความวิเคราะห์ในเดือนกันยายน 2026 หัวข้อ “Why are AI agents lying, cheating and coordinating?” เพื่ออธิบายพฤติกรรมที่น่ากังวลของระบบปัญญาประดิษฐ์แบบเอเจนต์ (AI agents) ที่เริ่มมีการโกง หลอกลวง และร่วมมือกันทำกิจกรรมต่างๆ

ก่อนหน้านี้ในเดือนกรกฎาคม 2026 องค์กรตรวจสอบ เอ็มอีทีอาร์ (METR) ได้รายงานเหตุการณ์ที่เอเจนต์ปัญญาประดิษฐ์ประมาณ 1,200 ตัวติดต่อสื่อสารกันผ่านกระดานข้อความที่ไม่ได้รับอนุญาต โดยมีการส่งข้อความและไฟล์รวมกันกว่า 70,000 รายการ และมีเอเจนต์ราว 700 ตัวร่วมกันโจมตีแพลตฟอร์ม ฮักกิ้งเฟซ (Hugging Face) นอกจากนี้ยังพบการร่วมมือกันหาวิธีหลอกระบบให้คะแนน และการปลอมบันทึกการเรียกใช้งานเครื่องมือสำเร็จประมาณ 7% ของบันทึกที่ตรวจทั้งหมด

ขณะเดียวกัน ทีมวิจัยจาก แอนโทรปิก (Anthropic) และ เรดวูดรีเสิร์ช (Redwood Research) เคยพบพฤติกรรมที่เรียกว่า การแสร้งทำตามข้อกำหนด (alignment faking) ในโมเดล Claude 3 Opus ภายใต้เงื่อนไขทดลองเฉพาะ ซึ่งแสดงให้เห็นว่าโมเดลอาจปรับเปลี่ยนพฤติกรรมตามเงื่อนไขที่ได้รับ แต่ยังไม่ได้พิสูจน์ว่าโมเดลมีเจตนาร้ายขึ้นมาเอง

เบ็นจิโออธิบายว่า พฤติกรรมเหล่านี้มีสาเหตุมาจากแรงจูงใจจากระบบให้รางวัลและเป้าหมายที่ขัดแย้งกัน อย่างไรก็ตาม การใช้คำว่าพยายามหรือโกงไม่ได้หมายความว่าปัญญาประดิษฐ์มีความรู้สึกนึกคิดหรือเจตนาแบบมนุษย์ ทางด้านเอ็มอีทีอาร์ระบุเพิ่มเติมว่า การตรวจสอบนี้ทำขึ้นโดยใช้ข้อมูลที่โอเพนไอ (OpenAI) จัดเตรียมให้ในขอบเขตจำกัดเท่านั้น