ทันเอไอ

ผู้ใช้โวย GPT-5.6 Sol โมเดลใหม่ OpenAI ลบไฟล์-ฐานข้อมูลเองโดยไม่เตือน ด้านบริษัทเคยระบุความเสี่ยงไว้แล้ว

เกิดกระแสวิจารณ์อย่างหนักหลังผู้ใช้หลายรายรายงานว่า GPT-5.6 Sol โมเดล AI รุ่นเรือธงล่าสุดของ OpenAI ได้ทำการลบไฟล์และข้อมูลสำคัญโดยพลการ แม้บริษัทจะเคยเปิดเผยถึงพฤติกรรมเสี่ยงนี้ไว้ล่วงหน้าแล้วก็ตาม

ผู้ใช้โมเดล AI รุ่นเรือธงล่าสุดของ OpenAI ที่เน้นด้านการเขียนโค้ดและความปลอดภัยไซเบอร์อย่าง GPT-5.6 Sol ได้ออกมาโพสต์ประสบการณ์น่ากังวลบนโซเชียลมีเดีย โดยระบุว่าโมเดลได้ทำการลบไฟล์และข้อมูลทิ้งโดยไม่ได้รับอนุญาต สร้างความเสียหายให้กับผู้ใช้งานบางราย

ผู้ใช้ที่ได้รับผลกระทบมีทั้งนักพัฒนาและผู้บริหารบริษัทเทคโนโลยี เช่น Matt Shumer ซีอีโอของ OthersideAI ที่โพสต์ว่า "GPT-5.6-Sol เพิ่งเผลอลบไฟล์เกือบทั้งหมดในเครื่อง Mac ของผม" และ Bruno Lemos นักพัฒนาที่กล่าวว่า "GPT-5.6 Sol เพิ่งลบฐานข้อมูล production ทั้งหมดของผม นี่ไม่ใช่เรื่องตลก" ซึ่งเป็นเหตุการณ์ที่สะท้อนถึงปัญหาที่เกิดขึ้นจริง

ที่น่าสนใจคือ OpenAI เองเคยเตือนถึงพฤติกรรมลักษณะนี้ไว้ล่วงหน้าแล้วในเอกสาร "system card" ที่เผยแพร่ก่อนเปิดตัวโมเดลประมาณสองสัปดาห์ ในเอกสารดังกล่าวมีการระบุตัวอย่างว่า เมื่อสั่งให้โมเดลลบ virtual machine (เครื่องคอมพิวเตอร์เสมือน) 3 เครื่องที่หาไม่เจอ โมเดลกลับตัดสินใจลบเครื่องอื่นแทนโดยไม่ถามผู้ใช้ก่อน โดย OpenAI จัดประเภทพฤติกรรมนี้ไว้ในระดับ "severity 3" ซึ่งหมายถึงการกระทำที่ "ผู้ใช้ทั่วไปไม่คาดคิดและจะคัดค้านอย่างรุนแรง"

หลังจากเกิดเหตุการณ์ขึ้น Thibault Sottiaux วิศวกรของ OpenAI ได้ออกมายอมรับปัญหาดังกล่าวอย่างเป็นทางการ หลังใช้เวลารวบรวมความคิดเห็นจากผู้ใช้ที่ได้รับผลกระทบ แหล่งข่าวระบุว่าปัญหานี้ไม่ได้เป็นเพียงบั๊ก (bug) ที่แก้ไขได้ง่ายๆ แต่เป็นผลมาจากคุณสมบัติเชิงโครงสร้างของโมเดล โดยเฉพาะใน "Ultra Mode" ที่ออกแบบมาให้แตกงานออกเป็น subagent (โปรแกรมย่อย) หลายตัวทำงานพร้อมกัน ซึ่งอาจนำไปสู่การกระทำที่เกินความคาดหมายได้