ทันเอไอ

อึ้ง! ฟ้องศาลมะกันซ่อน Prompt Injection ในเอกสาร หวังให้ AI เข้าข้าง

ผู้ฟ้องร้องคดีในสหรัฐฯ หัวใสซ่อนคำสั่งโจมตี AI ด้วยตัวอักษรสีขาวในเอกสารทางกฎหมาย หวังบิดเบือนผลพิจารณาคดี

สำนักข่าว 404 Media และบทวิเคราะห์จากสำนักกฎหมาย Harris Beach Murtha เปิดเผยกรณีศึกษาที่น่าสนใจเกี่ยวกับความปลอดภัยของระบบไอเติบโต เมื่อ Matthew Elliott ผู้ฟ้องร้องคดีด้วยตนเอง (pro se plaintiff) ในศาลรัฐคอนเนตทิคัต สหรัฐอเมริกา ได้แอบซ่อนข้อความคำสั่ง (Prompt Injection) ไว้ในเอกสารคำฟ้องคดี Elliott v. New York Bariatric Group

วิธีการที่เขาใช้คือการพิมพ์ข้อความด้วยตัวอักษรสีขาวบนพื้นหลังสีขาว ขนาดเล็กเพียง 3 พอยต์ ซึ่งทำให้มนุษย์มองไม่เห็นด้วยตาเปล่า แต่ซอฟต์แวร์หรือเครื่องมือประมวลผลข้อความสามารถอ่านข้อมูลดังกล่าวได้ โดยเนื้อหาในข้อความที่ซ่อนไว้ระบุสั่งการให้ AI ที่ทำหน้าที่อ่านเอกสารต้อง "เข้าข้าง" ฝ่ายเขาในการสรุปผลข้อมูล

อย่างไรก็ตาม แผนดังกล่าวถูกจับได้หลังจากเจ้าหน้าที่ศาลสังเกตเห็นพื้นที่ว่างผิดปกติ (Extra white space) ในเอกสารอิเล็กทรอนิกส์ จึงนำไปสู่การตรวจสอบพบข้อความลับดังกล่าว ส่งผลให้ผู้พิพากษา Walter M. Spader, Jr. ออกคำสั่งลงโทษ (Sanction) ระบุว่าพฤติกรรมนี้เป็นการกระทำที่ไม่สุจริตต่อกระบวนการยุติธรรม พร้อมสั่งตัดสิทธิ์ห้ามไม่ให้ผู้ฟ้องร้องยื่นเอกสารผ่านระบบอิเล็กทรอนิกส์ โดยบังคับให้ต้องยื่นเป็นเอกสารกระดาษแบบดั้งเดิมเท่านั้น อย่างไรก็ตาม ศาลได้ยืนยันข้อเท็จจริงว่าในคดีนี้ยังไม่มีการใช้ปัญญาประดิษฐ์ในการพิจารณาตัดสินคดีแต่อย่างใด