ทันเอไอ

ศาลสูงสุดนิวเม็กซิโกสั่งปรับทนายความ 5,000 ดอลลาร์ หลังใช้ปัญญาประดิษฐ์สร้างพยานเท็จในคดีฆาตกรรม

ศาลสูงสุดรัฐนิวเม็กซิโกสั่งลงโทษทนายความที่ใช้ปัญญาประดิษฐ์ร่างคำร้องอุทธรณ์คดีฆาตกรรม แต่กลับได้พยานและคำให้การตำรวจที่ถูกสร้างขึ้นมาเองโดยไม่มีอยู่จริง

ศาลสูงสุดรัฐนิวเม็กซิโก (New Mexico Supreme Court) มีคำสั่งลงโทษ สตีเฟน ดี. แอรอนส์ (Stephen D. Aarons) ทนายความรายหนึ่ง ด้วยการปรับเงิน 5,000 ดอลลาร์สหรัฐ (ประมาณ 1.7 แสนบาท) พร้อมตัดสินให้มีความผิดฐานละเมิดอำนาจศาล (contempt of court) จากกรณีการนำเทคโนโลยีปัญญาประดิษฐ์หรือ AI เข้ามาช่วยในกระบวนการทางกฎหมายโดยปราศจากการตรวจสอบความถูกต้อง

เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อแอรอนส์ได้ใช้ระบบปัญญาประดิษฐ์ ชาล์ทจีพีที (ChatGPT) ช่วยร่างเอกสารคำร้องอุทธรณ์คดีฆาตกรรมให้กับลูกความของตนคือ ออสการ์ เรเน ซันโดวัล (Oscar Renee Sandoval) แต่ผลลัพธ์ที่ได้กลับปรากฏพยานบุคคลที่ไม่มีตัวตนอยู่จริง รวมถึงคำให้การของตำรวจและข้อมูลทางกฎหมายที่ระบบสร้างภาพลวงตาขึ้นมาเอง หรือฮัลซิเนชัน (Hallucination)

จากการไต่สวน ทนายความรายนี้ยอมรับว่าได้นำสำนวนคดีเข้าสู่โปรแกรม AI เพื่อให้ช่วยสรุปเนื้อหา โดยคาดหวังว่าจะได้ข้อมูลที่สมบูรณ์แบบ แต่ตนเองกลับไม่เข้าใจถึงขอบเขตความเสี่ยงที่ระบบอาจสร้างข้อมูลเท็จขึ้นมาได้ นอกจากบทลงโทษปรับและข้อหาละเมิดอำนาจศาลแล้ว ศาลสูงสุดยังได้ส่งเรื่องต่อไปยังคณะกรรมการจริยธรรมวิชาชีพทนายความ (attorney disciplinary board) เพื่อให้ดำเนินการสอบสวนเพิ่มเติมเกี่ยวกับความประพฤติทางวิชาชีพต่อไป