ทันเอไอ

งานวิจัยเสนอ “ประตูหลักฐาน” คุมอำนาจผู้ตรวจของ AI หลายตัว

งานวิจัยบน arXiv เสนอให้ผู้ตรวจของ AI สั่งทับผลงานเดิมได้ก็ต่อเมื่อมีหลักฐานว่าละเมิดกติกาจริง เพราะผู้ตรวจอาจแก้ข้อผิดพลาดได้ แต่ก็อาจไปทำลายคำตอบที่ถูกอยู่แล้ว

ระบบ AI หลายตัวทำงานร่วมกันกำลังถูกใช้มากขึ้น โดยทั่วไปจะเพิ่ม “ผู้ตรวจ” (reviewer) ไว้คอยดูการตัดสินใจของ AI ตัวต้นทาง เพื่อให้ผลลัพธ์ดีขึ้น แต่ปัญหาคือผู้ตรวจอาจแก้ข้อผิดพลาดได้จริง และในขณะเดียวกันก็อาจไปแทนที่คำตัดสินที่ถูกต้องอยู่แล้ว

งานวิจัยชิ้นนี้มองปัญหาดังกล่าวเป็นเรื่อง “อำนาจตามสถาบัน” (institutional jurisdiction) คือถามว่า เมื่อข้อเสนอ ข้อมูลงาน โมเดล และผลตรวจเหมือนกันทุกอย่าง ผู้ตรวจควรมีสิทธิ์ทำให้คำแนะนำของตนมีผลผูกพันเมื่อใด

ผู้วิจัยเปรียบเทียบสองแนวทาง แนวแรกคืออำนาจแทนที่ได้กว้าง ส่วนแนวที่สองคือ “ประตูหลักฐาน” (evidence gate) ซึ่งจะอนุญาตให้แทนที่คำตัดสินได้ก็ต่อเมื่อผู้ตรวจส่งบันทึกที่ตรวจสอบได้เชิงกลไกว่ามีการละเมิดเงื่อนไขบังคับ (binding constraint) จริง และมีการแก้ไขที่เป็นไปตามเงื่อนไขนั้น

การทดลองใช้โมเดลภาษาแบบ open-weight สองตัวที่รันในเครื่อง กับงานนโยบายเชิงพื้นที่ 96 งาน และชุดทดสอบการโอนย้ายพอร์ตการลงทุน (portfolio transfer) อีก 96 งาน ผลที่รายงานคือประตูหลักฐานช่วยลดการทำลายข้อเสนอที่ถูกต้องอยู่แล้วได้อย่างชัดเจน

อย่างไรก็ตาม นี่เป็นบทคัดย่อของ preprint ที่ยังไม่ผ่านการ peer review และเนื้อหาที่ได้รับถูกตัดกลางคัน จึงยังไม่เห็นตัวเลขผลลัพธ์ฉบับเต็มและวิธีวัดทั้งหมด