ทันเอไอ

งานวิจัยทดสอบนโยบาย TRAP ที่ปรับสิทธิ์ของเอเจนต์ AI ระหว่างทำงาน

งานวิจัยบน arXiv เสนอและทดสอบนโยบาย TRAP ที่ปรับระดับสิทธิ์ของเอเจนต์ AI ตามคะแนนความไว้วางใจ ความเสถียร และความเสี่ยง โดยลดสิทธิ์ทันทีเมื่อคะแนนตก แต่เพิ่มสิทธิ์กลับอย่างระมัดระวัง

งานวิจัยชื่อ Trust Responsive Runtime Authorization for Agentic AI เผยแพร่บน arXiv เมื่อ 4 พ.ย. 2026 ศึกษานโยบายที่ชื่อ TRAP (Trust Responsive Authorization Policy) ซึ่งทำหน้าที่แปลงสภาพของเอเจนต์ AI ขณะทำงานให้เป็นระดับสิทธิ์ในการลงมือทำ

หัวใจของ TRAP คือคะแนนที่เรียกว่า Authorization Readiness Score (ARS) ซึ่งรวมค่าความไว้วางใจ (trust) ความเสถียรในการทำงาน และความเสี่ยงตามบริบทเข้าด้วยกันตามน้ำหนักที่กำหนด นโยบายจะเพิ่มระดับสิทธิ์ได้ก็ต่อเมื่อคะแนนสูงกว่าเกณฑ์พร้อมระยะกันชน (margin) ติดต่อกันหลายครั้ง แต่ถ้าคะแนนตกอย่างฉับพลัน ระบบจะจำกัดสิทธิ์ทันที ผู้เขียนเรียกกติกาแบบนี้ว่าไม่สมมาตร (asymmetric)

ทีมวิจัยทดสอบด้วยการจำลองแบบ Monte Carlo จำนวน 100 เส้นทาง ชุดเดียวกัน เปรียบเทียบ TRAP กับนโยบายอีกสี่แบบ ได้แก่ แบบคงที่ (static) แบบพิจารณาเฉพาะความไว้วางใจ แบบพิจารณาเฉพาะความเสี่ยง และแบบสมมาตร ผลที่รายงานในบทคัดย่อคือเมื่อเกิดการเสื่อมถอยฉับพลัน TRAP จำกัดสิทธิ์ตั้งแต่ต้น และกลับมาเพิ่มสิทธิ์ได้เร็วกว่านโยบายสมมาตรหลังฟื้นตัว แต่ผู้เขียนระบุด้วยว่า มีบางกรณีที่สิทธิ์ถูกเพิ่มกลับในช่วงที่ความไว้วางใจยังต่ำกว่าเกณฑ์ที่ตั้งไว้

ข้อจำกัดสำคัญคือการทดสอบทั้งหมดทำบนสภาพแวดล้อมจำลองชุดเดียว และผู้เขียนระบุว่างานนี้อธิบายพฤติกรรมของ TRAP ไม่ได้เสนอวิธีออกแบบนโยบายอนุญาตระหว่างรันแบบทั่วไป ส่วนการทดลองความไวต่อพารามิเตอร์ 13 จุดปรากฏในที่เก็บโค้ดของผู้เขียนเอง ซึ่งยังไม่มีการตรวจสอบจากทีมอิสระ