ทันเอไอ

ทีมนักวิจัยเผยวิธีใหม่วัดความมั่นใจ AI Agent จากการทำงานภายใน

งานวิจัยใหม่บน arXiv เสนอแนวทางประเมินความสำเร็จของระบบ AI Agent จากโครงสร้างการแสดงผลภายใน เพื่อความปลอดภัยในการใช้งานจริง

ในยุคที่ระบบปัญญาประดิษฐ์แบบเอเจนต์ (Agentic Systems) ถูกนำมาใช้งานในด้านที่มีความสำคัญและต้องการความปลอดภัยสูง การวัดระดับความมั่นใจของเอเจนต์ต่อการกระทำต่างๆ จึงเป็นเรื่องที่มีความสำคัญอย่างยิ่ง ล่าสุด มีงานวิจัยในสาขาปัญญาประดิษฐ์ที่เผยแพร่บนแพลตฟอร์ม arXiv เมื่อเดือนกันยายน 2026 โดยคณะนักวิจัย ซึ่งประกอบด้วย Priyanka Mary Mammen, Emil Joswin และ Srujananjali Medicherla ได้ศึกษาประเด็นนี้ผ่านบทความชื่อ "Do Agents Know When They Succeed? Calibrating Agent Confidence from Internal Representations"

งานวิจัยชิ้นนี้ชี้ให้เห็นว่าขั้นตอนการทำงานของเอเจนต์มีความซับซ้อนและมีรูปแบบความล้มเหลวที่แตกต่างจากระบบการเรียนรู้ของเครื่องแบบดั้งเดิม ทั้งในด้านการวางแผน การเรียกใช้เครื่องมือ และการโต้ตอบกับสภาพแวดล้อมแบบไดนามิก ทีมผู้วิจัยจึงได้ตรวจสอบว่าการแสดงผลภายในของโมเดล (Internal Representations) จะสามารถให้สัญญาณที่ชัดเจนกว่าเกี่ยวกับโอกาสในการทำงานสำเร็จหรือไม่

เพื่อแก้ปัญหานี้ คู่นักวิจัยได้เสนอแนวทางหลัก 2 วิธีที่เสริมซึ่งกันและกัน ได้แก่ วิธี Latent Trajectory Dynamics หรือ LTD ซึ่งทำหน้าที่สรุปการเปลี่ยนแปลงของข้อมูลในส่วนการแสดงผลตลอดเส้นทางการโต้ตอบ และวิธี Action Representation Probes หรือ ARP ที่ทำหน้าที่ทำนายความสำเร็จจากรูปแบบการแสดงผลที่เกิดขึ้นในขั้นตอนการกระทำ

ผลการทดสอบพบว่า วิธีการที่นำเสนอทั้งสองแบบมีประสิทธิภาพเหนือกว่าวิธีมาตรฐานเดิมในหลายชุดข้อมูลทดสอบ (Benchmark) ช่วยให้สามารถตรวจสอบความน่าเชื่อถือของเอเจนต์ได้ดีขึ้นโดยไม่ต้องเพิ่มภาระการคำนวณมากจนเกินไป ซึ่งสะท้อนถึงแนวทางใหม่ในการพัฒนาความปลอดภัยให้แก่ระบบเอเจนต์ในอนาคต