ทันเอไอ

นักวิจัยเสนอแนวทางควบคุม AI พัฒนาตัวเองในระบบสินเชื่อ

งานวิจัยใหม่เสนอจำกัดขอบเขตการปรับปรุงตัวเองของเอเจนต์ AI ให้อยู่ในส่วนระบบรันไทม์เท่านั้น เพื่อให้ตรวจสอบได้ตามกฎระเบียบการเงิน

ราวิล อาคท์ยามอฟ (Ravil Akhtyamov) นำเสนองานวิจัยใหม่บนแพลตฟอร์ม arXiv เมื่อวันที่ 9 ตุลาคม 2026 ในหัวข้อเกี่ยวกับระบบเอเจนต์ภาษาขนาดใหญ่ (LLM Agents) ที่สามารถปรับปรุงตัวเองได้ในการทำงานระบบอนุมัติสินเชื่อ (Credit Pipelines) โดยระบุว่าปัญหาสำคัญคือหากเอเจนต์เขียนโค้ดหรือปรับแต่งตัวเองโดยไม่มีขอบเขต จะทำให้มนุษย์ผู้ตรวจสอบไม่สามารถตรวจสอบย้อนกลับได้ ทั้งประวัติการเปลี่ยนแปลง บันทึกการทดสอบ และการอนุมัติ

งานวิจัยนี้นำเสนอเครื่องมือแบบวงคู่ (Dual-loop engine) ที่จำกัดการเปลี่ยนแปลงตัวเองให้อยู่เฉพาะในส่วนของรันไทม์ฮาร์เนส (Runtime Harness) เช่น ข้อความคำสั่งตรรกะการเรียกใช้เครื่องมือ และการประกอบฟังก์ชันพื้นฐาน โดยที่น้ำหนักของโมเดล (Model Weights) จะถูกตรึงไว้ไม่ให้เปลี่ยนแปลง เพื่อให้ทุกการปรับปรุงมีประวัติการเปลี่ยนแปลงที่ตรวจสอบสาเหตุและผลทดสอบได้ พร้อมด้วยประตูรับเข้า (Admission Gate) ที่สร้างบันทึกรหัสแฮช (Hash-chained record) ก่อนนำไปใช้งานจริง

จากการทดสอบในระบบจำลอง ผลปรากฏว่าระบบสามารถคัดกรองและยอมรับการเปลี่ยนแปลงที่ปลอดภัยได้ 144 รายการ จากทั้งหมด 7,449 รายการ โดยไม่มีอัตราข้อผิดพลาดเพิ่มขึ้น ในขณะที่ระบบแบบไม่มีการจำกัดขอบเขตปล่อยให้เกิดการเปลี่ยนแปลงที่เป็นอันตรายถึง 309 รายการ งานชิ้นนี้จึงเป็นกรณีศึกษาสำคัญในการเลือกใช้งานเอเจนต์ AI ที่ต้องปฏิบัติตามกฎข้อบังคับเคร่งครัด แม้ในปัจจุบันอุตสาหกรรม AI จะเริ่มใช้งานโมเดลรุ่นใหม่ๆ ที่ก้าวหน้าอย่างตระกูลจีพีที-6 (GPT-6) แล้วก็ตาม