งานวิจัย SMC ลดเวลารอของเอเจนต์ใช้เครื่องมือได้สูงสุด 44.9%
นักวิจัยเสนอให้โมเดลขนาดเล็กรันชุดคำสั่งล่วงหน้า ก่อนส่งผลงานที่ตรวจสอบแล้วให้โมเดลหลักรับช่วงต่อ
นักวิจัยจากงาน “Speculative Macro Commit for Faster Tool-Using Agents” เสนอเทคนิค Speculative Macro Commit หรือ SMC เพื่อแก้ปัญหา latency (ความล่าช้า) ของเอเจนต์ AI ที่ต้องเรียกใช้เครื่องมือหลายครั้งต่อเนื่องกัน โดยผลทดสอบบน AppWorld ระบุว่าสามารถลดเวลาทำงานจริงได้สูงสุด 44.9% เมื่อเทียบกับการประมวลผลทีละขั้นตามลำดับ
ปัญหาที่งานนี้มุ่งแก้ไม่ได้อยู่ที่ความเร็วของโมเดลเพียงอย่างเดียว เอเจนต์ยังต้องรอเครื่องมือทำงาน รอให้สภาพแวดล้อมเปลี่ยนแปลง และรับผลลัพธ์กลับมาก่อนตัดสินใจขั้นถัดไป เมื่อมีคำสั่งหลายขั้น เวลารอเหล่านี้จึงสะสมเป็น Wall-clock time (เวลาจริงตั้งแต่เริ่มจนงานเสร็จ) ที่ยาวขึ้น
SMC ใช้ระบบสองชั้น โมเดลขนาดใหญ่ที่เรียกว่า Authoritative Actor (ผู้ตัดสินใจหลัก) เป็นผู้กำหนดเส้นทางการทำงานอย่างเป็นทางการ ส่วน Speculative Drafter (โมเดลร่างคำสั่งล่วงหน้า) ซึ่งทำงานเร็วกว่า จะคาดการณ์การกระทำหลายขั้นและทดลองรันบนสำเนาสภาพแวดล้อมที่แยกออกมา วิธีนี้ช่วยให้การเตรียมขั้นตอนในอนาคตเกิดขึ้นพร้อมกับการทำงานของโมเดลหลัก
ระบบยังวิเคราะห์ร่องรอยจากข้อมูลฝึกเพื่อค้นหาโครงคำสั่งหลายขั้นที่เกิดซ้ำ แล้วเก็บไว้ใน Macro Library (คลังรูปแบบคำสั่งต่อเนื่อง) ระหว่างใช้งาน ระบบจะนำสิ่งที่โมเดลร่างคาดการณ์ไว้มาจับคู่กับรูปแบบเหล่านี้ หากคำสั่งถัดไปของโมเดลหลักตรงกับคำสั่งแรกที่ร่างไว้ และชุดคำสั่งผ่านเงื่อนไขของระบบ ก็สามารถยอมรับผลที่คำนวณล่วงหน้าได้ โดยไม่ต้องเริ่มทุกขั้นใหม่ตามลำดับ
แนวคิดนี้คล้ายการคาดเดางานล่วงหน้า แต่ยังคงให้โมเดลขนาดใหญ่เป็นผู้กำหนดเส้นทางจริง จึงพยายามแลกทรัพยากรประมวลผลเพิ่มเติมกับเวลาตอบสนองที่สั้นลง อย่างไรก็ตาม ตัวเลข 44.9% มาจากการทดลองบน AppWorld และยังไม่ยืนยันว่าจะทำได้เท่ากันในงานจริงทุกประเภท โดยเฉพาะงานที่เส้นทางเปลี่ยนบ่อยหรือมีรูปแบบซ้ำไม่มาก
งานวิจัยโดย Zeyu Liu, Souvik Kundu และ Peter A. Beerel เผยแพร่เป็นฉบับแรกบน arXiv หมายเลข 2609.03236 และได้รับตอบรับเข้าสู่งานประชุม MLSP 2026
หากวิธีนี้ใช้ได้ผลในระบบจริง เอเจนต์ที่ช่วยทำงานผ่านเว็บไซต์ แอป หรือระบบองค์กรอาจตอบสนองเร็วขึ้น โดยเฉพาะงานซ้ำหลายขั้น แต่ประสิทธิภาพยังขึ้นอยู่กับชนิดงานและความแม่นยำของการคาดการณ์ล่วงหน้า