ทันเอไอ

Richard Sutton นักวิจัย AI ชื่อดังเตือน 'กับดักก้าวเดียว' ชี้การทำนายอนาคตด้วยการทำซ้ำๆ เสี่ยงสะสมความผิดพลาดมหาศาล

Richard S. Sutton บิดาแห่ง Reinforcement Learning เผยแพร่บทความใหม่เตือนนักวิจัยถึงข้อผิดพลาดที่พบบ่อยในการสร้างแบบจำลอง AI ที่เรียกว่า 'The One-Step Trap' หรือกับดักก้าวเดียว

Richard S. Sutton นักวิจัยผู้ทรงอิทธิพลในวงการ AI และเป็นหนึ่งในผู้บุกเบิกด้าน Reinforcement Learning (RL - การเรียนรู้แบบเสริมกำลัง) ได้เผยแพร่บทความชิ้นใหม่ชื่อ "The One-Step Trap (in AI Research)" ผ่านเว็บไซต์ส่วนตัวของเขา ซึ่งเป็นที่เดียวกับที่เคยเผยแพร่บทความขึ้นหิ้งอย่าง "The Bitter Lesson" มาแล้ว

บทความนี้ชี้ให้เห็นถึงความเข้าใจผิดที่พบบ่อยในหมู่นักวิจัย ที่คิดว่าการสร้าง AI agent ให้สามารถทำนายอนาคตระยะยาวได้นั้น สามารถทำได้ง่ายๆ ด้วยการสร้างโมเดลที่ทำนายอนาคตได้ทีละหนึ่งก้าว (one-step prediction) อย่างแม่นยำ แล้วนำผลลัพธ์นั้นมาป้อนกลับเพื่อทำนายก้าวต่อไปซ้ำๆ หรือที่เรียกว่าการ "roll out" ซึ่ง Sutton ระบุว่านี่คือ "กับดัก" ที่ดูเผินๆ เหมือนจะสมเหตุสมผล แต่ในความเป็นจริงกลับนำไปสู่ปัญหาใหญ่

Sutton อธิบายว่า กับดักนี้อันตรายเพราะมีส่วนที่เป็นจริงอยู่บ้าง คือถ้าหากโมเดลทำนายหนึ่งก้าวข้างหน้าได้ 'สมบูรณ์แบบ 100%' การทำซ้ำๆ ก็จะให้ผลลัพธ์ที่สมบูรณ์แบบเช่นกัน แต่ในโลกแห่งความเป็นจริง โมเดลไม่มีทางสมบูรณ์แบบ ความผิดพลาดเล็กๆ น้อยๆ ในแต่ละก้าวจะถูกสะสมและขยายใหญ่ขึ้นเรื่อยๆ จนกลายเป็นการทำนายระยะยาวที่ผิดพลาดอย่างมหาศาล นอกจากนี้ การคำนวณเพื่อจำลองอนาคตที่มีความไม่แน่นอนสูงนั้นมีความซับซ้อนเชิงคำนวณมหาศาล เพราะอนาคตไม่ใช่เส้นทางเดียว แต่แตกแขนงออกไปเป็นความเป็นไปได้นับไม่ถ้วน ทำให้ความซับซ้อนเพิ่มขึ้นแบบเอ็กซ์โปเนนเชียล (exponential) ซึ่งเป็นไปได้ยากในทางปฏิบัติ

บทความดังกล่าวได้รับการยืนยันว่าเป็นของ Sutton จริง หลังจากที่เขาได้โพสต์ลิงก์ด้วยตนเองผ่านบัญชี X (Twitter) ที่ได้รับการยืนยันตัวตน และได้ถูกนำไปอภิปรายอย่างกว้างขวางในชุมชนนักพัฒนาอย่าง Hacker News สะท้อนให้เห็นถึงความสำคัญของประเด็นนี้ในแวดวงการวิจัยและพัฒนา AI ปัจจุบัน