ทันเอไอ

นักวิจัยเสนอกรอบ 'วงจรความสามารถ' กำกับ AI ผ่านการควบคุมและขอบเขตความรู้ แทนการจำกัดสติปัญญา

งานวิจัยบน arXiv เสนอให้การกำกับเอเจนต์ AI ที่ทำงานอัตโนมัติ เน้นการควบคุมโดยตรงและขอบเขตความรู้ มากกว่าการพยายามจำกัดความฉลาดของระบบ

งานวิจัยชิ้นนี้เผยแพร่บนเว็บไซต์ arXiv หมวด cs.AI ในชื่อ "AI Governance Should Prioritize Control and Knowledge Boundaries Over Limiting Intelligence" เขียนโดย Hendrik Luuk และเป็นพรีปรินต์ ซึ่งหมายถึงยังไม่ผ่านการตรวจสอบโดยผู้เชี่ยวชาญจากภายนอกตามขั้นตอนของวารสาร

ผู้เขียนระบุว่าการแพร่หลายของเอเจนต์ AI ที่ทำงานได้เองโดยไม่ต้องมีคนสั่งทุกขั้น ทำให้การกำกับดูแลระบบเหล่านี้เป็นเรื่องเร่งด่วน เขาเสนอกรอบที่เรียกว่า "วงจรความสามารถ" (competence circuit) สรุปเป็นสูตร IKC + KC + C โดยแยกผลกระทบของเอเจนต์ต่อโลกจริงออกเป็นสามเส้นทาง ได้แก่ การค้นพบที่ขับเคลื่อนด้วยสติปัญญา ความรู้เชิงขั้นตอนในการลงมือทำ และการควบคุมโดยตรง

เพื่อทดสอบกรอบนี้ ผู้เขียนใช้การโต้เถียงเรื่อง "fast takeoff" หรือการที่ AI พัฒนาจนทิ้งห่างมนุษย์อย่างรวดเร็ว เป็นกรณีทดสอบ เขาเขียนเงื่อนไขที่ทำให้เกิด fast takeoff ผ่านสติปัญญาเป็นชุดเงื่อนไขที่ต้องเกิดพร้อมกันทั้งหมด และพบว่าส่วนใหญ่ของเส้นทางนี้พึ่งการได้มาซึ่งความรู้อย่างรวดเร็วหรือการยึดการควบคุม มากกว่าพึ่งสติปัญญาเพียงอย่างเดียว

งานนี้วัดความฉลาดเชิงญาณวิทยาด้วยประสิทธิภาพในการเลือกสมมติฐาน และทดสอบผ่านการจำลองแบบสุ่มบนภูมิทัศน์ความเหมาะสมแบบ NK fitness ซึ่งเนื้อหาส่วนนี้ในแหล่งที่เราได้รับยังไม่ครบถ้วน

ข้อควรระวัง: ทีมข่าวค้นหาเพิ่มเติมแล้วพบเพียงเอกสารต้นฉบับบน arXiv ยังไม่พบแหล่งอิสระที่สองที่ยืนยันข้อสรุปของงาน จึงควรอ่านเป็นข้อเสนอเชิงแนวคิดมากกว่าข้อค้นพบที่ได้รับการยอมรับแล้ว