ทันเอไอ

ทีมนักวิจัย Google และมหาวิทยาลัยดัง เสนอ VEPA ระบบความปลอดภัย AI Agent ที่เรียนรู้และตรวจสอบได้

งานวิจัยใหม่จาก Google Cloud AI Research, Google DeepMind และ University of North Carolina เสนอเฟรมเวิร์ก VEPA ช่วยให้ AI Agent ปรับปรุงมาตรการความปลอดภัยได้อย่างต่อเนื่องโดยอาศัยกฎเชิงสัญลักษณ์ที่ตรวจสอบความถูกต้องได้

ในวันที่ 8 ตุลาคม 2026 มีการเผยแพร่งานวิจัยในหมวดหมู่ปัญญาประดิษฐ์บนแพลตฟอร์ม arXiv (รหัสเอกสาร arXiv:2610.12813) ซึ่งเป็นการร่วมมือกันระหว่างนักวิจัยจาก Google Cloud AI Research, Google DeepMind และ University of North Carolina at Chapel Hill โดยนำเสนอเฟรมเวิร์กใหม่ที่มีชื่อว่า VEPA สำหรับควบคุมความปลอดภัยของ LLM Agent (ระบบปัญญาประดิษฐ์ที่ปฏิบัติงานแทนมนุษย์)

ปัจจุบัน LLM Agent เริ่มเข้ามามีบทบาทในการเข้าถึงทรัพยากรที่มีความละเอียดอ่อน เช่น เอกสารส่วนบุคคลและสถานะระบบที่เปลี่ยนแปลงได้ ซึ่งอาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยอย่างร้ายแรง ทำให้ระบบควบคุมความปลอดภัยหรือ Guardrails ในปัจจุบันต้องสามารถตัดสินใจอนุญาตหรือปฏิเสธการทำงานได้อย่างชัดเจน ตรวจสอบได้ ทำซ้ำได้ และมีความแน่นอนก่อนที่การกระทำใดๆ จะเกิดขึ้นจริง

อย่างไรก็ตาม ข้อกำหนดด้านความปลอดภัยมักไม่สมบูรณ์ก่อนนำไปใช้งานจริง ทำให้ระบบควบคุมต้องปรับตัวตามความเสี่ยงใหม่อยู่เสมอ แต่วิธีการเดิมมักอาศัยการอนุมานผ่านตัวโมเดล LLM โดยตรง ซึ่งอาจนำไปสู่การตัดสินใจที่ไม่สอดคล้องกันและตีความนโยบายกำกับดูแลได้กำกวม

ทางคณะผู้จัดทำจึงพัฒนา VEPA ขึ้นมาเพื่อแก้ปัญหาดังกล่าว โดยใช้ LLM ในการเสนอนโยบายที่เป็นทางการในรูปแบบของกฎสัญลักษณ์ที่ตรวจสอบได้ พร้อมทั้งมีระบบตัวตรวจสอบแบบกำหนดผลลัพธ์แน่นอน (Deterministic Verifier) เพื่อรับรองความถูกต้องของกฎที่ถูกเพิ่มเข้ามาใหม่ นอกจากนี้ยังมีชั้นการทำงานที่เรียกว่า Evidence-Aware Authority คอยเปิดใช้งานกฎใหม่ก็ต่อเมื่อมีหลักฐานรองรับเพียงพอ เพื่อป้องกันความผิดพลาดจากการอัปเดตที่ไม่แน่นอน

แนวทางดังกล่าวช่วยให้ AI Agent สามารถเรียนรู้และพัฒนามาตรการความปลอดภัยได้ด้วยตนเองผ่านการปรับปรุงกฎเชิงสัญลักษณ์ที่ผ่านการตรวจสอบความถูกต้องแล้ว โดยไม่ต้องเข้าไปแก้ไขที่พารามิเตอร์หลักของตัวโมเดลปัญญาประดิษฐ์