ทันเอไอ

เปิดตัว Phinq ระบบคุมความปลอดภัย AI Agents สกัดความผิดพลาดก่อนลงมือจริง

Phinq ซอฟต์แวร์โอเพนซอร์สใหม่ ทำหน้าที่เป็นตัวกลางคอยคั่นกลางและกลั่นกรองคำสั่งจาก AI Agents เพื่อป้องกันความเสียหายที่อาจเกิดขึ้น

ในยุคที่เอเจนต์ปัญญาประดิษฐ์ (AI Agents) เริ่มเข้ามามีบทบาทในการทำงานอัตโนมัติมากขึ้น ความเสี่ยงที่ AI อาจเผลอทำคำสั่งผิดพลาดร้ายแรง เช่น การลบข้อมูลสำคัญหรือแก้ไขระบบโดยไม่ตั้งใจก็เพิ่มขึ้นตามไปด้วย ล่าสุดโครงการโอเพนซอร์ส (Open-source) นามว่า "Phinq" ได้ถูกพัฒนาขึ้นมาเพื่อแก้ปัญหานี้โดยเฉพาะ

Phinq ทำหน้าที่เป็น Runtime Governance Layer หรือเลเยอร์กำกับดูแลระบบขณะทำงาน โดยวางตัวเป็นพร็อกซี (Proxy) หรือมิดเดิลแวร์ (Middleware) คอยดักจับคำสั่งเรียกใช้เครื่องมือ (Tool calls) ของ AI agent ทั้งหมดแบบเรียลไทม์ ระบบจะทำหน้าที่จำแนกความเสี่ยงก่อนปล่อยให้คำสั่งนั้นทำงานจริง

ในแง่ของการทำงาน Phinq ใช้แนวคิด Human-in-the-Loop โดยแบ่งการควบคุมออกเป็นสองส่วนหลัก ส่วนแรกคือคำสั่งที่มีความเสี่ยงต่ำหรือสามารถแก้ไขคืนได้ (Reversible) ระบบจะอนุญาตให้ดำเนินการโดยอัตโนมัติ ส่วนที่สองคือคำสั่งที่มีความเสี่ยงสูงและไม่สามารถย้อนกลับได้ (Irreversible) เช่น การลบฐานข้อมูล คำสั่งเหล่านี้จะถูกระงับไว้ชั่วคราวจนกว่าจะได้รับการอนุมัติจากมนุษย์

นอกจากนี้ ตัวระบบยังมีฟีเจอร์ Tamper-evident Audit Log สำหรับบันทึกประวัติการตัดสินใจและการกระทำทุกขั้นตอนด้วยเทคโนโลยี Hash-chained เพื่อป้องกันการดัดแปลงและรองรับการตรวจสอบย้อนหลัง โดยในด้านความเข้ากันได้ Phinq รองรับการเชื่อมต่อกับเฟรมเวิร์กและเครื่องมือ AI ชั้นนำหลากหลายตัว เช่น OpenAI, Anthropic, LangChain, CrewAI, AutoGen และ Claude Code