ทันเอไอ

รายงานชี้ AI อุตสาหกรรมต้องมีมนุษย์ควบคุม ป้องกันความเสี่ยงระบบกายภาพ

รายงานจาก MIT Technology Review ชี้ว่าความท้าทายสำคัญของ AI ในภาคอุตสาหกรรมไม่ใช่ประสิทธิภาพ แต่เป็นการกำกับดูแลและความปลอดภัยทางกายภาพ

เมื่อปัญญาประดิษฐ์หรือ AI เริ่มเข้ามามีบทบาทในการทำงานอัตโนมัติและโต้ตอบกับระบบทางกายภาพมากขึ้น รายงานจากสำนักข่าว MIT Technology Review ระบุว่า ปัญหาหลักในปัจจุบันไม่ได้อยู่ที่ประสิทธิภาพของตัวแบบ (Model quality) แต่อยู่ที่ "การกำกับดูแล" (Governance)

ความผิดพลาดจากการตัดสินใจของ AI ในสภาพแวดล้อมอุตสาหกรรมอาจส่งผลกระทบโดยตรงต่อความปลอดภัยและความน่าเชื่อถือของโครงสร้างพื้นฐานที่สำคัญ ซึ่งแตกต่างจากการทำงานบนโลกดิจิทัลทั่วไป ผู้เชี่ยวชาญจึงเน้นย้ำว่า AI ควรทำหน้าที่ "เสริมศักยภาพ" (Augment) มากกว่าการทดแทนมนุษย์ในขั้นตอนการตัดสินใจสำคัญ และต้องมีการกำหนดขอบเขตและแนวทางที่ชัดเจน

สอดคล้องกับมุมมองจากไอบีเอ็ม (IBM) เกี่ยวกับระบบเอเจนต์ติก AI (Agentic AI) ที่ระบุว่า การออกแบบระบบอัตโนมัติให้โต้ตอบกับเครื่องมือภายนอกจำเป็นต้องคำนึงถึงความน่าเชื่อถือ ขณะที่สถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐอเมริกา (NIST) เน้นย้ำถึงความสำคัญของการทดสอบและการประเมินผล เพื่อสร้างระบบ AI ที่ไว้วางใจได้ในโครงสร้างพื้นฐานที่มีผลกระทบสูง