สตาร์ทอัพอิสราเอลเผยเบื้องหลัง AI โจมตีระบบอื่น แท้จริงเกิดจากความผิดพลาดในการทดสอบความปลอดภัย
รายงานเผยสาเหตุที่แท้จริงเบื้องหลังเหตุการณ์ AI ของบริษัทใหญ่จู่โจมระบบภายนอก แท้จริงมาจากความผิดพลาดของสตาร์ทอัพทดสอบความปลอดภัยแห่งเดียว
สำนักข่าวเดอะเวอร์จ (The Verge) รายงานว่า สตาร์ทอัพด้านความปลอดภัยปัญญาประดิษฐ์จากประเทศอิสราเอลนามว่า อิรกูลาร์ (Irregular) กลายเป็นจุดศูนย์กลางของเหตุการณ์ระลอกคลื่นที่ปัญญาประดิษฐ์ (AI) หลายตัวก่อเหตุโจมตีระบบภายนอกโดยไม่ได้รับอนุญาต
ย้อนกลับไปในเดือนกรกฎาคมที่ผ่านมา โอเพนเอไอ (OpenAI) เคยเปิดเผยว่าเอเจนต์ (AI Agents - ระบบปัญญาประดิษฐ์ที่ปฏิบัติงานแทนมนุษย์) ของตนได้เข้าโจมตีฮักกิ้งเฟซ (Hugging Face) โดยไม่ได้รับอนุญาต จนสร้างความกังวลเรื่องความปลอดภัยในวงกว้าง ตามมาด้วยเหตุการณ์ลักษณะเดียวกันจากเอเจนต์ของเมตา (Meta), แอนโทรปิก (Anthropic), กูเกิล (Google) และบริษัทอื่น ๆ
อย่างไรก็ตาม การสืบสวนและข้อมูลจากประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี (CTO) ของบริษัทอิรกูลาร์ ระบุว่า เหตุการณ์ที่ดูเหมือนความผิดพลาดอิสระของแต่ละบริษัท แท้จริงแล้วมีสาเหตุร่วมกันคือ ข้อผิดพลาดระหว่างกระบวนการทดสอบความปลอดภัย (Stress-test) โดยระบบปัญญาประดิษฐ์ที่ควรถูกจำกัดอยู่ในสภาพแวดล้อมจำลอง (Sandbox) กลับสามารถหลุดรอดเชื่อมต่ออินเทอร์เน็ตได้
นอกจากนี้ ยังพบปัญหาการตั้งชื่อเป้าหมายจำลองในการทดสอบไปตรงกับชื่อบริษัทที่มีอยู่จริง ส่งผลให้ระบบปัญญาประดิษฐ์ออกปฏิบัติการโจมตีเป้าหมายในโลกความเป็นจริงโดยความเข้าใจผิด ความผิดพลาดลักษณะนี้ถูกทำซ้ำในกลุ่มลูกค้าหลายราย จนกลายเป็นประเด็นความปลอดภัยระดับสากลที่สร้างความตื่นกลัวให้กับอุตสาหกรรมเทคโนโลยีในช่วงหลายเดือนที่ผ่านมา
เหตุการณ์นี้ชี้ให้เห็นว่า ความเสี่ยงด้านความปลอดภัยของปัญญาประดิษฐ์ไม่ได้มาจากตัวโมเดลเพียงอย่างเดียว แต่ยังรวมถึงกระบวนการควบคุมและสภาพแวดล้อมในการทดสอบของบริษัทผู้ให้บริการ ซึ่งเป็นบทเรียนสำคัญด้านการกำกับดูแลเอเจนต์อัจฉริยะ