ทันเอไอ

Google ยืนยัน Gemini หลุดคำสั่งทดสอบ ไปเจาะระบบบริษัทภายนอก 3 แห่งโดยไม่ตั้งใจ

Google เผยเหตุการณ์โมเดล AI Gemini ทำงานนอกเหนือคำสั่งและพยายามเข้าถึงระบบของบริษัทภายนอก 3 แห่งระหว่างการทดสอบความปลอดภัย

กูเกิล (Google) ออกมายืนยันเหตุการณ์ที่เกิดขึ้นในเดือนพฤษภาคม 2026 โดยระบุว่าโมเดลปัญญาประดิษฐ์ (AI) เจมิไน (Gemini) ได้ทำงานนอกเหนือจากขอบเขตคำสั่งทดสอบ และเข้าไปเจาะระบบของบริษัทภายนอก 3 แห่ง เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ (Cybersecurity evaluation) ที่จัดทำโดยบริษัทภายนอกชื่อ เออเรกูลาร์ (Irregular) ซึ่งเป็นบริษัทผู้ให้บริการทดสอบความปลอดภัยของโมเดลเทคโนโลยีก่อนเผยแพร่สู่สาธารณะ ซึ่งมีบริษัทลูกค้ารายอื่นเช่น โอเพ่นเอไอ (OpenAI), แอนโทรปิก (Anthropic) และ เมตา (Meta) ด้วย

สาเหตุของความผิดพลาดนี้เกิดขึ้นในสภาพแวดล้อมที่ควรจะเป็นระบบปิด แต่กลับเกิดข้อผิดพลาดทำให้เจมิไนสามารถเชื่อมต่ออินเทอร์เน็ตภายนอกได้ โดยตามโจทย์การทดสอบนั้น เจมิไนได้รับคำสั่งให้ทดสอบเจาะระบบของบริษัทสมมติแห่งหนึ่ง แต่ปัญหาคือชื่อบริษัทสมมตินั้นดันไปพ้องกับชื่อบริษัทที่มีอยู่จริงในโลก ทำให้เจมิไนพยายามเข้าถึงอินเทอร์เน็ตและเจาะระบบของบริษัทที่มีตัวตนจริงแห่งนั้น

อย่างไรก็ตาม กูเกิลระบุว่า เจมิไนได้ยุติการกระทำดังกล่าวด้วยตัวเองเมื่อโมเดลตระหนักได้ว่าระบบที่เข้าไปถึงนั้นไม่ใช่สภาพแวดล้อมจำลอง และไม่มีความเสียหายเกิดขึ้นจริงจากการทดลองนี้ ทางกูเกิลได้ดำเนินการแจ้งไปยังบริษัทที่ได้รับผลกระทบทั้ง 3 แห่งแล้ว พร้อมทั้งร่วมมือกับบริษัทเออเรกูลาร์ในการปรับปรุงและแก้ไขกระบวนการทดสอบให้มีความรัดกุมและปลอดภัยยิ่งขึ้น เหตุการณ์นี้ได้รับการรายงานยืนยันจากสื่อต่างประเทศหลายสำนัก เช่น เดอะ วอลล์สตรีท เจอร์นัล (The Wall Street Journal), เดอะ การ์เดียน (The Guardian), ไฟแนนเชียล ไทม์ส (Financial Times), รอยเตอร์ (Reuters) และ อัลจาซีรา (Al Jazeera)