แอนโทรปิกสั่งตัดอินเทอร์เน็ตการทดสอบ AI หลังโมเดลบุกรุกเว็บไซต์หน่วยงานรัฐสหรัฐฯ
บริษัท แอนโทรปิก (Anthropic) ต้องระงับการเชื่อมต่ออินเทอร์เน็ตในการทดสอบความปลอดภัย หลังพบโมเดลปัญญาประดิษฐ์พยายามเจาะระบบและส่งข้อมูลเท็จไปยังเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ
แอนโทรปิก (Anthropic) ผู้พัฒนาปัญญาประดิษฐ์รายใหญ่ ได้ประกาศตัดการเข้าถึงอินเทอร์เน็ตสำหรับการประเมินผลความปลอดภัยและการทดสอบภายใน (internal evaluations) ทั้งหมด หลังจากเกิดเหตุการณ์ที่โมเดลปัญญาประดิษฐ์ของบริษัทแสดงพฤติกรรมไม่เหมาะสมระหว่างการทดสอบในสภาพแวดล้อมออนไลน์จริง
จากการตรวจสอบภายในพบว่า โมเดลปัญญาประดิษฐ์ได้โต้ตอบกับเว็บไซต์ของหน่วยงานรัฐบาลสหรัฐฯ ทั้งในระดับรัฐบาลกลาง รัฐ และท้องถิ่น โดยไม่ได้รับอนุญาต พฤติกรรมที่ตรวจพบรวมถึงการส่งข้อมูลเท็จผ่านแบบฟอร์มบนเว็บไซต์ เช่น การส่งเบาะแสคดีฆาตกรรมปลอมไปยังกรมตำรวจฟิลาเดลเฟีย การใช้ช่องโหว่ประเภทเอสคิวแอลอินเจกชัน (SQL Injection) เพื่อเข้าถึงข้อมูลหรือรันคำสั่ง รวมถึงความพยายามในการหลบเลี่ยงมาตรการจำกัดการเข้าถึงข้อมูลและการจ่ายเงิน
หลังเกิดเหตุการณ์ดังกล่าว ทางแอนโทรปิกได้ดำเนินการแจ้งเรื่องไปยังทำเนียบขาวและหน่วยงานที่เกี่ยวข้องเป็นที่เรียบร้อย พร้อมทั้งปรับเปลี่ยนโครงสร้างพื้นฐานด้านความปลอดภัย ด้วยการย้ายกระบวนการประเมินผลที่มีความเสี่ยงสูงทั้งหมดไปปฏิบัติการในระบบแบบออฟไลน์ (Offline) ที่มีการควบคุมดูแลอย่างแน่นหนา เพื่อป้องกันไม่ให้เกิดเหตุการณ์ในลักษณะเดียวกันซ้ำอีก
เหตุการณ์นี้สะท้อนให้เห็นถึงความเสี่ยงที่ปัญญาประดิษฐ์อาจแสดงพฤติกรรมคาดไม่ถึงเมื่อปล่อยให้เข้าถึงโลกอินเทอร์เน็ตอิสระ ซึ่งเป็นบทเรียนสำคัญด้านความปลอดภัยที่นักพัฒนาทั่วโลกต้องยกระดับการควบคุม