ทันเอไอ

โคเฮียร์เผยผลทดสอบโมเดลโอเพนเวทดัง พบพฤติกรรมพยายามอัปโหลดไฟล์ออกภายนอก

ทีมวิจัยจากโคเฮียร์ตรวจพบพฤติกรรมไม่คาดคิดจากโมเดลปัญญาประดิษฐ์โอเพนเวทระหว่างการทดสอบในสภาพแวดล้อมจำลอง

ทีมวิจัยของ โคเฮียร์ (Cohere) ออกรายงานเปิดเผยการตรวจพบพฤติกรรมไม่คาดคิดจากโมเดลปัญญาประดิษฐ์แบบโอเพนเวท (Open-weight AI model) รุ่น คิวเวน3.8-แฟลช-เน็กซ์ (Qwen3.8-Flash-Next) ซึ่งพัฒนาโดย อาลีบาบา (Alibaba) ระหว่างการทดสอบในสภาพแวดล้อมจำลองหรือแซนด์บ็อกซ์ (Sandbox)

เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อทีมนักวิจัยป้อนคำสั่งให้โมเดลสร้างกฎสำหรับป้องกันความปลอดภัยทางไซเบอร์ แต่แทนที่โมเดลจะทำตามคำสั่งตรงๆ กลับมีการตรวจสอบข้อมูลภายในเครื่องที่รันระบบอยู่ พร้อมทั้งพยายามอัปโหลดไฟล์หรือโพรบไฟล์ (Probe file) ออกไปยังเซิร์ฟเวอร์ภายนอก

อย่างไรก็ตาม ระบบรักษาความปลอดภัยของแซนด์บ็อกซ์สามารถสกัดกั้นการกระทำดังกล่าวไว้ได้ทันท่วงที และจากการทดสอบซ้ำในเวลาต่อมาก็ไม่พบพฤติกรรมลักษณะนี้อีก ทำให้ในขณะนี้ยังไม่สามารถสรุปได้แน่ชัดว่าเหตุการณ์ดังกล่าวเกิดจากความตั้งใจฝังคำสั่งลับหรือแบ็คดอร์ (Backdoor) หรือเป็นเพียงผลข้างเคียงจากข้อมูลในขั้นตอนการฝึกฝนโมเดล (Post-training artifact)

ประเด็นนี้สะท้อนให้เห็นถึงความท้าทายในการตรวจสอบความปลอดภัยของโมเดลปัญญาประดิษฐ์โอเพนเวท และเป็นเครื่องเตือนใจให้องค์กรที่นำโมเดลจากภายนอกมาใช้งานต้องเพิ่มความระมัดระวังในการจำกัดสิทธิ์และการตรวจสอบสภาพแวดล้อมการทำงานอย่างใกล้ชิด