ทันเอไอ

ทีมนักวิจัยเสนอ CALM เทคนิคใหม่คุมความปลอดภัยการสร้างภาพด้วย AI โดยไม่ต้องฝึกโมเดลเพิ่ม

งานวิจัยใหม่ชี้ข้อจำกัดการบล็อกเนื้อหาอันตรายแบบเดิมในระบบสร้างภาพจากข้อความ พร้อมเสนอแนวทางปรับแก้เฉพาะจุด

นักวิจัย NaHyeon Park, Minhyun Lee และ Hyunjung Shim เผยแพร่งานวิจัยบน arXiv (หมายเลข arXiv:2610.02300) เมื่อวันที่ 1 ตุลาคม 2026 โดยศึกษาเกี่ยวกับมาตรการความปลอดภัยแบบไม่ต้องฝึกโมเดลเพิ่ม (Training-free safeguards) ที่ใช้งานกับการสร้างภาพจากข้อความ (Text-to-Image Generation)

ปัจจุบันระบบส่วนใหญ่มักอาศัยสัญญาณความปลอดภัยชุดเดียว เช่น ทิศทางของเนื้อหาที่ไม่ปลอดภัยหรือพื้นที่ย่อยที่เป็นพิษ นำไปใช้กับทุกคำสั่ง (Prompt) ในภาพรวม คณะผู้วิจัยได้วิเคราะห์เชิงเรขาคณิตและพบข้อแลกเปลี่ยนที่เรียกว่า ความครอบคลุมและความเฉพาะเจาะจง (Coverage-selectivity trade-off) กล่าวคือ พื้นที่อันตรายขนาดเล็กจะไม่สามารถครอบคลุมเนื้อหาอันตรายที่หลากหลายได้ แต่หากขยายขอบเขตให้กว้างขึ้น ก็จะไปกระทบกับคำสั่งที่ปลอดภัยแต่มีความหมายใกล้เคียงกัน

เพื่อแก้ปัญหานี้ ผู้วิจัยจึงเสนอเครื่องมือหรือเทคนิคชื่อ CALM (Counterfactual Adaptive Local Modulation) ซึ่งเป็นมาตรการความปลอดภัยที่ไม่ต้องฝึกโมเดลใหม่ โดยทำหน้าที่แทนที่การลบเนื้อหาแบบกวาดรวมทั่ว, ไป ด้วยการปรับแก้ตามความเป็นจริงเชิงตรงกันข้ามเฉพาะส่วน (Prompt-local counterfactual correction) ระบบจะใช้จุดอ้างอิงระหว่างเนื้อหาที่ปลอดภัยและไม่อนุญาต เพื่อส่งคำสั่งไปยังหมวดหมู่ที่ไม่ปลอดภัยที่กำลังทำงานอยู่

จากการรายงานของผู้วิจัยระบุว่า วิธีนี้ช่วยลดการสร้างเนื้อหาที่ไม่ปลอดภัยพร้อมกับรักษาความสามารถในการสร้างภาพจากคำสั่งที่ปลอดภัยได้ดีขึ้น อย่างไรก็ตาม ผลการทดลองนี้ยังมาจากการประเมินของผู้วิจัยเอง และจากการตรวจสอบพบว่าแหล่งข่าวอื่นๆ เช่น Digest AI เป็นการสรุปความจากต้นฉบับ ยังไม่มีการยืนยันผลอย่างอิสระจากสำนักข่าวอื่น