ทันเอไอ

Anthropic เผยแนวทางสร้างการประเมินความปลอดภัย AI ให้น่าเชื่อถือ

Anthropic เผยแพร่คู่มือ 10 ข้อสำหรับออกแบบ รันการทดสอบ และรายงานผลการประเมินความปลอดภัยของ AI โดยอ้างอิงจากประสบการณ์ของบริษัทเอง

Anthropic เผยแพร่บทความชื่อ Building strong safety evaluations ในหมวด Engineering เมื่อวันที่ 13 พ.ย. 2026 เนื้อหาเป็นคำแนะนำสำหรับการออกแบบ รันการทดสอบ และรายงานผลการประเมินความปลอดภัยของระบบ AI โดยอ้างอิงจากประสบการณ์ของบริษัทเองเป็นหลัก

คำแนะนำแบ่งเป็นสี่หมวด รวม 10 ข้อ หมวดแรก Safety first เน้นการสร้างทีมที่มีทักษะเหมาะสมและรันการประเมินอย่างปลอดภัย หมวด Design เน้นเลือกรูปแบบการทดสอบให้ตรงกับคำถามที่ต้องการตอบ วัดสิ่งที่ตั้งใจจะวัดจริง และทำให้ผลสรุปขยายไปใช้ได้จริง หมวด Run เน้นรักษาความถูกต้องภายในของการวัด และลงทะเบียนแผนการทดสอบล่วงหน้า (preregister) หมวดสุดท้าย Report เน้นรายงานสถิติให้ครบ บันทึกทุกขั้นตอน และเปิดเผยข้อบกพร่องอย่างมีความรับผิดชอบ

ประเด็นที่สื่อและบล็อกอิสระหลายแห่งหยิบมาเน้นคือ construct validity หรือการตรวจว่าการทดสอบวัดสิ่งที่อ้างจริง การให้มนุษย์ตรวจยืนยันผลการให้คะแนนอัตโนมัติ และการจำลองบทสนทนาหลายรอบสำหรับคำขอที่อ่อนไหว

ในส่วนการทดสอบหลายรอบ แนวทางไม่ได้ดูแค่คำตอบทีละข้อ แต่วัดอัตราการตอบที่เหมาะสมตลอดทั้งบทสนทนา โดยใช้เกณฑ์เฉพาะตามความเสี่ยง และถือว่าบทสนทนาไม่ผ่านหากมีคำตอบที่ไม่เหมาะสมเพียงรอบเดียว ตามรายงานของ Unite.AI บริษัทกำหนดขั้นต่ำ 100 รายการสำหรับการทดสอบหลายรอบที่ซับซ้อน และ 1,000 รายการสำหรับการทดสอบรอบเดียวที่ง่ายกว่า ขณะเดียวกันช่วงความเชื่อมั่นของผลการทดสอบหลายรอบผ่าน API อาจกว้างเกินบวกลบ 10 จุดเปอร์เซ็นต์ จึงควรอ่านตัวเลขเหล่านี้อย่างระมัดระวัง

ตัวอย่างที่ถูกพูดถึงมากที่สุดคือรายงานของ TheNextWeb ซึ่งระบุว่า Claude Fable 5.1 ตอบได้อย่างเหมาะสมเพียง 60% ของบทสนทนาทดสอบเรื่องการทำร้ายตัวเองเมื่อเรียกผ่าน API โดยเทียบกับ 94% ของ Claude อีกรุ่นหนึ่ง อย่างไรก็ตาม ข้อมูลที่ตรวจพบยังไม่ครบว่าตัวเลข 94% มาจากรุ่นใดและการทดสอบใช้เงื่อนไขเดียวกันหรือไม่

สำหรับนักพัฒนาและองค์กรที่นำ AI ไปใช้ ข่าวนี้ชี้ว่าตัวเลขความปลอดภัยที่ประกาศออกมาควรถามต่อว่าทดสอบด้วยวิธีใด กี่รายการ และมีการตรวจด้วยมนุษย์หรือไม่ก่อนนำไปตัดสินใจ