ทันเอไอ

Anthropic กำลังพัฒนา FlashProve เพื่อตรวจว่าคำตอบ AI มาจากโมเดลที่อ้างจริงหรือไม่

Anthropic กำลังพัฒนาระบบชื่อ FlashProve ที่ให้ใครก็ตามตรวจได้ว่าคำตอบของ AI มาจากโมเดลที่อ้างจริง โดยไม่ต้องเห็นน้ำหนักโมเดล

TechCrunch รายงานว่า Anthropic บริษัทพัฒนา AI กำลังทำระบบชื่อ FlashProve ออกแบบมาเพื่อให้ผู้ใช้ทั่วไปตรวจสอบได้ด้วยตัวเองว่า คำตอบที่ได้จาก AI มาจากโมเดลที่ระบุไว้จริงหรือไม่ เป้าหมายคือให้การตรวจสอบเป็นเรื่องที่ทำได้จริง ไม่ต้องพึ่งคำบอกเล่าของบริษัทอย่างเดียว

ตามที่แหล่งข่าวอธิบาย กลไกของระบบคือ ผู้พัฒนาโมเดลต้องเผยแพร่ "ลายนิ้วมือ" (fingerprint) ของโมเดลแต่ละรุ่นที่ปล่อยออกมา ลายนิ้วมือนี้จะถูกนำไปจับคู่กับผลลัพธ์ที่โมเดลสร้างขึ้นภายหลัง และตรวจสอบด้วยวิธีเข้ารหัส (cryptographic verification) จุดสำคัญคือ ลายนิ้วมือไม่เปิดเผยน้ำหนักโมเดล (weights) ซึ่งเป็นส่วนที่บริษัทโมเดลปิดอย่าง Anthropic และ OpenAI เก็บเป็นความลับ

อย่างไรก็ตาม ระบบนี้มีขอบเขตชัดเจน มันพิสูจน์ได้ว่าคำตอบมาจากชุดน้ำหนักโมเดลที่ประกาศไว้ล่วงหน้า แต่ไม่ได้พิสูจน์ "ตัวตน" ของโมเดลในความหมายกว้าง ๆ ดังนั้นคำว่า prove identity ในหัวข่าวต้นทางจึงกว้างเกินไปเล็กน้อย

ข้อมูลที่มีในตอนนี้ยังมาจากแหล่งเดียว และยังไม่ระบุวันเปิดใช้งานหรือรายละเอียดทางเทคนิคเพิ่มเติม จึงควรติดตามการยืนยันจากบริษัทก่อนสรุปผล