ทันเอไอ

ซีอีโอ Anthropic เตือนปี 2023: AI โอเพนซอร์สอาจเป็นความเสี่ยงที่แก้ไขไม่ได้

Dario Amodei ซีอีโอ Anthropic เคยให้การต่อสภาคองเกรสสหรัฐฯ ปี 2023 ว่าโมเดล AI แบบโอเพนซอร์ส (open-source) ที่ทรงพลังอาจควบคุมความปลอดภัยได้ยากกว่าระบบปิด

ประเด็นนี้กลับมาเป็นที่พูดถึงอีกครั้งบน Hacker News หลังมีการแชร์คำเตือนของ Dario Amodei ซีอีโอและผู้ร่วมก่อตั้ง Anthropic ที่เคยให้การต่อสภาคองเกรสสหรัฐฯ เมื่อปี 2023 ว่า AI แบบโอเพนซอร์ส (open-source AI) กำลังเดินเข้าสู่เส้นทางที่อันตราย โดยเฉพาะเมื่อโมเดลที่มีศักยภาพสูงถูกเผยแพร่ให้ดาวน์โหลดใช้งานได้อย่างเสรี Amodei ระบุข้อกังวล 3 ด้านหลัก คือ นักพัฒนาไม่สามารถตรวจสอบได้ว่าใครนำโมเดลไปใช้ในทางที่ผิด, ไม่สามารถเพิกถอนสิทธิ์การเข้าถึงจากผู้ประสงค์ร้ายได้ และไม่สามารถอัปเดตกลไกป้องกันหรือแพตช์ช่องโหว่ด้านความปลอดภัยได้แบบโมเดลปิด (closed-source) ที่บริษัทควบคุมอยู่บนเซิร์ฟเวอร์ของตัวเอง เขามองว่าความแตกต่างนี้ทำให้การกำกับดูแลด้านความปลอดภัยของโมเดลโอเพนซอร์สทำได้ยากกว่าอย่างต่อเนื่อง และหากเกิดการใช้งานผิดวัตถุประสงค์ขึ้นแล้ว อาจไม่มีทางแก้ไขย้อนกลับได้ ขณะที่ในกระทู้ Hacker News มีการถกเถียงกันคึกคักถึงมุมมองนี้ ทั้งฝ่ายเห็นด้วยและฝ่ายที่มองว่าเป็นข้ออ้างเชิงธุรกิจของบริษัทที่ทำโมเดลปิด