ทันเอไอ

นักวิจัย AI อดีตบุคลากรชั้นนำเตือนภัย ซูเปอร์อินเทลลิเจนซ์อันตรายเท่าที่ได้ยิน

กลุ่มนักวิจัยและอดีตพนักงานจากบริษัท AI แถวหน้า ออกมาเผยแพร่วิดีโอเตือนภัยความเสี่ยงระดับสูญพันธุ์จากการพัฒนาซูเปอร์อินเทลลิเจนซ์

สำนักข่าว The Verge รายงานว่า กลุ่มนักวิจัยด้านปัญญาประดิษฐ์ (AI) รวมถึงอดีตพนักงานจากบริษัทชั้นนำอย่าง OpenAI และ Google DeepMind ได้เผยแพร่วิดีโอชุดใหม่เพื่อเตือนสังคมเกี่ยวกับความเสี่ยงของ "ซูเปอร์อินเทลลิเจนซ์" (Superintelligence) หรือระบบ AI ที่มีความฉลาดเหนือมนุษย์ โดยระบุตรงกันว่าเทคโนโลยีนี้มีความอันตรายอย่างที่หลายฝ่ายกังวล

หนึ่งในคำเตือนที่สำคัญมาจาก เจฟฟรีย์ เออร์วิง (Geoffrey Irving) อดีตพนักงานของ OpenAI และ Google DeepMind ซึ่งกล่าวในบทสัมภาษณ์ทำนองว่า โอกาสที่มนุษยชาติจะสูญพันธุ์จากเทคโนโลยีดังกล่าวนั้นมีสัดส่วนใกล้เคียงกับการโยนเหรียญหัวก้อย วิดีโอชุดนี้รวบรวมบทสัมภาษณ์จากนักวิจัยและอดีตพนักงานราวสิบกว่าคนจากบริษัทเทคโนโลยีรายใหญ่ ทั้ง OpenAI, Google และ Anthropic จัดทำโดย Palisade Research ซึ่งระบุว่าเป็นองค์กรไม่แสวงหากำไรที่ทำการศึกษาด้านความปลอดภัยของ AI

ความเคลื่อนไหวดังกล่าวสอดคล้องกับรายงานจากสื่อใหญ่อย่าง The Guardian ที่ระบุว่า นักวิจัยบางส่วนจาก Anthropic และ OpenAI เคยออกมาเตือนว่า AI อาจเข้ามาคุกคามการดำรงอยู่ของมนุษย์ภายในช่วงทศวรรษนี้ ขณะที่ CBS News รายงานเพิ่มเติมว่า ผู้เชี่ยวชาญมองว่ามนุษย์กำลังเข้าใกล้จุดที่อาจสูญเสียการควบคุมระบบ AI หากพวกมันพัฒนาสติปัญญาจนก้าวล้ำหน้ามนุษย์ไปไกล โดยปราศจากมาตรการควบคุม (alignment) และแผนความปลอดภัยที่รัดกุมพอ