"AI 2040" แผนชะลอ Superintelligence ถึงปี 2040 ถูกวิจารณ์โดย George Hotz ว่าเป็นแค่ "ลัทธิบูชาสติปัญญา"
George Hotz แฮกเกอร์ชื่อดังวิจารณ์ข้อเสนอ "AI 2040" จากอดีตทีม OpenAI ที่ต้องการชะลอการพัฒนา AI และเปิดเผยงานวิจัยทั้งหมด ว่าเป็นแนวคิดที่มองข้ามความเป็นจริงทางกายภาพ
ประเด็นร้อนในชุมชนเทคโนโลยีสัปดาห์นี้ คือบทความวิจารณ์จาก George Hotz (geohot) แฮกเกอร์และผู้ก่อตั้ง Comma.ai ที่มีต่อข้อเสนอชื่อ "AI 2040: Plan A" ซึ่งเป็นวิสัยทัศน์เชิงบวกสำหรับอนาคตของปัญญาประดิษฐ์ นำเสนอโดยกลุ่มนักวิจัยที่เคยทำงานใน OpenAI มาก่อน
ข้อเสนอ "AI 2040" เป็นผลงานต่อยอดจากรายงาน "AI 2027" ที่ทีมงานชุดเดียวกันเคยเขียนไว้ โดยในฉบับก่อนหน้าพวกเขาได้ทำนายอนาคตที่น่ากังวลว่า AI อาจนำไปสู่การสูญพันธุ์ของมนุษย์หรือการรวมศูนย์อำนาจแบบเบ็ดเสร็จ แต่ใน "Plan A" นี้ พวกเขาได้เสนอทางออกในอุดมคติ โดยมีสาระสำคัญคือการชะลอการพัฒนาปัญญาประดิษฐ์ระดับเหนือมนุษย์ (superintelligence) ออกไปจนถึงปี 2040, เปิดเผยงานวิจัย AI ทั้งหมดสู่สาธารณะเพื่อให้เกิดการกระจายตัวของเทคโนโลยี และสร้างระบบที่ทุกฝ่ายสามารถตรวจสอบและยับยั้งการพัฒนาที่รวดเร็วเกินไปได้ร่วมกัน ทีมผู้เขียนประกอบด้วยบุคคลสำคัญในวงการความปลอดภัย AI เช่น Daniel Kokotajlo, Thomas Larsen, Eli Lifland และ Romeo Dean
อย่างไรก็ตาม George Hotz ได้เขียนบทความตอบโต้ในบล็อกของเขา โดยเรียกแนวคิดนี้ว่าเป็นส่วนหนึ่งของ "ลัทธิบูชาสติปัญญา" (cult of intelligence) เขาโต้แย้งว่าสติปัญญาไม่ใช่เป้าหมายสูงสุด แต่เป็นเพียงปัญหาคอขวดในปัจจุบันเท่านั้น Hotz ชี้ว่าการจะยึดครองโลกไม่สามารถทำได้ด้วย "โทเคน" (tokens - หน่วยข้อมูลพื้นฐานที่โมเดล AI ประมวลผล) เพียงอย่างเดียว แต่ต้องอาศัยการควบคุมทรัพยากรและห่วงโซ่อุปทานในโลกแห่งความเป็นจริงด้วย
นอกจากนี้ Hotz ยังวิจารณ์ภาพประกอบในรายงาน AI 2040 ที่แสดงภาพศูนย์ข้อมูลลอยน้ำขนาดใหญ่ ว่าดูเหมือน vaporware (ซอฟต์แวร์หรือฮาร์ดแวร์ที่ประกาศเปิดตัวแต่ไม่เคยเกิดขึ้นจริง) ซึ่งสร้างภาพได้ง่าย แต่ในความเป็นจริงต้องเผชิญกับความท้าทายด้านวิศวกรรมและโลจิสติกส์มหาศาล ประเด็นดังกล่าวได้จุดประกายให้เกิดการถกเถียงอย่างกว้างขวางบนเว็บบอร์ด Hacker News โดยมีผู้ร่วมแสดงความคิดเห็นกว่า 103 คอมเมนต์ และได้รับคะแนนโหวต 75 คะแนน สะท้อนให้เห็นถึงมุมมองที่แตกต่างกันอย่างสุดขั้วต่อทิศทางการพัฒนา AI ในอนาคต
ประเด็นนี้สะท้อนการถกเถียงครั้งสำคัญในวงการ AI ระหว่างฝ่ายที่ต้องการเร่งพัฒนาเพื่อผลประโยชน์ กับฝ่ายที่กังวลเรื่องความปลอดภัยและต้องการชะลอความเร็ว ซึ่งผลลัพธ์ของการถกเถียงนี้จะส่งผลต่อทิศทางเทคโนโลยี AI ที่จะกระทบต่อทุกคนในอนาคต