George Hotz Kritik 'AI 2040': Rencana Penundaan Superintelligence Hingga 2040 Hanya 'Kultus Kecerdasan'
George Hotz, peretas terkenal, mengkritik proposal 'AI 2040' dari mantan tim OpenAI yang bertujuan menunda pengembangan AI dan membuka semua penelitian, menyebutnya sebagai konsep yang mengabaikan realitas fisik.
Isu hangat di komunitas teknologi minggu ini adalah artikel kritik dari George Hotz (geohot), peretas dan pendiri Comma.ai, terhadap proposal 'AI 2040: Plan A'. Proposal ini merupakan visi positif untuk masa depan kecerdasan buatan, yang disajikan oleh sekelompok peneliti yang sebelumnya bekerja di OpenAI.
Proposal 'AI 2040' merupakan pengembangan dari laporan 'AI 2027' yang sebelumnya ditulis oleh tim yang sama. Dalam edisi sebelumnya, mereka meramalkan masa depan yang mengkhawatirkan bahwa AI dapat menyebabkan kepunahan manusia atau sentralisasi kekuasaan total. Namun, dalam 'Plan A' ini, mereka menawarkan solusi ideal. Inti dari proposal ini adalah menunda pengembangan kecerdasan buatan tingkat super (superintelligence) hingga tahun 2040, membuka semua penelitian AI ke publik untuk mendistribusikan teknologi, serta menciptakan sistem di mana semua pihak dapat bersama-sama mengawasi dan mencegah pengembangan yang terlalu cepat. Tim penulis terdiri dari tokoh-tokoh penting dalam keamanan AI seperti Daniel Kokotajlo, Thomas Larsen, Eli Lifland, dan Romeo Dean.
Namun, George Hotz menulis artikel balasan di blognya, menyebut gagasan ini sebagai bagian dari 'kultus kecerdasan'. Ia berargumen bahwa kecerdasan bukanlah tujuan tertinggi, melainkan hanya hambatan saat ini. Hotz menunjukkan bahwa penguasaan dunia tidak dapat dicapai hanya dengan 'token' (unit data dasar yang diproses model AI), melainkan harus mengandalkan kendali atas sumber daya dan rantai pasokan di dunia nyata.
Selain itu, Hotz juga mengkritik ilustrasi dalam laporan AI 2040 yang menampilkan pusat data terapung besar. Ia menyebutnya terlihat seperti vaporware (perangkat lunak atau keras yang diumumkan tetapi tidak pernah terwujud), yang mudah digambarkan tetapi dalam kenyataannya menghadapi tantangan teknik dan logistik yang sangat besar. Isu ini memicu perdebatan luas di forum Hacker News, dengan lebih dari 103 komentar dan 75 poin suara, mencerminkan perbedaan pandangan yang ekstrem terhadap arah pengembangan AI di masa depan.
Isu ini mencerminkan perdebatan penting di industri AI antara pihak yang ingin mempercepat pengembangan demi keuntungan, dan pihak yang khawatir tentang keamanan serta ingin memperlambat laju. Hasil dari perdebatan ini akan memengaruhi arah teknologi AI yang berdampak pada semua orang di masa depan.