ทันเอไอ

Peneliti Mengusulkan 'Plan A' untuk Menunda Penciptaan Superintelligence hingga 2040, Menuntut Pengungkapan Semua Penelitian

Organisasi penelitian AI Futures Project mengusulkan rencana proaktif untuk mengelola risiko AI tingkat tinggi, mendesak penundaan pengembangan hingga 2040 dan pengungkapan semua penelitian kepada publik untuk mengurangi persaingan berbahaya.

Organisasi penelitian nirlaba AI Futures Project telah merilis proposal kebijakan penting berjudul "AI 2040: Plan A," yang menyajikan pendekatan yang sama sekali berbeda dalam mengelola risiko kecerdasan buatan tingkat lanjut di masa depan. Penulis utamanya adalah Daniel Kokotajlo, mantan peneliti dari OpenAI, dan Thomas Larsen, salah satu penulis laporan AI 2027 yang sebelumnya menarik perhatian. Inti dari "Plan A" bukanlah prediksi, melainkan rekomendasi yang diyakini tim peneliti "seharusnya terjadi" untuk membawa umat manusia menuju hasil terbaik. Rencana tersebut mendesak penundaan pengembangan Superintelligence (kecerdasan buatan yang lebih pintar dari manusia dalam segala aspek) setidaknya hingga tahun 2040. Langkah penting yang diusulkan adalah mewajibkan semua laboratorium AI untuk mengungkapkan semua penelitian dan model kepada publik, guna menghilangkan persaingan rahasia dan menciptakan transparansi di industri. Proposal tersebut selanjutnya menyatakan bahwa pengungkapan semua data akan membantu puluhan perusahaan dan organisasi penelitian di seluruh dunia untuk menyusul teknologi kelompok pemimpin, yang akan mengarah pada desentralisasi dan mencegah satu organisasi menguasai kekuatan mutlak. Gagasan penting lainnya adalah sengaja menciptakan kondisi yang disebut "mutually assured compute destruction," sebuah prinsip yang mirip dengan "pemusnahan yang dijamin bersama" (mutually assured destruction) di era Perang Dingin, namun beralih dari senjata nuklir ke daya komputasi (compute power). Jika ada pihak yang mencoba mempercepat pengembangan AI secara rahasia, pihak lain yang tersisa dapat menggabungkan daya komputasi yang saling diungkapkan untuk menghambat atau membalas, sehingga tidak ada yang berani melanggar perjanjian. Laporan ini merupakan karya penting ketiga dari AI Futures Project, setelah AI 2027 dan AI Futures Model. Situs web proyek ini juga dikembangkan bersama Lightcone Infrastructure. Proposal ini telah dikonfirmasi dan dilaporkan oleh media terkemuka seperti Axios dan Washington Post, menunjukkan bahwa ini adalah proposal yang serius diperhatikan dalam dunia teknologi dan kebijakan global.