CEO Google DeepMind usulkan pembentukan 'organisasi pengawas AI' yang dipimpin AS, tegaskan saatnya buat standar keamanan global
Demis Hassabis, CEO dan salah satu pendiri Google DeepMind, mengusulkan pembentukan lembaga pengawas untuk frontier AI yang berwenang memeriksa dan menunda pengembangan jika ditemukan risiko berbahaya.
Demis Hassabis, CEO Google DeepMind, meluncurkan gagasan penting untuk membentuk organisasi pengawas AI global yang dipimpin oleh Amerika Serikat. Lembaga ini akan bertugas memantau dan mengendalikan model AI paling canggih atau 'frontier model' jika ditemukan potensi bahaya. Proposal ini diungkapkan melalui artikel pribadinya berjudul "A Framework for Frontier AI and the Dawning of a New Age" pada 14 Juli lalu.
Hassabis mengusulkan agar lembaga baru ini mencontoh model FINRA (Financial Industry Regulatory Authority), yakni organisasi regulasi sektor swasta yang didanai industri keuangan untuk mengawasi Wall Street di bawah pengawasan pemerintah. Untuk AI, awalnya laboratorium AI terkemuka akan menyerahkan model mereka secara sukarela untuk diperiksa selama maksimal 30 hari sebelum dirilis, guna menguji risiko keamanan siber, biologis, serta kemampuan untuk "menipu" (deception). Setelah sistem pengujian terbukti efektif, semua model frontier wajib melewati evaluasi ini sebelum dapat digunakan di pasar AS, terlepas dari negara asal pengembang atau apakah model tersebut bersifat terbuka maupun tertutup. Ia menargetkan lembaga ini sudah dapat beroperasi sebelum akhir tahun.
Dorongan utama proposal ini dipicu oleh kejadian bulan lalu, ketika pemerintahan Donald Trump mengeluarkan perintah kontrol ekspor untuk menahan model Mythos dan Fable milik Anthropic secara mendadak. Hassabis melihat hal itu sebagai "peringatan" bahwa pemerintah membutuhkan mekanisme yang lebih jelas dan stabil daripada perintah ad-hoc, di mana saat itu Anthropic harus bernegosiasi selama 2,5 minggu tanpa aturan yang jelas.
Gagasan pengawasan ketat ini tidak hanya datang dari Hassabis. CEO Anthropic, Dario Amodei, juga pernah menyerukan regulasi mengikat, dengan membandingkannya pada FAA (Federal Aviation Administration) yang memiliki wewenang untuk melarang pesawat terbang jika dianggap tidak aman. Hal ini mencerminkan kesadaran kolektif di kalangan pemimpin perusahaan AI terkemuka bahwa mekanisme standar diperlukan untuk membangun kepercayaan dan keamanan di era AI yang semakin kuat.
Proposal ini bisa menjadi titik awal bagi standar regulasi AI global yang akan berdampak langsung pada semua perusahaan pengembang AI, termasuk di Indonesia, serta menentukan arah bagaimana teknologi AI yang kuat akan digunakan dengan aman di masa depan.