CEO Google DeepMind, Demis Hassabis, mengusulkan pembentukan organisasi independen untuk mengawasi AI level Frontier sebelum dirilis guna menetapkan standar keamanan.
CEO dan salah satu pendiri Google DeepMind mengungkapkan rencana proaktif, menyerukan AS untuk membentuk badan pengawas AI yang didanai industri untuk memeriksa dan mengesahkan keamanan model tercanggih sebelum diluncurkan ke publik.
Demis Hassabis, CEO dan salah satu pendiri Google DeepMind, telah mengusulkan rencana pembentukan organisasi pengawas AI independen baru di Amerika Serikat. Organisasi ini akan memiliki wewenang untuk memeriksa model AI paling canggih di dunia dan mengoordinasikan penghentian pengembangan jika ditemukan risiko berbahaya. Proposal ini dipublikasikan dalam dokumen visi pribadi berjudul "A Framework for Frontier AI and the Dawning of a New Age".
Hassabis mengusulkan agar organisasi ini dibentuk menyerupai FINRA (Financial Industry Regulatory Authority), yaitu badan pengawas swasta yang didanai oleh industri untuk mengawasi pasar saham Wall Street di bawah regulasi pemerintah. Organisasi pengawas AI yang diusulkan harus memiliki tim ahli teknis kelas dunia dan bertanggung jawab kepada pemerintah AS. Prosedurnya, perusahaan pengembang AI level Frontier harus menyerahkan model mereka kepada badan pengawas untuk pemeriksaan keamanan maksimal 30 hari sebelum peluncuran, dan harus lulus uji risiko sebelum dapat digunakan di pasar AS.
Untuk struktur dewan, Hassabis membayangkan mayoritas anggota harus terdiri dari direktur independen yang mencakup pemenang Turing Award dan pakar yang diakui, bersama dengan perwakilan dari industri, pemerintah, dan komunitas open-source. Ia juga menetapkan kerangka waktu yang ambisius, menyatakan bahwa ini hanya membutuhkan waktu "beberapa bulan" dan organisasi tersebut harus mulai beroperasi "sebelum akhir tahun ini".
Dorongan utama proposal ini berasal dari peristiwa saat pemerintahan Trump memberlakukan langkah pengendalian ekspor pada model Mythos dan Fable milik Anthropic secara mendadak bulan lalu, yang disebut Hassabis sebagai "peringatan keras" bahwa Washington membutuhkan mekanisme yang lebih stabil daripada sekadar perintah ad-hoc. Ia menambahkan bahwa para pemimpin laboratorium AI besar lainnya sepakat bahwa industri memerlukan regulasi, meskipun masih terdapat perbedaan pendapat mengenai siapa yang seharusnya memegang otoritas pengawasan.
Proposal ini datang dari salah satu tokoh paling berpengaruh di dunia AI. Jika terealisasi di AS, hal ini berpotensi menjadi cetak biru regulasi bagi negara lain di seluruh dunia, yang akan berdampak langsung pada pengembangan dan penerapan AI di Thailand di masa depan.