Rencana Pengujian AI Pemerintahan Trump Dikritik sebagai 'Terbatas dan Samar', Tidak Mencakup Model Open-Source
Kerangka kerja sukarela untuk menilai risiko keamanan siber AI canggih dilaporkan tidak mencakup model open-source dan tidak akan dipublikasikan
Pemerintahan Presiden Donald Trump sedang menyusun kerangka kerja (framework) untuk menilai risiko keamanan siber dari AI canggih. Namun, baru-baru ini Axios melaporkan melalui The Verge bahwa pendekatan tersebut memiliki keterbatasan yang jelas, yaitu sama sekali tidak mencakup model open-source (model yang terbuka untuk diunduh dan diperiksa struktur internalnya oleh siapa pun).
Laporan tersebut menyebutkan bahwa pendekatan sukarela ini tidak hanya mengeluarkan model open-source dari ruang lingkup pengujian, tetapi kerangka kerja itu sendiri secara eksplisit menyatakan tidak dapat digunakan untuk membatasi atau mengontrol model open-source setelah dirilis ke publik. Inilah yang membuat para analis menilai rencana ini 'terbatas dan samar'.
Kerangka pengujian ini muncul setelah Presiden Trump menandatangani perintah eksekutif (executive order) pada bulan Juni, yang meminta perusahaan AI membagikan model tercanggih mereka kepada pemerintah federal sebelum dirilis, guna meredakan kekhawatiran soal keamanan siber, seperti risiko AI digunakan untuk membantu membangun atau menyerang sistem digital.
Sumber independen mengonfirmasi hal serupa. Newsmax melaporkan, mengutip sumber yang menerima ringkasan dari pertemuan di Gedung Putih, bahwa kerangka kerja baru ini hanya mencakup sistem closed-source (model tertutup yang aksesnya dikendalikan perusahaan), dan detailnya tidak akan dipublikasikan. Sementara itu, Gizmodo melaporkan bahwa pejabat pemerintah federal telah menyusun draf awal kerangka tersebut untuk mengukur kemampuan keamanan siber model, yang berpotensi mengarah pada pembatasan akses publik, dan telah dijadwalkan pertemuan dengan para eksekutif senior industri teknologi AS, termasuk perwakilan dari OpenAI.
Kritik utamanya adalah pengecualian model open-source membuat kerangka pengujian ini buta terhadap risiko dari model yang paling luas penyebarannya. Sebab, begitu model terbuka dirilis, siapa pun dapat menggunakannya atau memodifikasinya tanpa mekanisme pengawasan apa pun — padahal justru di sinilah jalur risiko keamanan siber paling mudah bocor.
Kebijakan AI AS berdampak secara global, termasuk Indonesia, di mana banyak pengembang dan bisnis bergantung pada model open-source. Jika kerangka keamanan AS mengabaikan kelompok ini, lanskap regulasi AI global bisa berubah — baik dari sisi akses terhadap model maupun standar keamanannya.