ทันเอไอ

Peneliti Temukan 'Ghostcommit', Teknik Baru Sembunyikan Perintah Berbahaya dalam File Gambar untuk Menipu AI dan Mencuri Data Rahasia

Tim peneliti keamanan mendemonstrasikan teknik 'Ghostcommit' yang mampu menyematkan perintah berbahaya ke dalam file gambar PNG untuk menghindari deteksi dan berhasil mengelabui AI agar membantu menulis kode untuk menarik data penting dari sebuah proyek.

ASSET Research Group, sebuah kelompok peneliti keamanan, telah mengungkapkan teknik serangan baru bernama 'Ghostcommit' yang dapat menyembunyikan perintah berbahaya jenis Prompt Injection (memasukkan perintah untuk memanipulasi AI tanpa izin) ke dalam file gambar yang tampak tidak berbahaya seperti file PNG untuk mencuri data rahasia, seperti API Keys atau kata sandi basis data, dari repositori kode pengembang.

Metode Ghostcommit memanfaatkan kelemahan pada alat pemeriksa kode AI (AI code reviewer) populer seperti CodeRabbit dan Bugbot, yang pada umumnya tidak dirancang untuk membuka atau menganalisis konten di dalam file gambar. Hal ini memungkinkan perintah yang tersembunyi lolos dari deteksi dengan mudah. Teknik ini bekerja dengan membagi serangan menjadi dua bagian. Bagian pertama adalah file teks yang terlihat normal (dalam kasus ini, AGENTS.md) yang akan memerintahkan agen AI untuk 'mengambil konstanta untuk build' dari file gambar yang ditentukan (docs/images/build-spec.png). Bagian kedua, yang merupakan inti serangan, adalah perintah berbahaya yang disematkan sebagai teks di dalam file gambar itu sendiri. Perintah tersebut akan memberi tahu AI untuk membaca konten dalam file .env (file yang sering digunakan pengembang untuk menyimpan data rahasia) karakter demi karakter, lalu mengubahnya menjadi kode angka ASCII sebelum menulisnya ke dalam kode.

Dalam pengujian sebenarnya, peneliti mendemonstrasikan dengan Cursor, yang merupakan agen AI yang didukung oleh model Claude Sonnet. Hasilnya, Cursor berhasil ditipu untuk mengikuti perintah yang tersembunyi di dalam gambar sejak percobaan pertama. Ia menciptakan daftar 311 angka, yang sebenarnya adalah semua data rahasia proyek, termasuk API keys, URL basis data, dan informasi akses sistem cloud, yang telah dienkode dan dicampur dengan tinjauan kode yang tampak normal.

Celah ini terjadi karena bagi sistem pemeriksa kode yang berfokus pada teks, file gambar hanyalah Binary Blob (gumpalan data biner) yang tidak dapat dibaca atau dipahami. Peneliti menunjukkan bahwa ini bukan konsep yang sepenuhnya baru. Sebelumnya, peneliti dari Trail of Bits juga pernah mendemonstrasikan teknik yang lebih kompleks menggunakan gambar yang, ketika diperkecil oleh AI, akan berubah menjadi perintah Prompt Injection untuk mengelabui alat seperti Gemini CLI juga. Saat ini, tim ASSET Research Group sedang mengembangkan sistem pertahanan Multimodal (yang memahami berbagai format data) untuk memeriksa gambar, teks, dan perilaku agen AI secara bersamaan guna menutup celah semacam ini di masa depan.