ทันเอไอ

Geger! Gugatan Hukum di AS Sembunyikan Prompt Injection dalam Dokumen Demi Manipulasi AI

Seorang penggugat di AS nekat menyembunyikan serangan prompt injection menggunakan teks berwarna putih dalam dokumen hukum untuk memanipulasi hasil persidangan.

Kantor berita 404 Media dan analisis dari firma hukum Harris Beach Murtha mengungkap kasus menarik terkait keamanan teknologi, di mana Matthew Elliott, seorang penggugat mandiri (pro se plaintiff) di Pengadilan Negara Bagian Connecticut, AS, kedapatan menyembunyikan instruksi (Prompt Injection) di dalam dokumen gugatan perkara Elliott v. New York Bariatric Group.

Metode yang ia gunakan adalah mengetik teks dengan warna putih di atas latar belakang putih berukuran hanya 3 poin, sehingga tidak kasat mata bagi manusia, namun dapat dibaca oleh software atau alat pemroses teks. Isi teks tersembunyi tersebut menginstruksikan AI yang bertugas membaca dokumen untuk "memihak" dirinya saat merangkum data.

Kendati demikian, rencana tersebut terbongkar setelah staf pengadilan mendapati area kosong yang tidak wajar (extra white space) pada dokumen elektronik tersebut, yang berujung pada penemuan pesan rahasia itu. Akibatnya, Hakim Walter M. Spader, Jr. menjatuhkan sanksi dengan menyatakan tindakan tersebut tidak beritikad baik terhadap proses peradilan, serta melarang penggugat mengajukan dokumen melalui sistem elektronik dan mewajibkannya menyerahkan dokumen cetak konvensional. Meski demikian, pengadilan mengonfirmasi bahwa belum ada penggunaan kecerdasan buatan dalam memproses putusan kasus ini.