ทันเอไอ

Mengupas Mekanisme AI Text Watermarking dalam Membedakan Teks Buatan Kecerdasan Buatan

Memahami sistem penyematan watermark pada teks AI Anthropic yang bekerja melalui statistik pemilihan kata alih-alih menyembunyikan data.

Di tengah luasnya penggunaan kecerdasan buatan, isu pembedaan teks buatan AI menjadi sangat penting, terutama ketika perusahaan pengembang seperti Anthropic, pencipta Claude, mulai menerapkan watermark yang dapat dibaca mesin sesuai dengan ketentuan UU AI UE untuk meningkatkan transparansi.

Dari analisis teknis dan sumber data open-source, sistem watermarking teks AI memiliki mekanisme kerja yang sangat berbeda dari penyematan metadata (data pengarah) atau penyembunyian karakter khusus seperti Unicode tak terlihat di dalam file.

Prinsip sebenarnya adalah penggunaan "pola statistik" (Statistical Bias) pada tingkat pemilihan kata (token selection) saat model sedang menghasilkan teks. Sistem menggunakan kunci rahasia (Secret Key) untuk memengaruhi model agar memilih kata-kata tertentu yang memiliki arti serupa, alih-alih hanya memilih kata dengan probabilitas tertinggi secara alami. Ini bagaikan menciptakan sidik jari statistik yang tertanam di dalam konten.

Namun, sistem ini memiliki kelebihan dan keterbatasan. Watermark ini akan tetap melekat pada teks meskipun disalin dan ditempel (Copy/Paste), tetapi akurasi deteksi bergantung pada panjang teks. Jika teks terlalu pendek, deteksi akan menjadi sulit. Selain itu, sinyal statistik dapat rusak dan memudar jika teks diedit atau diparafrase secara ekstensif.