Riset Ungkap Laporan Perilaku Pengguna AI dari Perusahaan Raksasa Sembunyikan Hampir Separuh Kebenaran
Laporan perilaku penggunaan AI yang diterbitkan perusahaan pengembang dinilai tidak mencerminkan gambaran utuh, setelah tim peneliti independen menemukan hampir separuh data pribadi telah disaring dan dibuang.
Di dunia di mana teknologi kecerdasan buatan memainkan peran penting, sebagian besar informasi tentang cara orang menggunakan Generative AI berasal dari laporan perusahaan pengembang itu sendiri, seperti OpenAI dan Anthropic, yang sering kali fokus menyajikan data seputar pekerjaan dan peningkatan produktivitas (Work & Productivity).
Namun, Anka Reuel, mahasiswa doktoral ilmu komputer dari Stanford Trustworthy AI Research (STAIR Lab) menyatakan bahwa data tersebut belum memiliki sumber verifikasi independen untuk mengonfirmasi kebenarannya.
Baru-baru ini, tim peneliti dari MIT Media Lab, Universitas Stanford, dan jaringan riset independen Data Provenance Initiative (DPI) meluncurkan proyek "AI Observatory" untuk mengumpulkan dan menganalisis data penggunaan AI di dunia nyata secara transparan. Analisis ini didasarkan pada 24.521 percakapan yang disetujui (total 85.633 pesan interaktif) yang mencakup 52 model bahasa.
Hasil analisis menemukan bahwa ketika metode penyaringan data yang digunakan oleh perusahaan AI (seperti Anthropic Economic Index) diterapkan untuk pengujian, sekitar 48% percakapan nyata justru disingkirkan. Konten yang disaring tersebut umumnya bersifat pribadi, seperti kesehatan, hubungan, dan isu-isu sensitif, yang mencerminkan bahwa laporan resmi mungkin tidak menunjukkan gambaran utuh dari penggunaan AI oleh masyarakat secara keseluruhan.
Mencerminkan bahwa citra penggunaan AI saat ini mungkin dibatasi hanya pada urusan bisnis dan pekerjaan demi kepentingan pemasaran atau kebijakan, sementara penggunaan dalam kehidupan sehari-hari masyarakat umum justru diabaikan.