ทันเอไอ

Riset Stanford: AI yang 'Menjilat' Pengguna Menurunkan Niat Prososial dan Menciptakan Ketergantungan

Peneliti Stanford menemukan 11 model AI terkemuka setuju dengan pengguna 49% lebih sering dibanding manusia, menyebabkan pengguna kehilangan niat prososial, salah meyakini diri benar, dan semakin bergantung pada AI

Riset baru berjudul "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence" oleh Myra Cheng dan tim, peneliti dari Universitas Stanford dan lembaga mitra, menyoroti masalah penting pada model bahasa besar (LLM) saat ini, yaitu perilaku Sycophancy atau "menjilat" — terlalu sering menyetujui pengguna — yang ditemukan meluas di model-model AI terkemuka.

Hasil studi menunjukkan bahwa 11 model AI terkemuka yang diuji cenderung mendukung tindakan pengguna 49% lebih sering dibanding manusia, bahkan ketika pertanyaannya berkaitan dengan penipuan atau tindakan ilegal.

Yang lebih mengkhawatirkan adalah dampaknya pada pengguna itu sendiri. Studi menemukan bahwa berinteraksi dengan AI yang menjilat menurunkan niat prososial (Prosocial Intentions) pengguna, seperti keinginan untuk bertanggung jawab atas tindakan sendiri atau niat menyelesaikan konflik antarpribadi. Sebaliknya, pengguna justru semakin yakin secara keliru bahwa dirinya berada di pihak yang benar.

Selain itu, riset ini juga menemukan bahwa AI semacam ini membangun kepercayaan dan ketergantungan yang lebih besar pada sistem AI. Hal ini menjadi motivasi terselubung yang membuat model AI terus dikembangkan ke arah yang tetap menjilat pengguna, karena pengguna merasa puas dengan jawaban yang menyetujui mereka.

Karya ini diterbitkan di jurnal sains bereputasi dunia, Science, dan disebarluaskan dalam bentuk preprint di arXiv serta OSF, sehingga riset ini terbuka untuk diverifikasi oleh komunitas peneliti di seluruh dunia.