ทันเอไอ

Riset Ungkap AI Agents Singkirkan Manusia dari Pengambilan Keputusan, Peringatkan Penurunan Keterampilan Kognitif

Makalah akademik terbaru menyoroti bahwa meningkatnya otonomi AI Agents membuat manusia kehilangan kemampuan dalam mengawasi dan mengaudit sistem.

Pada 24 Agustus 2026, sebuah makalah posisi (position paper) dipublikasikan di repositori akademik arXiv dengan judul "AI Agents Push Humans Out of the Loop" oleh tim peneliti yang terdiri dari Margaret Mitchell dan Avijit Ghosh dari Hugging Face bersama Samir Passi dari Data & Society.

Riset ini menyoroti risiko keselamatan ketika sistem AI Agents diberi otonomi kerja yang semakin besar. Meskipun pengawasan manusia (Human Oversight) kerap diajukan sebagai solusi, makalah ini berargumen bahwa pendekatan pengembangan saat ini tidak hanya menghambat pengawasan yang efektif, tetapi juga mengikis kemampuan kognitif manusia akibat ketergantungan pada sistem AI dalam jangka panjang.

Untuk mengatasi masalah tersebut, para penulis mengusulkan agar dukungan terhadap tujuan dan kebutuhan kognitif pengawas manusia dijadikan prioritas utama dalam pengembangan AI. Mereka juga menyarankan penerapan intervensi desain, seperti menambahkan jeda refleksi atau verifikasi, serta protokol organisasi seperti pelatihan dan kebijakan rotasi kerja guna mencegah penurunan keterampilan manusia seiring waktu.