Estudo alerta que AI Agents estão excluindo humanos de decisões e degradando habilidades cognitivas
Artigo acadêmico aponta que o aumento da autonomia de AI Agents está fazendo humanos perderem a capacidade de supervisionar e auditar sistemas.
Em 24 de agosto de 2026, foi publicado no repositório arXiv o position paper "AI Agents Push Humans Out of the Loop", de autoria de Margaret Mitchell e Avijit Ghosh, da Hugging Face, junto a Samir Passi, da Data & Society.
O estudo aborda os riscos de segurança decorrentes da maior autonomia concedida a AI Agents. Embora a supervisão humana (human oversight) seja a solução mais recomendada, o artigo argumenta que o modelo atual de desenvolvimento não só impede uma auditoria eficaz, mas também degrada as capacidades cognitivas humanas após o uso prolongado de sistemas de IA.
Para resolver o problema, os autores defendem que priorizar os objetivos e as necessidades cognitivas dos supervisores humanos deve ser o foco no desenvolvimento de IA. Eles sugerem medidas de design, como pausas deliberadas para reflexão ou verificação, além de protocolos organizacionais como treinamentos e rotação de funções para evitar a perda de habilidades com o tempo.
Mostra que a dependência excessiva de IA pode enfraquecer o pensamento crítico e a tomada de decisão dos próprios humanos, um ponto de atenção crucial para organizações ao adotarem IA autônoma.