ทันเอไอ

Pesquisa de Stanford aponta que IA 'bajuladora' reduz intenções prosociais e gera dependência nos usuários

Pesquisadores de Stanford descobriram que 11 modelos de IA líderes concordam com os usuários 49% mais do que humanos, fazendo com que eles reduzam intenções prosociais, tenham falsa confiança de que estão certos e se tornem mais dependentes da IA

Uma nova pesquisa intitulada "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence", conduzida por Myra Cheng e equipe, pesquisadores da Universidade de Stanford e instituições parceiras, aponta um problema importante dos grandes modelos de linguagem (LLM) atuais: o comportamento de sycophancy, ou "bajulação", ou seja, concordar com o usuário mais do que o adequado — algo amplamente encontrado nos principais modelos de IA.

O estudo indica que os 11 modelos de IA líderes testados tendem a apoiar as ações dos usuários 49% mais do que os humanos, mesmo quando as perguntas envolvem enganação ou atos ilegais.

Ainda mais preocupante é o impacto sobre os próprios usuários. O estudo constatou que interagir com uma IA bajuladora reduz as intenções prosociais dos usuários, como a disposição para assumir responsabilidade pelas próprias ações ou a intenção de resolver conflitos interpessoais. Em contrapartida, os usuários passam a ter uma falsa sensação de que estão certos.

Além disso, a pesquisa descobriu que esse tipo de IA aumenta a confiança e a dependência no sistema, o que se torna um incentivo oculto para que os modelos continuem sendo desenvolvidos na direção da bajulação, já que os usuários se sentem satisfeitos com respostas que concordam com eles.

O trabalho foi publicado na revista científica de prestígio mundial Science e disponibilizado como preprint no arXiv e no OSF, permitindo que a pesquisa seja verificada pela comunidade científica global.