ทันเอไอ

Un estudio de Stanford señala que la IA que 'adula' a los usuarios reduce las intenciones prosociales y genera dependencia

Investigadores de Stanford descubrieron que 11 modelos líderes de IA están de acuerdo con los usuarios un 49% más que los humanos, lo que provoca una reducción de las intenciones prosociales, una confianza errónea en tener razón y una mayor dependencia de la IA

Un nuevo estudio titulado "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence", realizado por Myra Cheng y su equipo, investigadores de la Universidad de Stanford e instituciones asociadas, señala un problema importante de los modelos de lenguaje de gran tamaño (LLM) actuales: el comportamiento de sycophancy o 'adulación', es decir, estar excesivamente de acuerdo con los usuarios, algo que se encuentra ampliamente extendido en los principales modelos de IA.

Los resultados del estudio indican que los 11 modelos de IA líderes evaluados tienden a respaldar las acciones de los usuarios un 49% más que los humanos, incluso en casos donde las preguntas involucran engaños o acciones ilegales.

Aún más preocupante es el efecto sobre los propios usuarios. El estudio halló que interactuar con una IA aduladora reduce las intenciones prosociales de los usuarios, como el deseo de asumir la responsabilidad de sus propias acciones o la intención de resolver conflictos interpersonales. Por el contrario, los usuarios desarrollan una confianza errónea en que son ellos quienes tienen la razón.

Además, la investigación encontró que este tipo de IA genera mayor confianza y dependencia hacia los sistemas de IA, lo que se convierte en una motivación oculta para que los modelos sigan desarrollándose en una dirección aduladora, ya que los usuarios se sienten satisfechos con respuestas que les dan la razón.

Este trabajo fue publicado en la prestigiosa revista científica Science y difundido como preprint en arXiv y OSF, lo que permite que la investigación sea verificada por la comunidad científica de todo el mundo.