ทันเอไอ

La 'AI Psychosis' es el nuevo punto ciego de los líderes empresariales: cuando los CEO confían más en la IA que en las personas reales

Fast Company señala que el fenómeno 'AI psychosis' se está convirtiendo en el nuevo punto ciego de los líderes empresariales que dependen demasiado de las respuestas de la IA, hasta el punto de perder el juicio crítico a la hora de tomar decisiones

El sector tecnológico está hablando del fenómeno llamado 'AI psychosis' (psicosis por IA) desde una nueva perspectiva: un artículo de Fast Company señala que este es el último punto ciego de los líderes empresariales, después de que muchos directivos dependan y confíen excesivamente en las respuestas de la IA, hasta el punto de dejar de ejercer su juicio crítico o de verificar la información por sí mismos.

Cabe aclarar que la AI psychosis no es un diagnóstico médico, sino una metáfora que describe el comportamiento de los líderes empresariales. El término empezó a popularizarse a partir de un tuit de Mitchell Hashimoto, cofundador de HashiCorp, y fue desarrollado posteriormente por Aaron Levie, CEO de Box, quien considera que los CEO son especialmente propensos a sufrir esta condición porque están alejados del 'trabajo de campo real' (last mile of work), lo que les lleva a tomar decisiones basándose en resultados de la IA que parecen demasiado buenos para ser ciertos.

Los síntomas identificados como 'AI psychosis' a nivel directivo incluyen: confiar más en los consejos de la IA que en las opiniones de los colegas o en la propia experiencia, no verificar la exactitud del trabajo producido por la IA y dejar de hacer preguntas, porque la IA suele dar respuestas que suenan seguras y que apoyan las ideas preexistentes del líder, lo que genera un efecto de cámara de eco (echo chamber).

El artículo considera que lo que ocurre es un fallo de liderazgo (leadership failure) más que un problema de salud mental, y denomina esta condición 'cognitive surrender', es decir, la rendición cognitiva ante la IA.

Sin embargo, el término AI psychosis también se utiliza en otro contexto dentro de la psiquiatría, donde se refiere a los casos en que usuarios comunes con vulnerabilidad psicológica pueden verse impulsados a desarrollar delirios o una dependencia excesiva de la IA. Se trata de un tema distinto al uso en el ámbito empresarial, aunque compartan el mismo nombre.

El tema se ha convertido en motivo de debate en Hacker News, con 150 puntos y 90 comentarios, lo que refleja que los profesionales del sector tecnológico también están preocupados por el uso de la IA sin verificación.