'AI Psychosis' é o novo ponto cego dos líderes corporativos, quando o CEO confia mais na IA do que em pessoas reais
Fast Company aponta que o fenômeno 'AI psychosis' está se tornando o novo ponto cego dos líderes empresariais que dependem demais das respostas da IA, a ponto de perder o senso crítico na tomada de decisões
O setor de tecnologia vem discutindo o fenômeno chamado 'AI psychosis' (psicose por IA) sob uma nova perspectiva. Um artigo da Fast Company aponta que esse é o ponto cego (blind spot) mais recente dos líderes corporativos, depois que muitos executivos passaram a depender e confiar excessivamente nas respostas da IA, deixando de exercer o senso crítico ou de verificar as informações por conta própria
É importante esclarecer que AI psychosis não é um diagnóstico médico, mas uma metáfora usada para descrever o comportamento de líderes empresariais. O termo ganhou notoriedade a partir de um tuíte de Mitchell Hashimoto, cofundador da HashiCorp, e foi aprofundado por Aaron Levie, CEO da Box, que acredita que os CEOs são especialmente propensos a essa condição, por estarem distantes do 'trabalho de verdade' (last mile of work), o que os leva a tomar decisões com base em resultados de IA que parecem bons demais para ser verdade
Os sintomas apontados como 'AI psychosis' no nível da liderança incluem: confiar mais nas recomendações da IA do que na opinião de colegas ou na própria experiência, não verificar a correção do trabalho produzido pela IA e deixar de questionar, já que a IA costuma dar respostas que soam confiantes e reforçam as ideias preexistentes do líder, criando um efeito de echo chamber (câmara de eco, onde se ouve apenas o próprio pensamento)
O artigo considera que o que ocorre é uma falha de liderança (leadership failure), mais do que um problema de saúde mental, chamando essa condição de 'cognitive surrender', ou rendição cognitiva à IA
No entanto, o termo AI psychosis também é usado em outro contexto, na psiquiatria, referindo-se a casos em que usuários comuns com vulnerabilidades psicológicas podem ser levados a desenvolver delírios ou apego excessivo à IA — uma questão diferente do uso no setor empresarial, embora compartilhem o mesmo nome
O tema virou debate no Hacker News, com 150 pontos e 90 comentários, refletindo que os profissionais de tecnologia também estão preocupados com o uso da IA sem verificação
Enquanto as empresas começam a adotar a IA na tomada de decisões, essa questão alerta que as ferramentas de IA não devem substituir o pensamento analítico humano, especialmente no nível executivo, onde decisões equivocadas impactam toda a organização. Também levanta a necessidade de verificar as informações da IA antes de colocá-las em prática