«AI Psychosis» — новая слепая зона руководителей: когда CEO верит ИИ больше, чем реальным людям
Fast Company указывает, что феномен «AI psychosis» становится новой слепой зоной бизнес-лидеров, которые слишком сильно полагаются на ответы ИИ и теряют способность критически мыслить при принятии решений
Технологическое сообщество обсуждает феномен под названием «AI psychosis» («ИИ-психоз») в новом ракурсе: статья Fast Company называет это новейшей слепой зоной (blind spot) руководителей, поскольку многие топ-менеджеры чрезмерно полагаются на ответы ИИ и доверяют им, переставая критически мыслить и самостоятельно проверять информацию.
Стоит уточнить: AI psychosis — не медицинский диагноз, а метафора, описывающая поведение бизнес-лидеров. Термин получил широкую известность после твита Митчелла Хашимото, сооснователя HashiCorp, а затем его развил Аарон Леви, CEO Box. По его мнению, CEO особенно подвержены этому состоянию, потому что они далеки от «реальной работы на местах» (last mile of work) и принимают решения на основе результатов ИИ, которые выглядят слишком хорошо, чтобы быть правдой.
К симптомам «AI psychosis» на уровне руководства относятся: доверие к советам ИИ выше, чем к мнению коллег или собственному опыту; отсутствие проверки корректности результатов, созданных ИИ; и пренебрежение постановкой вопросов — ведь ИИ обычно даёт уверенные ответы, подкрепляющие уже имеющиеся убеждения лидера, что создаёт эффект «эхо-камеры» (echo chamber).
В статье происходящее рассматривается скорее как провал управления (leadership failure), чем как проблема психического здоровья, и называется «cognitive surrender» — «когнитивной капитуляцией» перед ИИ.
Впрочем, термин AI psychosis используется и в другом контексте — в психиатрии, где он обозначает случаи, когда психически уязвимые пользователи под влиянием общения с ИИ могут впадать в заблуждения или чрезмерно привязываться к нему. Это совершенно иная тема, нежели использование ИИ в бизнесе, хотя название и совпадает.
Тема вызвала дискуссию на Hacker News, набрав 150 баллов и 90 комментариев, — это показывает, что специалисты техотрасли также обеспокоены использованием ИИ без должной проверки.
Поскольку тайские компании начинают использовать ИИ для принятия решений, эта тема напоминает: инструменты ИИ не должны подменять аналитическое мышление человека — особенно на уровне руководства, где ошибочные решения затрагивают всю организацию. Это также повод задуматься о необходимости проверять данные от ИИ перед их практическим применением.