ทันเอไอ

'AI 사이코시스', 기업 리더의 새로운 사각지대... CEO가 사람보다 AI를 더 믿을 때

Fast Company는 AI가 제공하는 답변에 지나치게 의존해 의사결정 시 비판적 판단력을 잃는 'AI 사이코시스' 현상이 경영 리더의 새로운 사각지대가 되고 있다고 지적했다

테크 업계에서 'AI psychosis(AI 사이코시스)'라 불리는 현상이 새로운 관점에서 주목받고 있다. Fast Company의 기사는 많은 경영진이 AI의 답변에 지나치게 의존하고 신뢰한 나머지 스스로 판단하거나 정보를 검증하지 않게 되면서, 이것이 조직 리더의 최신 사각지대(blind spot)가 되었다고 지적했다.

분명히 할 점은 AI 사이코시스가 의학적 진단명이 아니라, 비즈니스 리더의 행동을 설명하는 비유적 표현이라는 것이다. 이 용어는 HashiCorp 공동 창업자 Mitchell Hashimoto의 트윗에서 널리 알려지기 시작했고, Box의 CEO Aaron Levie가 이를 확장했다. Levie는 CEO들이 '실무 최전선(last mile of work)'에서 멀어져 있기 때문에 지나치게 좋아 보이는 AI의 결과물에 기반해 의사결정을 내리는 경향이 있어, 이 상태에 특히 취약하다고 봤다.

리더 수준에서 'AI 사이코시스'로 지적되는 증상으로는 동료의 의견이나 자신의 경험보다 AI의 조언을 더 신뢰하는 것, AI가 생산한 결과물의 정확성을 검증하지 않는 것, 그리고 AI가 자신감 있게 들리는 답변과 리더의 기존 생각을 지지하는 답변을 주로 제공하기 때문에 질문하는 것을 소홀히 하는 것 등이 있다. 이는 에코 챔버(echo chamber, 자신의 생각만 울려 퍼지는 공간) 효과를 만들어낸다.

기사는 이 현상을 정신건강 문제라기보다 리더십의 실패(leadership failure)로 보고, 이 상태를 'cognitive surrender(인지적 항복)', 즉 사고를 AI에 내주는 것이라고 불렀다.

다만 AI 사이코시스라는 용어는 정신의학에서 다른 맥락으로도 사용된다. 정신적으로 취약한 상태에 있는 일반 사용자가 AI에 과도하게 집착하거나 망상적 증상을 유발당하는 경우를 가리키는데, 같은 용어를 쓰지만 비즈니스 분야의 사용과는 별개의 문제다.

이 이슈는 Hacker News에서 150점과 90개의 댓글을 기록하며 논쟁이 되었는데, 이는 테크 업계 종사자들 역시 검증 없이 AI를 사용하는 문제를 우려하고 있음을 보여준다.