ทันเอไอ

연구 "AI Agents, 인간을 의사결정에서 밀어내고 인지 능력 저하 불러와"

최신 학술 논문에 따르면 AI Agents의 자동화가 심화되면서 시스템을 감독하고 검증하는 인간의 통제 능력이 상실되고 있다.

2026년 8월 24일, 학술 논문 저장소 arXiv에 Hugging Face의 Margaret Mitchell, Avijit Ghosh와 Data & Society의 Samir Passi 연구팀이 집필한 포지션 페이퍼(Position Paper) "AI Agents Push Humans Out of the Loop"가 게재되었다.

해당 연구는 AI Agents 시스템에 부여되는 자율성이 커짐에 따라 발생하는 안전성 위험을 다루었다. 통상적인 해결책으로 인간의 감독(Human Oversight)이 제시되지만, 논문은 현재의 개발 방향이 효과적인 검증을 방해할 뿐만 아니라 AI를 장기간 사용하는 인간의 인지 능력을 점진적으로 저하시킨다고 반박했다.

이를 해결하기 위해 연구진은 인간 감독자의 목표와 인지적 요구를 지원하는 것을 AI 개발의 최우선 순위로 삼아야 한다고 제안했다. 또한, 인간의 기술 퇴화를 방지하기 위해 의도적으로 숙고 및 검토 과정을 두는 시스템 설계와 더불어 조직 내 교육 훈련, 순환 근무 정책 등의 프로토콜 도입을 권고했다.