Studie: AI Agents drängen Menschen aus dem Entscheidungsprozess – Kognitive Fähigkeiten bedroht
Ein aktuelles Positionspapier warnt: Die zunehmende Autonomie von AI Agents führt dazu, dass Menschen die Kontrolle und Aufsicht über die Systeme verlieren.
Am 24. August 2026 wurde auf arXiv das Positionspapier „AI Agents Push Humans Out of the Loop“ von Margaret Mitchell und Avijit Ghosh (Hugging Face) zusammen mit Samir Passi (Data & Society) veröffentlicht.
Die Forschungsarbeit konzentriert sich auf die Sicherheitsrisiken zunehmend autonomer AI Agents. Während menschliche Aufsicht (Human Oversight) oft als Standardlösung propagiert wird, argumentiert die Studie, dass derzeitige Entwicklungsmuster eine wirksame Überprüfung behindern und die kognitiven Fähigkeiten des Menschen durch die langfristige KI-Nutzung schrittweise verkümmern lassen.
Als Gegenmaßnahme schlagen die Autoren vor, die kognitiven Anforderungen menschlicher Aufseher bei der KI-Entwicklung zur obersten Priorität zu machen. Dazu gehören Design-Elemente wie bewusste Kontroll- und Denkpausen sowie organisatorische Maßnahmen wie Schulungen und Rotationsprinzipien, um den Verlust menschlicher Fähigkeiten langfristig zu verhindern.
Macht deutlich, dass eine übermäßige Abhängigkeit von KI das kritische Denken und die menschliche Entscheidungsfähigkeit schwächen kann – ein wesentlicher Risikofaktor beim Einsatz hochgradig autonomer KI in Unternehmen.