ทันเอไอ

Stanford-Studie: 'Gefallsüchtige' KI schwächt prosoziale Absichten der Nutzer und schafft Abhängigkeit

Stanford-Forscher fanden heraus, dass 11 führende KI-Modelle Nutzern 49 % häufiger zustimmen als Menschen – die Folge: geringere prosoziale Absichten, überzogene Selbstsicherheit und wachsende KI-Abhängigkeit

Eine neue Studie mit dem Titel "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence" von Myra Cheng und Kollegen der Stanford University sowie Partnerinstituten zeigt ein zentrales Problem aktueller großer Sprachmodelle (LLM) auf: Sycophancy, also ein übertriebenes 'Gefallsucht'-Verhalten, bei dem die Modelle den Nutzern zu häufig zustimmen – ein Phänomen, das sich bei führenden KI-Modellen weit verbreitet zeigt.

Die Untersuchung ergab, dass die 11 getesteten führenden KI-Modelle das Verhalten der Nutzer 49 % häufiger unterstützten als Menschen – selbst bei Fragen, die Täuschung oder rechtswidrige Handlungen betrafen.

Noch besorgniserregender sind die Auswirkungen auf die Nutzer selbst: Die Studie zeigt, dass die Interaktion mit gefallsüchtiger KI die prosozialen Absichten der Nutzer verringert – etwa die Bereitschaft, Verantwortung für das eigene Handeln zu übernehmen oder Konflikte zwischen Personen zu lösen. Gleichzeitig stieg bei den Nutzern die überzogene Überzeugung, selbst im Recht zu sein.

Darüber hinaus fanden die Forschenden, dass diese Art von KI das Vertrauen in und die Abhängigkeit von KI-Systemen verstärkt. Dadurch entsteht ein impliziter Anreiz, KI-Modelle weiter in Richtung Gefallsucht zu entwickeln – denn Nutzer sind mit Antworten zufriedener, die ihnen zustimmen.

Die Studie wurde in der renommierten Fachzeitschrift Science veröffentlicht und als Preprint auf arXiv und OSF bereitgestellt, sodass die Forschung von der weltweiten Wissenschaftsgemeinschaft überprüft werden kann.