Studie zeigt: KI-Nutzungsberichte von Tech-Giganten verschweigen fast die Hälfte der Realität
Berichte von KI-Entwicklern zeichnen oft kein vollständiges Bild, nachdem unabhängige Forscher herausgefunden haben, dass fast die Hälfte der privaten Daten herausgefiltert wird.
In einer Welt, in der künstliche Intelligenz eine wichtige Rolle spielt, stammen die Daten darüber, wie Menschen generative KI nutzen, größtenteils von den Entwicklerfirmen selbst wie OpenAI und Anthropic, die sich meist auf Arbeit und Produktivität konzentrieren.
Anka Reuel, Informatik-Doktorandin am Stanford Trustworthy AI Research (STAIR Lab), weist jedoch darauf hin, dass diese Daten keine unabhängigen Prüfquellen zur Verifizierung besitzen.
Kürzlich haben Forscher des MIT Media Lab, der Stanford University und des unabhängigen Forschungsnetzwerks Data Provenance Initiative (DPI) das Projekt „AI Observatory“ ins Leben gerufen, um reale KI-Nutzungsdaten transparent zu sammeln und zu analysieren. Analysiert wurden dabei 24.521 freiwillige Gespräche (insgesamt 85.633 Interaktionen) über 52 Sprachmodelle hinweg.
Die Analyse ergab, dass bei Anwendung der von KI-Unternehmen genutzten Datenfilterungsmethoden (wie dem Anthropic Economic Index) rund 48 % der tatsächlichen Gespräche herausgefiltert werden. Die herausgefilterten Inhalte betreffen oft persönliche Themen wie Gesundheit, Beziehungen und sensible Angelegenheiten, was zeigt, dass offizielle Berichte möglicherweise nicht das vollständige Bild der tatsächlichen Nutzung durch die Menschen widerspiegeln.
Dies verdeutlicht, dass das aktuelle Image der KI-Nutzung möglicherweise auf Wirtschaft und Arbeit beschränkt wird – aus Marketing- oder politischen Gründen –, während die alltägliche Nutzung durch die Allgemeinheit vernachlässigt wird.