KI-Testplan der Trump-Regierung als 'begrenzt und vage' kritisiert – Open-Source-Modelle nicht abgedeckt
Freiwilliger Rahmen zur Bewertung von Cybersicherheitsrisiken fortschrittlicher KI lässt Berichten zufolge Open-Source-Modelle außen vor und soll nicht öffentlich gemacht werden
Die Regierung von Präsident Donald Trump arbeitet an einem Rahmenwerk (Framework) zur Bewertung von Cybersicherheitsrisiken durch fortschrittliche KI. Doch wie Axios über The Verge berichtet, weist der Ansatz eine deutliche Einschränkung auf: Open-Source-Modelle – also Modelle, die jeder herunterladen und deren Innenleben jeder einsehen kann – sind darin überhaupt nicht abgedeckt.
Dem Bericht zufolge schließt der freiwillige Ansatz Open-Source-Modelle nicht nur vom Testumfang aus – das Rahmenwerk legt zudem ausdrücklich fest, dass es nicht dazu verwendet werden kann, Open-Source-Modelle einzuschränken oder zu kontrollieren, sobald diese öffentlich verfügbar sind. Genau dieser Punkt lässt Analysten den Plan als 'begrenzt und vage' bewerten.
Der Ursprung dieses Testrahmens geht auf eine Executive Order zurück, die Präsident Trump im Juni unterzeichnete. Darin werden KI-Unternehmen gebeten, ihre modernsten Modelle vor der Veröffentlichung mit der Bundesregierung zu teilen, um Cybersicherheitsbedenken auszuräumen – etwa das Risiko, dass KI zum Aufbau oder zum Angriff auf digitale Systeme missbraucht werden könnte.
Unabhängige Quellen bestätigen diese Darstellung: Newsmax berichtet unter Berufung auf eine Quelle, die nach einem Treffen im Weißen Haus informiert wurde, dass der neue Rahmen ausschließlich Closed-Source-Systeme abdeckt (geschlossene Modelle, bei denen die Unternehmen den Zugang selbst kontrollieren) und dass seine Details nicht öffentlich gemacht werden. Gizmodo ergänzt, dass Bundesbeamte bereits einen ersten Entwurf des Rahmens zur Messung der Cybersicherheitsfähigkeiten der Modelle erstellt hätten, was zu Zugangsbeschränkungen für die Öffentlichkeit führen könnte. Geplant seien zudem Treffen mit Führungskräften der US-Techbranche, darunter Vertreter von OpenAI.
Die zentrale Kritik: Durch den Ausschluss von Open-Source-Modellen blendet der Testrahmen die Risiken der am weitesten verbreiteten Modelle aus. Denn sobald ein offenes Modell veröffentlicht ist, kann es jeder nutzen oder modifizieren – ohne jegliche Kontrollmechanismen. Und genau das ist der Weg, über den Sicherheitsrisiken am leichtesten entstehen können.
Die US-KI-Politik hat weltweite Auswirkungen – auch auf Thailand, wo viele Entwickler und Unternehmen auf Open-Source-Modelle angewiesen sind. Lässt der US-Sicherheitsrahmen diese Gruppe außer Acht, könnte sich die globale KI-Regulierungslandschaft verändern – sowohl beim Zugang zu Modellen als auch bei Sicherheitsstandards.