Google DeepMind-CEO schlägt 'KI-Aufsichtsbehörde' unter US-Führung vor: Zeit für globale Sicherheitsstandards
Demis Hassabis, CEO und Mitgründer von Google DeepMind, fordert die USA zur Schaffung einer Aufsichtsbehörde für 'Frontier AI' auf, die befugt sein soll, riskante KI-Entwicklungen zu prüfen und notfalls zu stoppen.
Demis Hassabis, CEO von Google DeepMind, hat einen bedeutenden Vorschlag zur Gründung einer globalen KI-Aufsichtsbehörde unter US-Führung unterbreitet. Diese soll modernste KI-Modelle, sogenannte 'Frontier Models', überwachen und regulieren, falls von ihnen eine Gefahr ausgeht. Der Vorschlag wurde am 14. Juli in seinem Essay "A Framework for Frontier AI and the Dawning of a New Age" veröffentlicht.
Hassabis schlägt vor, die Behörde nach dem Vorbild der FINRA (Financial Industry Regulatory Authority) zu gestalten, einer von der Industrie finanzierten Selbstregulierungsorganisation, die unter staatlicher Aufsicht den Finanzmarkt kontrolliert. Für die KI-Behörde sollen führende Labore ihre Modelle zunächst für 30 Tage vor der Veröffentlichung freiwillig zur Sicherheitsprüfung einreichen – unter anderem auf Cybersicherheit, biologische Risiken und die Fähigkeit zur 'Täuschung'. Sobald das System etabliert ist, müssten alle Frontier-Modelle diese Prüfung bestehen, bevor sie auf den US-Markt gelangen, unabhängig von ihrer Herkunft oder dem Lizenzmodell (Open- oder Closed-Source). Er strebt an, dass die Behörde bis Ende des Jahres einsatzbereit ist.
Der Anstoß kam unter anderem durch die Exportkontrollen der Trump-Regierung für Anthropic-Modelle wie Mythos und Fable. Hassabis sieht darin ein 'Warnsignal', das zeigt, dass die Regierung klare, beständige Mechanismen benötigt, statt ad-hoc Anordnungen, die wie im Fall von Anthropic zu zeitraubenden und unklaren Verhandlungen führen.
Dieser Ruf nach strengerer Regulierung kommt nicht allein von Hassabis. Auch Anthropic-CEO Dario Amodei hat verbindliche Regeln gefordert, ähnlich der FAA (Federal Aviation Administration), die Flugzeuge am Boden halten kann, wenn sie unsicher sind. Dies unterstreicht das wachsende Bewusstsein unter den KI-Führern, dass standardisierte Mechanismen für Vertrauen und Sicherheit in Zeiten immer leistungsfähigerer KI unerlässlich sind.
Dieser Vorschlag könnte der Grundstein für einen globalen Standard in der KI-Regulierung sein. Er hätte direkte Auswirkungen auf alle KI-Entwickler, auch in Thailand, und definiert maßgeblich, wie sicher mächtige KI-Technologien in Zukunft eingesetzt werden können.