ทันเอไอ

Google DeepMind-CEO Demis Hassabis schlägt unabhängige Aufsichtsbehörde für Frontier-KI vor

Der CEO und Mitbegründer von Google DeepMind fordert die USA zur Einrichtung einer industriefinanzierten Regulierungsbehörde auf, um die Sicherheit fortschrittlichster KI-Modelle vor ihrer Veröffentlichung zu zertifizieren.

Demis Hassabis, CEO und Mitbegründer von Google DeepMind, hat einen Plan zur Gründung einer unabhängigen KI-Aufsichtsbehörde in den USA vorgelegt. Diese soll befugt sein, modernste KI-Modelle zu prüfen und bei erkannten Sicherheitsrisiken ein Moratorium für deren Entwicklung zu verhängen. Der Vorschlag ist Teil seines Strategiepapiers „A Framework for Frontier AI and the Dawning of a New Age“.

Hassabis schlägt ein Modell vor, das der FINRA (Financial Industry Regulatory Authority) nachempfunden ist – einer privat organisierten, aber industriefinanzierten Aufsichtsbehörde, die den US-Wertpapiermarkt unter staatlicher Aufsicht überwacht. Die geplante KI-Behörde soll mit weltweit führenden Experten besetzt sein und der US-Regierung rechenschaftspflichtig sein. Frontier-KI-Entwickler müssten ihre Modelle bis zu 30 Tage vor der Veröffentlichung zur Sicherheitsprüfung einreichen und erst nach erfolgreicher Risikobewertung eine Marktzulassung in den USA erhalten.

Das Gremium soll laut Hassabis mehrheitlich mit unabhängigen Experten besetzt sein, darunter Turing-Preisträger sowie Vertreter aus Industrie, Regierung und der Open-Source-Community. Er drängt auf eine schnelle Umsetzung und strebt den operativen Start „noch vor Jahresende“ an.

Anlass für den Vorstoß sind die jüngsten Exportbeschränkungen der Trump-Regierung für die Modelle Mythos und Fable von Anthropic. Hassabis bezeichnete dies als „Warnsignal“ für die Notwendigkeit stabiler regulatorischer Mechanismen. Führende Köpfe anderer großer KI-Labore unterstützen den Grundsatz der Regulierung, wobei Details zur Governance weiterhin diskutiert werden.