Demis Hassabis, PDG de Google DeepMind, propose la création d'un organisme indépendant pour réguler l'IA de pointe avant son lancement
Le PDG et cofondateur de Google DeepMind dévoile un plan proactif, appelant les États-Unis à mettre en place une autorité de régulation de l'IA autofinancée par l'industrie pour certifier la sécurité des modèles les plus avancés avant leur déploiement public.
Demis Hassabis, PDG et cofondateur de Google DeepMind, a proposé la création d'un nouvel organisme indépendant de régulation de l'IA aux États-Unis, doté du pouvoir d'auditer les modèles d'IA les plus avancés au monde et de coordonner des pauses dans le développement en cas de risques critiques. Cette proposition est détaillée dans son document de vision intitulé "A Framework for Frontier AI and the Dawning of a New Age".
Hassabis suggère que cet organisme s'inspire de la FINRA (Financial Industry Regulatory Authority), une organisation privée autofinancée par le secteur qui supervise Wall Street sous la tutelle du gouvernement. Cette entité disposerait d'une équipe d'experts techniques de classe mondiale et serait responsable devant le gouvernement américain. Le processus obligerait les entreprises développant des modèles d'IA de pointe à soumettre leur technologie à cet organisme pour un examen de sécurité au moins 30 jours avant tout lancement public, le feu vert étant conditionné par la réussite de tests de dangerosité.
Concernant la gouvernance, Hassabis imagine un conseil composé majoritairement de membres indépendants, incluant des lauréats du prix Turing et des experts reconnus, aux côtés de représentants de l'industrie, du gouvernement et de la communauté open source. Il propose un calendrier ambitieux, affirmant que l'organisation devrait pouvoir être opérationnelle "d'ici la fin de l'année".
Cette impulsion fait suite aux mesures de contrôle des exportations imposées le mois dernier par l'administration Trump sur les modèles Mythos et Fable d'Anthropic, ce que Hassabis qualifie de "signal d'alarme" montrant que Washington a besoin de mécanismes plus stables que les décrets ponctuels. Il ajoute que les dirigeants des principaux laboratoires d'IA s'accordent sur la nécessité d'une réglementation, bien que des divergences subsistent quant à l'autorité chargée de la superviser.
Cette proposition émane de l'une des figures les plus influentes du secteur. Si elle est adoptée aux États-Unis, elle pourrait servir de modèle réglementaire mondial, impactant directement les futures stratégies de développement et d'adoption de l'IA en Thaïlande.