Le PDG de Google DeepMind propose une instance de régulation de l'IA menée par les États-Unis : vers des normes de sécurité mondiales
Demis Hassabis, PDG et cofondateur de Google DeepMind, appelle à la création d'un organisme de surveillance des IA « de pointe » (frontier AI), doté du pouvoir d'auditer et de suspendre le développement en cas de risques critiques.
Demis Hassabis, PDG de Google DeepMind, a formulé une proposition majeure : la création d'un organisme mondial de régulation de l'IA dirigé par les États-Unis pour superviser les modèles les plus avancés, dits « frontier models ». Cette initiative a été dévoilée dans son article intitulé « A Framework for Frontier AI and the Dawning of a New Age » publié le 14 juillet.
Hassabis suggère de modéliser cette entité sur la FINRA (Financial Industry Regulatory Authority), l'organisme d'autorégulation du secteur financier américain. Dans un premier temps, les laboratoires d'IA soumettraient volontairement leurs modèles à un examen de 30 jours avant leur déploiement, afin d'évaluer les risques liés à la cybersécurité, à la biologie ou aux capacités de « tromperie » (deception). Une fois ces protocoles validés, tout modèle de pointe devrait obligatoirement passer cette évaluation avant d'être mis sur le marché américain, indépendamment de son origine ou de son caractère open-source. L'objectif est une mise en service d'ici la fin de l'année.
Cette proposition fait suite aux récentes restrictions imposées par l'administration Trump sur les modèles Mythos et Fable d'Anthropic. Pour Hassabis, cet incident a servi de « signal d'alarme » soulignant le besoin urgent de mécanismes de régulation stables et clairs, plutôt que de mesures d'urgence improvisées.
Cette vision est partagée par d'autres acteurs, notamment Dario Amodei, PDG d'Anthropic, qui compare le rôle de cet organisme à celui de la FAA (Federal Aviation Administration), capable d'interdire le vol d'appareils jugés dangereux. Cela illustre une prise de conscience collective parmi les leaders du secteur sur la nécessité de normes mondiales pour garantir la sécurité à l'ère de l'IA de pointe.
Cette proposition pourrait poser les bases d'une régulation mondiale de l'IA. Elle aura un impact direct sur tous les développeurs d'IA, y compris en Thaïlande, et façonnera le cadre éthique et sécuritaire pour l'adoption des technologies les plus puissantes à l'avenir.