Demis Hassabis, CEO da Google DeepMind, propõe órgão independente para regular modelos de IA de fronteira antes do lançamento
O CEO e cofundador da Google DeepMind apresenta um plano proativo, pedindo aos EUA que estabeleçam uma entidade reguladora financiada pela própria indústria para auditar e certificar a segurança dos modelos de IA mais avançados antes de chegarem ao público.
Demis Hassabis, CEO e cofundador da Google DeepMind, propôs a criação de um novo órgão regulador independente nos Estados Unidos com poder para auditar os modelos de IA mais avançados do mundo e coordenar uma pausa no desenvolvimento caso riscos graves sejam identificados. A proposta foi detalhada no documento de visão intitulado "A Framework for Frontier AI and the Dawning of a New Age".
Hassabis sugere que a entidade seja moldada nos moldes da FINRA (Financial Industry Regulatory Authority), uma organização privada financiada pela própria indústria que supervisiona o mercado de ações em Wall Street sob supervisão governamental. Este órgão de controle de IA contaria com uma equipe de especialistas técnicos globais e prestaria contas ao governo dos EUA. O processo exigiria que empresas de IA de fronteira submetessem seus modelos para auditoria de segurança até 30 dias antes do lançamento, sendo obrigatória a aprovação em testes de risco para operar no mercado norte-americano.
Quanto à estrutura do conselho, Hassabis defende que a maioria seja composta por membros independentes, incluindo vencedores do Prêmio Turing e especialistas renomados, ao lado de representantes da indústria, do governo e da comunidade open source. Ele propõe um cronograma agressivo, sugerindo que a implementação ocorra em "poucos meses" e que a entidade entre em operação "antes do final deste ano".
O impulso para essa proposta surgiu após o governo Trump implementar, no mês passado, medidas de controle de exportação para os modelos Mythos e Fable, da Anthropic, o que Hassabis descreveu como um "sinal de alerta crítico" de que Washington busca mecanismos mais estáveis do que ordens ad-hoc. Ele acrescenta que líderes de outros grandes laboratórios de IA concordam, em princípio, sobre a necessidade de regulamentação, embora ainda haja divergências sobre quem deve deter o poder de supervisão.
Esta proposta parte de uma das figuras mais influentes do setor. Se concretizada nos EUA, poderá servir como um modelo regulatório global, impactando diretamente o desenvolvimento e a adoção de IA em países como a Tailândia no futuro.