CEO do Google DeepMind propõe criação de 'órgão regulador de IA' liderado pelos EUA; ele afirma que é hora de estabelecer padrões globais de segurança
Demis Hassabis, CEO e cofundador do Google DeepMind, propõe que os EUA estabeleçam um órgão de supervisão para IAs de fronteira, com poderes para auditar e frear o desenvolvimento caso riscos críticos sejam detectados.
Demis Hassabis, CEO do Google DeepMind, apresentou uma proposta significativa pedindo a criação de um órgão regulador global de IA liderado pelos Estados Unidos. O objetivo é auditar e controlar os modelos de IA mais avançados, conhecidos como 'frontier models', caso apresentem capacidades potencialmente perigosas. A proposta foi detalhada em seu artigo intitulado "A Framework for Frontier AI and the Dawning of a New Age", publicado em 14 de julho.
Hassabis sugere que a nova entidade seja moldada com base na FINRA (Financial Industry Regulatory Authority), uma organização autorreguladora do setor financeiro financiada pela própria indústria, mas sob supervisão governamental. Inicialmente, os principais laboratórios de IA enviariam seus modelos para uma revisão voluntária de até 30 dias antes do lançamento, testando riscos de cibersegurança, ameaças biológicas e capacidades de "engano" (deception). Uma vez comprovada a eficácia, todos os modelos de fronteira teriam que passar por essa avaliação antes de serem implementados no mercado dos EUA, independentemente de sua origem ou de serem modelos de código aberto ou fechado. Ele espera que o órgão entre em operação ainda este ano.
O impulso para essa proposta surgiu após o governo Trump emitir ordens de exportação para bloquear subitamente os modelos Mythos e Fable da Anthropic. Hassabis vê o incidente como um "alerta", demonstrando que o governo precisa de mecanismos mais claros e estáveis do que ordens ad hoc, lembrando que a Anthropic teve que passar por duas semanas e meia de negociações sem diretrizes claras.
A ideia de uma regulação mais rígida não é exclusiva de Hassabis. Dario Amodei, CEO da Anthropic, também defende normas vinculativas, comparando-as à FAA (Federal Aviation Administration), que tem poder para impedir voos se a aeronave não for segura. Isso reflete uma preocupação compartilhada entre os líderes das principais empresas de IA sobre a necessidade de mecanismos padronizados para garantir confiança e segurança na era da IA poderosa.
Esta proposta pode marcar o início de padrões globais de governança de IA, afetando diretamente todas as empresas de tecnologia, incluindo as que operam na Tailândia, e definindo como tecnologias de IA de alto impacto serão usadas com segurança no futuro.