ทันเอไอ

Plano de testes de IA do governo Trump é criticado como 'limitado e vago' por não cobrir modelos open-source

Estrutura voluntária para avaliar riscos de cibersegurança de IA avançada supostamente exclui modelos open-source e não será divulgada publicamente

O governo do presidente Donald Trump está elaborando um framework para avaliar os riscos de cibersegurança de IAs avançadas, mas, segundo reportagem do Axios via The Verge, a proposta tem limitações claras: ela não abrange em nada os modelos open-source (modelos que qualquer pessoa pode baixar e inspecionar a estrutura interna).

O relatório aponta que essa abordagem voluntária não apenas exclui os modelos open-source do escopo dos testes, como o próprio framework deixa claro que não pode ser usado para restringir ou controlar modelos open-source depois que são lançados ao público — ponto que leva analistas a considerar o plano ao mesmo tempo 'limitado e vago'.

A origem desse framework de testes remonta à ordem executiva assinada pelo presidente Trump em junho, na qual ele pediu que empresas de IA compartilhem seus modelos de ponta com o governo federal antes do lançamento, para mitigar preocupações de cibersegurança, como o risco de a IA ser usada para ajudar a construir ou atacar sistemas digitais.

Fontes independentes confirmam a mesma linha: a Newsmax reportou, citando fontes informadas em uma reunião na Casa Branca, que o novo framework cobre apenas sistemas closed-source (modelos fechados, cujo acesso é controlado pelas próprias empresas), e que seus detalhes não serão divulgados ao público. Já o Gizmodo acrescentou que funcionários do governo federal elaboraram um rascunho inicial do framework para medir as capacidades de cibersegurança dos modelos, o que poderia levar à restrição do acesso público, com reuniões previstas com executivos de alto escalão da indústria de tecnologia dos EUA, incluindo representantes da OpenAI.

A principal crítica é que a exclusão dos modelos open-source faz com que o framework ignore os riscos dos modelos mais difundidos, pois, uma vez liberados, modelos abertos podem ser usados ou modificados por qualquer pessoa, sem nenhum mecanismo de verificação — justamente o canal por onde os riscos de segurança podem vazar com mais facilidade.