El plan de pruebas de IA del gobierno de Trump es criticado como 'limitado y ambiguo' por no cubrir los modelos open-source
El marco voluntario para evaluar los riesgos de ciberseguridad de la IA avanzada, según informes, excluye los modelos open-source y no se hará público
El gobierno del presidente Donald Trump está elaborando un marco (framework) para evaluar los riesgos de ciberseguridad de la IA avanzada, pero según informó Axios a través de The Verge, dicho enfoque tiene una limitación evidente: no cubre en absoluto los modelos open-source (aquellos que cualquiera puede descargar y cuya estructura interna puede ser inspeccionada).
El informe señala que este enfoque voluntario no solo excluye a los modelos open-source del alcance de las pruebas, sino que el propio marco establece explícitamente que no puede utilizarse para limitar o controlar los modelos open-source una vez que han sido publicados, lo que lleva a los analistas a considerar el plan como 'limitado y ambiguo'.
El origen de este marco de pruebas se remonta a junio, cuando el presidente Trump firmó una orden ejecutiva (executive order) pidiendo a las empresas de IA que compartan sus modelos más avanzados con el gobierno federal antes de su lanzamiento, con el fin de aliviar las preocupaciones sobre ciberseguridad, como el riesgo de que la IA pueda ser utilizada para ayudar a construir o atacar sistemas digitales.
Fuentes independientes confirman esta misma línea: Newsmax informó, citando fuentes informadas en reuniones de la Casa Blanca, que el nuevo marco cubre únicamente los sistemas closed-source (modelos cerrados cuyo acceso controlan las propias empresas) y que sus detalles no se harán públicos. Por su parte, Gizmodo añadió que funcionarios federales han redactado un borrador preliminar del marco para medir las capacidades de ciberseguridad de los modelos, lo que podría derivar en restricciones al acceso público, y que tienen previsto reunirse con altos ejecutivos de la industria tecnológica estadounidense, incluidos representantes de OpenAI.
La crítica principal es que la exclusión de los modelos open-source hace que este marco de pruebas pase por alto los riesgos de los modelos más extendidos, ya que una vez que un modelo abierto es publicado, cualquiera puede utilizarlo o modificarlo sin ningún mecanismo de supervisión, precisamente la vía por la que los riesgos de seguridad podrían filtrarse con mayor facilidad.
La política de IA de Estados Unidos tiene un impacto global, incluida Tailandia, donde muchos desarrolladores y empresas dependen de los modelos open-source. Si el marco de seguridad estadounidense ignora a este grupo, el panorama regulatorio mundial de la IA podría cambiar, tanto en el acceso a los modelos como en los estándares de seguridad.