El CEO de Google DeepMind propone crear un 'organismo regulador de IA' liderado por EE. UU. para establecer estándares globales de seguridad
Demis Hassabis, CEO y cofundador de Google DeepMind, propone la creación de una entidad supervisora para modelos de IA de frontera con autoridad para inspeccionar y pausar el desarrollo si se detectan riesgos críticos.
Demis Hassabis, CEO de Google DeepMind, ha propuesto la creación de una organización global de supervisión de IA liderada por EE. UU. para monitorear y controlar los modelos más avanzados, conocidos como 'frontier models'. La propuesta fue presentada en su artículo titulado 'A Framework for Frontier AI and the Dawning of a New Age' el pasado 14 de julio.
Hassabis sugiere que este nuevo organismo se base en el modelo de FINRA, la entidad de regulación financiera que supervisa Wall Street. En una fase inicial, los principales laboratorios de IA enviarían sus modelos para una revisión voluntaria de hasta 30 días antes de su lanzamiento, con el fin de evaluar riesgos en ciberseguridad, amenazas biológicas y capacidades de 'engaño'. Una vez validado el sistema, cualquier modelo de frontera, independientemente de su origen o si es de código abierto o cerrado, deberá pasar esta evaluación antes de ser lanzado al mercado estadounidense. El objetivo es que la agencia esté operativa antes de fin de año.
Este impulso surge tras la reciente orden del gobierno de Donald Trump para congelar la exportación de los modelos Mythos y Fable de Anthropic. Hassabis considera este evento una 'señal de alerta' que demuestra la necesidad de mecanismos claros y estables en lugar de órdenes improvisadas, recordando que Anthropic enfrentó dos semanas y media de incertidumbre regulatoria.
Esta visión es compartida por otros líderes del sector, como el CEO de Anthropic, Dario Amodei, quien ha comparado la necesidad de regulación con la FAA (Federal Aviation Administration), subrayando el consenso creciente entre los gigantes tecnológicos sobre la importancia de estándares de seguridad para fomentar la confianza en la era de la IA.
Esta propuesta podría marcar el inicio de un estándar regulatorio global para la IA, afectando a todas las empresas tecnológicas, incluidas las de Tailandia, y definiendo cómo se integrará la IA avanzada en nuestra sociedad de manera segura.