Demis Hassabis, CEO de Google DeepMind, propone crear un organismo independiente para supervisar la IA de frontera antes de su lanzamiento
El CEO y cofundador de Google DeepMind presenta un plan proactivo que insta a EE. UU. a establecer una entidad reguladora de IA, financiada por la industria, para evaluar y certificar la seguridad de los modelos más avanzados antes de su despliegue público.
Demis Hassabis, CEO y cofundador de Google DeepMind, ha propuesto la creación de un nuevo organismo independiente para regular la IA en Estados Unidos, dotado de autoridad para auditar los modelos de IA más avanzados del mundo y capaz de coordinar pausas en el desarrollo si se detectan riesgos peligrosos. La propuesta se detalla en su documento de visión titulado "A Framework for Frontier AI and the Dawning of a New Age".
Hassabis sugiere que este organismo siga un modelo similar a la FINRA (Financial Industry Regulatory Authority), una entidad reguladora privada financiada por la industria que supervisa Wall Street bajo la tutela del gobierno. Esta organización contaría con equipos de expertos técnicos de élite y rendiría cuentas al gobierno estadounidense. El proceso exigiría que las empresas desarrolladoras envíen sus modelos para auditoría de seguridad hasta 30 días antes de su lanzamiento, debiendo superar pruebas de riesgo antes de poder ser implementados en el mercado.
En cuanto a la junta directiva, Hassabis propone una mayoría de miembros independientes, incluyendo ganadores del Premio Turing y expertos reconocidos, junto con representantes de la industria, el gobierno y la comunidad de código abierto. Ha establecido un cronograma ambicioso, sugiriendo que la organización debería estar operativa "antes de finales de año".
El impulso detrás de esta propuesta surge tras las medidas del gobierno de Trump sobre las exportaciones de los modelos Mythos y Fable de Anthropic el mes pasado, lo cual Hassabis calificó como una "señal de alerta" sobre la necesidad de mecanismos más estables. Añadió que otros líderes de laboratorios de IA coinciden en que la industria necesita regulación, aunque difieren en quién debería ostentar la autoridad reguladora.
Esta propuesta proviene de una de las figuras más influyentes del sector. Si se implementa en EE. UU., podría convertirse en el modelo regulatorio global, afectando directamente el desarrollo y la adopción de la IA en otros países, incluida Tailandia.