George Hotz critica la propuesta "AI 2040" para retrasar la superinteligencia hasta 2040, calificándola de "culto a la inteligencia"
El famoso hacker George Hotz critica la propuesta "AI 2040" del antiguo equipo de OpenAI, que busca ralentizar el desarrollo de la IA y hacer pública toda la investigación, calificándola de concepto que ignora las realidades físicas.
El tema candente en la comunidad tecnológica esta semana es un artículo crítico de George Hotz (geohot), hacker y fundador de Comma.ai, sobre la propuesta titulada "AI 2040: Plan A", una visión optimista para el futuro de la inteligencia artificial, presentada por un grupo de investigadores que trabajaron anteriormente en OpenAI.
La propuesta "AI 2040" es una continuación del informe "AI 2027", escrito previamente por el mismo equipo. En la edición anterior, habían predicho un futuro preocupante en el que la IA podría conducir a la extinción humana o a una centralización total del poder. Pero en este "Plan A", proponen una solución ideal, cuyo contenido principal es: retrasar el desarrollo de la inteligencia artificial a nivel superhumano (superinteligencia) hasta 2040, hacer pública toda la investigación de IA para fomentar la descentralización de la tecnología, y crear un sistema donde todas las partes puedan monitorear y frenar conjuntamente el desarrollo excesivamente rápido. El equipo de autores incluye figuras clave en la seguridad de la IA como Daniel Kokotajlo, Thomas Larsen, Eli Lifland y Romeo Dean.
Sin embargo, George Hotz publicó un artículo de réplica en su blog, calificando esta idea como parte de un "culto a la inteligencia". Argumenta que la inteligencia no es el objetivo final, sino solo un cuello de botella actual. Hotz señala que dominar el mundo no se puede lograr solo con "tokens" (unidades básicas de datos que procesan los modelos de IA), sino que también requiere el control de los recursos y las cadenas de suministro en el mundo real.
Además, Hotz criticó las ilustraciones del informe AI 2040, que muestran grandes centros de datos flotantes, diciendo que parecían vaporware (software o hardware anunciado pero nunca lanzado), fácil de imaginar pero que, en realidad, enfrenta enormes desafíos de ingeniería y logística. Este punto ha provocado un amplio debate en el foro Hacker News, con más de 103 comentarios y 75 votos a favor, lo que refleja puntos de vista extremadamente divergentes sobre la dirección futura del desarrollo de la IA.
Este tema refleja un debate crucial en la industria de la IA entre aquellos que buscan acelerar el desarrollo para obtener beneficios y aquellos que se preocupan por la seguridad y desean ralentizar el progreso. El resultado de esta discusión impactará la dirección de la tecnología de IA, afectando a todos en el futuro.