ทันเอไอ

Investigadores proponen el 'Plan A' para retrasar la creación de Superinteligencia hasta 2040 y exigen la divulgación de toda la investigación

La organización de investigación AI Futures Project propone un plan proactivo para gestionar los riesgos de la IA avanzada, pidiendo retrasar el desarrollo hasta 2040 y revelar todas las investigaciones al público para reducir la competencia peligrosa.

La organización de investigación sin fines de lucro AI Futures Project ha publicado una importante propuesta política titulada "AI 2040: Plan A", que presenta un enfoque radicalmente diferente para gestionar los riesgos de la inteligencia artificial avanzada en el futuro. Los autores principales son Daniel Kokotajlo, ex investigador de OpenAI, y Thomas Larsen, coautor del anteriormente destacado informe AI 2027. El corazón de "Plan A" no es una predicción, sino una recomendación que el equipo de investigación cree que "debería suceder" para guiar a la humanidad hacia el mejor resultado posible. El plan exige retrasar el desarrollo de la Superinteligencia (inteligencia artificial que es más inteligente que los humanos en todos los aspectos) al menos hasta 2040. Una medida clave propuesta es obligar a todos los laboratorios de IA a divulgar públicamente todas sus investigaciones y modelos para eliminar la competencia secreta y crear transparencia en la industria. La propuesta afirma además que la divulgación completa de la información permitirá a docenas de empresas y organizaciones de investigación en todo el mundo ponerse al día con la tecnología de los líderes, lo que conducirá a la descentralización y evitará que una sola entidad obtenga un poder absoluto. Otro concepto clave es la creación deliberada de una condición llamada "mutually assured compute destruction" (destrucción mutua asegurada por computación), un principio similar a la "destrucción mutua asegurada" (mutually assured destruction) de la Guerra Fría, pero reemplazando las armas nucleares con la potencia de cálculo (compute power). Si alguna parte intenta acelerar el desarrollo de la IA en secreto, las demás podrán combinar su potencia de cálculo públicamente divulgada para disuadir o contrarrestar, asegurando que nadie se atreva a violar el acuerdo. Este informe es el tercer trabajo importante de AI Futures Project, siguiendo a AI 2027 y AI Futures Model. El sitio web del proyecto también se ha desarrollado en colaboración con Lightcone Infrastructure. Esta propuesta ha sido confirmada e informada por medios de comunicación líderes como Axios y Washington Post, lo que indica que es una propuesta que está siendo seriamente considerada en los círculos de tecnología y política global.