ทันเอไอ

Pesquisadores propõem 'Plan A' para adiar Superintelligence até 2040 e pedem divulgação de todas as pesquisas

A organização de pesquisa AI Futures Project propõe um plano proativo para gerenciar os riscos da IA avançada, exigindo que o desenvolvimento seja adiado até 2040 e que todas as pesquisas sejam divulgadas publicamente para reduzir a concorrência perigosa.

A organização de pesquisa sem fins lucrativos AI Futures Project publicou uma importante proposta de política intitulada "AI 2040: Plan A", que apresenta uma abordagem radicalmente diferente para gerenciar os riscos da inteligência artificial avançada no futuro. Os autores principais são Daniel Kokotajlo, ex-pesquisador da OpenAI, e Thomas Larsen, coautor do notável relatório AI 2027. O cerne do "Plan A" não é uma previsão, mas uma recomendação que a equipe de pesquisa acredita que "deveria acontecer" para levar a humanidade aos melhores resultados. O plano exige o adiamento do desenvolvimento da Superintelligence (inteligência artificial mais inteligente que os humanos em todos os aspectos) até 2040, no mínimo. Uma medida chave proposta é a obrigatoriedade de todos os laboratórios de IA divulgarem publicamente todas as suas pesquisas e modelos, eliminando a concorrência secreta e criando transparência na indústria. A proposta continua afirmando que a divulgação completa dos dados permitirá que dezenas de empresas e organizações de pesquisa em todo o mundo alcancem a tecnologia dos líderes, levando à descentralização e impedindo que qualquer entidade detenha poder absoluto. Outro conceito crucial é a criação intencional de uma condição chamada "mutually assured compute destruction" (destruição mútua assegurada de computação), um princípio semelhante à "mutually assured destruction" (destruição mútua assegurada) da era da Guerra Fria, mas substituindo armas nucleares por poder de processamento (compute power). Se qualquer parte tentar acelerar secretamente o desenvolvimento de IA, as outras partes poderão combinar seu poder de processamento publicamente revelado para impedir ou retaliar, garantindo que ninguém se atreva a violar o acordo. Este relatório é o terceiro trabalho significativo do AI Futures Project, seguindo AI 2027 e AI Futures Model. O site do projeto também é desenvolvido em colaboração com a Lightcone Infrastructure. A proposta foi confirmada e relatada por grandes veículos de notícias como Axios e Washington Post, indicando que é uma proposta seriamente observada nos círculos de tecnologia e política global.