Plano "AI 2040" para atrasar a Superinteligência até 2040 é criticado por George Hotz como "culto à inteligência"
George Hotz, famoso hacker, critica a proposta "AI 2040" da antiga equipe da OpenAI, que busca desacelerar o desenvolvimento da IA e divulgar todas as pesquisas, alegando que ignora a realidade física.
O assunto quente na comunidade de tecnologia esta semana é o artigo de George Hotz (geohot), hacker e fundador da Comma.ai, criticando a proposta "AI 2040: Plan A". Esta é uma visão positiva para o futuro da inteligência artificial, apresentada por um grupo de pesquisadores que já trabalharam na OpenAI.
A proposta "AI 2040" é um desenvolvimento do relatório "AI 2027", escrito pela mesma equipe. Na versão anterior, eles previam um futuro preocupante onde a IA poderia levar à extinção humana ou à centralização total do poder. No entanto, no "Plan A", eles propõem uma solução ideal, com os seguintes pontos principais: desacelerar o desenvolvimento da superinteligência até 2040, divulgar todas as pesquisas de IA publicamente para descentralizar a tecnologia e criar um sistema onde todas as partes possam monitorar e conter o desenvolvimento excessivamente rápido em conjunto. A equipe de autores inclui figuras importantes na segurança de IA como Daniel Kokotajlo, Thomas Larsen, Eli Lifland e Romeo Dean.
Contudo, George Hotz publicou um artigo de resposta em seu blog, chamando essa ideia de parte de um "culto à inteligência". Ele argumenta que a inteligência não é o objetivo final, mas apenas um gargalo atual. Hotz aponta que dominar o mundo não pode ser feito apenas com "tokens" (unidades de dados básicas processadas por modelos de IA), mas exige controle de recursos e da cadeia de suprimentos no mundo real.
Além disso, Hotz criticou as ilustrações no relatório AI 2040, que mostram grandes data centers flutuantes, como sendo "vaporware" (software ou hardware anunciado que nunca se concretiza). Segundo ele, essas imagens são fáceis de criar, mas na realidade enfrentariam imensos desafios de engenharia e logística. A questão gerou um amplo debate no fórum Hacker News, com mais de 103 comentários e 75 votos, refletindo visões extremamente divergentes sobre a direção futura do desenvolvimento da IA.
Este debate reflete uma discussão crucial na indústria da IA entre aqueles que buscam acelerar o desenvolvimento para obter benefícios e aqueles que se preocupam com a segurança e desejam desacelerar o progresso. O resultado desta discussão impactará a direção da tecnologia de IA, afetando a todos no futuro.