ทันเอไอ

Le plan « AI 2040 » pour freiner la Superintelligence jusqu'en 2040, critiqué par George Hotz comme un simple « culte de l'intelligence »

George Hotz, le célèbre hacker, critique la proposition « AI 2040 » d'une ancienne équipe d'OpenAI, qui vise à ralentir le développement de l'IA et à divulguer toutes les recherches, la qualifiant de concept ignorant les réalités physiques.

Le point chaud de la semaine dans la communauté technologique est l'article critique de George Hotz (geohot), hacker et fondateur de Comma.ai, concernant la proposition « AI 2040: Plan A », une vision positive pour l'avenir de l'intelligence artificielle, présentée par un groupe de chercheurs ayant travaillé chez OpenAI.

La proposition « AI 2040 » fait suite au rapport « AI 2027 » rédigé par la même équipe. Dans la version précédente, ils prédisaient un avenir préoccupant où l'IA pourrait conduire à l'extinction humaine ou à une centralisation totale du pouvoir. Mais dans ce « Plan A », ils proposent une solution idéale, dont les points clés sont de ralentir le développement de la superintelligence (intelligence artificielle de niveau supérieur à l'humain) jusqu'en 2040, de divulguer toutes les recherches en IA au public pour favoriser la décentralisation de la technologie, et de créer un système où toutes les parties peuvent conjointement surveiller et freiner un développement trop rapide. L'équipe d'auteurs comprend des figures importantes de la sécurité de l'IA comme Daniel Kokotajlo, Thomas Larsen, Eli Lifland et Romeo Dean.

Cependant, George Hotz a riposté dans son blog, qualifiant cette idée de partie d'un « culte de l'intelligence ». Il soutient que l'intelligence n'est pas le but ultime, mais seulement un goulot d'étranglement actuel. Hotz souligne que la domination mondiale ne peut être atteinte avec de simples « tokens » (unités de données de base traitées par les modèles d'IA), mais nécessite le contrôle des ressources et des chaînes d'approvisionnement dans le monde réel.

De plus, Hotz a critiqué une illustration du rapport AI 2040 montrant un grand centre de données flottant, la comparant à du vaporware (logiciel ou matériel annoncé mais jamais concrétisé), facile à visualiser mais confronté à d'énormes défis d'ingénierie et de logistique dans la réalité. Cette question a suscité un débat généralisé sur le forum Hacker News, avec plus de 103 commentaires et 75 votes positifs, reflétant des points de vue radicalement différents sur l'orientation future du développement de l'IA.