Des chercheurs proposent le 'Plan A' pour retarder la création de Superintelligence jusqu'en 2040 et appellent à la divulgation de toutes les recherches
L'organisation de recherche AI Futures Project propose un plan proactif pour gérer les risques liés à l'IA avancée, appelant à un ralentissement du développement jusqu'en 2040 et à la divulgation publique de toutes les recherches afin de réduire la concurrence dangereuse.
L'organisation de recherche à but non lucratif AI Futures Project a publié une proposition politique majeure intitulée "AI 2040: Plan A", qui présente une approche radicalement différente pour gérer les risques futurs de l'intelligence artificielle avancée. Les auteurs principaux sont Daniel Kokotajlo, ancien chercheur chez OpenAI, et Thomas Larsen, co-auteur du rapport AI 2027 qui avait déjà attiré l'attention. Le cœur du "Plan A" n'est pas une prédiction, mais une série de recommandations que l'équipe de recherche estime "devraient être mises en œuvre" pour guider l'humanité vers le meilleur résultat possible. Le plan appelle à retarder le développement de la Superintelligence (une intelligence artificielle plus intelligente que l'homme à tous égards) jusqu'en 2040 au moins. La mesure clé proposée est d'obliger tous les laboratoires d'IA à divulguer publiquement toutes leurs recherches et modèles afin d'éliminer la concurrence secrète et de créer de la transparence dans l'industrie. La proposition stipule que la divulgation complète des données aiderait des dizaines d'entreprises et d'organisations de recherche à travers le monde à rattraper les leaders technologiques, conduisant à une décentralisation et empêchant une seule organisation de détenir un pouvoir absolu. Un autre concept clé est la création intentionnelle d'une condition appelée "mutually assured compute destruction", un principe similaire à la "destruction mutuelle assurée" de l'ère de la Guerre Froide, mais remplaçant les armes nucléaires par la puissance de calcul (compute power). Ainsi, si une partie tentait d'accélérer secrètement le développement de l'IA, les autres parties, ayant accès aux informations, pourraient combiner leur puissance de calcul divulguée pour dissuader ou riposter, s'assurant que personne n'ose violer l'accord. Ce rapport est le troisième travail majeur du AI Futures Project, après AI 2027 et AI Futures Model. Le site web du projet est également développé en collaboration avec Lightcone Infrastructure. La proposition a été confirmée et rapportée par des médias de premier plan tels qu'Axios et le Washington Post, ce qui indique qu'elle est prise au sérieux dans les cercles technologiques et politiques mondiaux.
Cette proposition défie directement l'approche actuelle de développement de l'IA, qui met l'accent sur la concurrence féroce entre quelques géants de la technologie. Si cette approche était mise en œuvre, elle pourrait transformer l'industrie mondiale de l'IA pour la rendre plus ouverte et plus sûre, ce qui pourrait bénéficier à divers pays, y compris la Thaïlande, en leur offrant un accès égal à la technologie et aux connaissances.