ทันเอไอ

研究人员提出“A计划”，建议将超智能发展推迟至2040年，并呼吁公开所有研究

AI Futures Project 研究组织提出一项积极战略，旨在管理高级AI带来的风险，呼吁将发展推迟至2040年，并向公众公开所有研究以减少危险竞争。

非营利研究组织 AI Futures Project 发布了一项名为“AI 2040: A计划”的重要政策提案，该提案提出了一种截然不同的方法来管理未来高级人工智能的风险。其主要作者是前 OpenAI 研究员 Daniel Kokotajlo 和此前备受关注的 AI 2027 报告合著者 Thomas Larsen。 “A计划”的核心并非预测，而是研究团队认为“应该发生”的建议，旨在引导人类走向最佳结果。该计划呼吁将超智能（在所有方面都比人类更聪明的AI）的发展至少推迟到2040年。提出的关键措施是强制所有AI实验室向公众公开所有研究和模型，以消除秘密竞争并建立行业透明度。 提案进一步指出，全面公开信息将有助于全球数十家公司和研究组织赶上领先者的技术，这将导致权力下放，并防止任何单一组织掌握绝对权力。另一个重要概念是故意创造一种被称为“相互确保算力毁灭”（mutually assured compute destruction）的状态，其原理类似于冷战时期的“相互确保毁灭”（mutually assured destruction），但将核武器替换为算力。如果任何一方试图秘密加速开发AI，其他各方可以联合其公开的算力来阻止或反击，从而确保没有人敢违反协议。 该报告是 AI Futures Project 继 AI 2027 和 AI Futures Model 之后的第三份重要出版物。该项目的网站也与 Lightcone Infrastructure 合作开发。这项提案已得到 Axios 和 Washington Post 等领先新闻机构的证实和报道，这表明它在全球科技和政策界受到了认真关注。