ทันเอไอ

George Hotz 批评“AI 2040”——一个旨在将超级智能（Superintelligence）发展推迟到2040年的计划——称其只是“智能崇拜”

知名黑客 George Hotz 批评前 OpenAI 团队提出的“AI 2040”提案，该提案旨在放缓 AI 发展并公开所有研究，称其忽略了物理现实。

本周科技界的热点话题是黑客兼 Comma.ai 创始人 George Hotz (geohot) 对“AI 2040: Plan A”提案的批判文章。该提案由一群曾在 OpenAI 工作过的研究人员提出，旨在描绘人工智能的积极未来。

“AI 2040”提案是同一团队此前撰写的“AI 2027”报告的后续成果。在之前的报告中，他们预测了一个令人担忧的未来，即 AI 可能导致人类灭绝或权力高度集中。但在“Plan A”中，他们提出了一个理想的解决方案，其核心内容是将超级智能 (superintelligence) 的发展推迟到2040年，向公众公开所有 AI 研究以促进技术普及，并建立一个各方可共同监督和阻止过快发展的系统。撰写团队成员包括 AI 安全领域的知名人士 Daniel Kokotajlo、Thomas Larsen、Eli Lifland 和 Romeo Dean。

然而，George Hotz 在其博客上撰写了一篇反驳文章，称这一概念是“智能崇拜”（cult of intelligence）的一部分。他反驳说，智能并非终极目标，而仅仅是当前的瓶颈。Hotz 指出，仅靠“令牌”（tokens，AI 模型处理的基本数据单位）无法掌控世界，还需要控制现实世界的资源和供应链。

此外，Hotz 还批评了 AI 2040 报告中展示的巨型浮动数据中心插图，称其看起来像“概念产品”（vaporware，指已宣布但从未实现的产品），易于描绘但实际面临巨大的工程和物流挑战。这一问题在 Hacker News 论坛上引发了广泛讨论，共有超过103条评论和75个赞，反映出人们对 AI 未来发展方向截然不同的看法。