ทันเอไอ

「AI 2040」：2040年までのスーパーインテリジェンス開発遅延計画がGeorge Hotz氏により「知性崇拝カルト」に過ぎないと批判される

著名ハッカーのGeorge Hotz氏が、元OpenAIチームが提唱する、AI開発を遅らせ全ての研究を公開することを求める「AI 2040」提案を、物理的な現実を無視した考え方であると批判した。

今週のテクノロジーコミュニティにおけるホットな話題は、ハッカーでありComma.aiの創設者でもあるGeorge Hotz (geohot) 氏による、元OpenAIのチームに所属していた研究者グループが提示した「AI 2040: Plan A」という、人工知能の未来に対する肯定的なビジョンに対する批判記事である。

「AI 2040」という提案は、同じチームが以前に執筆した「AI 2027」というレポートの発展形である。前回のレポートでは、AIが人類の絶滅や権力の完全な集中につながる可能性があるという、憂慮すべき未来を予測していたが、この「Plan A」では、彼らは理想的な解決策を提案している。その核心は、超知能（superintelligence）の開発を2040年まで遅らせること、技術の分散化を促すためAI研究の全てを一般に公開すること、そして全ての関係者が協力して、あまりにも急速な開発を監視し、阻止できるシステムを構築することである。執筆チームには、Daniel Kokotajlo、Thomas Larsen、Eli Lifland、Romeo DeanといったAIセキュリティ分野の重要人物が含まれている。

しかし、George Hotz氏は自身のブログで反論記事を執筆し、この考え方を「知性崇拝カルト」（cult of intelligence）の一部であると呼んだ。彼は、知性は究極の目標ではなく、現在のボトルネックに過ぎないと主張した。Hotz氏は、世界を掌握するためには「トークン」（AIモデルが処理する基本的なデータ単位）だけでは不可能であり、現実世界のリソースとサプライチェーンの制御も必要であると指摘した。

さらにHotz氏は、「AI 2040」レポートの挿絵で描かれた大規模な浮体式データセンターについて、これはvaporware（発表されたが実現しなかったソフトウェアやハードウェア）のように見えると批判した。このようなイメージは簡単に作れるが、現実には膨大なエンジニアリングとロジスティクスの課題に直面すると述べた。この問題はHacker Newsの掲示板で広範な議論を巻き起こし、103件以上のコメントが寄せられ、75ポイントを獲得した。これは、将来のAI開発の方向性に対する極めて異なる見解を反映している。