ทันเอไอ

研究者が「Plan A」を提案、Superintelligenceの2040年までの開発遅延と、全研究の公開を要求

AI Futures Projectは、高度AIのリスク管理に向けた積極的な計画を提案。2040年までの開発遅延と、危険な競争を減らすための全研究の公開を求めている。

非営利研究機関であるAI Futures Projectは、「AI 2040: Plan A」と題する重要な政策提言を発表した。これは将来の高度AIのリスクを管理するための全く異なるアプローチを提示している。主執筆者はOpenAIの元研究者であるDaniel Kokotajlo氏と、以前注目を集めた「AI 2027」レポートの共同執筆者であるThomas Larsen氏である。 「Plan A」の核となるのは予言ではなく、人類を最良の結果に導くために「起こるべき」だと研究チームが信じる提言である。この計画は、Superintelligence（あらゆる面で人間を凌駕する人工知能）の開発を少なくとも2040年まで遅らせるよう求めている。提案されている重要な措置は、秘密裏の競争を排除し、業界の透明性を確立するために、すべてのAIラボがその研究とモデルを全て公開することを義務付けることである。 この提言はさらに、情報の全面的な公開が世界中の数十の企業や研究機関がリーダーグループの技術に追いつくのを助け、権力の分散化につながり、特定の組織が絶対的な権力を握るのを防ぐだろうと述べている。もう一つの重要な概念は、「mutually assured compute destruction」と呼ばれる状態を意図的に作り出すことである。これは冷戦時代の「相互確証破壊（mutually assured destruction）」に似た原則だが、核兵器の代わりに計算能力（compute power）を用いる。もしある勢力が秘密裏にAI開発を加速しようとした場合、残りの勢力は互いに公開された計算能力を合わせて阻止または対抗できるため、誰も協定を破ることを敢えてしない。 このレポートは、AI Futures Projectにとって「AI 2027」と「AI Futures Model」に続く3番目の重要な成果物である。このプロジェクトのウェブサイトはLightcone Infrastructureとの共同開発でもある。この提言は、AxiosやWashington Postといった主要報道機関によって確認され報じられており、テクノロジーと世界政策の分野で真剣に注目されていることを示している。