ทันเอไอ

Google DeepMind CEO、米国主導の「AI監視機関」設立を提唱。世界的な安全基準策定の必要性を強調

Google DeepMindのCEO兼共同創設者Demis Hassabis氏が、フロンティアAIを監視し、危険性が認められた場合に開発を制限する権限を持つ米国の規制機関の設立を提案。

Google DeepMindのCEO、Demis Hassabis氏は、米国の主導により最先端の「フロンティアモデル」を監視・規制する国際的な機関の設立を提案した。この提案は7月14日に発表された自身のブログ記事「A Framework for Frontier AI and the Dawning of a New Age」で明らかにされた。

Hassabis氏は、金融業界の自主規制機関であるFINRAをモデルに、業界が資金を拠出し政府の監督下で機能する新しい組織を提唱している。初期段階では、主要なAI研究所がモデル公開前の最大30日間、サイバーセキュリティ、生物学的リスク、AIの「欺瞞性」について自主的に検査を受ける仕組みを想定している。将来的には、米国市場でAIを展開する全てのモデル（国籍やオープン・クローズドを問わず）にこの検査を義務付けることを目指しており、年内の始動を掲げている。

この動きの背景には、先月トランプ政権がAnthropicのモデル「Mythos」および「Fable」の輸出を突如差し止めた一件がある。Hassabis氏はこの事態を「警鐘」と捉え、場当たり的な命令ではなく、明確かつ安定的な規制の枠組みが必要だと主張している。

こうした規制強化の潮流はHassabis氏だけでなく、AnthropicのCEOであるDario Amodei氏も支持している。同氏は航空業界のFAAになぞらえ、安全性が確認されない場合は飛行を禁じるような、強制力のある規則の必要性を以前から唱えており、AI業界のトップ層の間で安全性と信頼性確保に向けた機運が高まっている。