ทันเอไอ

Google DeepMind CEO デミス・ハサビス氏、フロンティアAIの公開前に独立規制機関設立計画を提案、安全基準確立を目指す

Google DeepMindのCEO兼共同創設者が先駆的な計画を公開。米国に対し、業界自身が資金提供するAI規制機関を設立し、最も先進的なモデルが一般公開される前に安全性審査と認証を行うよう求めた。

Google DeepMindのCEO兼共同創設者であるデミス・ハサビス氏が、米国に新たな独立したAI規制機関を設立する計画を提案した。この機関は、世界で最も先進的なAIモデルを検査する権限を持ち、危険なリスクが発見された場合、広範な開発遅延を調整することも可能である。この提案は、「A Framework for Frontier AI and the Dawning of a New Age」と題された個人のビジョン文書で公開された。

ハサビス氏は、この組織がFINRA (Financial Industry Regulatory Authority) に似たモデルを持つことを提案している。FINRAは、ウォール街を政府の監督下で規制するために業界自身が資金提供する私的規制機関である。提案されたAI規制機関は、世界クラスの技術専門家チームを擁し、米国政府に対して責任を負う必要がある。プロセスとしては、フロンティアAI開発企業は、公開の30日前までに自社のモデルを組織に提出し、安全性検査を受ける必要がある。危険性テストに合格しなければ、米国市場で運用することはできない。

委員会の構成については、ハサビス氏は、チューリング賞受賞者や認められた専門家で構成される独立した委員が過半数を占めるべきだと考えている。これに加え、業界、政府、オープンソースコミュニティからの代表者も参加する。彼はまた、この組織が「数ヶ月以内」に設立され、「今年末まで」に運営を開始すべきだと述べることで、挑戦的なタイムラインを設定した。

この提案の主な動機は、先月、トランプ政権がAnthropic社のMythosモデルとFableモデルに対して突然輸出規制措置を適用した出来事にある。ハサビス氏はこれを、ワシントンが一時的な命令よりも強固なメカニズムを必要としていることを示す「重要な警鐘」と呼んだ。彼は、他の主要なAI研究所のリーダーたちも、業界に規制が必要であるという原則には同意しているが、誰が規制権限を持つべきかという詳細については意見の相違があると付け加えた。