ทันเอไอ

トランプ政権のAIテスト計画、オープンソースモデルを対象外として「限定的で曖昧」と批判される

高度AIのサイバーセキュリティリスクを評価する任意の枠組みが、オープンソースモデルを含まず、一般公開もされないと報道

ドナルド・トランプ大統領の政権は、高度なAIによるサイバーセキュリティリスクを評価するためのフレームワークを策定中だが、AxiosがThe Verge経由で報じたところによると、その方針には明確な限界がある。それは、オープンソースモデル(誰でもダウンロードして内部構造を検証できるモデル)を一切対象としていない点だ。

報道によると、この任意参加の方針はオープンソースモデルをテスト対象から除外するだけでなく、フレームワーク自体が、公開後のオープンソースモデルを制限・管理するために適用できないことを明記しているという。これがアナリストからこの計画が「限定的で曖昧」と見なされる理由だ。

このテスト枠組みは、トランプ大統領が6月に署名した大統領令を受けて生まれたもので、AI企業に対し、最先端モデルを公開前に連邦政府と共有するよう求め、AIがデジタルシステムの構築や攻撃に悪用されるリスクなど、サイバーセキュリティ上の懸念を緩和することを目的としている。

独立系の情報筋も同様の見方を裏付けている。Newsmaxはホワイトハウスでの会議の内容を把握した情報筋の話として、新しいフレームワークはクローズドソースシステム(企業がアクセスを管理する非公開モデル)のみを対象とし、その詳細は一般公開されないと報じた。またGizmodoは、連邦政府当局者がモデルのサイバーセキュリティ能力を測定する同枠組みの初期草案を作成しており、公開アクセスの制限につながる可能性があると報道。OpenAIの代表を含む米テクノロジー業界の幹部らとの会合も予定されているという。

重要な批判点は、オープンソースモデルを除外することで、このテスト枠組みが最も広く普及しているモデル由来のリスクを見逃してしまうという点だ。公開モデルが一度リリースされれば、誰もが何のチェック機構もなく利用・改変できてしまい、まさにここがセキュリティリスクが最も漏れ出しやすい経路だからだ。