ทันเอไอ

米訴訟で驚き！法廷文書にプロンプトインジェクションを隠し、AIびいきを誘導

米国の原告が法的文書のなかに白色の文字でAIへの攻撃プロンプトを隠し、裁判の判断を歪めようとした。

404 Mediaおよび法律事務所Harris Beach Murthaの分析により、成長するITシステムのセキュリティに関する興味深い事例が明らかになった。米コネティカット州の裁判所で本人訴訟（プロ・セ原告）を行っていたMatthew Elliott氏が、訴訟文書「Elliott v. New York Bariatric Group」の中にプロンプトインジェクションを隠蔽していた。

彼が用いた手口は、白い背景にわずか3ポイントの白文字で命令文を入力するというもので、人間の目で肉眼で確認することはできないが、ソフトウェアやテキスト処理ツールであれば読み取ることが可能だった。隠されたメッセージの内容は、文書を読み取るAIに対し、情報の要約において自分側の「肩を持つ」よう指示するものであった。

しかし、電子文書内に不自然な空白スペース（Extra white space）があることに裁判所の職員が気づいたことから計画が発覚し、隠された秘密のメッセージの発見につながった。これにより、Walter M. Spader, Jr.判事は、この行為が司法手続きに対する不誠実なものであるとして制裁（サンクション）を下す命令を発令。原告に対し電子システムを通じた文書提出を禁止し、従来通りの紙の文書での提出を強制する処分を下した。なお、裁判所は、今回の訴訟においてAIが裁判の判断に実際に使用された事実はないことを確認している。