ทันเอไอ

惊! 美诉讼案在文书暗藏 Prompt Injection，企图操纵 AI 偏袒

美国一诉讼当事人为操纵审判结果，竟在法律文件中用白字暗藏针对 AI 的攻击指令

404 Media 与 Harris Beach Murtha 律所的分析披露了一起引人注目的 IT 安全案例：在康涅狄格州法院的 Elliott v. New York Bariatric Group 诉讼中，原告 Matthew Elliott（自辩原告）在起诉文件中暗藏了提示词注入（Prompt Injection）指令。

他采用的方法是将文字设为白色并置于白色背景上，字号仅为 3 磅，肉眼无法察觉，但文本处理软件或工具能够读取。隐藏的内容指令阅读文件的 AI 在总结信息时必须“偏袒”他。

然而，这一计划因法院工作人员注意到电子文件中有异常空白区而败露，从而被查出了这些秘密文本。法官 Walter M. Spader, Jr. 因此下达了制裁令，指出这种行为违背了司法程序的诚实原则，并剥夺了该原告通过电子系统提交文件的权利，强制其必须提交传统的纸质文件。不过，法院证实本案目前尚未在审判过程中实际使用人工智能。