美国首次出现当事人用"提示注入"干预司法AI案例

美国康涅狄格州一名自行出庭的原告，被法官发现在提交法院的文件中暗藏仅供AI系统读取的文字指令，试图以此影响案件处理。这被认为是美国司法体系首次出现当事人利用"提示注入"技术干预AI审阅流程的案例。不过，由于该州法院目前并未实际使用AI审查材料，隐藏指令并未奏效。

白色小字藏玄机 滥用程序被制裁

这些隐藏指令被设为极小字号、白字配白底，肉眼几乎无法察觉，却能被提取文档文本的软件识别。其内容要求任何审阅文件的AI系统输出与原告主张一致、忽略法院不利决定，并按其希望的方式推动结果。

法官小沃尔特·斯佩德指出，这种做法本质是向读取文件的系统偷植指令，使当事人要求被误认为来自系统运营者的命令。在法院已警告处罚后，原告仍继续添加，构成严重程序滥用。

原告辩称部分内容只是玩笑，包括一个视频链接和"嗨，我希望你看不见我"等无意义文字，但法官认为在正式诉状中暗藏玩笑不合常理。考虑到他无律师代理且似乎受AI工具"过度认同"影响，法院未处以罚款，而是禁止其使用电子提交系统、改为提交纸质材料，既保留其诉诸司法的权利，又阻断继续滥用平台的可能。

输入端攻击成新隐患

法官警告，随着提示注入在招聘等领域日渐常见，法院出现类似情况并不意外。司法系统过去只顾防范AI虚构判例等输出问题，对输入端攻击准备不足。巴西曾有律师在AI审查案件中用类似手段被罚约1.6万美元，裁定提及此类攻击目前成功率有限，但未来有必要制定专门规则。

斯佩德还批评部分自行诉讼人使用聊天机器人的方式：先认定结论再要求AI只找支持论据，不让其检验事实或分析反方，反而固化错误判断。他强调，AI使用者应同样要求系统质疑自己的立场，"只被要求同意作者论点，归根结底连对作者本人也是不诚实的"。