巴西法院因在法庭提交文件中植入提示注入而制裁律师

“提示注入”不当行为的性质

• 律师嵌入了隐藏的白底白字文本，指示法院的 AI 表面化地回应，不要质疑文件。
• 许多评论者认为这显然具有欺骗性，类似于黑客攻击、篡改法院基础设施，或试图贿赂/操纵书记员。
• 这种隐藏行为被视为意图（“有罪的心态”）的强有力证据，而不是无辜或有创意的论点。
• 有人认为罚款过轻，主张吊销律师执照，甚至提出刑事指控；也有人指出，律师协会在实践中很少严厉处罚。

合法性、制裁与先例

• 有几条评论引用了巴西的一项规则（第 77 条），禁止阻碍诉讼程序或使司法活动变得困难的行为；这被视为足够的法律依据。
• 讨论集中在巴西法院是否“根本不适用先例”，以及相反的说法：实际上它们在实践中非常依赖先例。
• 一些人强调，在许多体系中，律师是“法院官员”，对司法完整性的义务高于客户利益；普通法以外的民法法系也存在类似但不尽相同的标准。
• 还有一个问题：如果是自行诉讼的当事人，是否会受到更宽容的对待？大多数人认为，对这种“耍小聪明”的把戏容忍度会更低，即使程序性错误可能会得到一些宽容。

在法院使用 AI

• 许多人认为更深层的问题是法院依赖 AI 来审查提交材料，毕竟模型存在偏见、可被操纵，而且关系到自由。
• 也有人认为，法院工作负荷过重，使得 AI 辅助分流不可避免且可能有益，只要人类仍然承担责任。
• 有些人主张在法律程序中彻底禁止 AI，以保护被告并迫使法官/律师使用自己的判断。
• 还有少数人指出，如果法官把分析外包给 AI，律师自然会试图影响该 AI；但也有人表示，这种影响必须限定在正当的法律辩护范围内，而不能通过隐藏指令实现。

“黑进法律系统”是否有时可以接受？

• 少数观点认为：试图“黑”法院的 AI 不应受到制裁；相反，法院应该加固自己的系统。
• 多数回应是：对试图入侵的行为进行制裁，本身就是系统防护的一部分；“试图黑进法律系统”本质上就是不当行为。
• 有人将其比作法院软件中的 SQL 注入或缓冲区溢出利用：显然应受惩处。

技术缓解措施

• 建议包括：把提交文件渲染为图像，并运行 OCR / 视觉模型以去除隐藏元数据和不可见文本，同时指出这并非完整防御。
• 也有人怀疑这次攻击是否真的奏效，认为现代 LLM 对天真的注入不那么容易受影响，不过这在讨论串中并未得到验证。