文本 AI 水印将永远很容易被去除
给 AI 生成文本嵌入不可见水印的尝试正受到质疑，因为从技术上看它们很脆弱，且容易被绕过，尤其是借助本地或开源模型时，可通过改写或去除信号来规避。支持者认为，即便不完美，这类方案也能阻止低成本作弊，并帮助大学、出版机构和政府识别明显的 AI 写作；批评者则警告误报、存储提示词和输出带来的隐私风险，以及对自动检测器产生虚假的信任感。争论也延伸到更大的问题：欧盟 AI 法案带来的监管压力、本地“解锁”计算的未来，以及社会究竟是否应继续推进 AI 标记，还是应重构工作流程，默认 AI 辅助已无处不在。
水印有效性与易去除性
- 许多人认为文本水印本质上很脆弱：用另一个（可能是本地）模型改写、重新排版、语言翻译，或去除异常 Unicode，通常都能将其击败。
- 也有人说“总比没有强”：即使高成本规避很容易，水印仍能抓住低成本复制粘贴用户和批量生成的垃圾内容。
- 还有人担心这会造成虚假的安全感：人们可能过度相信检测器，从而错过更复杂的伪造。
本地模型与通用计算
- 本地模型支持无水印生成和自动化水印去除，从而削弱集中式方案。
- 一些评论者担心监管者会因此限制开放权重，并收紧硬件/操作系统生态，威胁通用计算。
- 也有人认为本地使用仍将是小众；大多数人仍会依赖大型提供商。
替代检测思路与数据保留
- 一个提议是：提供商存储提示词/输出，并提供一个“距离”API，用来检查某段文本是否匹配过去的生成结果。
- 反对意见包括：隐私、对敏感数据长期保留的法律限制，以及实际扩展性问题。
- 还有人建议通过硬件认证的按键日志来“证明人类创作”，但这带来巨大的隐私担忧，而且很容易出现“模拟漏洞”（重新输入、转录）。
适用场景与受益者
- 被认为的受益者包括：大学（阻止作弊）、大型公司/政府（过滤垃圾信息、虚假报告）、法律和政策领域、同行评审。
- 怀疑者质疑其真实用户收益，并把它类比为制造摩擦却无法解决核心问题的 Cookie 法规。
误报、公平性与可访问性
- 人们强烈担忧教育和法律场景中的误报；即使错误率很小，也可能不公正地惩罚学生或专业人士。
- 有人认为可以把水印调到极低的误报率；也有人引用过去图像哈希失败的案例（例如 CSAM 扫描器）作为警示。
- 目前不清楚谁能获得检测工具：可能是通过 API 提供给付费机构；公众和教师可能无法直接使用。
技术讨论（SynthID 风格方案）
- 多条评论将水印描述为：使用秘密密钥偏置 token 采样，在长文本上产生统计信号，而不是可见标记。
- 理论上，这可以在一定程度上经受中度编辑、拼接和部分改写，尤其适用于较长文档；短片段则更难。
- 但评论者仍预计会出现猫鼠游戏：对手会反复变异文本（可能借助工具），直到检测器判定通过。
政治、监管与更广泛的担忧
- 一些人认为水印只是由欧盟 AI 法案和政治姿态推动的监管表演，而非科学必要性。
- 另一些人则认为它是对 AI 驱动诈骗、虚假信息和低质量内容泛滥的合理防护，即便并不完美。
- 讨论中还出现了更广泛的焦虑：监控、仅限认证文本的生态，以及一个被 AI 生成内容淹没的未来互联网。