MS Paint 和 Photos 会在本地生成的输出上也无形地加上水印，且使用 GUID

原文 ↗ Hacker News 讨论 ↗

Microsoft 在 Windows 上的 Paint 和 Photos 被发现会在 AI 生成或 AI 编辑的图像中嵌入不可见水印，编码的是服务器发放的 GUID，该 GUID 可回溯到提示词，并可能关联到用户的账号或设备。评论者认为这是一种更广泛的、可追踪数字内容趋势的一部分——类似打印机跟踪点和拟议中的相机签名——而这一趋势部分受到要求 AI 水印的欧盟规则推动。尽管有人认为来源证明标记有助于对抗深度伪造，许多人仍对缺乏明确同意、这类跟踪扩展到所有媒体的容易程度，以及对匿名性与隐私的影响感到震惊。

水印行为的范围

  • 对于使用 MS Paint/Photos AI 工具（Copilot/Cocreator，本地或云端）生成或编辑的图像，会出现水印；纯手绘内容则不会。
  • 即使生成在本地运行，这些应用也会调用远程的“prompt moderation” API；服务器返回一个 GUID，该 GUID：
    • 会作为不可见的像素级水印嵌入。
    • 也会存储在 C2PA “content credentials” 元数据中。
  • 可在 UI 中关闭可见的 “AI” 标签，但无法关闭这个不可见的 GUID 水印。

隐私、监控与用户识别

  • 许多人认为这严重越界侵犯隐私：
    • 该 GUID 可以关联到提示词，以及用户的 Microsoft 账号/设备。
    • 这与打印机中的黄色跟踪点和历史上的打字机识别类似。
  • 担忧不只是“AI vs 人类”的标记，还包括“是谁在何时、用哪台设备创建了这个”，从而可能用于传票或国家级监控。
  • 有人担心这会扩展到所有编辑过的图像和其他文件类型，甚至扩展为操作系统层面的无处不在的水印。

法律与政策角度

  • 几位评论者指出，欧盟及其他地区的法律现在要求对 AI 生成内容进行标记。
  • 也有人反驳说，法律并不要求一个可识别用户身份的 GUID，只要求一个“AI-generated”指示。
  • 讨论还涉及这是否会因缺乏明确、知情同意以及潜在的个人可识别性而违反 GDPR。

技术层面与可能的规避方式

  • 提出的规避手段包括：
    • 通过 BMP 或其他简单格式重新编码以去除元数据。
    • 添加低级噪声、抖动，或运行降噪/扩散来破坏像素水印。
    • 用空操作替换 watermarker.dll，或拦截 API 调用。
  • 有人认为健壮的水印可以抵御常见变换；也有人指出，一旦算法已知，针对性移除或用随机数据覆盖就很直接。
  • 还报告了误分类问题（例如普通截图被标记为 AI）。

真实性、来源证明与相机签名之争

  • 一部分人支持强来源证明（C2PA、相机签名）来对抗深度伪造并维护“人类真实性”。
  • 另一些人强调其局限：
    • 设备签名可能被攻破、伪造，或在法庭上沦为“安全表演”。
    • TPM/相机签名设计容易受到硬件攻击、模拟重录或摆拍场景影响。
  • 总体主题是：密码学来源证明只能证明“由某个密钥签名”，并不能证明场景本身就是真实的。

更广泛的反应与软件选择

  • 对 Microsoft 的信任明显下降；许多人表示会避开 MS Paint/Photos 甚至整个 Windows，转而使用 Linux / 开源工具。
  • 也有人担心，如果广泛接受这种水印方式，会使侵入式跟踪正常化，并且可能在法律上被要求用于所有图像编辑器。