欧盟将从8月2日起强制为逼真的 AI 内容贴标
新的欧盟规则很快将要求为 AI 生成的“逼真”图像、音频和视频贴上标签，尤其是那些可能误导观看者的深度伪造内容。评论者意见分裂：一方认为这是保护消费者和民主、对抗大规模错误信息的必要措施；另一方则担心它无效、范围过宽，或会变成坏人随手忽视的官僚式权力扩张。争论焦点包括如何定义 AI 和“逼真”、标签是否会变成背景噪音，以及密码学溯源系统或其他技术工具是否会更有效。
该规则的总体目的
- 许多人认为，其目标是保护消费者和民主免受欺诈和深度伪造宣传的侵害，而不是禁止 AI。
- 支持者将其比作“产自 X”标签 / 健康警示：人们有权知道自己看到的是什么，以及它在多大程度上是合成的。
- 批评者认为，这针对的是“AI BAD”，却忽视了长期存在的图像篡改（Photoshop、VFX、修图模特）。
支持强制 AI 标签的论点
- 有助于人们筛除“AI 垃圾内容”，并找到可能会被淹没的真实人类声音。
- 被认为类似于给石棉、安全气囊、酒精、香烟贴标：个人不可能现实地自行验证所有内容。
- 被视为针对欺骗性生成式 AI（深度伪造、虚假事件）的第一步、有限步骤，而不是每一种微小的 AI 工具。
- 有人认为，一旦实体因错误标注或遗漏标签被抓到，这会带来法律上的约束和声誉后果。
反对意见 / 顾虑
- 担心审查、“AI 专员”、官僚权力扩张，以及由新的执法工具助长的腐败。
- 担心标签会制造虚假的信心：未贴标 ≠ 真实，但用户可能会这样推断。
- 担心监管负担会偏向大玩家；标签可能像 Cookie 横幅或无处不在的“可能致癌”提示一样，最终变成背景噪音。
- 也有人在哲学上反对：人们应该自己核实来源，而不是把信任委托给监管者。
范围、定义与歧义
- 关于什么算“逼真”“真人”和“AI 系统”存在争论；有人指出欧盟法律依赖“合理人”标准，而不是代码式精确定义。
- AI 生成、AI 辅助和琐碎处理之间的边界并不清晰（智能手机图像管线、seam carving、轻微风格修改）。
- 有人指出，官方文本聚焦于深度伪造以及可能被误认为真实事件的内容，而不是所有 AI 的使用。
可行性与替代方案
- 对坏人（例如外国宣传者）是否会遵守表示怀疑；执法只能覆盖其力所能及的对象。
- 另一些人认为，即便只有部分遵守，加上罚款（例如按营收百分比），也能对大型违规者产生寒蝉效应。
- 还有人提出补充措施：在相机中进行密码学签名、溯源链（例如 C2PA）以及稳健的水印技术。