Meta 投放了包含 AI 生成的儿童性虐待图像的广告
Meta 的 Facebook、Instagram、Messenger 和 Threads 广告平台被发现批准并投放了 AI 生成的儿童性虐待图像，这再次引发了人们对大型科技公司在有意义的广告审核上投入极少的担忧。评论者认为，以 Meta 这样的规模，自动化工具经常失效，而至少对付费广告进行人工审核是完全可行的，但之所以没有这么做，是因为这会侵蚀利润。许多人呼吁更严厉的监管和高管个人责任、更严格的在线广告规则，甚至限制平台规模，认为罚款早已沦为另一种经营成本。
总体反应
- 对 Meta 投放含有 AI 生成的儿童性虐待图像（CSAM / “儿童性剥削内容”）广告的行为强烈谴责。
- 许多人认为这越过了红线，因为 Meta 是付费分发这些内容，而不是单纯的用户生成帖子。
- 反复出现的主题是：如果是个人这么做，会被送进监狱；而公司和高管大多只会面临可承受的罚款。
责任、监管与惩罚
- 普遍认为，当前罚款只是“经营成本”，不会改变行为。
- 建议包括：让高管承担个人刑事责任，“三次违规”就解散并判刑，以及对屡犯或情节严重者实行事实上的企业死刑。
- 也有人建议按实际社会危害来校准罚款，同时承认在大规模运作下某些错误在统计上不可避免。
- 关于 Section 230 的争论也很多，有人认为它从来不应该涵盖付费广告。
大规模审核与商业模式
- 一方认为：以 Meta 的体量，做到完全安全的审核在实际上不可能，尤其是针对用户帖子；真正的结论应当是，不应允许任何服务以无法管理的规模运营。
- 另一方认为：Meta 利润巨大，完全负担得起大规模人工审核，至少对广告可以做到；如果它不能安全地做到这一点，就不应被允许按现状继续经营。
- 具体建议包括：对所有广告进行人工审核，提高最低广告支出门槛以资助审核，对广告主加强入驻和身份验证，对新用户/低信誉买家进行分级审查。
AI 的角色
- AI 既被指责用于生成有问题的内容（例如“nudify”工具），也被指责未能将其拦截。
- 有人认为在这种规模下，AI 是唯一可行的工具；也有人认为这只是通过把责任推给“算法”来逃避责任。
- 还担心会形成军备竞赛：AI 广告生成对抗 AI 审核。
更广泛的广告生态问题
- 多个轶事提到 Meta、YouTube、Google Play 等平台上存在诈骗、色情或暴力广告，而举报通常被敷衍处理。
- 有观点指出，平台在执行版权和大型品牌利益方面远比阻止诈骗或 CSAM 更有效。
- 对广告投放链路普遍不信任；广告拦截器和替代客户端被广泛推荐。
定义与统计
- 关于“CSAM”与“儿童性剥削内容”的争论，以及 AI 生成内容或非虐待性的裸露是否应被混为一谈。
- 一些人指出，被标记材料中的很大一部分涉及青少年互发情色信息或家长过度分享，这使得“为什么没有数百万人入狱？”这一问题变得复杂。
- Meta 声称一年移除 3600 万件内容，被视为既说明规模之大，也说明系统性失败依然持续存在。