Cuban:Facebook 明知故犯地投放 AI 深度伪造诈骗广告;文件称其带来 160 亿美元欺诈收入
Facebook 和其他主要广告平台被指明知故犯地从大规模欺诈中获利,其中包括冒充公众人物、推广虚假投资或产品的 AI 生成深度伪造诈骗广告。评论者讨论现行法律如 Section 230 是否足够,主张平台和广告主应对欺诈广告承担法律责任,并指出薄弱的激励与监管使大型科技公司容忍诈骗。许多人认为更广泛的广告技术模式——由监控、参与度优化和极少审核驱动——本身就容易滋生滥用并伤害用户与社会。
各平台诈骗广告的普遍性
- 许多参与者表示,如今在 Facebook、Instagram、YouTube、Google、Amazon、eBay 以及其他平台上,带有诈骗性质或明显误导性的广告已经随处可见。
- 例子包括利用名人形象的虚假投资骗局、神奇保健产品、夸张到不可能的设备宣称、假冒商品、非法药物,甚至暗示儿童虐待材料的内容。
- 几位用户表示,他们看到的广告里,几乎“每隔一个就是诈骗”,或者“有一半广告都是明显的骗局”。
Meta 的知情程度与内部激励
- 引用的一项 Reuters 调查称,Meta 内部估计其年收入中约 10%(约 160 亿美元)来自欺诈或被禁广告。
- 文件据称显示,只有当自动化系统对某广告是诈骗的把握达到或超过 95% 时,Meta 才会封禁广告主;在此以下,广告仍会继续投放,但要支付更高费率。
- 一些有广告或内部经验的人声称,Meta 会对大额投放者放松执法。
用户体验与伤害
- 多人报告自己或亲属因诈骗广告而损失金钱;其中一些受害者是老年人。
- 许多人说,他们反复举报明显虚假或令人不安的广告,却只得到“未发现违规”的回复。
- 这加深了不信任,也让人觉得平台把收入置于安全之上。
法律责任与 Section 230 争论
- 一方认为,取消或改革 Section 230,尤其是针对付费广告,会迫使平台像传统媒体一样审核广告主。
- 另一方则反驳称:
- Section 230 本就不会保护犯罪行为。
- 取消它只会让有能力承担诉讼成本的大公司更加巩固地位,并摧毁小型论坛。
- 大家对社交媒体在法律上是否属于“出版者”,以及法律定义是否应当改变,存在分歧。
AI、自动化与责任
- 有些人讨论用 AI 自动识别并拦截诈骗广告,并指出平台本来就已在广告中使用复杂的画像分析。
- 也有人强调,自动化不应减少责任:如果一家公司部署了会放行诈骗的 AI,那么责任仍应由公司承担。
- 讨论中还拿桥梁工程、自动驾驶汽车和危险工具作类比:部署系统的人的组织应承担风险。
提出的补救措施与监管
- 想法包括:
- 让平台对其分发的欺诈广告承担法律责任。
- 对广告主实施“了解你的客户”规则。
- 取消或限制算法信息流;回到按时间顺序、用户主动选择的内容模式。
- 加强消费者保护与刑事执法,尤其针对大型平台。
- 更激进的提议包括:禁止在线广告,或将广告转入受监管、由消费者运营的产品目录中。
对广告与平台的更广泛批评
- 许多人认为,广告技术本质上与用户利益不一致,它优化的是操控和注意力捕获。
- 也有人认为,诈骗的常态化反映了更深层问题:监管薄弱、逐利导致的冷漠,以及容忍欺骗性营销的文化。