德国裁决认定 Google 对 AI Overviews 中的错误回答承担责任

原文 ↗ Hacker News 讨论 ↗

该裁决做了什么，以及为什么重要

  • 法院认为，AI Overviews 是 Google 自己的陈述，而不仅仅是中性的搜索结果。
  • 关键区别：
    • 经典搜索：Google 展示的是由第三方明确撰写的摘要 → 责任在第三方。
    • AI Overview：Google 的模型会综合并有时编造说法，包括那些在所引述来源中并不存在的内容 → Google 才是发布者。
  • 一旦 Google 选择呈现自信的事实性总结，“AI 可能会出错”之类的免责声明被认为不够。

责任、真实性与用户责任

  • 许多人认为，这只是对现有诽谤/名誉侵权规则的应用：如果你发布了虚假的有害指控，无论你是个人、报纸还是 AI 运营方，都可能被起诉。
  • 也有人认为，用户应该保持批判性思维并自行核实事实；在 Google 这种规模上让平台承担责任并不现实，还可能扼杀有用的 AI 功能。
  • 反方观点是：真实的人和企业会遭受严重损害（流失客户、社会污名），不能为了让平台把“测试版”技术投向公众，就让他们承担这笔成本。

诽谤与现实世界的损害

  • 讨论串提到假设和真实场景：被误标为骗子、罪犯或性犯罪者；被归入“无法就业”的名单；公司被错误地与骗局联系在一起。
  • 有几条评论提到，德国的 Google Maps 评论会被删除或受到法律挑战；据称企业会利用诽谤法来清除低星评价。
  • 有人指出，陈述本身必须自负其责；“你应该核实一下”或“某处有来源”并不能中和诽谤。

对 AI 搜索、聊天机器人和非确定性系统的影响

  • 许多人预计，这种逻辑会延伸到基于网页搜索作答的 AI 聊天机器人和代理：如果系统诽谤了你，运营方可能要承担责任，尤其是在收到通知之后。
  • 有些人预计服务商会在德国/欧盟关闭 AI 摘要，或将措辞大幅弱化（“据 X 所述……据称……”）。
  • 讨论还涉及这是否构成对非确定性软件的“软性禁令”；也有人指出，责任取决于使用场景，而不是随机性。

对监管、创新与欧洲的看法

  • 支持者认为，这项裁决是基本的消费者和名誉保护，迫使科技公司为自己的输出负责。
  • 批评者则认为这是过度监管，会延迟或将先进 AI 服务排除在欧洲之外，进一步损害欧盟竞争力。
  • 几位欧洲评论者表示，失去 AI Overviews 反而是净收益，更愿意使用经典搜索；有些人甚至打算专门用 VPN 来避开 AI 结果。