AI 反感的演进

原文 ↗ Hacker News 讨论 ↗

生成式 AI 的快速推出正在引发越来越大的反弹，其根源与其说在核心技术，不如说在于它被如何部署：缺乏有意义的同意、可靠性存疑，以及处于强烈的企业炒作之下。评论者强调了对版权和使用“被盗”数据进行训练的担忧、AI 垃圾淹没人类作品，以及聊天机器人被强行塞进产品却没有退出选项；而另一些人则认为这些担忧被夸大了，收益是真实存在的，且底层问题——监控资本主义、监管薄弱、同意的侵蚀——早在 AI 之前就已经存在。正在形成的共识是，任何可持续的前进路径都将需要更清晰的法律框架、更诚实的预期，以及尊重用户选择和创作劳动的 AI 使用方式。

可靠性、错误与认知问题

  • 许多人认为，AI 摘要和 LLM 输出的可靠性明显低于此前的搜索工作流，尤其因为：
    • 它们会自信且不可预测地“幻觉”，很少说“我不知道”。
    • 它们移除了来源上下文和信任信号（域名、作者、论坛回复）。
    • 它们可能误读来源，甚至与之相矛盾；有人报告称摘要经常歪曲所链接的页面。
  • 也有人反驳说，互联网一直充满错误信息；AI 主要改变的是便利性和规模，而不是错误的存在本身。
  • 一些人指出，LLM 用于低风险任务或作为开发工具是没问题的，但用于关键任务时很危险（例如汽车扭矩规格、客户服务决策）。

同意、版权与数据使用

  • 一个主导性观点是：AI 训练和部署在很大程度上忽视了用户同意。
    • 创作者觉得自己无法发布作品、代码或写作，而不被抓取用于训练。
    • 有人愤怒地指出，模型在受版权保护的材料上训练，然后又与原作竞争。
  • 也有人认为，这只是长期同意侵蚀的延续：搜索索引、追踪、暗黑模式、数据泄露。
  • 对“合理使用”存在分歧：
    • 一方：训练具有变换性，因此属于合理使用；复制是另一个问题。
    • 另一方：这种解释是“司法不公”，并且违背版权的精神。
    • 非美国参与者指出，“合理使用”取决于司法管辖区；美国官员也对商业模型训练提出了担忧。

资本主义、炒作与 AI 军备竞赛

  • 许多批评针对 AI 的“淘金热”：投资者 FOMO、算力的寡头控制、产品中被强行加入 AI 功能，以及被 AI 美化的裁员。
  • 争论焦点在于这是否是“资本主义”本身的失败，还是被俘获的政治体系与寡头垄断的失败。
  • 有人预期会出现 AI 泡沫或“寒冬”；也有人认为会有持久但更窄的生产力收益。

对工作、创造力与日常生活的影响

  • 创作者抱怨平台被“AI 垃圾”淹没，发现内容更困难，生计也被削弱。
  • 一些员工在工作中大量使用补贴的 AI，部分出于务实，部分是为了利用低价服务。
  • 呼叫中心的例子显示出显著收益（多语言分流），但也有人指出，许多公司使用 AI 是为了避免雇人并降低服务质量。

公众情绪与两极化

  • 一些人指出，尽管人们不知不觉地依赖旧的 ML 功能，但对如今被营销出来的“AI”（LLM、图像/视频生成）普遍存在不信任或反感。
  • 也有人强调 AI 产品的真实受欢迎程度，并认为这项技术会逐渐正常化并退居幕后。
  • 情绪从轻微恼怒到强烈愤怒和抵制行动不等；一些评论者批评 AI 的“狂热”和反 AI 的“狂热”都没有建设性。