互联网充满了 AI 狗屎

大型语言模型和 SEO 自动化的广泛使用,正在迅速用低质量、经常误导性的文本淹没互联网,使人们更难通过 Google 之类的搜索引擎找到可信的人类撰写信息。评论者将这一趋势与“死互联网理论”联系起来,认为广告驱动的激励机制和已经烂化的搜索结果正在把人们推向封闭社区、付费或筛选过的搜索工具,以及用于验证人类作者身份的密码学签名或声誉系统等想法。许多人认为,这只是对长期存在的垃圾内容和货币化内容问题的加速,但也担心 AI 输出的巨大数量和逼真程度会引发更深层次的在线信任崩塌。

网络与搜索的现状

  • 许多人认为,在 LLM 出现之前,网络就已经“充满了狗屎”:SEO 内容农场、联盟营销垃圾、为了广告展示而堆砌内容的食谱页面、标题党新闻,以及低质量的“教程”博客。
  • 真正的剧变在于规模和速度:AI 让用看起来很像真的文本和图片淹没整个网络,变得几乎零成本。
  • Google 是一个核心靶子:人们反馈搜索结果被 SEO 垃圾、AI 写的解释文、过度激进的同义词扩展,以及广告过重的结果页所主导,这些页面常常把垃圾内容排在一手来源之前。
  • 有几条评论指出,这本质上是激励机制问题:广告驱动的排序和大公司的增长压力(例如每年需要新增数百亿美元收入)会推动产品走向烂化。

AI 内容与“死互联网”担忧

  • 讨论将此与“死互联网理论”联系起来:机器人和自动生成内容淹没人类自然活动。
  • 与旧式 Markov/拼接词垃圾相比,LLM 被视为在质量上完全不同,因为它们能生成流畅、切题、且很难识别的文字。
  • 担忧包括:选举错误信息、机器人“军队”彼此争论、AI 对 AI 的内容循环导致“神经网络坍塌”,以及类似 Kessler 综合征的信息垃圾云。

人类与机器作者身份及真实性

  • 许多人强调,人类一直都会生产胡说八道;问题在于规模和低成本,而不是废话本身的存在。
  • 人们表示,即使是糟糕的人类作品(例如古怪的个人网站)也比等价的 AI 输出更有价值,因为其背后有一个真实的头脑和连续性。
  • 提出的防御措施包括:对人类内容进行密码学签名、身份/证明系统、信任网络,以及基于声誉的过滤。也有人指出,这些并不能证明“非 AI”作者身份,而且容易被密钥盗用和操纵。

经济激励与烂化

  • 反复出现的主题是:广告和过度商业化扭曲了搜索、出版和社交媒体的激励机制。
  • AI 被视为短期获利的新工具:海量内容生成、SEO 作弊、虚假评论,以及低成本“内容营销”。

应对方案与应付策略

  • 技术上:面向小型网络/人类站点的新搜索引擎(Kagi、Marginalia),降低疑似 AI 或广告过重页面排名的过滤器或“白名单”,以及在客户端进行摘要/剥离垃圾内容的工具。
  • 社会上:退回到更小、经过筛选的社区(论坛、Discord、仅限邀请的群组),更多依赖书籍、图书馆和档案(包括囤积 AI 之前的网络内容)。
  • 也有人对 AI 作为生产力工具持乐观态度(如总结文档、起草代码),前提是其输出经过筛选和验证,但另一些人预测,信任与专业知识会被深度侵蚀。