AI 迹象

廉价、无限的 AI 生成文本正在重塑网络写作,促使人们努力检测“AI 迹象”并过滤掉公式化内容。评论者争论来源是否比清晰度更重要:有人更看重人类努力、真实性以及写作即思考,而另一些人主要关注实用性,尤其是在技术文档或翻译中。文中提到了一些用于识别 LLM 风格散文的简单基于规则的工具和启发式方法,同时也对它们的准确性表示怀疑,并担心未来模型会更难与人类作者区分。

“AI 迹象”工具的性质

  • 没有公开链接;据描述,它是一个内部的、基于规则的过滤器,用于在精选信息流中给 AI 风格文章打标签并将其剔除。
  • 实现方式是约 100 多条手写规则,用来比较 LLM 时代前后(约 2023 年)的写作差异,并使用固定阈值。
  • 之所以使用它,是因为在约 23k+ 篇文章的规模上,对每一项都运行更重的检测器(Pangram)成本太高。
  • 目的:把低质量/营销/AI 垃圾内容挡在外面,并支持对技术和主题进行标签和排序。

其他工具与检测挑战

  • 提到了类似或相关的工具:“is-it-slop”、一个 LLM 套话高亮器,以及像 SlopShape 这样用于识别人类与机器人以及特定模型的研究。
  • 一些检测器会在格式上误报(例如把 markdown 列表标记为重复)。
  • 也认识到这是一场猫鼠游戏:检测器与那些让 AI 文本看起来更像人写、或更个性化的工具之间的博弈。

人类写作与 AI 写作的价值

  • 许多评论者坚持认为作者身份很重要:人写的文本本身就有价值,传达的是亲身经历、付出的努力和真实交流。
  • 也有人认为我们应该只看有用性和清晰度,尤其是在技术文档中。
  • 还有几位把“投入的努力”视为关键筛选标准:他们不愿意为了阅读投入比作者创作时更多的精力。
  • 有人将其视为一场“注意力战争”:无限廉价的 AI 输出迫使读者用更严格的过滤器保护注意力,包括“不要/少要 AI”的规则。

质量、风格与“AI 口吻”

  • 常见抱怨包括:啰嗦、过度解释、反复出现的固定套路、缺乏对真实受众的建模(“心智理论”)。
  • 有些人指出,AI 已经能纠正人类错误并提升清晰度,并预测未来模型会更难与人类区分。
  • 另一些人则把轻微的人类拼写错误和生硬感视为真实感的令人安心的信号。
  • 还有人建议用 LLM 甚至对人类写作进行“去垃圾化”,同时承认 AI 已经让某些曾经中性的表达变得“变味”了。

伦理、文化与挤出效应的担忧

  • 担心近乎无限的 AI “垃圾内容”会挤占写作、研究和艺术中的人类表达,并降低搜索和信息流的质量。
  • 反方观点认为:注意力和现有过滤器本来就能应对信息过剩;AI 生成内容只会在质量上竞争。
  • 有些人强调“说—做”之间的差距:人们声称讨厌 AI 写作,但检测结果显示它其实被大量点赞和推广。