Wikipedia 对 AI 生成内容的清理

AI 在百科全书内容中的作用

• 许多人预计 AI 最终将能够借助良好的验证工具生成可靠的百科全书式文本；但大多数人认为这在今天还不成立。
• 核心反对意见是：当前的 LLM 缺乏内建的出处信息；它们生成的是可能成立的句子，而不是带有明确来源和来源类型（原始/二手、同行评审等）的可追溯主张。
• 也有人反驳说，LLM 已经可以提取引文、做 OCR，并在长文档中定位段落，所以引用和标注来源在技术上是可行的。
• 一些人认为 AI 可以作为有用的助手（起草、编辑、研究提示、摘要），但不能作为“权威”内容的自主作者。

质量、数量与验证

• 主要的实际问题是：AI 很容易向 Wikipedia 和其他社区项目灌入表面上不错但部分错误的文本，压垮有限的人类审阅者。
• 即使是“80% 正确”的内容也被视为危险，如果缺失的那 20% 恰好是关键事实。
• 有人认为应当无论产出者是谁都关注质量，但也有人说禁止 AI 文本是一种高效的经验法则，能维持平均质量。

训练数据污染与“低背景”语料

• 一个强烈的担忧是 AI 输出会再次被吸收为训练数据，尤其是在小语种中，形成一种“末日螺旋”，模型不断训练自己的垃圾输出。
• 预 LLM 时代的 Wikipedia 数据转储被比作“低背景钢”——历史上有价值、未被污染的语料。
• Archive.org 和更早的数据库转储被提到是重要的干净基线。

偏见、政治，以及人类与 AI 的问题

• 多条评论强调，人类编辑本来就会引入系统性偏见，尤其是在有争议的话题上（例如冲突、恐怖主义、HIV/AIDS 的表述）。
• 有人说 Wikipedia 会根据问题不同而淡化或夸大某些伤害；也有人认为需要重新平衡，以对抗过去的错误信息或污名化。
• 讨论的一个焦点是：Wikipedia 是否也应该像清理 AI 内容那样有力地清理有偏见的人类编辑。

Wikipedia 的政策、执行与体验

• 据称，政策已从允许带验证承诺的 AI 辅助编辑，转向在反复出现低质量使用后广泛禁止 AI 生成内容。
• 检测会使用 Pangram 之类的工具和机器人（例如，破坏修复机器人）。一些编辑提到存在误报，以及对合法修正被回滚感到沮丧。
• 有人担心真正“无 AI”的数据转储可能已经成为过去；也有人认为当前污染仍然非常低。

替代/AI 驱动的百科全书与分叉

• 像 AI 生成的 wiki（例如 Grokipedia、Latentpedia、个人“Encyclopedia of AI”）这样的项目被讨论为实验或警示案例：往往细节很多，但又细微而广泛地错误。
• 少数人提出，鉴于当今工具，任何人都可以 fork Wikipedia，并用 AI 大规模编辑它，使之符合自己的意识形态偏好。

文章长度、可读性与受众

• 一些用户觉得许多文章已经变得臃肿、可读性下降，更像“信息饲料”而不是简洁摘要；另一些人则认为这在 AI 之前就已存在。
• 对于百科全书应当追求最大细节，还是简洁、对读者友好的摘要，意见不一；有人提醒政策要求总结“公认知识”，而不是无穷无尽地覆盖所有内容。