无 AI 垃圾:一份宣言
一份“No AI Slop”宣言认为,大语言模型应当增强而不是取代人类判断,并警告说,低成本生成的代码和文档会淹没审查者并侵蚀质量。评论者就如何管理 AI 生成的 pull request 展开争论——包括建议公开提示词、严格限制 PR 规模,以及采用先规格后实现的工作流——同时也承认,商业激励往往更偏向速度和数量,而不是工艺与质量。另一些人质疑,随着 AI 系统变得更具智能体特征,以人类为中心的审查是否还能扩展,并引发了关于责任归属、竞争压力,以及抵制低质量 AI 输出是否符合现代商业现实的更广泛担忧。
AI 生成代码、PR 规模与审查实践
- 很多评论都集中在巨大的 AI 生成 PR 上,这些 PR 很难,甚至不可能被有意义地审查。
- 有些人认为,大 PR 表明工作切分或纪律存在问题;也有人指出,大规模重写或全面改动本来就可能产生很大的 diff。
- 关于“禁止大 PR”还是“禁止愚蠢的大 PR”存在争论,以及一些策略,例如:先私下做一个大 PR,然后拆成多个更小、可独立审查的 PR。
- 还有几个人建议在 PR 中附上 AI 提示词(甚至完整的对话历史),以暴露其推理过程,但也有人怀疑这真的能证明正确性,或者能否在规模上进行审查。
“Slop” 的含义及其重要性
- 一种常见的工作定义是:slop 指的是一种产出成本低于理解成本的东西,尤其是当 AI 能生成海量文本/代码时。
- 人们反映,AI 文档和代码显得臃肿、重复,而且更难评论,因为问题是交织在各处的。
- 也有人指出,slop 最终来自人类:他们接受并交付了 AI 的首轮输出,却没有认真打磨。
商业激励与质量
- 一些评论者担心,“AI slop”在短期内可能会得到奖励:更快的可见产出、关闭更多工单、看起来更高的生产力。
- 另一些人反驳说,早期证据(来自一些重度使用 AI 的产品和事故)表明结果更糟,不过这点有争议,而且线程里的证据都是轶事性的。
- 一个反复出现的悲观观点是:如果 slop 在短期内更赚钱,那么在资本主义环境中,宣言式的规范将很难奏效。
人类责任、智能体与未来工作流
- 一派坚持人类必须对意图、品味和后果负责,并认为“由 slop 验证 slop”(智能体审查智能体)是不可接受的。
- 另一派则认为未来的工作流会是智能体对智能体,人类中心的审查预期已经过时,甚至是“自利的”。
- 对于智能体/LLM 能否在判断和设计上达到或超过人类存在分歧;有人认为智能体会放大既有人类技能,也有人认为它们在抽象和品味方面系统性地很差。
建议的规范与工具
- 建议的做法包括:在使用 LLM 之前先制定严格的规格说明,将设计/规格/测试/证据绑定到一起的 openspec 类工作流,结构化的 PR 审查(规格 → 代码 → 测试),以及更多把 AI 用作审查者,而不是盲目生成器。
- 有人认为,只要谨慎使用 AI,质量可以提高,而且工作能快得多;另一些人坚持认为,高质量的 AI 辅助工作实际上应该更慢,因为增加了审查。
对宣言与表述方式的反应
- 许多人喜欢其核心信息(反对 slop,把人类理解和结果放在中心),但批评标题和负面表述(“No AI Slop”)具有煽动性,或者很容易被误读为反 AI。
- 有人建议使用更具愿景、偏向“人类优先”或“负责任 AI”的品牌表达。
- 少数人认为这项努力已经太晚,或与主流激励机制不一致;也有人说,这让他们重新燃起了对抗低质量 AI 使用的希望。