禁止 AI 生成贡献的 OSS 项目

开源维护者正越来越多地制定政策,拒绝接受由大型语言模型生成的拉取请求,理由是大量低质量“slop”贡献、审查者倦怠,以及难以保持项目设计和方向。批评者认为这种做法无法执行、排斥性强,并且可能赶走真正的贡献者以及安全改进,尤其是在攻击者和其他项目都在利用 AI 加速开发和漏洞发现的情况下。许多参与者区分了禁止外部 AI 编写代码与私下使用 AI 进行审查、安全扫描或维护者本人撰写的改动,反映出人们仍在摸索如何将贡献规范适配到普及的 AI 工具。

禁止 AI 贡献的动机

  • 维护者报告称,他们被大量低努力、AI 生成的“slop” PR 和垃圾式提案淹没(“AI agents” 生成网站、建议等)。
  • 审查现在需要付出更多精力:AI 写的 PR 可能看起来很精致、能通过测试,但仍然会有细微错误,或与项目设计不一致。
  • 传统上用来衡量贡献者努力和理解程度的信号,已经被 LLM “sybil 攻击”了:垃圾内容和真正深思熟虑的工作乍看之下很相似。
  • 当“作者”其实是 LLM 而不是在学习的人类时,对新贡献者投入的大量指导精力会让人感觉白费。

禁令的感知收益

  • 充当某种“工作证明”:如果维护者要投入认真审查时间,他们希望看到贡献者确实做过真正的思考。
  • 减轻倦怠感并保持项目方向与一致性,尤其是对小型志愿者团队而言。
  • 一些人把禁令视为积极的质量信号:不允许 AI PR 的项目,可能更适合依赖或研究。

对禁令的批评

  • 有可能赶走真诚的贡献者并缩小社区,尤其是在资金不足的项目中(例如 Servo、Redox OS)。
  • 禁令过于粗粒度:它既阻止低质量贡献,也阻止可能非常优秀的 AI 辅助贡献。
  • 一些人认为“只允许手写”的政策是反技术、缺乏严肃性,甚至对安全关键软件是不负责任的。
  • 在一些人看来,执行这种政策几乎不可能,而且很可能促使人们隐瞒自己是否使用了 AI。

更细致 / 有条件的做法

  • 一些项目会区分:
    • 外部 AI 生成的 PR(通常被禁止或“受限”)。
    • 可信维护者内部使用 AI(通常允许,或很常见)。
  • 建议的最佳实践:
    • 使用 AI 做审查、找 bug、辅助设计,而不是作为主要代码作者。
    • 先提 issue,限制 PR 范围,或限制谁可以提交 AI 辅助代码。

安全、伦理与生态影响

  • 有人认为,不用 AI 做自动化漏洞发现和漏洞扫描会让项目更脆弱,尤其是在攻击者也大规模使用 AI 的情况下。
  • 其他人担心对 copyleft / 专有代码进行不道德的训练,以及对专有“黑盒”工具产生依赖。
  • 预测从以下几种情况不等:
    • 会有更多拥抱 AI、行动更快的分支(fork)。
    • 到未来维护者大多自己运行 AI,而外部“贡献”会变成 issue、提示词或资助,而不是代码。