AI 的使用会生成脆弱的代码库

对 AI 生成代码的高度依赖正在引发担忧:软件会变得更脆弱、更难理解,并充斥浅层测试与过度工程化模式。评论者描述了奖励功能速度和 token 使用而非可维护性的管理激励,导致许多团队在代理程序辅助下“凭感觉写代码”并跳过有意义的审查;而另一些人则表示,只要在强架构、类型系统和严格验证的约束下使用 AI,仍能获得成功。一个反复出现的主题是:AI 会放大既有做法——在有清晰标准、规格和质量门槛的组织中,它可以提升健壮性;但在本就轻视代码质量的环境里,它会加速技术债,并侵蚀人类对关键系统的理解。

商业激励与速度

  • 许多人认为,AI 生成的脆弱代码库更多是由商业激励而不是工具本身驱动的:功能压力、token/速度指标,以及缺乏对健壮性的激励。
  • 有人说,公司只有在发生严重事故后才会重新校准;也有人认为,随着脆弱性成本浮现,市场会逐步自我纠正。
  • 一个反复出现的担忧是:管理者优化的是表面的速度和“AI-native”采用,而不是长期可维护性或深入理解。

代码质量、复杂度与测试

  • 常见抱怨:AI 会编写过于复杂、冗长或冗余的代码;制造不必要的抽象;而且经常照搬仓库里已有的糟糕模式。
  • 浅层、高数量的测试是主要问题:它们抬高覆盖率、拖慢 CI,却错过真正的不变量。有些人认为 AI 测试比许多人类写过的都更好;另一些人则认为它们只是会把糟粕固化的噪音。
  • 强静态类型、精化类型和 FP 的支持者认为,LLMs 加上良好的类型系统可以减少对大量测试的需求,并让错误在结构上更可见。

人类理解、直觉与“黑箱”系统

  • 批评者认为:重度使用 AI 会削弱开发者的心智模型,降低“fingerspitzengefühl”,并抑制出于好奇而进行的代码阅读与重构。
  • 反驳者则认为,理解只是上移到更高一层(架构、规格、行为),就像大多数开发者并不理解内核或硬件一样。
  • 一些人担心未来会出现没人真正深度理解大型系统的局面;软件会变得“有机”,并且不断被代理程序打补丁。

来自大型 AI 驱动项目的经验

  • 有人报告称,基于 AI 构建的大型应用(数十万行代码)到目前为止维护尚可,并声称随着模型改进,功能开发更快,重写也很容易。
  • 也有人分享相反的经历:vibe-coded 的单体、超大的文件、不一致的模式,以及人类和代理程序都越来越难安全修改。
  • 对于当前成功案例是否还为时过早(用户少、上线时间短),不足以说明长期脆弱性,存在分歧。

流程、工具与治理

  • 一个强烈主题是:“没有监督的 AI 是有害的。”好的结果需要:
    • 清晰的架构约束和标准(YAGNI、DRY、KISS)。
    • 用于审查、重构和测试裁剪的对抗性/辅助代理。
    • 更好的静态分析、linter,以及特定领域的 harness。
  • 有些人认为 2026 年及以后最关键的挑战,是利用 AI 去提升健壮性,而不是接受糟糕代码,通过更好的验证循环和设计纪律来实现。

更广泛的职业与社会担忧

  • 担忧包括:技能退化、架构品味流失、对外部实验室和 token 预算的依赖,以及管理层利用 AI 为降低标准找借口。
  • 另一些人把这类变化类比为过去的转变(编译器、工厂):手工打造的“工艺品式”代码会成为小众,而大规模生产的 AI 代码将主导大多数商业软件。