关于软件开发未来的思考

AI 的创造力与能力

• 对 AI 是否真正具有“创造力”存在分歧。
  • 支持方：“创造力”= 产出有趣或令人惊讶的结果；LLM 显然比几年前更能做到这一点。
  • 反对方：模型只是对先前数据进行统计重组，缺乏真正的推理或发明；惊喜也可能只是随机性造成的。
• 有人认为当前系统已经可以请求更多信息或进行追问，也有人说它们在面对无意义或定义不清的问题时仍会严重失败。

AI 如何融入软件开发

• 许多人将 LLM 视为强大的助手：编写样板代码、测试、重构、胶水代码和文档；替代 Google 进行快速检索，并充当“橡皮鸭”。
• 对完整“AI 开发者”持强烈怀疑：实验表明，它们在非平凡的集成、调试、边缘情况以及不断演化的大型代码库方面表现不佳。
• 领域知识、架构、性能以及权衡决策，被反复提到是当前 LLM 无法可靠胜任的内容。
• 有人设想，多智能体系统、工具使用、形式化方法和更好的反馈循环，可能会显著扩展其能力。

就业影响与劳动力市场

• 观点分化：
  • 乐观派：像 IDE 和云一样，AI 提高生产力，扩大软件的使用范围，并最终增加对开发者的需求。
  • 悲观派：初级和机械化的 CRUD 工作会首先被自动化；招聘人数更少、薪资更低，尤其是在大型平台继续整合的情况下。
• 一些人报告个人生产力大幅提升，这引发了对新招聘减少的担忧；另一些人则表示，AI 生成的 PR 很少能通过认真审查。
• 人们担心剩余岗位会变成高层次的“提示词、集成与监督”，从而移除编码中最有趣的部分。

质量、可维护性与正确性

• 许多人担心，AI 编写的代码短期内“能跑”，但脆弱、缺乏一致性，或在架构上具有侵蚀性，使长期维护和重构更加困难。
• LLM 生成的测试和证明经常被称为价值低或具有误导性；正确性很难判断，也无法靠 RLHF 轻易解决。
• 反方观点：很多人类编写的代码本来就很糟；如果足够便宜且足够快，一些企业可能会接受 AI 级别的质量。

责任、伦理与监管

• 围绕软件责任与“安全港”的法律讨论表明，在高风险领域，人类仍需要审查 AI 输出。
• 对将 AGI 事实上当作奴隶使用的担忧；围绕机器是否具有感知、或可复制的心智何时应获得权利展开争论。
• 企业即使面临风险也可能继续推动 AI，并把责任推给“系统”，直到监管或诉讼追上来。

软件与 UI 的变化性质

• 有人预期，AI 代理会用自然语言交互取代许多定制应用和 UI，甚至可能取代大部分后端逻辑。
• 也有人怀疑，对复杂而精确的系统来说，提示词编写永远不会比写代码更容易或更可靠。