把一个不是你自己的、只是 AI 提议的想法完成，真的太难了

原文 ↗ Hacker News 讨论 ↗

AI 助手正越来越多地融入编码和笔记工作流程，但许多用户表示，让模型生成想法、注释或笔记会削弱他们的所有感，并让系统随着时间推移更难理解。参与者描述了诸如 AI 生成的代码注释变成误导性“文档”、AI 生成文本污染个人知识库，以及人们越来越倾向于思考如何提示模型而不是深入理解底层问题等问题。有些人主张在人类内容和 AI 内容之间严格分离，或者将 AI 限定在搜索、转录和轻量总结上，认为笔记和设计工作的真正价值在于生成它们所需的人类思考。

AI 生成的想法与所有权

  • 许多人发现，执行“由 AI 提议”的想法很难，因为这些想法缺乏个人所有感以及背后的内在推理。
  • 也有人说，把自己的想法做完同样很难；问题在于执行本身，而不只是 AI。
  • 一项被引用的研究表明，当人们认为创意工作是 AI 完成的，他们会觉得意义更少，也会投入更少努力。
  • 还有几个人认为 AI 不可能真正“拥有”想法；它只是采样看起来合理的选项，并没有真正的偏好，所以它的“选择”常常显得武断。

代码库中的 AI：注释、规格说明与错误传播

  • 对 LLM 编写的代码注释有很强的批评：它们会凭空捏造设计意图，之后又会被当作权威依据，从而污染未来的工作。
  • 一些团队现在会激进地删除或阻止 AI 注释，或者加入约束规则来限制并验证这些注释。
  • 也有人为注释辩护，认为它们用于记录“为什么”以及外部约束，但也承认 LLM 很少能可靠地产生这种类型的注释。
  • 人们担心 AI 生成的文档和注释看起来很权威，但实际上可能是错的，随着时间推移会放大错误传播。

用 AI 写代码：速度与控制

  • 一派会检查所有 AI 生成的代码，把它当作初级工程师的 PR；另一派承认自己根本跟不上生成量，几乎不读。
  • 被报告的问题包括：巨大的 diff、缺乏抽象、重复逻辑、晦涩的 PR 描述，以及无休止的补丁循环。
  • 有人提出一种二分法：
    • 让 agent 基本上拥有代码所有权，严重依赖测试/基准，并接受人类理解能力降低。
    • 或者只把 AI 用于小而明确的任务，而让人类对架构和审查保持完全责任。

第二大脑、Obsidian 与笔记中的 AI

  • 许多人使用 Obsidian 或类似工具作为“第二大脑”，但看法分歧：
    • 支持者重视可搜索的 markdown、交叉链接、备份，以及写作过程中发生的思考。
    • 怀疑者把“第二大脑”文化看作炒作、精神囤积或拖延；他们更喜欢纸质笔记本或极简数字笔记。
  • 大家普遍同意，做笔记的主要好处在于写下来所需的思考；AI 写的笔记有可能移除这种认知工作。
  • 常见策略包括：把 AI 和人类笔记分到不同的 vault 或文件夹，明确标记“由 AI 生成”，或者让 AI 严格作为对人类撰写内容的查询/总结层。
  • 有些人喜欢用 AI 做转录和总结（例如讲座）以及语义搜索，但避免把 AI 生成的文本永久存储，因为未来的模型会总结得更好。

认知、研究与长期担忧

  • 有几个人担心，对 AI 的过度依赖会把思考从“我该如何解决这个问题？”转变成“我该如何提示模型来解决这个问题？”，削弱深层理解。
  • 在研究中，建议的用法是让 AI 暴露缺口和可能性，但确保最终的想法和推理仍由人类拥有。
  • 也有人提出隐私方面的担忧（AI 读取私人想法），以及如果这些数据变得可访问，可能会出现大规模社会工程。