对 LLM 能力的共同认知差距正在扩大

感知到的能力差距

• 许多人看到的是一个不断扩大的分化：
  • 非技术用户或普通用户大多只看到“笨拙的聊天机器人”或类似搜索的摘要；往往不准确、缓慢或啰嗦。
  • 日常专业人士看到的是有限的提升（摘要、邮件、样板代码），但仍会遇到可靠性和集成方面的限制。
  • 也有少数人声称取得了显著提升：复杂软件、执行多步骤工作的 agents，以及强大的编程/数学表现。
• 一些评论者认为，在所谓精英群体内部也存在差距：很多能接触到顶级模型的开发者，其使用方式仍然很差。

编码工具和 agents 的现实表现

• 对 Claude Code、Copilot 以及各种 agent harness 的体验分歧很大：
  • 支持者表示，他们构建了完整应用、CAD 模型和内部系统，否则自己根本没有时间或能力完成；并且在强测试/审查框架包裹下，代码质量甚至可能超过普通人。
  • 批评者则把这些工具描述为 UI 有 bug、卡顿、篡改历史，agent 生成的代码迂回复杂或脆弱，需要大量审查和重构。
• 许多人认为，自治的、“发个提示就不管了”的 agents 几乎从来不能产出可投入生产的系统；它们最适合结果可以机械验证的场景（编译器、测试、数学、某些 CAD）。
• 良好的结果通常需要细致的规格说明、渐进式步骤，以及大量人工引导。

验证、质量与安全

• 一个反复出现的担忧是：人类审查 LLM 输出的能力才是真正的瓶颈。
  • 在一些组织里，代码审查正在退化；AI 生成的“垃圾”被照单全收。
  • 在数学领域，验证 AI 证明被视为无偿劳动，收益不明，而且可能并不会提升人类理解。
• 人们报告称，AI 摘要和面向消费者的 agents 会自信地给出错误甚至危险的建议（健康、宠物、旅行、金融）。

经济价值、ROI 与炒作

• 怀疑者会问：如果能力已经如此先进，除了演示、开发工具和内部实验室使用之外，真正具有变革性的产品在哪里？
• 有些人认为，个体开发者和小众工作流确实获得了明显的生产力提升；另一些人则认为，主流软件质量、可靠性或 bug 数量并没有可见改善。
• 人们担心：
  • 巨额资本开支和算力消耗，而商业模式却不清晰。
  • 失业（尤其是初级岗位）以及留在岗位上的资深人员工作量增加。
  • AI 投资泡沫可能会沿着典型的炒作周期崩盘。

对普通人和日常生活的影响

• 许多人说，从 2016 到 2026，日常生活并没有改善多少：住房、食品、硬件等成本上涨；公共服务、UX 和支持往往更差；噪音更多，产品更加“劣化”（enshittified），监控也更多。
• 一些个人用户报告了很强的个人收益（行政自动化、旅行规划、税务、3D 打印、小企业工具），但也承认这远非普遍现象。

未来走向与局限

• 讨论焦点在于 LLM 是否会从“极客领域”（代码、数学）泛化出去，还是会撞上硬墙（数据、物理实验、经济、政治）。
• 机器人与 LLM 的结合被一些人视为真正具有颠覆性的前沿（类人劳动）；也有人强调社会、监管和现实世界的瓶颈。
• 还有人指出，许多社会问题（住房、医疗、气候、不平等）是政治问题，而不是技术问题；如果没有结构性变化，“一个数据中心里的天才国家”也可能改变甚少。