不要被蒙骗——LLM 并不会推理
关于大型语言模型是否真正“推理”的争议，引发了人们对 AI 系统中的推理与智能究竟意味着什么的更广泛思考。评论者将 LLM 的统计式下一个 token 预测与类人的权衡思考相对比，讨论缺乏显式信念、持久内部状态或自发目标，是否会让它们失去真正推理的资格——或者只是反映了不同的机制，就像喷气式飞机与鸟类一样。此次讨论凸显了多个尚未解决的问题：AI 需要多像人类认知，蛮力计算与智能体的作用，以及当前模型惊人的输出究竟是复杂的模式匹配，还是一种非人类智能的早期形态。
LLM 真的在“推理”吗？
- 一派认为机制并不重要：如果输出在功能上与推理无法区分，那么坚持说“这不是真正的推理”并无帮助。
- 另一些人认为 LLM 只是下一个 token 预测器 / 复杂计算器：是强大的变换引擎，而不是有目标或进行权衡的主体。
- 也有人提出，LLM 可能通过作为通用函数逼近器、能够隐式编码状态机，从而近似逐步推理。
- 少数观点认为：即便它们具有图灵完备性，这类系统也可能根本无法表达推理。
与人类的比较
- 多条评论指出，人类也会：
- 在事后编造思维链。
- 往往并不会深度推理；而是依赖记忆、文化，以及群体规模上的“蛮力”处理。
- 无法满足文章自身提出的三项标准（明确的认识状态、知识与处理的清晰分离、如实的内省报告）。
- 有人认为，人类天生就有“语言性空想识别”倾向，会把智能和主体性过度归因于流畅的语言。
- 也有人反驳说，否认 LLM 的推理能力往往偷偷引入了无法解释的人类特殊性（例如“缝隙中的灵魂”）。
机制、表征与计算
- 争论焦点在于：缺乏一个显式、可检查的信念存储，是否就足以让 LLM 失去推理资格；还是说信念只是被编码在权重里。
- 讨论涉及机制可解释性、“全局工作空间”式的内部结构（例如 J-space）以及涌现的概念表征。
- 还有一条旁支讨论大脑作为物理 / 可计算系统还是超越物理的东西；以及是否能以二进制模拟在概念上就足够。
提示词、智能体与行为
- 有几位提出通过提示模式和多智能体设置来诱导更严格、明确的推理（置信度跟踪、证据记录、红队测试）。
- 也有人指出，LLM 若不嵌入始终在线的智能体框架，就不会自行启动任务或“反刍思考”。这究竟是设计选择还是深层限制，仍有争议。
- 一些人把思维链视为对候选叙事进行真实搜索；另一些人则认为那只是贴在一个已经选定的答案上的风格化润饰。
务实与面向未来的看法
- 许多参与者淡化了分类之争：无论标签如何，LLM 都是极其有用的预测引擎，实际上在编码 / 数学方面常常比人类更好。
- 另一些人强调其局限：没有稳健的自动驾驶，没有变革性的科学突破，工程师仍然必须监督和纠正。
- 有人认为这篇文章部分是在为一种新的“推理模型”创业项目铺垫，但仍同意：更明确、可检查的推理结构会很有价值。