思考将成为一种爱好
关于 AI 很快将接管大部分“认知工作”，并把人类思考降格为一种爱好的说法，引发了激烈分歧。许多人认为当前的 LLM 并不真正思考，实际上还增加了人类的认知负担；而另一些人则相信快速进展最终会自动化心智劳动乃至体力劳动，迫使社会重新思考工作、教育、民主，以及人们如何获得人生意义。不同观点之间普遍弥漫着对经济冲击、权力集中，以及批判性思维和识字能力——这些本就脆弱的能力——在人人越来越把判断和理解外包给机器时进一步退化的担忧。
LLM“思考”的本质
- 许多人认为，当前的 LLM 并不真正“思考”；它们被视为基于人类输出训练出来的强大自动补全。
- 另一些人回应说，如果在实际用途上输出与人类推理相符，那么内部过程并不重要。
- 也有人指出“参差不齐的智能”：模型在某些任务上（例如形式数学）超越人类，但在其他任务上又非常弱。
- 还有人提到 RL 以及潜在/抽象的内部表征，作为未来系统可能以不那么“词语化”的方式进行推理的证据。
对认知工作和就业的影响
- 一些开发者表示认知负担更高：AI 写了更多代码，但人类必须持续审查、整合并修正它。
- 一个反复出现的观点是：人类正在被“提升”为代理的规格制定者和中层管理者，而不是被移出循环。
- 另一些人认为进展如此迅速，以至于大部分认知劳动，随后连通过“物理 LLM”实现的体力劳动，也会被自动化。
- 怀疑者回应说，机器人技术仍然落后很多：现实世界中的边缘情况、物理约束、维护和成本仍然更有利于人类。
经济、不平等与民主
- 一派预见近乎后稀缺社会：食品、住房和服务实现自动化，虽然过渡会很痛苦，但最终会带来富足。
- 批评者说，历史表明资本不会在不被迫的情况下分享收益；如果没有重大改革，大规模失业和贫困化很可能发生。
- 如果经济价值完全与人类劳动脱钩，一些人担心人类的政治影响力会崩塌，进而威胁自由民主。
- 另一些人则认为，我们必须通过新的社会契约（例如 UBI 或类似机制）明确将人的价值与经济产出脱钩。
思考是否已经是一种爱好？
- 许多人声称，大多数人早已把思考外包给应用、制度和算法；深度反思只是少数人的活动。
- 从历史上看，长时间“思考”往往只属于有充裕时间的精英；有人认为 AI 正在把我们推回这种模式。
人类角色与价值
- 即便是乐观用户也认为，AI 增加了他们必须进行的思考的数量和层级：系统设计、判断和责任仍然属于人类。
- 被认为会长期存在的人类利基包括：价值设定（“做什么以及为什么”）、高层判断、艺术与创造力、社会与照护职业，以及政治决策。
技术轨迹与不确定性
- 有人根据近期 AI 进展推断其呈指数式且不可避免；也有人警告会出现 S 型放缓和“AI 寒冬”。
- 还有人强调，结果取决于集体选择和政策，而不仅仅是技术本身。