人类还没有为即将到来的智能爆炸做好准备

对 AI “专家”感知上的（不）准确性

• 许多人认为，近期一些备受关注的预测（例如大多数白领工作会迅速消失）被夸大了，或者后来被收回，因此质疑谁才算“专家”。
• 也有人反驳说，某些预测者（例如“AI 2027”式的时间线）在加速、国有化压力以及代理式工具方面，意外地接近现实。
• 还有人说，实际上现在根本没有什么专家：时间线很短，经验有限，而且激励机制（资金、炒作、监管）会扭曲预测。

AI 进展的速度与性质

• 一派认为，从绝对意义上看，进展极其迅速：更强的模型、代理、编码工具，以及基准测试得分的提升。
• 另一派强调“无监督效用”低于炒作、幻觉依然存在、长程规划能力薄弱，以及对基准测试的刷分行为。
• 若干评论指出，用户学习（提示词技巧）常常被误认为是模型改进。

编码与白领工作的自动化

• 强烈的观点：许多程序员“已经不再写代码”，AI 可以实现任何能描述出来的东西，而未来几年内 50% 的入门级白领工作可能面临风险。
• 反对意见：严肃的工程师仍然会写大量代码，AI 输出需要大量审查，而那种照本宣科式的开发者一直都“并没有真正写代码”。
• 有些人报告个人生产力提升了 10–100 倍；另一些人则说 AI 主要只是更好的搜索工具。
• 对于非程序员是在追上来还是被进一步甩开，存在分歧。

递归自我改进（RSI）与超级智能

• 灾难派：闭环 RSI 可能引发“智能爆炸”；AI 也许会发明更好的算法、硬件和协调方式，从而超越人类。
• 怀疑派：训练成本、算力限制、对物理实验的需求，以及当前代理的脆弱性，使得快速 RSI 更像“科幻”，如果会发生，也大概率还要几十年。
• 有人认为费米悖论对 AI 接管情景构成了某种弱约束；也有人说宇宙的浩瀚使其没有信息量。

治理、监管与权力

• 争论的焦点是，AI 实验室究竟是在真诚警告风险，还是在策略性地炒作危险，以塑造监管、建立护城河或获取类似国家的权力。
• 建议包括美中协议、国际论坛，以及将 AI 实验室视为未来的共同治理者，类似大型银行。
• 许多人怀疑，在地缘政治和激励机制的作用下，现有政府是否能够进行有意义的协调。

社会与经济风险

• 普遍担忧工作被替代、永久性底层阶级，以及 AI 驱动的产品和媒体“劣化”。
• 有人主要把 AI 看作另一种强大但有边界的技术；另一些人则把它视为一种质变性的“智能基底”，而现有制度尚未为此做好准备。