AI 正在显著加速 AI 研究

关于 AI 系统如今是否正在显著加速 AI 研究本身的说法,引发了兴奋与怀疑并存的反应。评论者一方面权衡 METR 的发现:Anthropic 在一年内实现了数年的进展——据称且并未增加更多训练算力——另一方面则担忧方法不透明、由基准驱动的“参差不齐”智能、硬件与资本限制,以及与过去 AI 泡沫的相似之处。许多人确实看到了编码和实验方面明确的生产力提升,但他们在这一点究竟意味着失控的超级智能与生存风险,还是只是更快、但仍受限的渐进改进上,意见严重分歧。

是什么推动了这种表面上的加速?

  • 对原因的争论:有些人认为更快的 AI 进展归功于更好的模型和 AI 辅助研究;另一些人则说,这主要是资本、更多 GPU 以及大规模 token 支出。
  • 也有人指出,随着时间推移,前沿模型变得更便宜、更强(例如新模型在更低的每 token 成本下超过旧模型),这被视为“每美元智能水平”在提升的证据。
  • 另一些人则认为,当下的提升仍主要来自规模扩展以及更好的 RL/架构,而不是一个根本不同的新阶段。

METR 与 Anthropic 案例研究的角色

  • 被引用的一份 METR 报告声称,Anthropic 在 1 年内实现了约 2 年的 AI 进展,而且这并非因为训练算力更多。
  • 一些评论者将此视为 AI 正在加速 AI 研究的强有力证据。
  • 另一些人则不信任 METR,认为它实际上是与实验室立场一致的公关材料,批评其大量删节、AECI 等指标不清晰,以及过于自信的结论。

前沿模型 vs 开源模型与硬件限制

  • 一方认为,更好的开源模型会使能力商品化,压缩前沿实验室的溢价市场。
  • 反方观点:前沿实验室已经在销售“足够好”的中端模型,并且在价格和能力上都能与开源提供方匹敌。
  • 对本地模型的实用性存在分歧:一些人说它们已经能在消费级或中等服务器硬件上很好地运行;另一些人则称其为“玩具”,并指出真正的自托管仍然要花费数万美元。

基准测试、“智能”与局限

  • 讨论聚焦于整体基准(ECI 等)是否真正能衡量“智能”。
  • 一些人强调,基准只测量狭窄、可训练的任务;现实世界中的许多智能可能仍未被测量,而且呈现出参差不齐的特征。
  • 另一些人注意到跨任务相关性(例如用代码训练能改善推理),并认为整体上有持续、广泛的进步。

生产力、垃圾内容与官僚主义

  • 许多研究人员和工程师报告说,在构思、原型开发以及理解遗留代码方面,速度提升了 5–10 倍。
  • 另一些人则强调低质量论文、代码和会议投稿的激增,以及 AI 生成的评审。
  • 还有几个人描述了 AI 诱发的“元工作”:AI 摘要、AI 评分量表和规划工具扩大了官僚流程,却没有明确的净影响。

安全、超级智能与风险

  • 立场分歧很大:一些人认为 AI 研究加速会提高失控的 RSI 以及新型武器的概率,因此主张更严格的控制和更慢的部署。
  • 怀疑者则说,鉴于当前系统只是需要物理测试与人类能动性才能造成真实破坏的模式预测器,末日论缺乏依据。
  • 关于说服能力还有一段长讨论:更聪明得多的系统是否能操纵人类做出危险行为;批评者怀疑说服力能否扩展到“毁灭世界”,支持者则指出历史上的宣传、邪教以及现有的网络操纵都是警示信号。

炒作周期与历史类比

  • 与 1980 年代 AI 热潮及随后崩盘的比较:变革性技术并不能阻止泡沫或寒冬。
  • 有些人预测,一旦炒作和廉价资金消退,AI 会出现类似 NFT 的通缩;另一些人则认为,当前切实的生产力收益使这一轮周期本质上不同。