当 AI 构建自身：我们向递归自我改进迈进的进展

原文 ↗ Hacker News 讨论 ↗

感知到的动机与 IPO 背景

  • 许多人认为这篇文章的时机是为了 Anthropic 的 IPO 预热营销：“为 IPO 热身”、“宣传稿”、“自我炒作”。
  • 有些人认为呼吁 AI 放缓，部分是在从昂贵的训练转向更赚钱的推理，并提高进入门槛（“卡特尔”、“监管俘获”）。
  • 也有人认为 Anthropic 的领导层至少有一部分是真诚地担忧风险，但仍然被困在竞争动态之中。

递归自我改进（RSI）主张

  • 不少读者觉得标题有过度承诺之嫌：文章主要描述的是 AI 辅助编码，而不是真正的 RSI。
  • 人们区分了以下几类：
    • 写更多代码并进行重构的壳层/代理。
    • 真正的 RSI，即模型设计新的架构、训练运行，并实质性地提升能力。
  • 有人认为当前基于 transformer 的系统也许永远无法支持“完整的 foom” RSI；也有人认为当下的自动研究工作流是早期证据。

生产力指标与代码行数

  • Anthropic 的“交付代码量增加 8 倍”指标广受批评。
  • 提出的观点包括：AI 代码往往冗长、充满样板代码，并可能在没有真实价值的情况下膨胀 LOC。
  • 几位评论者指出，高质量工作通常对应更少的代码行；“负 LOC”被提作理想状态。
  • 也有人建议，提交次数或经过验证的功能比 LOC 更适合作为指标。

代码质量与 AI 垃圾代码

  • 多个轶事提到大型 AI 生成的 PR（数万 LOC、数百个文件）无法审查，而且往往质量低下。
  • 也有人报告说，在谨慎使用 AI 并有人类监督时，个人生产力确实有显著提升，测试覆盖率也更好。
  • 共识是：AI 可能很强大，但也很容易产生糟糕的抽象、脆弱的复杂性，并且需要严格的审查。

Claude Code 与基础设施投诉

  • 对 Claude Code 的工程实现有大量批评：高内存/CPU 占用、闪烁的 TUI、为终端应用采用 React/“小型游戏引擎”式架构。
  • 经常提到服务中断、限流、计量不一致，以及薄弱的支持渠道；有人说这削弱了其工程卓越的说法。
  • 少数人表示其可靠性尚可，并怀疑有些抱怨被夸大了。

监管、暂停与安全

  • 有人欢迎 Anthropic 谈论协调放缓，认为这是在争取“喘息空间”。
  • 但更多人认为这是在为自身谋利：大型实验室在领先后要求冻结前沿，而较小/开源参与者则受到限制。
  • 有人将其与核军控以及那些一边说“请负责任使用”、一边游说反对严格规则的行业作类比。

经济与社会影响

  • 争论焦点在于 AI 会：
    • 将掌握前沿模型的人手中的权力和资本大幅集中。
    • 还是通过赋予个人巨大杠杆而使能力民主化。
  • 怀疑者预计不平等会加剧，非所有者获益有限；乐观者则预见生产力会出现激进提升，并催生新的工作形式。