三位资深研究员已从 OpenAI 辞职

Hacker News 讨论 ↗

在 OpenAI 的非营利董事会突然解除 CEO Sam Altman 职务后，三位资深研究员也相继辞职，这加剧了外界对内部权力斗争以及 AI 安全与商业野心之间平衡的担忧。评论者争论这究竟是安全派对快速部署的“AI 灾难论者”反击，还是一场会引发人才外流和竞争对手创业潮的治理失败，抑或只是过热 AI 市场出现的第一道裂缝。许多人也质疑，在这种不稳定局势下，构建者还能在多大程度上依赖 OpenAI 的 API 和微软的支持，以及这场动荡对更强模型和潜在 AGI 竞赛意味着什么。

解雇、辞职，以及董事会动机

  • 讨论线程将 Altman 被解雇以及随后出现的辞职视为事实上的“政变”，但确切原因尚不清楚。
  • 常见理论：
    • 非营利董事会试图让 OpenAI 重新对齐其章程（AI 安全、利润封顶、非营利使命），而 Altman 则走向更商业化的方向。
    • 可能存在未披露的法律/监管问题，或向董事会作出不实陈述。
    • 在进展速度与高级模型带来的潜在生存风险上，内部存在分裂。
  • 许多人强调这都只是猜测；董事会尚未给出详细原因。

安全 vs 利润，以及 AGI 叙事

  • 有人认为这是安全导向领导层对“AI 灾难论者”的劫持；另一些人则反驳说，营利性加速本来就是那场劫持，而董事会是在恢复最初使命。
  • 关于当前 LLM 是否真的是通往 AGI 的路径，争论不断：
    • 支持者：GPT-4 在许多任务上已经接近“人类水平”的推理；AGI 感觉是不可避免的。
    • 怀疑者：幻觉是内在缺陷，缺乏主观层面的接地，LLM 很强大，但不是真正的通用智能。
  • 对 AI 社会影响的更广泛担忧：就业被替代、权力集中、文化被合成内容淹没；也有人认为 AI 会让能力更普及。

对 OpenAI、人才与竞争的影响

  • 资深研究员的辞职被普遍视为重大损失；有人认为某些算法上的“天才”很难替代，另一些人则强调数据、算力和基础设施更重要。
  • 许多人预计 Altman 和前任领导者会很快成立一家新的 AI 公司，吸引巨额融资并挖走 OpenAI 的人才，甚至可能比 OpenAI 发展更快。
  • 也有人指出，OpenAI 仍然拥有模型、数据和微软支持，依然可能保持主导地位。

微软的角色与筹码

  • 微软被视为既受伤又强势：一方面投入巨大，却没有董事会控制权，而且事发突然；另一方面，它掌控着 OpenAI 大部分算力，能够资助竞争对手，也可以推动治理变革。
  • 对于在非营利控制结构下，微软究竟有多大实际筹码，意见不一。

开发者、生态与护城河

  • 在这场治理冲击之后，构建者们表达了对依赖 OpenAI API 的不安。
  • 建议的缓解措施包括：使用抽象层以便切换 LLM、双来源采购（OpenAI + 其他云），以及尽管当前质量仍有差距，仍去探索开源模型。
  • 关于是否存在“AI 泡沫”也有争论：这项技术显然有用，但估值和资金消耗可能不可持续；也有人认为随着开源模型和工具的改进，先发优势会被削弱。