Sutskever:OpenAI 董事会在履行其使命,打造造福所有人的 AGI

OpenAI 突然解雇其 CEO 后,引发了激烈争论:公司究竟是在优先执行其“造福全人类的 AGI”非营利使命,还是正在陷入内部权力斗争与糟糕治理。评论者提出了多种解释,从普通的公司政治和在商业化策略上的不一致,到更具推测性的说法——OpenAI 可能掌握着能力强得多、但尚未公开的模型。讨论还延伸到一个更大的问题:当前的大语言模型距离通用人工智能到底有多近,以及安全优先的领导层究竟意味着更慢的产品化,还是对先进能力更严格的控制。

董事会 vs. Altman:动机与流程

  • 许多人认为,这次解雇是出于对 CEO 具有操纵性、固执己见、过度关注利润/权力,以及偏离非营利“造福人类”使命的担忧。
  • 另一些人则把这些特质视为典型的 CEO 行为,并认为董事会反应过度,行事不专业,损害了信任。
  • 这种突如其来的做法(突然发起 Meet 电话、几乎没有提前通知领导层、也没有清晰的公开解释)被广泛批评为对一家约 800 亿美元规模的公司来说过于混乱。
  • 有人将其称为“政变”或权力夺取;也有人反驳说,董事会存在的目的正是为了解雇那些偏离使命的 CEO。

AGI、秘密突破与安全

  • 一个反复出现的理论是:内部可能有一个比 GPT‑4 强大得多的模型;董事会和首席科学家认为它已接近 AGI,因此希望谨慎行事,而 CEO 则希望激进部署/变现。
  • 支持者引用了公开表述,如“把无知的帷幕往后推”、即将到来的能力飞跃,以及关于“超级智能”甚至“发现新物理”的讨论。
  • 许多评论者对此深表怀疑:他们认为 2023 年关于 AGI 的说法已经到了“锡箔帽”级别,并指出当前模型在简单任务和抽象基准测试上的失败。
  • 另一些人则认为,这类失败往往反映的是分词/架构选择,而不是缺乏“理解”,而且能力仍在快速提升。

使命、治理与权力结构

  • 有几条评论指出这种结构很不寻常:一个非营利董事会控制着一家拥有大量外部投资者的营利实体,董事会规模很小,而且成员拥有非传统的公司背景。
  • 一些人认为,这种结构成功阻止了“推销员”控制研究组织;另一些人则担心它会带来不稳定,并引发法律和投资者方面的反弹。
  • 关于董事会是在英勇地保护人类,还是危险地能力不足,这一争论仍未有定论。

对 OpenAI、生态系统和用户的影响

  • 许多人预计这会带来声誉损害、人才流失,以及开发者信心下降,尤其是在刚刚发布的 GPT 平台周围。
  • 另一些人认为,模型开发主要由研究人员推动,而不是 CEO;即便商业化放缓,长期使命导向也可能对 OpenAI 有利。
  • 有些人希望看到更开放的研究;另一些人则预计会有更严格的限制,以及更多“末日论 / 支持审查”的治理。