我们的结构
OpenAI 这种不寻常的公司结构——由非营利实体控制一家有上限利润的子公司，而 Microsoft 持有其中相当大但受限的股份——正受到审视，人们在质疑 Microsoft 到底拥有多大权力、如果 OpenAI 宣布已实现 AGI 会发生什么，以及在日益增长的商业和法律压力下，这种结构是否还能维持。评论者还围绕 OpenAI 对 AGI 的定义展开讨论，即“在大多数经济价值最高的工作上优于人类”，争论这种以经济为中心的表述是否合适、它对就业、体力劳动、土地价值和艺术创作意味着什么，以及当前系统距离这一门槛还有多远。与此同时，也存在一种张力：一方面有人呼吁将强大的模型开源以造福“人类”；另一方面则担心这样做会大幅增强犯罪和滥用能力，而现有法律框架可能难以有效约束。
AGI 条款与 Microsoft 关系
- 关键条款：只有董事会可以决定何时达到 AGI；一旦宣布，AGI 系统将被排除在 Microsoft 的 IP/商业权利之外。
- 有人认为这意味着 Microsoft 只能得到“AGI 之前的残渣”，也有人认为 Microsoft 接受这一点，是因为他们怀疑当前路径不会很快达到 AGI，或者认为这项条款大多只是装饰性的。
- 少数人猜测，董事会与管理层之间的冲突，可能取决于他们认为 AGI 离现实有多近，以及这对 Microsoft 的权利意味着什么。
AGI 的定义与范围
- AGI 被定义为“在大多数经济价值最高的工作上都优于人类的高度自主系统”。
- 有些人觉得这种以经济为中心的表述令人沮丧；也有人认为这才是正确的重点，因为它决定了工作替代和社会冲击。
- 还有人争论，如果没有先进机器人技术，这是否可行，因为许多工作都是体力劳动。有观点认为，AGI 软件随后会很快解决机器人软件层面的缺口。
经济影响、土地与价值
- 围绕 AI 驱动的生产率提升是否主要会推高土地/房产价格，存在激烈争论。
- 一派观点：土地价值受每平方英尺创造价值的限制；生产率越高 ⇒ 土地价格越高；房东会攫取这些收益。
- 另一派观点：荒废的城镇/城市表明土地也会失去价值；长期技术进步以及战争/灾害让简单的“总是上涨”叙事变得复杂。
- 旁支讨论澄清了 “real estate” 中的 “real” 是“与事物有关”的意思，不是“真正有价值”。
公司结构与法律杠杆
- OpenAI 的非营利母体 + 有上限利润子公司 + 复杂控股公司结构被称为“鲁布·戈德堡式”结构，但也有人指出这是一种众所周知的带子公司非营利模型。
- Microsoft 持有营利实体 49% 的股份，并在收回投资前获得很大一部分优先利润。有人认为这是标准做法；也有人认为，鉴于以使命优先的章程，这种安排很奇怪。
- 对 Microsoft 的法律力量存在分歧：有人预计会强硬诉讼；也有人指出合同明确将该投资标为高风险，“像捐赠一样”，且使命高于利润，从而限制了 Microsoft 的控制权。
护城河、竞争与 Microsoft 的位置
- 有人认为 OpenAI 真正的护城河是品牌（ChatGPT）、用户群、数据协议、算力合同、集成以及 Azure 规模的训练经验。
- 其他人回应说，这些大多是在“蓝海”中建立的，本可以被复制；他们还举出其他拥有类似资金的实验室作为落后例子。
- 有人担心未来的 AGI 模型可能不会提供给 Microsoft，但也相信 Microsoft 正在并行建设自己的能力。
开源与滥用风险
- 一派坚持认为 OpenAI 应该把一切都开源，这样“人类”才能受益；犯罪问题可以交由现有法律体系处理。
- 反对者强调 AI 的双重用途属性，担心完全开放的模型会以监管无法有效预防的方式赋能恶意行为者。
推测与文化反思
- 各种推测性话题：用于施加筹码的 AGI 编程超级系统是否会被保密；董事会是否会过早宣布 AGI 以摆脱与 Microsoft 的协议；以及这场“起源戏剧”会如何塑造一个 AGI 对人类的看法。
- 还有人借此思考后稀缺世界、失去工作后的意义感缺失，以及关于 AI 或人类通过自我破坏来重新引入挣扎的故事点子。