我离开 OpenAI 是因为它的文化已经坏掉了

访问和付费墙

• 争论一个被付费墙挡住的专栏文章能否作为合法的公共道德声明。
• 有人认为这与历史上的付费报纸并无不同；也有人说现代的付费墙和订阅降低了可访问性和持久性。
• 反驳意见是：赠阅链接、图书馆和纸质副本使其实际上已经足够公开。

AGI 的本质与（不）可能的对齐

• 人们持续混淆并争论“AGI”究竟是什么意思，以及当今系统是否已经在某种弱意义上算得上。
• 不少人认为，真正的人类水平或超人类系统不可能被可靠地“对齐”，因为我们甚至无法让人类彼此对齐；如果你能把它完全约束住，它就不再算真正的 AGI。
• 另一些人强调，“与谁对齐？”仍然是核心未解问题；对齐本质上是政治性的、带有价值取向的。

AI 伤害的责任与监管

• 强硬派希望由实验室的 CEO 对其运行的 AI 代理所犯下的罪行承担个人责任，并把它类比为枪支、化学品或经营不安全的射击场。
• 反对者认为，现有类比（枪支、核电站）表明，个人刑事责任并不能可靠地防止事故，而底层经济激励只会产生新的高管。
• 有人建议，AI 监管最终可能会类似金融 KYC 或高风险行业（核能、航空航天），以能力阈值触发严格监督。
• 争论还包括，SaaS 式控制和自治性主张是否会把更多责任转移给供应商。

离职员工批评的动机与可信度

• 许多人对时机持怀疑态度：人们往往只在股权归属或收购要约让自己变得富有之后才发声，将其视为洗白名声或营销。
• 也有人反驳说，经济安全通常是安全批评强势雇主的前提，而内部视角即便来得晚，仍然有价值。
• 争议在于，这类文章究竟是真正的揭发（带有证据），还是带有强烈情绪的职业转向。

AI 实验室文化与安全实践

• 普遍认为“快速行动、破坏再修补”并不适用于可能危险的技术；人们把它与航空和核安全文化相比较。
• 有人担心实验室依赖报告和告警，而不是硬性关闭机制和稳健的隔离措施（例如空气隔离系统）。
• 有些人认为需要新的“安全科学”，但怀疑在模型仍是黑箱时，它能否先于部署出现。

风险水平、炒作与暂停呼吁

• 一方认为，关于生存风险的讨论被夸大成服务于 IPO 和融资的炒作，当前伤害大多只是数字化且局部化的。
• 另一方则认为，迄今为止没有出现大规模灾难只是暂时的，并预计安全规则最终会“写在血里”。
• 立场从“用紧急法律停止所有 AI 工作”到“先构建 → 观察伤害 → 再监管”，各不相同，而后者被视为唯一现实路径。

技术职业、伦理与“文化坏掉了”的叙事

• 有些人把反复出现的“我辞去了邪恶 AI 公司”的故事看作公式化叙事，类似早期社交媒体公司的那一波。
• 另一些人把离开比作逃离邪教：最初目标高度一致，随后在人成熟或实现财务独立后逐渐幻灭。
• 大家部分同意，因文化而辞职可以是正当的，但在后期才突然“道德觉醒”会招致强烈怀疑。