对 AI 有朝一日可能毁灭人类的担忧，或许导致了 Sam Altman 被赶下台

Altman 被免职的所谓原因

• 有人猜测，安全担忧和有效利他主义的影响推动了董事会的这一举动，尽管文章中“may have（可能）”的说法被批评为标题党和臆测。
• 也有人认为，未披露的利益冲突（例如芯片业务、Worldcoin）或一家由非营利组织拥有的公司的治理问题才是原因，但同时承认董事会明确否认了法律/财务不当行为。
• 还有几位评论者觉得难以理解：解雇一位公开签署 AI 风险信并资助 “superalignment” 研究的 CEO，怎么会提升安全性。

AI 安全 vs. 商业竞赛

• 一派认为 OpenAI 必须保持商业领先：领先能让其开展更好的安全研究和设置护栏；如果放慢脚步，安全意识更弱的竞争对手就会追上。
• 批评者称这种“军备竞赛”逻辑自相矛盾，把它比作核威慑（MAD）和二战轰炸机竞赛的论调。如果安全无法压倒市场优势，他们认为，那就说明它根本没有被真正优先考虑。

AI 风险的性质与规模

• 有人把 AI 看作与大流行病或核武器类似的灭绝级风险，强调不确定性：即便灾难发生的概率很小，也足以证明需要采取强力预防措施。
• 另一些人则不认可“末日论”，认为当前系统没有证据表明其具有意识、欲望或自主能动性；他们把存在性风险的讨论看作是过度投射或在构筑护城河。
• 关于纸夹最大化者（paperclip maximizers）的思想实验，以及将其类比为公司或病毒，也存在争论：危险是否需要意识，这一点并无共识。

经济、社会与教育影响

• 许多人预计，AI 更可能放大不平等、“enshittification”和就业/收入冲击，而不是字面意义上消灭人类。
• 有人把它与社交媒体的长期危害相类比，后者在早期“安全检查”中根本看不出来。
• 对教育的担忧集中在 AI 促成作弊和浅层学习；也有人将其与 Wikipedia 相比，认为长期损害有限。

监管、伦理与有效利他主义

• 一些人怀疑，有效利他主义和安全话术掩盖了监管俘获与护城河防御的企图。
• 另一些人则主张制定类似核不扩散的全球条约式协议。
• 积极的愿景强调 AI 在可及的心理健康支持方面的潜力，同时指出主要风险可能在于人类如何把这项技术武器化，而不是 AI 本身“反过来对付我们”。