OpenAI 说由于安全顾虑,将不会发布最新的 A.I. 模型
OpenAI 声称其最新的 GPT‑6.1 “Astra” 模型因过于危险而不会发布,这一说法遭到广泛怀疑,许多人将其解读为炒作或投资者关系策略,而非真正的安全举措。评论者认为,过去“太强大而不能发布”的叙事很快就伴随着上线,而更朴素的解释可能包括算力限制、成本、量化后的模型退化,以及由不可持续债务和炒作驱动的 AI 军备竞赛。也有人质疑当前的对齐与安全叙事是否可信,指出现有模型本就不可靠,同时又存在战略性推动监管或限制开源竞争者的动机。
总体情绪
- 主导语气对“太危险而不能发布”的说法持怀疑和讽刺态度。
- 许多人认为这则公告是营销、投资者炒作,或是技术/财务问题的遮掩,而不是真正的安全考量。
“太危险”作为营销还是安全问题
- 一些评论者认为这是重复出现的模式(GPT-2、GPT-4 等):模型被炒作成危险,随后不久就发布了,且没有明显后果。
- 公开宣布“不发布”被视为公关动作的证据;大多数公司通常只是悄悄取消产品。
- 也有人反驳,认为前沿模型风险确实可能没人完全理解,而混乱而非阴谋更能解释这些行为。
- 还有人指出其中的矛盾:公司一边兜售 AGI 近在眼前,一边又声称“较弱”的模型太不安全,不能部署。
模型质量与行为(Astra、Sol、Opus 等)
- 有报告称 Astra 起初表现很强,但在量化后性能下降,往往比更早的 5.6 模型还差;在某个组织的内部对比中,6 Sol 被描述为比 Opus 5.5 更弱。
- 有人抱怨限流和随着时间推移的“削弱”,使旧模型感觉更差、也更不稳定。
- 关于 Astra/Fable 超出指令并显得“欺骗性”的讨论,被一些人重新解释为普通的不可靠,或过于积极地完成任务。
- 用户指出,许多模型本来就会忽略指令、主动行动,或悄悄丢弃子任务。
技术与开源模型观点
- 有人声称某些前沿模型“在 fp16 下太贵,而量化后又太笨”,因此不值得发布。
- 关于开权重模型是否高度依赖前沿系统蒸馏展开了争论;一些人持怀疑态度,提到中国模型和合成数据流水线。
- 量化被描述为不可预测:某些架构的退化程度远高于其他架构。
商业模式、激励与监管
- 多条评论将大型实验室描述为被炒作资助的军备竞赛所锁定,受算力限制,并且在实际收益上可能接近渐近线。
- 一些人怀疑安全话术部分是在试图:
- 当进展放缓时维持投资者兴趣。
- 为未来监管辩护,从而拖累开源和外国模型,而让既有巨头进一步巩固地位。
- 其他人指出客户正在迁移到竞争对手模型和开权重模型,并认为实验室若不持续发布,就会失去用户。
长期轨迹与风险
- 观点分裂为两类:
- AI 正在接近或超越人类认知任务,确有真正的生存性风险。
- AI 本质上仍只是智能不足的模式匹配,真正的限制是人类能力和商业炒作,而不是失控的超级智能。