Anthropic 是不是在寻求这个?
Anthropic 是不是在“要求”这个?
- 许多人认为,Anthropic 通过大声强调 AI 的生存性/网络安全风险,并明确呼吁赋予阻止“unsafe”部署的权力,实际上是在邀请政府介入。
- 也有人反驳说,Anthropic 要求的是一种狭义、成文法、透明、并具有明确标准的程序,而不是由竞争对手触发的、一次性的、缺乏透明度的行政行动。
政府行动的性质与公平性
- 一些人认为,这项出口管制是武断的、出于政治动机的,或者是一个更广泛模式的一部分:一个带有威权倾向的政府在挑选赢家和输家。
- 也有人认为,这更多是无能和恐慌,而不是连贯的政治逻辑,但仍然觉得它缺乏正当性,并且在法律上站不住脚。
- 讨论中提到法院作为理论上的保障,但被认为速度太慢,跟不上 AI 开发的节奏。
Anthropic 的动机与一致性
- 有些人相信 Anthropic 真的害怕生存性风险,即使代价是自己也要推动监管。
- 批评者则认为这是监管俘获、道德作秀和虚伪:一边销售强大的模型,一边警告它们危险得过头,推动主要会打击竞争对手或开源的控制措施,然后当这些措施触及自己时又表示反对。
- 争论还包括:如果 Anthropic 是真诚的,它是否应该完全停止 AI 工作并资助反对力量,而不是“从内部”带着安全约束继续做下去。
Amazon、OpenAI 与竞争动态
- 有些人把 Amazon 描绘成一个“第三方评估者”,另一些人则认为它是一个利益冲突的云计算既得利益者,迅速把一个微不足道的 jailbreak 升级成了白宫层面的事件。
- 人们也拿 OpenAI 作比较:同样的安全话语,却似乎更受政府青睐,也没有受到类似限制,这让人怀疑存在偏袒。
安全风险 vs 公开性
- 有些人认为 Mythos/Fable 找漏洞的能力确实很危险,因此支持将其撤下。
- 另一些人则认为这是“通过模糊性实现安全”;强大的工具也应该广泛提供给防御者,否则禁用它们反而会损害安全。
对用户、业务与公众认知的影响
- 用户抱怨 Fable 被突然移除、未来可能出现公民身份/身份证检查,以及 Anthropic 收了钱却停止提供旗舰产品。
- 有些人怀疑这是算力/成本限制以及 IPO 布局所致;另一些人则认为这项出口管制虽然有害,但也起到了一个“徽章”作用,表明这个模型确实异常强大。
- 还有几个人指出,Anthropic 的公众形象在很短时间内从“道德英雄”变成了“被过度吹捧、昂贵且政治上笨拙”的存在。