Anthropic 的安全超能力

Mythos/Fable 的能力与复现

• 有人认为，Mythos 并不是在发现漏洞方面独一无二地强大；小型开源权重模型在 Anthropic 自己的示例上也能匹敌其找 bug 的表现。
• 也有人说，真正的新意在于把多个漏洞串联起来，通过专门的 harness 和后处理，形成几乎自主运作的可用 exploit，而不是原始检测能力。
• 讨论者分成两派：一派相信 Anthropic 及其合作伙伴那些非公开的说法（包括政府评估），另一派怀疑其中存在夸大或欺骗；双方都没有可验证的证据。

ITAR、停机与地缘政治

• 一种说法称，U.S. 出口管制（ITAR）被适用于 Mythos，禁止外国国民访问，并因缺乏内部国籍控制而被迫停机，违规会面临严厉法律处罚。
• 评论者将此描述为：
  • 美国带有报复性或随意性的行为，让美国的闭源模型对外国公司变得风险很高。
  • 对美国 AI 竞争力和软实力的一次重大、自我造成的打击。
• 迁移被认为大体上不可行：IP 不能合法出口，GPU 也可能被禁运，而且引渡或其他施压很可能发生。有人推测，未来实验室可能会在美国之外启动。

安全、权力与“上帝情结”担忧

• 一些评论者认为 Anthropic 的安全叙事是真诚的，但令人担忧：相信 AI 是生存性风险，并且只有他们才是真正认真的安全实验室，这种信念足以为对模型、用户和政策施加广泛控制提供正当性。
• 也有人认为这种“上帝情结”的说法言过其实，认为他们只是试图防止滥用并遵循自己声明的伦理。
• 大家普遍担心监管俘获以及领先实验室中的“公司自恋”，也担心任何单一公司成为事实上的前沿 AI 守门人。

开源与闭源模型、蒸馏与经济性

• 许多人预计开源或非美国模型会迎头赶上，尤其是通过蒸馏以及更好的小型“flash”模型，而算力和数据才是真正的瓶颈。
• 也有人认为，从专有 API 进行真正的蒸馏受到限制（没有 logits、token 成本极高），而围绕模型的 harness/系统与原始权重同样重要。
• 用户报告了实际权衡：前沿模型感觉更强，但很贵；更便宜的模型（例如“flash”变体）对许多编码和日常任务来说已经“足够好”。

模型质量、基准测试与行为

• Anthropic 的模型因在无意义提示上拒绝“胡扯”而受到称赞，一些人认为这确实是一种安全/用户体验优势。
• 也有人指出，在代码安全基准上 Anthropic 落后于顶级模型，并把它们描述为在编程任务上“更大但更笨”。
• 总体情绪是：基准测试很容易被挑选性引用，而真实世界的有用性因任务而异。

控制、滥用与工具中立性

• 一派认为，Anthropic 拒绝支持某些用途（武器、直接竞争对手、漏洞利用生成）是关于“服务对象是谁”的正当选择，类似任何服务提供商设定边界。
• 另一派认为这极其反竞争，并带有前反乌托邦色彩：会根据你如何使用而自我禁用的工具会侵蚀自主性，像是把 DRM 扩展到一切。
• 争论的核心在于边界该如何划定：
  • 如果一个 LLM 既能保护同一系统，也能攻击同一系统，那么阻止构造 exploit 有意义吗？
  • 有人主张开放一切并依赖更好的工程；也有人认为在模型具备这种能力的情况下，这种做法是不负责任的。

更广泛的技术与社会背景

• 多条评论把这件事放进了对“大科技”的更广泛反弹之中：劣化、监控、对儿童的伤害以及公众信任的流失。
• 一些人预见前沿 AI 最终会被国有化，或出现类似曼哈顿计划的政府实验室；另一些人则认为，能力强大的开源模型扩散后，完全控制已不可能。