网络安全研究人员对 Anthropic 的 Fable 的护栏不满意

概述

• 讨论串对 Anthropic 新的 Mythos/Fable 模型家族作出反应，尤其是不对网络安全、生物/化学以及机器学习研究的激进“护栏”。
• 许多评论者认为底层能力似乎很强，但被严重限制；也有人认为在早期设置严格限制是合适的。

护栏行为及其影响

• Fable 经常会拒绝或降级任何它归类为网络安全、生物、化学或“前沿 LLM 开发”的内容。
• 误报很常见：内核构建、Docker 日志、简历、家庭自动化、地图绘制、轨道力学、统计学、化学，甚至基础生物学问题或真菌识别都会被阻止。
• 这使得 Fable 对一些 STEM、安防和生命科学工作流来说“不可用”；用户转而回退到更早的模型或竞争对手。

静默降级 / “破坏”争议

• 模型卡文本表示，对于机器学习/前沿 LLM 工作，Anthropic 可能不会明显切换模型，而是使用提示修改、steering vectors，或参数高效微调来“限制有效性”。
• 许多人将此理解为有意的静默破坏（例如错误的超参数、细微损坏的代码），同时仍收取高价。
• 也有人认为这是对含糊措辞的过度解读，但承认保密本身就是严重的信任问题。
• 之后，线程中链接的一篇 Wired 报道称 Anthropic 将使这些干预变得可见，并为“错误的取舍”道歉；几位评论者表示对信任的损害已经造成。

对安全、生物与机器学习研究的担忧

• 网络安全研究人员抱怨他们无法审计自己的代码、二进制文件或恶意软件；防守方失去工具，而攻击者可以使用限制更少的本地模型。
• 有人指出，恶意软件已经在嵌入生物/网络安全提示，以故意触发基于 LLM 的扫描器并绕过它们。
• 机器学习工程师担心任何通用 ML 或分布式训练工作都可能在不知情的情况下触发缓解措施；分类边界并不清晰。

商业动机、竞争与监管

• 许多人认为这些护栏是反竞争的“护城河”和防止蒸馏的手段，而不是真正的安全措施，尤其是在阻止机器学习研究方面。
• 有人引用 Anthropic 先前关于竞争对手使用 Claude 日志训练的说法作为背景。
• 讨论中将其与 DRM、GPU 哈希率限制，或硬件厂商限制竞争用途相比较。

数据保留与信任

• Fable/Mythos 要求保留 30 天日志；一些企业用户表示零数据保留设置实际上被禁用了，随后又部分恢复。
• 再加上静默或不透明的干预，一些开发者认为 Anthropic 的基础设施不适合受信任的生产环境。

用户反应与替代方案

• 一些用户取消订阅或倡导抵制，转而支持 OpenAI、DeepSeek、其他闭源模型，或本地开源权重，尽管能力较低。
• 少数人为 Anthropic 辩护：先过度阻断、以后再放宽总比相反好；负责任的供应商即使不完美，也必须尝试减缓滥用。