Anthropic 放在 Fable 前面的分类器过于激进

Fable 分类器的范围与行为

• 许多评论者表示，Fable 的安全分类器“反应过度”，尤其是在生物学、网络安全、ML 研究、基础设施和认证方面。
• 生物学过滤范围极其宽泛：即使是关于细胞、消化、跑步时心率、室内 CO₂、尼古丁戒断、动物学冷知识、“植物”、无害鳗鱼问题以及基础医学话题的提示，也会被降级。
• 网络/安全和 ML 工具相关内容也会触发拒绝：渗透测试邮件、OWASP 审查、安全审计、SDN/认证代码、GPU/vLLM 改动、ML 管线、libtorch/OpenCL 代码，甚至是包含“bio”或“DNA”的库名或变量名。
• 一些纯数学或计算机科学理论问题也会被拦截，显然是因为模型内部把它们映射到了生物/系统发育语境（“complexity safety”）。

用户体验与使用场景

• 生物信息学、生物学、医学、神经影像和医学物理用户表示，Fable 对他们的专业工作来说实际上无法使用，有时甚至连更新简历都不行。
• 也有人表示，在大规模软件架构、调试和通用编码方面完全没有遇到拒绝，这说明要么是不同领域，要么是安全分数/历史记录不同。
• 一些人认为 Fable 在数学、研究级审查、生活建议和“最终把关”检查方面非常出色；在被允许运行时，它明显优于 Opus 4.8。
• 还有几人提到 token 和时间消耗严重；单个提示就可能耗尽每日或每小时限制，却没有带来相应价值。

降级、账户“监狱”与 Opus

• 当被触发时，Fable 会透明地降级到带有可见横幅的 Opus 4.8；有些人担心也可能存在静默降级（从线程中无法确认）。
• 少数人猜测，反复尝试“净化”提示词可能会让账户进入更敏感的“监狱”状态，从而让分类器更容易触发。
• 体验差异很大：对一些人来说，只有大约 15% 的任务会触发过滤；而对另一些人，80%–90% 的代码审查或 ML 相关提示都会触发。

动机、对齐与权力不对称

• 提出的原因包括美国政府压力/出口管制、过度谨慎的“长期主义”安全文化，以及对生物恐怖主义的担忧；也有人认为这只是“安全表演”和由公关驱动的末日叙事。
• 有些人认为 Fable 是一个护栏试验场，之后会给其他模型套用；也有人猜测存在受限的高能力版本，供制药公司或“可信伙伴”使用。
• 更广泛的讨论：在不一致的人类道德下实现对齐的困难；以及枪支/国家机密的类比——普通公民拿到的是被“削弱”的工具，而国家保留完整能力。
• 担忧未来的 SOTA 模型会被政府和少数公司严格控制，从而加剧权力不对称；反方则认为利润动机和竞争模型（包括外国模型和开源模型）会对其形成限制。

隐私、保留与商业风险

• 被强调的政策：被标记会话的内容最长可保留 2 年，安全评分最长可保留 7 年；因此，分类器的误报会扩大长期数据保留范围。
• 即使正常训练退出适用，被标记数据也可能用于训练安全系统，这让从事“敏感但合法”工作的人感到担忧。
• 有些人得出的结论是：依赖专有、集中控制的 AI 是有风险的，因为能力和访问权限可能突然改变；也有人回应说，目前所有顶级模型都是专有的，不过强大的开源替代方案现在已经存在。