Clef：开放权重决策模型，以及新的 RL 微调平台

原文 ↗ Hacker News 讨论 ↗

Cloudflare 新推出的 Clef“决策模型”——一个基于 Qwen 的开放权重分类器，能对结构化选项和图像进行打分——引发了人们将其与 Typesafe 的 Jev 以及一波 Jev 风格克隆产品进行比较。评论者指出，用 LLM 或更小模型作为快速、结构化分类器的底层思路并不新，也相对容易复现，因此差异化将取决于延迟、准确率、校准、成本和开放程度。虽然一些早期测试发现，在真实工作负载下 Clef 比 Jev 更慢或效果更差，但许多人认为，专门化的决策模型是把常规分类和审核任务从大型通用 LLM 中卸载出来的一种有用方式。

什么是“决策模型”，以及为什么会突然出现这么多

  • 评论者将决策模型描述为建立在 transformer 上的分类器：将输出约束为若干选项，通常通过单 token 解码加上 logprobs 来实现。
  • 其底层思路（通用分类器、结构化解码）早于 Jev；Jev 主要是把它普及并产品化了。
  • 由于它们可以建立在现有的开源 LLM（如 Qwen、Gemma）之上，并只需轻量后训练，许多团队在几周内就能做出类似 Jev 的模型。

构建容易，但难点在哪里

  • 从架构上看，只要有 LLM 基础设施，做起来被认为并不难：替换或微调几层，强制结构化输出即可。
  • 来自更强 LLM 的合成数据让训练更容易。
  • 真正困难的是高质量、校准良好的训练数据和评估。概率校准做得好被认为并不简单，而且至今仍有争论。

Clef vs Jev：性能、定价、能力

  • Clef 被描述为基于 Qwen 的决策模型；Clef-flash 使用更小的 Qwen 变体，两者都支持图像。
  • 权重是开放的，但数据和完整训练流水线不是；有人因此认为这不算完全开源。
  • 定价：据称 Clef 约为每百万输入 token 0.24 美元（Clef-flash 约 0.09 美元），而 Jev 约为 0.042 美元/百万。几位用户的微基准测试显示，在他们的工作负载下，Clef 比 Jev 慢 2–10 倍，有时准确率也相近或更差。
  • 也有人指出，Cloudflare 自己的基准测试显示 Clef 的准确率优于 Jev，但延迟比较可能掩盖了速度如何随上下文长度变化。

用例、价值与局限

  • 被报告或设想的用途包括：垃圾邮件和钓鱼检测、注册筛选、WAF 决策、内容与用户名审核、支持工单路由、代理工具选择、shell 命令审批、合规工作流、搜索排序。
  • 一些人认为 Jev 的吸引力在于“智能 + 决策形态”；许多克隆版本看起来只是对小型 LLM 或传统分类器的浅层封装。
  • 有人怀疑，在没有先验或微调的情况下，零样本模型对领域特定决策是否有用；也有人希望有办法注入先验或 RL 风格的反馈循环。

开放权重、本地模型与生态

  • 文中提到了多个小型或本地替代方案（CPU 规模模型、60M 参数的设备端分类器、“面向决策模型的 Ollama”）。
  • 权衡是：本地模型更私密、延迟更低，但世界知识较少；大型托管模型更聪明，但成本更高、速度更慢。

更广泛的反思与担忧

  • 许多人认为“决策模型”大体上只是对判别式模型的重新包装，不过使用体验和营销更好了。
  • 另一些人则认为，这个领域是 LLM 进展暴露出来的低垂果实；未来还会出现更多类似细分方向。
  • 关于确定性以及“没有人类在环”的说法受到批评，被认为过于夸张，尤其考虑到校准和分布偏移问题。