DaisyRose-27B
一款名为 DaisyRose-27B 的新开放权重模型——它是 Qwen 3.8 27B 的重度后训练变体——因其强劲的基准成绩以及相当可观的训练规模(144 张 H200 GPU、持续 18 天)而受到关注,但一些用户质疑这些提升究竟反映了真实能力,还是针对特定评测的“benchmaxxing”。评论者深入讨论了硬件成本估算、量化与在消费级 GPU 上的部署,以及定向的 RL 式后训练是否真的能全面提升模型而不在散文、隐喻理解或通用性等方面留下隐藏回退。该讨论串将 DaisyRose 放在第三方对开放模型进行后训练这一更广泛趋势中,同时也呈现了对评测数据依赖、数据隐私,以及当前通往 AGI 和自我改进路径之局限性的担忧。
性能与“benchmaxxing”担忧
- 一些用户用私有评测集测试 DaisyRose-27B。
- 一份报告称:DaisyRose 在一个 86 任务的“中等推理”基准上略微优于另一个基于 Qwen 3.8 的微调模型(0.898 对 0.87),但它使用了更多 VRAM、更长上下文、不同量化方式以及更多 token。
- 鉴于 DaisyRose 的优势(KV cache、上下文、量化、解码速度、硬件),一些人认为这种提升幅度很小,并将其称为“benchmaxxing”。
- 也有人指出,这篇博客展示了多个基准都有提升且没有退化,但怀疑者仍然预期在未衡量的领域会存在隐藏权衡(例如散文、隐喻理解、提示词解读)。
训练设置、拓扑与成本
- 据称训练使用了 144 张 H200 GPU,持续 18 天(约 63k GPU-hours)。
- 按当前市场做的粗略价格估算显示成本约为几十万美元中段,不过不同供应商之间差异很大。
- 关于使用更便宜的加速器(例如其他厂商的芯片)是否有帮助的讨论很有争议;一些人认为,如果存在明显更便宜且可靠的路径,它早就会被采用。
- 作者表示,他们使用了专用的 rollout 节点和 trainer 节点,并且两者之间通过 RDMA 连接。
量化、格式与消费级硬件
- 最初有人对缺少 GGUF 感到不满;社区很快分享了一个 GGUF 转换版本。
- 说明指出,该模型本身已经量化,但若要在 llama.cpp 风格的环境中使用,还需要转换为 GGUF。
- 基于 Qwen 27B 的模型因“性能超出其体量”而受到称赞,并且可以运行在较高端的消费级机器上(例如拥有足够内存的 Mac Mini / 笔记本,或配备 48GB VRAM 的 GPU)。
后训练策略与泛化
- DaisyRose 是在 Qwen 3.8 27B 之上的一次重度后训练 / RL 运行,而 Qwen 3.8 27B 本身又已经是从 3.6 后训练而来。
- 这一过程被描述为:先找出差距,再用高质量的定向数据进行训练,尤其是为了提升 Terminal Bench 4.1。
- 有人认为,聚焦式 RL 可以提升目标任务,并且对相关基准仍能带来一定程度的泛化。
- 也有人认为,重度后训练不可避免会让模型变窄,使其在编码/评测任务上更强,但在杂乱、无法基准化的语言任务上更差。
更广泛的生态与未来方向
- 讨论中将其与其他后训练开源模型(例如 Ember、Particle、Nex、Sabi-noema)进行比较,结果喜忧参半。
- 社区希望有更多强大的开放权重基础模型,不只限于 Qwen,并希望出现针对特定语言或后端任务优化的变体。
- 还有人呼吁出现一种能够整合多种后训练成果的模型,而不是许多只是“比 Qwen 稍好一点”的分叉模型。