我们发布了 Mistral Large 4 的权重

原文 ↗ Hacker News 讨论 ↗

Mistral 发布了其 1T 参数 Large 4 模型的权重，并采用一种“宽松但有限制”的许可，引发了关于“开权重”在何种情况下仍需为商业 model-as-a-service 另签协议的争论。评论者权衡了该模型在技术和经济上的取舍：极高的硬件需求，以及相较 DeepSeek 和 GLM 等中国开权重模型略显平庸的基准表现；但也有人看重其改进后的定价、较强的拒答行为，以及对受监管或重视主权的组织而言可由欧盟托管这一点。许多人认为这对欧洲 AI 来说是一个有意义、即便不是前沿领先的步骤，同时也担心真正开放、可复现的前沿模型仍然稀少。

模型发布与能力

  • Mistral Large 4（约 1T 参数，52B 激活 MoE）的权重已发布到 Hugging Face，包括量化版和 GGUF 变体。
  • 许多人认为这是一种重要的“接近前沿”的开权重选项，尤其适合基于欧盟的组织，或无法使用中国模型的组织。

硬件与自托管

  • 即使激进量化后，仍然需要巨大的 VRAM（数百 GB）；几位发帖者表示，他们庞大的多 GPU 机架也不够用。
  • 有人建议使用 MoE 卸载、NVMe 流式传输、3–5B 激活 MoE 替代方案，以及自定义基准测试流水线来评估量化/推理栈。
  • 也有人认为，经过高度量化的大模型，体验往往不如更小、非量化的模型。

定价与竞争力

  • API 定价相较最初预览版大约减半，外加单独的缓存输入价格；但一些人仍认为，与 DeepSeek、GLM、Qwen 等相比，它缺乏竞争力。
  • 基准测试存在争议：有人引用外部“智能 vs 成本”图表，显示 Mistral 落后；另一些人则不信任这些汇总分数，或指出基准测试可能被“benchmaxxed”。
  • 几个人表示，性能“还行，但不是 SOTA”，尤其是在编码方面，相比 Claude/Opus 或顶级中文开权重模型更是如此。

许可与“开权重”的含义

  • 许可允许广泛的内部和商业用途，但如果你运行“Model as a Service”（向第三方提供推理服务），则需要单独协议。
  • 关于这些条款存在大争论：
    • 一派认为“开权重”应当符合开源规范（任何用途都不需要许可），因此更应称为“权重可用”。
    • 另一派认为“开权重”只意味着权重可下载（区别于封闭 API），而且这已经比前沿实验室开放得多。
  • OSI 新的开源 AI 定义（要求开放训练代码/数据构成，并且不受限制地使用）被提到，认为这里并不符合。

法律地位、版权与可执行性

  • 有一段很长的子讨论在争论模型权重和输出是否可受版权保护；几个人声称，在欧盟中，权重和纯 AI 输出很可能不具备版权，这让执法变得棘手。
  • 其他人则反驳说数据库保护或合同法可以适用（下载/使用时你受条款约束），但许多方面仍不清楚。

欧盟主权、中国模型与信任

  • 据称，一些受美国监管或与国防相关的组织，因后门/审查担忧而全面禁止中国模型。
  • Mistral 的欧盟来源以及区域托管（需加价）被视为对数据保护和 CLOUD Act 担忧很有价值，不过有人认为管辖权问题仍然存在。

用户体验与产品选择

  • 几位用户觉得 Mistral 的门户和订阅流程令人困惑；有定价页面和“Pro”升级，但并不明显。
  • 一些人不满 Mistral 自家的聊天应用默认使用中国模型（GLM）而不是他们的最新模型，认为这对 Large 4 的信心传递出矛盾信号。