Inkling：我们的开放权重模型

原文 ↗ Hacker News 讨论 ↗

一家美国 AI 实验室发布了 Inkling，这是一款大型开放权重多模态模型，定位为可定制的中国领先模型（如 GLM 5.2、DeepSeek 和 Kimi）的替代品。评论者认为这是一次强有力的首次亮相——尤其是在指令遵循以及音频/视觉方面——尽管它在许多基准上仍落后于顶级前沿模型和中文开源模型。争论的核心在于：开放权重实验室是否能依靠微调和托管建立可持续业务，在廉价模型切换的世界里“护城河”到底有多少，以及在地缘政治和监管压力不断上升的背景下，本土可控的开放模型具有多大的战略重要性。

模型能力与基准测试

  • Inkling 是一个开放权重、支持多模态、长上下文的 MoE 模型；另外还有一个更小的 276B 总参数 / 12B 激活变体正在测试中。
  • 基准测试显示，它低于 GLM‑5.2 和 Kimi K2.7 等顶级中文开源模型，也低于前沿闭源模型（GPT‑5.x、Fable 等）。
  • 有人认为，首发版本就能与 GLM‑5.2 “接近”已经很令人印象深刻，也说明训练壁垒正在缩小；也有人指出，它在某个公开榜单上首发大约排在 #41，因而质疑相关热度。
  • 多位评论者强调，基准测试并不能完全反映真实世界的实用性；一些早期私有评测报告称，该模型在某些小众任务上的表现显著优于其公开分数。

多模态、上下文与行为表现

  • 主要吸引力：带视觉和音频能力的开放权重模型，长上下文（纸面上最高可达约 100 万 tokens）。
  • 关于长上下文实用性存在争论：有人认为在约 150–200k tokens 之后性能会崩塌；也有人声称某些模型（以及某些任务）在远超这个范围时仍然受益，强调需要按任务做评测。
  • 多位用户称赞 Inkling 的指令遵循、语气和更“像人”的对话风格；其编程能力则被认为弱于领先的代码专用模型。

开放权重定位与商业模式

  • Thinking Machines 被视为少数几家激励机制与发布强开放权重模型相一致的美国实验室之一，这与其微调和托管产品（Tinker）有关。
  • 提出的收入模式：
    • 为其自有开放模型提供托管/推理服务。
    • 提供托管式微调（SFT/RL）并为定制模型提供服务。
    • 作为希望获得领域专用、比前沿模型更便宜模型的企业的“基础设施”。
  • 许多人质疑其护城河：如果权重是开放的，任何人（包括超大规模云厂商）都可以托管它们；有人因此得出结论，实际上并不存在持久护城河，当前投入更多是在争取心智份额和国内能力，而非立即盈利。

美国 vs 中国开源模型与地缘政治

  • 讨论广泛涉及需要“本土”的开放权重替代方案来替代中国模型（DeepSeek、GLM、Kimi、Z.ai），无论在美国还是其他地区，以防监管封锁或审查。
  • 有人认为中国模型受到强烈的国家约束（例如天安门相关查询），也有人反驳说，美国/EU 模型同样存在政治偏见和内容限制。
  • 金融、政府以及类似行业对于依赖中国来源模型存在担忧，无论其技术质量如何。

社区反响

  • 许多人很兴奋：首发表现强劲、美国开放权重、多模态，并且与微调栈紧密集成。
  • 怀疑者则指出：整体上还不是 SOTA，与便宜的前沿 API 相比成本/性能不清晰，而且缺少成本图表。
  • 总体共识：欢迎竞争，首发有希望，但真实价值将取决于微调工作流、定价，以及迭代速度。