企业美国越来越迷上开源 AI

企业用户正越来越多地尝试开源权重 AI 模型,把它们作为比 OpenAI 和 Anthropic 这类公司的闭源服务更便宜、可控性更强的替代方案。评论者认为,对于许多企业工作负载——转录、总结、例行编码和办公任务——“足够好”的开源模型,尤其是自建部署或通过第三方运行的模型,已经在成本、隐私、正常运行时间和供应商风险方面优于高价 API,尽管前沿模型在最顶端场景仍然更强。这一转变既被视为经济选择,也是战略选择:它削弱了专有 LLM 的长期护城河,并推动市场走向商品化模型、专门微调,以及本地或混合部署。

开放模型与前沿模型能力

  • 对于前沿闭源模型是否仍然是“真正”编码所必需,存在很大分歧。
  • 有人说,只有最近的前沿模型才能可靠地处理大型功能和复杂系统;也有人表示,开源权重模型(例如最近的 Qwen/GLM/Kimi 代)在许多编码任务上已经能与中档专有模型相当,甚至更好,尤其是在 CRUD 和典型企业工作中。
  • 还有人指出,对于总结、文档、TTS 和例行任务,当前开源模型已经“足够好”。

企业采用模式

  • 多位评论者称,大公司正在把大量 token 支出转向开源权重模型(有人声称内部占比超过 90%),并且常配有路由层,根据任务和价格在开源与闭源模型之间选择。
  • 也有人说,除了试验之外,他们没有看到这种转变,大多数企业仍然高度依赖 OpenAI/Anthropic。
  • 有人区分高价值开发者工作负载(前沿模型可能仍然更受青睐)与大规模“白领”任务(转录、报告、客服),后者由廉价模型主导。

成本、商品化与护城河

  • 许多人认为模型正变成商品:能力在趋同,切换供应商只需改一行代码,而大多数客户不会为小幅提升支付 10 倍价格。
  • 反方观点:在硬件获取、供电、大规模基础设施、训练经验,以及很可能的未来监管方面,护城河仍然存在。
  • 有人担心,前沿实验室的大规模资本开支和长期承诺,与企业要求大幅降价的压力不相容。

自建部署、基础设施与可靠性

  • 出于隐私、正常运行时间,以及避免出口管制或政治决定的影响,人们对自建开源模型兴趣浓厚。
  • 有些团队在本地运行大量 GPU 机架,并声称回本期很有吸引力;另一些人则强调电力、硬件和运维成本是严重障碍。
  • 大型实验室 API 的可靠性(宕机、不稳定响应)是反复出现的抱怨,也推动了本地或开源模型托管。

法律、知识产权与合规担忧

  • 企业希望获得赔偿保障和清晰合同;通过主要供应商使用美国本土的开源权重模型,被视为比直接使用某些外国模型更安全。
  • 对经过许可证洗白的开源 ML 资产以及训练数据来源不清存在担忧。
  • 闭源、专有的 embedding 服务被标记为潜在的“数据人质”风险;建议使用开放 embeddings,以保持向量化数据可迁移。

安全、护栏与信任

  • 有人认为闭源模型的安全政策过于家长式,是一种破坏信任和商业可行性的审查。
  • 也有人支持对有害或种族主义内容设置强护栏,并认为企业合同可以在需要时放宽这些限制。
  • 更广泛的担忧是,AI 实验室和政府对模型会做什么、不会做什么,掌握了过多不透明的权力。

地缘政治与供应商风险

  • 关于使用中国模型还是美国模型的争论:两者都存在数据隐私、政治影响和“潜伏”行为方面的担忧。
  • 一些非美国公司已经通过投资本地/开放替代方案,来对冲美国出口禁令或政治限制。

Embeddings 与检索

  • 评论者强调,embedding 模型是隐藏的锁定层;使用开放 embeddings 可以避免在供应商改变价格或条款时被困住。
  • 有人建议,对于许多内部搜索/RAG 任务,像 grep 这样的简单工具加上良好的工程实现,就可以替代复杂的 embedding 管道。

未来展望

  • 许多人预计,随着进一步的小型化和专用硬件的发展,有能力的模型和 TTS 将作为廉价的端侧实用功能或芯片运行。
  • 一派预测,开源模型加上自建或第三方托管,将永久占据大部分企业工作负载;另一派则认为,当前对自建部署的热情只是一个暂时阶段,之后会重新集中到大型、中心化供应商那里。