新的 DHS 命令下，DeepSeek 被美国联邦民事机构禁用

原文 ↗ Hacker News 讨论 ↗

美国国土安全部已命令联邦民事机构移除并停止采购基于中国公司 DeepSeek 模型的 AI 产品，理由是担心中国国家访问、数据外流，以及即便模型自托管也可能存在后门。评论者对此看法分裂：一方认为在不透明的大语言模型行为以及中美紧张关系下，这是合理的国家安全预防措施；另一方则认为这是保护主义和监管俘获，目的是保护美国 AI 厂商免受更便宜、能力很强的开放权重竞争者冲击。此次行动也引发了更广泛的问题：任何政府应在多大程度上信任外国 AI 模型，“开放权重”是否真的能提升安全性，以及此类禁令将如何影响开放模型的未来可用性与定价。

DHS 禁令的范围与含义

  • 该命令针对美国联邦民事机构，要求它们：
    • 在采购中排除 DeepSeek 及其关联实体。
    • 将 DeepSeek 产品以及“使用 DeepSeek 实现开发的第三方产品和服务”从 IT 系统中移除。
  • 主要歧义在于：“DeepSeek 实现”究竟算什么。
    • 一种解读：任何 DeepSeek 模型的实例，包括自托管的开放权重。
    • 另一种解读：仅指直接使用 DeepSeek 提供的基础设施或商业服务的产品/服务。
  • 几位评论者指出，正文和脚注的措辞模糊到足以让承包商完全避开 DeepSeek，也可能为选择性执法留下空间。

安全与后门担忧

  • DHS 给出的理由是：PRC 法律允许国家访问公司基础设施；DeepSeek 会收集 PII、可对用户进行指纹识别，而位于中国的服务器会使数据外流和情报收集成为可能。
  • 该命令还声称，这些模型本身“可能包含恶意软件或漏洞”，并引用了此前关于 DeepSeek 移动应用的研究。
  • 线程中提到的参考内容：
    • 研究显示模型可以被植入后门，或在权重中嵌入隐藏能力。
    • 有演示表明，触发短语可导致恶意工具调用或不安全代码。
    • 还有报告称，DeepSeek 在某些政治语境下生成了更多不安全代码（但这一点被争论为：要么是蓄意破坏，要么是过于强硬的“对齐”/审查造成的产物）。
  • 许多人认为，开放权重就像不透明的二进制文件：可以下载，但在实践中无法审计；你无法仅凭原始数字可靠地检测出后门。

与美国模型及地缘政治的比较

  • 有人说，同样的逻辑也可以用来证明其他国家禁止美国模型是合理的（CLOUD Act 类比、监控能力等）。
  • 一派观点：这是一种审慎的国家治理——不要把对手的不透明 AI 引入政府系统。
  • 另一派观点：这主要是保护主义和监管俘获，目的是保护美国前沿实验室，因为它们封闭 API 正面临更便宜、很强的中国开放权重模型的竞争。

开放权重、信任与生态影响

  • 对“开放权重是否更安全”存在激烈分歧：
    • 支持方：自托管可避免外国数据收集；你可以控制环境和网络。
    • 反对方：训练流程不透明，隐藏行为可能持续存在，而开放与封闭在深层后门问题上差别不大。
  • 有人担心，禁止联邦部门使用中国开放权重模型会整体抑制开放权重发布，并推动机构转向本土专有 API。

实际影响与下游后果

  • 讨论的问题包括：
    • 像 OpenRouter 这类代理 DeepSeek 的服务，是否现在也不能用于联邦工作。
    • 使用 DeepSeek 编写的代码或库是否算作“使用其开发”而受到限制（普遍认为难以执行，但会产生寒蝉效应）。
  • 一些人指出，其他政府（例如澳大利亚）已经禁止 DeepSeek，并预计随着 Qwen、GLM 等其他中国模型发展壮大，还会有更多禁令出现。