DeepSeek banida de agências civis federais dos EUA sob nova ordem do DHS
O Departamento de Segurança Interna dos EUA ordenou que agências civis federais removam e deixem de adquirir produtos de IA baseados nos modelos da empresa chinesa DeepSeek, citando riscos de acesso do Estado chinês, exfiltração de dados e possíveis backdoors mesmo quando os modelos são auto-hospedados. Os comentadores estão divididos entre ver isso como uma precaução razoável de segurança nacional, dada a opacidade do comportamento de LLMs e as tensões China-EUA, e vê-lo como protecionismo e captura regulatória destinados a proteger fornecedores de IA dos EUA de um concorrente de pesos abertos mais barato e altamente capaz. A medida levanta questões mais amplas sobre o quanto qualquer governo deve confiar em modelos de IA estrangeiros, se “pesos abertos” realmente melhoram a segurança e como tais proibições moldarão a futura disponibilidade e os preços de modelos abertos.
Escopo e Significado da Proibição do DHS
- A ordem tem como alvo as agências civis federais dos EUA, exigindo que elas:
- Excluam a DeepSeek e entidades afiliadas de aquisições.
- Removam produtos da DeepSeek e “produtos e serviços de terceiros desenvolvidos usando implementações da DeepSeek” dos sistemas de TI.
- Grande ambiguidade: o que conta como uma “implementação da DeepSeek”.
- Uma interpretação: qualquer instância de modelos da DeepSeek, incluindo pesos abertos auto-hospedados.
- Outra interpretação: apenas produtos/serviços que usam diretamente infraestrutura fornecida pela DeepSeek ou ofertas comerciais.
- Vários comentadores observam que o texto e as notas de rodapé são vagos o suficiente para afastar contratantes da DeepSeek por completo e, potencialmente, permitir aplicação seletiva.
Preocupações com Segurança e Backdoor
- Justificativa declarada pelo DHS: a lei da RPC permite acesso estatal à infraestrutura das empresas; a DeepSeek coleta PII, pode identificar usuários por fingerprinting, e servidores na China permitem exfiltração de dados e coleta de inteligência.
- A ordem também afirma que os modelos “podem conter malware ou vulnerabilidades”, citando pesquisas anteriores sobre o aplicativo móvel da DeepSeek.
- O fio cita:
- Trabalhos que mostram que modelos podem ser backdoorados ou incorporar capacidades ocultas nos pesos.
- Demonstrações de frases gatilho causando chamadas maliciosas de ferramentas ou código inseguro.
- Relatos de que a DeepSeek produziu código mais inseguro sob certos contextos políticos (contestados como sabotagem ou como artefato de “alinhamento”/censura excessivamente rígidos).
- Muitos argumentam que pesos abertos são como binários opacos: podem ser baixados, mas não auditados na prática; não é possível detectar backdoors de forma confiável a partir de números brutos.
Comparação com Modelos dos EUA e Geopolítica
- Alguns dizem que a mesma lógica poderia justificar outros países banindo modelos dos EUA (analogias com o CLOUD Act, capacidades de vigilância).
- Uma corrente: isso é uma estratégia prudente de Estado — não deixar a IA opaca de um adversário entrar em sistemas governamentais.
- Outra corrente: trata-se em grande parte de protecionismo/captura regulatória para proteger laboratórios de fronteira dos EUA, cujas APIs fechadas estão ameaçadas por modelos chineses de pesos abertos, mais baratos e fortes.
Pesos Abertos, Confiança e Impacto no Ecossistema
- Há forte desacordo sobre se pesos abertos são mais seguros:
- A favor: auto-hospedagem evita coleta de dados por entidades estrangeiras; você controla o ambiente e a rede.
- Contra: o pipeline de treinamento é opaco, comportamentos ocultos podem persistir, e aberto vs. fechado faz pouca diferença para backdoors profundos.
- Preocupação de que banir modelos chineses de pesos abertos do uso federal vá desestimular lançamentos de pesos abertos em geral e empurre as agências para APIs proprietárias domésticas.
Efeitos Práticos e a Jusante
- Dúvidas sobre:
- Se serviços como o OpenRouter, que fazem proxy da DeepSeek, agora são inutilizáveis para trabalho federal.
- Se código ou bibliotecas escritos com a DeepSeek contam como “desenvolvidos usando” ela (amplamente visto como inexequível, mas gerador de efeito inibidor).
- Alguns observam que outros governos (por exemplo, a Austrália) já baniram a DeepSeek, e esperam mais proibições de outros modelos chineses (Qwen, GLM etc.) à medida que cresçam.