DeepSeek prohibido para agencias civiles federales de EE. UU. bajo nueva orden del DHS

Artículo original ↗ Discusión en Hacker News ↗

Seguridad Nacional de EE. UU. ha ordenado a las agencias civiles federales retirar y dejar de adquirir productos de IA basados en los modelos de la empresa china DeepSeek, citando riesgos de acceso por parte del Estado chino, exfiltración de datos y posibles puertas traseras incluso cuando los modelos se autoalojan. Los comentaristas se dividen entre quienes ven esto como una precaución razonable de seguridad nacional dada la conducta opaca de los LLM y las tensiones China–EE. UU., y quienes lo consideran proteccionismo y captura regulatoria destinados a proteger a los proveedores de IA estadounidenses frente a un competidor de weights abiertas más barato y muy capaz. La medida plantea preguntas más amplias sobre cuánto debería confiar cualquier gobierno en modelos de IA extranjeros, si los “weights abiertas” mejoran de forma significativa la seguridad y cómo tales prohibiciones moldearán la futura disponibilidad y el precio de los modelos abiertos.

Alcance y significado de la prohibición del DHS

  • La orden apunta a las agencias civiles federales de EE. UU., exigiéndoles que:
    • Excluyan a DeepSeek y a las entidades afiliadas de las adquisiciones.
    • Retiren los productos de DeepSeek y los “productos y servicios de terceros desarrollados usando implementaciones de DeepSeek” de los sistemas de TI.
  • Ambigüedad importante: qué cuenta como una “implementación de DeepSeek”.
    • Una lectura: cualquier instancia de los modelos de DeepSeek, incluidas las weights abiertas autoalojadas.
    • Otra lectura: solo productos/servicios que usan directamente la infraestructura o las ofertas comerciales proporcionadas por DeepSeek.
  • Varios comentaristas señalan que el texto y las notas al pie son lo bastante vagos como para asustar a los contratistas y alejarlos por completo de DeepSeek, y potencialmente permitir una aplicación selectiva.

Preocupaciones de seguridad y puertas traseras

  • Justificación declarada por el DHS: la ley de la RPC permite al Estado acceder a la infraestructura de la empresa; DeepSeek recopila PII, puede identificar huellas de usuarios, y los servidores en China permiten la exfiltración de datos y la recopilación de inteligencia.
  • La orden también afirma que los modelos en sí “pueden contener malware o vulnerabilidades”, citando investigaciones previas sobre la aplicación móvil de DeepSeek.
  • Referencias del hilo:
    • Trabajos que muestran que los modelos pueden ser comprometidos con puertas traseras o incorporar capacidades ocultas en los weights.
    • Demostraciones de frases desencadenantes que provocan llamadas maliciosas a herramientas o código inseguro.
    • Informes de que DeepSeek produjo código más inseguro bajo ciertos contextos políticos (discutido como sabotaje o como un artefacto de una “alineación”/censura excesivamente dura).
  • Muchos sostienen que los weights abiertos son como binarios opacos: se pueden descargar, pero en la práctica no son auditables; no puedes detectar de forma fiable puertas traseras a partir de números en bruto.

Comparación con modelos de EE. UU. y geopolítica

  • Algunos dicen que la misma lógica podría justificar que otros países prohíban modelos de EE. UU. (analogías con la CLOUD Act, capacidades de vigilancia).
  • Un bando: esto es una prudente estrategia de Estado—no dejes que la IA opaca de un adversario entre en los sistemas del gobierno.
  • Otro bando: esto es en gran medida proteccionismo/captura regulatoria para proteger a los laboratorios fronterizos de EE. UU., cuyos APIs cerrados corren riesgo frente a modelos chinos más baratos y potentes de weights abiertas.

Weights abiertas, confianza e impacto en el ecosistema

  • Hay un fuerte desacuerdo sobre si los weights abiertos son más seguros:
    • A favor: el autoalojamiento evita la recolección de datos por parte de un país extranjero; controlas el entorno y la red.
    • En contra: el proceso de entrenamiento es opaco, los comportamientos ocultos pueden persistir, y abierto versus cerrado marca poca diferencia frente a puertas traseras profundas.
  • Preocupa que prohibir modelos chinos de weights abiertas para uso federal enfríe en general las publicaciones de weights abiertas y empuje a las agencias hacia APIs propietarias nacionales.

Efectos prácticos y derivados

  • Preguntas sobre:
    • Si servicios como OpenRouter, que actúan como proxy de DeepSeek, ya no son utilizables para trabajo federal.
    • Si el código o las bibliotecas escritas con DeepSeek cuentan como “desarrollados usando” DeepSeek (ampliamente visto como inaplicable, pero disuasorio).
  • Algunos señalan que otros gobiernos (por ejemplo, Australia) ya han prohibido DeepSeek, y esperan más prohibiciones de otros modelos chinos (Qwen, GLM, etc.) a medida que crezcan.