Las estimaciones clasificadas muestran que la NSA está pagando miles de millones para probar modelos de IA
Los informes de que la NSA está gastando miles de millones para “probar” modelos de IA de vanguardia provocan especulación sobre si las agencias de inteligencia de EE. UU. ya están usando modelos de lenguaje grandes para vigilancia masiva, hacking y operaciones de influencia. Los comentaristas debaten los límites legales y constitucionales de la actividad de la NSA, recordando la vigilancia sin orden judicial y las resoluciones del tribunal de la FISA, y temen que la IA elimine los cuellos de botella humanos que antes limitaban el poder estatal. Otros se centran en lo fácilmente que los gobiernos podrían obtener o coaccionar el acceso a modelos propietarios, el papel de los presupuestos opacos y el gasto en defensa en la inflación de la industria de la IA, y el riesgo más amplio de que los sistemas de IA se integren en la selección militar de objetivos y el control interno.
Alcance general del uso de IA por parte de la NSA
- Muchos ven “pruebas” como un eufemismo; asumen que se están usando grandes modelos para:
- Hacking ofensivo y penetración.
- Ingeniería social y posible interferencia electoral, sobre todo en el extranjero.
- Supervisión y triaje de comunicaciones a gran escala, especialmente en idiomas extranjeros.
- Otros sostienen que la NSA principalmente recopila inteligencia de señales, mientras que agencias como la CIA se encargan de la injerencia política abierta y las operaciones encubiertas.
- Algunos esperan que la IA se use para analizar datos de vigilancia masiva con el fin de señalar a personas “peligrosas” y seleccionar material embarazoso para obtener influencia.
Doméstico vs. extranjero y límites legales
- Hay desacuerdo sobre el mandato de la NSA:
- Una visión: la NSA está orientada al exterior; la vigilancia doméstica es solo incidental y se comparte con las fuerzas del orden bajo orden judicial.
- Visión contraria: los programas de la era Snowden muestran que los límites legales se doblan o se ignoran habitualmente; “extranjero vs. doméstico” se ve como un formalismo.
- Varios mensajes sostienen que la Cuarta Enmienda y la supervisión de la FISA han sido vaciadas por doctrinas y excepciones; se ve poco probable que la regulación de la IA limite a la NSA en la práctica.
Acceso a modelos, infraestructura y coste
- Se plantea la pregunta: ¿por qué pagar miles de millones en vez de simplemente robar los pesos del modelo?
- Las respuestas incluyen posibles restricciones de GPU/infraestructura, el coste de duplicar configuraciones a hiperescalaa, y la adquisición encubierta o en el mercado gris de hardware.
- Algunos afirman que cualquier agencia de inteligencia seria puede exfiltrar modelos sin censura o forzar el acceso, independientemente de la política de la empresa.
- Otros replican que la expropiación abierta de propiedad intelectual por parte del Estado asustaría a los mercados, dañaría la economía en general y, por tanto, frenaría a los “hombres con armas”.
Militarización y “seguridad de la IA”
- Preocupa que la IA cada vez más:
- Impulse ciberataques contra sistemas vulnerables de telecomunicaciones e industriales.
- Automatice la selección de objetivos y la “cadena de destrucción”, citando recientes ataques asistidos por IA y herramientas de selección de objetivos en otros conflictos.
- Escepticismo sobre que las “pruebas de seguridad” gubernamentales busquen una mitigación genuina del riesgo; se ven más bien como desarrollo de capacidades subvencionado por los contribuyentes, impulsado más por proveedores que por la demanda pública.
Política, dinero y ética
- Algunos ven estos contratos como parte de un uso más amplio del dinero de los contribuyentes para inflar la burbuja de la IA y aumentar la influencia del Estado sobre las empresas tecnológicas.
- Preocupaciones éticas de que cada dólar de impuestos financia incrementalmente la vigilancia y la represión.
- Debate sobre si trabajar para tales agencias implica una intención maligna, o si muchos empleados son personas bienintencionadas insertadas en un sistema estructuralmente problemático.