Estimativas classificadas mostram que a NSA está pagando bilhões para testar modelos de IA
Relatos de que a NSA está gastando bilhões para “testar” modelos de IA de ponta geram especulação de que agências de inteligência dos EUA já estão usando grandes modelos de linguagem para vigilância em massa, hacking e operações de influência. Comentadores debatem os limites legais e constitucionais da atividade da NSA, lembrando a vigilância sem mandado do passado e decisões da corte da FISA, e temem que a IA elimine gargalos humanos que antes continham o poder do Estado. Outros focam em como governos poderiam facilmente obter ou coagir acesso a modelos proprietários, no papel de orçamentos negros e gastos de defesa em inflar a indústria da IA e no risco mais amplo de sistemas de IA serem integrados a alvos militares e controle doméstico.
Escopo geral do uso de IA pela NSA
- Muitos veem “testar” como um eufemismo; assume-se que modelos grandes estão sendo usados para:
- Hacking ofensivo e penetração.
- Engenharia social e possível interferência em eleições, בעיקרariamente no exterior.
- Monitoramento e triagem de comunicações em larga escala, especialmente em idiomas estrangeiros.
- Outros argumentam que a NSA בעיקרamente reúne inteligência de sinais, enquanto agências como a CIA lidam com interferência política ostensiva e operações encobertas.
- Alguns esperam que a IA seja usada para vasculhar dados de vigilância em massa para sinalizar pessoas “perigosas” e selecionar material embaraçoso como forma de alavancagem.
Doméstico vs. estrangeiro e limites legais
- Há discordância sobre o mandato da NSA:
- Uma visão: a NSA é voltada para fora; a mira doméstica é apenas incidental e compartilhada com a aplicação da lei mediante mandado.
- Visão contrária: programas da era Snowden mostram que limites legais são rotineiramente contornados ou ignorados; “estrangeiro vs. doméstico” é visto como um formalismo.
- Vários posts argumentam que a 4ª Emenda e a supervisão da FISA foram esvaziadas por doutrinas e exceções; a regulação de IA é vista como improvável de restringir a NSA na prática.
Acesso aos modelos, infraestrutura e custo
- Foi levantada a questão: por que pagar bilhões em vez de simplesmente roubar os pesos do modelo?
- As respostas incluem possíveis restrições de GPU/infraestrutura, o custo de duplicar configurações em escala hyperscale e aquisição de hardware no mercado cinza ou de forma clandestina.
- Alguns afirmam que qualquer agência séria de inteligência pode exfiltrar modelos sem censura ou compelir acesso, independentemente da política da empresa.
- Outros rebatem que a expropriação ostensiva de propriedade intelectual por parte do Estado assustaria os mercados, prejudicaria a economia mais ampla e, assim, limitaria os “homens com armas”.
Militarização e “segurança de IA”
- Há preocupação de que a IA vá cada vez mais:
- Impulsionar ataques cibernéticos contra sistemas vulneráveis de telecomunicações e industriais.
- Automatizar a seleção de alvos e a “kill chain”, citando recentes ataques e ferramentas de seleção de alvos assistidos por IA em outros conflitos.
- Ceticismo de que o “teste de segurança” governamental seja realmente sobre mitigação de risco; visto, em vez disso, como desenvolvimento de capacidade subsidiado pelos contribuintes, impulsionado mais por fornecedores do que por demanda pública.
Política, dinheiro e ética
- Alguns veem esses contratos como parte de um uso mais amplo do dinheiro dos contribuintes para inflar a bolha da IA e aumentar a alavancagem do Estado sobre empresas de tecnologia.
- Preocupações éticas de que cada dólar de imposto financia incrementalmente vigilância e repressão.
- Debate sobre se trabalhar para tais agências implica intenção maligna, ou se muitos funcionários são pessoas bem-intencionadas inseridas em um sistema estruturalmente problemático.