Pentágono diz que dependência excessiva de IA contribuiu para ataque com míssil a escola no Irã
Uma apuração interna do Pentágono sobre um ataque com míssil dos EUA que destruiu uma escola de meninas no Irã — matando mais de 100 crianças — atribuiu o incidente em parte à “dependência excessiva de IA” no processo de alvejamento. Comentadores argumentam que a inteligência artificial está sendo usada como bode expiatório para falhas humanas, apontando em vez disso para inteligência desatualizada, equipes de proteção de civis desmanteladas, pressão política por ataques em massa rápidos e um padrão mais amplo de impunidade para ações militares dos EUA. A discussão se amplia para preocupações sobre guerra habilitada por IA e “lavagem de decisão”, em que sistemas opacos como as ferramentas da Palantir deslocam a responsabilidade de vida e morte para longe de humanos responsáveis, levantando questões éticas tanto para formuladores de políticas quanto para os tecnólogos que constroem esses sistemas.
Papel da IA vs Responsabilidade Humana
- Muitos argumentam que a IA não “matou” ninguém; os tomadores de decisão dos EUA o fizeram. A IA é vista como uma ferramenta dentro de uma cadeia humana de comando.
- Outros observam que os humanos transferiram a autoridade real de decisão para a IA, o que por si só já é uma falha grave, já que a IA não pode ser julgada nem punida.
- Vários consideram “dependência excessiva de IA” uma descrição correta, mas incompleta: o problema central é que líderes escolheram confiar nela e implantá-la dessa forma.
Falha de Alvo, Dados e Processo
- Comentadores enfatizam dados de alvo desatualizados: o local permaneceu marcado como instalação da IRGC apesar de ser uma escola havia anos.
- A informação sobre a mudança teria sido registrada em um sistema diferente, não conectado, de modo que o Maven nunca a “viu”.
- Equipes de proteção de civis e unidades de revisão de alvos foram fortemente cortadas ou reduzidas a uma presença simbólica; alguns dizem que a célula de revisão que deveria ter identificado isso foi, na prática, removida.
- Outros insistem que imagens simples de satélite ou aéreas mostravam claramente uma escola e um playground, o que implicaria que até verificações humanas superficiais poderiam ter evitado o ataque.
Responsabilização, Legalidade e Crimes de Guerra
- Há forte consenso de que nenhum alto funcionário enfrentará consequências criminais; no máximo, “revisões de processo” ou bodes expiatórios.
- Alguns enquadram o ataque e o subsequente “double tap” como crimes de guerra comparáveis a atrocidades históricas; outros veem isso como homicídio culposo sob pressão política ilegal.
- Há debate sobre a responsabilidade do Irã por colocar uma escola em ou perto de um complexo militar; críticos rebatem que essas co-localizações são comuns (inclusive nos EUA) e que a escola estava claramente separada havia uma década.
IA como “Sumidouro de Responsabilidade”
- Tema recorrente: a IA permite “lavagem de decisão” — culpar um sistema para evitar responsabilidade humana ou institucional.
- Comentadores conectam esse padrão a outros usos de IA (negações na área da saúde, policiamento, vigilância), argumentando que a falta de responsabilização é uma característica, não um defeito, para atores poderosos.
- Preocupação de que tribunais, regulação e direito internacional estejam muito atrasados, tornando difíceis de processar os danos mediados por IA.
Cultura Militar, Doutrina e Escala
- Vários criticam uma cultura de “letalidade máxima”, a pressão por grandes cotas de alvos (por exemplo, 1.000 ataques no primeiro dia) e ciclos de alvejamento centralizados, lentos ou performáticos.
- Alguns argumentam que o verdadeiro impacto da IA é permitir campanhas preguiçosas, apressadas ou motivadas politicamente em escala muito maior, não mera precisão bruta.
Ética do Trabalho em Tecnologia e Defesa
- Há debate significativo sobre a responsabilidade moral da Palantir e de seus engenheiros:
- Um lado: construir e operar software de cadeia de extermínio o torna cúmplice.
- Outro lado: a culpa recai principalmente sobre governos que exigem essas ferramentas; se a Palantir não existisse, outros construiriam sistemas semelhantes.