El Pentágono dice que la excesiva dependencia de la IA contribuyó al ataque con misil contra una escuela en Irán
Una investigación interna del Pentágono sobre un ataque con misil estadounidense que destruyó una escuela de niñas en Irán —matando a más de 100 niños— ha atribuido el incidente en parte a una “dependencia excesiva de la IA” en el proceso de selección de objetivos. Los comentaristas sostienen que la inteligencia artificial está siendo usada como chivo expiatorio de fallos humanos, y señalan en cambio inteligencia desactualizada, equipos de protección de civiles desmantelados, presión política para ataques masivos rápidos y un patrón más amplio de impunidad por las acciones militares de EE. UU. La conversación se amplía hacia las preocupaciones sobre la guerra asistida por IA y el “lavado de decisiones”, en el que sistemas opacos como las herramientas de Palantir trasladan la responsabilidad de vida o muerte lejos de los humanos responsables, planteando cuestiones éticas tanto para los responsables políticos como para los tecnólogos que construyen estos sistemas.
Papel de la IA frente a la responsabilidad humana
- Muchos sostienen que la IA no “mató” a nadie; lo hicieron los responsables de la toma de decisiones en EE. UU. La IA se ve como una herramienta dentro de una cadena de mando humana.
- Otros señalan que los humanos delegaron la autoridad real de decisión en la IA, lo cual en sí mismo es un fracaso grave, ya que a la IA no se le puede juzgar ni castigar.
- Varios consideran que “dependencia excesiva de la IA” es una descripción acertada pero incompleta: el problema central es que los líderes eligieron confiar en ella y desplegarla de ese modo.
Fallo de objetivo, datos y proceso
- Los comentaristas subrayan datos de objetivo desactualizados: el lugar seguía etiquetado como una instalación de la IRGC pese a llevar años funcionando como escuela.
- Según se informó, la inteligencia sobre el cambio quedó registrada en un sistema distinto y no conectado, por lo que Maven nunca la “vio”.
- Los equipos de protección de civiles y las unidades de revisión de objetivos fueron recortados drásticamente o reducidos a una presencia simbólica; algunos dicen que la célula de revisión que debería haber detectado esto fue, en la práctica, eliminada.
- Otros insisten en que imágenes satelitales o aéreas sencillas mostraban claramente una escuela y un patio de juegos, lo que sugiere que incluso comprobaciones humanas superficiales podrían haber evitado el ataque.
Responsabilidad, legalidad y crímenes de guerra
- Existe un fuerte consenso en que ningún alto funcionario afrontará consecuencias penales; como mucho habrá “revisiones de proceso” o chivos expiatorios.
- Algunos enmarcan el ataque y el seguimiento de “doble toque” como crímenes de guerra comparables a atrocidades históricas; otros lo ven como homicidio por negligencia bajo presión política ilícita.
- Se debate la responsabilidad de Irán por colocar una escuela sobre o cerca de un complejo militar; los críticos responden que estas coubicaciones son comunes (incluidos los EE. UU.) y que la escuela estaba claramente separada desde hacía una década.
La IA como “sumidero de responsabilidad”
- Tema recurrente: la IA permite “lavar” decisiones —culpar a un sistema para evitar la responsabilidad humana o institucional—.
- Los comentaristas conectan este patrón con otros usos de la IA (denegaciones sanitarias, policía, vigilancia), argumentando que la falta de rendición de cuentas es una característica, no un error, para los actores poderosos.
- Preocupa que los tribunales, la regulación y el derecho internacional vayan muy por detrás, lo que dificulta perseguir los daños mediados por IA.
Cultura militar, doctrina y escala
- Varios critican una cultura de “letalidad máxima”, la presión por grandes cuotas de objetivos (por ejemplo, 1.000 ataques el primer día) y ciclos de selección de objetivos centralizados, lentos o meramente performativos.
- Algunos sostienen que el verdadero impacto de la IA es permitir campañas perezosas, apresuradas o impulsadas políticamente a una escala mucho mayor, no una precisión bruta.
Ética del trabajo en tecnología y defensa
- Hay un debate importante sobre la responsabilidad moral de Palantir y sus ingenieros:
- Un bando: construir y operar software de cadena de ataque te hace cómplice.
- El otro bando: la culpa recae sobre todo en los gobiernos que exigen esas herramientas; si Palantir no existiera, otros construirían sistemas similares.