OpenAI está trabajando ahora con el ejército de EE. UU.
La nueva colaboración de OpenAI con el Departamento de Defensa de EE. UU. en herramientas de ciberseguridad de código abierto y prevención del suicidio de veteranos se ve como un cambio brusco respecto a su promesa anterior de evitar el trabajo militar. Los comentaristas se dividen entre verlo como un uso pragmático, incluso necesario, del liderazgo estadounidense en IA y advertir sobre una pendiente resbaladiza hacia sistemas armados y autónomos, y una carrera armamentística impulsada por la IA. El debate se amplía hacia preguntas sobre la hegemonía estadounidense, la competencia entre grandes potencias y si alguna gran empresa de IA puede mantenerse realmente al margen de las aplicaciones de defensa.
Alcance de la colaboración entre OpenAI y el Pentágono
- Las herramientas que se están desarrollando para el Departamento de Defensa de EE. UU. se centran en:
- Ciberseguridad de código abierto (a través del AI Cyber Challenge de DARPA).
- Apoyo para prevenir el suicidio de veteranos, probablemente en coordinación con Veterans Affairs.
- OpenAI reitera una prohibición formal de usar su tecnología para armas, destrucción de propiedad o daño directo.
- Algunos comentaristas señalan que el artículo se actualizó para aclarar que esto está relacionado con DARPA/VA, y sostienen que el titular es engañoso.
Cambio respecto a la postura original de “no al ejército”
- Muchos ven esto como un giro brusco respecto a la prohibición explícita anterior de OpenAI sobre el uso militar.
- Algunos sostienen que esto era inevitable desde el principio una vez que entraron en juego el dinero y el poder.
- Unos pocos sugieren que la postura anterior pudo haber sido una táctica de reclutamiento/relaciones públicas para atraer talento incómodo con el trabajo de defensa.
Preocupaciones sobre la pendiente resbaladiza y los riesgos de la IA
- Hay una fuerte preocupación por la deriva incremental:
- “Herramientas defensivas” → “armas defensivas” → sistemas ofensivos.
- Se debate cómo añadir autonomía, planificación y capacidades de bucle OODA podría convertir la IA militar en un riesgo existencial.
- Otros desestiman los chatbots LLM en sí mismos como no autónomos y no una amenaza existencial inmediata.
Ética de la tecnología de defensa y la hegemonía de EE. UU.
- Las opiniones están divididas:
- Algunos celebran el liderazgo militar de EE. UU. en IA, viéndolo como necesario en la competencia entre grandes potencias y preferible a sus rivales.
- Otros temen una carrera armamentística, riesgos de escalada y efectos contraproducentes a largo plazo; algunos desean explícitamente el fin de la hegemonía estadounidense.
- Se desarrolla un debate amplio sobre si el mundo es unipolar o multipolar (EE. UU. frente a la UE/China/Rusia/India), incluyendo argumentos sobre:
- La fuerza militar y económica de Rusia y China.
- Guerras por poder interpuesto (Ucrania), sanciones y economías de guerra.
- El historial de EE. UU. en Afganistán y los límites del poder militar en la construcción de naciones.
Chatbots de salud mental para veteranos
- Algunos ven el acceso 24/7 a chatbots como un complemento útil para la atención humana, con investigaciones que sugieren beneficios.
- Otros argumentan que derivar a personas con riesgo suicida agudo a un bot se sentiría deshumanizante y peligroso, especialmente dada la probabilidad de una implementación gubernamental deficiente.
Capacidades, uso indebido e inyección de prompts
- Hay escepticismo sobre el uso de los modelos actuales para tareas reales de ciberseguridad/administración de sistemas debido a comandos alucinados.
- Se especula sobre futuros trucos de inyección de prompts en el campo de batalla (por ejemplo, mensajes en azoteas para confundir modelos de puntería), enmarcados como otra iteración del juego del gato y el ratón en la guerra.
Desilusión con la misión de OpenAI
- Varios comentaristas expresan que OpenAI ha pasado rápidamente de ser una organización impulsada por una misión, con beneficios limitados y de “no construir armas”, a una empresa tecnológica convencional alineada con el poder estatal.