OpenAI elimina la prohibición de usar ChatGPT para "military and warfare"
La eliminación silenciosa por parte de OpenAI de una prohibición general sobre usos “military and warfare” de ChatGPT ha reavivado el debate sobre el papel de la IA comercial en los conflictos armados. Los comentaristas discuten si rechazar el trabajo militar es una postura ética significativa o si simplemente cede influencia a actores menos restringidos, citando usos reales de la IA para objetivos, drones y operaciones informativas. Muchos ven el cambio como una respuesta previsible al dinero del sector defensa y a la presión estratégica, mientras que otros temen que acelere una carrera armamentística impulsada por la IA con salvaguardas y rendición de cuentas poco claras.
Alcance del cambio de política
- La política anterior prohibía explícitamente “military and warfare”.
- La nueva política elimina esa frase, pero sigue prohibiendo “develop or use weapons” y “use our service to harm yourself or others”.
- Algunos lo ven como una normalización lingüística estrecha: centrarse en actividades dañinas en lugar de actores específicos como los ejércitos.
- Otros lo ven como una gran retirada ética que abre la puerta a un trabajo militar amplio mientras solo excluye el diseño directo de armas.
Motivaciones y gobernanza
- Muchos comentaristas atribuyen el cambio al dinero y al acceso a enormes presupuestos de defensa, vinculándolo a la trayectoria de comercialización de OpenAI y a la turbulencia de la junta/Altman.
- Varios argumentan que el “desarme unilateral” por parte de una sola empresa no tiene sentido; si OpenAI se abstiene, otros (o los estados-nación) llenarán el vacío.
- Una minoría especula que el cambio explícito podría funcionar como una especie de “warrant canary” para una implicación creciente en defensa.
Usos militares actuales y previstos de la IA
- Ejemplos citados: selección de objetivos asistida por IA en Gaza, juegos de guerra para la contraofensiva de Ucrania y el uso generalizado de drones (incluidos drones FPV y drones emergentes guiados por visión por computadora).
- Otros destacan usos mundanos pero a gran escala: logística, trabajo con bases de datos, redacción de informes, desclasificación y planificación de desastres (por ejemplo, Corps of Engineers).
- La guerra informativa es una preocupación importante: propaganda impulsada por LLM, astroturfing y noticias escritas por IA; algunos creen que esto ya está ocurriendo.
Argumentos éticos y responsabilidad colectiva
- Un bando: es más ético participar y dar forma a sistemas “más seguros” que dejar el campo a los adversarios; se hacen analogías con las armas nucleares y la disuasión.
- La postura opuesta: “todos los demás también lo están haciendo” es una mala defensa moral; la implicación de la IA podría intensificar el daño, los sesgos y las bajas civiles.
- Algunos comparan este momento con el Proyecto Manhattan y cuestionan la responsabilidad de los empleados, los usuarios e incluso los contribuyentes de datos.
Reacciones más amplias
- Muchos ven la medida como parte de un patrón largo de empresas tecnológicas que abandonan éticas aspiracionales (“don’t be evil”, “for the good of humanity”) una vez que el crecimiento y el poder estatal se alinean.
- Los escépticos también cuestionan confiar en los LLM actuales para decisiones de vida o muerte dado el alucinamiento y los sesgos.