Cómo el grupo terrorista Boko Haram usa la IA de frontera

Capacidades percibidas de la IA para el terrorismo

• Muchos dudan de que los LLM convencionales ofrezcan instrucciones verdaderamente accionables para fabricar bombas o armas, y dicen que sus respuestas rara vez superan lo que hay en Wikipedia y a menudo son vagas o están bloqueadas.
• Otros sostienen que incluso la síntesis básica, la traducción y la explicación de información abierta existente tienen valor para actores con poca habilidad.
• Algunos señalan que la IA puede ayudar con tácticas, logística y resolución de problemas (p. ej., mantenimiento de armas, coordinación de pequeñas unidades), no solo con “cómo construir X”.

Escepticismo sobre las anécdotas de Boko Haram

• Varios comentarios ven las citas reportadas (p. ej., entrenamiento de saltos en motocicleta que costó 18 vidas; la IA enseñándoles a enviar menos combatientes) como exageradas, de troleo o malinterpretadas por los investigadores.
• Otros replican que los grupos extremistas suelen hacer entrenamientos imprudentes y letales, y que la creencia en el martirio y el fuerte adoctrinamiento hacen plausibles esas pérdidas.
• Algunos piensan que la IA podría usarse principalmente como un “mito que eleva la moral” o como traducción/búsqueda glorificada más que como un verdadero multiplicador de fuerza.
• Preocupa que una muestra de entrevistas pequeña e indirecta signifique que el estudio puede exagerar el uso real de la IA.

Salvaguardas, jailbreaks y acceso

• Varios mensajes señalan que trucos comunes de jailbreak (juego de roles, “guion de película”, enmarcado por ubicación) solían funcionar mejor y ahora están en gran medida parcheados en los principales modelos.
• Otros dicen que simplemente afirmar estar en otra jurisdicción o usar modelos de código abierto o más permisivos sigue eludiendo muchas restricciones.
• Un punto de vista: los LLM en la nube son atractivos porque los militantes no tienen hardware para grandes modelos locales, aunque existan opciones sin censura.

Competencia y psicología de los terroristas

• Hay debate sobre si los terroristas de base suelen ser “tontos”, individuos con bajo CI cuidadosamente moldeados, o simplemente personas vulnerables, adoctrinadas y aún así técnicamente capaces.
• Varios los comparan con cultos de alto control: la inteligencia importa menos que la miseria, la vulnerabilidad y la manipulación.
• Se citan ejemplos de otros grupos insurgentes y de la historia para argumentar que tácticas sofisticadas existían mucho antes de la IA.

Política, regulación y KYC

• Algunos ven esta narrativa como alineada con llamados a KYC/verificación de identidad en servicios de IA y a una regulación más estricta, similar a los regímenes de sanciones financieras.
• Otros sostienen que esos controles sobre todo cargarían a los usuarios comunes, serían fáciles de eludir (p. ej., mediante modelos extranjeros o locales) y correrían el riesgo de captura regulatoria por grandes empresas de IA.