Como o grupo terrorista Boko Haram usa IA de fronteira

Capacidades percebidas da IA para o terrorismo

• Muitos duvidam que LLMs convencionais forneçam instruções verdadeiramente acionáveis para fabricar bombas ou armas, dizendo que as respostas raramente vão além do que está na Wikipedia e muitas vezes são vagas ou bloqueadas.
• Outros argumentam que até mesmo a síntese básica, a tradução e a explicação de informações abertas existentes têm valor para atores com pouca habilidade.
• Alguns observam que a IA pode ajudar com táticas, logística e solução de problemas (por exemplo, manutenção de armas, coordenação de pequenos grupos), não apenas com “como construir X”.

Ceticismo sobre as anedotas sobre o Boko Haram

• Vários comentários veem as citações relatadas (por exemplo, treinamento de saltos de motocicleta custando 18 vidas; IA ensinando-os a enviar menos combatentes) como exageradas, provocativas ou mal interpretadas por pesquisadores.
• Outros contrapõem que grupos extremistas rotineiramente fazem treinamentos imprudentes e letais e que a crença no martírio e o forte doutrinamento tornam essas perdas plausíveis.
• Alguns acham que a IA pode estar sendo usada principalmente como um “mito de elevação da moral” ou como mera tradução/pesquisa glorificada, em vez de um verdadeiro multiplicador de força.
• Há preocupação de que uma amostra pequena e indireta de entrevistas signifique que o estudo pode estar superestimando o uso real de IA.

Barreiras, jailbreaks e acesso

• Várias mensagens observam que truques comuns de jailbreak (encenação de papéis, “roteiro de filme”, enquadramento por localidade) costumavam funcionar melhor e agora estão em grande parte corrigidos nos principais modelos.
• Outros dizem que simplesmente alegar estar em outra jurisdição ou usar modelos open source mais permissivos ainda contorna muitas restrições.
• Uma visão: LLMs na nuvem são atraentes porque militantes não têm hardware para grandes modelos locais, mesmo que existam opções sem censura.

Competência e psicologia terrorista

• Debate sobre se os terroristas da base são, em geral, “burros”, indivíduos de baixo QI manipulados, ou simplesmente pessoas vulneráveis e doutrinadas que ainda podem ser tecnicamente capazes.
• Vários comparam grupos terroristas a seitas de alto controle: a inteligência é menos decisiva do que miséria, vulnerabilidade e manipulação.
• Exemplos de outros grupos insurgentes e da história são citados para argumentar que táticas sofisticadas precedem a IA há muito tempo.

Política, regulação e KYC

• Alguns veem essa narrativa como alinhada a apelos por KYC/verificações de identidade em serviços de IA e por regulamentação mais rígida, semelhante a regimes de sanções financeiras.
• Outros argumentam que tais controles só onerariam os usuários comuns, seriam fáceis de contornar (por exemplo, com modelos estrangeiros ou locais) e arriscariam captura regulatória por grandes empresas de IA.