博科圣地如何使用前沿 AI
AI 对恐怖主义的感知能力
- 许多人怀疑主流 LLM 真的能给出切实可行的炸弹或武器制作指令,认为其输出往往不超过维基百科上的内容,而且经常含糊不清或被拦截。
- 也有人认为,即使只是对现有公开信息进行基础的归纳、翻译和解释,对低技能行为者也有价值。
- 还有人指出,AI 不只是能帮助“如何建造 X”,还可以帮助战术、后勤和故障排除(例如武器维护、小队协调)。
关于博科圣地轶事的怀疑
- 一些评论者认为,报道中的引述(例如摩托车跳跃训练导致 18 人死亡;AI 教他们减少派出战斗人员)夸张、带有恶作剧性质,或被研究人员误解了。
- 也有人反驳说,极端组织经常进行鲁莽且致命的训练,而殉道信念和强烈灌输使这类损失是有可能的。
- 有人认为,AI 可能主要被用作一种“鼓舞士气的神话”,或只是被美化的翻译/搜索工具,而不是真正的战力放大器。
- 还有人担心,少量且间接的访谈样本意味着这项研究可能夸大了真实的 AI 使用情况。
防护措施、越狱与访问
- 多个帖子指出,常见的越狱技巧(角色扮演、“电影剧本”、地点框架)过去更有效,但现在在主要模型中大多已被修补。
- 也有人说,只要声称自己位于不同司法辖区,或者使用更宽松的开源模型,仍然可以绕过许多限制。
- 一种观点认为:云端 LLM 很有吸引力,因为武装分子没有本地运行大型模型所需的硬件,即使存在不受审查的选项也是如此。
恐怖分子的能力与心理
- 讨论焦点在于一线恐怖分子究竟是普遍“愚蠢”、被诱导的低智商个体,还是只是脆弱、被灌输的人,但在技术上仍可能有能力。
- 多位评论者把恐怖组织类比为高控制力邪教:智力并不是决定性因素,痛苦、脆弱和操控才是。
- 还有人引用其他叛乱组织和历史案例,说明复杂战术早在 AI 出现之前就已存在。
政策、监管与 KYC
- 一些人认为,这种叙事与对 AI 服务实施 KYC/身份核验及更严格监管的呼声相呼应,类似金融制裁制度。
- 也有人认为,这类控制措施主要会增加普通用户负担,而且很容易被绕过(例如使用国外或本地模型),还可能导致大型 AI 公司被监管俘获。