五角大楼称过度依赖 AI 导致对伊朗学校的导弹袭击
五角大楼对一枚摧毁伊朗一所女子学校、造成 100 多名儿童死亡的美国导弹袭击展开内部调查,调查将该事件部分归因于目标识别过程中“过度依赖 AI”。评论者认为,人工智能正被当作人类失误的替罪羊,问题更在于过时情报、被削弱的平民保护团队、对快速大规模打击的政治压力,以及美国军事行动长期存在的有罪不罚模式。讨论进一步扩展到 AI 赋能的战争和“决策洗白”问题:像 Palantir 这样的工具把生死责任从可问责的人类身上转移开,引发了政策制定者和构建这些系统的技术人员的伦理质疑。
AI 的作用 vs 人类责任
- 许多人认为,AI 并没有“杀死”任何人;做出决定的是美国的决策者。AI 被视为人类指挥链中的一个工具。
- 也有人指出,人类把真正的决策权外包给了 AI,而这本身就是严重失职,因为 AI 既不能受审,也不能受罚。
- 还有人认为,“过度依赖 AI”这一说法准确但不完整:核心问题在于领导层选择了以这种方式信任并部署它。
目标识别失误、数据与流程
- 评论者强调目标数据过时:尽管该地点多年已是一所学校,却仍被标记为 IRGC 设施。
- 据称,关于这一变化的情报被记录在另一个彼此不连通的系统中,因此 Maven 从未“看到”它。
- 保护平民团队和目标审查单位被大幅削减,或缩减到只剩象征性存在;有人说本应发现这一问题的审查小组实际上已被移除。
- 还有人坚持认为,简单的卫星或空中影像就清楚显示那是一所学校和一个游乐场,这意味着即便是初步的人为核查也本可阻止这次袭击。
问责、合法性与战争罪
- 普遍认为,没有高级官员会面临刑事后果;最多只是“流程审查”或找替罪羊。
- 有人将这次袭击及随后的“补刀”式后续打击视为可与历史暴行相提并论的战争罪;也有人认为,这是在非法政治压力下造成的过失杀人。
- 关于伊朗是否应为将学校设在军事综合体内或附近负责,存在争论;批评者反驳说,这类共址情况很常见(包括在美国),而且这所学校在十年间一直明显独立存在。
AI 作为“问责沉没池”
- 反复出现的主题是:AI 使“决策洗白”成为可能——把责任推给系统,以逃避个人或机构责任。
- 评论者把这一模式与 AI 在其他领域的用途联系起来(如医疗拒赔、警务、监控),认为这种不可问责性对强势主体来说不是缺陷,而是特性。
- 还有人担忧,法院、监管和国际法远远落后,使得通过 AI 介导造成的伤害很难被追责。
军事文化、教义与规模
- 一些人批评一种“最大杀伤力”文化、对大规模目标配额的压力(例如首日 1,000 次打击),以及集中化、缓慢或表演化的目标识别流程。
- 也有人认为,AI 的真正影响是让懒散、仓促或出于政治动机的行动能以更大规模推进,而不是单纯提高准确性。
技术与国防工作的伦理
- 关于 Palantir 及其工程师的道德责任,存在明显争论:
- 一方认为,构建并运行杀伤链软件就是共犯。
- 另一方认为,主要责任在于要求此类工具的政府;即便没有 Palantir,别人也会构建类似系统。