DARPA、美国空军试飞 AI 控制的 F-16
DARPA 和美国空军的 AI 控制 F-16 引发了对“天网”的黑色幽默，也引发了把致命决策委托给自主系统的严肃担忧。评论者权衡 AI 飞行员的军事优势——更快反应、无 G 力限制、复用老旧机体以及与无人机蜂群协同——与其风险之间的关系，例如责任归属空缺、人类必须接管控制时的故障模式，以及走向越来越自主、越来越少受人类约束的战争这一更大趋势。许多人指出，尽管底层控制技术已存在数十年，但将其整合进作战角色带来了新的伦理和战略问题，而公众几乎还没有开始正视这些问题。
流行文化框架与隐喻
- 许多评论提到《终结者》/天网、《奇爱博士》、《MAS*H》、《高达》、《皇牌空战》以及其他对失控军事 AI 的科幻描绘。
- 有人将天网解读为资本主义或企业“超级有机体”的隐喻，它们本已表现得像未对齐、会自我优化的智能体。
- 也有人指出，类人机器人和军事化类人项目实际上正在推进，这与“没人正在制造类人机器人”这种带讽刺意味的说法相矛盾。
系统的性质：无人机、自动驾驶，还是“杀戮机器人”？
- 讨论焦点在于：AI 控制的 F-16 只是“昂贵的无人机”，还是某种质变后的新事物。
- 有人认为它主要只是更先进的自动驾驶系统，用来让飞行员解放出来处理更高层任务；也有人强调，这使得完全自主的致命平台成为可能。
技术自主性与安全性
- 对“按一下开关”式的人在回路控制存在担忧：当飞行员被突然接回一架配置错误的飞机时，人类往往会失败。
- 反驳意见是：这些测试使用的是有经验的试飞员、遥测以及成熟的飞控技术；军方可接受的风险高于民航。
- 关于现有系统如电传飞控、Auto GCAS 和模拟器的讨论：现代战斗机本就高度依赖计算机并高度自动化。
- 仍未明确的问题是，AI 是否只与标准控制律接口（从而保护飞行员和机体），还是能够绕过它们。
军事战术与效能
- AI 在模拟空战中已优于人类飞行员；但评论者指出，真实空战大多是超视距作战，并且电子战成分很重。
- G 力限制：AI/无人机飞行员不受生物学限制，但机体、能量损失和导弹性能仍会约束机动。
- 有人认为，廉价无人机和滞空弹药比自主 F-16 更具变革性；也有人把这看作“忠诚僚机”和协同作战飞机趋势的一部分。
成本、旧机体与替代方案
- 讨论中有很强的观点认为，将剩余的 F-16 改装比设计全新的 AI 专用机体更便宜、更快，也是积累经验的好办法。
- 批评者称这是一种浪费，认为专用无人系统更高效，并且可以跳过生命保障和以人为中心的设计约束。
伦理、政治与社会担忧
- 人们担心 AI 系统会被用来转移对致命和“不受欢迎”决定的责任。
- 一些人对自主杀戮机器在几乎没有公众反对的情况下继续推进感到不安；另一些人则认为，抗议只会让某一个国家处于劣势。
- 更广泛的犬儒观点：AI 只是精英决策的方便遮掩说法，而公众比起 AI 军事化，更容易被文化战争议题动员起来。