美国将对全球禁止“杀人机器人”的提议说“不”

美国计划阻止联合国就一项禁止自主“杀人机器人”的具有约束力条约展开谈判,这也引发了更广泛的问题:此类武器究竟能否、以及如何被有意义地限制。评论者将这一问题与过去限制地雷、化学武器和核武器的努力进行比较,认为哪些武器会被禁止,主要取决于有效性和大国自身利益,而不是道德。许多人认为致命自主系统在军事上既有吸引力又几乎不可避免,并警告法律规范和制裁可能过于软弱或过于迟缓,难以阻止其广泛使用。

关于美国阻止禁令的总体看法

  • 许多评论者表示并不意外;他们认为这与美国作为主要武器生产国和武力使用者的角色一致。
  • 有些人认为,这背后是希望实现“无后果杀戮”和战略优势,而不是出于伦理。
  • 另一些人则认为,任何拥有强大军事优势的大国都不会自愿限制一种有效的新工具。

条约、规范与执行

  • 有几位指出,许多武器禁令都是在可怕后果出现之后才到来,例如一战的毒气、二战的核武器。
  • 也有人反驳说,历史上也有部分性或预防性的禁令:地雷条约(但有关键未签署国)以及致盲激光武器。
  • 对联合国条约的怀疑很强:它们被视为软弱、选择性执行,或经常被无视。
  • 有人认为制裁和更广泛的外交压力可以作为事实上的执行手段;也有人说,当利害关系很高时它们会失效(例如核扩散、当前战争)。
  • 讨论还在于,这样的禁令究竟是“低价值”(容易执行)还是高价值(太有吸引力,叛离几乎不可避免)。

有效性 vs 道德性

  • 一个反复出现的主题是:武器之所以被禁,往往是因为它们对大国来说在军事上失效了,而不是因为它们不道德。
  • 地雷和集束弹药被讨论为既有效又道德上可怕的武器;因此禁令并不完整,而且在安全需求上升时常常会被逆转。
  • 许多人认为“杀人机器人”在战术上很有价值,尤其能减少己方伤亡,因此不太可能被真正禁止。

自主武器已经存在

  • 有几位指出,“杀人机器人”已经以无人机、巡航导弹、巡飞弹,甚至地雷等形式存在。
  • 讨论的区别在于远程操控系统与完全自主的瞄准和杀戮决策。
  • 有人担心,一旦战争升级,软件“标记”系统可能迅速把人类从决策链中移除。

责任与伦理

  • 一个强烈的担忧是,AI/自主系统会被用来分散或逃避杀戮责任(“是系统决定的”)。
  • 有人认为精确性和自主性可以减少附带伤害;也有人担心灾难性误用、故障,以及定点暗杀或“屠杀机器人”的常态化。

博弈论与军备竞赛逻辑

  • 许多人认为禁令是不稳定的:任何解除武装的国家都有可能被叛离者压制。
  • 观点认为,一旦一方部署了有效的自主武器,其他国家就必须跟进,因此禁令在很大程度上只是表演性的。