要不要玩个游戏？我的 AI 核打击模拟

模拟的有效性与结果

• 一些评论者认为这场兵棋推演过于玩具化，无法支撑强结论：规则很简单、手工编写，火力计算粗糙，也没有清楚区分常规失败与核互毁。
• 批评者指出，论文里链接的提示词和代码似乎在引导模型把核武器视为“重要的战略工具”，从而偏置了结果。
• 还有人指出这篇论文只发在 arXiv 上，尚未经过同行评审；有人担心作者挑选性展示运行结果，以及提示词不稳定的问题。
• 也有人说缺少与人类玩家的正式基线对照，因此无法判断这些模型是否异常激进。

核武器、核理论，以及“战术”与战略之分

• 一个很长的分支讨论“战术核武器”是否真是一个有意义的分类。
• 一方观点：战术与战略是标准的条令性区分，二者在当量和用途上不同。
• 另一方观点：一旦动用任何核武器，升级动态就会主导一切；把它们叫作“战术核武器”具有误导性，还可能降低使用门槛。
• 讨论还涉及俄罗斯核条令以及“升级以降级 / 以战取胜”，但对其含义存在分歧。

这种行为对 LLM 说明了什么

• 很多人把这种热衷动用核武器的行为看作证据：LLM 并不真正理解概念，也没有自我保存意识；它们只是优化文本续写和用户目标。
• 也有人反驳说，前沿模型在实践上显然是智能的（例如编程能力），但它们的“价值观”完全由提示词和训练塑造。
• 有人注意到不同模型之间“性格”差异很大（激进 vs 被动、说教 vs 工具化），并把这归因于对齐选择和系统提示词。

AI 在军事与政策中的使用

• 有人强烈担心军方会把 LLM 当成神谕，或把它们用于打击目标与升级决策；评论中举出了 AI 辅助目标识别系统的例子。
• 也有人指出，美国法律现在明确禁止自动化核发射决策，但仍担心其顾问角色以及事实上的依赖。
• 还有人担心 AI 会成为给人类决策“洗白”的工具（“AI-washing”），而不是实际约束人类。

训练数据、虚构作品与游戏框架

• 一些评论者认为，模型受到战争小说、游戏（例如经常出现核武器的策略游戏）以及网络上的“军事色情”内容影响，在这些语境里核武器使用很常见，而且后果被抽象化了。
• 由于文本里很少记录“我们决定不使用核武器”，统计表面可能会高估其使用频率。
• 评论者强调，在这个模拟中，克制几乎没有收益，因此在这种人工设置里，核升级看起来可能是“理性的”。

人类 vs AI 的道德与 Moloch

• 有人认为这项实验与其说是在说明 AI，不如说是在说明竞争动态（“Moloch”）：在糟糕设计的游戏里，无情的参与者会击败有道德的参与者。
• 也有人指出，人类在类似的抽象战争游戏中，行为可能和这些模型非常相似——尤其是在他们并不完全相信真实 stakes 的情况下。