OpenAI 删除了禁止将 ChatGPT 用于“军事和战争”的禁令
OpenAI 悄然取消了对将 ChatGPT 用于“军事和战争”的全面禁令，这重新引发了关于商业 AI 在武装冲突中角色的争论。评论者在讨论，拒绝军事工作究竟是一种有意义的伦理立场，还是只是把影响力让给更少约束的参与者，并举出 AI 在目标选择、无人机和信息行动中的现实用途。许多人认为，这一变化是对国防资金和战略压力的可预见回应；也有人担心，这会加速一场 AI 驱动的军备竞赛，而其安全保障和问责机制都尚不清晰。
政策变更的范围
- 旧政策明确禁止“军事和战争”。
- 新政策删除了这句话，但仍然禁止“开发或使用武器”以及“使用我们的服务伤害自己或他人”。
- 一些人认为这只是措辞上的收窄：重点从特定行为主体（如军队）转向有害活动本身。
- 另一些人则认为这是一次重大的伦理退却，为广泛的军事工作打开了大门，同时只是排除了直接的武器设计。
动机与治理
- 许多评论者将这一变化归因于金钱和接触庞大国防预算的诱因，并将其与 OpenAI 的商业化轨迹以及董事会/Altman 动荡联系起来。
- 不少人认为，单个公司的“单边解除武装”没有意义；如果 OpenAI 不做，其他公司（或民族国家）也会填补空缺。
- 少数人推测，明确删去这句话可能会作为一种“搜查令金丝雀”，暗示其国防参与正在增长。
AI 现有及预期的军事用途
- 被提到的例子包括：AI 辅助在加沙进行目标选择、为乌克兰反攻做兵棋推演，以及无处不在的无人机使用（包括 FPV 和新兴的计算机视觉引导无人机）。
- 也有人强调一些平凡但规模巨大的用途：物流、数据库工作、报告撰写、解密，以及灾害规划（例如工程兵团）。
- 信息战是一个主要担忧：由 LLM 驱动的宣传、草根伪装式炒作（astroturfing）和 AI 撰写的新闻；一些人认为这些事情已经在发生。
伦理论点与集体责任
- 一派观点：参与并塑造更“安全”的系统，比把这一领域拱手让给对手更符合伦理；有人将其类比为核武器与威慑。
- 反对观点：所谓“别人都在这么做”是一种薄弱的道德辩护；AI 介入可能加剧伤害、偏见和平民伤亡。
- 有些人把这一时刻比作曼哈顿计划，并质疑员工、用户，甚至数据贡献者的责任。
更广泛的反应
- 许多人认为，这一举动是科技公司长期模式的一部分：一旦增长与国家权力对齐，它们就会抛弃理想化的伦理口号（“不要作恶”、“为了全人类的利益”）。
- 怀疑者也质疑：鉴于幻觉和偏见，依赖当前的 LLM 来做生死攸关的决定是否可靠。