OpenAI 现在正与美国军方合作

OpenAI–五角大楼合作的范围

• 正在为美国国防部开发的工具聚焦于：
  • 开源网络安全（通过 DARPA 的 AI Cyber Challenge）。
  • 支持预防退伍军人自杀，可能与退伍军人事务部协调。
• OpenAI 重申正式禁止将其技术用于武器、财产破坏或直接伤害。
• 一些评论者指出，文章已更新以澄清这与 DARPA/VA 相关，并认为标题具有误导性。

从最初“无军事”立场的转变

• 许多人认为，这与 OpenAI 早先明确禁止军事用途的立场形成了鲜明逆转。
• 有人认为，一旦涉及金钱和权力，这本来就是不可避免的。
• 也有人认为，早先的立场可能是一种招聘/公关策略，用来吸引对国防工作感到不安的人才。

滑坡效应与 AI 风险担忧

• 强烈担忧渐进式偏移：
  • “防御工具” → “防御性武器” → 进攻系统。
• 讨论了加入自主性、规划能力和 OODA 循环能力后，军事 AI 可能如何成为生存性风险。
• 其他人则认为，LLM 聊天机器人本身并不具备自主性，因此不会立刻构成生存威胁。

国防技术与美国霸权的伦理

• 观点分裂：
  • 一些人欢迎美国军方在 AI 领域的领导地位，认为这在大国竞争中是必要的，也比竞争对手更可取。
  • 另一些人担心军备竞赛、升级风险和长期反噬；也有人明确希望美国霸权结束。
• 围绕世界究竟是单极还是多极（美国 vs 欧盟/中国/俄罗斯/印度）展开了长篇讨论，包括对以下方面的论证：
  • 俄罗斯和中国的军事与经济实力。
  • 代理战争（乌克兰）、制裁以及战争经济。
  • 美国在阿富汗的记录以及军事力量在国家建设中的局限。

面向退伍军人的心理健康聊天机器人

• 一些人认为，24/7 聊天机器人访问可作为人工护理的有用补充，并且研究表明其可能有益。
• 另一些人则认为，把处于急性自杀风险的人引导给机器人会显得去人性化且危险，尤其考虑到政府的实际执行很可能不理想。

能力、滥用与提示注入

• 对使用当前模型处理真实网络安全/sysadmin 任务持怀疑态度，因为它们会生成幻觉命令。
• 推测未来战场上会出现提示注入技巧（例如在屋顶上写信息来迷惑目标模型），这被视为战争中猫鼠游戏的又一轮迭代。

对 OpenAI 使命的幻灭

• 一些评论者表示，OpenAI 正迅速从一个以使命驱动、封顶利润的“不要制造武器”组织，转变为一个与国家权力保持一致的传统科技公司。