分类估算显示，NSA 正在支付数十亿美元测试 AI 模型

原文 ↗ Hacker News 讨论 ↗

有报道称，NSA 正在花费数十亿美元“测试”前沿 AI 模型，这引发了人们的猜测：美国情报机构是否已经在使用大语言模型进行大规模监控、黑客攻击和影响行动。评论者就 NSA 活动的法律和宪法边界展开争论，回顾了过去无令状监控和 FISA 法庭裁决，并担心 AI 会消除过去限制国家权力的人为瓶颈。也有人关注政府如何轻易获得或强迫获取专有模型、黑预算和国防开支在推高 AI 行业中的作用，以及 AI 系统被整合进军事目标选择和国内控制的更广泛风险。

NSA 使用 AI 的整体范围

  • 许多人认为“测试”只是委婉说法；可推定大型模型正在被用于：
    • 进攻性黑客攻击和渗透。
    • 社会工程，以及可能的选举干预，主要发生在海外。
    • 大规模通信监控与分流，尤其是外语通信。
  • 也有人认为 NSA 主要收集信号情报，而像 CIA 这样的机构则处理公开的政治干预和秘密行动。
  • 还有人预计，AI 将被用来挖掘大规模监控数据，以标记“危险”人员，并筛选可用于施压的尴尬材料。

国内与海外，以及法律边界

  • 对 NSA 职责范围存在分歧：
    • 一种观点：NSA 的重点在境外；对国内的针对只是在附带情况下发生，并在有令状的前提下与执法机构共享。
    • 反对观点：Snowden 时代的项目表明，法律限制经常被弯曲或无视；“海外 vs 国内”被视为一种形式主义。
  • 若干帖子认为，第四修正案和 FISA 监督已被各种原则和例外掏空；AI 监管在实践中不太可能约束 NSA。

模型访问、基础设施与成本

  • 有人提出疑问：为什么要花数十亿美元，而不是直接盗取模型权重？
    • 回应包括：可能存在 GPU / 基础设施限制、复制超大规模配置的成本、以及灰色市场或秘密硬件采购。
  • 有些人声称，任何像样的情报机构都能外流未审查模型，或强制获得访问权限，不论公司政策如何。
  • 也有人反驳说，国家公开剥夺知识产权会吓坏市场、损害更广泛的经济，因此会约束“拿枪的人”。

军事化与“AI 安全”

  • 担忧在于，AI 将越来越多地：
    • 针对脆弱的电信和工业系统发动网络攻击。
    • 自动化目标选择和“杀伤链”，并援引其他冲突中近期 AI 辅助打击和目标指引工具作为例子。
  • 怀疑政府的“安全测试”并非真正为了降低风险；相反，它被视为由纳税人资助的能力开发，更多由供应商推动，而非公众需求驱动。

政治、金钱与伦理

  • 一些人认为，这些合同是更广泛地动用纳税人资金来吹大 AI 泡沫、并增强国家对科技公司的杠杆的一部分。
  • 也有人出于伦理担忧，认为每一分税款都会逐步资助监控与压制。
  • 还存在争论：为此类机构工作是否意味着有恶意，还是说许多员工只是善意之人，却身处一个结构性有问题的体系之中。