Anthropic 提议的 AI 安全法案只有在造成 50 人死亡或 10 亿美元损失时才会启动

门槛：50 人死亡 / 10 亿美元损失

• 许多人认为这些门槛任意且在伦理上令人不安，等于暗示最多 49 人死亡或低于 10 亿美元的损害是“可接受的”。
• 一些人认为 10 亿美元其实门槛不低，尤其对 AI 辅助的网络攻击或大型公司而言；另一些人则称它高到足以把针对小实体的损害排除在外。
• 讨论中还出现了这是否按单次事件还是累计计算、以及时间跨度为何的问题；有人将该提案的机制描述为不清楚，甚至“毫无道理”。

对人命的隐含估值

• 发帖者指出，该法案隐含地把一条人命定价在约 2000 万美元。
• 有人将其与现实世界的法律赔偿作比较，认为这并不算异常高；也有人嘲讽“最低数量”必须达到 50 条人命这一说法。

监管俘获与对开放模型的影响

• 人们强烈担心该法案主要会巩固大型实验室和带门槛 API 的地位，因为它会：
  • 强制审查和保险，而只有大玩家负担得起。
  • 使“Certified Safe AI”对小型/开源项目实际上无法触及。
• 不少人表示，这显然是以“安全”为名压制开放权重模型的刻意尝试。
• 另一些人反驳说，该法案至少是针对“前沿实验室”，而不是小型机构；但反对者解读为它事实上是在禁止强大的开源模型。

责任、法律与执法

• 讨论集中在是否需要新法律，还是只需适用现有的侵权、刑法和 RICO 框架。
• 有人认为，公司应像任何软件供应商一样承担责任，尤其是在明知系统危险的情况下仍将其部署。
• 关于 Mens Rea 的讨论很多：过失与故意、反复高风险行为，以及高管或特定工程师是否应被追责。

与其他技术的比较

• 类比对象包括汽车、飞机、枪支、加密技术和黑客工具：
  • 一种观点：应规制滥用和有缺陷的设计，而非能力本身。
  • 另一种观点：如果 AI 被框定为比枪支更危险，那么显著的事前监管就是不可避免的。

有效性与“魔瓶已开”

• 怀疑者认为，强大的开源模型和外国实验室使得严格控制不可能；充其量，这项法案只能争取几个月的延迟。
• 另一些人则认为，哪怕只是放缓前沿部署，也仍然有价值，因为可以争取更多时间来开发进一步的安全保障。