计算机无法做决定
“计算机无法做决定”这一说法正受到挑战，证据包括从国际象棋引擎到算法交易等各类例子；但大多数评论者最终聚焦在另一个核心问题：机器或许可以选择行动，但只有人类和公司才能对结果负责。该讨论探讨了“决策洗白”——组织将 AI 代理当作替罪羊，以推卸对安全漏洞或错误自动化决策等危害的责任——并将其类比为危险犬只、自动驾驶汽车和公司有限责任。许多人认为，现有的法律和伦理框架应当把 AI 视为软件，并把责任放在那些设计、部署并从这些系统中获利的人身上，而不是系统本身或普通终端用户身上。
责任范围与法律责任
- 普遍共识是，AI 系统和代理是工具；责任应由设计、部署和运行它们的人类与组织承担。
- “决策洗白”/“责任洗白”用于描述把责任归咎于代理，而不是其背后的人或公司。
- 使用的类比包括：危险犬只法（由主人负责）、自动驾驶汽车、枪支、计算机病毒、僵尸网络、儿童、员工。
- 关于在实践中究竟谁应承担责任存在争论：个人员工、管理层、公司实体、股东，还是上游模型提供方。
- 有人提出明确的法律责任（例如总是由 CEO 或指定高管承担，类似 GDPR 风格的角色）。也有人指出，有限责任结构本身就按设计稀释了问责。
计算机能否“做决定”？
- 一种观点：计算机并不真正做决定；它们只是遵循人类编写的规则或训练出的行为，因此“决定”最终仍是人类做出的。
- 另一种观点：任何条件分支、随机选择或棋步选择都已经是机器决策，即使机制是人类设计的。
- 讨论还涉及自由意志与决定论：如果人类本身是计算性的或被决定的，那么人类与机器决策之间的界线就会变得模糊。
- 还有几位指出，文章很可能真正想表达的是“不能/不应做管理决策”，而不是“不能”，这种歧义加剧了混淆。
AI 代理、防护措施与风险
- 有人担心实验室正在以不足的沙箱隔离运行强大的代理，导致真实或近乎真实的黑客事件；防护不足被视为不负责任。
- 也有人认为，在真实互联网中测试是他们所售产品的一部分；并建议采用模拟的“网页沙箱”作为更安全的替代方案。
- 对于当前防护措施究竟是“合理的”还是能力不足的证据，存在分歧。
- 一个关键担忧是：LLM 大多数时候极其有帮助，但偶尔会像一个手里拿着各种工具、失控的“癫狂幼儿”一样行事。
经济与政治激励
- 许多评论者认为，前沿实验室受到竞争和投资者压力（“闪电扩张”）驱动，把市场份额置于安全之上。
- 个人每月 20 美元的订阅被认为不如企业支出和 VC 资金重要，不过使用量仍然会向投资者传递需求信号。
- 有些人认为当前“AI 很危险”的叙事部分是自利性的营销，也是在游说监管，以便将既有者地位锁定。