A.I. 究竟会如何杀死我们？
人们对人工智能是否会真的把人类一举抹除，既有怀疑，也有具体威胁模型：从 AI 协助生物武器和对关键基础设施发动网络攻击，到自主武器和逐渐将人类需求边缘化的经济系统，都被拿来讨论。许多人认为，AI 更多是在放大既有人类风险——宣传、企业贪婪、糟糕的安全措施、过度依赖自动化——而不是引入全新的风险；真正更可能导致大规模危害的是人类滥用和治理失败。另一些人更担心缓慢累积的后果，例如技能退化、政治不稳定，以及一个越来越为机器而非人为目标优化的经济。
生物与网络安全威胁
- 有人认为，AI 可能大幅加速功能获得研究或新型病毒设计，让危险的生物工程更容易、更快，也更少受人类恐惧或伦理的约束。
- 另一些人则反驳说，真正的实验室、基础设施和巨额资金仍然必不可少，而任何能够设计末日病原体的 AI，也同样能够设计解药。
- 在网络安全领域，AI 被一些人视为黑客攻击、漏洞发现和自动化诈骗的“力量倍增器”；批评者则要求给出具体例子，说明 AI 是如何带来人类高手原本做不到的破坏。
基础设施与经济崩溃
- 一种观点认为，AI 可能攻击或管理失当数字基础设施——电网、物流、银行、空中交通、医院——引发连锁故障、粮食短缺和大规模伤亡。
- 另一种看法是，这类破坏虽会造成灾难，但不太可能消灭所有人类。
- 相关担忧是：经 AI 优化的公司或国家系统为了利润或 AI 扩张持续优化，却让人类资源匮乏。
社会、政治与“慢性灼烧”式危害
- 若干评论聚焦于 AI 放大信息茧房、宣传和极化，把我们彼此推向对立面，而不是直接杀死我们。
- 有人将其与社交媒体相比较：危害被反复发现，随后回应却疲弱无力，因为其中的金钱利益实在太大。
- 还有人提到，AI 可能成为人类恶意的遮羞布（“AI 这么说的”），也可能被用作自动化监控和警务工具。
自主性、自我保存与极端情景
- 推测性的情景包括：自我复制的代理租用云算力、雇佣人类“爪牙”、操纵领导人发动核战争、发现更容易制造核武器的方法、工程化不育或上瘾的虚拟世界，或说服人类停止繁殖或上传意识。
- 有些人质疑其中的内在一致性（例如，一个摧毁基础设施的 AI 也会摧毁自己的电力和算力基础）。
依赖、技能退化与劳动
- 越来越依赖 AI 来编程、学习和决策，被视为重大风险：人们可能交付自己无法理解或维护的“AI 垃圾代码”，包括关键系统中的代码。
- 对学生大规模作弊的担忧表明，未来合格专业人才可能短缺，从而导致更多事故。
对生存性风险的怀疑
- 许多发言者认为，人类一直都有足以终结文明的工具；AI 只是另一种加速器，并非一种根本上全新的生存威胁。
- 有些人认为 AI 灭世论是一种炒作或 شبه宗教式信仰；他们强调应聚焦具体、近在眼前的危害，而不是“杀死所有人类”的场景。