AI 可能正朝着超越人类智能的方向发展；我们应当做好准备
关于人工智能可能超越人类智能并使大量工作消失的担忧，既遭到怀疑，也引发了严肃的规划呼吁。评论者讨论 AI 风险是否类似核战争、气候变化和千年虫等过去的全球威胁——这些问题都曾通过集体行动得到缓解——并争论如果大规模工作被自动化，社会应如何适应，包括全民基本收入、新税制，甚至摆脱将道德价值与有偿劳动绑定的文化转变。另一些人质疑当下 AI 是否真的“智能”，强调自动化在物理和实践层面的局限，并警告真正的危险可能更多来自强势行动者如何部署这些系统，而非系统本身。
AI 风险 vs 历史危机
- 几条评论将“AI 末日”与过去的恐惧相比较（核战争、石油峰值、臭氧层空洞、千年虫、气候变化）。
- 强烈反驳：这些问题并不是“自己解决”的；它们是通过大规模监管、投资和公众压力才得到缓解的。
- 关于气候变化担忧是否正在减弱还是仍在加剧存在争论，一些人认为如今的政治意愿比过去更弱了。
经济冲击、就业与 UBI
- 许多人认为，AI 是考虑全民基本收入（UBI）的主要原因，预计劳动力将大规模被替代。
- 另一些人认为，未来 10–20 年里仍会有“万亿级”的任务和比人更多的工作，尤其是在体力工作方面（建筑、美发、维护）。
- 有人深切担心，把道德与有偿工作绑定的文化规范会导致社会惩罚失业者，而不是支持他们。
- 关于 UBI 资金来源的长篇讨论：对自动化带来的企业利润增税、提高财富/资本利得税，以及如果 AI 让劳动实际上变得免费时“印钱”。
- 反对意见强调通胀、印钱的局限，以及住房、医疗、教育等会变得更昂贵并可能吞噬任何 UBI 收益的行业。
AGI 的可行性与能力
- 怀疑者强调当前 AI 缺乏“真正”的智能、好奇心或物理行动能力；他们质疑 AI 能否迅速建造宇宙飞船或自我复制的工业体系之类的情景。
- 另一些人认为，相关标准应当是 AI 是否能完成过去需要人类智能才能完成的任务，尤其是知识工作。
- 反复强调体力劳动“有着令人惊讶的细节量”，远未实现完全自动化。
社会未来与伦理
- 提议的路径包括：维持现有资本主义并配合 UBI，冒着非所有者被缓慢淘汰的风险；转向强社会主义/中央计划；或对自动化施加类似卢德派的限制。
- 有些人设想人类会成为未来超级智能的“宠物”或受保护的野生动物；另一些人则认为强 AGI 是生命演化“阶段跃迁”中的自然下一步。
对末日论与治理的怀疑
- 一些评论将 AI 末日叙事斥为受科幻驱动且表述不清的说法，并质疑掌权者中会有谁愿意把真正控制权交给机器。
- 也有人更担心使用 AI 的人类行动者（公司、政府），而不是系统本身。