Geoffrey Hinton:事实证明,没有 AI 我们可能会过得更好

AI 先驱 Geoffrey Hinton 警告人类“没有 AI 可能会过得更好”,引发了广泛讨论:现有系统是否已经造成的危害多于收益。评论者在近端问题——安全漏洞、环境成本、岗位流失以及低质量内容泛滥——与生产力、可及性和知识获取等切实好处之间权衡。许多人认为,AI 的快速进展如今在经济和地缘政治上都已不可避免,因此真正的问题已不再是“要不要做”,而是社会如何——或是否能够——在它破坏现有制度之前对其进行监管与引导。

对这则警告的总体反应

  • 有些人同意我们也许“没有 AI 会更好”,认为当前的轨迹(气候、不平等、社会衰退)已经在匹配文章中的负面情景。
  • 另一些人认为这种比较为时过早或只是凭感觉:结果可能非常好,也可能非常糟,立场会分成乐观派和悲观派。
  • 也有人把这类警告斥为来得太晚、虚伪,或者是某位其研究帮助造就当前浪潮的人发出的“酸葡萄”之言。

人们认为 AI 的风险

  • 系统性风险:电力或金融停摆、连锁性的基础设施故障、网络攻击增多,以及 AI 协助入侵关键系统。
  • 政治和军事风险:大规模监控、镇压、人脸识别、自动化打击、自主武器,以及更高效的种族灭绝。
  • 社会风险:大规模失业、巨大的财富鸿沟、民主规范崩塌、“科技封建主义”,以及受过教育的公众群体被侵蚀。
  • 也有人认为,即便是造成死亡的“暂时”灾难事件也不能称为净收益,挑战“目的证明手段正当”的逻辑。

被认为的收益和具体用例

  • 开发者的热情很高:AI 被视为数十年来最大的生产力提升,尤其是在编程、调试和复杂的跨栈工作中。
  • 可及性:有严重身体限制的人描述 AI(尤其是语音工具 + 代码助手)改变了生活,恢复了自主性。
  • 还有人说 AI 节省了处理日常事务的时间,让他们能有更多陪伴家人和做个人项目的时间。

监管、治理与不可避免性

  • 普遍感觉“瓶子里的精灵已经出来了”:如果某些参与者暂停,其他人(包括国家)仍会在权力和利润的驱动下继续推进。
  • 与核技术相比:通过条约可以实现部分控制,但并不完美;AI 更难控制,因为它运行在通用算力之上。
  • 对那种重度的发布前测试类比(比如 FDA)的怀疑:模型在发布后具有无限适应性,因此危害在很大程度上取决于下游使用方式。
  • 有些人担心监管俘获:前沿实验室夸大生存性风险,以证明把封闭、专有模型锁定为唯一“安全”选择是合理的。

安全与关键基础设施

  • 争论焦点在于,AI 是否真正改变了风险,还是只是暴露了银行、设备和电网这些已经联网多年的系统存在的糟糕安全性。
  • 有人认为,现在(即便痛苦地)发现漏洞,或许能迫使系统进行早就该做的加固;也有人强调停摆造成的真实人类代价。

信息质量与文化影响

  • 许多人抱怨“AI 垃圾内容”:内容污染、幻觉、CAPTCHA 摩擦、臃肿的软件,以及很难找到由人类制作且值得信赖的材料。
  • 也有人反驳说,大规模生产的人类垃圾早在 AI 之前就已存在;AI 主要是加快了体量和速度,把已有的“垃圾内容”动态又提升了好几个量级。

经济、工作与不平等

  • 人们强烈担忧,AI 会在当前资本主义激励下加速失业和不平等;几乎没人相信企业领导者会把社会利益置于利润之上。
  • 有些人提出把收入与传统工作脱钩(例如 UBI),不过可行性说得很模糊,或者被黑色幽默地对待(例如“角斗式搏斗”的玩笑)。
  • 少数人拥抱 AI 赋能的丰裕和“完全自动化的奢华”未来,接受 disruptive 过渡作为最终收益的代价。

伦理、责任与态度

  • 关于“不可避免性”的争论,被视为一种道德上的回避:批评者援引核历史,认为成为“理性的市场参与者”并不能抹去伦理责任。
  • 另一些人则强烈倾向务实主义:在竞争性国家和利润动机并存的情况下,要全球协调阻止 AI 被认为不现实。
  • 还有几个人更担心的是人类治理而非技术本身:糟糕的激励、“快速行动”文化,以及权力集中,被视为核心危险。