“随机鹦鹉”似乎已经证明了黎曼猜想

一位知名理论计算机科学家用带有讽刺意味的标题谈“随机鹦鹉”证明黎曼猜想,这引发了更广泛的争论:大型语言模型究竟在做什么,以及应当多认真看待它们的成就。评论者围绕 LLM 辅助、并由 Lean 验证的深奥定理证明,争论这究竟是真正的推理,还是在人类生成的模式上进行大规模、受引导的搜索;同时也讨论应当如何信任长达 1700 万行的形式化证明及其证明检查器本身。讨论进一步扩展到 AI 对职业、经济分层和人类理解能力的影响:有人认为这是扩展数学的强大新工具,也有人担心未来核心科学工作会超出人类的理解能力。

标题与“随机鹦鹉”框架

  • 许多人把这个标题理解为讽刺:是在挖苦那些坚持认为 LLM 只是“随机鹦鹉”的人,而不是在讽刺这些系统本身。
  • 有些人觉得这种语气令人不适或带着嘲讽;另一些人则认为,这对多年来轻蔑看待 LLM 的论调是一次公允、也迟来的回击。
  • 几位评论者指出,“随机鹦鹉”最初讨论的是风险/偏见,而不是“没用”,但后来它变成了一个梗和稻草人论证。

AI、数学家与 Lean 的角色

  • 反复强调这次是一次协作:一位顶尖数学家、Lean 证明助手,以及一个 LLM。
  • 有人认为真正的力量在于“数学家 + Lean + AI”,而不是 AI 单独完成;也有人用反讽方式改写成“计算系统需要数学家”。
  • 对于“AI 证明了 RH”这种说法,存在怀疑,认为它忽视了人类引导以及 Mathlib 中已有的形式化工作。

信任、验证与可理解性

  • 有人担忧,没有人会真正“理解”一个 1700 万行的 Lean 证明;类比成从山上带着石板走下来。
  • 反驳意见是:你不需要重读所有行,只需验证假设/公理的形式化,并依赖 Lean 内核。
  • 也有人强调,Lean 仍然有 bug,且类型理论的正确性仍有问题;一个足够强的 AI 也许会利用这些漏洞。
  • 讨论还涉及:一个只有机器能检查的证明,是否真的推进了人类理解,还是只是电脑在说“信我”。

LLM 仍然是“随机鹦鹉”吗?

  • 一派认为:LLM 按设计本质上就是随机鹦鹉;RL 式训练和思维链只是“摆弄数字”,并不会产生真正的推理。
  • 另一派认为:把它们称为鹦鹉已经不再准确;借助 RL 式验证与搜索,它们能进行真正的问题求解,包括新证明。
  • 还有几种类比:黏菌或水解迷宫、无限猴子定理、经过筛选的随机搜索、“有动机的随机鹦鹉”。
  • 大家对观察到的能力究竟算不算“推理”,还是只是更复杂的模式插值,存在分歧;没有共识。

算力、硬件限制与经济学

  • 有人猜测,未来算力将远超今天,从而带来更多类似突破;也有人提醒物理、经济与能源限制。
  • 还有人拿航空业类比:出于经济和环境原因,速度提升已经停滞;算力也可能同样触及成本上限。
  • 一些人预计大规模训练会迎来投资修正;另一些人则认为利润激励和熵最大化会让扩展持续下去。

社会、职业与存在层面的影响

  • 有人担心高端智力工作(包括理论数学/CS)会被贬值;也有人认为,人类仍会选择问题与理论。
  • 对宏观影响的看法分歧很大:从 AI 加剧分层,到最终系统崩溃并由国家进行资源分配,再到乐观的“新前沿”。
  • 更广泛的担忧是:人类会越来越多地使用自己无法深入理解的工具,变成“快乐的猫”,而机器才是真正在做科学;也有人回应说,大多数人在其他领域本来就是这样生活的。