解读“一个定理因为在 Lean 中被检查过所以它是正确的”这一说法
关于“一个数学定理因为在 Lean 中被检查过就算被证明了”的说法,随着 AI 系统生成越来越庞大的形式化证明,这一问题正受到审视。评论者指出,尽管 Lean 的证明检查器能强力保证某个形式化陈述可以从给定公理中逻辑推出,但它并不能确保该形式化陈述真的对应预期定理、没有隐藏花招,也不能消除内核 bug 的风险。许多人仍然认为机械化证明和形式化验证是重要进步,但也主张,如果它们要在数学和软件中真正可信,就必须结合人工判断、清晰规格说明,以及更好的工具。
Lean 证明 vs 数学真理
- 很多人把“在 Lean 中检查通过的证明”类比为“能够编译的代码”或“通过单元测试的代码”。
- 共识是:Lean 只能保证“如果这个形式化陈述正是你的本意,那么这个证明就是正确的”,但不能保证这个形式化陈述与非形式化的定理完全一致。
- 有人认为这更接近“形式化验证过的代码”,而不是单纯的编译通过,但规范与实现不一致的问题依然存在。
规范 vs 形式化陈述
- 核心担忧:验证 Lean 中的陈述是否与预期定理一致并不简单,尤其是在依赖栈很大、定义很多的情况下。
- 误表述(例如在一个类似费马大定理的例子里忘记 ℕ 包含 0)可能让错误或平凡的陈述看起来像是“已证明”。
- 大量导入可能隐藏重定义或“花招”,从而微妙地改变含义;像
lake comparator这样的工具被讨论为缓解手段。
LLM、证明规模与质量
- 多条评论指出:LLM 常常生成极其冗长、繁琐的 Lean 证明,远比人类写的长。
- 它们有时能找到比蛮力证明器更短的论证,但平均而言会产出很难理解的“垃圾代码”。
- LLM 生成的 Lean 被比作会真空通过的单元测试(例如把测试替换成无操作)。
信任、内核与潜在利用
- 讨论了独立内核和形式化验证过的检查器,作为防范 Lean 内核 bug 的部分措施。
- 一个已知的内核 bug 曾被利用来“证明”一个错误命题,这说明智能体可以、或者最终会设法利用这类问题。
- 运行任意 Lean 代码被标记为不安全,因为它可以执行任意程序。
对软件与形式化验证的应用
- 大家对使用 Lean(及相关工具)来验证软件非常感兴趣,从 DSL 一直到完整语言。
- 一些项目直接在 Lean 中建模编程语言;另一些则使用浅层嵌入或语言专用工具。
- 形式化证明被视为对测试和评审的强大补充,但并非灵丹妙药。
巨大证明的价值与目的
- 人们担心证明大到没有人能理解。
- 即便如此,有些人仍认为它有价值(例如在经过验证的软件中,或用于指导物理实验);另一些人则担心数学会变成一种黑箱游戏。
- 总体态度是:形式化是有价值的,但像“在 Lean 中证明了”这样的说法需要谨慎、细致地解读。