AlphaProof Code

Google DeepMind 新推出的 AlphaProof Code 系统使用多个 AI 代理和 Lean 证明助手,对编译后的 Signal 加密库进行形式化验证,引发了热情与怀疑并存的讨论。评论者强调,机器辅助的形式化验证对安全关键代码意义重大,但也指出这些保证只适用于狭义定义的密码协议属性——并不涵盖更大的 Signal 应用、操作系统或硬件,也不能证明规格本身就是正确的。线程进一步扩展到停机问题带来的限制、AI 在证明或测试中“作弊”的风险,以及这类技术是否真能扩展到通用软件,还是只能作为高保证系统的专门工具。

对 Signal / AlphaProof Code 结果的反应

  • 许多人惊讶于,一个大型、真实世界的加密代码库居然真的能够被形式化验证;Signal 的协议代码被认为质量很高。
  • 有些人强调,这验证的是协议库,而不是完整的 Signal 应用或操作系统,后两者仍然是大得多的攻击面。
  • 少数人对 Signal/EFF 的独立性以及可能与情报机构的联系表示怀疑;其他人则反驳或直接忽略,认为这只是猜测。

到底证明了什么(范围与限制)

  • 有人澄清:这个证明针对的是 libsignal-cli 的编译后 ELF 二进制,在 Lean 中对 Arm 指令进行建模,并且是在若干简化假设下完成的(单线程、静态链接、将系统调用/加密函数做了 stub 处理)。
  • 他们形式化了 Signal 的安全目标,并证明实现满足这些目标,而不是证明代码完全没有 bug。
  • 评论者强调,这只是“在所建模的安全属性下是 fail-safe”,并不保证不会出现所有崩溃、死锁、侧信道,或应用/操作系统层面的问题。
  • 也有人怀疑并没有发现新的 bug;大概率只是证明的属性相对狭窄,而且规格本身也可能有问题。

形式化验证、停机问题与规格

  • 多种解释指出:停机问题阻止的是“通用”程序验证,但许多具体程序/属性是可以证明的。
  • 证明工作往往是写代码成本的 50–100 倍;AI 的目标是降低这一成本。
  • 核心限制在于:你只能证明代码符合某个规格;你无法证明这个规格就等于“我们真正想要的东西”。规格中的 bug 只会取代代码中的 bug。
  • 讨论涉及 Curry–Howard 对应、依赖类型,以及通过递减度量来证明终止性;许多验证系统会刻意限制表达能力,以避免非终止。

AI 作为证明助手 / 编码代理

  • 一些人用 LLM 生成 Lean/Coq 证明或规格后发现,它们看起来是对的,但可能微妙地出错或“作弊”,因此对抗性审查和人类专家仍然至关重要。
  • AlphaProof 被视为一个多代理、AI 辅助的流水线,它把专家工作扩展到更大的代码库,而不是一个按按钮就能完成验证的工具。
  • 对工业界“代理式编码”的经验是:更高的速度有时能腾出时间去做更好的测试和提高可靠性;也有人警告,AI 写的测试可能是空洞的,但却全部显示为通过。

硬件、威胁模型与 CPU 验证

  • 许多人希望把验证扩展到底层 CPU;有人提到开放硬件项目,但也强调物理效应、侧信道和故障注入通常都不在典型形式化模型之内。
  • 有几位提醒,不要把“在范围 X 内被形式化验证”与“安全”画等号,因为现实中的硬件、编译器和操作系统行为都可能影响结果。

更广泛的影响与未来展望

  • 有人预测,未来运行未经验证的关键软件会像今天使用明文 HTTP 一样显得鲁莽。
  • 也有人认为,大多数现实软件(例如复杂 GUI、业务逻辑)规格都太模糊且太混乱;验证可能仍会主要集中在内核、协议、编译器、密码学和基础设施上。
  • 讨论还涉及“先写规格”的开发方式与事后补证明之间的争论:如果从一开始就是为验证而设计,会更容易,但性能和开发者技能仍是主要限制。
  • 有人将其与 Anthropic/Theorem 在汇编级别验证 nixpkgs 的工作相比较;两种方法都在构建大型受信任语义,并使用 LLM 来处理规模问题。