数学（以及科学）会迎来黄金时代还是黑暗时代？

Meta：博客与作者身份

• 多条评论聚焦于博客本身：人们怀念博主自己的原创文章，并觉得客座文章重复了类似主题。
• 有些人更希望减少客座文章，或为观点性文章单独设立一个场所。
• 也有人为博客近期在 AI 领域所扮演的领导角色辩护，认为这个领域需要协调，也需要有人来催化讨论。

数学的黄金时代 vs 黑暗时代

• 乐观观点：AI 将通过加速计算、证明和交叉引用，推动黄金时代的到来，从而启发新理论并加深理解。
• 悲观观点：AI 可能带来一股难以理解的结果洪流，知识和权力会集中化，尽管形式上的进展在加速，人类数学仍可能进入“黑暗时代”。
• 许多人预计结果会是混合的：会因制度、激励机制和开放程度不同，而在某些领域出现黄金时代，在另一些领域出现黑暗时代。

LLM 在数学中的作用与局限

• 关键担忧：AI 可以证明，但不能教。机器生成的证明（尤其是 Lean 形式化）往往庞大且难以理解；自然语言解释则被认为质量低下或杂乱。
• 有人认为数学本质上关乎人类理解，而不仅仅是解决猜想；如果只有机器理解，‘人类数学’就会萎缩。
• 也有人反驳说，更快的定理求解仍会增加人类去解释、统一并把“垃圾信息”转化为概念和教科书的需求。

控制、开放性与基础设施

• 人们强烈担忧前沿模型被私有控制：大型实验室可能实际上成为哪些问题会被解决的裁判，囤积能力，并把研究者的提示词用作训练数据。
• 讨论争论建立独立的、学术性的 LLM 基础设施是否至关重要，还是仅仅是出于自身利益的寻租。
• 开源与闭源模型是反复出现的主题；分布式本地模型和开放科学被视为更具民主性。

职业、激励机制与门槛把关

• 对 AI 是增加还是减少数学家需求存在分歧：一些人预见会有更多专注于理解的角色，另一些人则看到直接替代和更少的工作岗位。
• 与软件工程的类比：AI 降低了对初级人员的需求，带来没人能完全理解的“黑箱”系统风险，但也使个人能够完成过去需要大型团队才能完成的工作。
• 有些人发泄对过去数学领域精英主义的挫败感；另一些人则认为数学在客观标准下出奇地具有 meritocratic 特征。

更广泛的社会与经济担忧

• AI 被视为更大转变的一部分，这种转变影响所有知识工作，而不仅仅是数学。
• 担忧包括永久性的底层阶级、精英攫取 AI 驱动的进步、围绕 AI 生成发现的知识产权与专利制度，以及如果人们过度依赖自动化工具，人类专业能力将被削弱。