一位数学家解读 AI 的未来
AI 驱动的定理证明正在迅速推进，迫使数学家、物理学家和技术人员面对一个问题：多少“思考工作”可以被自动化，而什么仍然是人类独有的。评论者在权衡大型语言模型对纯数学和物理学的变革潜力时，也担忧职业价值被稀释、机器证明难以阅读，以及系统不对齐或不透明。许多人预计学术界和产业界会转向由人类充当问题设定者和“AI 侍者”，同时警告说社会、经济与伦理适应正落后于技术能力的发展。
范围与历史背景
- 有人认为当前基于 LLM 的 AI 在性质上不同于早期的“AI 寒冬”和诸如日本基于 Prolog 的第五代计划之类的项目；也有人警告说，这种炒作模式与互联网泡沫时代如出一辙。
- 讨论将符号 AI 与当前神经网络模型相比较，并提出 LLM“实际上就是大脑”，而不只是逻辑引擎。
AI 在数学中的应用：能力与影响
- 有人声称，最近的 AI 在几个月内推动开放数学问题的进展，比人类十年内取得的还要多；并提到 Navier–Stokes 以及在证明助手中对重大定理的形式化。
- 对于 AI 到底“真正”证明了多少、还是仅仅形式化了已有的人类结果，以及那些高调说法是否被夸大，存在争议。
- 担忧 AI 生成的证明，尤其是那些晦涩或不优雅的证明，会贬低新证明作为数学职业和博士论文核心“货币”的价值。
- 担心初级数学家很容易被“截胡”，而机构对于在“Math 2.0”中如何进行培养与评估并没有清晰计划。
- 一些从业者已经在用 AI 补全常规引理或显而易见的证明，并将其视为强大的助手，而非自主求解器。
验证、对齐与信任
- 争论机器检查的证明（例如通过 Lean）是否几乎不可反驳，还是仍可能因细微 bug 或定理表述错误而出问题。
- 更广泛的对齐担忧：将公司类比为不对齐的优化过程；担心类人机器人会受到人类暴力安卓故事的训练影响；以及纸夹最大化器场景。
物理学与实验科学
- 讨论中的物理学家预计 AI 会加速理论与解释工作，但指出实验现实仍然会约束并常常证伪那些优美的理论。
- 有人预见实验人员会更像由 AI 监督的技术员；也有人强调亲手实验技能与情境意识的持久价值。
问题、意义与意识
- 一方认为机器也许擅长解决问题，但不会提出“好问题”，因为好问题是相对于人类目标和品味来定义的。
- 其他人反驳说，RL 和偏好学习可以近似人类品味，因此 AI 也能提出有价值的问题。
- 关于 LLM 是否可能有意识或具有“求生意志”的长篇讨论中，观点从严格否认（“只是统计机器”）到开放接受不等，认为足够复杂的系统或许应当受到道德关注。
经济与发展轨迹
- 有人预计，一旦营销目标达成，私营数学 AI 项目会逐渐消退，长期工作将转向公共资助或具有经济相关性的数学（例如密码学）。
- 也有人强调，即使企业兴趣减弱，更广泛的 AI 能力跃迁是永久性的，并将继续改变科学工作和白领工作。