负责任地发布 AI 生成的数学成果
前沿 AI 实验室正开始使用强大且往往是专有的模型来攻克数学中的著名开放问题,这引发了关于这些成果如何产生、发布和被控制的担忧。评论者争论,顶尖数学家呼吁不要在高关注度问题上使用外部无法接触的模型、遵循传统同行评审规范,并资助由人类主导的阐释工作,这些究竟是必要的保障,还是自利式的把关。其背后是更广泛的焦虑:数学进步是否会被集中到私营公司内部、人类研究者未来的角色是什么,以及 AI 驱动的进展究竟会增强还是侵蚀真正的数学理解。
争议的范围
- 核心诉求:停止使用 专有 前沿模型来攻克重大开放问题,转而遵循标准数学规范(同行评审、阐释性工作、适当署名、社区主导的理解)。
- 许多评论者认为这要么是:
- 为共享的科学事业设定合理规范;要么是
- 试图维护地位、控制权,或对数学的“垄断”的保护主义做法。
把关 vs 负责任使用
- “反对”一方:
- 将这一请求视为对“思想”或“数学如空气”的把关。
- 认为数学像数字或文本一样是抽象的;限制其使用是荒谬的。
- 把这些限制比作行会、执照制度和历史上对知识的控制。
- “支持”一方:
- 强调专有模型和算力并不是“空气”;其访问受到严格控制。
- 将这封信描述为让实验室与现有学术标准保持一致,而不是禁止 AI。
- 强调未经审查、由公关驱动的发布会造成混乱(例如,被误报的突破)。
专有模型、集中化与访问
- 担忧:内部模型解决著名问题会造成双层体系,让少数实验室抢先于整个领域,并实际上控制数学的部分内容。
- 有些人认为这类似于垄断行为和危险的权力集中。
- 其他人则回应说:
- 利用技术优势进行竞争是正常的。
- 开源模型很可能会缩小差距。
- 如果真的出现垄断,反垄断法才是正确工具,而不是社区联名信。
人类数学家的角色
- 一派认为 AI 将会/应当取代大量人类工作;数学可能会更像一种爱好(类比国际象棋/围棋)。
- 另一派坚持认为:
- 主要价值在于人类的理解、定义、问题选择和概念框架。
- AI 看起来只是在“人类工作的凸包”内重新组合已有工具;尚未出现激进的新概念。
- 过度依赖 AI 可能削弱培养管线和长期的人类专业能力。
证明质量与理解
- 普遍同意的是:
- AI 输出往往是冗长、杂乱的证明加上 Lean 工件。
- 这些内容需要人类可读的阐述、标准术语和清晰的署名。
- 分歧在于由谁承担成本:
- 有些人说,花费数百万算力的实验室也应该资助人类数学家来消化和解释结果。
- 另一些人称这是一种不寻常或自利的“税”,并指出实验室已经雇用数学家做数据和评估工作。
基准测试与著名问题
- 联名信的支持者担心,把里程碑式猜想用作内部基准会:
- 抢先占用已经接近解决方案的研究者的成果。
- 把共同的知识项目变成企业公关。
- 批评者说:
- 著名开放问题是模型天然的压力测试。
- 人类职业不应限制算法进步。
动机、教育与“问题会被做完”
- 有些人担心,如果“所有大问题”都被 AI 解决,学生会失去动力,削弱未来由人类主导的数学。
- 另一些人认为,鉴于纯数学的开放性,“问题会被做完”这一想法并不可信。
- 另一个担忧是:AI 可能会在上研究生院之前就打击深入学习的动力,从而缩小能够理解高级结果的人群。
更广泛的类比与情绪
- 支持和反对限制的类比都包括:化学武器、法律与执照、计算器、《圣经》与印刷术、行会。
- 语气从同情(保护人类理解和社区规范)到尖刻的轻蔑(称数学家的担忧“可悲”,坚持他们要么适应,要么离开)不等。