我知道为什么数学家会流泪

近期 AI 进展的速度与性质

• 许多人说，他们在智识上早就预期几十年内会出现强 AI，但仍然震惊于能力来得如此之快，尤其是在数学上的突破与加速。
• 有些人把这看作“奇点式”的持续加速；另一些人则认为物理和数据上的限制会迫使其进入平台期，并认为当前的外推只是猜测。

数学家的悲伤，以及其他领域的反应

• 一些评论者对数学家失去发现、身份和意义感到同情，把这比作失去一种志业或失去亲人。
• 另一些人则不同情，认为大家几十年来早就被警告过，或者指出艺术家、作家、文职人员和程序员更早就受到了冲击。
• 还有人认为，数学家的痛苦暴露了自我价值与生产力、声望和地位之间是多么紧密地绑定在一起。

AI 在数学中究竟在做什么

• 许多人强调，当前系统是在既有文献之上“超人般地进行演绎”，把现有技巧拼接起来，其规模是任何人类都无法匹敌的。
• 关于原创性的争论：有人认为模型被限制在训练数据里“思想的凸包”之内；也有人相信它们已经具备通用推理能力，能够扩展到实际上无穷的创新。
• 有人担心，近期的证明“倾倒”数量巨大、杂乱、往往不可读，而人们之所以相信它们，只是因为可以由机器检验，这造成了一种“有知识而无理解”的局面。
• 对职业影响的担忧：更少的资助、更不需要人类做定理证明，以及非终身教职数学家的不稳定处境进一步恶化。

LLM、写作与风格

• 一些人指出，聊天模型有一种明显的、常常带有公司/公关腔调的语气，并且在长篇、有人味的散文方面表现吃力，尽管它们在形式化数学上非常出色。
• 给出的解释包括：训练数据质量、为了安全性和通用对话而进行的优化，以及缺乏追求顶级文学风格的经济激励。

工作、资本主义与意义

• 对更广泛失业的强烈焦虑：软件工程师、技术写作者、翻译等人已经感到被取代，或者招聘冻结。
• 有人把责任主要归于 AI 之外的因素，提到更高的利率和宏观经济；另一些人则认为公司正在因为预期未来会进一步自动化而延迟招聘。
• UBI 被当作一种解决方案提出来，但许多人怀疑其政治可行性；对新的永久下层阶级以及人类议价能力被侵蚀的担忧十分普遍。

人类理解与社会知识的价值

• 多条评论强调，数学和科学也关乎直觉、解释以及共享的人类理解，而不仅仅是正确答案。
• “deontic scorekeeping” 之类的概念被提及：知识来自人类 לאורך时间 承担并评估承诺，而当前模型做不到这一点。
• 一些乐观者希望数学家会转而解释外星般的 AI 证明、创造新的抽象，并与工具协作，而不是被取代。