AI 提升研究职业发展，但缩小了探索想法的范围：研究

AI 输出的性质与科学新颖性

• 许多人认为，LLM 主要只是重现或插值现有知识，强化正统观点，而不是生成根本性的新想法。
• 也有人反驳说，证明已有猜想、连接已知结果，或把“平均”推理规模化，在实践中仍然是在拓展边界。
• 争论焦点在于：LLM 是在架构上就无法产生真正的新颖性，还是只是目前所受到的激励和训练方式抑制了这种新颖性。

激励、指标与“扁平化”式发现

• 一个强烈的主题是：真正的问题在于激励机制（引用、影响因子、论文数量），而不是算法本身。
• AI 放大了既有趋势：围绕已经热门的主题聚集、为了引用而优化，以及对有缺陷的指标进行 Goodhart 化。
• 有人指出，Web 搜索更早也经历过类似转变；AI 被视为下一步，会让注意力进一步集中到已经被反复走过的领域。

职业提升 vs. 集体进步

• 据称，AI 使用者能发表更多论文、获得更多引用，并更快晋升；评论者认为这在个人层面是理性的，但在整体上可能有害。
• 这被类比为金融中的“逐底竞争”和拥挤交易：优化同一组信号会侵蚀真正的优势或发现。
• 还有人担心，AI 会成为“只收割学术归属”的人和连续合作者的工具，让他们在没有深度贡献的情况下夸大产出。

对学习、认知与专业能力的影响

• 对于轻松获得 AI 帮助是否会削弱深度理解，意见分歧很大。
• 有人认为，艰难地解决难题对真正掌握知识至关重要；AI 会切断这一过程。
• 也有人认为，要求自己从头重新推导一切并不现实；AI 可以去除琐碎劳动，让人有更多时间进行高层次思考。

创造力、溯因推理与未来的 AI

• 一些评论认为，当前的 LLM 缺乏溯因推理和感官反馈机制，因此它们只是在既有概念“向量空间”内探索。
• 也有人反驳说，现在就断言存在严格的架构上限还为时过早；未来的 RL 设定或世界模型或许能支持更真实的理论发明。

更广泛的系统性批评

• AI 被认为是在用其既有缺陷为科学“产业化”全面加速：论文工厂、掠夺性期刊，以及官僚化指标。
• 一些人希望，借由加速这种失灵，AI 能迫使研究评估和资助方式发生纠正；另一些人则持悲观态度。