AI 正在如何影响科学？

原文 ↗ Hacker News 讨论 ↗

AI 的进步正在重塑科学工作，从 AlphaFold 的蛋白质结构预测和 DeepMind 的算法发现工具等高调突破，到代码辅助和论文总结等更平常但更普遍的用途。评论者权衡了 AI 在求解困难优化与模拟问题上提供“足够好”方案的潜力——有时会触及量子计算被认为的应用空间——以及它在完整生物功能预测等方面的当前局限。伴随对 AI 加速科研的乐观预期，关于伦理风险、岗位替代、环境影响，以及大量看似合理但质量低下的 AI 生成学术论文冲击同行评审的担忧也在增加。

AI vs. 量子计算

  • 一些物理学家担心，AI 的快速进展以及对 NP 类优化问题（例如物流、化学）提出“足够好”的启发式解法，可能会削弱对进展更缓慢的量子计算（QC）的资助。
  • 另一些人认为，QC 的主要优势并不在于 NP 完全问题，而是在于 BQP 类（例如因式分解），尤其是模拟量子系统。
  • 关于 QC 是否是“高度并行”的存在混淆和争论；一些评论强调，量子算法利用的是振幅和纠缠，而不是经典意义上的并行性。
  • 有人声称 QC 可以在 O(1) 内模拟“任何量子效应”，这一说法被质疑为过度简化，并受到硬件原语和读出约束的限制。

蛋白质折叠、AlphaFold 与生物学影响

  • AlphaFold 被广泛视为结构预测领域的革命性进展，极大加速了相关工作，但它并不是蛋白质折叠问题的完整“解决方案”：
    • 它在错义变体方面表现吃力，也不能直接给出功能、催化、动力学或细胞环境中的作用。
    • 静态结构只是药物设计或理解突变等复杂流程中的一步。
  • 即使能完美预测一级结构→四级结构，也不会仅凭这一点就改变社会；在建模相互作用、动力学和整细胞行为方面仍存在重大缺口。
  • 有人设想未来的 AI 系统能够映射“突变→功能变化”，并与 CRISPR 结合，从而实现广泛的基因治疗，但这被认为仍然是遥远的未来。
  • 有人提出，量子或更先进的模拟器用于整细胞分子动力学，可能会成为下一个前沿。

强大技术的伦理与局限

  • 一方认为，某些知识（例如蛋白质设计、先进 AI）对一个短视且不负责任的社会来说“权力过大”；他们将 AI 视为净负面，并质疑使大规模人口增长以及生态破坏成为可能的医疗和农业进步。
  • 另一方反驳说，技术（抗生素、疫苗、化肥）带来了巨大利益，人口增长正在放缓，核心问题是人类行为、治理和心理健康，而不是技术本身。

LLM 在科学实践中的应用

  • 许多人预计，近期最大的影响会来自平凡的用途：
    • 帮助不会编程的研究人员编写和调试实验代码。
    • 协助阅读、总结和撰写充满行话的论文，尤其是在跨学科或跨语言场景下。
  • 担忧包括：
    • 研究人员可能并不真正理解 AI 生成的代码，因而无法发现细微错误，但评论者指出，这在许多学术代码中本来就如此。
    • 验证仍然需要良好的测试设计和一定的编程素养；AI 是生产力辅助工具，而不是理解力的替代品。

垃圾论文与科学出版

  • 会议正在看到大量看似合理但空洞的、由 LLM 撰写的投稿，给审稿人容量带来压力。
  • 提出的应对措施包括预审过滤，以及要求已建立的社区成员为投稿“背书”。
  • 有人指出，LLM 文风存在可识别的习惯性特征，但通过谨慎提示可以减少这些特征，这意味着仅凭风格进行检测很脆弱；因此有人呼吁明确披露 AI 辅助的使用。