Yann LeCun：达到人类水平的人工智能还需要很长时间

智能的本质与 AGI 的可能性

• 有人认为不存在原则性的障碍：人类是机械性的物理系统，因此智能应该能够在机器中被复现。
• 也有人怀疑存在信息论或“系统内”限制（类似 Gödel 风格），可能会限制我们彻底理解或工程化智能的能力。
• 还有一种折中观点：AGI 原则上是可能的，但其复杂度可能过高，或在任何现实时间尺度内都难以实现。

计算、物理与意识

• 一派将宇宙和大脑视为机械性的，至少是图灵完备的（或“超图灵”的，但仍然是物理的）。
• 另一派质疑“智能 = 计算”是否只是信条，以及当前的计算概念是否 באמת能涵盖所有物理过程。
• 有人认为意识/感质是人类水平智能的必要组成部分，而且目前尚未被解释；也有人把智能（解决问题、建模）与主观体验区分开来。

LLM、缩放定律与架构限制

• 争论焦点在于，扩大 LLM 规模并结合多模态训练，是否能渐近地达到人类水平的世界建模和推理能力。
• 支持者引用通用逼近结果和经验性的缩放定律；批评者则指出这些定理的局限（连续性、无限精度、实用性），并预计缩放会遇到平台期。
• 许多人同意当前的 LLM 缺乏稳健的因果推理、规划和持续学习能力，并且很可能需要新的架构和模块（例如基于模型的 RL、具身系统、记忆）。

数据、算力与效率

• 有人担心高质量文本数据和可负担的算力会成为进展瓶颈；也有人反驳说，多模态、合成和交互数据，以及更便宜的专用硬件，会延长缩放的可行性。
• 大脑与机器效率的比较也经常被提起：生物大脑的能效要高得多，而且可能使用截然不同的机制。

什么算作 AGI？

• 定义各不相同：
  – “能够胜任人类可以做的任何有经济价值的工作。”
  – “能够根据高层指令自主学习新任务。”
  – 包括或不包括情感、自我意识和内在目标。
• 有人认为当前系统已经达到较弱意义上的“通用”门槛；另一些人则把 AGI 保留给更广泛、更像人类的能力。

风险、影响与时间线

• 许多人认为，灾难性影响并不需要人类水平的 AGI；狭窄、愚笨的系统已经在扭曲政治、劳动和隐私。
• 对时间线的看法分歧很大：从“还要几十年甚至更久，而且需要许多突破”，到“考虑到资本、人才和军备竞赛动态，可能会出乎意料地快”。
• 监管争论也随之出现，但仍然比较模糊；一些人认为谈论超人 AI 风险为时过早，另一些人则认为提前规划类似于对强大技术进行预防性监管。