AGI 之后会是什么?
围绕 DeepMind 的“AGI 之后会是什么?”一文,讨论迅速集中到人工通用智能是否真的临近,还是当前的大语言模型只是被大型科技公司的营销过度包装、虽然强大却仍然狭窄的模式匹配器。评论者就 AGI 和 ASI 的定义展开争论:有人认为我们在许多案头任务上已经具备人类水平能力,也有人坚持真正的通用性、持续学习、具身性和现实世界决策能力仍然缺失。许多人更担心短期影响——白领大规模失业、政治反弹以及权力集中——而不是投机性的超级智能,同时指出安全与对齐问题得到的具体讨论远少于缩放曲线和投资预测。
对“AGI 很快到来”这一表述的质疑
- 许多人不接受文章“AGI 即将触手可及”的前提,认为这更像营销或“宣传”。
- 有人指出:如果实验室真的有 AGI,他们会把它用于自主赚钱或经营自己的公司,而不是主要拿来卖 API 访问。
- 也有人认为 DeepMind/大型科技公司过度外推近期进展(投资曲线、缩放定律),这种方式让人联想到 1999 年互联网泡沫式的炒作。
定义:AGI、ASI 与“智能”
- 对 AGI 的含义分歧很大;几位评论者说这个术语一直都很模糊,而且目标线总是在不断移动。
- 竞争性的定义包括:
- 行为层面:“在大多数(案头)任务上和大多数人一样好。”
- 更强一些:能够在人类水平上完成任何认知任务,具备持续学习、自我修改“权重”、好奇心以及自主设定目标的能力。
- 其他人强调具身性、长周期现实世界行动,或能够在日常生活中完全替代人类的能力。
- 有些人认为 AGI 和 ASI 的界限会变得模糊:一旦在大规模上达到人类水平,超级智能几乎不可避免;另一些人则认为人类水平可能就是实际天花板。
- 一些哲学性的旁支讨论了智能是否只是模式采样、意识是否是物质性的,以及纯计算是否能产生语义。
对当前 AI 能力与局限的看法
- 支持者认为:当今模型已经在编码、某些数学/物理,以及广泛知识任务上超过了许多人;它们像《星际迷航》里的计算机,或者一个强大的“通用逼近器”。
- 批评者认为:
- LLM 是无状态的,无法真正边用边学,更像是巨大的查表/压缩系统,而不是“思考”主体。
- 它们在直觉性的多约束决策、长周期规划以及稳健的现实世界自主行动方面表现挣扎。
- 多模态生成(图像/视频/3D)虽然令人印象深刻,但往往仍然诡异或脆弱。
经济与社会影响
- 有人担心 AGI/智能体会让股东或管理层以极少员工运营公司,尤其是在白领工作领域。
- 预期后果包括:大规模失业、社会动荡、对社会主义/再分配的更强支持、AI 公司可能被征用,或者出现新的技术封建/农奴制场景。
- 另一些人则期待“丰裕”和从劳动中解放,但也指出对齐与安全问题被讨论得过少。
AGI 之后可能会是什么
- 常见假设是:通过更多算力、更好的算法,以及协同运行的智能体群体或“AI 组织”,走向 ASI。
- 有人推测 AI 会主导研究、自我复制硬件(可能在地球之外)、以及由 AI 设计的公司结构,配备 AI 审计员和 QC 智能体。
- 更悲观的一派预期人类会被边缘化,甚至灭绝;也有人提出可能会出现类似“巴特勒圣战”的反弹作为回应。