以自动驾驶作为 AGI 的案例研究

AGI 的定义 vs. “只是自动化”

• 许多人认为自动驾驶只是复杂的自动化，而不是 AGI：它解决的是一个有边界的任务，并不能泛化。
• 对 AGI 的定义存在分歧：
  • 一派关注跨领域的“通用问题解决”（数学、编程、科学、驾驶）。
  • 另一派强调经济层面的表述：在大多数具有经济价值的工作上超过人类。
  • 有些人觉得这种经济定义“令人沮丧”，并且被企业/营销利益所劫持。
• 几位发言者认为当下的讨论“忘了 G”，而且 LLM 与自动驾驶都看不出通向真正通用性的明确路径。

自动驾驶技术的现状

• Waymo 在美国几个城市的服务被一些乘客称赞为安全可靠；也有人指出事故、棘手的边缘情况、远程协助和地理围栏限制，认为它被过度宣传了。
• 关于当前系统究竟是“AI”还是“复杂控制算法”存在争论；一些人坚持它们只是前向计算图，而另一些人指出现代自动驾驶系统在很大程度上是基于 ML 的。
• 有人认为硬件限制（摄像头质量、固定位置、缺少额外传感器）是根本性的；也有人认为更多传感器或更好的软件可以克服这些问题。

LLM、智能与测试

• 对 LLM 是否根本算 AI 存在争议；一些人说它们“只是统计技巧”，另一些人则引用主流 AI 教科书，认为语言模型是 AI 的核心部分。
• 讨论了图灵测试和中文房间思想实验；许多人认为 LLM 在自发信息搜寻、常识和具身感知方面都不合格。
• 有人提出更严格的 AGI 基准（例如解决像《塞尔达传说》神庙那样的复杂游戏谜题）。

经济与社会影响

• 历史类比：过去的自动化消灭了岗位，但也创造了新岗位；一些人担心这次在 AGI 时代可能会不成立。
• 对失业的担忧（尤其是创意工作）、“废话工作”的消失，以及 UBI 是否有必要或在政治上是否可行。
• 对 AI 加速错误信息和深度伪造的担忧，不过也有人认为宣传一直都存在，社会会适应。
• 有些人预期会像自动驾驶逐步落地那样出现温和、渐进的调整；另一些人则预测，一旦物理系统被广泛自动化，将出现严重动荡、抗议以及更严厉的应对。

更广泛的怀疑与时间表

• 几位评论者认为，严肃意义上的 AGI（以科幻意义理解）还要几十年才会到来，而当下“AGI 很快到来”的叙事主要是炒作。
• 他们对术语不断变化以及缺乏精确、共享的定义感到沮丧；有人呼吁把哲学争论与实际自动化讨论分开。