如果 LLM 具有类人的属性，那么《帝国时代 II》也一样

原文 ↗ Hacker News 讨论 ↗

对论文的总体反应

  • 许多人认为这篇论文带有玩笑意味或哲学上的嬉闹色彩，而不是严谨的科学研究。
  • 也有人称赞它及时地反击了对 LLM 过度延伸的类比和拟人化，尤其是在大众写作中。
  • 另一些人则把它称为“伪胡说八道”或“胡闹的怪论”，批评它前后不通、冗长累赘，并且只是对图灵完备性做了些微不足道的点题。
  • 还有少数人觉得这些主张本身很克制、边界也划得谨慎，但包装得像是在对某个模糊的反对阵营进行一场全面驳斥。

AoE II、图灵完备性与底层载体

  • 论文利用 AoE II 的逻辑门 / 脚本机制来论证这款游戏是图灵完备的，因此原则上可以运行一个 LLM。
  • 一些评论者指出，这不过是“任何图灵完备系统都能运行任何计算”这一标准观点，只是被延伸到了一个滑稽的载体上。
  • 另一些人则吹毛求疵地讨论具体构造（bit-goats、特定资源配置），并质疑这除了把游戏引擎当作一个慢速虚拟机之外还能证明什么。
  • 还有人将其与“图灵沼泽”（Turing tarpits）和“Doom-complete”设备相类比：原则上强大，实际上荒唐。

拟人化、意识与底层无关性

  • 核心争论是：如果你承认 LLM 具有“类人的属性”，那么按照底层无关性，同样的属性也应该在把 LLM 实现于 AoE II、LEGO 或其他任意媒介时存在。
  • 有人认为这暴露了拟人化论证有多么脆弱；也有人说，本来就接受底层无关性的人不会因此被说服。
  • 讨论还延伸到意识是否与语言、心智理论或特定神经结构相关，并举出反例（聋人、动物、章鱼、象棋引擎）。
  • 不少人认为意识是连续谱，在岩石、简单程序和人脑之间没有清晰边界；也有人拒绝这种看法，或认为它不可证伪。
  • 一个反复出现的主题是：模拟与实现之别。有人把 LLM 的“意识”比作雨景模拟器（并不湿），另一些人则把它比作算术（在实践中，模拟与执行可能几乎无法区分）。
  • 中文房间、中国脑，以及“通过同构性用一杯水实现一个心智”之类的思想实验，也被拿来挑战朴素的计算主义。

智能、能力与不断转移的标准

  • 一派观点认为，LLM 只是庞大的函数逼近器，擅长“胡侃”（waffle），受训练数据和对齐机制驱动，并不具备真正的理解。
  • 另一派指出，一旦系统通过了图灵测试、能写代码、能解决困难问题，批评者就会不断移动“智能”的定义，却不说明清楚标准是什么。
  • 有人认为真正重要的是实际可替代性（工作、写作、公司管理），而不是形而上的地位。也有人坚持认为，意识和道德地位仍然是开放且重要的问题。