人工疯狂
关于大型语言模型究竟只是“随机鹦鹉”，还是体现出真正智能的争论，构成了一场更广泛的讨论：当前 AI 系统究竟已经进展到何种程度，以及它们究竟本质上缺少什么（例如意识、稳定的内部世界模型或持续学习）。评论者将解决高难度数学问题等令人印象深刻的能力，与持续存在的失败、不一致和漂移相对照，借此要么认为 AI 被过度炒作、只是模式匹配工具，要么认为它是正在快速进化、会重塑劳动与权力的通用工具。该讨论串也质疑了这样一种说法：AI 公司和政治精英正准备利用先进系统来管理由气候变化导致的大规模死亡；有人认为这是极端的末日论，另一些人则警告说，无论意图如何，强大的 AI 都会加速既有的人类风险与不平等。
对 LLM 的感知本质
- 关于“随机鹦鹉”这一说法是否仍适用于现代模型，存在强烈分歧。
- 一方认为：早先的批评已经“失效”，因为如今的模型能生成稳定、有意义的文本，并解决困难问题（例如高等数学、编程、长周期任务）。把它们称作鹦鹉，被视为脱离现实或只是在表态。
- 另一方则认为：它们仍会产生幻觉，在简单任务上失败，在对话中跑偏，而且缺乏真正的理解、内在世界模型或持续学习能力。“鹦鹉”被辩护为一种隐喻：文本有意义，但其背后没有会意图的心智。
能力与局限
- 支持者强调从 GPT‑2 到当前系统的能力快速提升、在基准测试上的强劲表现、在许多智力领域达到同侪水平的能力，以及效用的指数级增长（尤其对非专家而言）。
- 怀疑者则认为，进展正在显现递减收益，基准测试夸大了现实世界的实用性，而 LLM 面临内在的概念性限制（没有现实的内部模型、“冻结的大脑”、只做统计推断）。
- 关于还能有多少进展，存在争论：有些人预计近期会出现超级智能和递归自我改进；另一些人则警告不要天真外推。
风险与危害加速
- 普遍认同的是，当前 AI 主要是在加速既有人类风险：黑客攻击、欺诈、武器、虚假信息以及权力集中。
- 有些人认为这种加速令人恐惧，因为它让危险能力更易获得；另一些人则认为 AI “只不过”是一个强大的工具，仍然运行在人类控制的系统之内。
- 若干评论担心，控制极强 AI 的人会在金融、政治、法律和战争等领域获得不成比例的权力。
气候变化、精英与监管叙事
- 文章将气候驱动的大规模死亡、AI 替代劳动以及精英策略联系起来的说法，遭到强烈质疑。
- 一些读者觉得这种联系新颖，但要求证据；另一些则将其斥为阴谋论、极端主义，或“几乎妄想”。
- 人们对批评对象究竟是特定科技领袖、某种政治运动，还是更广泛的统治阶级感到困惑。
意识、判断与伦理
- 围绕“缺乏意识就不可能做出真正判断”的说法存在争议。
- 参与者争论举证责任应落在谁身上：是主张 AI 可以有意识的一方，还是主张 AI 不可能有意识的一方。
- 也有人提出道德谨慎：如果意识或道德可受损害性哪怕只是有可能，那么过快地否定它，可能带来严重的伦理代价。