Google 解雇 Timnit Gebru 时对 LLM 发出的警告，如今全都应验了

“Stochastic Parrots” 警告的范围与有效性

• 评论者列出了五个主要警告：看似流利但并不真正理解、偏见放大、环境成本、不可审计的数据集，以及权力集中化。
• 有人认为偏见、环境成本和权力集中化已经明显成为现实；也有人说前两个并不令人信服，第四个的影响并不明确，第五个只是现有科技垄断的又一个例子。
• 还有几位指出，许多被引用的偏见事件（招聘、医疗分诊、Apple Card）早于 LLM，并且涉及的是其他 ML 系统，因此把它们当作 LLM 的证据是有问题的。

偏见、歧视与红队测试

• 许多人同意大模型会编码社会偏见；例子包括带有性别歧视的输出、角色预设，以及意识形态调优（例如“反觉醒”模型）。
• 分歧在于其重要性：有人认为 LLM 偏见是核心且危险的；另一些人则说它在许多日常使用场景中基本无关紧要，并且可以通过 RLHF 缓解。
• 争论焦点还包括什么算作“歧视”、代理变量，以及某些统计差异（例如保险定价）是否应当成为法律或道德上的输入。
• 红队 vs 蓝队的类比被用来说明，批评者不必提出解决方案才有价值；另一些人则认为，没有具体补救措施的批评不值得继续获得资金。

理解 vs “随机鹦鹉”

• 有人认为最近的模型已经表现出明显能力（定理证明、复杂任务），因此把它们斥为肤浅的鹦鹉，这种说法“已经显得很过时”。
• 也有人认为，这些能力未必需要“理解”才能实现，这挑战的是人类例外论，而不是在验证机器的理解能力。
• 多位评论者指出，“stochastic” 这个词如今承担的规范性工作更少了；许多重要的人类与自然过程本身也是随机的。

环境、数据审计与模型崩塌

• 大规模训练带来的环境危害被广泛接受，但如何在其与收益之间取得平衡仍未解决。
• 不可审计的训练集（例如包含辱骂或非法内容）被视为一个严重但略显界定不足的风险；有人提到了一些文档化实践建议，但并未深入讨论。
• 关于 AI 生成数据形成反馈回路、从而削弱低资源语言的担忧也出现了，但有些人认为这些担忧过于模糊或证据不足。

中心化、开源模型与权力

• 一些人认为，将模型训练能力集中在少数公司手中，构成了一种新的重大文化与语言控制形式。
• 另一些人则认为，随着算力变得更便宜、开源/自托管模型达到“够用”的能力，这种集中会自我限制。
• 还有人担心，控制这些系统的人也就控制了哪些偏见被嵌入或移除。

Gebru/Google 争议与元讨论

• 对这位研究者究竟是被“解雇”还是在提出要求后事实上自行离职，存在强烈分歧；术语本身就有争议。
• 有人将这一事件视为大科技公司想要伦理信誉，却不真正允许学术自由的证据。
• 也有几位批评这篇 Tumblr 帖子本身引用不足、可能是 AI 写成的诱饵内容，并非该主题应有的严谨回顾。
• 元层面的担忧还包括 HN 的标记行为、评论数量偏低，以及围绕偏见与“觉醒主义”的讨论质量。