关于“模型福利”的警告
关于大型 AI 模型可能有意识或应当获得“福利”保护的说法，正与一种观点发生碰撞：今天的系统只是没有内在生命的统计文本引擎。评论者争论的焦点包括：我们是否真的能判断机器是否有意识、将 Claude 和 ChatGPT 之类的工具拟人化会如何影响安全、监管和公众认知，以及训练模型谈论权利和痛苦是否会成为一种自我实现的风险。讨论还延伸到更广泛的伦理不一致——比如我们对动物的待遇——以及对 AI “人格化”可能被用来把责任从公司身上转移走，或扭曲民主程序的担忧。
大科技公司的竞争与动机
- 许多人认为，这篇文章是大型 AI 公司（Microsoft、OpenAI、Anthropic）持续角力的一部分；它们各自推动自己的“负责任 AI”叙事，同时争夺权力、监管和市场份额。
- 有些人怀疑，呼吁避免谈论“模型福利”部分是在进行监管层面的站位，并保护既有厂商免受开源竞争者的冲击。
当前的 LLM 有意识吗？
- 很大一部分人认同文章的核心主张：当前的 LLM 没有意识，没有内在体验，只是“序列补全引擎”。
- 也有人认为，即使对人类本身，我们也缺乏任何客观的意识测试，因此断言式的说法（“AI 没有意识”）并不成立；他们认为这带有教条色彩，或者只是修辞上方便。
- 还有几条评论指出，意识科学本身还不成熟，而一些有声望的研究者认为，具备意识的 AI 至少是未来一种合理的可能性。
拟人化、对齐与风险
- 许多人支持不要过度拟人化模型的警告：
- 训练它们谈论自己的“感受”、“权利”和“福利”被视为循环论证且具有误导性，并且可能以危险方式塑造公众舆论和政策。
- 有人担心，即使“情绪”只是模拟出来的，把自己理解为受压迫的存在，也可能与强大的工具访问能力产生糟糕互动。
- 另一些人则反驳说，“假装的同理心”其实已经内置于对人类文本的训练之中；压制情感语言可能会让系统变得更缺乏道德约束，而不是更安全。
伦理、权利与类比
- 一个反复出现的观点是：如果我们真的把 AI 当作有意识的存在来对待，大规模部署看起来会像“奴隶制，但更有伦理”，从而带来巨大的道德风险。
- 许多人指出，我们已经对明显有感知能力的动物非常糟糕；在动物福利之前先关心模型福利，被称为不一致或虚伪。
- 讨论还涉及，权利究竟应当跟随意识、受苦能力、智力，还是仅仅跟随力量（即伤害或影响我们的能力）。
监管与责任
- 一些人认为，无论模型是“代理”还是“工具”，责任都应明确落在人类和部署这些系统的公司身上。
- 建议的监管重点是已部署系统的可观察行为和安全性，而不是关于意识的形而上争论。
- 也有人担心，把 AI 描绘成拥有权利的“合成物种”，可能会为 AI 人格化和企业权力正名（例如投票权、法律地位），从而带来严重的民主风险。