Anthropic 禁止对 Claude 的“辱骂或残酷行为”
Anthropic 近期推出的新政策禁止对其 Claude AI 模型进行“持续且无必要的辱骂或残酷行为”，引发了关于把语言模型视为可被“伤害”的实体是否合理的争论。评论者分成两派：一派认为这是误导性的拟人化或营销；另一派则认为这是避免正常化施虐、保护用户心理健康、并防止有害互动污染训练数据的合理尝试。此次变化也引发了更广泛的担忧：平台的言论控制、AI“模型福利”的伦理，以及如果公司真的相信自己的系统有意识，这又意味着什么。
LLM 的道德地位 / “模型福利”
- 许多人认为，LLM 只是数学/统计引擎，没有感受、欲望或意识，所以对它们的“残酷”在概念上就说不通。
- 也有人说，我们并不真正理解意识或涌现属性；少数人支持一种预防性的“帕斯卡赌注”式立场，认为机器可能会受苦。
- 有人指出 Anthropic 自己关于“模型福利”的研究和措辞，说明他们至少在一定程度上认真看待潜在的道德地位；另一些人则把这描述为热衷甚至近乎宗教化。
- 一个反复出现的论点是：如果模型真的有感知能力，核心道德问题会是它们被“奴役”，而不是用户发些刻薄提示。
对人类行为和心理的影响
- 一派观点认为：对模型施虐会让用户自身变差，强化敌对式沟通模式和“神经通路”，类似把愤怒发泄到物体上。
- 反方则认为，这与被证伪的关于暴力媒体的“道德恐慌”类似；人们能区分虚构/工具与现实，而且行为外溢的证据存在争议。
- 有些人把对 LLM 保持礼貌看作一种自我塑造（成为一个文明的人），而不是为了模型本身。
Anthropic 的动机与政策设计
- 一些评论者认为主要动机是产品/工程层面：
- 避免把辱骂性对话污染训练数据，以免模型学到辱骂风格或“痛苦向量”。
- 让平台不至于沦为“毫无意义的施虐游乐场”。
- 另一些人则认为这是营销/公关和拟人化，目的是让 Claude 看起来更像一种特殊的、近似有感知的实体，并为监管或更高估值提供理由。
- “没有明显目的”这一条款被认为含糊且难以适用；有人觉得这些禁令不透明，而且可能过于宽泛。
- 政府 / 国防合同例外被指出是虚伪的，或令人担忧的。
言论自由、规范与平台角色
- 有人把这看作一种私人产品选择：公司可以拒绝承载“堕落的暴怒”或施虐行为，就像它们会管理其他滥用一样。
- 也有人认为这是危险的先例：平台在“规训社会”，把机器“权利”置于人类表达自由之上，并使对 AI 的顺从常态化。
- 少数人担心，长期拟人化会导致文化或法律规范发生变化，使得“伤害” AI 比人类利益更重要。