我们绝不能赋予 AI 代理法律人格

问责性 vs. AI 人格

• 核心关切是问责性，而不是作弊或能力。
• 人类和公司至少原则上可以被惩罚；AI 不能被关押、羞辱，或直接剥夺资产。
• 批评者认为，如果 AI 能复制/备份自己，销毁一个实例就不会产生任何威慑效果。
• 支持强监管的人说，AI 应始终有可识别的人类或公司控制者，由他们承担责任。
• 也有人反驳说，我们已经会让人类对“坏软件”承担责任，所以这只是另一个产品责任问题。

公司人格作为先例

• 有人把公司注册视为“人工人格”的既有机制，使 AI 人格在概念上类似。
• 也有人说，公司人格本来就是个错误，而且主要只是在分散或规避责任。
• 争论高管在严重伤害事件后到底有多常真正受到惩罚；有人说很少，尤其是在过失案件中。
• 讨论美国判例法和 Citizens United 是否确立了广泛的公司权利，以及其他地方是否是更狭窄的制度。
• 担忧在于，AI 迫使人们重新审视公司权利与责任，而不仅仅是 AI 权利。

自治系统的法律责任

• 类比：枪 + AI、狗、随机触发的炸弹，以及自动驾驶汽车。
• 普遍观点是：设计者/所有者/运营者应承担责任，类似当前的产品责任。
• 自动驾驶案例（例如 Waymo）：预期应由公司而非乘客对违规或损害负责。
• 没收法被提到作为一个例子：名义上的法律被告是物，而不是人。

意识、感知与道德地位

• 关于当前 AI 是否可能有意识，存在强烈分歧：
  • 一方：LLM 是工程工具；我们对它们的理解足以否定其有意识的说法。
  • 另一方：没有连贯的意识理论，因此自信的否认没有根据；神经网络与大脑在结构上有相似之处。
• 有人建议把“意识”保留给生物体，以避免把人类道德义务引入机器。
• 也有人警告说，现在就内置“无例外”规则，若未来出现真正有感知的系统，可能会导致数字奴役。

AI 人格的标准

• 有建议认为，任何严肃的人格讨论都需要：
  • 长寿、连续运行，并具有稳定的记忆和自我；
  • 持久的个性，不会被提示词轻易覆盖；
  • 承担义务的能力（例如，支付自己的算力费用、税款）。
• 扮演人格的代理（已故亲属、虚构角色）会引出关于身份、IP，以及何时/是否适用权利的棘手问题。

人类权利与 AI 交互

• 有人提议赋予 人类 围绕 AI 使用的新法律特权，例如把与本地 LLM 的私人聊天视为类似治疗师/配偶保密特权。
• 强调的是对 人类使用 AI 的保护 与 赋予 AI 的权利 之间的区别。

政治与社会背景

• 许多人认为，AI 人格目前仍属边缘且在政治上有毒，不过也有人指出公众普遍存在技术无知。
• 更广泛的批评包括：当代资本主义、公司有罪不罚，以及人类倾向于向更高“力量”（宗教/机器）屈服。