Anthropic 正在构建一个用于监控活动人士的预测性监控系统
批评者对有关 Anthropic 正在开发预测性安保工具、与一家类似 Palantir 的公司合作监控抗议并将高管从活动人士干扰中绕开，以及将带威胁性的 Claude 用户聊天内容上报执法部门的报道感到震惊。许多人认为，这表明以“安全”为名的封闭式 AI 正滑向更广泛的监控与预犯罪体系，并可能被威权政府或企业精英武器化，进一步加剧本已存在的公众信任危机。少数人反驳称，这在很大程度上只是传统的高管安保与威胁报告，认为将文章描述为格外阴险带有强烈的编辑立场。
Anthropic 和 AI 公司整体看法
- 许多人认为 Anthropic 和其他主要 AI 实验室与传统的监控/国防承包商几乎没有区别，更像是“Palantir 式”的公司，而不是“好人”。
- 评论者指出一种被认为存在的模式：硅谷的“宠儿”最终会变成战争、镇压或无处不在的监控工具。
- 一些人引用具体说法（例如模型整合进军事瞄准系统、安全后门）作为证据；但也有人在帖内并未核实这些说法。
监控活动人士和抗议活动
- 与 Samdesk 的合作被用于检测抗议并为高管绕开抗议路段，是主要争议点。
- 批评者将其描述为对活动人士的监控，以及故意让高管与公众异议隔离开来。
- 也有人认为，这只是利用公开可得的抗议数据，避免可能紧张或不安全的情境。
威胁报告与“预犯罪”担忧
- 据称，Anthropic 曾向警方报告一名用户：该用户表示自己持有武器并以 CEO 为目标，但由于内部政策并未分享聊天记录。
- 一些人认为这是正常且负责任的威胁报告；另一些人则认为这是迈向“思想犯罪”执法的一步，尤其是如果 LLM 聊天内容会被例行监控。
- 关于 AI 公司应当更倾向于报告还是漏报威胁，存在争论。
这与普通企业安保有何不同？
- 一派认为，这类似于标准的大公司高管保护和事件监控。
- 另一派认为，其规模、自动化程度以及针对活动人士的监控，使其在性质上不同，更接近一种预测性监控装置。
托管/在线 AI 与自托管 AI，以及阶层分化
- 托管模型被视为天然可被监控；自托管/离线模型则被看作实现私密交互的唯一路径。
- 有人担心，较富裕的用户将享有私人的 AI“思维空间”，而其他所有人的对话都可能被监控并转交给当局。
更广泛的政治与伦理担忧
- 人们强烈担心，这类系统会被当前和未来的威权政府用于压制异议。
- 关于信任的讨论：许多人认为，考虑到监控资本主义和以往滥用行为，出现“信任危机”是合理的。
- 也有人对聚焦“深层国家”叙事持怀疑态度，认为更明显的问题在于大科技、政府和企业权力之间的公开合流。