Larry Ellison:“公民会表现得最好,因为我们在记录”
对 Ellison 这番话的总体反应
- 许多人认为“因为我们在记录,所以会表现得最好”这句话明显带有威权色彩:行为将由掌权者定义,通过恐惧来强制执行,普通公民处于透明状态,而精英事实上被豁免。
- “全景监狱(panopticon)”这个比喻反复出现:持续可能被观察会促使人们自我审查、随大流,而不是自由行事。
- 一些评论强调核心的民主关切:监控用于监督权力是可以的(例如警察),但当监控集中针对公众时就很危险。
这句话的上下文与解读
- 有评论者指出更完整的上下文:Ellison是在一个关于警察执法记录仪的问答中发言,对比的是“警察”和“公民”,文章标题因省略这一点而被批评为标题党。
- 即便有这个上下文,许多人仍认为这种逻辑自然会延伸到普遍的、相互式的监控,而且依然令人不寒而栗。
监控、秩序与国际案例
- 人们将其与中国进行比较,并在较小程度上与俄罗斯和新加坡比较。
- 支持监控的一方声称,那里的高密度监控显著改善了公共秩序和日常信任,一些西方人也对这种权衡感到吸引。
- 批评者则反驳说,干净的街道和基础设施并不与全景监狱存在因果关系,而这类系统会滋生顺从、怨恨以及长期的社会病态。
- 一位来自孟加拉国的评论者描述了 AI 交通摄像头会自动对违规者罚款,称这显著改善了守法行为,并在严重犯罪环境下将监控视为一种“福音”。也有人担心未来的滥用、错误以及任务范围扩张。
AI 作为监控的放大器
- 几位评论者指出,AI 消除了人力瓶颈:过去 CCTV 还能管理,是因为需要人去观看和解读;而现在系统可以持续分析、评分并触发执法。
- 担忧包括:对轻微违规的完美执法、自动化的“有罪推定”、不透明的风险评分,以及“无限稳定的独裁”情景。
- 提议的原则包括:“个人有隐私,权力要透明”,为算法建立审计追踪,以及在高风险决策中禁止或限制不可解释模型。
执法记录仪与不对称性
- 执法记录仪被广泛支持用于警察,因为警察本就掌握强制性权力;有人举出录像揭露谎言或虐待的案例。
- 另一些人指出,记录仪常常会被关闭、选择性公开,或被重新包装成“警察宣传”,而且未必能减少致死事件。
伦理、权力与建设者
- 有人强烈批评科技领袖用监控来巩固控制而不是服务社会,也批评工程师为了高薪而为这类系统寻找合理化理由。
- 有些评论显得宿命论(“不可避免的全景监狱”),但也有人呼吁政治抵抗,并坚持如果允许任何监控存在,它应当首先从持续监控掌权者开始。