Flock 的 CEO 在其摄像头导致我被错误拦截后当面对质我

初创公司 Flock Safety 的自动车牌识别器因一宗与车牌误识别有关的错误警察拦截而遭到猛烈批评,这引发了人们对该公司技术以及警方使用方式的审视。评论者争论核心问题究竟是软件缺陷、对自动化的过度依赖,还是警务文化本身,并认为即使有助于破案,大规模、无令状监控也与公民自由不相容。许多人呼吁对这类系统进行更严格的监管甚至彻底废除,警告它们会巩固一个几乎没有问责的私有化监控基础设施。

对 Flock 和 YC 的整体情绪

  • 大多数评论者对 Flock 极度敌视,称其为应被关闭或被监管到消失的“邪恶公司”。
  • Flock 被视为大规模、无令状监控的工具,也是通过私营供应商来规避宪法约束的一种方式。
  • 一些人将这种批评延伸到 YC/HN 文化和更广泛的风险投资,认为其以利润最大化为导向,几乎没有伦理约束。

对错误拦截的责任

  • 一派认为这起事件主要是警方失误:输入了不完整或错误的车牌;警员在采取激进拦截前没有核实。
  • 另一些人认为 Flock 直接负有责任:其车牌识别和匹配行为误读了车牌格式,和/或把部分匹配当作了精确命中,使其不适合高风险用途。
  • 还有几位指出,即便是“加速器”,如果部署在像美国执法这样已知容易出错的环境里,也应承担部分责任。

系统设计与技术问题

  • 批评者说,一个安全关键系统应该:
    • 清楚区分部分匹配和完整匹配。
    • 拒绝不完整车牌,或要求显式通配。
    • 突出显示异常车牌格式和不确定性。
    • 绝不把低置信度匹配当成“立刻去拦下这辆车”。
  • 有些人怀疑 Flock 使用的是通用 ML,只是对各种车牌设计调参很差,并依赖黑箱式营销,而不是稳健工程。

警务、问责与监控国家

  • 很多人认为,核心问题是缺乏问责、容错度过高的警务,再加上自动化工具鼓励人们对警报盲目信任。
  • “人在环中”被视为很弱的保护:现实中,警员往往会服从自动命中结果。
  • 评论者将 Flock 关联到更广泛的趋势:无差别布控的 ALPR 网络、ICE/“盖世太保”式行为、公民自由的侵蚀,以及越来越强的“无时无刻被监视”的感觉。
  • 有人分享了一张 ALPR 地图,并提醒 Flock 只是众多供应商之一。

法律、伦理与陪审团无罪裁定

  • 一段较长的子讨论涉及陪审团无罪裁定:有人说公民应该拒绝为无受害者犯罪或销毁监控基础设施之类的行为定罪。
  • 另一些人强调“无罪”和“没有做这件事”在法律上有区别,但几位也指出,在实践中,无罪裁定会抹去后果。
  • 评论者批评 CEO 那种“人们不应该违法”的一概而论,指出历史上的不公正法律(例如反鸡奸法、反通婚法)。

监管、企业责任与资本主义

  • 对 CEO 呼吁按州进行监管的说法,很多人持怀疑态度:
    • 一些人认为这只是为监管俘获铺路和公关,不是真正的克制。
    • 另一些人则认为,公司完全可以选择不去构建有害的监控,而不是要求自己被“阻止”。
  • 关于高管责任的争论:一方声称高管是“资本的奴隶”;另一方坚持他们始终拥有伦理能动性,可以拒绝这类角色。

犯罪预防、收益与警务未来

  • 少数人指出,ALPR 和视频监控确实能在实质上帮助侦破严重犯罪(引用了电视剧描写和一些现实经历),并认为这类工具在政治上很受欢迎。
  • 其他人反驳说,即便监控完全准确,从宪法和公民自由的角度看也仍然不可接受。
  • 有一条讨论询问,当技术也赋能罪犯时,如何进行有效执法;但很多人拒绝“监控 vs 混乱”的框架,并指出社会在不久前没有 Flock 也照样运转。