然后那些拿枪的人又告诉你照做

能够即时向每部手机推送消息的紧急警报系统,如今正被质疑既是公共安全工具,也是国家宣传工具。评论者指出,埃及、韩国、英国以及美国一些州等地政府强制广播的例子表明:任何足够强大的基础设施,都既能在真正紧急时刻警示公民,也能用来误导、驯化或恐吓他们。许多人认为,任何技术设计都无法完全防止滥用;真正的保障必须来自信任、制度制衡,以及对威权越权的社会和政治抵抗。

信任、社会契约与公民社会

  • 许多人认为,公民社会建立在普遍信任之上:相信大多数人和机构都在努力“做正确的事”。
  • 另一些人则说,信任已经被侵蚀:人们觉得激励机制失衡,机构只顾自身利益,而“我们都在同一条船上”之类的呼吁往往是在掩盖剥削。
  • 有人认为,人际信任的下降不如制度信任的下降明显;也有人觉得,集体行动正越来越多地被“两层执法”/“无政府暴政”(anarchotyranny)压制。
  • 讨论的一个焦点是:人们是否大体上是“好的”,只是受制于激励;还是本质上自利,主要靠后果约束。

监狱、无家可归者与“坏苹果”

  • 长篇分支讨论“理想的”监狱和无家可归者数量是否可以为零。
  • 一方认为:监狱是奴隶制的延续;恢复性司法以及强有力的社会安全网(住房、医疗、教育)可以大幅减少犯罪和无家可归。
  • 另一方坚持认为,某些罪行理应受到纯粹惩罚;而无家可归者/成瘾者中总有一部分会拒绝帮助,因此在没有强制性干预的情况下,字面意义上的零并不现实。
  • 还有几位指出,显眼的无家可归者群体常常会对工薪贫困者起到威慑作用;通过“先住房”(housing-first)模式进行预防,比“修好”最难处理的个案更可行。

技术、中立性与国家权力

  • 普遍强烈同意:不存在能完全防止滥用的警报系统;“拿枪的人”无论技术设计如何都可以强迫使用。
  • 关于技术是否“中立”存在分歧:有人说它只是工具;也有人认为,技术选择会内嵌价值观和权力结构。
  • 例如:多模态 LLM 和无处不在的数据使深度画像和监控成为可能;这被视为一种质的、全新的国家/企业权力。

紧急警报系统与警报疲劳

  • 多个现实案例(韩国、德克萨斯、罗马尼亚、西班牙、英国)显示:这些系统被用于非紧急天气、失踪人员、爱国口号,或以警方为中心的“蓝色警报”。
  • 过度使用会导致人们干脆关闭所有警报,从而削弱它们在真正危机中的价值(“警报疲劳”/“狼来了”)。
  • 有人提出更好的分类和粒度、预定义模板、分阶段发布,或分布式验证,但也承认这些都无法解决核心的滥用问题。

民族国家、公司与法律

  • 一种观点认为,互联网时代的微型国家可以取代大型民族国家;另一些人反驳说,全球贸易、海上航道安全以及大国威胁仍然需要大国和联盟。
  • 大体共识是,公司在法律上应当从属于当地法律,但对于法律本身不公时的道德义务则存在争论。
  • 有人担心国家与公司都可能合谋,因此企业对统治者的抵制是重要的(但脆弱的)制衡。

人性、教育与设计的极限

  • 几位参与者认为,没有任何规则集合或技术保障能够弥补“坏人”;根本在于道德教育、文化与品格。
  • 另一些人对人性和社会走向极度悲观,认为道德准则对个人代价高、对社会回报低。
  • 讨论最终认识到,最难的问题是社会/政治问题,而不是技术问题;而技术人员常常低估了这一点。