公民卫生——避免构建可能被警察国家利用的技术（2013）

“公民卫生”的范围

• 许多人认同其核心想法：不要构建那些显然会助长迫害的系统（例如按宗教/性取向建立的集中式数据库），即使当下的领导人看起来还算温和。
• 也有人说，如果忽视支撑警察国家形成的政治条件，只盯着工具本身就太浅薄了；纳粹和东德在没有现代技术的情况下也能压迫人民。

双重用途技术与不可避免性之争

• 反复出现的主题是：“一切都是双重用途”——汽车、互联网、摄像头、密码学，甚至石头和棍子。
• 有人认为这使得严格规避不可能；关键在于谁掌握权力以及他们如何使用它。
• 另一些人反驳说，双重用途并不意味着中立：某些技术在结构上更有利于集中化和监控（廉价摄像头、集中式云遥测），而另一些则更有利于去中心化（BitTorrent、某些加密货币）。

许可、开源与使用限制

• 有人提出：为软件引入“不得用于军事 / 不得用于监控 / 不伤害第一”许可证。
• 反对意见：
  • 这与 OSI 的“不得按领域歧视”原则相冲突。
  • 对国家或秘密项目大概无法执行；恶意方会直接无视。
  • 会围绕“双重用途”和“商业用途”产生无休止的边界争议，类似现有的“非商业”条款。
• 但也有人认为，即使不可执行，这类条款仍有表达价值（公开声明规范）。

从事军事与监控技术的伦理

• 现实例子：游戏遥测被改用于火炮，医疗设备代码被重复用于导弹。
• 观点分裂：
  • 有人说“你不做，别人也会做”，并倾向于“掌舵”以便引导或揭发问题。
  • 另一些人认为这种逻辑与“那我干脆去集中营工作”没什么区别，并坚持个人责任与良知拒绝。
• 有人区分“帮助正当防御”与“助长国内警察国家”；但批评者指出，军事工具往往会流向警务领域。

政治、权力与防止警察国家

• 一个很强的主题是：不能“只关注技术”。如果你不希望自己的工作被用于警察国家，就必须帮助阻止这种国家出现：投票、参与本地公民事务、提交 FOIA 申请、倡议、抗议、支持隐私保护项目。
• 另一种看法：普通人可以通过投票和做个好人来“避开政治”；而深入参与在一些人看来是“狂热者”的领域。
• 还有人回应说，政治本就塑造了生活中的几乎一切；冷漠只是在把选择权交给别人。

监控基础设施与数据收集

• 智能手机和大型平台已经构成一个庞大、半自愿的监控网络（位置、联系人、行为），国家可以通过传票或购买来接入。
• Flock 车牌识别摄像头及类似系统被认为在性质上更糟，因为：
  • 它们不是自愿参与的，而且在公共空间中无处不在。
  • 它们使日常警务中的大规模位置追踪常态化。
  • 如果与其他数据库整合，针对异议者的定点锁定会变得极其简单。
• 有人回忆早期网络摄像头时代：在考虑到长期滥用风险后，他们有意识地拒绝构建通用远程观看网络。

设计启发式与部分缓解措施

• 建议的“公民卫生”启发式包括：
  • 尽量减少数据收集与保留；避免构建一旦被滥用就会造成灾难性后果的数据集。
  • 不要构建非自愿遥测或“默认监视”；避免追求参与度最大化的“斯金纳箱”式设计。
  • 设计系统时让用户掌控信任根、加密密钥和更新机制；偏向点对点和开放 API，以减少中心化瓶颈。
• 批评者指出，这可能会把今天网络的大部分都排除掉，而且也无法完全阻止决心坚定的政权；但支持者认为，这仍会提高滥用的成本并增加其可见性。

伦理教育与职业规范

• 许多人呼吁强制性的 CS 伦理课程，以及类似持证工程领域的更强职业规范，以便让开发者为这些决定做好准备。
• 也有人持怀疑态度：伦理课确实存在，但往往被当作打勾完成的形式，可能带有意识形态偏向，而且并不可靠地改变行为。
• 还有人认为伦理教育的价值不在于“让人变好”，而在于给本来就有伦理意识的人提供概念和工具，使其能更有效地行动。