英国的 eVisa 系统把她误认成双胞胎姐姐,导致一名女子滞留西班牙
一项英国 eVisa 错误把一名在国外的女子误认成她的双胞胎姐姐,导致她滞留海外,也引发了人们对该国数字移民系统的更广泛批评。评论者指出,生物识别身份核验存在设计缺陷,像双胞胎或受伤等边缘情况缺乏稳健的人工兜底;同时,这也反映出政府和承包商更重视自动化与削减成本,而非问责和快速人工处理的更大趋势。
生物识别、双胞胎与边缘情况
- 多条评论指出,面部识别系统往往忽视同卵双胞胎和相似长相者的存在。
- 人们指出,双胞胎并不罕见,因此不应把这当作一个异乎寻常的边缘情况。
- 还有人提到,即便是顶级的人脸识别也会出现误报,因此系统应预先考虑冲突,并允许多个账户或人工处理。
eVisa 上线与用户体验
- 多位用户表示,英国 eVisa 的上线一片混乱:航空公司员工培训不足、依赖实时网络连接和智能手机,以及对哪种凭证(代码还是打印页面)有效感到困惑。
- 有人说,这是一个关于“如何不该部署关键基础设施”的案例,尤其是当人们可能因此被拒绝登机时。
软件责任与组织责任
- 一个反复出现的主题是,真正的失败不是 bug 的存在,而是缺乏稳健的升级处理路径,以及没有被授权快速修复问题的人。
- 有人认为,开发者通常关心质量,但受制于管理层的期限和优先级。
- 也有人反驳说,许多工程师自己并不实际使用自家产品,懒散的工程实践和僵化的管理都在其中起作用。
统计、风险容忍度与伦理
- “1000 万次成功使用”的说法被批评为毫无意义,因为缺少失败次数、上下文和解决时间。
- 关于对于会阻止合法居民返家的系统,什么样的失败率是可接受的,大家展开了争论;有人说,在没有快速补救的情况下,哪怕极小的百分比也太高了。
航空公司、责任与边境政策
- 航空公司被描述为极度规避风险,因为英国可能会对运送证件有误的乘客的承运人处以罚款。
- 这会激励航空公司在系统出现任何不匹配迹象时就拒绝登机,即使这个人很可能是合法的。
自动化、缺乏人工覆盖,以及更广泛的趋势
- 许多人认为,这是一种更大模式的一部分:“电脑说不”、人类裁量权消失,以及削减成本导致的人工兜底缺失。
- 评论者认为,关键系统应当假定会出 bug,并提供明确的人类覆盖机制,而不是追求不可能实现的 100% 自动化。