Cómo un fallo de software en la Oficina de Correos del Reino Unido arruinó vidas
Un escándalo de larga duración en la Post Office del Reino Unido, en el que un software de contabilidad defectuoso (Horizon) llevó a que cientos de subpostmasters fueran acusados injustamente y, a menudo, condenados por robo, se examina menos como un “fallo” y más como un fracaso sistémico de gobernanza, ley y cultura organizativa. Los comentaristas señalan cómo la dirección ignoró o encubrió errores conocidos, aprovechó el poder de acusación privada y se benefició de una presunción legal de que los registros informáticos son fiables, dejando a las personas incapaces de impugnar sistemas opacos que no controlaban. El caso se usa para cuestionar la falta de estándares profesionales y responsabilidad en la ingeniería de software, los peligros de tratar el software y los algoritmos como infalibles y el riesgo más amplio de que las instituciones deleguen el juicio moral y legal en sistemas técnicos complejos.
Alcance y naturaleza del escándalo
- Los comentaristas subrayan que esto no fue “solo un fallo de software”, sino un fracaso institucional de larga duración en el que intervinieron la Post Office, Fujitsu y el sistema legal del Reino Unido.
- Horizon tenía múltiples errores, una auditoría deficiente, acceso remoto sin auditar e incluso ediciones de datos por parte del soporte; aun así, se lo trató como infalible.
- A cientos de subpostmasters se les dijo que eran “los únicos” con problemas, creando aislamiento y desalentando una defensa colectiva.
Sistema legal, acusaciones privadas y carga de la prueba
- Un tema recurrente: el mayor fallo fue legal, no técnico.
- La presunción del derecho del Reino Unido de que la evidencia informática es fiable desplazó la carga sobre los acusados para demostrar fallos del software, algo prácticamente imposible sin acceso al código o a los registros.
- La Post Office podía presentar sus propias acusaciones, actuando como investigadora y fiscal pese a tener un interés financiero y reputacional en el asunto.
- Los tribunales y jurados aceptaban a menudo “el ordenador lo dice” sin pruebas corroborativas como CCTV, registros bancarios o cambios en el estilo de vida, lo que llevó a condenas basadas únicamente en datos de Horizon.
Gestión, gobernanza y ética
- Muchos sostienen que el problema central fue la gestión, los incentivos y el encubrimiento: los errores conocidos y las capacidades de edición remota se ocultaron, las auditorías se minimizaron y, presuntamente, se retuvieron o alteraron pruebas.
- El debate destaca incentivos perversos (bonificaciones, impulso a la privatización, protección de la reputación) y una cultura que prefería culpar a los trabajadores de primera línea antes que admitir defectos del sistema.
- Varios piden responsabilidad penal para ejecutivos, abogados y peritos que engañaron a los tribunales o suprimieron pruebas.
Práctica de ingeniería de software y profesionalidad
- Amplios subhilos debaten si esto es fundamentalmente un problema de ingeniería de software o un problema de gobernanza sociotécnica.
- Algunos dicen que necesitamos regulación, cualificaciones y responsabilidad personal de estilo ingenieril para el software crítico, similar a la ingeniería civil o estructural.
- Otros responden que incluso unas prácticas técnicas “perfectas” no pueden superar un liderazgo incompetente o malicioso, incentivos desalineados y la política organizacional.
- Existe un acuerdo general en que el diseño de Horizon (contabilidad distribuida, no ACID, registro deficiente) era profundamente inapropiado para un sistema parecido al bancario.
Paralelismos e implicaciones más amplias
- Los comentaristas comparan Horizon con otros fracasos de “algocracia” (por ejemplo, sistemas de bienestar y deuda) en los que un software opaco, unido a la deferencia hacia “el ordenador”, perjudica a personas vulnerables.
- Muchos temen que los sistemas impulsados por IA puedan amplificar estos problemas si los tribunales y las agencias vuelven a confiar en resultados ininteligibles sin transparencia ni posibilidad de impugnación.