Higiene cívica – evitar construir tecnologías que podrían ser usadas por un Estado policial (2013)

Artículo original ↗ Discusión en Hacker News ↗

Los sistemas digitales modernos —desde la telemetría y la publicidad tecnológica hasta las bases de datos nacionales y las plataformas de teléfonos inteligentes— pueden potenciar enormemente la vigilancia y el control estatal, lo que plantea la cuestión de si los tecnólogos tienen el deber de evitar construir herramientas que puedan “facilitar un Estado policial”. Los comentaristas discuten cuán realista es esa restricción en un mundo donde casi todas las tecnologías potentes son de doble uso, y algunos abogan por nuevos modelos de licencia, minimización de datos y privacidad por diseño, mientras que otros insisten en que el autoritarismo debe abordarse principalmente mediante la política y no mediante la ingeniería. Hay un acuerdo amplio, aunque incómodo, en que la ética individual por sí sola no basta como salvaguarda, pero que negarse a construir los sistemas más obviamente abusables y limitar cómo se recopilan y centralizan los datos siguen siendo formas significativas de resistencia.

Alcance de la “higiene cívica”

  • Muchos están de acuerdo con la idea central: no construir sistemas que obviamente refuercen la persecución (p. ej., bases de datos centralizadas sobre religión/sexualidad), aunque los líderes actuales parezcan benignos.
  • Otros dicen que centrarse en las herramientas es superficial si se ignoran las condiciones políticas que permiten un Estado policial; los nazis y la Alemania Oriental reprimieron a la gente sin tecnología moderna.

Tecnología de doble uso y debates sobre inevitabilidad

  • Tema recurrente: “todo es de doble uso” — coches, Internet, cámaras, criptografía, incluso piedras y palos.
  • Algunos sostienen que esto hace imposible una evitación estricta; lo que importa es quién tiene el poder y cómo lo usa.
  • Otros responden que “doble uso” no significa neutral: algunas tecnologías favorecen estructuralmente la centralización y la vigilancia (cámaras baratas, telemetría centralizada en la nube), mientras que otras favorecen la descentralización (BitTorrent, algunas criptomonedas).

Licencias, código abierto y restricciones de uso

  • Propuestas: introducir licencias de software “sin uso militar / sin vigilancia / ante todo, no hacer daño”.
  • Objeciones:
    • Entran en conflicto con el principio de la OSI de “no discriminación por ámbito de actividad”.
    • Probablemente no serían aplicables frente a estados o programas secretos; los malos actores las ignorarán.
    • Generan interminables disputas sobre límites de “doble uso” y “comercial”, similares a las cláusulas actuales de “no comercial”.
  • Algunos aún ven valor expresivo en estas cláusulas (declarar normas públicamente) aunque no sean exigibles.

Ética de trabajar en tecnología militar y de vigilancia

  • Ejemplos vividos: telemetría de videojuegos reutilizada para artillería, código de dispositivos médicos reutilizado en misiles.
  • Posturas divididas:
    • Algunos dicen “si no lo haces tú, lo hará otro” y prefieren “estar al mando” para orientar o denunciar.
    • Otros ven esa lógica como idéntica a “de todos modos podría trabajar en un campo de concentración” y exigen responsabilidad personal y negativa de conciencia.
  • Se establece una distinción entre ayudar a una defensa legítima y habilitar Estados policiales domésticos; pero los críticos señalan que las herramientas militares a menudo acaban en la policía.

Política, poder y prevención de Estados policiales

  • Tema fuerte: no puedes “simplemente centrarte en la tecnología”. Si no quieres que tu trabajo se use en un Estado policial, debes ayudar a prevenir que exista: votar, participar en la vida cívica local, solicitudes FOIA, defensa, protesta, apoyo a proyectos que preserven la privacidad.
  • Visión contraria: la gente corriente puede “evitar la política” votando y siendo decente; la implicación profunda es vista por algunos como dominio de “fanáticos”.
  • Otros responden que la política ya moldea casi todo en la vida; la apatía simplemente delega las decisiones a otros.

Infraestructura de vigilancia y recopilación de datos

  • Los teléfonos inteligentes y las grandes plataformas ya forman una enorme red de vigilancia semivoluntaria (ubicación, contactos, comportamiento) a la que los estados pueden acceder mediante órdenes judiciales o compras.
  • Las cámaras de matrículas de Flock y sistemas similares se citan como cualitativamente peores porque:
    • No son optativas y son omnipresentes en el espacio público.
    • Normalizan el rastreo masivo de ubicaciones para la vigilancia rutinaria.
    • La integración con otras bases de datos podría volver trivial la identificación de disidentes.
  • Algunos recuerdan los primeros días de las webcams, cuando conscientemente se negaron a construir redes generalizadas de visión remota tras considerar los riesgos de abuso a largo plazo.

Heurísticas de diseño y mitigaciones parciales

  • Se sugieren heurísticas de “higiene cívica”:
    • Minimizar la recopilación y retención de datos; evitar construir conjuntos de datos cuyo abuso sería catastrófico.
    • No construir telemetría no consentida ni “espionaje por defecto”; evitar diseños tipo “caja de Skinner” que maximicen la interacción.
    • Diseñar sistemas para que los usuarios controlen las raíces de confianza, las claves criptográficas y los mecanismos de actualización; favorecer peer-to-peer y APIs abiertas para reducir puntos de estrangulamiento centrales.
  • Los críticos señalan que esto puede excluir una gran parte de la web actual y que no detiene por completo a regímenes decididos, pero los defensores sostienen que eleva el coste y la visibilidad del abuso.

Educación ética y normas profesionales

  • Muchos piden cursos obligatorios de ética en CS y normas profesionales más sólidas, parecidas a las de los campos de ingeniería con licencia, para preparar a los desarrolladores para estas decisiones.
  • Otros son escépticos: los cursos de ética existen pero a menudo se tratan como casillas que marcar, pueden estar sesgados ideológicamente y no cambian de forma fiable el comportamiento.
  • Algunos presentan la educación ética no como una forma de “hacer buenas a las personas”, sino de dar a quienes ya son éticos conceptos y herramientas para actuar con más eficacia.