No te tomes la píldora negra [video]
Una charla de conferencia que exhorta a los programadores a no “tomarse la píldora negra” respecto a la tecnología —a ver el software como una herramienta para la agencia humana y no como una distopía inevitable— despertó tanto elogios como escepticismo. Los comentaristas trataron temas como el papel del software libre para resistir el control corporativo, la ética de entrenar IA con código abierto sin atribución y si los ingenieros individuales pueden realmente hacer frente a la gestión, los patrones oscuros y los malos incentivos en el mercado laboral actual. Las referencias personales del ponente a su salida del cristianismo conservador y a la cultura de las citas en línea también suscitaron debate sobre cuánto ideología y biografía deben influir en los llamamientos a un software ético.
LLMs, código abierto y atribución
- Muchos comentarios se centran en modelos de IA entrenados con código abierto y gratuito.
- Preocupaciones: los modelos regurgitan código exacto sin crédito; las licencias que requieren atribución o términos de copyleft se violan silenciosamente; esto se convierte en plagio invisible más que en “robo”.
- Soluciones sugeridas: entrenar modelos para rastrear la procedencia y emitir atribuciones; usar medidas de similitud para mapear las salidas a las fuentes, incluso cuando se parafrasean.
- Temor de que las respuestas de los LLM corten el vínculo con fuentes externas (a diferencia de la búsqueda web), degradando la procedencia, la confianza y el valor de señalización de los proyectos de código abierto.
- Preocupación de que el uso generalizado de LLM pueda matar a los motores de búsqueda tradicionales, dejando a los usuarios con “conocimiento destilado” opaco y sin atribución.
“Píldora negra”, seguridad y garantías formales
- La “píldora negra” se enmarca como la creencia de que no puedes vencer a sistemas corruptos o abusivos; la “píldora blanca” es la fe en que sí puedes.
- Algunos sostienen que la gente está “black-pilled” respecto a computadoras seguras y usables: asumen que todo lo que construyen los humanos debe poder romperse.
- Contraargumentos: los hashes criptográficos (p. ej., SHA‑2) ilustran sistemas que pueden ser efectivamente irrompibles durante nuestras vidas; las pruebas formales y el software verificado pueden garantizarse matemáticamente.
- Otros insisten en que la historia sugiere que todos los sistemas hechos por el hombre acaban rompiéndose, aunque quizá no en una escala de tiempo práctica.
Calidad del software, gestión y agencia del desarrollador
- Muchos coinciden en que la parte más fuerte de la charla es sobre por qué el software “apesta”: incentivos de gestión, cultura impulsada por KPI y falta de apetito por la fiabilidad y el trabajo de deuda técnica.
- La “incumplimiento benevolente” (refactorizaciones secretas, hacer lo correcto sin permiso) se celebra, pero se ve más arriesgada ahora que los ingenieros tienen menos poder de negociación.
- Algunos dicen que los buenos ingenieros todavía tienen margen de maniobra; otros responden que las malas prácticas de contratación, los filtros de RR. HH. y el débil liderazgo técnico hacen que las organizaciones no puedan reconocer ni recompensar el talento.
- Se proponen los sindicatos como forma de restaurar la agencia colectiva; persiste el escepticismo sobre su viabilidad y cultura.
- Desacuerdo sobre los KPI: una postura quiere ocultarlos para evitar el Goodharting; otra advierte que las métricas secretas erosionan la moral y la confianza.
Ética, religión y narrativa personal
- La sección de la charla sobre crianza cristiana conservadora y normas de citas divide a los comentaristas.
- Algunos la ven como innecesaria o alienante en una charla sobre software; otros la defienden como contexto personal legítimo para hablar de marcos morales y de “elegir la fe en la humanidad”.
- Surge un debate más amplio sobre trauma religioso, crianza, formación moral y si criticar experiencias religiosas concretas es inherentemente “malvado” o simplemente honesto.
Software libre, poder corporativo y software al servicio del usuario
- Se cuestiona la afirmación de que retener el software libre cede poder a actores centralizados abusivos.
- Los críticos sostienen que el software libre y de código abierto también posibilitaron una enorme consolidación corporativa y degradaron la profesión; los defensores culpan a las políticas y los monopolios, no al software libre en sí.
- El principio de que el software debe “servir al usuario” se pone en duda con casos como los DMV, el autoservicio en cajas y los cajeros automáticos, ilustrando que el software a menudo tiene múltiples amos (usuarios, instituciones, la ley).
- Algunos están de acuerdo en que servir al usuario es una postura normativa, no una ley empírica, y que herramientas como las pruebas A/B o las métricas no son intrínsecamente antiéticas; el abuso proviene de los incentivos y del mal uso, no de las herramientas en sí.
Recepción general de la charla
- Muchos encuentran la charla estimulante, optimista y humanista, al enfatizar la agencia individual y colectiva para dar forma a la tecnología.
- Otros ven el optimismo como poco argumentado dadas la estructura capitalista, los efectos de segundo orden (p. ej., clima, economías de la atención) y el privilegio económico necesario para desobedecer a la dirección.
- Las reacciones mixtas reflejan un desacuerdo más profundo sobre si la distopía tecnológica es principalmente función de malos actores, malos sistemas o de la propia naturaleza humana.