La gente buena se niega a hacer cosas malas
Ingenieros y trabajadores tecnológicos debaten si es ético seguir en puestos bien pagados en empresas que construyen potentes sistemas de IA que temen que puedan ser dañinos, o incluso existencialmente peligrosos. Algunos sostienen que “la gente buena se niega a hacer cosas malas” y que deberían renunciar en lugar de racionalizar su participación, mientras que otros subrayan las zonas grises morales, las presiones estructurales y las obligaciones familiares que hacen que esas decisiones estén lejos de ser simples. El intercambio se amplía a preguntas sobre el humo y la exageración en torno a la IA frente al riesgo real, los límites de la responsabilidad personal bajo el capitalismo y si el cambio significativo es más probable desde dentro o desde quienes se marchan.
Responsabilidad ética vs. complicidad
- Varios relatan haber rechazado peticiones poco éticas (por ejemplo, falsificar informes financieros), subrayando que debes estar preparado para renunciar de verdad, no solo amenazar con hacerlo.
- Otros sostienen que muchos resultados “malos” surgen de personas corrientes que obedecen órdenes o rutinas (“la banalidad del mal”), no de villanos de caricatura.
- Un tema recurrente: hacer “pequeños” compromisos repetidamente erosiona tu capacidad de preocuparte, extendiéndose a equipos, productos y usuarios.
Complejidad moral y “gente buena”
- Muchos piensan que “la gente buena se niega a hacer cosas malas” es demasiado binario; la vida real tiene matices y a menudo se juzga mal qué es bueno o malo.
- Algunos defienden el relativismo moral (distintas culturas, contextos), mientras que otros replican con ejemplos como la esclavitud o el trabajo infantil para mostrar que no todos los “grises” son iguales.
- Una postura: quizá no puedas definir “bueno” con claridad, pero a menudo sí puedes identificar daños concretos (riesgo impuesto, pérdida del empleo sin aviso, daño irreversible).
Dinero, poder y limitaciones estructurales
- Hay un fuerte desacuerdo sobre “necesitas seguridad financiera para hacer lo correcto”.
- Un lado: la familia, los hijos, los visados y las hipotecas restringen enormemente las decisiones de la gente.
- El otro: en particular los trabajadores tecnológicos bien pagados a menudo se esconden tras esto como excusa.
- Algunos enfatizan problemas estructurales (primacía del accionista, falta de redes de seguridad), mientras que otros insisten en que las decisiones individuales siguen teniendo relevancia moral.
Trabajar en IA y otras tecnologías polémicas
- Algunos argumentan que si los líderes de los laboratorios hablan públicamente de un riesgo no trivial de extinción, seguir construyendo esos sistemas es poco ético, sin importar el salario.
- Otros desconfían profundamente de las narrativas apocalípticas sobre la IA, viéndolas como cuasirreligiosas, impulsadas por Rationalist/EA, o como marketing oportunista de empresas y exempleados.
- Debate sobre los riesgos reales de la IA: extinción frente a daños más mundanos como impacto climático, vigilancia, pérdida de empleos, ciberataques y desinformación.
- Una visión contraria: la IA es solo otra herramienta poderosa; la “caja de Pandora” ya está abierta, así que la decisión es a qué bando empoderas, no si el desarrollo ocurre.
“No hay consumo ético” y los límites de la pureza
- Algunos señalan que si todo el mundo dejara de hacer cualquier cosa vinculada al daño, la economía global colapsaría; todo consumo bajo el capitalismo está manchado.
- Otros responden que eso no exime de evitar los peores roles (por ejemplo, capitalismo de vigilancia, apuestas en línea, defensa, IA de frontera) ni de ser honestos al admitir que se quedan sobre todo por dinero.