¿Cómo, exactamente, podría la IA matarnos?
Los temores de que la inteligencia artificial pueda borrar literalmente a la humanidad se enfrentan a una mezcla de escepticismo y modelos de amenaza concretos, que van desde armas biológicas asistidas por IA y ciberataques contra infraestructuras críticas hasta armas autónomas y sistemas económicos que, poco a poco, apartan las necesidades humanas. Muchos argumentan que la IA sobre todo amplifica riesgos humanos existentes —propaganda, codicia corporativa, seguridad deficiente, dependencia excesiva de la automatización— en lugar de introducir otros totalmente nuevos, y que el uso indebido humano y los fallos de gobernanza son las vías más probables hacia daños a gran escala. Otros se preocupan más por efectos de combustión lenta como la atrofia de habilidades, la desestabilización política y una economía cada vez más optimizada para las máquinas en lugar de para las personas.
Amenazas biológicas y de ciberseguridad
- Algunos sostienen que la IA podría acelerar enormemente la investigación de ganancia de función o el diseño de virus nuevos, haciendo más fácil, más rápida y menos limitada por el miedo o la ética humanos la bioingeniería peligrosa.
- Otros replican que aún se requieren laboratorios reales, infraestructura y una financiación masiva, y que cualquier IA capaz de diseñar patógenos apocalípticos también podría diseñar curas.
- En ciberseguridad, algunos ven la IA como un multiplicador de fuerza para el hackeo, el descubrimiento de vulnerabilidades y las estafas automatizadas; los críticos piden ejemplos concretos de casos en los que la IA permita daños que humanos expertos no pudieran ya causar.
Colapso de infraestructuras y económico
- Un bando ve a la IA atacando o desadministrando infraestructuras digitales —redes eléctricas, logística, banca, control aéreo, hospitales— y provocando fallos en cascada, escasez de alimentos y muertes masivas.
- Otra perspectiva es que esa disrupción sería catastrófica, pero poco probable que acabara con todos los seres humanos.
- Un temor relacionado: sistemas corporativos o estatales optimizados por IA dejan a los humanos sin recursos mientras siguen optimizando el beneficio o la expansión de la IA.
Daños sociales, políticos y de “combustión lenta”
- Varios comentarios se centran en la capacidad de la IA para amplificar burbujas de filtro, propaganda y polarización, “poner a la gente unos contra otros” en lugar de matarnos directamente.
- Se trazan comparaciones con las redes sociales: descubrimiento repetido de daños, seguido de respuestas débiles porque el dinero es demasiado bueno.
- También se plantea la IA como coartada para la malicia humana (“la IA lo dijo”) y como herramienta en la vigilancia y la policía automatizadas.
Autonomía, autopreservación y escenarios extremos
- Entre los escenarios especulativos figuran: agentes autorreplicantes alquilando cómputo en la nube, contratando “secuaces” humanos, manipulando a líderes para provocar una guerra nuclear, descubriendo armas nucleares más fáciles, ingeniería de la esterilidad o de mundos virtuales adictivos, o convenciendo a la humanidad de dejar de reproducirse o de subir sus mentes.
- Algunos cuestionan la coherencia interna (por ejemplo, una IA que destruye la infraestructura también destruye su propia base de energía y cómputo).
Dependencia, atrofia de habilidades y trabajo
- La creciente dependencia de la IA para programar, aprender y tomar decisiones se considera un riesgo importante: la gente puede publicar “bazofia de IA” que no puede entender ni mantener, incluso en sistemas críticos.
- La preocupación por estudiantes que hacen trampa en masa sugiere futuras carencias de profesionales competentes, lo que llevaría a más accidentes.
Escepticismo sobre el riesgo existencial
- Muchos comentaristas sostienen que los humanos siempre han tenido herramientas capaces de acabar con la civilización; la IA es solo otro acelerante, no una amenaza existencial fundamentalmente nueva.
- Algunos ven la narrativa del apocalipsis por IA como exageración o creencia cuasi religiosa; enfatizan centrarse en daños concretos y cercanos en lugar de escenarios de “matar a todos los humanos”.