Geoffrey Hinton: puede que resultara que estábamos mejor sin IA
Las advertencias del pionero de la IA Geoffrey Hinton de que la humanidad podría estar “mejor sin IA” desatan un amplio debate sobre si los sistemas actuales ya están haciendo más daño que bien. Los comentaristas sopesan problemas a corto plazo como vulnerabilidades de seguridad, costes medioambientales, desplazamiento laboral y una avalancha de contenido de baja calidad frente a beneficios tangibles en productividad, accesibilidad y acceso al conocimiento. Muchos sostienen que el rápido avance de la IA ya es inevitable desde el punto de vista económico y geopolítico, desplazando la verdadera cuestión de “construirla o no” a cómo —o si— las sociedades pueden regularla y orientarla antes de que desestabilice las instituciones existentes.
Reacción general a la advertencia
- Algunos coinciden en que quizá estaríamos “mejor sin IA”, viendo las trayectorias actuales (clima, desigualdad, decadencia social) como ya equivalentes al escenario negativo del artículo.
- Otros sostienen que la comparación es prematura o basada en sensaciones: los resultados podrían ser muy buenos o muy malos, y la actitud se divide entre optimistas y pesimistas.
- Unos pocos descartan la advertencia por tardía, hipócrita o como “lágrimas de cocodrilo” de alguien cuya investigación ayudó a crear la oleada actual.
Riesgos percibidos de la IA
- Riesgos sistémicos: apagones de energía o financieros, fallos en cascada de infraestructuras, aumento de ciberataques y pirateo asistido por IA de sistemas críticos.
- Riesgos políticos y militares: vigilancia masiva, represión, reconocimiento facial, objetivos automatizados, armas autónomas y genocidio más eficiente.
- Riesgos sociales: desempleo masivo, enormes brechas de riqueza, colapso de las normas democráticas, “tecnofeudalismo” y erosión de una población educada.
- Algunos argumentan que ni siquiera un evento catastrófico “temporal” que cause muertes puede llamarse un bien neto, cuestionando el razonamiento de que “el fin justifica los medios”.
Beneficios percibidos y casos de uso concretos
- Gran entusiasmo entre desarrolladores: la IA como el mayor impulso de productividad en décadas, especialmente para programar, depurar y trabajar en tareas complejas entre distintas capas de la pila tecnológica.
- Accesibilidad: personas con severas limitaciones físicas describen la IA (especialmente herramientas de voz + asistentes de código) como algo que cambia la vida, devolviéndoles autonomía.
- Otros informan que la IA les ahorra tiempo en tareas rutinarias, permitiéndoles dedicar más tiempo a la familia y a proyectos personales.
Regulación, gobernanza e inevitabilidad
- Sensación general de que “el genio ya salió de la botella”: si algunos actores se detienen, otros (incluidos los estados) continuarán, impulsados por el poder y el beneficio.
- Comparaciones con la tecnología nuclear: es posible un control parcial mediante tratados, pero imperfecto; la IA es más difícil de controlar porque funciona sobre computación de propósito general.
- Escepticismo hacia analogías de pruebas exhaustivas previas al lanzamiento (como la FDA): los modelos son infinitamente adaptables después de su lanzamiento, así que los daños dependen mucho del uso posterior.
- Algunos temen la captura regulatoria: que los laboratorios punteros exageren el riesgo existencial para justificar modelos cerrados y propietarios como la única opción “segura”.
Seguridad e infraestructura crítica
- Debate sobre si la IA cambia significativamente el riesgo o simplemente expone décadas de mala seguridad en redes, bancos y dispositivos ya conectados.
- Algunos sostienen que descubrir vulnerabilidades ahora (aunque sea doloroso) podría obligar a reforzar la seguridad, algo largamente postergado; otros subrayan el coste humano real de los apagones.
Calidad de la información e impacto cultural
- Muchos se quejan del “AI slop”: contaminación de contenido, alucinaciones, fricción con CAPTCHA, software inflado y dificultad para encontrar material fiable hecho por humanos.
- Otros responden que la basura humana producida en masa existía mucho antes que la IA; la IA sobre todo acelera el volumen y la velocidad, llevando al extremo las dinámicas existentes de “slop”.
Economía, trabajo y desigualdad
- Fuerte preocupación por que la IA acelere la pérdida de empleo y la desigualdad bajo los incentivos capitalistas actuales; pocos confían en que los líderes empresariales prioricen el bien social sobre el beneficio.
- Algunos proponen desacoplar los ingresos de los empleos tradicionales (por ejemplo, la RBU), aunque la viabilidad queda vaga o se trata con humor negro (p. ej., chistes sobre “combate de gladiadores”).
- Una minoría abraza una abundancia habilitada por la IA y futuros de “lujo totalmente automatizado”, aceptando transiciones disruptivas como precio de beneficios eventuales.
Ética, responsabilidad y actitudes
- Disputa sobre la “inevitabilidad” como escape moral: los críticos invocan la historia nuclear y argumentan que ser un “agente racional del mercado” no borra las obligaciones éticas.
- Otros se inclinan fuertemente por el pragmatismo: la coordinación global para detener la IA se ve como irrealista dadas las rivalidades entre estados y los motivos de lucro.
- Varios se preocupan más por la gobernanza humana que por la tecnología en sí: los malos incentivos, la cultura de “moverse rápido” y el poder concentrado se ven como los peligros principales.