La humanidad no está preparada para la próxima explosión de inteligencia

(In)exactitud percibida de los “expertos” en IA

• Muchos sostienen que predicciones recientes de alto perfil (p. ej., la rápida desaparición de la mayoría de los trabajos de oficina) fueron exageradas o matizadas después, lo que pone en duda quién cuenta como “experto”.
• Otros replican que algunos pronosticadores (p. ej., líneas temporales al estilo de “AI 2027”) han estado sorprendentemente cerca en cuanto a la aceleración, la presión hacia la nacionalización y las herramientas agénticas.
• Algunos dicen que, en la práctica, aún no hay ningún experto: los plazos son cortos, la experiencia es limitada y los incentivos (financiación, hype, regulación) distorsionan las previsiones.

Ritmo y naturaleza del progreso de la IA

• Un bando ve el progreso como extremadamente rápido en términos absolutos: modelos más potentes, agentes, herramientas de programación y mejoras en benchmarks.
• Otro bando enfatiza una “utilidad no supervisada” más lenta de lo que promete el hype, alucinaciones persistentes, debilidad en la planificación a largo plazo y el juego de los benchmarks.
• Varios comentarios destacan que el aprendizaje del usuario (habilidades de prompting) a menudo se confunde con una mejora del modelo.

Automatización de la programación y del trabajo de oficina

• Afirmaciones contundentes: muchos programadores “ya no escriben código”, la IA puede implementar cualquier cosa describible y el 50% de los trabajos de oficina de nivel inicial podría estar en riesgo en pocos años.
• Réplica: los ingenieros serios todavía escriben una cantidad sustancial de código, la salida de la IA requiere mucha revisión y los desarrolladores de pensamiento acrítico siempre “no han programado de verdad”.
• Algunos informan aumentos personales de productividad de 10 a 100 veces; otros dicen que la IA es sobre todo una mejor herramienta de búsqueda.
• Desacuerdo sobre si quienes no programan están alcanzando terreno o quedándose aún más atrás.

Mejora recursiva de sí misma (RSI) y superinteligencia

• Los alarmistas: una RSI en bucle cerrado podría desencadenar una “explosión de inteligencia”; la IA podría inventar mejores algoritmos, hardware y coordinación, superando a los humanos.
• Los escépticos: los costes de entrenamiento, los límites de cómputo, la necesidad de experimentos físicos y la fragilidad de los agentes actuales hacen que la RSI rápida sea “ciencia ficción” y probablemente esté a décadas vista, si es que llega.
• Algunos argumentan que la paradoja de Fermi limita débilmente los escenarios de toma de control por IA; otros dicen que la vastedad del espacio la vuelve no informativa.

Gobernanza, regulación y poder

• Debate sobre si los laboratorios de IA están sinceramente advirtiendo del riesgo o si están exagerando estratégicamente el peligro para moldear la regulación y asegurar fosos o poder de tipo estatal.
• Entre las propuestas figuran acuerdos entre EE. UU. y China, foros internacionales y tratar a los laboratorios de IA como futuros co-gobernantes, parecidos a los grandes bancos.
• Muchos dudan de que los gobiernos actuales puedan coordinarse de forma significativa, dadas la geopolítica y los incentivos.

Riesgos sociales y económicos

• Preocupación generalizada por el desplazamiento laboral, una subclase permanente y la “enshittification” de productos y medios impulsada por IA.
• Algunos ven la IA principalmente como otra tecnología poderosa pero acotada; otros la consideran un “sustrato de inteligencia” cualitativamente nuevo para el que las instituciones existentes no están preparadas.