La avalancha que golpeó a las matemáticas viene por el desarrollo de la IA

Las afirmaciones de que los sistemas de IA pronto acelerarán recursivamente su propio desarrollo y superarán rápidamente a los expertos humanos generan aquí reacciones muy divididas. Los comentaristas sopesan anécdotas sobre potentes agentes de investigación y avances automáticos en matemáticas frente a experiencias cotidianas con asistentes de código llenos de fallos, discutiendo si el progreso sigue una curva exponencial o se estancará. Bajo el debate técnico hay preocupaciones sobre la concentración de poder, los incentivos desalineados y la regulación, y sobre si el entusiasmo actual por la IA se corresponde realmente con productividad del mundo real o con riesgo existencial.

Hype percibido vs realidad

  • Varios comentaristas ven el texto como exagerado, construido sobre analogías endebles, gráficos especulativos y probabilidades “sacadas de la nada”.
  • Otros relatan su experiencia diaria con las herramientas de IA actuales: buenas para código y tareas técnicas acotadas, pero que requieren mucha instrucción, harnesses, herramientas estáticas y aun así producen muchos errores.
  • Hay preocupación por una “avalancha de slop” en la investigación y publicación sobre IA, ahora producida en masa y no solo de forma esporádica con baja calidad.
  • Algunos sostienen que los LLMs son fundamentalmente mejores escribiendo código y manejando dominios formales verificables (p. ej., pruebas en Lean), no una “comprensión” amplia.

Capacidades, RSI y benchmarks

  • Los defensores citan anécdotas internas de laboratorios: agentes que reescriben modelos de larga data en días, autodiagnostican experimentos y ejecutan grandes barridos de ablación con mínima intervención humana.
  • Otros subrayan que una mejora recursiva de sí misma verdaderamente transformadora requeriría avances en tareas no verificables, que son difíciles de evaluar sin juicio humano.
  • Un contraargumento es que ya existen muchas subtareas verificables en I+D de IA (ajuste de rendimiento, orquestación, generación de código) que pueden impulsar un bucle autorreforzado incluso si las tareas “desordenadas” van a la zaga.

Dinámicas económicas y de poder

  • Algunos temen que la IA elimine empleos tanto de cuello blanco como manuales, permitiendo que una pequeña élite acapare riqueza y capacidad de IA mientras calma a los demás (renta básica universal + VR). Otros llaman a la RBU políticamente imposible y ven continuidad con “las viejas formas”.
  • Una línea de argumento: si la superinteligencia realmente volviera obsoleto el dinero, los actores racionales acapararían materias primas, tierra y energía —no efectivo—, así que el comportamiento actual de buscar dinero implicaría que los insiders en realidad no creen en una ASI a corto plazo.
  • Otros responden que la presión competitiva obliga a los laboratorios a volcarlo todo en cómputo para “ganar la carrera”, independientemente de la lógica de recursos a más largo plazo.

Debates sobre gobernanza y riesgo

  • Los futuros propuestos van desde pausar la IA, ralentizarla con cautela, permitir un progreso rápido y esperar que la alineación funcione, hasta una vigilancia global extrema para impedir más desarrollo.
  • Se cuestiona la viabilidad de un control estricto, dado que el ML puede ejecutarse en hardware relativamente modesto.
  • Algunos ven plausibles escenarios de toma de poder impulsados por ASI (ciberataques, interrupción militar, nanotecnología); otros los consideran escenarios de extinción efectivos que ningún actor racional que busque beneficios arriesgaría.

Terminología, polarización y psicología

  • Hay disputa sobre “superinteligencia” frente a “AGI”, especialmente después de intentos políticos de rebautizar la IA; algunos creen que usar el término ahora se ve mal, otros insisten en que es anterior a la política por mucho tiempo.
  • Los comentaristas describen dos (o tres) campamentos psicológicos: creyentes en el progreso rápido, escépticos que continuamente mueven la portería, y quienes critican a cualquiera que fije fechas concretas como “2030” mientras afirma que no se puede predecir.