La avalancha que golpeó a las matemáticas viene por el desarrollo de la IA
Las afirmaciones de que los sistemas de IA pronto acelerarán recursivamente su propio desarrollo y superarán rápidamente a los expertos humanos generan aquí reacciones muy divididas. Los comentaristas sopesan anécdotas sobre potentes agentes de investigación y avances automáticos en matemáticas frente a experiencias cotidianas con asistentes de código llenos de fallos, discutiendo si el progreso sigue una curva exponencial o se estancará. Bajo el debate técnico hay preocupaciones sobre la concentración de poder, los incentivos desalineados y la regulación, y sobre si el entusiasmo actual por la IA se corresponde realmente con productividad del mundo real o con riesgo existencial.
Hype percibido vs realidad
- Varios comentaristas ven el texto como exagerado, construido sobre analogías endebles, gráficos especulativos y probabilidades “sacadas de la nada”.
- Otros relatan su experiencia diaria con las herramientas de IA actuales: buenas para código y tareas técnicas acotadas, pero que requieren mucha instrucción, harnesses, herramientas estáticas y aun así producen muchos errores.
- Hay preocupación por una “avalancha de slop” en la investigación y publicación sobre IA, ahora producida en masa y no solo de forma esporádica con baja calidad.
- Algunos sostienen que los LLMs son fundamentalmente mejores escribiendo código y manejando dominios formales verificables (p. ej., pruebas en Lean), no una “comprensión” amplia.
Capacidades, RSI y benchmarks
- Los defensores citan anécdotas internas de laboratorios: agentes que reescriben modelos de larga data en días, autodiagnostican experimentos y ejecutan grandes barridos de ablación con mínima intervención humana.
- Otros subrayan que una mejora recursiva de sí misma verdaderamente transformadora requeriría avances en tareas no verificables, que son difíciles de evaluar sin juicio humano.
- Un contraargumento es que ya existen muchas subtareas verificables en I+D de IA (ajuste de rendimiento, orquestación, generación de código) que pueden impulsar un bucle autorreforzado incluso si las tareas “desordenadas” van a la zaga.
Dinámicas económicas y de poder
- Algunos temen que la IA elimine empleos tanto de cuello blanco como manuales, permitiendo que una pequeña élite acapare riqueza y capacidad de IA mientras calma a los demás (renta básica universal + VR). Otros llaman a la RBU políticamente imposible y ven continuidad con “las viejas formas”.
- Una línea de argumento: si la superinteligencia realmente volviera obsoleto el dinero, los actores racionales acapararían materias primas, tierra y energía —no efectivo—, así que el comportamiento actual de buscar dinero implicaría que los insiders en realidad no creen en una ASI a corto plazo.
- Otros responden que la presión competitiva obliga a los laboratorios a volcarlo todo en cómputo para “ganar la carrera”, independientemente de la lógica de recursos a más largo plazo.
Debates sobre gobernanza y riesgo
- Los futuros propuestos van desde pausar la IA, ralentizarla con cautela, permitir un progreso rápido y esperar que la alineación funcione, hasta una vigilancia global extrema para impedir más desarrollo.
- Se cuestiona la viabilidad de un control estricto, dado que el ML puede ejecutarse en hardware relativamente modesto.
- Algunos ven plausibles escenarios de toma de poder impulsados por ASI (ciberataques, interrupción militar, nanotecnología); otros los consideran escenarios de extinción efectivos que ningún actor racional que busque beneficios arriesgaría.
Terminología, polarización y psicología
- Hay disputa sobre “superinteligencia” frente a “AGI”, especialmente después de intentos políticos de rebautizar la IA; algunos creen que usar el término ahora se ve mal, otros insisten en que es anterior a la política por mucho tiempo.
- Los comentaristas describen dos (o tres) campamentos psicológicos: creyentes en el progreso rápido, escépticos que continuamente mueven la portería, y quienes critican a cualquiera que fije fechas concretas como “2030” mientras afirma que no se puede predecir.