La IA está acelerando de forma dramática la investigación en IA

Las afirmaciones de que los sistemas de IA están acelerando de forma dramática la propia investigación en IA suscitan tanto entusiasmo como escepticismo. Los comentaristas ponderan el hallazgo de METR de que Anthropic logró años de progreso en uno en un año —supuestamente sin más cómputo de entrenamiento— frente a las preocupaciones sobre métodos opacos, una inteligencia “irregular” impulsada por benchmarks, restricciones de hardware y capital, y paralelismos con burbujas de IA pasadas. Muchos ven claras mejoras de productividad en programación y experimentación, pero divergen radicalmente sobre si esto apunta a una superinteligencia desbocada y a riesgo existencial o simplemente a una mejora incremental más rápida, pero aún limitada.

¿Qué impulsa la aparente aceleración?

  • Debate sobre las causas: algunos atribuyen el progreso más rápido de la IA a mejores modelos y a la investigación asistida por IA; otros dicen que se debe sobre todo al capital, a más GPU y a un gasto masivo en tokens.
  • Varios señalan que los modelos frontier más baratos y más potentes con el tiempo (por ejemplo, modelos más nuevos que superan a los anteriores con un coste por token menor) son prueba de que la “inteligencia por dólar” está aumentando.
  • Otros sostienen que las ganancias actuales siguen siendo, en su mayor parte, escalado y mejores RL/arquitecturas, no un régimen fundamentalmente nuevo.

Papel de METR y el estudio de caso de Anthropic

  • Un informe de METR citado afirma que Anthropic logró ~2 años de progreso en IA en 1 año y que esto no se debió a más cómputo de entrenamiento.
  • Algunos comentaristas toman esto como una prueba sólida de que la IA está acelerando la investigación en IA.
  • Otros desconfían de METR, al que califican de hecho como PR alineada con el laboratorio, criticando las fuertes redacciones, métricas poco claras como AECI y conclusiones demasiado seguras.

Modelos frontier frente a modelos abiertos y restricciones de hardware

  • Una parte argumenta que mejores modelos abiertos comoditizarán las capacidades, reduciendo el mercado premium para los laboratorios frontier.
  • Contraargumento: los laboratorios frontier ya venden modelos de gama media “lo bastante buenos” y pueden igualar a los proveedores abiertos en precio y capacidad.
  • Desacuerdo sobre la practicidad de los modelos locales: algunos dicen que ya funcionan bien en hardware de consumo o servidores modestos; otros los llaman “juguetes” y señalan que el autoalojamiento real sigue costando decenas de miles de dólares.

Benchmarks, “inteligencia” y límites

  • Discusión sobre si los benchmarks agregados (ECI, etc.) capturan de forma significativa la “inteligencia”.
  • Algunos subrayan que los benchmarks solo miden tareas estrechas y entrenables; gran parte de la inteligencia del mundo real puede seguir sin medirse y ser irregular.
  • Otros señalan correlaciones entre tareas (por ejemplo, entrenar con código mejorando el razonamiento) y ven una mejora consistente y amplia.

Productividad, slop y burocracia

  • Muchos investigadores e ingenieros informan de mejoras de 5 a 10 veces en ideación, prototipado y comprensión de código heredado.
  • Otros destacan una avalancha de artículos, código y envíos a conferencias de baja calidad, además de reseñas generadas por IA.
  • Varios describen “meta-trabajo” inducido por la IA: resúmenes de IA, rúbricas evaluadas por IA y herramientas de planificación que amplían la burocracia sin un impacto neto claro.

Seguridad, superinteligencia y riesgo

  • Fuerte división: algunos ven que acelerar la investigación en IA aumenta las probabilidades de RSI desbocada y de armas novedosas, y abogan por un control más estricto y un despliegue más lento.
  • Los escépticos dicen que el discurso sobre extinción carece de fundamento dado que los sistemas actuales son predictores de patrones que necesitan pruebas físicas y agencia humana para causar daños reales.
  • Largo subhilo sobre la persuasión: si sistemas mucho más inteligentes podrían manipular a los humanos para que realicen acciones peligrosas; los críticos dudan de que la persuasión escale hasta algo “capaz de acabar con el mundo”, mientras que los proponentes apuntan a la propaganda histórica, las sectas y la manipulación en línea existente como señales de advertencia.

Ciclos de hype y analogías históricas

  • Comparaciones con el auge y la caída de la IA de los años 80: la tecnología transformadora no impide burbujas ni inviernos.
  • Algunos predicen una deflación de la IA “al estilo NFT” una vez que se desvanezcan el hype y el dinero fácil; otros sostienen que las ganancias tangibles actuales de productividad hacen que este ciclo sea fundamentalmente diferente.