Qué sucede cuando el costo de la inteligencia cae 100 veces
Las rápidas caídas en el costo de ejecutar modelos de IA llevan a muchos a tratar la “inteligencia” como un recurso barato y abundante, lo que eleva las expectativas para todo, desde agentes personales y desarrollo de software hasta robótica y automatización de la investigación. Los comentaristas debaten si los modelos de lenguaje actuales constituyen una verdadera inteligencia, hasta qué punto los tokens más baratos impulsarán el uso (mediante efectos tipo paradoja de Jevons) y si los modelos abiertos y de bajo costo erosionarán el caso económico de los sistemas frontier caros. Otros destacan limitaciones prácticas como la velocidad, los límites de hardware, la escasez de datos y los modelos de negocio inciertos, y sostienen que aún es demasiado pronto para saber el verdadero precio e impacto a largo plazo de la inteligencia de máquina.
Reacción general al artículo
- Los comentaristas elogian con fuerza la claridad de los gráficos de costo/rendimiento, especialmente la frontera de Pareto animada.
- Algunos consideran que los gráficos son la primera prueba visual “inequívoca” de una rápida mejora de las capacidades.
- Unos pocos se preguntan si las escalas lineales comunicarían mejor el progreso, aunque quizá harían que los gráficos fueran ilegibles.
La robótica como gran beneficiaria
- Muchos ven la robótica como el área más clara en la que importa una inteligencia más barata: doblado de ropa, manejo de basura, tareas de fábrica.
- Límites actuales: los robots son lentos, a menudo solo funcionan en entornos controlados y carecen de sensores humanos ricos, especialmente tacto y retroalimentación de fuerza.
- Debate: algunos sostienen que la robótica “todavía está muy lejos” para el uso doméstico general; otros dicen que ya ofrece un gran valor en entornos industriales y que se está expandiendo de forma constante.
Hardware, costo y velocidad
- Varios esperan otra mejora de eficiencia de 50–500× gracias a chips especializados y mejor destilación.
- Hay desacuerdo sobre si los modelos de nivel frontier podrán ejecutarse de forma realista en teléfonos inteligentes o si será más eficiente alojarlos en centros de datos.
- La velocidad (latencia) se considera por muchos un cuello de botella mayor que el precio por token, especialmente para flujos de trabajo interactivos.
Qué significa “inteligencia”
- Un grupo trata a los LLMs como búsqueda avanzada e insiste en que la verdadera inteligencia de ingeniería sigue siendo humana.
- Otro argumenta que la inteligencia es fundamentalmente predicción, así que el comportamiento de los LLMs ya califica como una forma de inteligencia.
- Otros subrayan que la inteligencia humana biológica y encarnada es cualitativamente diferente de los modelos entrenados con texto.
Demanda, paradoja de Jevons y consumo de tokens
- Muchos esperan efectos tipo Jevons: tokens más baratos impulsan mucho más uso (agentes de larga duración, sistemas multiagente, experimentación constante).
- Algunos señalan que en otros dominios (por ejemplo, iluminación) las mejoras de eficiencia siguieron reduciendo la cuota total de recursos, lo que sugiere que los resultados dependen de la elasticidad de la demanda.
- La demanda de inteligencia se ve ampliamente como potencialmente ilimitada, especialmente en software e I+D.
Calidad de los modelos, modelos abiertos y economía
- Los usuarios informan que los modelos pequeños y abiertos ya son “suficientemente buenos” para muchas tareas a una fracción del costo.
- Se destacan compensaciones: los modelos más baratos pueden ser más lentos, menos confiables o requerir más “pensamiento”, por lo que el tiempo de pared y la consistencia importan.
- Hay debate sobre si la inferencia está actualmente subvencionada y sobre si los proveedores de modelos fundacionales podrán recuperar algún día los costos de entrenamiento.
- Algunos predicen una comoditización: los modelos propietarios siguen por delante, pero los modelos abiertos junto con la destilación erosionan continuamente su ventaja.