¿Y si la AGI no llega?

Marco y premisa del artículo

• Varios comentaristas dicen que el ensayo en realidad no explora de verdad “¿y si la AGI nunca llega?” y, en cambio, sostiene que la AGI es improbable, sin decirlo de forma explícita.
• Algunos ven un ángulo financiero: nadie quiere “decirles a los niños que Santa no existe” mientras las acciones de IA se inflan.

¿Qué es la AGI / la inteligencia?

• Hay desacuerdo sobre si la AGI ya existe (por ejemplo, con transformadores que permiten una transferencia amplia) frente a la AGI como algo que requiere conciencia, agencia o propiedades “similares a un alma”.
• Algunos argumentan que la “inteligencia general” no es más que un conjunto de capacidades; otros sugieren que los humanos quizá estén cerca de un límite superior de inteligencia útil para nuestro entorno.
• Hay frustración por definiciones cambiantes o vagas; se afirma que términos como AGI/ASI se usan para esquivar críticas.

Cerebros, silicio y encarnación

• Una postura: los cerebros biológicos prueban que es posible una inteligencia general de bajo consumo, así que las versiones sintéticas también deberían serlo “eventualmente”.
• La postura opuesta: no entendemos las neuronas ni organismos completos (por ejemplo, simulaciones de C. elegans), así que “simplemente escalar el cómputo” es arrogante.
• Debate sobre si la inteligencia verdadera requiere encarnación e interacción con el mundo físico, frente a la idea de que una simulación completa sea suficiente en principio.
• Una minoría sostiene que la inteligencia/vida real puede estar limitada termodinámica o metafísicamente; otros encuentran esto poco claro o poco convincente.

Escalado, algoritmos y límites

• Algunos afirman que no ha habido grandes avances en IA en décadas y que los LLM son solo ajuste de curvas a escala, ineficiente.
• Otros lo disputan con firmeza, citando transformers, modelos de espacio de estados, conexiones residuales, batch norm y mejoras medidas en eficiencia algorítmica como avances sustanciales.
• Preocupaciones sobre límites: coste del hardware, restricciones de dispositivos de consumo, agotamiento de datos y “envenenamiento” por datos generados por IA.
• Contrarréplicas: los “límites” se han roto repetidamente; los datos sintéticos curados y nuevos rastreos de la web podrían incluso ayudar, y algunos llaman mito al “colapso del modelo”.

Capacidades y lagunas actuales de los LLM

• Muchos ven a los LLM como impresionantes pero aún “loros estocásticos”: buenos con el lenguaje, la ayuda para programar y benchmarks (p. ej., NYT Connections), pero sin razonamiento fiable, autonomía ni edición de código in situ.
• Algunos sostienen que los humanos también repiten mucho; otros subrayan que los humanos sí pueden crear conceptos nuevos de verdad (p. ej., el cálculo, nuevos géneros), mientras que los LLM recombinan datos existentes.

Tiempos, hype e impacto

• Varios predicen una meseta a corto plazo o el estallido de una burbuja (Nvidia, startups de IA), comparándolo con exageraciones tecnológicas pasadas (VR).
• Otros creen que el progreso y la inversión seguirán, pero que la AGI surgirá gradualmente, si es que surge.
• Algunos dicen que, incluso si la AGI nunca llega, la IA actual ya es útil; otros se preocupan más por un descenso hacia la “banalidad absurda” y la degradación educativa que por una singularidad.