¿Qué viene después de AGI?
El debate sobre el ensayo de DeepMind “What Comes After AGI?” gira rápidamente en torno a si la inteligencia artificial general está realmente cerca, o si los modelos de lenguaje grandes actuales son solo correladores de patrones potentes pero estrechos que Big Tech está sobrevendiendo con marketing. Los comentaristas discuten las definiciones de AGI y ASI: algunos afirman que ya tenemos capacidad de nivel humano en muchas tareas de oficina, mientras que otros insisten en que aún faltan la verdadera generalidad, el aprendizaje continuo, la encarnación y la toma de decisiones en el mundo real. Muchos se preocupan más por los impactos a corto plazo —desempleo masivo en trabajos de cuello blanco, reacción política y concentración de poder— que por la superinteligencia especulativa, y señalan que los problemas de seguridad y alineación reciben mucha menos atención concreta que las curvas de escalado y las proyecciones de inversión.
Escepticismo sobre el encuadre de “AGI está cerca”
- Muchos rechazan la premisa del artículo de que “AGI está al alcance”, calificándola de marketing o “propaganda”.
- Se señaló: si los laboratorios tuvieran AGI de verdad, la usarían para ganar dinero de forma autónoma o dirigir sus propias empresas, no principalmente para vender acceso por API.
- Algunos ven a DeepMind/Big Tech como demasiado extrapoladores del progreso reciente (curvas de inversión, leyes de escalado) de una manera que recuerda al auge puntocom de 1999.
Definiciones: AGI, ASI e “inteligencia”
- Hay un fuerte desacuerdo sobre qué significa AGI; varios dicen que el término siempre ha sido vago y que las metas se van moviendo.
- Definiciones en competencia:
- Conductual: “tan bueno como la mayoría de los humanos en la mayoría de las tareas (de oficina)”.
- Más fuerte: puede realizar cualquier tarea cognitiva al nivel humano, con aprendizaje continuo, “pesos” auto-modificados, curiosidad y establecimiento autónomo de objetivos.
- Otros enfatizan la encarnación, la acción en el mundo real a largo plazo o la capacidad de sustituir completamente a un humano en la vida diaria.
- Algunos sostienen que AGI y ASI se difuminan: una vez que se alcanza el nivel humano a escala, la superinteligencia es casi inevitable; otros creen que el nivel humano podría ser un techo práctico.
- Hilos filosóficos secundarios debaten si la inteligencia es solo muestreo de patrones, si la conciencia es material y si la semántica puede surgir de la computación pura.
Visiones sobre las capacidades y límites actuales de la IA
- Entusiastas: los modelos actuales ya superan a muchos humanos en programación, algo de matemáticas/física y tareas amplias de conocimiento; se parecen a la computadora de Star Trek o a un potente “aproximador universal”.
- Críticos:
- Los LLM son sin estado, no pueden aprender realmente sobre la marcha y funcionan más como enormes sistemas de búsqueda/comprensión que como agentes que “piensan”.
- Les cuestan las decisiones intuitivas con múltiples restricciones, la planificación a largo plazo y la autonomía robusta en el mundo real.
- La generación multimodal (imágenes/video/3D) es impresionante, pero aún a menudo resulta inquietante o frágil.
Impactos económicos y sociales
- Temor de que AGI/agentes permitan a accionistas o directivos dirigir empresas con muy pocos empleados, especialmente en trabajos de cuello blanco.
- Resultados anticipados: desempleo masivo, disturbios civiles, mayor apoyo al socialismo/redistribución, posible expropiación de empresas de IA o un nuevo escenario tecno-feudal/de servidumbre.
- Otros esperan “abundancia” y liberación del trabajo, pero señalan que la alineación y la seguridad se discuten poco.
Qué podría venir después de AGI
- Suposición común: ASI mediante más cómputo, mejores algoritmos y enjambres de agentes coordinados o “organizaciones de IA”.
- Algunos especulan con investigación dirigida por IA, hardware autorreplicante (posiblemente fuera del planeta) y estructuras corporativas diseñadas por IA con auditores y agentes de control de calidad de IA.
- Un sector más oscuro espera la marginación humana o incluso la extinción; unos pocos sugieren una reacción tipo “yihad butleriana” como posible respuesta.