¿Qué viene después de AGI?

El debate sobre el ensayo de DeepMind “What Comes After AGI?” gira rápidamente en torno a si la inteligencia artificial general está realmente cerca, o si los modelos de lenguaje grandes actuales son solo correladores de patrones potentes pero estrechos que Big Tech está sobrevendiendo con marketing. Los comentaristas discuten las definiciones de AGI y ASI: algunos afirman que ya tenemos capacidad de nivel humano en muchas tareas de oficina, mientras que otros insisten en que aún faltan la verdadera generalidad, el aprendizaje continuo, la encarnación y la toma de decisiones en el mundo real. Muchos se preocupan más por los impactos a corto plazo —desempleo masivo en trabajos de cuello blanco, reacción política y concentración de poder— que por la superinteligencia especulativa, y señalan que los problemas de seguridad y alineación reciben mucha menos atención concreta que las curvas de escalado y las proyecciones de inversión.

Escepticismo sobre el encuadre de “AGI está cerca”

  • Muchos rechazan la premisa del artículo de que “AGI está al alcance”, calificándola de marketing o “propaganda”.
  • Se señaló: si los laboratorios tuvieran AGI de verdad, la usarían para ganar dinero de forma autónoma o dirigir sus propias empresas, no principalmente para vender acceso por API.
  • Algunos ven a DeepMind/Big Tech como demasiado extrapoladores del progreso reciente (curvas de inversión, leyes de escalado) de una manera que recuerda al auge puntocom de 1999.

Definiciones: AGI, ASI e “inteligencia”

  • Hay un fuerte desacuerdo sobre qué significa AGI; varios dicen que el término siempre ha sido vago y que las metas se van moviendo.
  • Definiciones en competencia:
    • Conductual: “tan bueno como la mayoría de los humanos en la mayoría de las tareas (de oficina)”.
    • Más fuerte: puede realizar cualquier tarea cognitiva al nivel humano, con aprendizaje continuo, “pesos” auto-modificados, curiosidad y establecimiento autónomo de objetivos.
    • Otros enfatizan la encarnación, la acción en el mundo real a largo plazo o la capacidad de sustituir completamente a un humano en la vida diaria.
  • Algunos sostienen que AGI y ASI se difuminan: una vez que se alcanza el nivel humano a escala, la superinteligencia es casi inevitable; otros creen que el nivel humano podría ser un techo práctico.
  • Hilos filosóficos secundarios debaten si la inteligencia es solo muestreo de patrones, si la conciencia es material y si la semántica puede surgir de la computación pura.

Visiones sobre las capacidades y límites actuales de la IA

  • Entusiastas: los modelos actuales ya superan a muchos humanos en programación, algo de matemáticas/física y tareas amplias de conocimiento; se parecen a la computadora de Star Trek o a un potente “aproximador universal”.
  • Críticos:
    • Los LLM son sin estado, no pueden aprender realmente sobre la marcha y funcionan más como enormes sistemas de búsqueda/comprensión que como agentes que “piensan”.
    • Les cuestan las decisiones intuitivas con múltiples restricciones, la planificación a largo plazo y la autonomía robusta en el mundo real.
    • La generación multimodal (imágenes/video/3D) es impresionante, pero aún a menudo resulta inquietante o frágil.

Impactos económicos y sociales

  • Temor de que AGI/agentes permitan a accionistas o directivos dirigir empresas con muy pocos empleados, especialmente en trabajos de cuello blanco.
  • Resultados anticipados: desempleo masivo, disturbios civiles, mayor apoyo al socialismo/redistribución, posible expropiación de empresas de IA o un nuevo escenario tecno-feudal/de servidumbre.
  • Otros esperan “abundancia” y liberación del trabajo, pero señalan que la alineación y la seguridad se discuten poco.

Qué podría venir después de AGI

  • Suposición común: ASI mediante más cómputo, mejores algoritmos y enjambres de agentes coordinados o “organizaciones de IA”.
  • Algunos especulan con investigación dirigida por IA, hardware autorreplicante (posiblemente fuera del planeta) y estructuras corporativas diseñadas por IA con auditores y agentes de control de calidad de IA.
  • Un sector más oscuro espera la marginación humana o incluso la extinción; unos pocos sugieren una reacción tipo “yihad butleriana” como posible respuesta.