IA 2040: Plan A

Pausar la IA y la gobernanza

• Muchos dudan que una pausa deliberada entre EE. UU. y China en niveles de “genio humano de primer nivel” sea políticamente o económicamente realista; hay demasiado dinero y ventaja estratégica en juego.
• Algunos sostienen que cualquier pausa vendría de una reacción populista contra las empresas tecnológicas (empleos, desigualdad, vigilancia), no de preocupaciones abstractas de seguridad.
• Otros advierten que apoyarse en la desinformación (por ejemplo, un uso exagerado del agua) como aliado táctico es peligroso y moralmente dudoso.

Precedentes históricos de contención

• Se citaron varios ejemplos: prohibiciones de armas en el Japón histórico, la moratoria voluntaria de Asilomar sobre el ADN recombinante, normas firmes contra la edición de la línea germinal humana, límites a las armas biológicas y termonucleares, y el éxito parcial de la Convención sobre Armas Biológicas.
• Los escépticos señalan que estos regímenes tienen fugas (por ejemplo, las armas biológicas soviéticas) y cuestionan si pueden escalarse a una IA ampliamente accesible.

Control abierto vs centralizado de la IA

• Un bando teme que una regulación estricta atrinchere a los gobiernos y a unas pocas empresas, aumentando el uso autoritario indebido y la captura regulatoria.
• Otro bando teme que, sin fuertes restricciones sobre los grandes centros de datos y los flujos de chips, los proyectos encubiertos o monopolísticos dominen y dejen sin poder al público.
• Hay apoyo a la apertura de ideas y modelos, pero tensión entre los pesos abiertos y la seguridad y el uso indebido (por ejemplo, biología, ciber).

Pronósticos económicos, laborales y de robótica

• Algunos ven a los agentes de IA ya realizando tareas de “nivel doctorado”, y predicen una rápida sustitución del trabajo cognitivo y, eventualmente, físico, grandes poblaciones de robots y alto desempleo.
• Otros argumentan que la automatización del mundo físico es mucho más difícil; los robots de reparto de paquetes y los drones siguen siendo limitados, y una cobertura de tareas del 95% o un desempleo del 74% para 2035 se consideran implausibles.
• La automatización histórica se cita como algo que hasta ahora no ha creado desempleo masivo, con contraargumentos de que esta vez la velocidad y la escala podrían ser diferentes.

Escalado, trayectorias e incertidumbre técnica

• Debate sobre si el progreso de los LLM está en una meseta en forma de S o si continúa exponencialmente: algunos ven claros saltos de capacidad (especialmente en agentes), mientras otros ven mejoras marginales.
• Algunos insisten en que los transformers carecen fundamentalmente de memoria, juicio y personalidad jurídica; otros señalan el trabajo activo sobre memoria a largo plazo y aprendizaje continuo.

Cómputo, centros de datos e impactos locales

• Las previsiones de una expansión de GPU de más de 100T $ son ampliamente ridiculizadas como económicamente imposibles.
• Los críticos describen los centros de datos como “minas posindustriales” extractivas (tierra, agua, ruido, energía; las ganancias se exportan), con pocos beneficios para los locales.
• Los partidarios responden que la expansión energética, una mejor regulación y un aumento en la oferta de chips podrían mitigar muchas preocupaciones.

Geopolítica y dinámicas China/EE. UU.

• Algunos ven viable la verificación mutua sobre chips y centros de datos (por analogía al control de armamentos de la Guerra Fría); otros dudan de la cobertura del seguimiento y del cumplimiento chino.
• Hay rechazo al marco percibido como centrado en EE. UU. y al “jingoísmo”, y desacuerdo sobre si China superará en innovación o seguirá a EE. UU. en controles de exportación.

Críticas a Plan A como escenario

• Varios comentaristas ven Plan A como fuertemente especulativo, demasiado confiado en la inevitabilidad de AGI/ASI y estrechamente enfocado en unos pocos resultados que justifican una regulación fuerte.
• Otros lo elogian como el escenario de despegue optimista más realista hasta ahora, especialmente por abordar tanto el riesgo de alineación como la concentración de poder, aunque los plazos y las cifras puedan estar equivocados.