Yann LeCun: La inteligencia artificial a nivel humano va a tardar mucho tiempo

Artículo original ↗ Discusión en Hacker News ↗

Las afirmaciones de que la inteligencia artificial a nivel humano aún está lejos han reavivado el debate sobre si la AGI es inevitable o siquiera posible con los enfoques actuales de aprendizaje automático. Los comentaristas ponderan visiones mecanicistas frente a metafísicas de la mente, los límites de la computación, los datos y la energía, y si los modelos solo de lenguaje podrán alguna vez igualar la cognición y la consciencia humanas encarnadas. Muchos sostienen que, mucho antes de que llegue una verdadera AGI, los sistemas más estrechos ya causarán grandes perturbaciones económicas, sociales y políticas que pueden importar más que los riesgos especulativos de una superinteligencia.

Naturaleza de la inteligencia y posibilidad de la AGI

  • Algunos sostienen que no hay una barrera de principio: los humanos son sistemas físicos mecánicos, así que la inteligencia debería poder reproducirse en máquinas.
  • Otros sospechan que límites teórico-informacionales o “dentro del sistema” (al estilo Gödel) podrían limitar nuestra capacidad de comprender o diseñar por completo la inteligencia.
  • Una postura intermedia: la AGI es posible en principio, pero puede ser demasiado compleja o lenta de lograr en cualquier plazo realista.

Computación, física y consciencia

  • Un bando trata al universo y a los cerebros como mecánicos, al menos Turing-completos (o “hiper‑Turing”, pero aun así físicos).
  • Otro cuestiona si “inteligencia = computación” es un artículo de fe, y si las nociones actuales de computación capturan siquiera todos los procesos físicos.
  • Algunos consideran que la consciencia/qualia es esencial para una inteligencia a nivel humano y actualmente no está explicada; otros separan la inteligencia (resolución de problemas, modelado) de la experiencia subjetiva.

LLMs, leyes de escala y límites arquitectónicos

  • Debate sobre si escalar LLMs junto con entrenamiento multimodal puede llegar asintóticamente a un modelado del mundo y un razonamiento a nivel humano.
  • Sus defensores citan resultados de aproximación universal y leyes de escala empíricas; los críticos señalan las limitaciones de esos teoremas (continuidad, precisión infinita, practicidad) y esperan que el escalado alcance mesetas.
  • Muchos coinciden en que los LLMs actuales carecen de razonamiento causal robusto, planificación y aprendizaje continuo, y probablemente necesiten nuevas arquitecturas y módulos (p. ej., RL basado en modelos, sistemas encarnados, memoria).

Datos, computación y eficiencia

  • Hay preocupación de que los datos textuales de alta calidad y la computación asequible se conviertan en cuellos de botella del progreso; otros responden que los datos multimodales, sintéticos y de interacción, junto con hardware especializado más barato, prolongarán el escalado.
  • Las comparaciones entre cerebro y máquina son recurrentes: los cerebros biológicos son muchísimo más eficientes energéticamente y pueden usar mecanismos muy diferentes.

¿Qué cuenta como AGI?

  • Las definiciones varían:
    – “Puede hacer cualquier trabajo económicamente valioso que pueda hacer un humano.”
    – “Puede aprender nuevas tareas de forma autónoma a partir de instrucciones de alto nivel.”
    – Incluye o excluye emociones, autoconciencia y objetivos intrínsecos.
  • Algunos creen que los sistemas actuales ya cumplen un umbral “general” débil; otros reservan la AGI para una competencia mucho más amplia, parecida a la humana.

Riesgos, impacto y plazos

  • Muchos argumentan que los impactos catastróficos no requieren una AGI a nivel humano; sistemas estrechos, “tontos”, ya distorsionan la política, el trabajo y la privacidad.
  • Las opiniones divergen sobre los plazos: desde “décadas o más y muchos avances” hasta “podría llegar sorprendentemente pronto dada la inversión, el talento y la dinámica de carrera armamentística”.
  • Surgen debates sobre regulación, pero siguen siendo vagos; algunos ven como prematuro hablar del riesgo de una IA superhumana, mientras que otros ven la planificación temprana como análoga a la regulación preventiva de tecnologías poderosas.