No te dejes engañar: los LLM no razonan
Las afirmaciones de que los grandes modelos de lenguaje no “razonan” de verdad han desencadenado una mirada más amplia sobre qué significan realmente el razonamiento y la inteligencia para los sistemas de IA. Los comentaristas contraponen la predicción estadística del siguiente token en los LLM con la deliberación humana, y debaten si la falta de creencias explícitas, de estado interno persistente o de objetivos autoinducidos los descalifica del razonamiento genuino, o si simplemente refleja un mecanismo distinto, igual que los jets frente a los pájaros. El intercambio pone de relieve preguntas sin resolver sobre cuán de cerca debe la IA imitar la cognición humana, el papel de la computación de fuerza bruta y los agentes, y si las impresionantes salidas de los modelos actuales son un emparejamiento de patrones sofisticado o una forma temprana de inteligencia no humana.
¿Están los LLM “realmente” razonando?
- Un bando sostiene que el mecanismo no importa: si los resultados son funcionalmente indistinguibles del razonamiento, insistir en que “no es razonamiento real” no ayuda.
- Otros argumentan que los LLM son solo predictores del siguiente token / calculadoras complejas: potentes motores de transformación, no agentes con objetivos ni deliberación.
- Algunos sugieren que los LLM pueden aproximar el razonamiento paso a paso al ser aproximadores universales de funciones que pueden codificar implícitamente máquinas de estados.
- Una visión minoritaria: el razonamiento puede no ser expresable por tales sistemas en absoluto, incluso si son completos de Turing.
Comparaciones con los humanos
- Varios comentarios señalan que los humanos también:
- Fabulan cadenas de pensamiento después de los hechos.
- A menudo no razonan en profundidad; dependen de la memorización, la cultura y una “fuerza bruta” a escala poblacional.
- No cumplen los tres criterios del artículo (estado epistémico explícito, separación limpia entre conocimiento y procesamiento, informes introspectivos fieles).
- Algunos sostienen que las personas están cableadas para la “pareidolia lingüística”, atribuyendo en exceso inteligencia y agencia al lenguaje fluido.
- Otros replican que descartar el razonamiento de los LLM suele introducir una especialidad humana no explicada (por ejemplo, “alma en los huecos”).
Mecanismo, representación y computación
- Debate sobre si la falta de un almacén explícito e inspeccionable de creencias descalifica a los LLM para el razonamiento, frente a la idea de que las creencias simplemente están codificadas en los pesos.
- Discusión sobre interpretabilidad mecanicista, estructuras internas tipo “espacio de trabajo global” (por ejemplo, J-space) y representaciones conceptuales emergentes.
- Rama lateral sobre el cerebro como sistema físico/computable frente a algo más que físico; si ser simulable en binario es conceptualmente suficiente.
Prompting, agentes y comportamiento
- Varios proponen patrones de prompting y configuraciones multiagente para inducir un razonamiento más riguroso y explícito (seguimiento de confianza, registro de evidencia, red teaming).
- Otros señalan que los LLM no se auto-inician tareas ni “rumian” sin estar integrados en marcos de agentes siempre activos. Si eso es una decisión de diseño o una limitación profunda es motivo de disputa.
- Las cadenas de pensamiento se ven por algunos como una búsqueda genuina entre narrativas candidatas; otros las consideran un barniz estilístico pegado encima de una respuesta ya elegida.
Visiones pragmáticas y orientadas al futuro
- Muchos participantes minimizan la pelea taxonómica: los LLM son motores de predicción extremadamente útiles, a menudo mejores que los humanos en programación/matemáticas en la práctica, independientemente de las etiquetas.
- Otros subrayan las limitaciones: no hay conducción autónoma robusta, ni avances científicos transformadores, y los ingenieros aún deben supervisar y corregir.
- Algunos ven el artículo en parte como una preparación para una nueva startup de “modelo de razonamiento”, pero aun así coinciden en que estructuras de razonamiento más explícitas e inspeccionables serían valiosas.