Las palabras son un subproducto de la conciencia. Para los LLMs, es al revés

Palabras, pensamiento y conciencia en los humanos

• Muchos sostienen que, para los humanos, los conceptos, percepciones y sentimientos preverbales a menudo preceden a las palabras; el lenguaje es una “piel” o interfaz sobre una cognición más profunda.
• Otros replican que esto es una ilusión introspectiva: la neurociencia sugiere que gran parte de la cognición es inconsciente y que las explicaciones verbales suelen ser post hoc.
• Varios señalan que a veces piensan principalmente en imágenes, estructuras espaciales o “estados de flujo” (p. ej., deportes, programación) más que en palabras.
• El monólogo interno y la imaginería mental varían mucho; algunos informan no tener voz interior ni imaginería, lo que pone en duda que “pensar en palabras” sea universal.

Lenguaje sin palabras: animales, infantes, casos límite

• Muchos ven a los animales no humanos como conscientes pese a tener un lenguaje limitado o distinto; la comunicación no se toma como un marcador fiable de la conciencia.
• Casos como Helen Keller y niños ferales o privados de lenguaje se debaten: algunos ven el lenguaje como crucial para una reflexión plenamente humana; otros enfatizan que la ausencia de lenguaje no prueba la ausencia de conciencia.

Cómo funcionan realmente los LLMs

• Varios comentaristas rechazan la afirmación del artículo de que los LLMs son “solo predictores de la siguiente palabra sobre palabras”.
• Subrayan embeddings, vectores latentes y representaciones internas que no son palabras, comparándolos con espacios de conceptos.
• Se citan modelos multimodales que comparten capas internas entre texto, imágenes y audio como evidencia de una estructura interna más rica.

¿“Entienden” los LLMs o tienen conciencia?

• Algunos dicen que los LLMs exhiben modelos estadísticos parecidos a conceptos (p. ej., para “silla”, “canción de rock”) y un comportamiento de razonamiento limitado.
• Otros apelan a experimentos mentales (p. ej., la Habitación China) para argumentar que el comportamiento por sí solo no puede demostrar comprensión o conciencia.
• Varios señalan que ni siquiera podemos definir o detectar rigurosamente la conciencia humana, así que las afirmaciones fuertes sobre la IA son prematuras.

Papel del lenguaje en la inteligencia humana

• Un bando: el lenguaje es un subproducto de una conciencia preexistente.
• Otro: la inteligencia humana de alto nivel emerge del uso del lenguaje; el lenguaje y el pensamiento se refuerzan mutuamente.
• El lenguaje se describe como un “SO” o una capa de compresión para el pensamiento, que permite razonamiento complejo, abstracción y acumulación cultural.

Preocupaciones sobre la IA, los datos y la degradación

• Algunos temen el “colapso del modelo” a medida que el texto generado por IA satura los datos de entrenamiento, degradando el anclaje de futuros modelos en el contexto del mundo real.
• Otros proponen filtrar o cribar nuevos corpus de entrenamiento con modelos anteriores para reducir este riesgo.

Críticas al ensayo original

• Los comentaristas señalan afirmaciones sin fundamento sobre la conciencia, una visión simplificada de los internos de los LLMs y una dependencia de la introspección personal.
• Aun así, muchos encuentran que el texto es un buen punto de partida para debatir sobre el lenguaje, el pensamiento y lo que realmente están haciendo los LLMs.