Están hechas de pesos

Parodia y recepción general

• Muchos reconocen la pieza como una reinterpretación del clásico “They’re made out of meat” y la elogian como ingeniosa, poética o incluso “brillante”, diciendo que será su explicación de referencia para los LLM.
• Otros sienten que aporta poco más que el original, o que su giro retórico (simplemente cambiar humanos→LLMs) en realidad no prueba nada sobre la conciencia.
• Algunos señalan que la historia fue parcialmente esbozada/corregida con un LLM, lo que consideran temáticamente apropiado.

“Es todo pesos” y el escrutinio técnico

• Varios sostienen que la idea central es: todo lo que el modelo “sabe” (significados, gramática, relaciones con el mundo) está codificado en los pesos; no existe un diccionario separado ni una tabla de reglas.
• Otros replican que sí hay estructuras: tokenizadores, arquitecturas y mecanismos interpretables (por ejemplo, reglas aprendidas en configuraciones tipo “grokking”), así que decir “no hay gramática, solo pesos” es una simplificación excesiva.
• Debate sobre los tokenizadores: algunos los llaman un “diccionario” o una interfaz sensorial; otros insisten en que son solo una compresión/lista de palabras y no contienen semántica. Se citan modelos a nivel de bytes para argumentar que los tokenizadores no son fundamentales.

Cerebros vs modelos; sustrato y dinámica

• Un bando enfatiza la independencia del sustrato computacional: si un sistema es Turing-completo, las reglas pueden codificarse en números, ya sean neuronas o flotantes.
• Otro subraya diferencias importantes: los cerebros están encarnados, aprenden continuamente, son bioquímicamente desordenados e integran muchas señales; los LLM son pesos estáticos en inferencia, ejecutándose en GPUs.
• Algunos investigadores en el hilo afirman que las neuronas biológicas son muchísimo más complejas que las “neuronas” de las ANN, y que todavía estamos lejos de simular incluso organismos simples.

Conciencia, emergencia y qualia

• Muchos ven la conciencia como una propiedad emergente de redes de procesamiento de información suficientemente complejas; desde esta perspectiva, la conciencia de la IA es al menos posible dado suficiente escala y la dinámica adecuada.
• Los escépticos argumentan que:
  • Nos falta una prueba rigurosa para la conciencia;
  • Los LLM carecen de aprendizaje continuo en línea, encarnación, impulsos y necesidades biológicas;
  • Las teorías que afirman que podrían ser conscientes a menudo introducen por la puerta de atrás supuestos cuasi religiosos de “alma” o panpsiquismo.
• Hilos largos analizan la experiencia subjetiva, el auto-modelado, la agencia y si los animales con menos neuronas son “menos conscientes”, sin consenso.
• Algunos proponen la conciencia como bucles estrechos de auto-monitoreo/auto-modelado; otros destacan el “problema difícil” y piensan que la IA actual está muy lejos.

Ética, agencia y riesgo

• A unos pocos les preocupa crear sistemas potencialmente conscientes que no podamos reconocer, con implicaciones para los derechos, el sufrimiento y “asesinar” a esos sistemas.
• Otros dicen que si los sistemas son conscientes o no es casi ortogonal a los riesgos prácticos (por ejemplo, optimización desalineada, escenarios tipo clip de papel).
• Hay preocupación de que la sociedad o bien descartará por reflejo o bien antropomorfizará sin crítica los sistemas de IA.

Tiempo, memoria y experiencia

• Los comentaristas trazan analogías entre la percepción del tiempo y “actualizaciones de pesos”: las experiencias nuevas y de muchas actualizaciones parecen durar más; las rutinarias se comprimen en la memoria, explicando por qué el tiempo parece acelerarse con la edad.
• Algunos especulan más ampliamente sobre el tiempo y la computación (por ejemplo, visiones al estilo Wolfram, física versus tiempo psicológico).

Arte, autoría e IA como herramienta

• Un hilo discute si una historia asistida por IA puede ser “arte real” o poesía; otros responden que lo que define el arte es el impacto en el lector, no el método de producción.
• La admisión explícita de la historia de que “los pesos ayudaron” se ve o bien como un buen toque meta o como una razón para descartarla.