Si los LLM tienen atributos similares a los humanos, entonces también Age of Empires II

Reacción general al artículo

• Muchos ven el artículo como irónico o lúdico desde el punto de vista filosófico, no como ciencia rigurosa.
• Algunos lo elogian por ser una réplica oportuna contra analogías llevadas demasiado lejos y la antropomorfización de los LLM, especialmente en textos populares.
• Otros lo llaman “pseudo-nonsense” o “crackpottery”, criticándolo por ser incoherente, estar sobrerredactado y por hacer puntos triviales sobre la completitud de Turing.
• Algunos consideran que las afirmaciones son modestas y están cuidadosamente matizadas, pero presentadas como si fueran una refutación contundente de algún bando opuesto difuso.

AoE II, completitud de Turing y sustratos

• El artículo usa la lógica de puertas / scripting de AoE II para argumentar que el juego es Turing-completo y que, en principio, puede ejecutar un LLM.
• Algunos comentaristas señalan que esto no es más que el punto estándar de “cualquier cosa Turing-completa puede ejecutar cualquier computación”, extendido a un sustrato absurdo.
• Otros ponen pegas a la construcción exacta (bit-goats, configuración específica de recursos) y cuestionan que eso pruebe mucho más allá de usar el motor del juego como una VM lenta.
• Se hacen comparaciones con “Turing tarpits” y dispositivos “Doom-complete”: poderosos en principio, absurdos en la práctica.

Antropomorfización, conciencia e independencia del sustrato

• Debate central: si se conceden a los LLM “atributos similares a los humanos”, entonces, por independencia del sustrato, esos mismos atributos deberían existir cuando el LLM se implementa en AoE II, LEGO u otros medios arbitrarios.
• Algunos argumentan que esto pone en evidencia lo débiles que son los argumentos antropomórficos; otros dicen que quienes ya aceptan la independencia del sustrato no se verán convencidos.
• Hay una discusión extensa sobre si la conciencia está ligada al lenguaje, la teoría de la mente o estructuras neuronales particulares, con contraejemplos (personas sordas, animales, pulpo, motores de ajedrez).
• Varios ven la conciencia como un gradiente sin una frontera clara entre rocas, programas simples y cerebros humanos; otros lo rechazan o lo consideran no falsable.
• Un tema recurrente: simulación frente a realización. Algunos comparan la “conciencia” de un LLM con un simulador de tormentas de lluvia (no está mojado), otros con la aritmética (donde simulación y ejecución pueden ser indistinguibles en la práctica).
• Se invocan experimentos mentales como la Habitación China, el cerebro de China y la “vaso de agua implementando una mente mediante isomorfismo” para desafiar el computacionalismo ingenuo.

Inteligencia, capacidad y desplazamiento de los postes de la portería

• Un bando dice que los LLM son solo enormes aproximadores de funciones, buenos para “waffle”, impulsados por datos de entrenamiento y alineamiento, no por comprensión genuina.
• Otro señala que, una vez que los sistemas superan el test de Turing, escriben código, resuelven problemas difíciles, etc., los críticos siguen moviendo la definición de “inteligencia” sin establecer criterios claros.
• Algunos sostienen que lo que importa es la reemplazabilidad práctica (trabajos, escritura, gestión de empresas), no el estatus metafísico. Otros mantienen que la conciencia y el estatus moral siguen siendo cuestiones abiertas e importantes.