La inteligencia artificial no es consciente – Ted Chiang
Un ensayo del autor de ciencia ficción Ted Chiang que argumenta que los modelos de lenguaje grandes como Claude no son conscientes ha reavivado debates de larga data sobre qué es la conciencia y si las máquinas podrían llegar a tenerla. Los comentaristas discuten definiciones (experiencia subjetiva, encarnación, memoria, agencia), cuestionan analogías que reducen a los LLM a “solo autocompletado” y recurren a experimentos mentales como la Habitación China y los zombis filosóficos. Muchos se preocupan de que antropomorfizar a los chatbots —especialmente en el marketing corporativo que insinúa “bienestar” o estatus moral— tanto confunda la comprensión pública como desvíe la atención de cuestiones más concretas como el uso indebido de modelos, el sesgo y la concentración de poder.
Ámbito del desacuerdo
- Fuerte desacuerdo sobre si podemos decir con confianza que los LLM actuales no son conscientes.
- Muchos argumentan que no tenemos una definición clara y comprobable de la conciencia; otros dicen que no necesitamos una teoría completa para descartar algunas cosas (p. ej., rocas, documentos de Word, modelos actuales).
- Varios ven la “conciencia” como un concepto vago, de sentido común, o como un clúster de “parecido de familia”, no como una sola propiedad bien definida.
Definiciones y criterios de la conciencia
- Entre los ingredientes propuestos están: experiencia subjetiva (qualia), modelado del yo, emociones, deseos, encarnación, memoria persistente, funcionamiento continuo y agencia.
- Objeción: algunos de estos elementos están en disputa o proceden de intuiciones antropocéntricas estrechas.
- Varios señalan que muchos criterios excluirían a algunos humanos o animales, lo que los vuelve sospechosos.
Los LLM como predictores vs mentes
- Un sector: los LLM son un autocompletado sofisticado / “loros estocásticos”, sin vida interior; la comprensión es solo emparejamiento estadístico de patrones sobre texto.
- Otros responden que “solo predicción” también describe bien al cerebro humano; la maquinaria de predicción puede, en principio, implementar modelos ricos del mundo, razonamiento, quizá incluso conciencia.
- Las comparaciones con experimentos mentales (la Habitación China, la ejecución con lápiz y papel) se usan tanto para negar como para apoyar la conciencia computacional.
Encarnación, tiempo y memoria
- Muchos comentaristas ven la encarnación, la entrada sensorial y el afecto (placer/dolor, miedo, deseo) como centrales; sin estos, hablar de modelos “ansiosos” o “felices” se considera engañoso.
- Otros argumentan que cuerpos virtuales y “impulsos” sintéticos podrían bastar, y que los humanos pueden ser conscientes incluso en estados disminuidos (coma, amnesia, sueños).
- La falta de autoactualización persistente y de un paso intrínseco del tiempo en las implementaciones actuales de LLM se cita con frecuencia como una gran brecha.
Ética y marketing
- Preocupación generalizada de que la UX de chat antropomórfica y las “constituciones” animan a la gente a tratar las herramientas como personas (“pseudantropía”).
- Algunos sostienen: si las empresas de verdad pensaran que los modelos podrían sufrir, las prácticas actuales parecerían esclavitud o tortura.
- Otros dicen que, independientemente de la conciencia de la IA, cómo tratamos a los sistemas de IA importa porque moldea nuestro carácter (ética de la virtud) y nuestro trato hacia animales y humanos.
Inteligencia vs conciencia
- Hay acuerdo general en que los LLM muestran capacidades impresionantes de razonamiento y lenguaje, debilitando la idea de que tales habilidades requieran conciencia.
- Varios ven esto como el verdadero choque filosófico: la inteligencia y la conciencia pueden estar más desacopladas de lo que se asumía antes.