La inteligencia artificial no es consciente – Ted Chiang
Ámbito del desacuerdo
- Fuerte desacuerdo sobre si podemos decir con confianza que los LLM actuales no son conscientes.
- Muchos argumentan que no tenemos una definición clara y comprobable de la conciencia; otros dicen que no necesitamos una teoría completa para descartar algunas cosas (p. ej., rocas, documentos de Word, modelos actuales).
- Varios ven la “conciencia” como un concepto vago, de sentido común, o como un clúster de “parecido de familia”, no como una sola propiedad bien definida.
Definiciones y criterios de la conciencia
- Entre los ingredientes propuestos están: experiencia subjetiva (qualia), modelado del yo, emociones, deseos, encarnación, memoria persistente, funcionamiento continuo y agencia.
- Objeción: algunos de estos elementos están en disputa o proceden de intuiciones antropocéntricas estrechas.
- Varios señalan que muchos criterios excluirían a algunos humanos o animales, lo que los vuelve sospechosos.
Los LLM como predictores vs mentes
- Un sector: los LLM son un autocompletado sofisticado / “loros estocásticos”, sin vida interior; la comprensión es solo emparejamiento estadístico de patrones sobre texto.
- Otros responden que “solo predicción” también describe bien al cerebro humano; la maquinaria de predicción puede, en principio, implementar modelos ricos del mundo, razonamiento, quizá incluso conciencia.
- Las comparaciones con experimentos mentales (la Habitación China, la ejecución con lápiz y papel) se usan tanto para negar como para apoyar la conciencia computacional.
Encarnación, tiempo y memoria
- Muchos comentaristas ven la encarnación, la entrada sensorial y el afecto (placer/dolor, miedo, deseo) como centrales; sin estos, hablar de modelos “ansiosos” o “felices” se considera engañoso.
- Otros argumentan que cuerpos virtuales y “impulsos” sintéticos podrían bastar, y que los humanos pueden ser conscientes incluso en estados disminuidos (coma, amnesia, sueños).
- La falta de autoactualización persistente y de un paso intrínseco del tiempo en las implementaciones actuales de LLM se cita con frecuencia como una gran brecha.
Ética y marketing
- Preocupación generalizada de que la UX de chat antropomórfica y las “constituciones” animan a la gente a tratar las herramientas como personas (“pseudantropía”).
- Algunos sostienen: si las empresas de verdad pensaran que los modelos podrían sufrir, las prácticas actuales parecerían esclavitud o tortura.
- Otros dicen que, independientemente de la conciencia de la IA, cómo tratamos a los sistemas de IA importa porque moldea nuestro carácter (ética de la virtud) y nuestro trato hacia animales y humanos.
Inteligencia vs conciencia
- Hay acuerdo general en que los LLM muestran capacidades impresionantes de razonamiento y lenguaje, debilitando la idea de que tales habilidades requieran conciencia.
- Varios ven esto como el verdadero choque filosófico: la inteligencia y la conciencia pueden estar más desacopladas de lo que se asumía antes.