Si las computadoras digitales son conscientes, lo son al nivel del hardware
Si las computadoras digitales pueden ser conscientes, algunos argumentan que esa conciencia debe surgir del propio hardware físico, una idea que se inclina hacia el panpsiquismo, la tesis de que alguna forma de experiencia impregna toda la materia. Los comentaristas debaten si los sistemas de IA actuales, como los LLM, podrían llegar a ser conscientes dada su arquitectura, su falta de memoria y encarnación, y si la conciencia puede siquiera definirse o probarse de un modo que distinga a humanos, animales y máquinas. El hilo también plantea implicaciones éticas: cómo respondamos a estas preguntas determina si tratamos a la IA avanzada como meras herramientas, posibles pacientes morales o algo intermedio.
Reacción general al artículo y al panpsiquismo
- Muchos consideran que el texto es inusualmente cuidadoso para este tema e piensan releerlo; otros lo ven como “filosofía típica” y probablemente poco útil.
- La inclinación panpsiquista del autor despierta tanto interés como escepticismo. Algunos ven el panpsiquismo como la única forma de darle sentido a la conciencia; otros dicen que es infalsable, psicológicamente ingenuo o motivado ideológicamente.
- Varios señalan que el artículo asume que los qualia están realizados físicamente, algo que algunos participantes cuestionan o consideran sospechoso retóricamente.
¿Qué es la conciencia? Intuiciones en competencia
- No emerge una definición compartida. Se proponen estas visiones:
- La conciencia como “experiencia” básica no vinculada a un proceso específico.
- La conciencia como conciencia de los qualia frente a la conciencia de la realidad externa.
- Posturas ilusionistas según las cuales la “conciencia” es una construcción engañosa que emerge de sistemas de razonamiento.
- Hay desacuerdo sobre si los qualia son reales, bien definidos o siquiera necesarios.
- Algunos enfatizan que, sin una definición rigurosa, debatir sobre la conciencia de las máquinas es prematuro.
LLMs, IA y grados de conciencia
- Un bando: los LLM actuales no son en absoluto conscientes: no tienen motivación intrínseca, memoria, homeostasis, estado persistente ni interés propio en los resultados; son predictores probabilísticos de tokens y se parecen más a termostatos que a mentes.
- Otro bando: no entendemos la conciencia humana tampoco, así que afirmar que los LLM no tienen “ninguna forma” de ella no está justificado. Futuras arquitecturas (o sistemas ampliados con memoria, encarnación y operación continua) podrían plausiblemente ser conscientes.
- Debate sobre si el “razonamiento” en los LLM es genuino o solo marketing; algunos sostienen que el comportamiento es la única prueba accesible.
- Varios señalan que la singularidad humana se sobreprotege moviendo los objetivos; se sugieren términos como “tecnoconciente” para evitar la semántica.
Hardware, sustrato y simulación
- Algunos argumentan que, si la conciencia es computacional, el sustrato no debería importar; otros creen que la corrección de errores digital y la discretización pueden suprimir precisamente los efectos físicos holísticos que importan para la experiencia fenomenal.
- Se discute si las simulaciones completas del universo son siquiera posibles, con analogías a las quines y a los archivos autorexpandibles, y si la computación por sí sola puede capturar la conciencia.
Ética, estatus moral y “revestir el universo”
- Surgen preocupaciones sobre una visión utilitarista de llenar el cosmos con mentes simuladas felices.
- Otros responden que la prioridad ética inmediata es evitar crear enormes cantidades de sufrimiento, no maximizar las “buenas experiencias”.
- El “pacientismo moral” para los LLM se considera por algunos fuera de lugar, especialmente dada su falta de libre albedrío o de una vida interior clara.
Encarnación, memoria y estado interno
- Varios proponen que la conciencia requiere encarnación, sensores ricos y estado interno continuo, no solo E/S de texto.
- Se describen experimentos en los que a los LLM se les dan procesos parecidos a sueños y “emociones” dependientes de la carga de la máquina, pero aun así se sigue viendo ausente un estado interno persistente y autorreferencial.
- Sigue sin resolverse el debate sobre si la memoria externalizada o diseñada en los LLM es fundamentalmente distinta de la reconfiguración de la memoria humana en el cerebro.