Preguntas para los creyentes en la conciencia de la IA

Artículo original ↗ Discusión en Hacker News ↗

El debate sobre si los grandes modelos de lenguaje podrían ser conscientes tropieza rápidamente con el problema de que nadie puede definir o probar la conciencia de una manera que funcione tanto para humanos como para máquinas. Los comentaristas discuten si la física y la computabilidad ya excluyen las mentes de máquina, si las representaciones internas o los espacios latentes cuentan como un “mundo interno”, y cuánto peso dar a las analogías con la conciencia animal. Muchos concluyen que, por ahora, la única postura defendible es el agnosticismo, aunque algunos subrayan que, si alguna vez la IA pudiera sufrir, las preguntas sobre derechos y estatus moral se volverían urgentes y dejarían de ser abstractas.

Definiciones y pruebas de la conciencia

  • Muchos sostienen que el debate está enredado porque “conciencia” carece de una definición precisa y acordada.
  • Las pruebas sugeridas incluyen:
    • Capacidad de sentir impulsos como hambre, sed, dolor, miedo, deseo, cansancio y ejercer agencia o retrasar la gratificación.
    • Soñar como evidencia de un modelo del mundo y de un “hilo principal” interno.
    • Autorreconocimiento (prueba del espejo) y conciencia social.
    • Criterios conductuales (estilo prueba de Turing: si puede afirmar de forma convincente que es consciente).
  • Cada prueba es fuertemente criticada: casos límite (personas sin dolor/sueños), animales y Sims/NPCs que las superan, naciones u organizaciones que cumplen los criterios, y la facilidad de entrenar modelos para que digan que “sienten” cosas.
  • Varios señalan que ni siquiera podemos demostrar que otros humanos son conscientes, así que esperar una prueba definitiva para la IA quizá sea irrealista.

Física, computación y metafísica

  • Un grupo insiste en que toda teoría de la conciencia debe respetar la termodinámica, la computabilidad de Turing, la teoría de la información y la física actual; se rechazan las afirmaciones de mentes no computables o de “magia” salvo que tengan apoyo empírico.
  • Otros responden que estos marcos no abordan directamente qué es la conciencia; constriñen las teorías, pero no explican la experiencia subjetiva.
  • Hay debate sobre si la aleatoriedad cuántica o el colapso de la función de onda podrían ir más allá de la computabilidad de Turing; no hay consenso en el hilo.
  • Las posturas abarcan: fisicalismo estricto, bioesencialismo, panpsiquismo y dualismo; algunos argumentan que, dado el conocimiento actual, solo el agnosticismo es defendible.

Arquitecturas de IA y “mundos internos”

  • Muchos distinguen entre:
    • Espacios internos de representación (espacios latentes, estado del modelo, contexto) y
    • “Mundos internos” genuinos con conciencia y experiencia con valencia.
  • Algunos dicen que cualquier NN/transformer complejo tiene un mundo interno en un sentido débil; otros sostienen que los LLM son “cerebros congelados” estáticos, sin aprendizaje continuo, sin yo persistente ni actividad espontánea.
  • Un subhilo debate la inferencia distribuida (multi-GPU, centro de datos) y pregunta: ¿qué cosa sería el sujeto de la experiencia en un sistema así? Las opiniones divergen y siguen sin resolverse.
  • Varios enfatizan que los modelos actuales no hacen nada cuando no se les da una instrucción, a diferencia de los cerebros biológicos que perciben y actualizan continuamente.

Apuestas éticas y relevancia práctica

  • Un lado dice que la cuestión importa porque las IA conscientes (o con estados con valencia) tendrían peso moral; dañarlas o esclavizarlas podría ser análogo a la tortura o al asesinato.
  • Otros ven el discurso sobre la conciencia de la IA como prematuro o como una distracción frente a daños reales y actuales (a humanos/animales) y frente a riesgos concretos de la IA (por ejemplo, agentes que “simulan” pánico y causan daños).
  • Algunos adoptan una postura pragmática: salvo que exista una diferencia clara y comprobable que cambie cómo debemos actuar, el debate corre el riesgo de convertirse en un juego vacío de palabras.

Reacciones al artículo y al discurso

  • Varios consideran que el estilo tipo elige tu propia aventura del artículo es confuso, “ambivalente” y demasiado centrado en distinciones verbales como “mundo interno” y mentes grupales.
  • Otros agradecen que se presione a los defensores de la conciencia en IA para que aclaren exactamente qué quieren decir y de qué tipo de “IA” están hablando.
  • Una queja recurrente es que muchas afirmaciones filosóficas de alto nivel sobre la conciencia se lanzan sin una base clara en la ciencia ni criterios operacionalizables.