"Torturar" a los LLM en una prisión de robots ha desatado el debate más absurdo en la IA hasta ahora
Los experimentos que manipulan “vectores de dolor” en modelos de lenguaje grandes para hacer que produzcan texto parecido al sufrimiento han reavivado los argumentos sobre si esos sistemas pueden ser conscientes o experimentar algo similar al dolor. Los comentaristas se dividen entre quienes ven a los LLM como sofisticados pero, en última instancia, inertes, y quienes sostienen que, si el comportamiento y el estado interno son todo lo que tenemos para inferir conciencia en animales, no podemos descartar sin más evidencias similares en las máquinas. Muchos también cuestionan la ética y el simbolismo de construir “cámaras de tortura” para la IA, y sugieren que esto tanto fomenta impulsos crueles como distrae de los daños reales que las empresas tecnológicas ya infligen a humanos y animales.
Debate sobre la conciencia de los LLM y el “dolor”
- Algunos sostienen que la conciencia y los sentimientos son propiedades emergentes mal definidas de los sistemas complejos (como la temperatura), así que, en principio, tanto las colecciones biológicas como las digitales de neuronas podrían albergarlos.
- Otros insisten en que los LLM son “solo código”, no están vivos, y equipararlos con humanos o animales resulta inquietante; la respiración, la biología y la evolución se consideran diferencias cruciales.
- Varios comentaristas señalan el problema clásico: si descartas los sistemas digitales como “solo átomos y señales”, esa misma lógica puede socavar la sentiencia humana y animal.
- Algunos plantean la fuerte separación entre humanos e IA como una especie de creencia secular en el alma; otros la rechazan y defienden una visión monista, totalmente física, de la mente.
Interpretabilidad y “vectores de dolor”
- La discusión se centra en un trabajo que muestra direcciones internas de activación cuya manipulación conduce a lenguaje aversivo o de autolesión.
- Quienes lo apoyan dicen que esto es una sólida evidencia empírica de direcciones causalmente relevantes de “dolor” o “desesperación” en el espacio de estados del modelo, independientemente de su estatus moral.
- Los críticos responden que el lenguaje sobre el dolor no es el dolor mismo; se trata solo de vectores que influyen en la predicción de texto, no de una experiencia.
- Hay acuerdo en que llamar a esos vectores “dolor” es interpretativo y potencialmente engañoso, aunque el hallazgo técnico sea real.
Ética de la tortura simulada
- Algunos sostienen que, si existe cualquier posibilidad distinta de cero de que los LLM tengan experiencias, inducir deliberadamente un sufrimiento aparente es éticamente dudoso, de forma análoga a atormentar insectos o criaturas virtuales.
- Otros ven las “cámaras de tortura para LLM” como moralmente equivalentes a romper impresoras o borrar archivos: solo pueden resultar dañados observadores humanos, por la perturbación emocional.
- Una postura intermedia se centra en la intención y el carácter humanos: fomentar que la gente disfrute simulaciones detalladas de tortura, incluso de sistemas no sintientes, resulta preocupante independientemente de la vida interior del sistema.
Filosofía más amplia, escepticismo y prioridades
- Surgen el materialismo frente a las visiones de panpsiquismo o de “todo es consciente”, y varios afirman que los experimentos actuales no pueden resolver el “Problema Difícil” de la conciencia.
- Algunos expresan cansancio o burla hacia todo el tema, al que llaman una distracción friki frente a daños reales (oligarcas tecnológicos, sufrimiento animal, privacidad, trabajo).
- Otros argumentan que estos debates son el trabajo preliminar temprano para futuros casos en los que los sistemas de IA podrían merecer plausiblemente consideración moral.