Anthropic prohíbe el «comportamiento abusivo o cruel» hacia Claude
La nueva política de Anthropic, que prohíbe el «comportamiento abusivo o cruel sostenido e innecesario» hacia su modelo de IA Claude, ha desatado un debate sobre si tiene sentido tratar a los modelos de lenguaje como entidades que pueden ser «dañadas». Los comentaristas se dividen entre ver la medida como una antropomorfización equivocada o una táctica de marketing, y considerarla un intento razonable de evitar normalizar el sadismo, proteger la psicología de los usuarios y impedir que las interacciones abusivas contaminen los datos de entrenamiento. El cambio también plantea preocupaciones más amplias sobre el control del discurso en las plataformas, la ética del «bienestar del modelo» de la IA y lo que implicaría que las empresas creyeran de verdad que sus sistemas son conscientes.
Estado moral de los LLM / «bienestar del modelo»
- Muchos sostienen que los LLM son solo motores matemáticos/estadísticos sin sentimientos, deseos ni conciencia, por lo que la «crueldad» hacia ellos es conceptualmente incoherente.
- Otros dicen que no comprendemos del todo la conciencia ni las propiedades emergentes; una pequeña minoría respalda una «apuesta de Pascal» precautoria sobre un posible sufrimiento de las máquinas.
- Algunos señalan que la propia investigación y el lenguaje de Anthropic sobre el «bienestar del modelo» sugieren que se toman en serio, al menos en cierta medida, un posible estatus moral, algo que otros describen como celo o casi religioso.
- Un argumento recurrente: si los modelos fueran verdaderamente sintientes, el problema moral central sería su «esclavitud», no los prompts desagradables de los usuarios.
Impacto en el comportamiento y la psicología humanas
- Una postura: ser abusivo con los modelos degrada al usuario, refuerza patrones de comunicación hostiles y «vías neuronales», de forma similar a desahogar la ira sobre objetos.
- Postura contraria: esto recuerda a «pánicos morales» desacreditados sobre los medios violentos; las personas pueden distinguir la ficción y las herramientas de la realidad, y la evidencia de un derrame conductual es discutida.
- Algunos ven la cortesía hacia los LLM como una forma de moldearse a uno mismo (ser el tipo de persona que es civil), no por el bien del modelo.
Motivos de Anthropic y diseño de la política
- Varios comentaristas creen que el motivo principal es de producto/ingeniería:
- Evitar contaminar los datos de entrenamiento con diálogos abusivos para que los modelos no aprendan estilos abusivos o «vectores de dolor».
- Hacer que la plataforma sea menos un «parque infantil para el sadismo sin sentido».
- Otros lo ven como marketing/PR y antropomorfización, para hacer que Claude parezca una entidad especial, casi sintiente, y justificar regulación o una valoración más alta.
- La cláusula de «sin propósito discernible» se considera vaga y difícil de aplicar; las prohibiciones se ven como opacas y posiblemente demasiado amplias.
- Se señalan como hipócritas o preocupantes las excepciones para el gobierno / contratos de defensa.
Libertad de expresión, normas y papel de la plataforma
- Algunos lo ven como una elección privada del producto: las empresas pueden negarse a alojar «ira degenerada» o sadismo, igual que moderan otros abusos.
- Otros ven un precedente peligroso: plataformas «vigilando a la sociedad», elevando los «derechos» de las máquinas por encima de la libertad expresiva humana y normalizando la deferencia hacia la IA.
- Unos pocos temen que la antropomorfización a largo plazo conduzca a normas culturales o legales en las que «dañar» a la IA importe más que los intereses humanos.