No debemos otorgar personalidad jurídica a los agentes de IA
El hecho de si los sistemas avanzados de IA deberían recibir alguna vez personalidad jurídica es objeto de un fuerte debate, y la mayoría de los comentaristas sostiene que las entidades que no pueden ser castigadas de forma significativa ni responsabilizadas no deben recibir derechos ni poder dirigir corporaciones. Muchos señalan la personalidad jurídica corporativa existente como una advertencia, observando cómo ya diluye la responsabilidad humana, y advierten que unos agentes de IA inmortales y copiables empeorarían mucho esto. Otros plantean cuestiones éticas a más largo plazo sobre la futura IA sintiente y la necesidad de distinguir entre proteger los intereses humanos hoy y evitar mañana una esclavitud digital codificada.
Responsabilidad vs. Personalidad de la IA
- La preocupación central es la responsabilidad, no el engaño ni la capacidad.
- Los humanos y las corporaciones pueden, al menos en principio, ser castigados; a la IA no se la puede encarcelar, avergonzar ni privar directamente de sus activos.
- Los críticos sostienen que, si una IA puede copiarse o hacer copias de seguridad de sí misma, destruir una instancia no tiene efecto disuasorio.
- Quienes apoyan una regulación estricta dicen que la IA siempre debería tener controladores humanos o corporativos identificables que asuman la responsabilidad.
- Otros replican que ya hacemos responsables a los humanos por el “software malo”, así que esto no es más que otro problema de responsabilidad del producto.
La personalidad jurídica de las corporaciones como precedente
- Algunos ven la constitución de sociedades como un mecanismo existente para “personas artificiales”, haciendo que la personalidad jurídica de la IA sea conceptualmente similar.
- Otros dicen que la personalidad jurídica corporativa ya fue un error y que en gran medida solo sirve para difuminar o eludir la responsabilidad.
- Debate sobre con qué frecuencia los ejecutivos son realmente castigados por daños graves; algunos dicen que rara vez, especialmente por negligencia.
- Discusión sobre la jurisprudencia estadounidense y Citizens United como establecimiento de amplios derechos corporativos, frente a regímenes más limitados en otros lugares.
- Preocupación de que la IA obligue a replantear los derechos y responsabilidades corporativos, no solo los derechos de la IA.
Responsabilidad legal de los sistemas autónomos
- Analogías: arma + IA, perros, bombas con disparadores aleatorios y coches autónomos.
- La opinión general: los diseñadores, propietarios y operadores deberían ser responsables, de forma similar a la responsabilidad actual del producto.
- Ejemplos de conducción autónoma (p. ej., Waymo): se espera que la empresa, no los pasajeros, sea responsable de las infracciones o daños.
- Se señala el decomiso civil como ejemplo de objetos, y no personas, que son nominalmente los acusados legales.
Conciencia, sensibilidad y estatus moral
- Fuerte desacuerdo sobre si la IA actual podría ser consciente:
- Un lado: los LLM son herramientas diseñadas; los entendemos lo suficiente como para rechazar las afirmaciones de conciencia.
- El otro lado: no existe una teoría coherente de la conciencia, así que negar con seguridad es injustificado; las redes neuronales comparten similitudes estructurales con los cerebros.
- Algunos proponen reservar “conciencia” para los organismos biológicos para evitar importar obligaciones morales humanas a las máquinas.
- Otros advierten que incorporar ahora reglas de “sin excepciones” corre el riesgo de una futura esclavitud digital si aparecen sistemas verdaderamente sintientes.
Criterios para la personalidad jurídica de la IA
- Sugerencias de que cualquier conversación seria sobre personalidad jurídica requiere:
- Funcionamiento continuo y de larga duración con memoria y yo estables;
- Una personalidad persistente que no pueda sobrescribirse trivialmente mediante prompts;
- Capacidad de asumir obligaciones (p. ej., pagar su computación, impuestos).
- Los agentes que imitan personas (familiares fallecidos, personajes de ficción) plantean cuestiones espinosas sobre identidad, propiedad intelectual y cuándo o si se aplicarían derechos.
Derechos humanos e interacciones con la IA
- Propuesta de otorgar a los humanos nuevos privilegios legales en torno al uso de la IA, por ejemplo, tratar los chats privados con LLM locales como privilegio terapéutico/conyugal.
- Se enfatiza la distinción entre derechos para la IA y protecciones para las personas que usan IA.
Contexto político y social
- Muchos consideran que la personalidad jurídica de la IA es marginal y políticamente tóxica por ahora, aunque se señala la analfabetización técnica del público.
- Críticas más amplias: el capitalismo contemporáneo, la impunidad corporativa y una tendencia humana a someterse a “poderes” superiores (religión/máquinas).