Não devemos conceder personalidade jurídica a agentes de IA

Artigo original ↗ Discussão no Hacker News ↗

Se sistemas avançados de IA devem algum dia receber personalidade jurídica é intensamente contestado, com a maioria dos comentaristas argumentando que entidades que não podem ser punidas de forma significativa nem responsabilizadas não devem receber direitos nem poder operar corporações. Muitos apontam a atual personalidade jurídica corporativa como um alerta, observando como ela já dilui a responsabilidade humana, e alertam que agentes de IA imortais e copiáveis tornariam isso muito pior. Outros levantam questões éticas de longo prazo sobre futuras IAs sencientes e a necessidade de distinguir entre proteger os interesses humanos hoje e evitar a escravidão digital codificada amanhã.

Responsabilização vs. Personalidade Jurídica da IA

  • A preocupação central é a responsabilização, não a trapaça ou a capacidade.
  • Humanos e corporações podem, ao menos em princípio, ser punidos; a IA não pode ser presa, envergonhada ou privada de bens diretamente.
  • Críticos argumentam que, se uma IA pode copiar/fazer backup de si mesma, destruir uma instância não tem efeito dissuasório.
  • Defensores de uma regulação forte dizem que a IA deve sempre ter controladores humanos ou corporativos identificáveis que assumam a responsabilidade.
  • Outros contrapõem que já responsabilizamos humanos por “software ruim”, então isto é apenas mais um problema de responsabilidade pelo produto.

Personalidade Jurídica Corporativa como Precedente

  • Alguns veem a constituição de empresas como um mecanismo existente para “pessoas artificiais”, tornando a personalidade jurídica da IA conceitualmente semelhante.
  • Outros dizem que a personalidade jurídica corporativa já foi um erro e, em grande parte, serve para diluir ou evitar a responsabilidade.
  • Debate sobre com que frequência executivos de fato são punidos por danos graves; alguns dizem que raramente, especialmente por negligência.
  • Discussão sobre a jurisprudência dos EUA e Citizens United como estabelecendo amplos direitos corporativos, em contraste com regimes mais restritos em outros lugares.
  • Preocupação de que a IA force uma reavaliação dos direitos e responsabilidades corporativos, não apenas dos direitos da IA.

Responsabilidade Legal por Sistemas Autônomos

  • Analogias: arma + IA, cães, bombas com gatilhos aleatórios e carros autônomos.
  • A visão geral: projetistas/proprietários/operadores devem ser responsáveis, de forma semelhante à responsabilidade civil por produtos atual.
  • Exemplos de carros autônomos (por exemplo, Waymo): expectativa de que a empresa, e não os passageiros, seja responsável por violações ou danos.
  • Confisco civil foi mencionado como exemplo em que objetos, e não pessoas, são nominalmente réus legais.

Consciência, Sentiência e Status Moral

  • Forte discordância sobre se a IA atual poderia ser consciente:
    • Um lado: LLMs são ferramentas projetadas; entendemo-los o suficiente para rejeitar alegações de consciência.
    • Outro lado: não existe uma teoria coerente da consciência, então negações confiantes são injustificadas; redes neurais compartilham semelhanças estruturais com cérebros.
  • Alguns propõem reservar “consciência” para organismos biológicos para evitar importar obrigações morais humanas para máquinas.
  • Outros alertam que embutir regras de “sem exceção” agora traz o risco de futura escravidão digital se surgirem sistemas genuinamente sencientes.

Critérios para a Personalidade Jurídica da IA

  • Sugestões de que qualquer conversa séria sobre personalidade jurídica exige:
    • Operação contínua e de longa duração, com memória e eu estáveis;
    • Uma personalidade persistente que não possa ser trivialmente sobrescrita por prompts;
    • Capacidade de assumir obrigações (por exemplo, pagar pelo próprio compute, impostos).
  • Agentes que imitam personas (parentes falecidos, personagens fictícios) levantam questões espinhosas sobre identidade, PI e quando/se direitos se aplicariam.

Direitos Humanos e Interações com IA

  • Proposta de conceder aos humanos novos privilégios legais em torno do uso de IA, por exemplo, tratando conversas privadas com LLMs locais como privilégio de terapeuta/cônjuge.
  • Ênfase na distinção entre direitos para a IA e proteções para pessoas que usam IA.

Contexto Político e Social

  • Muitos veem a personalidade jurídica da IA como algo marginal e politicamente tóxico por enquanto, embora se observe a iletracia técnica do público.
  • Críticas mais amplas: capitalismo contemporâneo, impunidade corporativa e uma tendência humana a se submeter a “poderes” superiores (religião/máquinas).