O projeto de lei de segurança em IA proposto pela Anthropic só entra em vigor se houver 50 mortes ou US$ 1 bilhão em danos
O projeto de lei de segurança em IA proposto pela Anthropic nos EUA acionaria supervisão mais rigorosa apenas se um modelo fosse considerado capaz de causar pelo menos 50 mortes ou US$ 1 bilhão em danos, o que levou a críticas de que isso efetivamente atribui à vida humana um valor de cerca de US$ 20 milhões e deixa danos em menor escala sem resposta. Comentadores argumentam que os limiares são facilmente atingidos por ciberataques habilitados por IA, mas altos demais para proteger indivíduos, consumidores e pequenas empresas, e veem o modelo como inclinado a proteger grandes laboratórios “frontier” enquanto restringe modelos de código aberto. Outros contrapõem que alguma forma de auditoria de risco antes do lançamento é necessária, mas temem que essa abordagem convide à captura regulatória e concentre o poder sobre a implantação de IA em poucas empresas bem capitalizadas e agências governamentais.
Limiares: 50 Mortes / US$ 1 Bilhão em Danos
- Muitos veem os limiares como arbitrários e eticamente problemáticos, implicando que até 49 mortes ou danos abaixo de US$ 1 bilhão seriam “aceitáveis”.
- Alguns argumentam que US$ 1 bilhão é, na verdade, um patamar baixo, especialmente para ciberataques auxiliados por IA ou grandes empresas; outros dizem que é alto o suficiente para excluir danos a entidades pequenas.
- Surgem প্রশ্নões sobre se isso se aplica por incidente ou cumulativamente, e ao longo de qual período; os mecanismos da proposta são descritos como pouco claros ou “sem sentido”.
Valor Implícito da Vida Humana
- Alguns comentadores observam que o projeto de lei precifica implicitamente uma vida em cerca de US$ 20 milhões.
- Alguns comparam isso com indenizações legais do mundo real, sugerindo que não é um valor unusually alto; outros zombam da ideia de uma “quantidade mínima” de 50 vidas.
Captura Regulatória e Impacto em Modelos Abertos
- Há forte preocupação de que o projeto de lei principalmente consolide grandes laboratórios e APIs com acesso restrito ao:
- Exigir revisão e seguro que só grandes atores podem pagar.
- Tornar a “IA Segura Certificada” efetivamente inacessível para projetos pequenos/abertos.
- Vários afirmam que isso é uma tentativa deliberada de suprimir modelos de pesos abertos sob o rótulo de “segurança”.
- Outros contrapõem que o projeto de lei ao menos mira os “frontier labs”, e não os pequenos, embora os opositores o leiam como uma proibição de facto de modelos abertos poderosos.
Responsabilidade, Direito e Aplicação
- Debate sobre se novas leis são necessárias ou se basta aplicar estruturas já existentes de responsabilidade civil, penal e RICO.
- Alguns dizem que as empresas deveriam responder como qualquer fornecedor de software, especialmente quando implantam sistemas sabidamente perigosos.
- Há ampla discussão sobre Mens Rea: negligência vs. intenção, comportamento de risco repetido, e se executivos ou engenheiros específicos deveriam enfrentar acusações.
Comparação com Outras Tecnologias
- Analogias com carros, aviões, armas, criptografia e ferramentas de hacking:
- Uma visão: regular o uso indevido e o design defeituoso, não as capacidades em si.
- Outra: se a IA for enquadrada como mais perigosa do que armas, uma regulação ex ante significativa é inevitável.
Efetividade e “O Gênio Saiu da Garrafa”
- Céticos argumentam que modelos abertos poderosos e laboratórios estrangeiros tornam o controle rigoroso impossível; no máximo, o projeto de lei compraria alguns meses de atraso.
- Outros veem qualquer desaceleração da implantação de ponta como tempo ainda valioso para desenvolver mais salvaguardas.