Sobre a Proposta California SB 1047
A proposta da Califórnia SB 1047 imporia requisitos de segurança, reporte e desligamento para desenvolvedores de grandes modelos de IA, provocando um debate intenso sobre se ela realmente reduz risco ou apenas consolida a big tech. Críticos alertam que limiares baseados em compute, burocracia e potencial responsabilidade civil esmagariam atores menores, empurrariam trabalho para fora do estado e regulariam uma “IA” abstrata em vez de aplicações concretamente danosas, como fraude ou difamação. Defensores contra-argumentam que as lições das redes sociais e de outras tecnologias desregulamentadas justificam guardrails proativos e infraestrutura pública, como um cluster de compute financiado pelo estado, para manter o desenvolvimento de IA responsável e mais amplamente acessível.
Âmbito da Regulação: Modelos vs Aplicações
- Forte divisão entre regular grandes modelos de base vs regular aplicações downstream/sistemas automatizados de decisão.
- Críticos dizem que o foco da SB 1047 em compute/benchmarks favorece incumbentes, é fácil de contornar e empurra pequenos atores para APIs de grandes empresas, criando um oligopólio.
- Outros argumentam que o que importa são sistemas que afetam os direitos e as oportunidades das pessoas (empréstimos, emprego, etc.), o que os enquadramentos existentes de proteção de dados já cobrem em parte.
Enquadramento de Risco e Ameaças Existenciais
- Alguns veem a IA desonesta/“estilo Terminator” como exagero em relação a atores humanos reais e argumentam que a IA “não quer” nada.
- Outros acham que, se os próprios desenvolvedores falam em risco de fim do mundo, isso por si só justifica uma supervisão séria.
- O projeto é visto como mirando principalmente o risco de modelos descontrolados, não o uso indevido solicitado por usuários, o que alguns consideram conceitualmente inconsistente.
Responsabilidade, Uso Indevido e Deepfakes
- Debate sobre se desenvolvedores ou empresas que hospedam ferramentas devem ser responsabilizados quando elas são usadas para fraude, roubo de identidade ou pornô deepfake.
- Um lado: ferramentas são de uso geral, como carros/facas/Photoshop; punir fraude e difamação, não os criadores da ferramenta.
- O outro lado: danos previsíveis e evitáveis (por exemplo, treinar com imagens de celebridades e não bloquear deepfakes nus) deveriam gerar responsabilidade corporativa, de forma semelhante ao projeto inseguro de automóveis.
- Preocupações de que depender apenas de processos judiciais é irrealista, porque litigar custa muito mais do que causar o dano.
Concorrência, Burocracia e Limiares
- Receio de que a “papelada” de conformidade, determinações de segurança e limites ambíguos de modelos sejam administráveis apenas por big tech, consolidando sua posição.
- Contraponto: a regulação também pode manter mercados abertos por meio de restrições do tipo antitruste; é preciso suspeitar tanto de regulação excessiva quanto insuficiente.
- A definição de modelo do projeto via FLOPs e benchmarks de “state of the art” é vista como vaga, podendo abranger muito mais do que alguns poucos LLMs de fronteira e até modelos que não sejam LLMs.
Cluster Público CalCompute
- Alguns veem um cluster público de compute como crucial para democratizar o acesso, viabilizar pesquisa aberta e contrabalançar a dominância das big tech.
- Outros temem um desastre de compras governamentais: capturado por contratantes já existentes, lento, obsoleto desde o início e potencialmente politizando ou centralizando o controle sobre o trabalho aberto.
Contexto e Momento da Califórnia
- Divergência sobre se regras pesadas de IA levarão empresas e talentos para fora da Califórnia vs se as empresas permanecerão por causa das vantagens do ecossistema.
- Alguns argumentam que a regulação está “cedo demais” e deveria esperar danos mais claros; outros dizem que as redes sociais mostram o custo de esperar e que devemos regular agora, de forma iterativa, os danos previsíveis.