Muitas organizações de segurança em IA tentaram criminalizar a IA de código aberto atualmente existente
Os esforços de algumas organizações de segurança em IA para restringir ou até criminalizar modelos de IA de código aberto estão sendo amplamente interpretados como uma forma de captura regulatória que consolidaria o poder de grandes empresas de tecnologia. Comentadores debatem se o licenciamento de dados de treinamento e os limites de compute acabarão efetivamente com o desenvolvimento comunitário de IA no Ocidente, empurrando a inovação para jurisdições menos reguladas ou para a clandestinidade. Paralelamente, há uma divisão acentuada entre os que se concentram em riscos existenciais especulativos de futuras AGIs e os que estão mais preocupados com danos atuais como violações de direitos autorais, desinformação e perda de empregos — e se proibições amplas de modelos abertos são práticas ou desejáveis.
Captura regulatória e motivações das organizações de “segurança em IA”
- Muitos veem os grupos de segurança em IA como lobistas de facto para grandes incumbentes (OpenAI, Microsoft, Google, etc.), usando “segurança” para justificar regras que consolidam fossos corporativos.
- Críticos argumentam que essas organizações pressionam por proibições ou pela criminalização de modelos abertos enquanto são mais discretas quanto a riscos equivalentes ou maiores vindos de sistemas fechados e corporativos.
- Alguns comentaristas suspeitam de coordenação com governos e interesses de inteligência/militares; outros acham que a maioria dos pesquisadores de segurança da base é sincera, mas seus financiadores não são.
Dados, copyright e o futuro da IA de código aberto
- Uma preocupação importante: se os dados de treinamento precisarem sempre ser licenciados, modelos abertos podem se tornar economicamente impossíveis, enquanto as grandes empresas de tecnologia podem arcar com acordos.
- Outros contrapõem que:
- Comunidades FOSS continuarão treinando com dados sem licença “nas sombras” (torrent/IPFS/jurisdições estrangeiras).
- Dados sintéticos ou “dados FOSS” coletados pela comunidade e material de domínio público podem substituir parcialmente, embora provavelmente com capacidades degradadas.
- Há amplo desacordo sobre se treinar com conteúdo protegido por direitos autorais é roubo, uso justo ou algo intermediário.
Risco existencial vs. danos atuais
- Um grupo foca no x-risk: AGI descontrolada potencialmente destruindo ou desabilitando permanentemente a humanidade; eles veem a abertura como algo que torna as capacidades irreversíveis.
- Uma parcela maior do tópico é cética: vê os modelos atuais como muito distantes da AGI e os argumentos de x-risk como especulativos, cheios de premissas em cascata ou ficção científica.
- Muitos argumentam que os danos de curto prazo são mais concretos: deslocamento de trabalho, desvalorização do trabalho criativo, desinformação, spam, lavagem de plágio, sistemas de decisão enviesados e concentração de poder.
Proibições, limites e aplicabilidade
- As propostas discutidas incluem limites baseados em FLOP, proibições de certos modelos ou até ideias extremas como proibir globalmente circuitos integrados.
- A reação contrária é forte:
- A aplicação é vista como irrealista (como proibição de drogas ou “proibir software malicioso”).
- A competição entre Estados-nação e o compute barato tornam proibições unilaterais instáveis; atores rebeldes ou outros países continuariam de qualquer forma.
- Vários observam que critérios vagos de “segurança em IA” podem facilmente ser esticados para censurar discurso desaprovado ou proteger incumbentes.
Valor e riscos de modelos de código aberto
- Os defensores veem modelos abertos como:
- Essenciais para democratizar a IA, resistir ao controle corporativo e permitir pesquisa independente sobre modos de falha.
- Análogos à criptografia aberta; bani-los prejudicaria a competitividade do Ocidente e simplesmente deslocaria o desenvolvimento para outro lugar.
- Críticos temem que modelos abertos tornem mais fácil e difícil de “recolher” o uso indevido sem censura (orientação para armas, desinformação, golpes) uma vez liberados.
Confusão conceitual em torno de “segurança em IA”
- Comentadores observam que “segurança em IA” frequentemente mistura:
- Moderação de conteúdo / “saídas seguras”.
- Danos sociais (empregos, propaganda, copyright).
- Risco existencial de longo prazo da AGI.
- Essa sobrecarga alimenta o falar‑pastas‑um‑do‑outro e permite que atores escondam a proteção de lucros por trás de preocupações de segurança mais legítimas.