Como artistas estão sabotando a IA para se vingar dos geradores de imagens
Artistas estão experimentando ferramentas de “envenenamento de dados” que alteram sutilmente suas imagens online para atrapalhar o treinamento de IA, na esperança de proteger seus estilos ou desacelerar a disseminação de modelos gerativos de imagens. Os comentadores debatem se essa tática pode afetar de forma significativa grandes conjuntos de dados curados e observam que os modelos já dependem fortemente de dados “limpos” anteriores a 2022 e de saídas sintéticas de treinamento. Por trás dos argumentos técnicos estão disputas mais profundas sobre a natureza da arte, a ética de treinar com trabalho sem consentimento, as ameaças aos meios de subsistência criativos e se resistir às ferramentas de IA é proteção principista dos trabalhadores ou um neo-ludismo fútil.
Efetividade dos Esforços de Envenenamento de Dados
- Muitos comentadores duvidam que o envenenamento liderado por artistas (por exemplo, perturbações no estilo Nightshade) possa prejudicar significativamente modelos grandes.
- Razões: os artistas são uma fração minúscula de todas as imagens online; grandes modelos já dependem de grandes corpora “pré-GPT” ou semelhantes ao LAION; os grandes laboratórios não fazem scraping contínuo de conteúdo aleatório da web.
- O envenenamento é visto como mais provável de aumentar os custos de esforços pequenos/de fine-tuning do que de “arruinar a IA”.
- Outros observam que o envenenamento só funciona se as imagens alteradas forem difíceis de distinguir e estiverem presentes em escala, o que não está claro.
- Contramedidas propostas: treinar modelos para detectar/reverter o envenenamento, filtrar imagens geradas por IA ou suspeitas, ou lançar uma nova versão dos modelos.
Dados Sintéticos e Qualidade do Modelo
- Uma corrente teme uma “espiral da morte” à medida que a IA passa a treinar cada vez mais sobre saídas de IA, degradando a qualidade.
- Corrente oposta: dados sintéticos de alta qualidade já se mostraram úteis (por exemplo, pequenos LMs ajustados com saída do GPT-4), e ainda há muitos dados genuínos.
- Consenso no fio: retreinar sobre saída de IA pode ser ruim no caso ingênuo, mas é poderoso quando curado.
Ética, Propriedade e “Ludismo”
- A motivação de muitos artistas é enquadrada como resistência ao scraping sem consentimento e à “lavagem de direitos autorais”, não apenas ódio à tecnologia.
- Alguns comparam os críticos aos luditas históricos e os descartam; outros defendem os luditas como trabalhadores lutando por uma parte justa dos ganhos de produtividade.
- Há debate sobre se os criadores têm direito a uma parte dos lucros impulsionados por IA ou se devem simplesmente se adaptar e usar as ferramentas.
- Vários preveem uma agitação mais ampla à medida que a IA começa a automatizar o trabalho de colarinho branco, ecoando os deslocamentos violentos da industrialização.
A Imagem Gerada por IA é “Arte”?
- Um lado: “arte de IA não é arte”; prompts mais seleção carecem de habilidade incorporada, esforço e experiência vivida. Eles enfatizam o processo, o investimento humano e a singularidade.
- O outro lado: intenção e tomada de decisão ainda existem; pipelines modernos (ControlNet, LoRAs, workflows) exigem arte técnica, de forma semelhante à fotografia ou à modelagem 3D.
- Alguns sugerem tratar imagens de IA, fotografia e pintura como categorias distintas, cada uma com valores socialmente atribuídos diferentes.
Resistência Simbólica e Efeitos Reputacionais
- Alguns admiram a “ousadia” dos artistas, vendo o envenenamento como protesto e uma forma de aumentar a conscientização pública, mesmo que tecnicamente inútil.
- Outros argumentam que isso prejudica principalmente a reputação dos próprios artistas, fazendo-os parecer tecnicamente ingênuos e improváveis de alcançar seus objetivos declarados.