Cómo los artistas están saboteando la IA para vengarse de los generadores de imágenes
Los artistas están experimentando con herramientas de “envenenamiento de datos” que alteran sutilmente sus imágenes en línea para perturbar el entrenamiento de la IA, con la esperanza de proteger sus estilos o ralentizar la propagación de modelos generativos de imágenes. Los comentaristas debaten si esta táctica puede afectar de forma significativa a conjuntos de datos grandes y curados, y señalan que los modelos ya dependen en gran medida de datos “limpios” previos a 2022 y de salidas sintéticas de entrenamiento. Bajo los argumentos técnicos hay disputas más profundas sobre la naturaleza del arte, la ética de entrenar con trabajos sin consentimiento, las amenazas a los medios de vida creativos y si resistirse a las herramientas de IA es una protección principista de los trabajadores o un ludismo neotecnófobo y fútil.
Eficacia de los esfuerzos de envenenamiento de datos
- Muchos comentaristas dudan de que el envenenamiento impulsado por artistas (por ejemplo, perturbaciones al estilo Nightshade) pueda perjudicar de forma significativa a los modelos grandes.
- Razones: los artistas son una fracción ínfima de todas las imágenes en línea; los modelos grandes ya dependen de grandes corpus “pre-GPT” o similares a LAION; los grandes laboratorios no rastrean de forma continua contenido aleatorio de la web.
- El envenenamiento se ve más como una forma de aumentar los costes de los esfuerzos pequeños o de ajuste fino que de “arruinar la IA”.
- Otros señalan que el envenenamiento solo funciona si las imágenes alteradas son difíciles de distinguir y están presentes a gran escala, algo que no está claro.
- Contramedidas propuestas: entrenar modelos para detectar o revertir el veneno, filtrar imágenes generadas por IA o sospechosas, o hacer un cambio de versión de los modelos.
Datos sintéticos y calidad del modelo
- Un bando teme una “espiral de la muerte” a medida que la IA se entrena cada vez más con salida de IA, degradando la calidad.
- El bando opuesto: los datos sintéticos de alta calidad ya han sido útiles (por ejemplo, pequeños LM ajustados con salida de GPT-4), y todavía existe una gran cantidad de datos genuinos.
- Consenso en el hilo: reentrenar con salida de IA puede ser malo en el caso ingenuo, pero es poderoso cuando está curado.
Ética, propiedad y “ludismo”
- La motivación de muchos artistas se enmarca como resistencia al rastreo sin consentimiento y al “lavado de derechos de autor”, no solo como odio a la tecnología.
- Algunos comparan a los críticos con los luditas históricos y los desestiman; otros defienden a los luditas como trabajadores que luchaban por una parte justa de las ganancias de productividad.
- Hay debate sobre si a los creadores se les debe una parte de las ganancias impulsadas por la IA o si simplemente deberían adaptarse y usar las herramientas.
- Varios predicen un malestar más amplio a medida que la IA empiece a automatizar el trabajo de cuello blanco, eco de las dislocaciones violentas de la industrialización.
¿Es la imaginería generada por IA “arte”?
- Un lado: “el arte de IA no es arte”; los prompts más la selección carecen de habilidad encarnada, esfuerzo y experiencia vivida. Enfatizan el proceso, la inversión humana y la singularidad.
- El otro lado: la intención y la toma de decisiones siguen existiendo; los flujos de trabajo modernos (ControlNet, LoRAs, workflows) exigen una técnica artística, similar a la fotografía o al modelado 3D.
- Algunos sugieren tratar las imágenes de IA, la fotografía y la pintura como categorías distintas, cada una con un valor social atribuido diferente.
Resistencia simbólica y efectos reputacionales
- Algunos admiran el “brío” de los artistas, viendo el envenenamiento como protesta y como una forma de aumentar la conciencia pública, aunque sea técnicamente inútil.
- Otros sostienen que sobre todo perjudica la reputación de los propios artistas, haciéndolos parecer técnicamente ingenuos y poco probables de lograr sus objetivos declarados.