Facebook está siendo inundado con imágenes robadas generadas por IA que la gente cree reales

Artículo original ↗ Discusión en Hacker News ↗

Facebook y otras plataformas importantes están cada vez más inundadas de imágenes generadas por IA y republicadas que muchos usuarios toman por contenido auténtico, desde tallas de madera sentimentales hasta llamativas imágenes de “naturaleza” y memes políticos. Los comentaristas temen que esto acelere la desinformación, erosione la confianza en la evidencia en línea y empuje a la gente hacia visiones tribalistas o nihilistas de la verdad, especialmente porque los algoritmos de recomendación recompensan la interacción por encima de la exactitud. Algunos ven un posible lado positivo en que esto empuje a los usuarios de vuelta hacia experiencias fuera de línea, comunidades pequeñas y curadas, o servicios de pago sin anuncios, pero otros argumentan que los incentivos económicos subyacentes para el contenido spam y manipulador siguen sin cambiar.

Percepción de la verdad y desinformación

  • Muchos ven las imágenes de IA como una intensificación de una crisis de verdad de larga data, no como su origen.
  • Preocupación: inundar la zona con basura a escala industrial hace que la gente crea disparates o renuncie por completo a la verdad.
  • Otros sostienen que la mayoría de la gente nunca tuvo un acceso profundo a la “verdad” y siempre se apoyó en modelos simplificados y en autoridades.
  • Algunos temen un cambio desde el razonamiento basado en evidencia hacia un tribalismo puro: la verdad se convierte en “lo que dice mi grupo”.

Comportamiento de los usuarios y credulidad

  • Comentaristas informan de grandes cantidades de usuarios que tratan imágenes de IA obvias como reales, ofreciendo comentarios y compartidos sinceros.
  • Debate sobre cuántos de هؤلاء usuarios son bots frente a genuinos, a menudo personas mayores o con menos alfabetización mediática; varios dicen que en su mayoría son reales.
  • Preocupación de que una minoría considerable “lavada del cerebro” sea suficiente para desestabilizar la sociedad.

Incentivos de las plataformas y enshittification

  • Amplio consenso en que Facebook, YouTube y plataformas similares optimizan para la interacción y los ingresos por anuncios, no para la verdad ni la calidad.
  • Las imágenes de IA y los anuncios fraudulentos son más baratos, más clicables y están más a salvo de retiradas por copyright, así que los sistemas los promocionan de forma natural.
  • Algunos no describen Facebook como “inundado”, sino como un colaborador activo en la promoción de spam manipulador.

Saturación de contenido de IA y el “Internet muerto”

  • Muchos sienten que la web ya está saturada de basura de poco esfuerzo, repetitiva y a menudo generada por IA; algunos invocan la “teoría del Internet muerto”.
  • Varios amplían la queja a TikTok, Instagram, YouTube Shorts, bots de reposteo en Reddit y anuncios de video fraudulentos.
  • Algunos dicen que la web empezó a perder “brillo” hace años con los feeds algorítmicos, los “creadores de contenido” y los monopolios de plataformas.

Impacto en creadores, copyright y autenticidad

  • Los “remixes” de IA de obras reales (p. ej., tallas) se ven como robo de atención y devaluación del esfuerzo, aunque no sea claramente ilegal.
  • Otros argumentan que no están literalmente “robados”; el trabajo físico sigue ahí, y la “exposición” en redes sociales siempre fue un valor endeble.
  • Algunos predicen una prima para el trabajo humano verificable, la artesanía física, las grabaciones en vivo y otras señales de autenticidad.

Respuestas y mitigaciones propuestas

  • Ideas: IA de atribución, bases de datos vectoriales o cadenas de bloques para rastrear la procedencia; regulación más estricta de anuncios y contenido; responsabilidad para las plataformas.
  • Estrategias personales: curación agresiva o bloqueo, bloqueadores de anuncios, foros más pequeños, bibliotecas sombra, periódicos y menor uso de redes sociales.
  • Visión minoritaria: la falsificación ubicua podría acabar enseñando a la gente a ser escéptica y debilitar la elaboración de imágenes en línea, aunque otros llaman a eso pensamiento ilusorio.