El nuevo generador de imágenes con IA de Meta fue entrenado con 1.100 millones de fotos de Instagram y Facebook

Artículo original ↗ Discusión en Hacker News ↗

El nuevo generador de imágenes con IA de Meta, entrenado con 1.100 millones de fotos públicas de Instagram y Facebook, está recibiendo escrutinio por copyright, consentimiento y acceso regional. Los comentaristas señalan que los términos de Meta le otorgan amplios derechos sobre el contenido de los usuarios y debaten si entrenar con material con copyright o subido por usuarios es legal y éticamente aceptable, especialmente cuando los usuarios y las personas representadas en las fotos pueden no entender o consentir ese uso. Otros se centran en aspectos prácticos: la herramienta está actualmente bloqueada por región a EE. UU., fuertemente moderada en comparación con alternativas de código abierto y entrelazada con el ecosistema más amplio de cuentas y productos de Meta, lo que a muchos les resulta poco atractivo.

Disponibilidad, bloqueo regional y onboarding

  • Muchos usuarios informan “No disponible en tu ubicación” en Nueva Zelanda, países de la UE (Países Bajos, Noruega, Suiza), Canadá, Brasil, India, etc.
  • Algunos especulan sobre el RGPD/AI Act de la UE u otras leyes regionales, pero la verdadera razón no está clara.
  • El sitio a menudo obliga a los usuarios a pasar por crear/combinar una cuenta de Meta (Facebook, Instagram, Oculus/Horizon) antes de finalmente decir que el servicio no está disponible, lo que se critica ampliamente como manipulador y confuso.
  • El acceso parece basarse en geolocalización por IP; incluso las cuentas configuradas en EE. UU. pueden ser bloqueadas mediante VPNs no estadounidenses.

Calidad del modelo, UX y utilidad

  • Quienes consiguieron acceso dicen que es muy rápido y, en calidad, aproximadamente comparable a SDXL, por detrás de Midjourney y DALL·E 3 para muchos prompts.
  • Tiene problemas notables con los dedos y la representación de texto; algunos “prompts difíciles” (objeto dentro de objeto, composiciones inusuales) fallan de forma similar a otros modelos.
  • Fuertes barreras de seguridad: rechaza desnudez explícita y personas reales famosas por nombre, aunque prompts indirectos a veces pueden generar parecidos a celebridades.

Alternativas y compensaciones de moderación

  • Varios comentaristas sostienen que los generadores muy moderados y cerrados son menos atractivos que configuraciones locales de Stable Diffusion (Auto1111, ComfyUI, Fooocus, etc.), que son más flexibles y en gran medida sin censura.
  • Debate sobre cuáles envoltorios de SDXL son mejores; las opiniones varían mucho según el caso de uso y la complejidad preferida.

Datos de entrenamiento, copyright y términos de servicio

  • Largo debate sobre si entrenar con contenido generado por usuarios de Instagram/Facebook es “lavado de copyright”.
  • Los Términos de Servicio de Instagram/Facebook otorgan a Meta derechos amplios, mundiales y sublicenciables para usar y crear obras derivadas del contenido subido, pero no todos están de acuerdo en que los usuarios comprendan que esto incluye el entrenamiento de IA.
  • Algunos argumentan que el entrenamiento probablemente es uso legítimo legal y no una obra derivada; otros dicen que esta es una zona gris legal y un “bait-and-switch” respecto al propósito original de las subidas.
  • Surgen preguntas sobre la eliminación: si un usuario borra una foto, ¿Meta tiene que eliminar su influencia de los modelos? Se reconoce que esto no está resuelto y que podría ser muy costoso.

Responsabilidad y resultados infractores

  • Se distingue entre la legalidad de los datos de entrenamiento y si ciertas imágenes generadas infringen derechos de autor o marcas registradas (p. ej., Mickey Mouse, Iron Man).
  • Muchos esperan que la responsabilidad recaiga principalmente en el usuario que publica resultados infractores, de forma análoga a usar una fotocopiadora o Photoshop, aunque esto aún no está firmemente resuelto en los tribunales.

Privacidad, ética y confianza del usuario

  • Algunos ven esto como “una razón más” para borrar cuentas de Meta; otros señalan que Meta ya ha hecho cosas peores, así que esto es incremental.
  • Las preocupaciones van más allá del copyright y abarcan los derechos de las personas representadas en fotos subidas por otros, y la idea de que “imágenes de nosotros mismos” ahora están incrustadas en una IA comercial.

Deepfakes, desnudos y daño

  • Varios comentarios prevén o señalan herramientas existentes que generan imágenes desnudas o comprometedoras de personas reales; otros señalan que el modelo de Meta actualmente está muy limitado en esa dirección.
  • Hay desacuerdo sobre cuán nuevo o dañino es esto: algunos dicen que ese uso indebido precede a la IA moderna, pero reconocen que una mayor escala y facilidad han aumentado el daño en el mundo real, especialmente para adolescentes y en política.
  • Una minoría sostiene que la disponibilidad generalizada de desnudos falsos podría eventualmente desensibilizar a la sociedad, mientras que otros enfatizan el daño serio y continuo.