MS Paint y Photos marcan invisiblemente con marca de agua incluso la salida generada localmente con GUID

Artículo original ↗ Discusión en Hacker News ↗

Se ha descubierto que las aplicaciones Paint y Photos de Microsoft en Windows incrustan marcas de agua invisibles en imágenes generadas o editadas por IA, codificando un GUID emitido por el servidor que enlaza de vuelta con el prompt y potencialmente con la cuenta o el dispositivo del usuario. Los comentaristas ven esto como parte de un giro más amplio hacia contenido digital rastreable —similar a los puntos de seguimiento de impresoras y a la propuesta de firma de cámaras— impulsado en parte por normas de la UE que exigen la marcación de IA. Aunque algunos argumentan que los marcadores de procedencia ayudan a combatir los deepfakes, muchos se alarman por la falta de consentimiento claro, la facilidad de extender este seguimiento a todos los medios y las implicaciones para el anonimato y la privacidad.

Alcance del comportamiento de la marca de agua

  • La marcación con marca de agua ocurre para imágenes generadas o editadas usando las herramientas de IA de MS Paint/Photos (Copilot/Cocreator, local o en la nube), no para contenido puramente dibujado a mano.
  • Las aplicaciones llaman a una API remota de “moderación de prompts” incluso cuando la generación se ejecuta localmente; el servidor devuelve un GUID que:
    • Se incrusta como una marca de agua invisible a nivel de píxel.
    • También se almacena en los metadatos de “credenciales de contenido” de C2PA.
  • Las etiquetas visibles de “AI” pueden desactivarse en la interfaz, pero la marca de agua invisible con GUID no.

Privacidad, vigilancia e identificación del usuario

  • Muchos consideran que esto supone una grave extralimitación en privacidad:
    • El GUID puede vincularse a los prompts y a la cuenta/dispositivo de Microsoft del usuario.
    • Es paralelo a los puntos de seguimiento amarillos en impresoras y a la identificación histórica de máquinas de escribir.
  • La preocupación va más allá del marcado “AI vs human” y pasa a “quién creó esto, cuándo, en qué dispositivo”, permitiendo citaciones judiciales o vigilancia estatal.
  • Algunos temen una expansión a todas las imágenes editadas y a otros tipos de archivos, o a una marcación de agua omnipresente a nivel del sistema operativo.

Ángulo legal y de políticas

  • Varios comentaristas señalan que las leyes de la UE y de otros lugares ahora exigen que el contenido generado por IA esté marcado.
  • Otros replican que la ley no exige un GUID identificable por el usuario, solo un indicador de “generado por IA”.
  • Debate sobre si esto podría violar el RGPD por falta de consentimiento explícito e informado y por la posible identificabilidad personal.

Aspectos técnicos y posibles soluciones alternativas

  • Tácticas propuestas para evadirlo:
    • Recodificar mediante BMP u otros formatos simples para eliminar metadatos.
    • Añadir ruido de bajo nivel, dithering o ejecutar denoising/diffusion para destruir las marcas de agua de píxel.
    • Reemplazar watermarker.dll por un no-op o interceptar la llamada a la API.
  • Algunos sostienen que una marca de agua robusta puede sobrevivir a transformaciones comunes; otros señalan que, una vez conocido el algoritmo, la eliminación dirigida o la sobreescritura con datos aleatorios es sencilla.
  • Se reportan problemas de clasificación errónea (por ejemplo, capturas de pantalla normales marcadas como IA).

Debate sobre autenticidad, procedencia y firma de cámara

  • Un sector apoya una procedencia sólida (C2PA, firma de cámara) para combatir los deepfakes y preservar la “autenticidad humana”.
  • Otros subrayan los límites:
    • Las firmas del dispositivo pueden verse comprometidas, falsificarse o usarse como “teatro de seguridad” en los tribunales.
    • Los diseños de TPM/firma de cámara son vulnerables a ataques de hardware, regrabación analógica o escenas montadas.
  • Tema general: la procedencia criptográfica prueba “firmado por alguna clave”, no que la escena sea veraz.

Reacciones más amplias y elecciones de software

  • Pérdida significativa de confianza en Microsoft; muchos dicen que evitarán MS Paint/Photos o incluso Windows por completo y migrarán a Linux / herramientas de código abierto.
  • Preocupación de que la aceptación generalizada de este tipo de marcación normalice el seguimiento intrusivo y pueda volverse legalmente obligatorio para todos los editores de imágenes.