MS Paint e Photos marcam invisivelmente até mesmo a saída gerada localmente com GUID

Artigo original ↗ Discussão no Hacker News ↗

Os apps Paint e Photos da Microsoft no Windows foram descobertos incorporando marcas d'água invisíveis em imagens geradas ou editadas por IA, codificando um GUID emitido pelo servidor que remete ao prompt e potencialmente à conta ou ao dispositivo do usuário. Os comentaristas veem isso como parte de uma mudança mais ampla em direção a conteúdo digital rastreável — semelhante aos pontos de rastreamento de impressoras e às propostas de assinatura da câmera — impulsionada em parte por regras da UE que exigem marcação de IA. Embora alguns argumentem que marcadores de proveniência ajudam a combater deepfakes, muitos se alarmam com a falta de consentimento claro, a facilidade de estender esse rastreamento a todas as mídias e as implicações para o anonimato e a privacidade.

Âmbito do Comportamento de Marcação d'Água

  • A marcação d'água ocorre para imagens geradas ou editadas usando as ferramentas de IA do MS Paint/Photos (Copilot/Cocreator, local ou na nuvem), não para conteúdo puramente desenhado à mão.
  • Os apps chamam uma API remota de “moderação de prompt” mesmo quando a geração é executada localmente; o servidor retorna um GUID que:
    • É incorporado como uma marca d'água invisível no nível de pixels.
    • Também é armazenado nos metadados “content credentials” do C2PA.
  • Os rótulos visíveis de “AI” podem ser desativados na interface, mas a marca d'água invisível em GUID não pode.

Privacidade, Vigilância e Identificação do Usuário

  • Muitos veem isso como um sério excesso de privacidade:
    • O GUID pode ser associado a prompts e à conta/dispositivo Microsoft do usuário.
    • Isso se assemelha aos pontos amarelos de rastreamento em impressoras e à identificação histórica por máquinas de escrever.
  • A preocupação vai além da marcação “IA vs humano” para “quem criou isto, quando, em qual dispositivo”, permitindo intimações ou vigilância estatal.
  • Alguns temem a expansão para todas as imagens editadas e outros tipos de arquivo, ou uma marcação d'água onipresente no nível do sistema operacional.

Ângulo Legal e de Políticas

  • Vários comentaristas observam que as leis da UE e de outros lugares agora exigem que conteúdo gerado por IA seja marcado.
  • Outros contra-argumentam que a lei não exige um GUID identificável pelo usuário, apenas um indicador de “gerado por IA”.
  • Debate sobre se isso poderia violar o GDPR por falta de consentimento explícito e informado e potencial identificabilidade pessoal.

Aspectos Técnicos e Possíveis Contornos

  • Táticas de evasão propostas:
    • Reencodar via BMP ou outros formatos simples para remover metadados.
    • Adicionar ruído de baixo nível, dithering, ou executar denoising/diffusion para destruir marcas d'água em pixels.
    • Substituir watermarker.dll por um no-op ou interceptar a chamada da API.
  • Alguns argumentam que a marcação d'água robusta pode sobreviver a transformações comuns; outros observam que, uma vez conhecido o algoritmo, a remoção direcionada ou a sobrescrita com dados aleatórios é direta.
  • Foram relatados problemas de classificação incorreta (por exemplo, capturas de tela simples marcadas como IA).

Autenticidade, Proveniência e Debate sobre Assinatura da Câmera

  • Uma facção apoia forte proveniência (C2PA, assinatura da câmera) para combater deepfakes e preservar a “autenticidade humana”.
  • Outros enfatizam limites:
    • Assinaturas de dispositivo podem ser comprometidas, forjadas ou usadas como “teatro de segurança” em tribunal.
    • Projetos de TPM/assinatura da câmera são vulneráveis a ataques de hardware, regravação analógica ou cenas encenadas.
  • Tema geral: a proveniência criptográfica prova “assinado por alguma chave”, não que a cena seja verdadeira.

Reações Mais Amplas e Escolhas de Software

  • Perda significativa de confiança na Microsoft; muitos dizem que evitarão MS Paint/Photos ou o Windows por completo e migrarão para Linux / ferramentas de código aberto.
  • Preocupação de que a aceitação generalizada de tal marcação d'água normalize o rastreamento invasivo e possa se tornar obrigatória por lei para todos os editores de imagem.