Uma Análise de Privacidade de Agentes de IA Conversacional na Web e no Mobile [pdf]

Artigo original ↗ Discussão no Hacker News ↗

Pesquisadores encontraram serviços populares de chat de IA na web e no mobile vazando ou compartilhando dados sensíveis de conversas com rastreadores de terceiros, incluindo históricos completos de chat por meio de URLs publicamente acessíveis, capturas de tela e títulos gerados automaticamente vinculados a identificadores de usuário. Comentadores divergem sobre se isso é incompetência ou um modelo de negócio deliberado de ad-tech, mas concordam amplamente que isso cria sérios riscos de privacidade e regulação, especialmente sob frameworks como o GDPR. Muitos veem isso como mais uma evidência de que ferramentas de IA baseadas na nuvem não devem ser confiadas com informações privadas e defendem modelos locais ou de código aberto como alternativas mais seguras.

Mecanismos de exposição de dados

  • Vários provedores expõem conversas inteiras por meio de links permanentes de “compartilhamento” sem autenticação; qualquer pessoa com a URL (incluindo rastreadores e crawlers) pode ler o chat completo.
  • Capturas de tela de chats enviadas para apps sociais (por exemplo, durante fluxos de compartilhamento) podem vazar o conteúdo visível da conversa para esses apps.
  • Artefatos derivados da conversa (títulos, prompts, resumos) acabam vinculados a identificadores persistentes ou cookies, permitindo atribuição e perfis altamente sensíveis (por exemplo, salário, localização, hipoteca inferidos).
  • Algumas interfaces web enviam prompts parciais/inacabados aos servidores enquanto o usuário digita; a finalidade é अस्प? clara (cache vs. rastreamento comportamental vs. detecção de bots).

Modelo de segurança e preocupações de implementação

  • Forte crítica à “segurança por obscuridade”: URLs longas com UUID são tratadas como privadas, embora acabem no histórico do navegador, nas áreas de transferência, em prévias, plugins e encurtadores de URL.
  • Apps móveis e web incorporam rastreadores comuns de publicidade/analytics (Google, TikTok, Meta etc.) via CSP, permitindo que terceiros vejam metadados derivados dos prompts.
  • Interfaces de chat são descritas como “campos minados”, onde um clique errado pode compartilhar dados ou treiná-los.

Vazamento vs. venda vs. incompetência

  • Alguns enquadram isso como venda/compartilhamento intencional de dados, não “vazamentos”, apontando termos que permitem acesso de terceiros.
  • Outros argumentam que grande parte disso é incompetência apressada, “vibecoded”, e rastreamento mal configurado, em vez de monetização sofisticada.
  • Contraponto: nessa escala, “incompetência” ainda exige responsabilização total; incompetência avançada pode ser indistinguível de malícia.

Aspectos legais e regulatórios

  • Vários comentários sugerem que o GDPR da UE provavelmente torna algumas dessas práticas ilegais.
  • Nos EUA, as pessoas esperam que seja tecnicamente “legal”, mas eticamente duvidoso.

Modelo de negócio e incentivos

  • Debate sobre se empresas de IA vão acumular dados para sua própria segmentação publicitária (como grandes plataformas sociais) ou entregar o valor para redes de anúncios externas.
  • Alguns veem isso como inevitável quando anúncios entram em produtos de chat; outros observam que as empresas ainda estão queimando caixa e podem estar trocando privacidade por receita de curto prazo.

Reações dos usuários e mitigação

  • Muitos expressam falta de surpresa e profunda desconfiança: assumem que qualquer chat de IA na nuvem é registrado e monetizado.
  • As recomendações incluem:
    • Usar modelos locais/de pesos abertos quando possível.
    • Acessar modelos de ponta via API por meio de clientes de terceiros ou UIs auto-hospedadas para evitar rastreamento na web/mobile (com ressalvas de que o comportamento da API é opaco).
    • Evitar compartilhar links e capturas de tela; ter cuidado com permissões e cookies de marketing.
  • Alguns propõem táticas adversariais, como semear contas com históricos de chat falsos e conflitantes, embora isso possa acionar penalidades da plataforma.

Preocupações sociais mais amplas

  • Há temores de que dados de chats de IA criem perfis comportamentais e psicológicos muito mais profundos do que a ad-tech anterior.
  • Preocupação de que esse perfilamento possa alimentar vigilância e controle no mundo real, para além da publicidade.