Tell HN: Gemini treina com histórico de chat, até para assinantes (contas pessoais)

A IA Gemini do Google está, segundo relatos, treinando com os históricos de chat de contas pessoais, inclusive de assinantes pagantes, a menos que eles desativem totalmente o histórico — uma opção que também remove recursos-chave. Comentadores destacam preocupações com a revisão humana de transcrições, a linguagem vaga sobre uso de dados nos termos do Google e um padrão de “tudo ou nada” que efetivamente empurra os usuários para o compartilhamento de dados. Muitos comparam a abordagem do Gemini à de outros provedores de IA e nuvem que oferecem opt-outs de treinamento mais claros, e alguns defendem ferramentas auto-hospedadas ou empresariais para uso genuinamente privado.

Reação Geral

  • Muitos comentadores não se surpreendem que o Gemini treine com o histórico de chat, incluindo contas pessoais pagas; vários dizem que assumiram que “todos fazem isso”.
  • Outros acham que a combinação específica de padrões predefinidos, revisão humana e modelo de opt-out ainda merece destaque por ser hostil ao usuário.
  • Alguns usuários dizem que esse foi um motivo para cancelar a assinatura do Gemini Pro; outros dizem que nunca levaram o Gemini a sério de qualquer forma, por causa de problemas de qualidade ou de confiança.

Uso de Dados, Treinamento e Revisão Humana

  • O Gemini usa logs de chat para:
    • Treinamento do modelo e melhoria do serviço.
    • Revisão humana para avaliar respostas, sugerir melhores respostas e aplicar segurança/políticas.
  • Chats revisados podem ser retidos por anos e são mantidos mesmo se os usuários apagarem sua atividade.
  • “Subconjunto de chats” não é definido, e a “desconexão” da conta é vista como mais fraca do que uma verdadeira anonimização.
  • Vários comentários enfatizam: não insira dados confidenciais ou sensíveis; assuma que tudo o que você digitar pode ser armazenado e revisado.

Opt-out, Histórico e Compensações de Usabilidade

  • Não é possível manter o histórico de chat e, ao mesmo tempo, optar totalmente por não participar do treinamento/revisão humana; o opt-out efetivo exige desativar o histórico ou usar chats temporários.
  • No Pixel/celular, recursos importantes do assistente (lembretes, ações no dispositivo) aparentemente quebram sem o histórico de chat ativado, o que usuários descrevem como coercitivo ou como uma troca enganosa.
  • Alguns consideram esse padrão de “tudo ou nada” consistente com outros produtos do Google (Maps, histórico de visualização do YouTube).

Comparações com Outros Fornecedores de IA

  • A alegação de que “toda IA treina com entradas” é contestada:
    • O Gemini Enterprise e algumas ofertas em nuvem (por exemplo, Azure OpenAI) são citados como tendo garantias explícitas de não treinamento para dados corporativos, com janelas limitadas de retenção para segurança.
    • Outras ferramentas de consumo (ChatGPT, Claude) são descritas como oferecendo histórico + opt-out explícito de treinamento, algo que o Gemini pessoal do Google não tem.
  • Alguns observam que o Gemini para workspace/empresas tem melhor privacidade, mas fica atrás no acesso aos modelos.

Confiança, Privacidade e Comportamento Corporativo

  • Desconfiança ampla em relação a grandes laboratórios de IA: temas comuns são mudanças nos Termos de Serviço, dados sendo “alvo bom demais” e a inevitabilidade de reaproveitamento futuro.
  • Vários veem isso como continuação da estratégia do Google orientada por anúncios, maximizadora de dados, e de um design de produto “hostil ao usuário”.
  • Outros argumentam que alguma retenção e revisão é motivada por responsabilidade legal e segurança, não apenas por exploração, mas isso é contestado.

Contornos e Estratégias de Usuário

  • Mitigações sugeridas:
    • Usar modelos locais/autohospedados ou APIs focadas em privacidade.
    • Evitar inserir segredos; projetar fluxos de trabalho para que agentes nunca vejam credenciais brutas.
    • Usar o Gemini apenas para tarefas de baixa sensibilidade (por exemplo, resumir conteúdo público).
    • Rodar contas, usar proxies ou até “contaminar” dados de treinamento com ruído ou conteúdo de advocacy.