Tell HN: Gemini treina com histórico de chat, até para assinantes (contas pessoais)
A IA Gemini do Google está, segundo relatos, treinando com os históricos de chat de contas pessoais, inclusive de assinantes pagantes, a menos que eles desativem totalmente o histórico — uma opção que também remove recursos-chave. Comentadores destacam preocupações com a revisão humana de transcrições, a linguagem vaga sobre uso de dados nos termos do Google e um padrão de “tudo ou nada” que efetivamente empurra os usuários para o compartilhamento de dados. Muitos comparam a abordagem do Gemini à de outros provedores de IA e nuvem que oferecem opt-outs de treinamento mais claros, e alguns defendem ferramentas auto-hospedadas ou empresariais para uso genuinamente privado.
Reação Geral
- Muitos comentadores não se surpreendem que o Gemini treine com o histórico de chat, incluindo contas pessoais pagas; vários dizem que assumiram que “todos fazem isso”.
- Outros acham que a combinação específica de padrões predefinidos, revisão humana e modelo de opt-out ainda merece destaque por ser hostil ao usuário.
- Alguns usuários dizem que esse foi um motivo para cancelar a assinatura do Gemini Pro; outros dizem que nunca levaram o Gemini a sério de qualquer forma, por causa de problemas de qualidade ou de confiança.
Uso de Dados, Treinamento e Revisão Humana
- O Gemini usa logs de chat para:
- Treinamento do modelo e melhoria do serviço.
- Revisão humana para avaliar respostas, sugerir melhores respostas e aplicar segurança/políticas.
- Chats revisados podem ser retidos por anos e são mantidos mesmo se os usuários apagarem sua atividade.
- “Subconjunto de chats” não é definido, e a “desconexão” da conta é vista como mais fraca do que uma verdadeira anonimização.
- Vários comentários enfatizam: não insira dados confidenciais ou sensíveis; assuma que tudo o que você digitar pode ser armazenado e revisado.
Opt-out, Histórico e Compensações de Usabilidade
- Não é possível manter o histórico de chat e, ao mesmo tempo, optar totalmente por não participar do treinamento/revisão humana; o opt-out efetivo exige desativar o histórico ou usar chats temporários.
- No Pixel/celular, recursos importantes do assistente (lembretes, ações no dispositivo) aparentemente quebram sem o histórico de chat ativado, o que usuários descrevem como coercitivo ou como uma troca enganosa.
- Alguns consideram esse padrão de “tudo ou nada” consistente com outros produtos do Google (Maps, histórico de visualização do YouTube).
Comparações com Outros Fornecedores de IA
- A alegação de que “toda IA treina com entradas” é contestada:
- O Gemini Enterprise e algumas ofertas em nuvem (por exemplo, Azure OpenAI) são citados como tendo garantias explícitas de não treinamento para dados corporativos, com janelas limitadas de retenção para segurança.
- Outras ferramentas de consumo (ChatGPT, Claude) são descritas como oferecendo histórico + opt-out explícito de treinamento, algo que o Gemini pessoal do Google não tem.
- Alguns observam que o Gemini para workspace/empresas tem melhor privacidade, mas fica atrás no acesso aos modelos.
Confiança, Privacidade e Comportamento Corporativo
- Desconfiança ampla em relação a grandes laboratórios de IA: temas comuns são mudanças nos Termos de Serviço, dados sendo “alvo bom demais” e a inevitabilidade de reaproveitamento futuro.
- Vários veem isso como continuação da estratégia do Google orientada por anúncios, maximizadora de dados, e de um design de produto “hostil ao usuário”.
- Outros argumentam que alguma retenção e revisão é motivada por responsabilidade legal e segurança, não apenas por exploração, mas isso é contestado.
Contornos e Estratégias de Usuário
- Mitigações sugeridas:
- Usar modelos locais/autohospedados ou APIs focadas em privacidade.
- Evitar inserir segredos; projetar fluxos de trabalho para que agentes nunca vejam credenciais brutas.
- Usar o Gemini apenas para tarefas de baixa sensibilidade (por exemplo, resumir conteúdo público).
- Rodar contas, usar proxies ou até “contaminar” dados de treinamento com ruído ou conteúdo de advocacy.