Tell HN: OpenAI continua reativando a configuração "permitir treinamento"
Usuários da OpenAI relatam que a configuração “permitir treinamento” / “Melhorar o modelo para todos” no ChatGPT às vezes parece se reativar sozinha, levantando preocupações de que a empresa possa estar sobrescrevendo ou deixando de persistir preferências de privacidade. Comentadores debatem se isso é má-fé, incompetência ou um bug de UI/backend, e apontam a dificuldade de provar o que um usuário realmente selecionou sem ferramentas forenses especializadas. A discussão se amplia para o ceticismo sobre confiar dados sensíveis a qualquer grande fornecedor de IA, comparações com as práticas de concorrentes e lembretes para usar mecanismos formais de opt-out ou modelos auto-hospedados quando a privacidade é crítica.
Reativação do treinamento / “Melhorar o modelo para todos”
- Vários usuários relatam que o alternador do ChatGPT “permitir treinamento / melhorar o modelo para todos” foi ligado novamente depois de eles terem desativado, às vezes após mudanças de assinatura ou atualizações do app.
- Outros verificaram explicitamente e viram a configuração ainda desligada, em alguns casos há anos, sugerindo comportamento inconsistente em vez de um problema universal.
- Alguns temem que, uma vez que o alternador seja reativado silenciosamente, conversas passadas já possam ter sido usadas para treinamento antes que a mudança fosse percebida.
Múltiplos opt-outs e “Segurança Avançada da Conta”
- Há pelo menos dois mecanismos mencionados:
- Configuração no app: Configurações → Controles de Dados → “Melhorar o modelo para todos.”
- Portal de privacidade: formulário de solicitação “Não treinar com meu conteúdo”.
- Comentadores estão confusos sobre se ambos são necessários; um funcionário da OpenAI diz que qualquer um é suficiente e que o portal também cobre outros produtos e usuários desconectados.
- “Segurança Avançada da Conta” é citada (com documentação da OpenAI) como excluindo automaticamente conversas do treinamento, mas alguns observam que a interface principal não conecta isso claramente ao treinamento, gerando pedidos por documentação melhor.
Bug vs. dark pattern deliberado
- Alguns veem isso como um dark pattern intencional, comparando com o autoplay do YouTube, padrões de privacidade do Facebook e atualizações de SO que redefinem ou ignoram preferências do usuário.
- Outros propõem explicações mais banais: UI otimista com bugs, falhas em atualizações de backend, corrupção de configuração ou mudanças de produto que redefinem definições.
- Há debate sobre se a reativação repetida é pior (porque é manipulação demonstrável) do que simplesmente ignorar a configuração em silêncio.
Confiança, legalidade e uso de dados
- Muitos expressam profunda desconfiança da OpenAI, citando:
- Treinamento com dados raspados/protegidos por direitos autorais.
- Alegações de “coleta” de IP e outros comportamentos eticamente duvidosos.
- Incentivos gerais de laboratórios de IA movidos a lucro.
- Alguns argumentam que, se os usuários não conseguem provar que optaram por sair, o ônus deveria recair sobre a empresa; outros observam que, na prática, logs da empresa normalmente prevalecem em disputas legais.
- Sugestões de “prova” incluem gravar sessões TLS com chaves ou usar ferramentas forenses de captura web, embora isso seja reconhecido como complexo.
Alternativas e estratégias de adaptação
- Vários recomendam:
- Usar modelos de pesos abertos ou locais, em vez de serviços em nuvem.
- Migrar para concorrentes (Anthropic, Bedrock, Cursor etc.), embora alguns relatem preocupações semelhantes ou outras preocupações de privacidade/dark patterns com eles também.
- Outros abandonaram totalmente os produtos da OpenAI após bugs anteriores de opt-out ou problemas de cobrança.