OpenAI parece estar reativando silenciosamente o treinamento de modelos nas conversas do Codex
As preocupações aumentam de que o Codex da OpenAI tenha reativado silenciosamente o treinamento em conversas de usuários e obscurecido controles de uso e privacidade, levantando receios de que código sensível e IP corporativo possam ser ingeridos apesar de opt-outs anteriores. Os comentaristas debatem se isso decorre de malícia, incompetência ou incentivos de negócio, e ampliam a crítica a outros provedores de IA, como Anthropic e Google, apontando padrões obscuros, garantias contratuais fracas e políticas de retenção opacas. Muitos concluem que organizações sérias sobre proteção de dados deveriam autocontrolar modelos abertos ou usar ofertas em nuvem rigidamente governadas, em vez de confiar em caixas de seleção e configurações dos frontier AI labs.
Relatos de reativação das configurações de treinamento de modelos
- Vários comentaristas dizem que a configuração do Codex/OpenAI “usar conversas para melhorar os modelos”, antes desativada, parece ter sido reativada silenciosamente para eles ou para colegas.
- Outros relatam que sua configuração continua desligada, criando relatos contraditórios.
- Alguns suspeitam de mudanças de interface com padrões obscuros (mover configurações, alterar rótulos ou alternâncias fáceis de clicar por engano), enquanto outros sugerem que pode ser um bug ou um deslize “vibe-coded” em vez de malícia deliberada.
- Alguns apontam incidentes anteriores com outros provedores, em que controles em nível de organização mudaram de opt-in para opt-out e vice-versa, redefinindo controles deslizantes para “ligado”.
Contexto de confiança, consentimento e legal/regulatório
- Muitos expressam profunda desconfiança em relação a “frontier labs”, citando a raspagem em massa anterior de livros e conteúdo da web, e argumentando que há pouco incentivo para respeitar caixas de opt-out quando a fiscalização é fraca.
- Alguns afirmam que, mesmo com o treinamento desativado, os provedores podem manter dados para detecção de abuso, análise ou geração de dados sintéticos, efetivamente “treinando sem treinar”.
- Há discussão sobre reguladores (por exemplo, a FTC) alertando contra a alteração silenciosa de termos ou configurações de consentimento, mas ceticismo de que as autoridades ajam de forma significativa.
- Processos judiciais e contratos de retenção zero de dados (ZDR) são mencionados como remédios teóricos, mas os comentaristas duvidam da aplicabilidade prática ou da descoberta.
Preocupações corporativas com IP e segurança
- Muitos argumentam que empresas sérias sobre proteção de IP não deveriam enviar código proprietário para modelos opacos de terceiros.
- Mitigações sugeridas:
- Executar sua própria inferência em modelos abertos (por exemplo, via HF, Qwen, DeepSeek, GLM), possivelmente em computação confidencial nas principais nuvens.
- Usar modelos com acesso controlado via Azure/GCP/AWS ou Bedrock com garantias no estilo ZDR em vez de produtos voltados ao consumidor.
- Ativar segurança avançada da conta e logs de auditoria; exportar dados periodicamente e verificar caches.
- Outros observam barreiras de custo e conhecimento para pequenas organizações; algumas empresas já bloqueiam LLMs externos, exceto em contextos rigidamente controlados.
Comparações com outros provedores e produtos
- Preocupações semelhantes são levantadas sobre a Anthropic (canais de feedback, mudanças na política Daybreak Blue) e as configurações de “atividade” do Google Gemini, descritas como padrões obscuros que vinculam a retenção do histórico de conversas ao treinamento.
- Algumas equipes relatam estar criando ferramentas para monitorar muitas contas de agentes e alertar se o treinamento for ativado.
Atitudes gerais e tolerância ao risco
- Os comentaristas divergem fortemente: de “assuma que tudo é usado para treinamento” e “não confie nesta empresa” a visões mais indulgentes de que problemas de qualidade de software, e não malícia, podem explicar o comportamento.
- Há debate contínuo sobre qual nível de cautela é “paranoico” versus simplesmente coerente com as normas de segurança pré-IA.