OpenAI ऐसा प्रतीत होता है कि Codex chats पर model training को चुपचाप फिर से सक्षम कर रहा है
चिंताएँ बढ़ रही हैं कि OpenAI का Codex उपयोगकर्ता chats पर training को चुपचाप फिर से सक्षम कर रहा है और usage तथा privacy controls को अस्पष्ट बना रहा है, जिससे prior opt-outs के बावजूद संवेदनशील code और company IP के ingest होने का डर है। Commenters बहस करते हैं कि यह malice, incompetence, या business incentives के कारण है, और इसी आलोचना को Anthropic और Google जैसे अन्य AI providers तक फैलाते हैं, जहाँ dark patterns, कमजोर contractual assurances, और opaque retention policies का हवाला दिया जाता है। कई लोग निष्कर्ष निकालते हैं कि data protection को लेकर गंभीर संगठनों को frontier AI labs के checkboxes और settings पर भरोसा करने के बजाय या तो self-hosted open models का उपयोग करना चाहिए या tightly governed cloud offerings अपनानी चाहिए।
Model training settings को फिर से सक्षम किए जाने की रिपोर्ट
- कई commenters का कहना है कि Codex/OpenAI का “use conversations to improve models” setting, जिसे पहले disabled किया गया था, उनके या उनके coworkers के लिए चुपचाप फिर से enabled होता दिख रहा है।
- अन्य लोग रिपोर्ट करते हैं कि उनका setting अभी भी off है, जिससे विरोधाभासी anecdotes सामने आते हैं।
- कुछ लोग dark-pattern UI changes पर संदेह करते हैं (settings को इधर-उधर करना, labels बदलना, या ऐसे toggles जो आसानी से misclick हो जाएँ), जबकि अन्य का मानना है कि यह bug या “vibe-coded” mishap हो सकता है, जानबूझकर की गई दुर्भावना नहीं।
- कुछ लोग अन्य providers के पिछले incidents की ओर इशारा करते हैं, जहाँ org-wide dials opt-in से opt-out और फिर वापस बदल गए थे, और sliders को “on” पर reset कर दिया गया था।
Trust, consent, और legal/regulatory context
- कई लोग “frontier labs” पर गहरा अविश्वास जताते हैं, पिछले mass scraping of books और web content का हवाला देते हुए, और तर्क देते हैं कि enforcement कमजोर होने पर opt-out checkboxes का सम्मान करने की बहुत कम प्रेरणा होती है।
- कुछ का दावा है कि training disabled होने पर भी providers abuse detection, analytics, या synthetic-data generation के लिए data रख सकते हैं, जो व्यावहारिक रूप से “training without training” है।
- Regulators (जैसे FTC) द्वारा quietly changing terms या consent settings पर warning देने की चर्चा है, लेकिन skepticism है कि authorities वास्तव में सार्थक कार्रवाई करेंगी।
- Lawsuits और zero data retention (ZDR) contracts को सैद्धांतिक remedies के रूप में उल्लेख किया गया है, लेकिन commenters को practical enforceability या discovery पर संदेह है।
Enterprise IP और security concerns
- कई लोगों का तर्क है कि जो कंपनियाँ IP protection को गंभीरता से लेती हैं, उन्हें proprietary code किसी opaque third-party models को भेजना ही नहीं चाहिए।
- सुझाए गए mitigations:
- अपने स्वयं के inference को open models पर चलाएँ (जैसे HF, Qwen, DeepSeek, GLM के माध्यम से), संभवतः major clouds पर confidential compute के साथ।
- Consumer-facing products के बजाय Azure/GCP/AWS या Bedrock के माध्यम से gated models का उपयोग करें, ZDR-style guarantees के साथ।
- Advanced account security और audit logs सक्षम करें; समय-समय पर data export करें और caches जाँचें।
- अन्य लोग cost और expertise barriers की ओर ध्यान दिलाते हैं जो छोटे orgs के लिए हैं; कुछ enterprises पहले से ही tightly controlled contexts के अलावा external LLMs को block करते हैं।
अन्य providers और products के साथ comparisons
- Anthropic (feedback channels, Daybreak Blue policy changes) और Google Gemini के “activity” settings के बारे में भी समान चिंताएँ उठाई जाती हैं, जिन्हें chat history retention को training से जोड़ने वाले dark patterns के रूप में वर्णित किया गया है।
- कुछ teams रिपोर्ट करती हैं कि उन्होंने कई agent accounts को monitor करने और अगर training toggled on हो जाए तो alert देने के लिए tooling बनाई है।
Meta attitudes और risk tolerance
- Commenters sharply विभाजित हैं: “मान लो सब कुछ training के लिए इस्तेमाल होता है” और “इस company पर भरोसा मत करो” जैसी बातों से लेकर अधिक forgiving views तक कि software quality issues, न कि malice, इस व्यवहार की व्याख्या कर सकते हैं।
- इस पर बहस जारी है कि caution का कौन-सा स्तर “paranoid” है बनाम AI-पूर्व security norms के अनुरूप बस उचित है।