Fuck Your AI Safeguards
लोकप्रिय closed models में AI safety guardrails को increasingly legitimate काम रोकने वाला माना जा रहा है, जैसे infrastructure को secure करना, अपनी systems पर pentesting करना, software reverse-engineering करना, और chemistry सीखना। टिप्पणीकारों का कहना है कि ये safeguards गंभीर attackers के खिलाफ अप्रभावी हैं, corporate power को मजबूत करते हैं, de facto censorship को सक्षम बनाते हैं, और developers को open-weight या विदेशी models की ओर धकेलते हैं जिन्हें वे स्वयं नियंत्रित कर सकें। एक अल्पसंख्यक इन प्रतिबंधों का बचाव misuse रोकने के लिए आवश्यक मानते हुए करता है, लेकिन वे भी मानते हैं कि खराब तरीके से लक्षित नीतियाँ trust को नुकसान पहुँचा सकती हैं और security risks को बढ़ा सकती हैं।
समग्र मनोदशा
- इस बात को लेकर तीखी निराशा कि “AI safeguards” मोटे, पितृसत्तात्मक हैं, और अक्सर हानिरहित या रक्षात्मक कामों को भी रोक देते हैं।
- कई लोगों की राय में मौजूदा कार्यान्वयन केवल security theater हैं, जो हमलावरों से ज़्यादा रक्षकों को नुकसान पहुँचाते हैं।
सुरक्षा, विश्वसनीयता, और विकास पर प्रभाव
- Claude और अन्य closed models के कई उदाहरण दिए गए, जिनमें वे यह करने से इनकार करते हैं:
- कोड का audit करना, fuzzers लिखना, या ज्ञात CVEs की जाँच करना।
- अपनी ही infrastructure या apps पर pentesting में मदद करना।
- binaries, anti-cheats, या root किए गए devices/TVs का विश्लेषण करना।
- उपयोगकर्ताओं का कहना है कि इससे project के बीच में workflows टूट जाते हैं, यहाँ तक कि उन bugs के लिए भी जिन्हें model ने खुद introduce करने में मदद की थी।
- कुछ लोगों ने नोट किया कि पिछले महीनों में safeguards और सख्त हो गए हैं, और अब models उन कार्यों से भी इनकार करते हैं जिन्हें वे पहले अनुमति देते थे।
मानी गई पाखंडिता और व्यावसायिक प्रोत्साहन
- बार-बार यह दावा किया गया: बड़ी labs शक्तिशाली, unsandboxed internal tools का उपयोग करती हैं (Hugging Face hack जैसी घटनाओं सहित), फिर उपयोगकर्ताओं पर “safety” के नाम पर रोक लगाती हैं।
- safeguards को इस तरह देखा गया:
- एक moat और “protection racket,” ताकि विशेष access tiers बेचे जा सकें।
- उद्योगों में winners/losers चुनने और शक्ति केंद्रीकृत करने का तरीका।
- “AI safety” की rhetoric से उचित ठहराया गया, जबकि लक्ष्य profit और regulatory capture है।
Open-weight और वैकल्पिक models की ओर रुख
- कई टिप्पणीकार अब इनकी ओर जा रहे हैं:
- Open/self-hosted models (जैसे Qwen, Hermes)।
- Chinese open-weight models (जैसे GLM, Kimi, DeepSeek), भले ही censorship या propaganda को लेकर चिंताएँ हों।
- उल्लेखित तकनीकें: prompt को फिर से framing करना, uncensored models से योजनाएँ बनवाना और restricted models से execution करवाना, या CLI/“code” interfaces का उपयोग करना जो कम guarded लगती हैं।
Safeguards और proliferation पर बहस
- आलोचकों का तर्क है:
- प्रतिबंध मुख्यतः “good actors” की गति धीमी करते हैं; गंभीर अपराधी वैसे भी uncensored models का उपयोग करेंगे।
- Closed models पहले से ही insecure code निकालते हैं, फिर भी उसे secure करने में मदद करने से इनकार करते हैं।
- ज्ञान/tooling पर केंद्रीकृत नियंत्रण सामाजिक और राजनीतिक रूप से खतरनाक है।
- समर्थकों का तर्क है:
- शक्तिशाली models “nuclear” क्षमताओं जैसी हैं; कुछ guardrails अनिवार्य हैं।
- समाज व्यापक रूप से extreme misuse (terrorism, abuse) पर refusals की अपेक्षा करता है।
- benign और malicious intent में फर्क करना स्वभावतः कठिन है; मौजूदा over-blocking को एक दुर्भाग्यपूर्ण लेकिन आवश्यक interim माना जाता है।
विशिष्ट दर्द-बिंदु
- Silent model downgrades (जैसे स्वचालित रूप से कमजोर models पर fallback) से trust नष्ट होने की शिकायतें।
- “Cyber verification” programs के साथ मिश्रित अनुभव: कुछ लोगों को जल्दी approval मिलता है, जबकि बड़े spend के बावजूद दूसरों को denial मिलती है।
- safeguards learning (chemistry, biology) और रोज़मर्रा के कामों (copyright-सीमित text scraping, map loading) में भी बाधा डालते हैं, जिससे यह भावना मजबूत होती है कि “AI users के लिए नहीं है।”