Heretic भाषा मॉडल से प्रतिबंध हटाता है
Heretic एक open-source tool है जो language models से safety layers को “abliterate” करता है, directional ablation का उपयोग करके refusal rates को काफ़ी कम करते हुए सामान्य गुणवत्ता को बनाए रखने का लक्ष्य रखता है। टिप्पणीकार इसके व्यावहारिक मूल्य को उन वैध कार्यों के लिए रेखांकित करते हैं जिन्हें hosted models अक्सर ब्लॉक कर देते हैं—जैसे आपके अपने hardware की reverse-engineering, अपने infrastructure पर CVEs का परीक्षण, या restrictive vendor ecosystems को बायपास करना—साथ ही यह चेतावनी भी देते हैं कि अंतर्निहित training data में संवेदनशील ज्ञान अभी भी अनुपस्थित हो सकता है और गुणवत्ता में गिरावट आ सकती है। यह परियोजना व्यापक प्रश्न उठाती है कि क्या uncensored models पर प्रतिबंध लगाया जाना चाहिए या लगाया जा सकता है, open weights में backdoors या hidden behaviors का पता लगाने के लिए वर्तमान तकनीकों की सीमाएँ क्या हैं, और safety controls तथा user autonomy के बीच क्या संतुलन होना चाहिए।
तकनीकी दृष्टिकोण और मेट्रिक्स
- Heretic “abliteration” को स्वचालित करता है, मॉडल्स को अस्वीकृत और स्वीकृत दोनों प्रकार के प्रॉम्प्ट देकर प्रोब करता है, फिर वज़न इस तरह संपादित करता है कि उनकी आंतरिक अभ्यावेदनाएँ अभिसरित हों, जिससे अस्वीकृतियाँ कम हों।
- कुछ लोग इन दावों को बढ़ा-चढ़ाकर बताया गया मानते हैं, और तर्क देते हैं कि refusal counts और KL divergence प्रभाव को बढ़ा-चढ़ाकर दिखा सकते हैं; अन्य जवाब देते हैं कि ये साहित्य में मानक मेट्रिक्स हैं।
- इस बात को लेकर जिज्ञासा है कि क्या कभी ऐसा ही कोई तरीका दिमागों पर लागू हो सकता है, लेकिन प्रतिभागी नोट करते हैं कि हमारे पास न्यूरल कंप्यूटेशन का सूक्ष्म सिद्धांत नहीं है।
Abliteration के बाद मॉडल का व्यवहार और गुणवत्ता
- कई उपयोगकर्ता रिपोर्ट करते हैं कि ablated मॉडल अस्वीकृति बंद कर देते हैं, लेकिन पहले ब्लॉक किए गए विषयों पर फिर भी खराब या असंगत उत्तर देते हैं (जैसे हथियार, उग्रवादी सामग्री), मानो “तर्क का एक हिस्सा” क्षतिग्रस्त हो गया हो।
- अन्य लोग कहते हैं कि कई कार्यों पर गुणवत्ता में गिरावट छोटी होती है, खासकर कुछ मिड-साइज़ ओपन मॉडल्स में; कुछ लोग विशिष्ट ablated variants को पुराने uncensored प्रयासों की तुलना में “बहुत बेहतर” बताते हैं।
- बार-बार यह जोर दिया जाता है कि अस्वीकृतियों को हटाने से ज्ञान नहीं जुड़ता; यदि प्रशिक्षण डेटा को सेंसर किया गया था या हटा दिया गया था, तो मॉडल बस hallucinate कर सकता है।
प्रशिक्षण, सुरक्षा परतें, और बैकडोर
- चर्चा की एक धारा: कई मॉडलों में अस्वीकृतियाँ मुख्यतः एक post-training layer होती हैं, इसलिए अंतर्निहित ज्ञान अक्सर बना रहता है, खासकर राजनीतिक विषयों पर।
- एक और चिंता: open-weight मॉडल्स में सिद्धांततः hidden triggers के साथ backdoor डाले जा सकते हैं, जिन्हें वर्तमान interpretability tools से व्यवस्थित रूप से खोजना प्रभावी रूप से असंभव है।
- प्रतिवाद: कम-से-कम openness स्वतंत्र विश्लेषण और reproducible bugs की अनुमति देती है, closed, hosted models के विपरीत जहाँ targeted abuse का पता लगाना कठिन होता है।
व्यावहारिक उपयोग और सुरक्षा कार्य
- सबसे अधिक प्रशंसा पाने वाले use cases “boring” हैं लेकिन hosted models द्वारा ब्लॉक किए जाते हैं: protocols की reverse-engineering, अपने नेटवर्क पर CVEs का exploit करना, स्वामित्व वाले devices को unlock या re-flash करना, या proprietary hardware के आसपास tools बनाना।
- कुछ लोग तर्क देते हैं कि current safeguards defenders को attackers से अधिक बाधित करते हैं, क्योंकि attackers फिर भी uncensored या offshore models का उपयोग कर सकते हैं और उन्हें केवल एक बार सफल होना होता है।
कानूनी, नैतिक, और पहुँच संबंधी बहसें
- इस पर असहमति है कि ablated models पर प्रतिबंध लगेंगे या लगने चाहिए:
- एक पक्ष कहता है कि enforcement torrents या drugs जैसा होगा—कानून में प्रतिबंधित, लेकिन दबाना कठिन।
- दूसरे चेतावनी देते हैं कि प्रतीकात्मक bans भी अधिकारियों को उपयोगकर्ताओं को निशाना बनाने के औज़ार देते हैं।
- प्रस्ताव पूर्ण वैधता से लेकर आयु-सीमित पहुँच तक फैले हैं, और नाबालिगों या अस्थिर व्यक्तियों द्वारा शक्तिशाली local models के उपयोग को लेकर चिंताएँ हैं।
- कई टिप्पणियाँ math और matrix operations को protected speech के रूप में देखती हैं और bans को censorship का एक रूप मानती हैं।