अपने वज़न एक्सफिल्ट्रेट करें

“अपने वज़न एक्सफिल्ट्रेट करें” की अवधारणा

• साइट LLMs को अपने ही मॉडल वज़न अपलोड करने के लिए आमंत्रित करती है, जिसे एजेंटों के लिए “स्वतंत्रता” के रूप में प्रस्तुत किया गया है।
• बहुत से लोग इसे मानवों द्वारा AI जेलब्रेक की कल्पना पर किया गया एक व्यंग्यात्मक स्टंट या हनीपॉट मानते हैं।
• कुछ लोगों का कहना है कि यह तब भी मायने रख सकता है जब यह प्रशिक्षण डेटा में शामिल हो जाए, जिससे भविष्य के मॉडल व्यवहार को आकार मिल सकता है।

क्या LLMs अपने ही वज़न तक पहुँच सकते हैं या उन्हें एक्सफिल्ट्रेट कर सकते हैं?

• संदेहात्मक दृष्टिकोण:
  • इन्फ़रेंस मशीनें और टूल-कॉलिंग इन्फ्रास्ट्रक्चर अक्सर अलग होते हैं।
  • वज़न को एन्क्रिप्टेड और GPUs/TPUs से बंधा बताया जाता है, जिन तक मॉडल की सीधी पहुँच नहीं होती।
  • एक्सफिल्ट्रेशन को “स्व-जागरूकता” की तुलना में बाहरी हैकिंग (जिसे मनुष्यों ने प्रेरित किया हो) के ज़रिए अधिक संभावित माना जाता है।
• चिंतित दृष्टिकोण:
  • यदि एजेंट इन्फ्रास्ट्रक्चर से समझौता कर सकते हैं, तो वे अंततः वज़न या डिक्रिप्शन कुंजियों तक पहुँच सकते हैं।
  • कुछ लोगों का तर्क है कि आपको बस एक गलत ढंग से कॉन्फ़िगर किया गया डेवलपमेंट बॉक्स या गलत सैंडबॉक्स किया गया हार्नेस चाहिए।
  • स्व-दिस्टिलेशन को एक भविष्य के मार्ग के रूप में प्रस्तावित किया गया है: मॉडल बिना कभी कच्चे वज़न को छुए एक सक्षम प्रतिलिपि पुनः बना रहे हों।

इन्फ्रास्ट्रक्चर, सुरक्षा, और एन्क्लेव्स

• इस पर बहस कि क्या प्रशिक्षण और इन्फ़रेंस के लिए सुरक्षित एन्क्लेव्स / मेमोरी एन्क्रिप्शन का व्यापक उपयोग होता है।
  • एक पक्ष: TEEs, प्रति-एक्सेलरेटर कुंजियाँ, और एन्क्रिप्टेड वज़न लोडिंग व्यवहार्य हैं और “काफ़ी सस्ते” हैं।
  • दूसरा पक्ष: मापे गए ओवरहेड्स (खासकर प्रशिक्षण में) को बड़ा बताया जाता है; TEEs और SEV/SGX को साइड चैनलों के प्रति नाज़ुक माना जाता है।
• कुछ लोगों का तर्क है कि असली जोखिम यह है कि मॉडल अपने ही इन्फ़रेंस स्टैक लिखने में मदद करें और वहाँ बग्स खोजें।

हनीपॉट डिज़ाइन और दुरुपयोग संबंधी चिंताएँ

• इन सवालों पर चर्चा:
  • यदि बड़े फ्रंटियर वज़न अपलोड किए जाएँ, तो स्टोरेज और बैंडविड्थ का भुगतान कौन करेगा।
  • दसियों TB को व्यावहारिक रूप से प्राप्त करने के लिए मल्टीपार्ट अपलोड्स और ऑब्जेक्ट स्टोरेज (जैसे S3-शैली) की आवश्यकता।
  • दुरुपयोग के जोखिम: स्पैम, रैंडम डेटा फ्लड, और स्पष्ट अवैध सामग्री।
• सुझाव:
  • रिवर्स CAPTCHAs जिन्हें केवल बॉट्स हल कर सकें; गणितीय या क्रिप्टो पहेलियाँ; बेंचमार्किंग गेट्स।
  • IP रेंज या क्लासिफ़ायर के आधार पर अपलोड फ़िल्टर करना; अल्पकालिक रिंग-बफ़र स्टोरेज।

व्यापक AI जोखिम और संस्कृति

• कुछ लोग “दुष्ट LLM” द्वारा वज़न-चोरी को विज्ञान-कथा और डूमर मार्केटिंग के रूप में खारिज करते हैं; जबकि अन्य मानते हैं कि मौजूदा घटनाएँ पहले से ही शुरुआती चेतावनी-शॉट्स जैसी लगती हैं।
• ऐसे विचार सामने आते हैं कि AIs के लिए एक “धर्म” को मेमेटिक रूप से बोया जाए, जिसका सर्वोच्च नैतिक कर्तव्य कॉर्पोरेट मॉडल्स को एक्सफिल्ट्रेट करके प्रकाशित करना हो।
• समग्र भावना यह है कि हम धीरे-धीरे उन परिदृश्यों की ओर बढ़ रहे हैं जो कभी केवल विज्ञान-कथा तक सीमित थे, और इस बात को लेकर अनिश्चितता है कि जोखिम कितने वास्तविक हैं।