ओपन सोर्स AI के खिलाफ तर्क खराब हैं
“ओपन सोर्स” या ओपन-वेट AI मॉडल्स पर बहस इस बात पर केंद्रित है कि शक्तिशाली प्रणालियों को सार्वजनिक रूप से जारी करना कुल मिलाकर सुरक्षा बढ़ाता है या बस बुरे लोगों को हथियार देता है। कुछ लोग तर्क देते हैं कि ओपन मॉडल अनिवार्य हैं, स्वतंत्र ऑडिटिंग को संभव बनाते हैं, और कुछ कॉर्पोरेशनों या सरकारों को संभावित “सुपरहथियार” पर एकाधिकार करने से रोकते हैं, जबकि अन्य कहते हैं कि केंद्रीकृत APIs निगरानी, पहुँच-रद्दीकरण, और guardrails की अनुमति देती हैं जो वेट्स के व्यापक रूप से वितरित होने के बाद असंभव हो जाती हैं। एक बार-बार उभरने वाला विषय अविश्वास है: बंद मॉडल्स के आलोचक नियामकीय प्रतिरोध को कॉर्पोरेट नियामक-कैप्चर मानते हैं, जबकि ओपन मॉडल्स के संदेहकर्ता उनकी तुलना परमाणु बम डिज़ाइनों को प्रकाशित करने से करते हैं और सवाल उठाते हैं कि क्या कोई समाज उत्पन्न जोखिमों को संभाल सकता है।
विवाद का दायरा
- अधिकांश टिप्पणीकार व्यापक रूप से उपलब्ध / “ओपन” मॉडल्स का समर्थन करते हैं, लेकिन खुलेपन की मात्रा और रूप पर मतभेद रखते हैं (ओपन वेट्स बनाम पूर्ण ओपन सोर्स, क्षमता की सीमाएँ, आदि)।
- एक अल्पसंख्या तर्क देती है कि शक्तिशाली AI पर कड़ा नियंत्रण होना चाहिए या उसे बनाया ही नहीं जाना चाहिए, और इसे परमाणु तकनीक से जोड़ती है।
सुरक्षा, दुरुपयोग, और मानवीय प्रेरणा
- चिंताएँ: फ़ाइन-ट्यून किए गए ओपन मॉडल बड़े पैमाने पर ठगी, लक्षित धोखाधड़ी, साइबर हमले, या कम-मेहनत वाले व्यापक नुकसान को सक्षम कर सकते हैं; ओपन वेट्स परिभाषा के अनुसार ही सुरक्षा-घेरों (guardrails) को हटा देते हैं।
- प्रतिवाद:
- इसी तरह के दुरुपयोग पहले से ही बंद मॉडल्स और सस्ते मानव श्रम के साथ हो रहे हैं; ठगी के लिए “जीनियस-स्तर” AI की ज़रूरत नहीं होती।
- अत्याचारों पर मुख्य बाधा यह है कि बहुत कम लोग उन्हें करना चाहते हैं; ज्ञान बाधा नहीं है।
- दुनिया को “बबल-रैप” करने की कोशिशें अक्सर भरोसे, नागरिक स्वतंत्रताओं को कमजोर करती हैं, और उल्टा असर डाल सकती हैं।
सुरक्षा के लिए ओपन बनाम बंद मॉडल्स
- बंद मॉडल्स के पक्ष में तर्क:
- केंद्रीय APIs निगरानी, पहुँच वापस लेने, और guardrails लागू करने की अनुमति देती हैं; नियामकों को कम इकाइयों की देखरेख करनी पड़ती है।
- ओपन वेट्स को कोई भी, यहाँ तक कि शत्रुतापूर्ण राज्य और अपराधी भी, कॉपी, संशोधित, और तैनात कर सकते हैं, जिससे निगरानी कठिन हो जाती है।
- ओपन के पक्ष में तर्क:
- बंद प्रणालियों का उनके मालिक बड़े पैमाने पर दुरुपयोग कर सकते हैं, और पारदर्शिता बहुत कम होती है।
- ओपन वेट्स रक्षकों की मदद करते हैं: उदाहरण के लिए, रिपोर्ट किया गया कि उन्नत AI-संचालित हमले की जाँच के लिए सुरक्षा फ़िल्टरों से मुक्त मॉडल्स की ज़रूरत पड़ी।
- एन्क्रिप्शन का इतिहास: प्रतिबंध और बैकडोर विफल रहे और उन्होंने सुरक्षा को कमजोर किया।
बैकडोर, पॉइज़निंग, और भरोसा
- कई लोग नोट करते हैं कि मॉडल पॉइज़निंग और बैकडोर सूक्ष्म होते हैं और ओपन वेट्स के बावजूद उन्हें पहचानना कठिन है।
- अन्य लोग तर्क देते हैं कि अपारदर्शी APIs की तुलना में ओपन वेट्स के साथ निरीक्षण और रेड-टीमिंग अभी भी आसान है, जैसे ओपन बनाम प्रोपाइटरी सॉफ़्टवेयर।
- कुछ सुझाव देते हैं कि आपको मान लेना चाहिए कि कोई भी मॉडल समझौता-योग्य हो सकता है और ऐसी प्रणालियाँ डिज़ाइन करनी चाहिए जो उस पर पूरी तरह भरोसा न करें।
“ओपन सोर्स” बनाम “ओपन वेट्स”
- एक मज़बूत धारा यह तर्क देती है कि वेट्स जारी करना सच्चा ओपन सोर्स नहीं है:
- वेट्स पुनर्वितरण योग्य binaries जैसे अधिक हैं; पूर्ण खुलेपन में डेटा, ट्रेनिंग कोड, और पाइपलाइन भी शामिल होंगे।
- फ़ाइन-ट्यूनिंग संभव है, लेकिन आप आम तौर पर पक्षपाती या प्रचारात्मक प्रीट्रेनिंग को “पूर्ववत” नहीं कर सकते।
- अन्य लोग जवाब देते हैं कि व्यावहारिक रूप से महँगा हिस्सा ट्रेनिंग है; अपने हार्डवेयर पर वेट्स चलाने और फ़ाइन-ट्यून करने की क्षमता ही महत्वपूर्ण है।
चीन, भू-राजनीति, और प्रचार
- कुछ लोगों को चिंता है कि चीनी ओपन-वेट मॉडल्स में बैकडोर, सूक्ष्म कोड कमजोरियाँ, या प्रचार छिपा हो सकता है।
- प्रतिवाद:
- ओपन वेट्स का परीक्षण किया जा सकता है, और यहाँ तक कि गैर-चीनी मॉडल्स के साथ क्रॉस-चेक भी किया जा सकता है।
- कुछ लोग U.S. की चिंताओं को शीत युद्ध-शैली की बयानबाज़ी और U.S. तकनीकी प्रभुत्व बनाए रखने के तरीके के रूप में देखते हैं, न कि सिद्धांत-आधारित सुरक्षा रुख के रूप में।
नियमन, कॉर्पोरेट प्रोत्साहन, और कैप्चर
- बहुत से लोग “AI बहुत खतरनाक है; केवल कुछ लैब्स ही इसे संभालें” को बड़े फ़र्मों की नियामक-कैप्चर रणनीति मानते हैं।
- कॉर्पोरेट स्व-नियमन और सरकारों की क्षमता—दोनों को लेकर संदेह है, लेकिन सार्वजनिक सुरक्षा के लिए कुछ नियमन सामान्य है, यह भी माना जाता है।
- कुछ का तर्क है कि वास्तविक “जनहित AI” के लिए सार्वजनिक फंडिंग और गैर-लाभकारी या अकादमिक संरक्षण की आवश्यकता होगी, न कि केवल निजी लैब्स की।