कई AI सुरक्षा संगठनों ने मौजूदा ओपन-सोर्स AI को अपराधी बनाने की कोशिश की है
कुछ AI safety संगठनों द्वारा open-source AI models को प्रतिबंधित करने या उन्हें अपराधी बनाने की कोशिशों को व्यापक रूप से नियामक कब्ज़ेदारी के रूप में देखा जा रहा है, जो बड़ी टेक कंपनियों की शक्ति को मजबूत करेगी। टिप्पणीकार इस पर बहस कर रहे हैं कि training data और compute limits के लिए licensing क्या समुदाय-चालित AI विकास को पश्चिम में प्रभावी रूप से समाप्त कर देगी, और नवाचार को कम-नियंत्रित क्षेत्रों या भूमिगत दुनिया में धकेल देगी। साथ ही, भविष्य के AGI से जुड़े अनुमानात्मक अस्तित्वगत जोखिमों पर केंद्रित लोगों और copyright उल्लंघनों, misinformation, तथा job losses जैसी वर्तमान हानियों को लेकर चिंतित लोगों के बीच गहरी खाई है—और यह कि open models पर व्यापक bans व्यावहारिक हैं या वांछनीय।
“AI safety” संगठनों की नियामक कब्ज़ेदारी और उद्देश्य
- कई लोग AI safety समूहों को बड़े मौजूदा खिलाड़ियों (OpenAI, Microsoft, Google, आदि) के वास्तविक-रूप में लॉबीइस्ट मानते हैं, जो “सुरक्षा” का उपयोग ऐसे नियमों को उचित ठहराने के लिए करते हैं जो कॉर्पोरेट खाइयों को मजबूत करें।
- आलोचकों का तर्क है कि ये संगठन खुले मॉडलों पर प्रतिबंध या उन्हें अपराधी बनाने की वकालत करते हैं, जबकि बंद, कॉर्पोरेट सिस्टमों से आने वाले समान या उससे बड़े जोखिमों पर अधिक चुप रहते हैं।
- कुछ टिप्पणीकारों को सरकारों तथा खुफिया/सैन्य हितों के साथ समन्वय का संदेह है; अन्य मानते हैं कि अधिकांश जमीनी स्तर के सुरक्षा शोधकर्ता ईमानदार हैं, लेकिन उनके फंडर नहीं।
डेटा, कॉपीराइट, और ओपन-सोर्स AI का भविष्य
- एक बड़ी चिंता: अगर प्रशिक्षण डेटा को हमेशा लाइसेंस प्राप्त होना पड़े, तो ओपन मॉडल आर्थिक रूप से असंभव हो सकते हैं, जबकि बड़ी टेक कंपनियाँ सौदे करने का खर्च उठा सकती हैं।
- अन्य लोग जवाब देते हैं कि:
- FOSS समुदाय बिना लाइसेंस वाले डेटा पर “छिपकर” प्रशिक्षण जारी रखेंगे (torrent/IPFS/विदेशी क्षेत्राधिकार)।
- कृत्रिम या भीड़-स्रोतित “FOSS डेटा” और सार्वजनिक-डोमेन सामग्री आंशिक विकल्प बन सकती है, हालांकि संभवतः क्षमताएँ घट जाएँगी।
- इस बात पर व्यापक असहमति है कि कॉपीराइटेड सामग्री पर प्रशिक्षण चोरी है, fair use है, या इनके बीच कुछ है।
अस्तित्वगत जोखिम बनाम वर्तमान-कालीन हानियाँ
- एक पक्ष x-risk पर केंद्रित है: अनियंत्रित AGI संभावित रूप से मानवता को नष्ट कर सकता है या स्थायी रूप से शक्तिहीन बना सकता है; वे openness को क्षमताओं को अपरिवर्तनीय बनाने वाला मानते हैं।
- थ्रेड का बड़ा हिस्सा संदेहशील है: मौजूदा मॉडलों को AGI से बहुत दूर देखता है और x-risk तर्कों को अनुमानात्मक, मान्यताओं के ढेर पर खड़े, या sci-fi मानता है।
- कई लोग तर्क देते हैं कि निकट-कालीन हानियाँ अधिक ठोस हैं: श्रम विस्थापन, रचनात्मक कार्य का अवमूल्यन, गलत सूचना, spam, plagiarism-laundering, पक्षपाती निर्णय प्रणालियाँ, और शक्ति का संकेंद्रण।
प्रतिबंध, सीमाएँ, और प्रवर्तन
- चर्चा में FLOP-आधारित thresholds, कुछ मॉडलों पर प्रतिबंध, या यहाँ तक कि integrated circuits पर वैश्विक प्रतिबंध जैसे चरम विचार शामिल हैं।
- प्रतिरोध मजबूत है:
- प्रवर्तन को अवास्तविक माना जाता है (नशीले पदार्थों पर प्रतिबंध या “हानिकारक सॉफ़्टवेयर पर प्रतिबंध” जैसा)।
- राष्ट्र-राज्य प्रतिस्पर्धा और सस्ता compute एकतरफा प्रतिबंधों को अस्थिर बना देते हैं; दुष्ट अभिनेता या अन्य देश फिर भी जारी रखेंगे।
- कई लोग नोट करते हैं कि धुंधले “AI safety” मानदंड आसानी से असुविधाजनक भाषण को सेंसर करने या मौजूदा खिलाड़ियों की रक्षा करने के लिए खींचे जा सकते हैं।
ओपन-सोर्स मॉडल्स का मूल्य और जोखिम
- समर्थक खुले मॉडलों को इस रूप में देखते हैं:
- AI को लोकतांत्रिक बनाने, कॉर्पोरेट नियंत्रण का प्रतिरोध करने, और विफलता मोड्स पर स्वतंत्र शोध सक्षम करने के लिए आवश्यक।
- खुले cryptography के समान; उन्हें प्रतिबंधित करने से पश्चिम की प्रतिस्पर्धात्मकता को नुकसान होगा और विकास बस कहीं और चला जाएगा।
- आलोचक चिंतित हैं कि खुले मॉडल बिना सेंसर वाले दुरुपयोग (हथियार संबंधी सलाह, दुष्प्रचार, scams) को आसान बनाते हैं और एक बार जारी होने के बाद उन्हें “वापस” लेना कठिन होता है।
“AI safety” के आसपास वैचारिक भ्रम
- टिप्पणीकार ध्यान देते हैं कि “AI safety” अक्सर इन बातों को मिला देता है:
- सामग्री moderation / “safe outputs”.
- सामाजिक हानियाँ (jobs, propaganda, copyright).
- दीर्घकालिक AGI x-risk.
- यह overloading एक-दूसरे की बात को समझे बिना बहस करने को बढ़ावा देता है और actors को अधिक वैध सुरक्षा चिंताओं के पीछे profit-protection छिपाने देता है.