Demis Hassabis के पास AI को सुरक्षित रूप से उपयोग करने की एक योजना है
एक प्रमुख AI नेता द्वारा “frontier” AI मॉडलों को रिलीज़ से पहले परीक्षण और प्रमाणित करने के लिए एक अर्ध-स्वतंत्र अमेरिकी निकाय की मांग ने इस बहस को फिर से तेज़ कर दिया है कि उन्नत प्रणालियों को कैसे, और क्या, विनियमित किया जाना चाहिए। समर्थक इसे सावधानीपूर्ण मानते हैं, खासकर इसलिए कि artificial general intelligence कुछ ही वर्षों दूर हो सकती है, जबकि आलोचकों का तर्क है कि यह अनुमानात्मक है, बड़े लैब्स द्वारा regulatory capture का जोखिम रखता है, और नौकरी छिनने, दुष्प्रचार, तथा सत्ता-संकेंद्रण जैसे अधिक तात्कालिक नुकसानों को नज़रअंदाज़ करता है। कई टिप्पणीकार “post-scarcity” दृष्टियों की यथार्थता पर सवाल उठाते हैं और इस बात पर ज़ोर देते हैं कि तकनीकी सुरक्षा-उपायों से अधिक राजनीतिक इच्छा, आर्थिक संरचनाएँ, और प्रवर्तन यह तय करेंगे कि शक्तिशाली AI का लाभ वास्तव में किसे मिलता है।
AGI की समयरेखा और उसकी यथार्थता
- लेख का यह आधार कि ब्रेन-स्तर की AGI “कुछ ही छोटे वर्षों” दूर है, काफ़ी विवादित है।
- आलोचकों का कहना है कि स्केलिंग हमें जल्द वहाँ पहुँचा देगी, इसका कोई ठोस सबूत नहीं है; LLMs अभी भी बुनियादी कामों में विफल रहते हैं और संकीर्ण, नाज़ुक प्रणालियों जैसे लगते हैं।
- अन्य लोग तर्क देते हैं कि हाल की तेज़ प्रगति ही कारण है कि अभी से सुरक्षा की योजना बनाना तर्कसंगत है, भले ही समय-सीमाएँ अनिश्चित हों।
पोस्ट‑स्कैरसिटी, असमानता, और वितरण
- बहुत से लोग संदेह करते हैं कि AGI वास्तविक पोस्ट‑स्कैरसिटी पैदा करेगी; भूमि और पसंदीदा स्थान स्वभावतः दुर्लभ बने रहते हैं।
- जहाँ तकनीकी दुर्लभता लगभग हल हो भी जाती है (जैसे समृद्ध देशों में भोजन), वहाँ भी आवंटन और राजनीति भूख और बेघरपन पैदा करती रहती है।
- कई लोग बताते हैं कि पिछले तकनीकी उछालों ने अपने‑आप असमानता को ठीक नहीं किया; अक्सर वे ज़बरदस्ती पुनर्वितरण तक उसे और बढ़ाते रहे।
प्रस्तावित AI सुरक्षा निकाय और विनियमन
- सुझाया गया FINRA‑जैसा “frontier AI” नियामक मॉडलों का बेंचमार्क करेगा, “frontier labs” को लेबल करेगा, और सुरक्षा दायित्व लगाएगा (परीक्षण, model cards, सुरक्षा, आदि)।
- समर्थकों का मानना है कि सरकार अकेले बहुत धीमी है और उद्योग का स्व-नियमन बहुत कमज़ोर; इसलिए एक hybrid SRO अधिक चुस्ती जोड़ सकता है।
- संदेहवादी धुंधले लक्ष्यों, कम प्रवर्तन-क्षमता, और इस बात पर शक करते हैं कि बुरे अभिनेता इसका पालन करेंगे भी या नहीं।
सत्ता, प्रोत्साहन, और नियामकीय कब्ज़ा
- कई लोग इस प्रस्ताव को regulatory capture की कोशिश के रूप में देखते हैं: बड़े लैब “सुरक्षा” का उपयोग करके गेटकीपिंग करें, प्रतिस्पर्धियों को धीमा करें, और open/self-hosted models को बाहर करें।
- चिंताओं में छोटे लैब्स पर ऐसे बोझ शामिल हैं जिन्हें वे पूरा नहीं कर सकते, benchmark gaming (स्कोर बढ़ाना या जानबूझकर कम प्रदर्शन करना), और सत्ता को कुछ अमेरिकी कंपनियों में केंद्रित करना जो सरकार के साथ संरेखित हैं।
- इस पर गहरा अविश्वास है कि प्रमुख कंपनियाँ AGI से पैदा होने वाले लाभ साझा करेंगी, मौजूदा कर-चोरी और धन-संचय को देखते हुए।
वास्तविक/मौजूदा जोखिम बनाम अनुमानित आपदा
- कई लोग तर्क देते हैं कि निकट अवधि के सबसे बड़े नुकसान हैं: नौकरियों का विस्थापन, प्रचार और दुष्प्रचार, निगरानी, मीडिया पर भरोसे का क्षरण, और सत्ता का केंद्रीकरण।
- वे “existential risk” की बयानबाज़ी को concern-trolling मानते हैं, जो इन ठोस मुद्दों से ध्यान हटाकर incumbents को और नियंत्रण देने को उचित ठहराती है।
- अन्य लोग मानते हैं कि दीर्घकालिक विनाशकारी जोखिम (जैसे सुपरइंटेलिजेंट प्रणालियों पर नियंत्रण खो देना) इतने संभाव्य हैं कि पूर्व-निवारक ढाँचे उचित हैं।
अंतरराष्ट्रीय और भू-राजनीतिक संदर्भ
- बहुत से लोग संदेह करते हैं कि अमेरिका-परिभाषित ढाँचा व्यापक अंतरराष्ट्रीय पालन हासिल करेगा, क्योंकि अमेरिकी treaty commitments पर भरोसा घटा है और अमेरिकी “hegemony” के प्रति असंतोष है।
- कुछ लोग नोट करते हैं कि चीन और अन्य भी ऐसे ही नियंत्रण अपना सकते हैं, लेकिन अन्य मानते हैं कि महाशक्ति प्रतिस्पर्धा और race करने के प्रोत्साहन अर्थपूर्ण वैश्विक सीमाओं को रोक देंगे।
चेतना, अधिकार, और “AI slavery”
- एक लंबा उप-थ्रेड इस पर बहस करता है कि क्या भविष्य की AGI एक moral patient हो सकती है जिसके अधिकार हों।
- रुख “यह सिर्फ़ electrons हैं, slavery लागू नहीं होती” से लेकर “यदि AGI में qualia/consciousness है, तो उसे औज़ार की तरह इस्तेमाल करना slavery होगी” तक फैले हैं।
- इस पर कोई सहमति नहीं है कि intelligence चेतना का संकेत है या नहीं, या मशीनों में qualia का पता हम कैसे भी लगाएंगे।
Open models और छोटे खिलाड़ी
- प्रस्तावित व्यवस्था कमजोर मॉडलों को छूट देगी, लेकिन जब वे “frontier” सीमाएँ पार करेंगे, तब वे विनियमित होंगे।
- लोग benchmark-chasing और निरीक्षण से बचने के लिए जानबूझकर कम प्रदर्शन—दोनों की उम्मीद करते हैं।
- यह चिंता है कि बंद, बड़े-स्तरीय मॉडल सार्वजनिक दृश्यता या लोकतांत्रिक इनपुट के बिना समाज को प्रभावित करने वाली अपारदर्शी बुनियादी संरचना बन जाते हैं।
अब तक AI के मूल्य के सबूत
- कुछ लोग पूछते हैं कि AGI hype को उचित ठहराने के लिए AI ने वास्तव में कौन-सी परिवर्तनकारी समस्याएँ हल की हैं।
- जवाबों में protein-folding जैसी विशिष्ट सफलताओं को उजागर किया जाता है, और तर्क दिया जाता है कि सुरक्षा की योजना के लिए सामान्य प्रणालियों का अभी मौजूद होना ज़रूरी नहीं है।