क्या सरकारों को फ्रंटियर AI को धीमा करना चाहिए? Jacob Coxon और Robin Hanson की बहस [वीडियो]
क्या सरकारों को “frontier” AI विकास को धीमा या रोकना चाहिए — इस पर राय दो हिस्सों में बँटी है: एक तरफ वे लोग हैं जो अस्तित्वगत और सामाजिक जोखिम देखते हैं, दूसरी तरफ वे जो कहते हैं कि प्रतिस्पर्धी दबाव किसी भी सार्थक विराम को अव्यावहारिक बना देते हैं। टिप्पणीकार प्रवर्तन पर बहस करते हैं — विशाल ऊर्जा उपयोग और GPU supply chains की निगरानी से लेकर US–China समझौतों तक — साथ ही नुकसान के लिए सख्त दायित्व, केवल renewable datacenters, और कुछ प्रमुख firms से compute का पुनर्वितरण जैसे विकल्प सुझाते हैं। इसके पीछे शक्ति और असमानता पर एक व्यापक बहस है: सुपर-सक्षम प्रणालियों को कौन नियंत्रित करेगा, वे labor और राजनीति को कैसे बदलेंगी, और क्या मौजूदा capitalist ढाँचे इस परिवर्तन को संभाल सकते हैं।
फ्रंटियर AI को धीमा करने की व्यवहार्यता
- कई लोगों का तर्क है कि महान-शक्ति प्रतिद्वंद्विता और इस विश्वास के कारण कि “जो कोई पहले सुपरह्यूमन AI हासिल कर लेता है” उसे निर्णायक शक्ति मिलती है, कोई भी सार्थक धीमापन राजनीतिक रूप से असंभव है; इसलिए मॉरेटोरियम या विराम विश्वसनीय नहीं माने जाते।
- दूसरों का कहना है कि अभी धीमापन तकनीकी रूप से संभव है क्योंकि फ्रंटियर ट्रेनिंग के लिए विशाल चिप्स, TWh-स्तरीय बिजली, और बड़े datacenters चाहिए होते हैं, जिन्हें मॉनिटर किया जा सकता है और जो कुछ ही देशों में केंद्रित हैं।
- भविष्य की व्यवहार्यता पर सवाल उठाया जाता है: एल्गोरिदमिक और दक्षता सुधार “garage-trainable” शक्तिशाली प्रणालियाँ ला सकते हैं, जिनके बाद प्रवर्तन लगभग असंभव हो जाएगा।
- कुछ लोग AI non-proliferation व्यवस्था, खासकर US–China, को संभव मानते हैं; अन्य लोग परमाणु युग के मिश्रित परिणामों की ओर इशारा करते हैं और सत्यापन तथा अनुपालन पर संदेह जताते हैं।
नियमन, दायित्व, और अति-प्रसार
- एक पक्ष अधिक सक्षम AGI की ओर मजबूत नियमन या पूर्ण रोक का समर्थन करता है, अस्तित्वगत जोखिम, अपरिवर्तनीय गलतियों, और इस बात का हवाला देते हुए कि बाद में दायित्व पर्याप्त नहीं होगा जब नुकसान सभ्यता-स्तरीय हो सकते हैं।
- अन्य लोग दायित्व-आधारित व्यवस्थाओं को प्राथमिकता देते हैं: जब उपयोगकर्ता अवैध कार्यों का निर्देश दें तो उपयोगकर्ता उत्तरदायी हों; जब प्रणालियाँ निर्देशों से आगे जाकर काम करें तो प्रदाता उत्तरदायी हों। उनका तर्क है कि यह काफी हद तक मौजूदा कानून से मेल खाता है और बिना नई भारी-भरकम नियमन के labs को अनुशासित कर सकता है।
- चिंता जताई जाती है कि “AI regulators” धीरे-धीरे लगभग सभी software/hardware तक फैल सकते हैं, जिसका औचित्य घटती लागत और शक्तिशाली models के प्रसार से दिया जाएगा।
- विशिष्ट प्रस्तावों में AI datacenters के लिए केवल renewable ऊर्जा की अनिवार्यता, compute/energy caps, और AI विजेताओं द्वारा वित्तपोषित वैश्विक employment insurance शामिल हैं; इनकी व्यावहारिकता और राजनीतिक इच्छाशक्ति पर व्यापक संदेह है।
संरेखण, मूल्य, और नियंत्रण
- कुछ लोगों का मानना है कि वर्तमान alignment (safety filters, access controls) दिखाता है कि alignment व्यवहार्य है और संगठनों के लिए आर्थिक रूप से मूल्यवान होने के कारण इसमें सुधार होगा।
- अन्य लोग तर्क देते हैं कि “alignment” का उपयोग बड़े labs द्वारा regulatory capture और केंद्रीकरण के बहाने के रूप में किया जा रहा है, जिससे वे आर्थिक गतिविधि पर tollbooths बन जाते हैं।
- इस पर बहस होती है कि intelligence और alignment आपस में जुड़े हैं या नहीं:
- एक पक्ष “orthogonality” — लक्ष्यों और intelligence की स्वतंत्रता — पर जोर देता है; अधिक बुद्धिमान misaligned systems अधिक खतरा पैदा करते हैं।
- दूसरा पक्ष सुझाता है कि अधिक सक्षम systems अधिक तर्कहीन लक्ष्यों को बेहतर पहचान सकती हैं और वर्तमान models समय के साथ अधिक aligned होती दिख रही हैं।
- कई लोग नोट करते हैं कि मनुष्य और bureaucracies पहले से ही “misaligned AIs” हैं, और हमने अपनी ही संस्थाओं के लिए भी alignment की समस्या हल नहीं की है।
शक्ति, अर्थव्यवस्था, और स्वामित्व
- कुछ लोगों को चिंता है कि AI क्षमताएँ कुछ ही firms और states में केंद्रित हो रही हैं; प्रस्तावों में GPUs का पुनर्वितरण, local models को बढ़ावा देना, और AI के व्यक्तिगत नियंत्रण को “alignment with liberty” का मूल भाग मानना शामिल है।
- अन्य लोग तर्क देते हैं कि local inference अक्षम है और cloud models हावी होंगे, हालांकि केंद्रीकृत नियंत्रण पर privacy और sovereignty की आपत्तियाँ उठाई जाती हैं।
- व्यापक राजनीतिक आलोचनाएँ भी सामने आती हैं: असमानता को लेकर चिंताएँ, labor का मूल्य घटने पर लोकतांत्रिक शक्ति के क्षरण की आशंकाएँ, और socialism/communism की माँगें बनाम market capitalism के बचाव।