एआई 2040: प्लान A
एआई और शासन पर विराम
- कई लोगों को संदेह है कि “शीर्ष मानव प्रतिभा” स्तरों पर एक जानबूझकर US–China विराम राजनीतिक या आर्थिक रूप से यथार्थवादी है; बहुत पैसा और रणनीतिक लाभ दांव पर हैं।
- कुछ का तर्क है कि कोई भी विराम टेक कंपनियों के खिलाफ लोकलुभावन प्रतिक्रिया से आएगा (नौकरियाँ, असमानता, निगरानी), न कि अमूर्त सुरक्षा चिंताओं से।
- अन्य लोग चेतावनी देते हैं कि गलत सूचना (जैसे, अतिरंजित पानी की खपत) पर एक रणनीतिक सहयोगी की तरह भरोसा करना खतरनाक और नैतिक रूप से संदिग्ध है।
संयम के ऐतिहासिक उदाहरण
- कई उदाहरण उद्धृत किए गए: ऐतिहासिक जापान में बंदूकों पर प्रतिबंध, रिकॉम्बिनेंट DNA पर Asilomar स्व-स्थगन, मानव जर्मलाइन संपादन के खिलाफ मजबूत मानदंड, जैविक और थर्मोन्यूक्लियर हथियारों की सीमाएँ, और जैविक हथियार सम्मेलन की आंशिक सफलता।
- संदेहवादी नोट करते हैं कि ऐसे शासन में छेद होते हैं (जैसे, सोवियत जैव-हथियार) और सवाल करते हैं कि क्या वे व्यापक रूप से सुलभ AI तक स्केल कर सकते हैं।
ओपन बनाम केंद्रीकृत AI नियंत्रण
- एक धड़ा डरता है कि कड़ी नियमन सरकारों और कुछ कंपनियों को जड़ बना देगा, जिससे अधिनायकवादी दुरुपयोग और नियामक कब्ज़ा बढ़ेगा।
- दूसरा धड़ा डरता है कि बड़े डेटा सेंटरों और चिप प्रवाह पर मजबूत प्रतिबंधों के बिना, गुप्त या एकाधिकारवादी परियोजनाएँ हावी होंगी और जनता को शक्ति से वंचित कर देंगी।
- विचारों और मॉडलों की खुली पहुँच के समर्थन के साथ-साथ open-weights बनाम सुरक्षा और दुरुपयोग (जैसे, जैव, साइबर) पर तनाव है।
आर्थिक, श्रम और रोबोटिक्स पूर्वानुमान
- कुछ लोग देखते हैं कि AI एजेंट पहले से ही “PhD-स्तर” के कार्य कर रहे हैं, और संज्ञानात्मक तथा अंततः भौतिक श्रम के तेज़ प्रतिस्थापन, बड़े रोबोटिक जनसंख्या, और उच्च बेरोज़गारी का पूर्वानुमान लगाते हैं।
- अन्य तर्क देते हैं कि भौतिक-विश्व स्वचालन बहुत कठिन है; पैकेज-डिलीवरी रोबोट और ड्रोन अभी भी सीमित हैं, और 2035 तक 95% कार्य कवरेज या 74% बेरोज़गारी को अविश्वसनीय माना जाता है।
- ऐतिहासिक स्वचालन को अब तक बड़े पैमाने की बेरोज़गारी पैदा करने में विफल बताया जाता है, जबकि प्रत्युत्तर में कहा जाता है कि इस बार गति और पैमाना अलग हो सकते हैं।
स्केलिंग, प्रक्षेपपथ, और तकनीकी अनिश्चितता
- इस पर बहस कि क्या LLM प्रगति S-कर्व पठार पर है या निरंतर घातीय वृद्धि में: कुछ स्पष्ट क्षमता-उछाल देखते हैं (विशेषकर एजेंटों में), अन्य मामूली सुधार।
- कुछ लोग ज़ोर देते हैं कि ट्रांसफॉर्मर्स में मूलतः स्मृति, निर्णय और कानूनी personhood की कमी है; अन्य दीर्घकालिक स्मृति और निरंतर सीखने पर सक्रिय कार्य की ओर इशारा करते हैं।
कंप्यूट, डेटासेंटर, और स्थानीय प्रभाव
- $100T+ GPU बिल्ड-आउट के पूर्वानुमानों को व्यापक रूप से आर्थिक रूप से असंभव बताकर मज़ाक उड़ाया जाता है।
- आलोचकों के अनुसार डेटासेंटर “पोस्ट-इंडस्ट्रियल खदानें” हैं (भूमि, पानी, शोर, बिजली; लाभ बाहर भेजे जाते हैं), और स्थानीय लोगों को बहुत कम लाभ दिखता है।
- समर्थक जवाब देते हैं कि ऊर्जा विस्तार, बेहतर नियमन, और चिप आपूर्ति में वृद्धि कई चिंताओं को कम कर सकती है।
भू-राजनीति और चीन/US गतिशीलता
- कुछ लोग चिप्स और डेटासेंटरों पर पारस्परिक सत्यापन को संभव मानते हैं (शीत युद्ध हथियार नियंत्रण की समानता); अन्य ट्रैकिंग कवरेज और चीनी अनुपालन पर संदेह करते हैं।
- perceived US-केंद्रित फ्रेमिंग और “jingoism” पर प्रतिरोध है, और इस बात पर असहमति है कि क्या चीन नवाचार में US को पीछे छोड़ेगा या निर्यात नियंत्रणों में उसका अनुसरण करेगा।
एक परिदृश्य के रूप में Plan A की आलोचनाएँ
- कई टिप्पणीकार Plan A को अत्यधिक सट्टात्मक, AGI/ASI की अनिवार्यता के बारे में अति-आत्मविश्वासी, और उन कुछ परिणामों पर संकुचित रूप से केंद्रित देखते हैं जो कड़े नियमन को उचित ठहराते हैं।
- अन्य लोग इसे अब तक का सबसे यथार्थवादी आशावादी takeoff परिदृश्य मानकर सराहते हैं, विशेष रूप से alignment जोखिम और शक्ति-संकेंद्रण—दोनों को संबोधित करने के लिए, भले ही समय-सीमाएँ और संख्याएँ गलत हों।