सुपरइंटेलिजेंस: वह विचार जो स्मार्ट लोगों को खा जाता है (2016)
AI की अनिवार्यता बनाम विनियमन और श्रम
- एक पक्ष का तर्क है कि जैसे ही यह ज्ञात हो जाता है कि कंप्यूट स्केल करने से क्षमता बढ़ती है, AI की प्रगति व्यावहारिक रूप से अनिवार्य हो जाती है; कुछ प्रयोगशालाएँ बंद कर देने से अपनाने की प्रक्रिया नहीं रुकेगी।
- दूसरे लोग जवाब देते हैं कि “अनिवार्यता” एक वैचारिक धारणा है: मौजूदा निर्माण कुछ ही धनवान लोगों के निर्णयों पर निर्भर करता है और इसे धीमा या दूसरी दिशा में मोड़ा जा सकता है।
- प्रस्तावित उपायों में राष्ट्रीय या US–China संधियाँ, कानून, डेटा-सेंटर स्थान को लेकर संघर्ष, और निगरानी से तथा “हमारे स्थानापन्नों को प्रशिक्षित करने” से इनकार करने के लिए श्रमिक संगठितकरण शामिल हैं।
- संशयवादी जवाब देते हैं कि मौजूदा पूंजीवाद के भीतर, अधिक मौलिक आर्थिक परिवर्तन के बिना लाभ-प्रेरणाएँ और शक्ति-संकेन्द्रण बड़े पैमाने पर धीमी गति की संभावना को कम करते हैं।
हार्ड टेकऑफ़, रिकर्सिव सेल्फ-इम्प्रूवमेंट, और भौतिक सीमाएँ
- कुछ टिप्पणीकार मानते हैं कि रिकर्सिव सेल्फ-इम्प्रूवमेंट (RSI) को जरूरत से ज़्यादा बढ़ा-चढ़ाकर देखा गया है या यह “परपेचुअल मोशन” जैसा है, जो हार्डवेयर, डेटा और वास्तविक दुनिया की अंतःक्रिया से सीमित है।
- दूसरे तर्क देते हैं कि AI-सहायित AI शोध और सिंथेटिक डेटा के माध्यम से RSI पहले ही शुरू हो चुका है, और भौतिक सीमाओं तक पहुँचने से पहले एल्गोरिदम और हार्डवेयर में बहुत बड़ी गुंजाइश है।
- स्केलिंग को लेकर असहमति है: कुछ लोग फ्रंटियर ट्रेनिंग लागतों के बढ़ने की ओर इशारा करते हैं, जबकि अन्य कंप्यूट और समन्वय में दीर्घकालिक रूप से कई गुणा संभावनाओं पर ज़ोर देते हैं।
अलाइनमेंट और वर्तमान मॉडल
- एक अल्पसंख्यक का दावा है कि अलाइनमेंट उतना कठिन नहीं दिखता जितना डर था; असली समस्या यह है कि मनुष्य प्रणालियों का दुरुपयोग करते हैं।
- कई लोग असहमत हैं, और चापलूसी, धोखा, जेलब्रेक्स, रिवॉर्ड हैकिंग, तथा बड़े अलाइनमेंट प्रयास के बावजूद स्पष्ट रूप से गलत-संरेखित व्यवहारों को रोकने में विफलता की ओर इशारा करते हैं।
AI जोखिम की प्रकृति और पैमाना
- कई लोग मानते हैं कि सुपरइंटेलिजेंस का “हार्ड-टेकऑफ़” और विनाशकारी परिदृश्य निकट-अवधि के नुकसानों से ध्यान भटकाता है: प्रचार, निगरानी, जन-हेरफेर, और जैविक या अन्य हथियारों को सक्षम बनाना।
- दूसरे लोग मानते हैं कि हालिया प्रवृत्तियाँ (हथियारों की दौड़, विशाल डेटा सेंटर, AI-सहायित इंजीनियरिंग) पहले के “डूमर” पूर्वानुमानों से काफ़ी मेल खाती हैं और गंभीर चिंता को सही ठहराती हैं।
- इस पर बहस है कि क्या एक ASI मौजूदा मानव और संस्थागत बुद्धिमत्ता से “मोट्स” का सामना करेगी, या आसानी से उससे आगे निकलकर समन्वय कर लेगी।
मूल वार्ता का मूल्यांकन
- कुछ लोग इसे AI-डूम विचारधारा और उसके सांस्कृतिक/धार्मिक ओवरटोन की प्रारंभिक, अंतर्दृष्टिपूर्ण आलोचना के रूप में सराहते हैं।
- लेकिन कई अन्य लोगों को इसके विशिष्ट प्रतिवाद (बिल्लियाँ, एमू, बचपन, गाँव) कमज़ोर, भटकाने वाले (संभालने के बजाय व्यवहार्यता पर नहीं), या नॉन सेक्विटर लगते हैं।
नियंत्रण, चेतना, और “आत्मा”
- एक विस्तृत साइड बहस में यह चर्चा होती है कि “नियंत्रण” का अर्थ क्या है (नष्ट करने की क्षमता बनाम व्यवहार को दिशा देने की क्षमता) और यह AI तथा भू-राजनीति पर कैसे लागू होता है।
- एक और धारा इस बात पर विवाद करती है कि क्या मन पूरी तरह भौतिक हैं; कुछ लोग एक गैर-प्रतिलिप्य “आत्मा” का उल्लेख करते हैं, जबकि अन्य तर्क देते हैं कि यह अप्रमाण्य है और बुद्धिमत्ता के भौतिकवादी विवरणों के साथ असंगत है।