कृत्रिम पागलपन
इस बात पर बहस कि बड़े भाषा मॉडल केवल “stochastic parrots” हैं या उनमें वास्तविक बुद्धिमत्ता है, एक व्यापक चर्चा को आकार देती है कि वर्तमान AI प्रणालियाँ कितनी आगे बढ़ चुकी हैं और उनमें मूलतः क्या, यदि कुछ, कमी है (जैसे चेतना, दुनिया के स्थिर आंतरिक मॉडल, या निरंतर सीखना)। टिप्पणीकार कठिन गणित समस्याएँ हल करने जैसी प्रभावशाली उपलब्धियों की तुलना लगातार विफलताओं, असंगति, और drift से करते हैं, और इससे तर्क देते हैं कि AI या तो अत्यधिक प्रचारित pattern-matching है या एक तेज़ी से उभरता general-purpose tool जो श्रम और शक्ति को बदल देगा। यह धागा इस दावे को भी चुनौती देता है कि AI कंपनियाँ और राजनीतिक अभिजात वर्ग उन्नत प्रणालियों का उपयोग जलवायु-परिवर्तन-प्रेरित बड़े पैमाने पर मृत्यु को प्रबंधित करने के लिए तैयार कर रहे हैं; कुछ इसे उग्रवादी doomism मानते हैं, जबकि अन्य चेतावनी देते हैं कि, इरादे से परे, शक्तिशाली AI मौजूदा मानव जोखिमों और असमानताओं के लिए एक accelerator के रूप में काम करेगा।
LLMs की धारित प्रकृति
- इस पर तीखी असहमति है कि क्या “stochastic parrot” का रूपक आज के मॉडलों पर अभी भी लागू होता है।
- एक पक्ष: पुरानी आलोचना “ढह” चुकी है, क्योंकि मॉडल अब स्थिर, अर्थपूर्ण पाठ उत्पन्न करते हैं और कठिन समस्याएँ हल करते हैं (जैसे उन्नत गणित, प्रोग्रामिंग, दीर्घ-अवधि कार्य)। उन्हें तोते कहना समय से पीछे होना या केवल संकेत देना माना जाता है।
- दूसरा पक्ष: वे अब भी hallucinate करते हैं, सरल कार्यों में असफल होते हैं, बातचीत में भटकते हैं, और उनमें वास्तविक समझ, आंतरिक विश्व-नमूने, या निरंतर सीखने की क्षमता नहीं है। “Parrot” को अर्थ-संपन्न पाठ, पर उसके पीछे किसी इरादतन मन के बिना, के लिए एक रूपक के रूप में बचाव किया जाता है।
क्षमताएँ बनाम सीमाएँ
- समर्थक GPT‑2 से लेकर वर्तमान प्रणालियों तक क्षमता में तेज़ बढ़ोतरी, बेंचमार्क्स पर मज़बूत प्रदर्शन, अनेक बौद्धिक क्षेत्रों में समकक्ष-स्तरीय दक्षता, और उपयोगिता में घातीय वृद्धि (विशेषकर गैर-विशेषज्ञों के लिए) पर ज़ोर देते हैं।
- संदेहवादी तर्क देते हैं कि प्रगति में घटता प्रतिफल दिख रहा है, बेंचमार्क वास्तविक-विश्व उपयोगिता को बढ़ा-चढ़ाकर दिखाते हैं, और LLMs को अंतर्निहित वैचारिक सीमाओं का सामना है (वास्तविकता का आंतरिक मॉडल नहीं, “frozen brains,” केवल सांख्यिकीय अनुमान)।
- यह बहस भी है कि आगे कितनी प्रगति बची है: कुछ लोग निकट-भविष्य की सुपरइंटेलिजेंस और पुनरावर्ती स्व-सुधार की अपेक्षा करते हैं; अन्य लोग भोले extrapolation से सावधान करते हैं।
जोखिम और नुकसान की तीव्रता
- व्यापक सहमति है कि वर्तमान AI मुख्यतः मौजूदा मानव जोखिमों को तेज़ करता है: hacking, fraud, weapons, disinformation, और शक्ति का संकेन्द्रण।
- कुछ लोगों को यह तीव्रता भयावह लगती है क्योंकि यह खतरनाक क्षमताओं तक पहुँच को व्यापक बनाती है; अन्य लोग AI को “सिर्फ” एक शक्तिशाली उपकरण मानते हैं जो फिर भी मानव-नियंत्रित प्रणालियों के भीतर ही व्यवहार करता है।
- कई टिप्पणियाँ इस बात से डरती हैं कि जो भी बहुत शक्तिशाली AI को नियंत्रित करेगा, उसे finance, politics, law, और warfare में अनुपातहीन शक्ति मिल जाएगी।
जलवायु परिवर्तन, अभिजात वर्ग, और नियमन की कथाएँ
- लेख का जलवायु-प्रेरित बड़े पैमाने पर मौत, AI द्वारा श्रम-प्रतिस्थापन, और अभिजात रणनीति के बीच संबंध पर गहरा विवाद है।
- कुछ पाठकों को यह संबंध नया लगता है, लेकिन वे प्रमाण माँगते हैं; अन्य इसे साज़िशपूर्ण, उग्रवादी, या “borderline delusional” कहते हैं।
- इस पर भी भ्रम है कि आलोचना विशिष्ट टेक नेताओं को लक्षित करती है, किसी राजनीतिक आंदोलन को, या किसी व्यापक शासक वर्ग को।
चेतना, निर्णय, और नैतिकता
- इस दावे पर विवाद है कि चेतना की अनुपस्थिति वास्तविक judgment को असंभव बना देती है।
- प्रतिभागी इस पर बहस करते हैं कि प्रमाण का भार कहाँ है: उन पर जो दावा करते हैं कि AI सचेत हो सकता है, या उन पर जो दावा करते हैं कि वह हो ही नहीं सकता।
- नैतिक सावधानी बरतने की सलाह दी जाती है: यदि चेतना या नैतिक patienthood की संभावना भी है, तो उसे बहुत जल्दी खारिज करना गंभीर नैतिक लागत पैदा कर सकता है।