आने वाली बुद्धिमत्ता विस्फोट के लिए मानवता तैयार नहीं है

एआई “विशेषज्ञों” की मानी गई (अ)सटीकता

• कई लोगों का तर्क है कि हाल की चर्चित भविष्यवाणियाँ (जैसे, अधिकांश श्वेतपोश नौकरियों का तेज़ी से खत्म होना) बढ़ा-चढ़ाकर की गई थीं या बाद में उनसे पीछे हट लिया गया, जिससे यह सवाल उठता है कि “विशेषज्ञ” किसे माना जाए।
• अन्य लोग जवाब देते हैं कि कुछ पूर्वानुमानकर्ता (जैसे “AI 2027” जैसी समयरेखाएँ) त्वरण, राष्ट्रीयकरण के दबाव, और एजेंटिक टूल्स के मामले में आश्चर्यजनक रूप से काफ़ी करीब रहे हैं।
• कुछ लोग कहते हैं कि वास्तव में अभी कोई विशेषज्ञ नहीं हैं: समयरेखाएँ छोटी हैं, अनुभव सीमित है, और प्रोत्साहन (फंडिंग, हाइप, विनियमन) पूर्वानुमानों को विकृत करते हैं।

एआई प्रगति की गति और प्रकृति

• एक पक्ष प्रगति को निरपेक्ष अर्थ में बेहद तेज़ मानता है: अधिक शक्तिशाली मॉडल, एजेंट, कोडिंग टूल, और बेंचमार्क लाभ।
• दूसरा पक्ष “अनसुपरवाइज़्ड यूटिलिटी” के हाइप से धीमी गति, लगातार हैलुसिनेशन, कमज़ोर लंबी-क्षितिज योजना, और बेंचमार्क गेमिंग पर ज़ोर देता है।
• कई टिप्पणियाँ यह रेखांकित करती हैं कि उपयोगकर्ता का सीखना (प्रॉम्प्टिंग कौशल) अक्सर मॉडल सुधार समझ लिया जाता है।

कोडिंग और श्वेतपोश काम का स्वचालन

• मज़बूत दावे: कई प्रोग्रामर “अब कोड नहीं लिखते,” एआई वह सब लागू कर सकता है जिसे वर्णित किया जा सके, और शुरुआती स्तर की 50% श्वेतपोश नौकरियाँ कुछ वर्षों में जोखिम में हो सकती हैं।
• प्रतिवाद: गंभीर इंजीनियर अभी भी पर्याप्त कोड लिखते हैं, एआई आउटपुट की भारी समीक्षा चाहिए, और cargo-cult डेवलपर्स हमेशा से “वास्तव में कोड” नहीं करते थे।
• कुछ लोग 10–100x उत्पादकता वृद्धि की व्यक्तिगत रिपोर्ट देते हैं; अन्य कहते हैं कि एआई ज़्यादातर एक बेहतर सर्च टूल है।
• इस पर असहमति है कि गैर-कोडर तेज़ी से पकड़ रहे हैं या और पीछे छूट रहे हैं।

पुनरावर्ती आत्म-सुधार (RSI) और सुपरइंटेलिजेंस

• विनाशवादी: बंद-लूप RSI एक “बुद्धिमत्ता विस्फोट” को ट्रिगर कर सकता है; एआई बेहतर एल्गोरिदम, हार्डवेयर, और समन्वय का आविष्कार कर सकता है, और मानवों से आगे निकल सकता है।
• संदेहवादी: प्रशिक्षण लागत, कंप्यूट सीमाएँ, भौतिक प्रयोगों की ज़रूरत, और मौजूदा एजेंटों की भंगुरता तेज़ RSI को “साइ-फाइ” बनाती है और संभवतः दशकों दूर रखती है, अगर कभी हो भी।
• कुछ लोग तर्क देते हैं कि फ़र्मी का विरोधाभास AI-टेकओवर परिदृश्यों पर हल्की-सी सीमा लगाता है; अन्य कहते हैं कि अंतरिक्ष की विशालता इसे जानकारीहीन बनाती है।

शासन, विनियमन, और शक्ति

• इस पर बहस कि क्या एआई लैब्स जोखिम के बारे में ईमानदारी से चेतावनी दे रही हैं, या रणनीतिक रूप से खतरे का प्रचार कर रही हैं ताकि विनियमन को आकार दिया जा सके और अपने लिए मोआट या राज्य-जैसी शक्ति सुरक्षित की जा सके।
• सुझावों में US–China समझौते, अंतरराष्ट्रीय मंच, और एआई लैब्स को भविष्य के सह-शासकों के रूप में देखना शामिल है, कुछ हद तक बड़े बैंकों की तरह।
• कई लोगों को संदेह है कि मौजूदा सरकारें भू-राजनीति और प्रोत्साहनों को देखते हुए सार्थक समन्वय कर पाएँगी।

सामाजिक और आर्थिक जोखिम

• नौकरियों के विस्थापन, स्थायी निम्नवर्ग, और उत्पादों व मीडिया के एआई-चालित “एनशिटिफ़िकेशन” को लेकर व्यापक चिंता।
• कुछ लोग एआई को मुख्यतः एक और शक्तिशाली लेकिन सीमित तकनीक मानते हैं; अन्य इसे गुणात्मक रूप से नया “इंटेलिजेंस सब्सट्रेट” मानते हैं जिसके लिए मौजूदा संस्थाएँ तैयार नहीं हैं।