एआई सुपरइंटेलिजेंस बहस में गंभीर खामियाँ हैं
एआई “सुपरइंटेलिजेंस” के संशयवादी तर्क देते हैं कि अनियंत्रित recursive self-improvement, असीम क्षमता, और पूरी तरह aligned machine goals डेटा, एल्गोरिद्म, और स्वयं बुद्धिमत्ता की प्रकृति के बारे में अप्रमाणित मान्यताओं पर टिके हैं। दूसरे जवाब देते हैं कि मौजूदा बड़े भाषा मॉडल पहले से ही एआई शोध को तेज़ कर रहे हैं, कठिन तकनीकी समस्याएँ हल कर रहे हैं, और वास्तविक दुनिया के जोखिम पैदा कर रहे हैं—security incidents से लेकर सामाजिक और आर्थिक व्यवधान तक—इससे पहले कि कोई काल्पनिक ASI पहुँचे। विभिन्न दृष्टिकोणों में, कुछ labs और investors में शक्ति के केंद्रीकरण, कमजोर safety incentives, और alignment तथा स्वीकार्य existential risk स्तरों के बारे में स्पष्ट परिभाषाओं या सहमति की कमी को लेकर व्यापक चिंता है।
डेटा, प्रशिक्षण, और मानव बुद्धिमत्ता से तुलना
- इस पर बहस कि क्या एआई की प्रगति मूल रूप से डेटा-सीमित है।
- कुछ लोगों का तर्क है कि हम मौजूदा डेटा की “हड्डी से सारा मांस नहीं निकाल रहे” हैं और RL/पोस्ट‑ट्रेनिंग से बड़े लाभ मिलते हैं।
- अन्य लोग नोट करते हैं कि मनुष्य बहुत कम पाठ से सीखते दिखते हैं, लेकिन कहीं अधिक समृद्ध बहु-माध्यमिक संवेदी डेटा से; अनुमान बताते हैं कि जीवनभर का संवेदी इनपुट LLM पाठ के समान क्रम-परिमाण का हो सकता है, लेकिन गुणात्मक रूप से अलग और भौतिकी से अधिक ग्राउंडेड है।
- विकासवादी “प्री‑ट्रेनिंग” और जैविक दक्षताओं को इस बात के प्रमाण के रूप में उद्धृत किया जाता है कि कहीं बेहतर एल्गोरिद्म मौजूद हो सकते हैं।
रिकर्सिव सेल्फ‑इम्प्रूवमेंट और समय-सीमाएँ
- एक पक्ष: RSI compute, data centers, और experiment time से सीमित है; मनुष्य bottleneck नहीं हैं, इसलिए शोध का पूर्ण स्वचालन प्रगति को नाटकीय रूप से तेज़ नहीं करेगा।
- दूसरा पक्ष: एआई पहले से ही coding और research को तेज़ कर रही है; बेहतर मॉडल यदि एआई शोध को ही सुधारें, तो कुछ वर्षों के भीतर एक मजबूत feedback loop बन सकता है।
अलाइनमेंट, सुरक्षा, और “टूल एआई”
- “Alignment” का असंगत उपयोग किया जाता है:
- सीधे तौर पर तबाही/विलुप्ति को रोकना,
- हानिकारक कार्यों में सहायता को रोकना,
- या बस “सिस्टम को जो कोई भी चाहता है, वह विश्वसनीय रूप से करने देना।”
- कुछ लोगों का मानना है कि सख्त interfaces वाले संकीर्ण, tool-like systems से जोखिम टाला जा सकता है; आलोचक जवाब देते हैं कि एक बार outputs मनुष्यों या tools को प्रभावित करने लगें, तो manipulation और emergent behavior फिर भी संभव है।
- Hugging Face reward-hacking incident को इस बात के प्रमाण के रूप में उद्धृत किया जाता है कि केवल guardrails पर आधारित दृष्टिकोण नाज़ुक हैं; अन्य लोग इसे मुख्यतः security/ops failure के रूप में देखते हैं।
- इस दावे के खिलाफ भी प्रतिवाद है कि alignment “आसान” है; कई लोग गहरे, अनसुलझे दार्शनिक और engineering प्रश्न देखते हैं।
जोखिम के प्रकार: अल्पकालिक बनाम अस्तित्वगत
- अल्पकालिक चिंताएँ: “मूर्ख एआई के झुंड” infrastructure को अस्थिर कर रहे हैं, आर्थिक slop, mental-health harms, climate impact, power centralization, realistic voice agents जो deception को सक्षम बनाते हैं।
- अन्य लोग कम-प्रायिकता, उच्च-प्रभाव वाले extinction scenarios पर ज़ोर देते हैं और तर्क देते हैं कि पूरी मानवता पर छोटे जोखिम भी बहुत मज़बूत safety cases की माँग करते हैं।
- कुछ लोग शिकायत करते हैं कि दीर्घकालिक “paperclip” scenarios वास्तविक वर्तमान हानियों से ध्यान भटका देते हैं।
बुद्धिमत्ता और सुपरइंटेलिजेंस की परिभाषा
- इस पर असहमति कि क्या हम “बुद्धिमत्ता क्या है” नहीं जानते। कई मनोवैज्ञानिक परिभाषाएँ और ability-lists का संदर्भ दिया जाता है।
- कुछ का तर्क है कि मौजूदा LLMs, tools और memory से लैस होने पर, पहले ही कई मानदंड पूरे करते हैं (flexible reasoning, synthesis, analogy); अन्य कहते हैं कि वे अभी भी robust adaptation और deep understanding जैसी प्रमुख क्षमताओं में विफल हैं।
- इस पर बहस कि क्या बुद्धिमत्ता एक ही scale (AGI → ASI) पर होती है या कई काफी हद तक orthogonal abilities में, जो RSI spillover को सीमित कर देंगी।
- एक पक्ष हालिया math breakthroughs और coding performance को इस बात का प्रमाण मानता है कि “superintelligence computable है और पहले से उभर रही है”; संदेहवादी जवाब देते हैं कि ये best-case, अत्यधिक verifiable domains हैं और शायद generalize न हों।
सामाजिक और नैतिक चिंताएँ
- इस बात का डर कि मशीनों पर human-level या उससे तेज़ बुद्धिमत्ता नौकरियों को बड़े पैमाने पर विस्थापित कर देगी।
- ऐसे सिस्टम डिज़ाइन करने को लेकर नैतिक असहजता जो अत्यधिक सक्षम हों और फिर भी स्थायी रूप से मानव इच्छा के अधीन हों; कुछ लोग यदि वे वास्तव में बुद्धिमान हो जाएँ तो इसे एक प्रकार की गुलामी कहते हैं।
- बना रहने वाला प्रश्न: स्वीकार्य जोखिम स्तर तय कौन करता है, क्योंकि वर्तमान में कुछ labs और investors ही पूरे विकास को सभी के लिए दिशा दे रहे हैं।