गणित पर आई हिमस्खलन अब AI विकास के पीछे आ रही है

दावे कि AI प्रणालियाँ जल्द ही अपने विकास को recursively तेज़ कर देंगी और मानव विशेषज्ञों से बहुत आगे निकल जाएँगी, यहाँ तीखी मिली-जुली प्रतिक्रियाएँ पैदा करते हैं। टिप्पणीकार शक्तिशाली research agents और automated math breakthroughs के किस्सों की तुलना buggy code assistants के रोज़मर्रा के अनुभवों से करते हैं, और इस पर बहस करते हैं कि प्रगति exponential curve पर चलेगी या plateau करेगी। तकनीकी बहस के नीचे सत्ता के केंद्रीकरण, गलत प्रोत्साहन और नियमन, तथा यह चिंता छिपी है कि क्या मौजूदा AI hype वास्तविक दुनिया की उत्पादकता या अस्तित्वगत जोखिम से सार्थक रूप से मेल खाती है।

समझी गई हाइप बनाम वास्तविकता

  • कई टिप्पणीकार इस लेख को जरूरत से ज़्यादा हाइप वाला मानते हैं, जो कमजोर उपमाओं, अनुमानित ग्राफ़ों, और “हवा से निकली” संभावनाओं पर टिका है।
  • अन्य लोग मौजूदा AI टूल्स के साथ अपने दैनिक अनुभव बताते हैं: कोड और सीमित तकनीकी कार्यों में अच्छे, लेकिन भारी prompting, harnesses, static tooling की ज़रूरत पड़ती है, और फिर भी कई गलतियाँ करते हैं।
  • AI अनुसंधान और प्रकाशन में “slop की हिमस्खलन” को लेकर चिंता है, जो अब सिर्फ कभी-कभार की निम्न-गुणवत्ता नहीं, बल्कि बड़े पैमाने पर उत्पादित हो रही है।
  • कुछ लोगों का तर्क है कि LLM मूलतः कोड लिखने और सत्यापन योग्य, औपचारिक क्षेत्रों (जैसे Lean proofs) को संभालने में सबसे अच्छे हैं, न कि व्यापक “समझ” में।

क्षमताएँ, RSI, और बेंचमार्क

  • समर्थक अंदरूनी लैब किस्सों का हवाला देते हैं: ऐसे agents जो दिनों में लंबे समय से चले आ रहे models को फिर से लिख देते हैं, experiments का auto-diagnose करते हैं, और कम मानव दिशा-निर्देशन में बड़े ablation sweeps चलाते हैं।
  • अन्य लोग ज़ोर देते हैं कि सचमुच परिवर्तनकारी recursive self-improvement के लिए non-verifiable tasks में प्रगति चाहिए, जिन्हें मानव निर्णय के बिना benchmark करना कठिन है।
  • एक प्रतिवाद यह है कि AI R&D में पहले से ही कई verifiable sub-tasks हैं (performance tuning, orchestration, code generation) जो एक self-reinforcing loop चला सकते हैं, भले ही “messy” tasks पीछे रहें।

आर्थिक और शक्ति की गतिशीलताएँ

  • कुछ लोग डरते हैं कि AI white- और manual-labor दोनों नौकरियाँ खत्म कर देगा, जिससे एक छोटा अभिजात्य वर्ग संपत्ति और AI क्षमता जमा कर लेगा और दूसरों को शांत रखने के लिए UBI + VR का सहारा लेगा। दूसरे लोग UBI को राजनीतिक रूप से असंभव मानते हैं और इसे “पुराने तरीकों” की निरंतरता के रूप में देखते हैं।
  • तर्क की एक रेखा: यदि superintelligence सचमुच पैसे को अप्रासंगिक बना देती, तो तर्कसंगत लोग नकद नहीं बल्कि कच्चे माल, जमीन, ऊर्जा जमा करते—इसलिए अभी का पैसे के पीछे भागना बताता है कि अंदरूनी लोग वास्तव में निकट-भविष्य के ASI पर विश्वास नहीं करते।
  • अन्य लोग जवाब देते हैं कि प्रतिस्पर्धी दबाव labs को “race जीतने” के लिए, दीर्घकालिक संसाधन-तर्क की परवाह किए बिना, सब कुछ compute में झोंकने पर मजबूर करता है।

शासन और जोखिम की बहसें

  • प्रस्तावित भविष्य AI को रोकने से लेकर, उसे सावधानी से धीमा करने, तेज़ प्रगति की अनुमति देने और alignment के काम करने की आशा करने, या आगे के विकास को रोकने के लिए अत्यधिक वैश्विक निगरानी तक फैले हैं।
  • सख्त नियंत्रण की व्यवहार्यता पर सवाल उठते हैं, क्योंकि ML अपेक्षाकृत मामूली hardware पर भी चल सकता है।
  • कुछ लोग ASI-चालित takeover परिदृश्यों (cyberattacks, military disruption, nanotech) को संभव मानते हैं; अन्य इन्हें व्यावहारिक रूप से extinction scenarios मानते हैं जिन्हें लाभ चाहने वाला कोई भी तर्कसंगत actor जोखिम में नहीं डालेगा।

शब्दावली, ध्रुवीकरण, और मनोविज्ञान

  • “superintelligence” बनाम “AGI” को लेकर विवाद है, खासकर AI को फिर से ब्रांड करने की राजनीतिक कोशिशों के बाद; कुछ लोग मानते हैं कि अब इस शब्द का उपयोग बुरा लगता है, जबकि अन्य ज़ोर देते हैं कि यह राजनीति से बहुत पहले से मौजूद था।
  • टिप्पणीकार दो (या तीन) मनोवैज्ञानिक शिविरों का वर्णन करते हैं: तेज़-प्रगति में विश्वास रखने वाले, संशयवादी जो लगातार मानक बदलते रहते हैं, और वे जो किसी भी व्यक्ति की आलोचना करते हैं जो “2030” जैसी ठोस तिथियाँ जोड़ता है जबकि अनिश्चितता का दावा करता है।