AGI के बाद क्या आता है?

DeepMind के “What Comes After AGI?” लेख पर बहस जल्दी ही इस सवाल पर केंद्रित हो जाती है कि क्या artificial general intelligence वास्तव में करीब है, या वर्तमान large language models सिर्फ शक्तिशाली लेकिन संकीर्ण pattern-matchers हैं जिन्हें Big Tech marketing द्वारा ज़्यादा बेचा जा रहा है। टिप्पणीकार AGI और ASI की परिभाषाओं पर बहस करते हैं; कुछ का कहना है कि कई डेस्क कार्यों में हमारे पास पहले ही मानव-स्तर की क्षमता है, जबकि अन्य जोर देते हैं कि वास्तविक generality, निरंतर सीखना, embodiment, और वास्तविक दुनिया में निर्णय-क्षमता अभी भी गायब हैं। कई लोगों की चिंता speculative superintelligence से कम और निकट-अवधि के प्रभावों—बड़े पैमाने पर white‑collar बेरोज़गारी, राजनीतिक backlash, और शक्ति के संकेंद्रण—से अधिक है, और वे नोट करते हैं कि safety और alignment मुद्दों पर scaling curves और investment projections की तुलना में बहुत कम ठोस चर्चा होती है।

“AGI करीब है” वाली धारणा पर संदेह

  • कई लोगों ने लेख की इस धारणा को खारिज किया कि “AGI पहुंच के भीतर आ रही है,” और इसे मार्केटिंग या “प्रचार” कहा।
  • यह भी कहा गया: अगर लैब्स के पास सचमुच AGI होती, तो वे उसे स्वायत्त रूप से पैसे कमाने या अपनी कंपनियाँ चलाने में लगाते, न कि मुख्यतः API एक्सेस बेचने में।
  • कुछ लोगों का मानना है कि DeepMind/Big Tech हालिया प्रगति (निवेश वक्र, स्केलिंग लॉज़) को जरूरत से ज़्यादा आगे तक बढ़ाकर देख रहे हैं, कुछ-कुछ 1999 के डॉट‑कॉम उछाल जैसी तरह।

परिभाषाएँ: AGI, ASI, और “बुद्धिमत्ता”

  • AGI का क्या मतलब है, इस पर भारी असहमति है; कई लोग कहते हैं कि यह शब्द हमेशा से अस्पष्ट रहा है और लक्ष्य-रेखाएँ लगातार खिसकती रहती हैं।
  • प्रतिस्पर्धी परिभाषाएँ:
    • व्यवहारिक: “ज़्यादातर (डेस्क) कामों में ज़्यादातर इंसानों जितनी अच्छी।”
    • अधिक कड़ी: मानव-स्तर पर किसी भी संज्ञानात्मक कार्य को कर सके, निरंतर सीखने, स्वयं-संशोधित “वेट्स,” जिज्ञासा, और स्वायत्त लक्ष्य-निर्धारण के साथ।
    • अन्य लोग embodiment, लंबे क्षितिज वाले वास्तविक दुनिया के कार्य, या दैनिक जीवन में किसी इंसान की पूरी तरह जगह लेने की क्षमता पर ज़ोर देते हैं।
  • कुछ लोग तर्क देते हैं कि AGI और ASI की सीमाएँ धुंधली हैं: एक बार मानव-स्तर बड़े पैमाने पर पहुँच गया, तो सुपरइंटेलिजेंस लगभग अपरिहार्य है; अन्य मानते हैं कि मानव-स्तर व्यावहारिक ऊपरी सीमा हो सकता है।
  • दार्शनिक उप-चर्चाएँ इस पर बहस करती हैं कि क्या बुद्धिमत्ता सिर्फ पैटर्न सैंपलिंग है, क्या चेतना भौतिक है, और क्या शुद्ध गणना से अर्थ-निर्माण उभर सकता है।

वर्तमान AI क्षमताएँ और सीमाएँ

  • उत्साही लोग: आज के मॉडल पहले ही कई इंसानों से coding, कुछ math/physics, और व्यापक ज्ञान कार्यों में बेहतर प्रदर्शन करते हैं; वे Star Trek कंप्यूटर या एक शक्तिशाली “universal approximator” जैसे लगते हैं।
  • आलोचक:
    • LLMs stateless होते हैं, चलते-चलते सचमुच सीख नहीं सकते, और “सोचने” वाले एजेंट्स की बजाय विशाल lookup/compression systems जैसे काम करते हैं।
    • वे सहज multi-constraint निर्णयों, लंबे क्षितिज की योजना, और मज़बूत वास्तविक-विश्व स्वायत्तता में संघर्ष करते हैं।
    • multimodal generation (images/video/3D) प्रभावशाली है, लेकिन अक्सर अभी भी अजीब या नाज़ुक लगती है।

आर्थिक और सामाजिक प्रभाव

  • आशंका है कि AGI/agents शेयरधारकों या प्रबंधकों को बहुत कम कर्मचारियों के साथ कंपनियाँ चलाने देंगे, खासकर white-collar काम में।
  • अपेक्षित नतीजे: बड़े पैमाने पर बेरोज़गारी, नागरिक अशांति, समाजवाद/पुनर्वितरण के लिए अधिक समर्थन, AI फर्मों का संभावित अधिग्रहण, या एक नया techno-feudal/serfdom परिदृश्य।
  • अन्य लोग “abundance” और श्रम से मुक्ति की उम्मीद करते हैं, लेकिन यह भी नोट करते हैं कि alignment और safety पर कम चर्चा होती है।

AGI के बाद क्या आ सकता है

  • आम धारणा: अधिक compute, बेहतर algorithms, और समन्वित agents के झुंडों या “AI organizations” के ज़रिए ASI।
  • कुछ लोग AI-चालित research, self-replicating hardware (संभवतः off-planet), और AI-डिज़ाइन्ड corporate structures के बारे में अटकलें लगाते हैं, जिनमें AI auditors और QC agents हों।
  • एक अधिक अँधेरा वर्ग मानव के हाशिये पर चले जाने या यहाँ तक कि विलुप्ति की अपेक्षा करता है; कुछ लोग संभावित प्रतिक्रिया के रूप में “Butlerian jihad” जैसी backlashes का सुझाव देते हैं।