AI को पौराणिक रूप देना इस बात की संभावना बढ़ाता है कि हम इसे ठीक से संचालित करने में विफल रहेंगे (2023)
इस चर्चा में इस बात पर बहस हावी है कि “artificial intelligence” के रूप में क्या गिना जाए, जहाँ कई टिप्पणीकार आज के large language models—शक्तिशाली लेकिन त्रुटिपूर्ण statistical systems—की तुलना लंबे समय से कल्पित human-like या “AGI” intelligence के लक्ष्य से करते हैं। टिप्पणीकार इस पर बहस करते हैं कि क्या मौजूदा मॉडल वास्तव में reason करते हैं या केवल उसका अनुकरण करते हैं, “intelligence” और “AI” की बदलती परिभाषाएँ सार्वजनिक अपेक्षाओं को कैसे विकृत करती हैं, और तकनीक को बहुत बढ़ा-चढ़ाकर पेश करना या उसे पौराणिक रूप देना कैसे गलत प्रबंधन, अनुचित भय, और खराब नीति की ओर ले जा सकता है। इसके साथ ही, अधिक स्पष्ट terminology, AI outputs के लिए digital provenance, और आर्थिक प्रभावों तथा भविष्य के existential risks दोनों के बारे में सावधानी की संस्कृति की माँग भी की जाती है.
लेख का दायरा और समयसंगतता
- कई लोग नोट करते हैं कि लेख लगभग 3 साल पुराना है; कुछ का मानना है कि यह अब भी प्रासंगिक है क्योंकि आधुनिक LLMs उसी मूल दृष्टिकोण के बड़े पैमाने पर विस्तारित रूप हैं।
- अन्य लोग इसे अभी पोस्ट करना उकसावे जैसा मानते हैं, क्योंकि मॉडल बहुत तेज़ी से आगे बढ़ चुके हैं और जब LLMs की आलोचना की जाती है तो कुछ उपयोगकर्ता बहुत रक्षात्मक हो जाते हैं।
“AI” और “Intelligence” क्या माने जाएँ
- LLMs को “AI” कहने पर तीखा मतभेद है:
- एक पक्ष कहता है कि वे उन्नत text generators हैं, स्वायत्त बुद्धिमत्ताएँ नहीं; “AI” शब्द मानव-सदृश या “AGI”-स्तरीय प्रणालियों के लिए आरक्षित होना चाहिए।
- दूसरे पक्ष का तर्क है कि यह क्षेत्र दशकों से game AIs से लेकर NPCs तक हर चीज़ के लिए “AI” शब्द का उपयोग करता आया है, और LLMs व्यवहार में स्पष्ट रूप से “artificial” + “intelligent behavior” को पूरा करते हैं।
- कई लोग बताते हैं कि “intelligence” की कोई स्पष्ट, मापने योग्य परिभाषा नहीं है; लोग एक-दूसरे की बात के पार बोलते हैं और जब कंप्यूटर किसी कार्य में महारत हासिल कर लेता है तो अक्सर मानक बदल देते हैं।
- कुछ लोग “intelligence” को एक वैज्ञानिक शब्द के रूप में छोड़कर, इसके बजाय विशिष्ट क्षमताओं या skills की बात करने का सुझाव देते हैं।
LLMs की क्षमताएँ और विफलताएँ
- समर्थक इस बात पर ज़ोर देते हैं कि वे मूल math problems हल कर सकते हैं, code लिख सकते हैं, और परीक्षाएँ पास कर सकते हैं; इसकी calculators से सार्थक तुलना नहीं की जा सकती।
- संशयवादी failure modes को उजागर करते हैं: hallucinations, बेतुके plans (जैसे walking बनाम driving), prompt injection, tool-state confusions, language-drift, और brittle reasoning।
- इस पर बहस है कि क्या ये विफलताएँ मूलतः मानव त्रुटियों से अलग हैं या केवल fallible reasoning का एक और रूप हैं।
- कुछ लोग मौजूदा multi-call/agent setups की तुलना probabilistic algorithms से करते हैं: तब तक कई बार चलाओ जब तक पर्याप्त अच्छा उत्तर न मिल जाए।
Turing Test, AGI, और Anthropomorphism
- इस पर मतभेद है कि क्या आधुनिक मॉडल मज़बूत Turing tests “पास” करते हैं, खासकर motivated human judges के सामने।
- कुछ लोग LLMs को एक “alien” intelligence मानते हैं; दूसरे कहते हैं कि इसे “reasoning” कहना बस pattern-matching का नया नामकरण है।
- चिंता यह है कि systems का mythologizing और anthropomorphizing (marketing terms जैसे “reasoning,” “agents”) जनता और नीति-निर्माताओं को गुमराह करता है।
जोखिम, स्वायत्तता, और उपयोगिता
- एक पक्ष: मौजूदा systems शक्तिशाली tools हैं लेकिन autonomous takeover से अभी बहुत दूर हैं; “existential risk” की बातें समय से पहले या लगभग धार्मिक लगती हैं।
- दूसरा पक्ष: सतर्क रहना अभी भी बहुत जल्दी नहीं है; बढ़ती स्वायत्तता और infrastructure access खतरनाक हो सकते हैं, खासकर जैसे-जैसे local, fast models बेहतर होते जाते हैं।
Provenance, Privacy, और Governance
- AI outputs के लिए “digital provenance” में गहरी रुचि है—एक ऐसा “View Source” समकक्ष जो बताए कि कौन-से training data patterns ने व्यवहार को आकार दिया, ताकि accountability और debugging को सहारा मिल सके।
- कुछ लोग privacy को इस रूप में परिभाषित करना पसंद करते हैं कि कौन-सा data निकाला जा सकता है, उस पर नियंत्रण हो; न कि “not be left alone” या “not be manipulated” जैसी धुंधली धारणाओं के रूप में।
- कई लोग तर्क देते हैं कि naming और conceptual framing बहुत मायने रखते हैं: तकनीकों का गलत नामकरण खराब अपेक्षाओं, hype, और नीति-सम्बन्धी गलतियों की ओर ले जा सकता है।