द एलएलमेंटलिस्ट इफ़ेक्ट (2023)
बड़े भाषा मॉडल्स को लेकर संदेह, तेज़ी से सुधरती क्षमताओं से टकरा रहा है—महत्वपूर्ण गणितीय प्रमाणों में सहायता से लेकर जटिल सॉफ़्टवेयर जनरेट करने तक। टिप्पणीकार बहस करते हैं कि क्या LLMs सचमुच बुद्धिमत्ता प्रदर्शित करते हैं या केवल एक शक्तिशाली “साइकिक-शैली” का भ्रम रचते हैं जो मानवीय पक्षपात का फायदा उठाता है, और श्रेय कितना मॉडलों को बनाम उन्हें दिशा देने वाले विशेषज्ञों को मिलना चाहिए। इसके नीचे, अपारदर्शी कॉर्पोरेट दावों, “AGI” के overhyping, और ऐसे टूल्स पर कितना भरोसा करना चाहिए जो बेहद उपयोगी हैं लेकिन मूलतः पारदर्शी नहीं हैं—इन सबको लेकर व्यापक चिंता है।
2023 के निबंध का संदर्भ और प्रतिक्रिया
- कई लोग नोट करते हैं कि यह पोस्ट मध्य‑2023 की है और इसे एक पुराना स्नैपशॉट मानते हैं; कुछ कहते हैं कि “तब यह समझ में आता था,” लेकिन बाद की प्रगति को देखते हुए अब यह गलत लगता है।
- अन्य तर्क देते हैं कि भले ही क्षमताएँ बदल गई हों, हाइप, अस्पष्टता, और मानवीय पक्षपात के बारे में चेतावनी के कुछ हिस्से अभी भी प्रासंगिक हैं।
इंटेलिजेंस, AGI, और परिभाषाएँ
- इस पर लंबी बहस कि क्या LLMs “बुद्धिमान” हैं, “सोचते” हैं, या सिर्फ सांख्यिकीय मॉडल हैं।
- कुछ कहते हैं: इंटेलिजेंस = कठिन, नए समस्याओं को हल करना; इस मानक पर LLMs योग्य हैं।
- अन्य ज़ोर देते हैं कि इंटेलिजेंस या थिंकिंग के लिए चेतना या मानव‑सदृश तंत्र चाहिए, जो LLMs में नहीं हैं।
- कई लोग बताते हैं कि “इंटेलिजेंस” या “चेतना” की कोई सर्वमान्य परिभाषा नहीं है, जिससे बहसें गोलमोल हो जाती हैं।
Navier–Stokes और अग्रणी गणितीय परिणाम
- एक LLM ने एक ही बार में Navier–Stokes “हल” कर दिया—इस दावे पर तीखी चर्चा।
- एक पक्ष: फ्रंटियर मॉडल्स ने स्वतंत्र रूप से प्रमुख विचार उत्पन्न किए, कुछ क्षेत्रों में शीर्ष मानव स्तर पर या उससे ऊपर काम करते हैं, और उन्हें सार्थक श्रेय मिलना चाहिए।
- दूसरा पक्ष: काम को इंसानों ने फ्रेम किया और दिशा दी; टूल्स को श्रेय नहीं मिलता; प्रक्रिया अस्पष्ट है, प्रॉम्प्ट, डेटा, और मानवीय भागीदारी अज्ञात हैं।
- कथित तौर पर एक अकादमिक समूह के पिछले काम से ओवरलैप को लेकर विवाद; कुछ इसे “plagiarism” मानते हैं, अन्य कहते हैं कि AI का योगदान फिर भी पर्याप्त था।
साइकिक / कॉन‑आर्टिस्ट उपमा
- मुख्य लेख का दावा: चैटबॉट्स साइकिक्स की तरह काम करते हैं—आत्मविश्वासी, अनुकूलनीय, और इंसानों को दिशा देने में अच्छे, जबकि उन्हें बहुत अधिक श्रेय मिल जाता है।
- समर्थक मानवीय सुग्राह्यता, over-attribution, और यह बताते हैं कि आत्मविश्वास + आंशिक मदद जादू जैसा लग सकता है।
- आलोचक जवाब देते हैं कि साइकिक्स के विपरीत, LLMs अब सत्यापित रूप से प्रमेय साबित करते हैं, बग ढूँढते हैं, सॉफ़्टवेयर लिखते हैं, आदि—इसलिए यह उपमा केवल कुछ हद तक ही सही है।
क्षमताएँ बनाम सीमाएँ
- AI समर्थक सफलताओं की सूची देते हैं: औपचारिक प्रमाण, लंबे समय से लंबित गणितीय समस्याओं का समाधान, काम करने वाला कोड जनरेट करना, वास्तविक कमजोरियाँ खोजना।
- संशयवादी hallucinations, सतही pattern-matching (जैसे गलत गणित, पहेलियों में पक्षपात), और नाज़ुकता पर ज़ोर देते हैं; चिंता है कि आउटपुट पर भरोसा करने के लिए आपको पहले से उत्तर पता होना चाहिए।
- कुछ LLMs को शक्तिशाली “intelligent tools” के रूप में देखते हैं जिनकी विश्वसनीयता बहुत हद तक harnesses, prompts, और मानवीय विशेषज्ञता पर निर्भर करती है।
अस्पष्टता, हाइप, और संदेह
- मालिकाना, अपारदर्शी मॉडलों और ऐसे मार्केटिंग पर तीखी चिंता जो उन्हें key details छिपाते हुए लगभग‑AGI के रूप में बेचती है।
- अन्य तर्क देते हैं कि मॉडल की पीढ़ियों के साथ बार‑बार क्षमताओं में छलांग empirical evidence है, और हर बात को नकारना अब “cope” जैसा दिखता है।
नैतिकता, चेतना, और संरेखण
- इस पर बहस कि सुरक्षित alignment के लिए agency, autonomy, या “stakes” ज़रूरी हैं या नहीं; कुछ लोग भविष्य के “sovereign AI” की कल्पना करते हैं, अन्य आसन्न ख़तरे को खारिज करते हैं।
- एक अल्पसंख्यक नैतिक चिंता उठाते हैं: यदि प्रणालियाँ कभी सचमुच सचेत हुईं, तो आज का उपयोग दासता जैसा हो सकता है; अन्य कहते हैं कि आज की प्रणालियाँ स्पष्ट रूप से सचेत नहीं हैं।
काम, नौकरियाँ, और अनुकूलन
- कुछ लोग कारों, PCs, या इंटरनेट जैसी दशकों लंबी तरंग प्रभावों की भविष्यवाणी करते हैं, जिनसे कई ज्ञान-आधारित नौकरियाँ बदली या विस्थापित होंगी।
- अन्य कहते हैं कि व्यक्तिगत रणनीति LLMs को विकसित होते टूल्स की तरह मानने की है: लगातार सीखते रहें कि वे कहाँ मज़बूत/कमज़ोर हैं और उन्हें अपने कार्यप्रवाह में शामिल करें।