LLMs ने हमें जिन तीन बातों पर फिर से सोचने को मजबूर किया है

ट्यूरिंग टेस्ट, AGI, और स्केलिंग

• कई टिप्पणियों में तर्क दिया गया कि क्लासिक ट्यूरिंग टेस्ट “सामान्य बुद्धिमत्ता” के लिए आवश्यक तो है, लेकिन पर्याप्त नहीं; मौजूदा LLMs अभी भी मिनटों के भीतर लगातार जाँच-पड़ताल में विफल हो जाते हैं।
• अन्य लोगों ने नोट किया कि आधुनिक प्रणालियाँ जानबूझकर मनुष्यों की पूरी तरह नकल करने से सीमित रखी जाती हैं, इसलिए टेस्ट के नतीजों की व्याख्या करना कठिन है।
• कुछ लोग इस बात से प्रभावित हैं कि मानव-जैसी संवाद-क्षमता के लिए आवश्यक मेमोरी और समय-सीमा के बारे में शुरुआती अनुमान केवल कुछ ऑर्डर्स ऑफ़ मैग्निट्यूड से ही गलत निकले हैं।
• “सीढ़ी से चाँद तक” वाले रूपकों पर चर्चा: पहले यह दावा कि सांख्यिकीय तरीके कभी सामान्य बुद्धिमत्ता तक नहीं पहुँच सकते, अब कम विश्वसनीय लगता है; कुछ लोगों का मानना है कि सरल, स्केल किए गए तरीके आश्चर्यजनक रूप से दूर तक जा सकते हैं।

चाइनीज़ रूम, अनुवाद, और “समझ”

• एक पक्ष चाइनीज़ रूम विचार प्रयोग को भटका हुआ मानता है: यदि कोई प्रणाली इतना अच्छा अनुवाद करती है कि मूल वक्ताओं को धोखा दे दे, तो वह कार्यात्मक रूप से समझ के बराबर है।
• दूसरों का कहना है कि LLMs ने उनका दृष्टिकोण बदल दिया: वे मानव-जैसी सेमांटिक्स के बिना भी शक्तिशाली अनुवाद दिखाते हैं।
• एक बार-बार आने वाला तर्क: “कमरा” (सिस्टम) समझ सकता है, भले ही उसके अंदर का कोई घटक न समझे, ठीक वैसे ही जैसे न्यूरॉन्स बनाम दिमाग।
• कुछ लोग इन बहसों को व्यावहारिक प्रभावों से ध्यान भटकाने वाला मानते हैं; आर्थिक उपयोगिता समझ की किसी तयशुदा थ्योरी पर निर्भर नहीं करती।

सार्वभौमिक व्याकरण और मानव भाषा-सीखना

• इस पर बहस कि क्या सफल सांख्यिकीय LLMs इस दावे को कमजोर करते हैं कि भाषा-सीखने के लिए अंतर्निर्मित सार्वभौमिक व्याकरण आवश्यक है।
• आलोचक तर्क देते हैं: यदि कोई मशीन ऐसे मॉड्यूल के बिना प्राकृतिक भाषा सीख सकती है, तो यह मजबूत सार्वभौमिकता के दावों को कमजोर करता है या कम-से-कम उन्हें कम विशिष्ट बनाता है।
• समर्थकों की प्रतिक्रिया: मौजूदा मॉडल हमें इस बारे में बहुत कम बताते हैं कि बच्चे सीमित डेटा से कैसे सीखते हैं; वे ऐसी “भाषाएँ” सीख सकते हैं जिन्हें मनुष्य नहीं सीख सकते, इसलिए वे मानव जीवविज्ञान के बारे में कमजोर साक्ष्य हैं।
• इस पर असहमति है कि क्या कम्प्यूटेशनल काम भाषाई सिद्धांतों को अर्थपूर्ण रूप से खंडित करता है या उनके लिए काफी हद तक अप्रासंगिक है।

सोच, समझ, और त्रुटि की प्रकृति

• कुछ पोस्टर कहते हैं कि LLMs की धाराप्रवाह तर्क-क्षमता “सोचना” क्या है, इस पर पुनर्विचार को मजबूर करती है, खासकर जब प्रणालियाँ बहस या कोड में कई मनुष्यों से बेहतर प्रदर्शन करती हैं।
• अन्य लोग ज़ोर देते हैं कि बार-बार होने वाले तार्किक विरोधाभास और विचित्र विफलताएँ वास्तविक समझ की अनुपस्थिति दिखाती हैं; वे LLMs को शामिल करने के लिए “समझ” की परिभाषा बदलने को लक्ष्य-स्थल खिसकाना मानते हैं।
• जवाबी तर्क बताते हैं कि मनुष्य भी खुद से विरोधाभास रखते हैं और गलत विश्वास पालते हैं; केवल विफलताओं पर ध्यान देने से आकलन पक्षपाती होता है।
• इस पर कोई सहमति नहीं है कि “समझ” मनुष्यों-जैसी होनी चाहिए या उसे बेहतर रूप से व्यवहारिक/कार्यात्मक गुण के रूप में देखा जाना चाहिए।

क्षमताएँ, सीमाएँ, और एजेंसी

• टिप्पणीकर्ता उन क्षेत्रों की सूची देते हैं जहाँ LLMs औसत मनुष्यों से पीछे हैं: लंबे, संदर्भ-समृद्ध कार्य; मज़बूत एजेंसी और योजना; अपनी सीमाओं की स्थिर आत्म-निगरानी; घिसे-पिटे clichés के बिना रचनात्मक लेखन; और विश्वसनीय तार्किक उलटाव।
• अन्य लोग जवाब देते हैं कि बहुत से सामान्य मनुष्य भी tropes पर निर्भर करते हैं और तर्क की गलतियाँ करते हैं; वे मौजूदा कमियों को सिद्धांतगत सीमाएँ नहीं, बल्कि इंजीनियरिंग की खामियाँ मानते हैं।
• कुछ लोग LLMs को शक्तिशाली लेकिन संकीर्ण sequence-modelers मानते हैं जो संयोगवश कई संज्ञानात्मक कौशल हासिल कर लेते हैं; अधिक एजेंट-जैसा व्यवहार पाने के लिए बेहतर pretraining objectives और control architectures की आवश्यकता होगी।
• यह चिंता भी है कि मॉडल पहले से ही “low-grade cognitive labor” को विस्थापित कर सकते हैं, चाहे वे हमें मानव संज्ञान के बारे में कुछ भी सिखाएँ या नहीं।

विज्ञान, भाषाविज्ञान, और समाज पर प्रभाव

• एक धड़ा मानता है कि सांख्यिकीय मॉडल, जैसे पनडुब्बियाँ बनाम मछलियाँ, रूपांतरकारी तकनीकें हो सकते हैं लेकिन मानव अंतर्निहित तंत्रों के बारे में बहुत कम उजागर करते हैं।
• दूसरा धड़ा तर्क देता है कि ऐसे सिस्टम बनाना ही भाषा और संज्ञान की थ्योरीज़ को बाध्य करता है, यह दिखाकर कि कुछ माने हुए पूर्वापेक्षाएँ सख्ती से आवश्यक नहीं हैं।
• कुछ लोग चिंता जताते हैं कि LLMs में प्रगति पारंपरिक भाषाविज्ञान/संज्ञान-विज्ञान में रुचि घटा देती है, क्योंकि व्यावहारिक AI प्रगति गहरे सैद्धांतिक समझ के बिना भी आगे बढ़ सकती है।
• अन्य लोग स्केलेबिलिटी पर ज़ोर देते हैं: भले ही कोई प्रणाली पूरी तरह मानव-जैसी न हो, यदि उसे सस्ते में प्रतिलिपि बनाया जा सके, तो वह विशिष्ट समस्या-डोमेनों में प्रभुत्व जमा सकती है और सामाजिक रूप से रूपांतरकारी हो सकती है।