नई थ्योरी सुझाती है कि LLMs पाठ को समझ सकते हैं
एक नया सैद्धांतिक ढांचा, जो दावा करता है कि बड़े भाषा मॉडल पाठ को “समझ” सकते हैं, ने AI में समझ और बुद्धिमत्ता का वास्तविक अर्थ क्या है, इस पर लंबे समय से चल रही बहसों को फिर से भड़का दिया है। टिप्पणीकार इस बात के प्रमाणों पर विचार करते हैं कि मॉडल अप्रत्यक्ष world models बनाते हैं और प्रशिक्षण डेटा से याद किए जाने की संभावना कम होने वाले तरीकों में abstract “skills” को लचीले ढंग से जोड़ सकते हैं, जबकि आलोचक कहते हैं कि वे अब भी केवल शक्तिशाली pattern matchers हैं जो human-written सामग्री को बिना grounding या self-awareness के पुनर्संयोजित करते हैं। यह चर्चा emergence, human exceptionalism, और क्या केवल functional behavior ही वर्तमान और भविष्य की AI प्रणालियों को reasoning या comprehension जैसी अवधारणाएँ देने के लिए पर्याप्त है, जैसे गहरे तनावों को उजागर करती है.
लिंक और संदर्भ
- टिप्पणी करने वाले मुख्य शोध-पत्रों और उन कुछ महत्वपूर्ण पत्रों के गायब लिंक उपलब्ध कराते हैं जो तर्क देते हैं कि LLMs समझते नहीं हैं।
- Quanta लेख को एक सुलभ सारांश माना गया है; चर्चा इस पर केंद्रित है कि सिद्धांत वास्तव में क्या दिखाता है।
“समझ” का मतलब क्या है?
- कई लोगों का तर्क है कि इसका कोई कठोर, सर्वसम्मत परिभाषा नहीं है; “LLMs समझते हैं” जैसा कोई भी दावा चुने गए operationalization पर निर्भर करता है।
- कुछ लोग कहते हैं कि “मानव-स्तर का प्रदर्शन” एक व्यावहारिक proxy है, लेकिन दूसरे जवाब देते हैं कि मनुष्यों में भी बहुत भिन्नता होती है और हमारी अपनी cognition को मापना कठिन है।
- कुछ लोग सुझाव देते हैं कि समझ binary नहीं, बल्कि graded होती है, और यह inner essence की बजाय task performance से जुड़ी होती है।
World models, compression, and emergence
- एक पक्ष का तर्क है कि information-theoretic और compression principles के तहत, next-token predictors को अप्रत्यक्ष रूप से एक world model encode करना ही पड़ता है।
- दूसरे लोग मानते हैं कि कुछ world model मौजूद है, लेकिन उसकी गुणवत्ता अज्ञात होने और उसके काफी हद तक text-based grounding पर जोर देते हैं।
- Emergence का हवाला दिया जाता है: जैसे neurons से minds उभरती हैं, वैसे ही सरल next-word prediction से जटिल व्यवहार उभर सकता है।
व्यवहार से सबूत और पेपर का skill model
- “skill graph” / “skill-mix” framework का सार दिया गया है: पाठों के लिए abstract skills के संयोजन चाहिए; बड़े models ऐसे अधिक nodes पर सफल होते हैं।
- GPT-4 की कई reasoning शैलियों (जैसे metaphor, physics, bias) को नए विषयों पर मिलाने की क्षमता को इस बात के सबूत के रूप में उद्धृत किया गया है कि यह केवल “stochastic parrot” से अधिक है।
- कुछ लोग इसे compositional, generalizable capability दिखाने का एक कठोर तरीका मानते हैं; दूसरे कहते हैं कि इससे भी understanding का प्रश्न सुलझता नहीं है।
संदेहवादी दृष्टिकोण: parroting, data, और grounding
- आलोचना की एक मजबूत धारा: intelligence curated training corpus में निहित है; LLMs उसे awareness, goals, या “क्यों” के बिना compress और replay करते हैं।
- चिंताओं में शामिल हैं: explicit self-knowledge की कमी (“आप क्या जानते हैं?”), कोई true stateful feedback loop नहीं, चुप रहने का विकल्प नहीं, समय का बोध नहीं, और physical grounding का अभाव।
- coloring book, Thai-library text worker, compass, या watch जैसी उपमाएँ दी जाती हैं: समझ के बिना भी जटिल व्यवहार।
मानव cognition के साथ तुलना
- कुछ लोग ध्यान दिलाते हैं कि मनुष्य भी आंशिक रूप से statistical next-word predictors की तरह काम करते हैं, और अक्सर पूर्ण reflective understanding के बिना बोलते हैं।
- दूसरे लोग अंतर पर जोर देते हैं: embodied experience, rich multimodal input, और संभव भविष्य की architectures (multimodal, continual, embodied) जो इस अंतर को कम कर सकती हैं।
मेटा-स्तर और सामाजिक प्रभाव
- कई लोग वर्तमान तर्कों को दोनों पक्षों से “faith-based” कहते हैं; वे अधिक empirical tests और theories चाहते हैं।
- अन्य लोग इस बहस को अकादमिक मानते हैं: लोग AI companions के साथ ऐसे ही संबंध बनाएंगे मानो वे समझते हों, चाहे दार्शनिक निष्कर्ष कुछ भी हो।
- राय “AI hysteria” और “superhuman, general capabilities की स्पष्ट दिशा” के बीच तीव्र रूप से बंटी हुई है।