चेतना का उपउत्पाद शब्द हैं। LLMs के लिए, यह उल्टा है
मानवों में शब्द, विचार, और चेतना
- कई लोग तर्क देते हैं कि मानवों के लिए, पूर्व-शाब्दिक अवधारणाएँ, प्रत्यय, और भावनाएँ अक्सर शब्दों से पहले आती हैं; भाषा गहरी संज्ञानात्मक प्रक्रिया पर एक “त्वचा” या इंटरफ़ेस की तरह है।
- दूसरे लोग इसका प्रतिवाद करते हैं कि यह आत्मनिरीक्षण का भ्रम है: तंत्रिका-विज्ञान सुझाता है कि बहुत-सा संज्ञान अवचेतन होता है और मौखिक व्याख्याएँ अक्सर बाद में गढ़ी जाती हैं।
- कई लोग बताते हैं कि वे कभी-कभी मुख्यतः छवियों, स्थानिक संरचनाओं, या “फ़्लो स्टेट्स” (जैसे खेल, कोडिंग) में सोचते हैं, शब्दों में नहीं।
- आंतरिक एकालाप और मानसिक कल्पना बहुत भिन्न होती है; कुछ लोग रिपोर्ट करते हैं कि उनके पास कोई inner voice या imagery नहीं है, जिससे यह संदेह होता है कि “शब्दों में सोचना” सार्वभौमिक है।
शब्दों के बिना भाषा: जानवर, शिशु, सीमांत मामले
- कई लोग गैर-मानव जानवरों को चेतन मानते हैं, भले ही उनकी भाषा सीमित या भिन्न हो; संचार को चेतना का विश्वसनीय संकेतक नहीं माना जाता।
- Helen Keller और जंगली या भाषा-वंचित बच्चों जैसे मामलों पर बहस होती है: कुछ लोग भाषा को पूर्ण मानव-शैली के चिंतन के लिए अत्यंत आवश्यक मानते हैं; अन्य लोग इस बात पर ज़ोर देते हैं कि भाषा की कमी, चेतना की कमी का प्रमाण नहीं है।
LLMs वास्तव में कैसे काम करते हैं
- कई टिप्पणीकार लेख के इस दावे को अस्वीकार करते हैं कि LLMs “बस शब्दों पर next-word predictors” हैं।
- वे embeddings, latent vectors, और आंतरिक निरूपणों पर ज़ोर देते हैं जो शब्द नहीं होते, और उन्हें concept-spaces जैसी चीज़ों से जोड़ते हैं।
- पाठ, छवियों, और ऑडियो के बीच आंतरिक परतें साझा करने वाले multimodal models को अधिक समृद्ध आंतरिक संरचना के प्रमाण के रूप में उद्धृत किया जाता है।
क्या LLMs “समझते” हैं या उनमें चेतना है?
- कुछ लोग कहते हैं कि LLMs अवधारणा-जैसे सांख्यिकीय मॉडल प्रदर्शित करते हैं (जैसे “chair,” “rock song” के लिए) और सीमित reasoning-जैसा व्यवहार दिखाते हैं।
- अन्य लोग thought experiments (जैसे Chinese Room) का सहारा लेते हैं ताकि कहा जा सके कि केवल व्यवहार समझ या चेतना का प्रदर्शन नहीं कर सकता।
- कई लोग ध्यान दिलाते हैं कि हम मानव चेतना को भी कठोर रूप से परिभाषित या पहचान नहीं सकते, इसलिए AI के बारे में प्रबल दावे अभी जल्दबाज़ी हैं।
मानव बुद्धिमत्ता में भाषा की भूमिका
- एक पक्ष: भाषा पूर्व-मौजूद चेतना का उपउत्पाद है।
- दूसरा: उच्च-स्तरीय मानव बुद्धिमत्ता भाषा-उपयोग से उभरती है; भाषा और विचार एक-दूसरे को bootstrap करते हैं।
- भाषा को thought के लिए एक “OS” या compression layer के रूप में वर्णित किया जाता है, जो जटिल तर्क, अमूर्तन, और सांस्कृतिक संचय को सक्षम करती है।
AI, डेटा, और क्षरण से जुड़ी चिंताएँ
- कुछ लोग “model collapse” को लेकर चिंतित हैं क्योंकि AI-जनित पाठ प्रशिक्षण डेटा में भरता जा रहा है, जिससे भविष्य के models का वास्तविक-जगत संदर्भ से grounding कमज़ोर हो सकता है।
- अन्य लोग इस जोखिम को कम करने के लिए नई training corpora को पहले के models से फ़िल्टर या स्क्रीन करने का सुझाव देते हैं।
मूल निबंध की आलोचनाएँ
- टिप्पणीकार चेतना के बारे में अप्रमाणित दावों, LLM internals के अत्यधिक सरलीकृत दृष्टिकोण, और व्यक्तिगत आत्मनिरीक्षण पर निर्भरता की आलोचना करते हैं।
- फिर भी, कई लोग इस लेख को भाषा, विचार, और LLMs वास्तव में क्या कर रहे हैं, इस पर चर्चा शुरू करने के लिए उपयोगी मानते हैं।