मत धोखा खाइए–LLMs तर्क नहीं करते

क्या LLMs “वाकई” तर्क कर रहे हैं?

• एक पक्ष का तर्क है कि तंत्र मायने नहीं रखता: यदि परिणाम तर्क के रूप में कार्यात्मक रूप से अविभेद्य हैं, तो यह कहना कि “यह असली तर्क नहीं है” मददगार नहीं है।
• दूसरे पक्ष का कहना है कि LLMs सिर्फ अगले-टोकन के भविष्यवक्ता / जटिल कैलकुलेटर हैं: शक्तिशाली रूपांतरण इंजन, लक्ष्य या विचार-विमर्श वाले एजेंट नहीं।
• कुछ लोग सुझाव देते हैं कि सार्वभौमिक फ़ंक्शन अपप्रॉक्सिमेटर होने के कारण LLMs चरण-दर-चरण तर्क का अनुमानित रूप दे सकते हैं, जो आंतरिक रूप से स्टेट मशीनों को एन्कोड कर सकते हैं।
• एक अल्पमत दृष्टिकोण: तर्क शायद ऐसी प्रणालियों में अभिव्यक्त ही न हो सके, भले ही वे ट्यूरिंग पूर्ण हों।

मनुष्यों से तुलना

• कई टिप्पणियाँ नोट करती हैं कि मनुष्य भी:
  • बाद में अपनी सोच की शृंखला गढ़ लेते हैं।
  • अक्सर गहराई से तर्क नहीं करते; याददाश्त, संस्कृति, और जनसंख्या-स्तरीय “ब्रूट फोर्स” पर निर्भर रहते हैं।
  • लेख के अपने तीन मानदंडों में असफल रहते हैं (स्पष्ट एपिस्टेमिक स्थिति, ज्ञान और प्रसंस्करण का साफ़ अलगाव, ईमानदार आत्मनिरीक्षणात्मक रिपोर्ट)।
• कुछ का तर्क है कि लोग “भाषायी पैरिडोलिया” के लिए तार-तार हैं, यानी धाराप्रवाह भाषा में बुद्धिमत्ता और एजेंसी को ज़रूरत से ज़्यादा मान लेते हैं।
• अन्य लोग पलटकर कहते हैं कि LLMs के तर्क को खारिज करना अक्सर बिना समझाए मानव-विशेषता को बीच में ले आता है (जैसे, “रिक्त स्थानों में आत्मा”)।

तंत्र, निरूपण, और गणना

• इस पर बहस कि क्या एक स्पष्ट, निरीक्षणीय विश्वास-भंडार का अभाव LLMs को तर्क से बाहर कर देता है, या विश्वास केवल वज़नों में एन्कोड होते हैं।
• मैकेनिस्टिक इंटरप्रिटेबिलिटी, “ग्लोबल वर्कस्पेस” जैसी आंतरिक संरचनाओं (जैसे, J-space), और उभरते वैचारिक निरूपणों पर चर्चा।
• मस्तिष्कों के भौतिक/गणनीय प्रणालियाँ होने बनाम कुछ अधिक होने पर एक साइड थ्रेड; और क्या बाइनरी में सिम्युलेट होने योग्य होना अवधारणात्मक रूप से पर्याप्त है।

प्रॉम्प्टिंग, एजेंट, और व्यवहार

• कई लोगों ने अधिक कठोर, स्पष्ट तर्क को प्रेरित करने के लिए प्रॉम्प्टिंग पैटर्न और बहु-एजेंट सेटअप सुझाए (आत्मविश्वास ट्रैकिंग, साक्ष्य लॉगिंग, रेड-टीमिंग)।
• अन्य लोग नोट करते हैं कि LLMs स्व-प्रेरित होकर कार्य शुरू नहीं करते या “ruminate” नहीं करते, जब तक उन्हें हमेशा-ऑन एजेंट फ़्रेमवर्क में नहीं जोड़ा जाता। यह डिज़ाइन का चुनाव है या गहरी सीमा, इस पर विवाद है।
• कुछ के लिए chain-of-thought उम्मीदवार कथाओं पर वास्तविक खोज है; दूसरों के लिए यह पहले से चुने गए उत्तर पर चिपकाई गई शैलीगत परत है।

व्यावहारिक और भविष्य-उन्मुख दृष्टिकोण

• कई प्रतिभागी taxonomy की लड़ाई को कम महत्व देते हैं: LLMs अत्यंत उपयोगी भविष्यवाणी इंजन हैं, और व्यवहार में अक्सर कोडिंग/गणित में मनुष्यों से बेहतर हैं, लेबल चाहे जो हों।
• अन्य लोग सीमाओं पर ज़ोर देते हैं: मज़बूत स्वायत्त ड्राइविंग नहीं, रूपांतरकारी वैज्ञानिक सफलताएँ नहीं, इंजीनियरों को अभी भी निगरानी और सुधार करना पड़ता है।
• कुछ को लगता है कि लेख आंशिक रूप से एक नए “reasoning model” स्टार्टअप की भूमिका बना रहा है, लेकिन फिर भी वे सहमत हैं कि अधिक स्पष्ट, निरीक्षणीय तर्क-संरचनाएँ मूल्यवान होंगी।