मध्यवर्ती टोकनों को तर्क/सोच के निशान के रूप में मानवीकरण करना बंद करें

“सोच के निशान” और CoT की प्रकृति

• कई लोग तर्क देते हैं कि मध्यवर्ती टोकन (“aha”, “रुको, यह गलत है”, CoT) वास्तविक विचार या आंतरिक स्थिति नहीं हैं, बल्कि केवल पहले के पाठ पर आधारित अगले-टोकन की भविष्यवाणियाँ हैं।
• कुछ लोग इन्हें “स्क्रैच” या “शब्दों की उल्टी” मानते हैं, जो संदर्भ को भर देती हैं ताकि attention बेहतर पैटर्न वापस पा सके; दूसरे इन्हें बयानबाज़ी के करतब या “फिल्म नोयर के एकालाप” कहते हैं, जो किरदारों के संवाद से अलग नहीं हैं।
• एक अल्पमत दृष्टिकोण यह सुझाता है कि शायद एक ढीला लेकिन वास्तविक अर्थगत पैटर्न हो सकता है: जैसे “aha” अक्सर बेहतर उत्तर की ओर बदलाव से पहले आता है, इसलिए इसे उत्पन्न करना बाद के टोकनों को उपयोगी पैटर्न की ओर प्रेरित कर सकता है।

LLMs का मानवीकरण

• कई पोस्ट करने वाले मानवीकरण को एक गंभीर समस्या मानते हैं: यह गैर-विशेषज्ञों को गुमराह करता है, “AI psychosis” को बढ़ावा देता है, और न्यायाधीशों तथा नीति-निर्माताओं को इस बारे में भ्रमित करता है कि मॉडल वास्तव में क्या करते हैं।
• अन्य कहते हैं कि हल्का मानवीकरण सामान्य और मज़ेदार है (जैसे डेटाबेस या प्रिंटर के साथ), और इसका अर्थ मशीन-मन में वास्तविक विश्वास नहीं है।
• चिंता यह है कि विक्रेता जानबूझकर “reasoning,” “agents,” “companions” जैसे मानव-जैसे शब्द चुनते हैं ताकि क्षमता को बढ़ा-चढ़ाकर दिखाया जा सके।
• प्रतिवाद: LLMs मानव-जैसी अंतःक्रिया के पैटर्न दिखाते हैं (प्रोत्साहन पर बेहतर प्रतिक्रिया देते हैं), और इस व्यवहार को अनदेखा करना व्यावहारिक रूप से तर्कहीन हो सकता है, भले ही यह केवल प्रशिक्षण-डेटा का प्रभाव हो।

तर्क टोकनों को उजागर करने की उपयोगिता और जोखिम

• कुछ उपयोगकर्ताओं को लंबे कार्यों में शुरुआती गलतफहमियाँ पकड़ने के लिए ये निशान उपयोगी लगते हैं।
• अन्य का तर्क है कि उपयोगकर्ताओं को इन निशानों को बड़े पैमाने पर अनदेखा करना चाहिए; वे persuasive “sophistry” हो सकते हैं जो गलत उत्तरों को विश्वसनीय महसूस कराते हैं।
• यदि ये निशान अंतर्निहित गणना के प्रति विश्वसनीय नहीं हैं, तो वे खराब auditing artifacts हैं और उन्हें वास्तविक “intent” के रूप में गलत समझना आसान है।

चेतना, बुद्धिमत्ता, और उपमा पर बहसें

• इस पर लंबी बहस हुई कि क्या LLMs “सोचते” हैं, “समझते” हैं, या “चेतन” हो सकते हैं, लेकिन कोई सहमति नहीं बनी।
• एक पक्ष यांत्रिक, स्थिर-भार प्रणालियों पर ज़ोर देता है जिनमें मानव-जैसी memory, embodiment, और जैविक जटिलता नहीं होती; भाषा ≠ विचार।
• दूसरा पक्ष तर्क देता है कि हमारे पास चेतना की सटीक परिभाषाएँ नहीं हैं और हम जानते हैं कि मानव introspection अविश्वसनीय है, इसलिए non-consciousness के मजबूत दावे अत्यधिक आत्मविश्वासी हैं।
• उपमाएँ विवादित हैं: आलोचक “LLMs think” की तुलना lightbulbs को “छोटे तारे” कहने से करते हैं; दूसरे कहते हैं कि bulbs और stars दोनों “प्रकाश पैदा करते हैं”, और मनुष्य तथा LLMs दोनों एक व्यावहारिक अर्थ में “विचार पैदा करते हैं”।

शब्दावली, पेपर शैली, और आलोचना

• कई लोगों को imperative, “clickbaity” शीर्षक (“Stop doing X”) पसंद नहीं आए, और वे इसे ब्लॉग-पोस्ट शैली मानते हैं।
• अन्य लोग नोट करते हैं कि यह स्पष्ट रूप से एक position paper है; मज़बूत normative framing अपेक्षित है।
• कुछ लोग पेपर की दलील को आंतरिक रूप से असंगत या distributional semantics के प्रति अत्यधिक dismissive मानते हैं।
• इस बात पर भ्रम और बहस है कि अगर “thinking traces” reasoning नहीं हैं, तो वे आख़िर हैं क्या; सुझावों में “learned prompt augmentation” या केवल optimization-चालित टोकन पैटर्न शामिल हैं।

इंजीनियरिंग और व्यावहारिक निहितार्थ

• पोस्ट करने वाले इस बात पर ज़ोर देते हैं कि ऐसे सिस्टम बनाए जाएँ जो inputs, model/version, tool calls, और outputs लॉग करें ताकि व्यवहार को replay किया जा सके, न कि self-explanations पर निर्भर किया जाए।
• इस पर व्यापक सहमति है कि मॉडल अक्सर अपारदर्शी प्रक्रियाओं के माध्यम से अच्छे निष्कर्ष तक पहुँचते हैं, और मध्यवर्ती पाठ को वास्तविक तर्क के रूप में ज़्यादा पढ़ना असुरक्षित और भ्रामक है।