मॉडल जानबूझकर ज़्यादा मूर्ख बनाए जा रहे हैं
बड़े भाषा मॉडल अब अधिकाधिक इस तरह अनुकूलित किए जा रहे हैं कि वे अपने weights में कम तथ्यात्मक ज्ञान रखें और उसकी जगह tools, search, तथा बाहरी knowledge bases पर निर्भर हों, जिससे “reasoning engines” और ताज़ा जानकारी के बीच संतुलन को लेकर सवाल उठ रहे हैं। टिप्पणीकार बहस करते हैं कि क्या विशेषीकृत, प्लग-इन योग्य expert models वांछनीय हैं या वर्तमान architectures के साथ संगत भी हैं, बनिस्बत उस ऐतिहासिक प्रवृत्ति के जिसमें बड़े, सामान्य मॉडल व्यापक प्रशिक्षण के साथ हाथ से बनाए गए specializations से बेहतर प्रदर्शन करते हैं (“the bitter lesson”). अन्य लोग संदर्भित लेख को पुराना और संभवतः AI-जनित बताते हैं, तथा ज़ोर देते हैं कि facts को weights से बाहर ले जाना अपने-आप hallucinations को नहीं रोकता और न ही भरोसेमंद citations की गारंटी देता है.
बेंचमार्क की वैधता और लेख की ताज़गी
- कई टिप्पणियों में कहा गया कि लेख पुराने बेंचमार्क्स पर निर्भर है (SimpleQA 2025 में रुकता है) और मौजूदा अग्रणी मॉडलों व क्षमताओं को गलत ढंग से प्रस्तुत करता है।
- अपडेट किए गए SimpleQA-Verified ग्राफ़ और विशिष्ट उदाहरण लॉग्स के लिंक दिए गए हैं, जो बेहतर प्रदर्शन दिखाते हैं।
- कई पोस्टरों का दावा है कि ब्लॉग पोस्ट स्वयं संभवतः AI-जनित और पुराना है, जिससे “मॉडल ज़्यादा मूर्ख हो रहे हैं” पर उसका अधिकार कमजोर पड़ता है।
ज्ञान बनाम तर्क का अलगाव
- बहुतों को “reasoning engine” और “knowledge in tools/KBs” का वैचारिक विभाजन पसंद आया, और उन्होंने छोटे reasoning मॉडलों (जैसे Needle, VibeThinker) को शुरुआती उदाहरणों के रूप में उद्धृत किया।
- अन्य लोग तर्क देते हैं कि reasoning विश्व-ज्ञान और भाषा-प्रयोग के साथ गहराई से जुड़ा होता है; “facts” को साफ़-साफ़ हटाने से reasoning खराब हो जाती है।
- कुछ लोग दार्शनिक आपत्तियाँ उठाते हैं: तर्क हमेशा विशिष्ट भाषा-प्रथाओं में अंतर्निहित होता है।
विशेषीकृत / प्लग-इन योग्य मॉडल बनाम सामान्य-उद्देश्य
- एक लंबा उप-थ्रेड “pluggable knowledge base” के सपने की पड़ताल करता है: छोटा core reasoning + बदले जा सकने वाले domain modules (Swift, GIS, frontend, आदि), आदर्शतः लोकल रूप से चलने वाले।
- आलोचक जवाब देते हैं कि वर्तमान transformer LLMs इस तरह संयोजित नहीं होते; क्रॉस-डोमेन डेटा (जैसे कई भाषाएँ) अक्सर साझा अमूर्त संरचनाओं के कारण प्रदर्शन सुधारता है।
- MoE को अक्सर गलत समझा जाता है: टिप्पणीकार समझाते हैं कि “experts” “Swift expert” जैसे साफ़ domain modules नहीं होते, बल्कि अमूर्त pattern subnets होते हैं।
- “Bitter Lesson” का हवाला दिया जाता है: हाथ से बनाए गए मॉड्यूलर आर्किटेक्चर संभवतः बड़े, सामान्य मॉडलों और सरल prompting/agent harnesses से पीछे रह जाएंगे।
Hallucinations, tool use, और search quality
- कई लोग नोट करते हैं कि facts को weights से हटाकर tools/RAG में डालने से hallucinations अपने-आप “हल” नहीं होतीं; मॉडल फिर भी डेटा गढ़ सकते हैं या retrieved data को गलत संभाल सकते हैं।
- भरोसेमंद “I don’t know” व्यवहार को महत्वपूर्ण और अभी भी अनसुलझा/अस्पष्ट माना जाता है।
- कुछ रिपोर्ट करते हैं कि आधुनिक चैटबॉट्स कम hallucinate करते हैं क्योंकि tool-calling और web search से सत्यापन के कड़े prompts दिए जाते हैं।
- चिंता है कि web search पर निर्भरता नाज़ुक है क्योंकि सार्वजनिक search quality गिर रही है, लेकिन curated/domain-specific KBs और internal indices इससे कुछ हद तक बचाव कर सकते हैं।
उपयोग के पैटर्न और agentic प्रणालियाँ
- पोस्टरों ने वास्तविक उपयोग पर बहस की: कई गैर-डेवलपर्स LLMs का उपयोग सीखने, text processing, और drafting के लिए करते हैं, न कि coding या भारी agents के लिए।
- अन्य लोग तर्क देते हैं कि token-heavy coding/agent उपयोग compute consumption पर हावी हो सकता है, भले ही user counts कहीं और झुके हों।
- आज “modular intelligence” की व्यावहारिक राह के रूप में multi-agent systems और specialized harnesses प्रस्तावित हैं, बजाय model weights को फिर से तारबद्ध करने के।
बुद्धिमत्ता, ज्ञान, और भरोसा
- कुछ लोग ज़ोर देते हैं कि LLMs सांख्यिकीय sequence models हैं, मानवीय अर्थ में “intelligent” नहीं; दूसरे नोट करते हैं कि बुद्धिमत्ता स्वयं ही अस्पष्ट रूप से परिभाषित है।
- कई लोगों को चिंता है कि AI-लिखे, हल्के-से जाँचे गए निबंध पाठकों के भरोसे को कमज़ोर करते हैं और उन्हें reasoning तथा facts पर अपनी खुद की QA करने के लिए मजबूर करते हैं।