यदि LLMs में मानव-जैसे गुण हैं, तो Age of Empires II में भी होंगे
पेपर पर समग्र प्रतिक्रिया
- कई लोगों को यह पेपर मज़ाकिया अंदाज़ वाला या दार्शनिक रूप से खेलपूर्ण लगता है, कठोर विज्ञान नहीं।
- कुछ लोग इसे LLMs के बारे में लोकप्रिय लेखन में किए जाने वाले अतिरंजित उपमानों और मानवीकरण के खिलाफ समयोचित प्रतिवाद मानते हैं।
- अन्य इसे “pseudo-nonsense” या “crackpottery” कहते हैं, क्योंकि उनके अनुसार यह असंगत, बहुत अधिक लिखा हुआ है, और Turing completeness पर तुच्छ बातें करता है।
- कुछ लोगों को इसके दावे संयमित और सावधानी से सीमित लगते हैं, लेकिन उन्हें ऐसे पैक किया गया है जैसे वे किसी अस्पष्ट विरोधी खेमे पर व्यापक प्रहार हों।
AoE II, Turing-completeness, और substrate
- पेपर AoE II के logic gates / scripting का उपयोग करके तर्क देता है कि यह गेम Turing-complete है और सिद्धांततः एक LLM चला सकता है।
- कुछ टिप्पणीकार बताते हैं कि यह बस वही मानक बिंदु है कि “जो कुछ भी Turing-complete है, वह कोई भी computation चला सकता है,” बस इसे एक हास्यास्पद substrate तक बढ़ा दिया गया है।
- अन्य लोग exact construction पर बारीकियाँ निकालते हैं (bit-goats, specific resource setup) और सवाल करते हैं कि क्या इससे गेम engine को एक धीमे VM की तरह इस्तेमाल करने से आगे कुछ साबित होता है।
- “Turing tarpits” और “Doom-complete” devices से तुलना की जाती है: सिद्धांत में शक्तिशाली, व्यवहार में absurd।
मानवीकरण, चेतना, और substrate independence
- केंद्रीय बहस: यदि आप LLMs को “human-like attributes” देते हैं, तो substrate independence के अनुसार वही गुण AoE II, LEGO, या अन्य मनमाने media में लागू होने पर भी मौजूद होने चाहिए।
- कुछ लोग कहते हैं कि यह मानवीकरण वाले तर्कों की कमजोरी दिखाता है; अन्य कहते हैं कि जो लोग पहले से substrate independence स्वीकार करते हैं, वे इससे प्रभावित नहीं होंगे।
- चेतना language, theory of mind, या विशिष्ट neural structures से जुड़ी है या नहीं, इस पर लंबी चर्चा होती है, जिसमें counterexamples (deaf लोग, animals, octopus, chess engines) दिए जाते हैं।
- कई लोग चेतना को एक gradient मानते हैं, जहाँ rocks, simple programs, और human brains के बीच कोई स्पष्ट सीमा नहीं है; अन्य इसे अस्वीकार करते हैं या इसे unfalsifiable मानते हैं।
- एक बार-बार आने वाला विषय: simulation बनाम realization। कुछ लोग LLM “consciousness” की तुलना rainstorm simulator से करते हैं (जो wet नहीं होता), जबकि अन्य इसे arithmetic से जोड़ते हैं (जहाँ practice में simulation और performance अलग न दिखें)।
- Chinese Room, China brain, और “glass of water implementing a mind via isomorphism” जैसे thought experiments का उपयोग naive computationalism को चुनौती देने के लिए किया जाता है।
बुद्धिमत्ता, क्षमता, और goalpost shifting
- एक पक्ष कहता है कि LLMs बस giant function approximators हैं, “waffle” करने में अच्छे हैं, training data और alignment से संचालित हैं, और उनमें genuine understanding नहीं है।
- दूसरा पक्ष नोट करता है कि जब systems Turing test पास कर लेते हैं, code लिखते हैं, कठिन समस्याएँ हल करते हैं, आदि, तो आलोचक “intelligence” की परिभाषा को बार-बार खिसकाते रहते हैं, बिना स्पष्ट मानदंड बताए।
- कुछ लोग कहते हैं कि व्यावहारिक replaceability (jobs, writing, company management) मायने रखती है, न कि metaphysical status। अन्य लोग मानते हैं कि चेतना और moral status अभी भी खुले और महत्वपूर्ण प्रश्न हैं।