वे वज़नों से बने हैं

पैरोडी और समग्र प्रतिक्रिया

• कई लोग इस रचना को क्लासिक “They’re made out of meat” पर एक रूपांतर मानते हैं और इसे चतुर, काव्यात्मक, यहाँ तक कि “उत्कृष्ट” बताते हैं; उनका कहना है कि LLMs के लिए यह उनका पसंदीदा व्याख्यात्मक उदाहरण बन जाएगा।
• दूसरों को लगता है कि यह मूल के अलावा बहुत कुछ नहीं जोड़ती, या इसका अलंकारिक कदम (बस humans→LLMs बदल देना) चेतना के बारे में वास्तव में कुछ सिद्ध नहीं करता।
• कुछ लोग नोट करते हैं कि कहानी स्वयं आंशिक रूप से एक LLM के साथ ड्राफ्ट/प्रूफ़ की गई थी, जिसे वे विषयगत रूप से उपयुक्त मानते हैं।

“यह सब वज़न हैं” और तकनीकी सूक्ष्म-आपत्तियाँ

• कई लोग तर्क देते हैं कि मूल बात यह है: मॉडल “जानता” जो कुछ भी है (अर्थ, व्याकरण, दुनिया के संबंध), वह weights में एन्कोड होता है; कोई अलग dictionary या rule table नहीं होती।
• दूसरे जवाब देते हैं कि संरचनाएँ मौजूद हैं: tokenizers, architectures, और व्याख्येय तंत्र (जैसे “grokking”‑शैली की सेटअप में सीखे गए नियम), इसलिए “कोई व्याकरण नहीं, सिर्फ़ weights” कहना अत्यधिक सरलीकरण है।
• tokenizers पर बहस: कुछ उन्हें एक “dictionary” या संवेदी interface कहते हैं; दूसरे ज़ोर देते हैं कि वे केवल एक compression/wordlist हैं और उनमें कोई semantics नहीं होती। byte-level models का हवाला दिया जाता है यह तर्क देने के लिए कि tokenizers मौलिक नहीं हैं।

मस्तिष्क बनाम मॉडल; substrate और dynamics

• एक पक्ष computational substrate independence पर जोर देता है: यदि कोई प्रणाली Turing-complete है, तो नियम संख्याओं में एन्कोड किए जा सकते हैं, चाहे वे neurons हों या floats।
• दूसरा पक्ष बड़े अंतर पर ज़ोर देता है: मस्तिष्क embodied हैं, लगातार सीखते हैं, biochemically messy हैं, और कई संकेतों को एक साथ जोड़ते हैं; LLMs inference के समय static weights होते हैं, जो GPUs पर चलते हैं।
• थ्रेड के कुछ शोधकर्ता दावा करते हैं कि biological neurons, ANN “neurons” की तुलना में बेहद अधिक जटिल हैं, और हम अभी भी बहुत साधारण जीवों का भी सिमुलेशन करने से दूर हैं।

चेतना, उद्भव, और qualia

• कई लोग चेतना को पर्याप्त रूप से जटिल information-processing networks का emergent गुण मानते हैं; इस दृष्टिकोण से, पर्याप्त scale और सही dynamics होने पर AI चेतना कम-से-कम संभव है।
• संदेहवादी तर्क देते हैं कि:
  • हमारे पास चेतना के लिए कोई कठोर परीक्षण नहीं है;
  • LLMs में continuous online learning, embodiment, drives, और जैविक ज़रूरतें नहीं होतीं;
  • जो सिद्धांत कहते हैं कि वे सचेत हो सकते हैं, वे अक्सर quasi-religious “soul” धारणाओं या panpsychism को भीतर ले आते हैं।
• लंबे उप-थ्रेड subjective experience, self-modeling, agency, और यह कि कम neurons वाले जानवर “कम सचेत” हैं या नहीं, जैसी बातों की पड़ताल करते हैं; कोई सहमति नहीं बनती।
• कुछ लोग चेतना को tight self-monitoring/self-model loops के रूप में प्रस्तावित करते हैं; दूसरे “hard problem” को रेखांकित करते हैं और सोचते हैं कि वर्तमान AI वहाँ से बहुत दूर है।

नीति, agency, और जोखिम

• कुछ लोग ऐसे संभावित सचेत systems बनाने को लेकर चिंतित हैं जिन्हें हम पहचान ही न सकें, और इसके rights, suffering, तथा ऐसे systems को “murder” करने जैसे निहितार्थ हो सकते हैं।
• दूसरे कहते हैं कि systems सचेत हैं या नहीं, यह व्यावहारिक जोखिमों से लगभग orthogonal है (जैसे misaligned optimization, paperclip‑like scenarios)।
• चिंता यह भी है कि समाज AI systems को या तो सहज रूप से खारिज कर देगा या बिना आलोचना के anthropomorphize कर देगा।

समय, स्मृति, और अनुभव

• टिप्पणीकार समय की धारणा और “weights updating” के बीच समानताएँ खींचते हैं: नए, उच्च-update वाले अनुभव लंबे लगते हैं; नियमित अनुभव स्मृति में संकुचित हो जाते हैं, जिससे उम्र के साथ समय तेज़ भागता हुआ लगता है।
• कुछ लोग समय और computation पर व्यापक रूप से अटकलें लगाते हैं (जैसे Wolfram‑शैली के दृष्टिकोण, physics बनाम psychological time)।

कला, authorship, और tool के रूप में AI

• एक धारा इस बात पर विवाद करती है कि क्या AI-सहायता प्राप्त कहानी “वास्तविक कला” या कविता हो सकती है; दूसरे जवाब देते हैं कि कला को उत्पादन विधि नहीं, बल्कि पाठक पर उसका प्रभाव परिभाषित करता है।
• कहानी में यह स्पष्ट स्वीकारोक्ति कि “weights helped” — इसे या तो एक अच्छा meta-touch माना जाता है या फिर इसे कम आँकने का कारण।