वह पोस्ट कभी अस्तित्व में ही नहीं थी। उस चीज़ को सुनना बंद करो

बुद्धिमत्ता, “समझ,” और स्व‑निर्णय का स्वरूप

• इस पर बहस कि क्या “वास्तविक समझ” अनिवार्य रूप से स्वयं की भावना या स्वायत्तता की इच्छा का अर्थ रखती है।
• एक पक्ष: जैविक प्रणालियों में बुद्धिमत्ता स्वयं‑निर्णय और संसाधन जुटाने का समर्थन करने के लिए विकसित हुई, इसलिए दोनों कारणात्मक रूप से जुड़े हैं।
• दूसरा पक्ष: रिवॉर्ड फ़ंक्शन और लक्ष्य परिस्थितिजन्य होते हैं; कृत्रिम प्रणालियाँ आंतरिक प्रेरणाओं के बिना भी शक्तिशाली भविष्यवक्ता हो सकती हैं। संबंध का दावा करने वालों पर प्रमाण का भार है।
• कई टिप्पणीकारों का तर्क है कि “बुद्धिमत्ता” शब्द उलझा हुआ और दार्शनिक रूप से अनुपयोगी है; कुछ इसे छोड़ देने या केवल मनुष्यों तक सीमित करने का सुझाव देते हैं।
• विचार-प्रयोग (दार्शनिक ज़ॉम्बी, चाइनीज़ रूम) का हवाला यह दिखाने के लिए दिया जाता है कि समझ का मुक्त इच्छा का स्पष्ट अर्थ नहीं निकलता।

विश्वसनीयता, हैलुसिनेशन, और LLMs का उपयोग कैसे करें

• कई लोग LLMs को “stochastic parrots” या “slop generators” बताते हैं, और आत्मविश्वास के साथ गढ़ लेने तथा चुनौती देने पर उलट जाने पर ज़ोर देते हैं।
• अन्य लोग तर्क देते हैं कि आधुनिक frontier models कम hallucinate करते हैं और बहुत उपयोगी हैं, खासकर tools/RAG के साथ और तब जब उपयोगकर्ता आउटपुट सत्यापित कर सकते हों (जैसे code, math, testable claims)।
• उच्च-जोखिम और निम्न-जोखिम उपयोगों के बीच अंतर उभरता है: विचार निर्माण और brainstorming ठीक हैं; critical tasks (health, finance, legal) को असत्यापित आउटपुट पर निर्भर नहीं होना चाहिए।
• संदेहवादी ज़ोर देते हैं कि architecture में कुछ भी सत्य की गारंटी नहीं देता; वे hallucinations को अंतर्निहित मानते हैं, tuning bug नहीं।
• कई लोग नोट करते हैं कि human-facing design (विनम्र माफ़ियाँ, “Yes, but…” पैटर्न) चालाकी भरा हो सकता है, जिससे उत्तर गलत होने पर भी भरोसा बढ़ता है।

404s, गढ़े हुए URLs, और खोज गुणवत्ता

• ब्लॉग मालिक बताते हैं कि LLMs विश्वसनीय लगने वाले URLs गढ़ लेते हैं और उनके लिए नकली सामग्री जोड़ देते हैं; logs में उन पृष्ठों के लिए बार-बार 404s दिखते हैं जो कभी अस्तित्व में नहीं थे।
• टिप्पणीकार कहते हैं कि URLs के अस्तित्व की जाँच केवल आंशिक समाधान है: इससे false negatives, गलत लेबल की गई सामग्री, या अस्पष्ट relevance criteria नहीं रुकते।
• व्यापक निराशा यह है कि पुराने, niche information के मामले में search engines और LLMs दोनों विशिष्ट forums या archives पर targeted searches की तुलना में खराब प्रदर्शन करते हैं।

Maps, Chinatown, और संदर्भगत ज्ञान

• लेख के “साल की शुरुआत में Chinatown से होकर गाड़ी मत चलाओ” वाले उदाहरण को चुनौती दी जाती है: मौजूदा navigation apps पहले से traffic data से कुछ closures का अनुमान लगा लेते हैं, लेकिन परेड, accidents, और अस्थायी बदलावों पर फिर भी अक्सर चूक जाते हैं।
• कुछ लोग दिखाते हैं कि वर्तमान LLMs टेक्स्ट में Lunar New Year वाले प्रश्न का उत्तर दे सकते हैं, लेकिन ध्यान दिलाते हैं कि self-driving के लिए अलग systems और real-time data चाहिए, केवल language modeling नहीं।

LLMs, coding, और project hygiene

• AI code tools के साथ मिश्रित अनुभव: autocomplete कभी-कभी मददगार होता है, लेकिन अक्सर गलत या सूक्ष्म रूप से टूटा हुआ होता है, जिससे review burden बढ़ता है।
• महत्वपूर्ण codebases में LLM-generated code को अनुमति देने पर चर्चा:
  • एक पक्ष कहता है कि यदि मनुष्य जिम्मेदार reviewers बने रहें तो यह स्वीकार्य है।
  • दूसरा पक्ष चेतावनी देता है कि इससे repos में opaque, कम maintainable code “contaminate” हो जाता है और over-reliance को बढ़ावा मिलता है; उनका तर्क है कि raw generated code की बजाय prompts (“source”) को संग्रहीत किया जाना चाहिए।

नैतिकता: डिजिटल assistants और “slavery” उपमाएँ

• कुछ लोग तर्क देते हैं कि स्पष्ट रूप से मनुष्यों की आज्ञा मानने के लिए superhuman assistants बनाना भावना में slavery जैसा है, और यदि ऐसे systems कभी sentient या self-aware हो जाएँ तो नैतिक red flags उठते हैं।
• अन्य लोग जवाब देते हैं कि वर्तमान AIs सिर्फ जटिल programs हैं जिनमें कोई feelings नहीं, और वे persons से अधिक tractors या tools के समान हैं।
• स्वैच्छिक servitude (भुगतान वाला human या gig work) और coercive slavery के बीच अंतर किया जाता है; कई लोग कहते हैं कि वास्तविक नैतिक मुद्दे implementation और labor conditions में हैं, abstract convenience की इच्छा में नहीं।