एलन के LLMs के बारे में क्या सोचते हैं?
इस चर्चा में large language models को लेकर गहरा संदेह दिखाई देता है, जिसका केंद्र उनका आत्मविश्वास के साथ संभावित रूप से सही लगने वाला लेकिन unverifiable या गलत output देना है, और इसके कारण low-stakes सहायता से आगे किसी भी चीज़ के लिए उनकी “trustability” का अभाव है। Commenters Alan Kay के लंबे समय से चले आ रहे विचारों—message passing, late binding, और ऐसे systems जो inspectable और explainable हों—को opaque, correlation-driven models की आलोचना से जोड़ते हैं, जिनके inner workings और training data न तो transparent हैं और न ही auditable। दूसरे लोग जवाब देते हैं कि, scaled misinformation और समाज के “strip-mining” जैसे वास्तविक खतरों के बावजूद, LLMs पहले से मौजूद tools से code generation और intent parsing जैसी चीज़ों में बेहतर प्रदर्शन करते हैं, और उनकी असली क्षमता standalone question-answering या teaching agents के बजाय carefully engineered, hybrid systems में है।
LLMs और “trustability” पर समग्र दृष्टिकोण
- मुख्य चिंता: LLMs कमांड चलाने या पढ़ाने के लिए “trustable” नहीं हैं, क्योंकि वे तर्क नहीं करते, केवल सहसंबंध बनाते हैं और संभावित रूप से सही लगने वाला पाठ उत्पन्न करते हैं।
- Trust auditability से जुड़ा है: लोग सत्यापित की जा सकने वाली reasoning chains, explainable decision paths, और reproducible results चाहते हैं।
- मौजूदा LLMs यह नहीं दिखा सकते कि उन्होंने किसी उत्तर तक कैसे पहुँचा, सिवाय धुंधली token attributions के, इसलिए उन्हें महत्वपूर्ण कार्यों के लिए अनुपयुक्त माना जाता है।
Message passing, late binding, और system design
- बड़ा subthread पुराने विचारों पर लौटता है: true message passing, late binding, और live, image-based systems (जैसे Smalltalk-style environments)।
- इस पर बहस कि क्या आधुनिक systems (HTTP, microservices, browsers) इन विचारों को अच्छी तरह embody करते हैं या “bastardizations” हैं।
- कुछ लोगों का तर्क है कि message passing security और scalability को काफी बेहतर बनाता है; अन्य लोग microservice messiness और stronger typing की आवश्यकता की ओर इशारा करते हैं।
- इस पर असहमति है कि क्या Alan की guidance बहुत vague है या वास्तव में काफी concrete है जब आप उसके systems और research programs को देखते हैं।
Programming और education में LLMs
- Power users LLMs को बहुत उपयोगी बताते हैं, लेकिन वे अक्सर गलत होते हैं, खासकर कम लोकप्रिय languages या niche libraries में।
- “Obvious” errors (गढ़े गए APIs) विशेषज्ञों के लिए पकड़ना आसान हैं; subtle errors (deprecated, insecure, या inefficient patterns) learners के लिए खतरनाक हैं।
- चिंता है कि छात्र LLMs के ज़रिए CS curricula में “cheat” करेंगे, जिससे यह और स्पष्ट होगा कि कुछ teaching पहले से ही कितनी पुरानी है।
- कुछ लोगों को यह पसंद है कि traditional programming literal और debuggable होती है; उन्हें डर है कि opaque AI layers इस transparency को कमजोर कर देंगे।
Epistemology: correlation, superstition, और BS
- एक मजबूत theme: LLMs “reasoning by correlation” का उदाहरण हैं, जिनकी तुलना superstition और BS generation से की जाती है, खासकर जब वे गलत उत्तरों को धाराप्रवाह rationalize करते हैं।
- Counterpoint: correlation-based empiricism फिर भी testable और उपयोगी हो सकती है; superstition तब पैदा होती है जब लोग correlations को गलत पढ़ते हैं या ज़रूरत से ज़्यादा interpret करते हैं।
- कई टिप्पणियाँ नोट करती हैं कि इंसान भी unreliable, biased, और BS prone होते हैं, इसलिए तुलना को किसी आदर्श के बजाय वास्तविक human experts से करनी चाहिए।
सामाजिक और आर्थिक चिंताएँ
- चिंता है कि LLMs का उपयोग समाज को अधिक कुशलता से “strip mine” करने के लिए किया जाएगा, जिससे extraction, surveillance, और बड़े पैमाने पर manipulation बढ़ेगा।
- अन्य लोग तर्क देते हैं कि यह गतिशीलता LLMs से पहले की है और अधिकांश बड़ी technologies पर लागू होती है; LLMs बस एक नया lever हैं।
- एक अतिरिक्त डर: भविष्य का internet semi-plausible nonsense से भर जाएगा, जिससे digital information पर trust कम होगा और शायद literacy norms भी प्रभावित होंगे।