Google ने जिन LLM चेतावनियों के कारण Timnit Gebru को निकाला था, वे सभी सच साबित हुई हैं
“Stochastic Parrots” चेतावनियों का दायरा और वैधता
- टिप्पणीकार पाँच मुख्य चेतावनियाँ गिनाते हैं: समझ के बिना भ्रामक fluency, bias को बढ़ाना, पर्यावरणीय लागत, गैर-ऑडिटेबल datasets, और सत्ता का केंद्रीकरण।
- कुछ का तर्क है कि bias, पर्यावरणीय लागत, और केंद्रीकरण स्पष्ट रूप से सामने आ चुके हैं; अन्य कहते हैं कि पहले दो असंगत हैं, चौथे का प्रभाव अस्पष्ट है, और पाँचवाँ केवल मौजूदा tech monopolies का एक और उदाहरण है।
- कई लोग नोट करते हैं कि उद्धृत bias घटनाओं में से कई (hiring, healthcare triage, Apple Card) LLMs से पहले की हैं और अन्य ML systems से जुड़ी थीं, इसलिए उन्हें LLMs के प्रमाण के रूप में इस्तेमाल करना प्रश्नों के घेरे में है।
Bias, discrimination, और red-teaming
- बहुत से लोग मानते हैं कि बड़े models सामाजिक biases को encode करते हैं; उदाहरणों में sexist outputs, role assumptions, और ideological tuning (जैसे “anti-woke” models) शामिल हैं।
- महत्व पर असहमति है: कुछ LLM bias को केंद्रीय और खतरनाक मानते हैं; अन्य कहते हैं कि यह कई रोज़मर्रा के use cases के लिए अधिकतर अप्रासंगिक है और RLHF से कम किया जा सकता है।
- इस पर बहस है कि “discrimination” किसे कहा जाए, proxy variables क्या हैं, और क्या कुछ statistical differences (जैसे insurance pricing) कानूनी या नैतिक inputs होने चाहिए।
- critics को समाधान पेश किए बिना भी मूल्यवान मानने के लिए red-team बनाम blue-team analogy का उपयोग किया जाता है; अन्य कहते हैं कि ठोस remedies के बिना आलोचना को लगातार funding नहीं मिलनी चाहिए।
Understanding बनाम “stochastic parrots”
- कुछ का दावा है कि हालिया models स्पष्ट competence दिखाते हैं (theorem proving, complex tasks), इसलिए उन्हें shallow parrots कहना “aged poorly” हो गया है।
- अन्य तर्क देते हैं कि ये क्षमताएँ फिर भी “understanding” के बिना संभव हो सकती हैं, और यह human exceptionalism को चुनौती देती हैं, machine comprehension को सत्यापित नहीं करतीं।
- कई टिप्पणीकार नोट करते हैं कि अब “stochastic” शब्द कम normative काम कर रहा है; बहुत से महत्वपूर्ण मानव और प्राकृतिक processes भी stochastic हैं।
Environment, data auditing, और model collapse
- बड़े पैमाने पर training से पर्यावरणीय नुकसान व्यापक रूप से स्वीकार किए जाते हैं, हालांकि उन्हें लाभों के साथ कैसे संतुलित किया जाए, यह अभी अनसुलझा है।
- गैर-ऑडिटेबल training sets (जैसे abusive या illegal सामग्री वाले) एक गंभीर लेकिन कुछ हद तक अस्पष्ट जोखिम माने जाते हैं; documentation practices के सुझाव दिए गए हैं, पर उन पर गहराई से चर्चा नहीं हुई।
- AI-generated data से feedback loops के कारण low-resource languages के बिगड़ने की चिंताएँ सामने आती हैं, लेकिन कुछ उन्हें धुंधली या अपर्याप्त रूप से प्रमाणित मानते हैं।
Centralization, open models, और power
- कुछ लोग model training capacity का कुछ firms में केंद्रीकरण को सांस्कृतिक और भाषाई नियंत्रण के एक बड़े नए रूप के रूप में देखते हैं।
- अन्य मानते हैं कि जैसे-जैसे compute सस्ता होगा और open/self-hosted models “good enough” क्षमता तक पहुँचेंगे, यह स्वयं सीमित हो जाएगा।
- चिंता यह भी है कि जो भी इन systems को नियंत्रित करता है, वही यह भी नियंत्रित करता है कि कौन-से biases embedded या removed किए जाते हैं।
Gebru/Google विवाद और meta-discussion
- इस पर तीखी असहमति है कि researcher को “fired” किया गया था या demands जारी करने के बाद उन्होंने effectively resign किया था; terminology विवादित है।
- कुछ लोग इस घटना को इस बात के प्रमाण के रूप में देखते हैं कि big tech वास्तविक academic freedom के बिना ethical credibility चाहती है।
- कई लोग Tumblr post को ही under-sourced, संभवतः AI-written clickbait, और उस तरह की rigorous retrospective नहीं मानते जिसकी इस विषय को ज़रूरत थी।
- meta-concerns में HN flagging behavior, कम comment counts, और bias तथा “wokeness” पर बहस की गुणवत्ता शामिल है।