Google के CEO ने Gemini को पूरी तरह अस्वीकार्य बताया, संरचनात्मक बदलाव करने का वादा किया
Google की Gemini AI को जातीय और ऐतिहासिक रूप से गलत images बनाने के बाद कड़ी आलोचना का सामना करना पड़ा, जिसके बाद कंपनी के CEO ने परिणामों को “completely unacceptable” कहा और structural fixes का वादा किया। टिप्पणीकारों का तर्क है कि समस्याएँ core model quality से कम और अत्यधिक “fairness” guardrails, आंतरिक संस्कृति, तथा प्रभावी QA या dissenting voices की कमी से अधिक उत्पन्न होती हैं। यह घटना product quality में गिरावट, big-tech AI systems में वैचारिक पूर्वाग्रह, और safety, accuracy, तथा user trust के बीच संतुलन बनाने की कठिनाई के व्यापक पैटर्न का हिस्सा मानी जा रही है।
Google और Gemini पर समग्र भावना
- कई लोगों का मानना है कि Gemini की विफलताएँ “ML fairness” और जोखिम से बचने वाली बिग-टेक संस्कृति को देखते हुए पहले से अनुमानित थीं।
- कुछ का तर्क है कि यह कोई मामूली बग नहीं, बल्कि गहरी संगठनात्मक और सांस्कृतिक समस्याओं का लक्षण है; अन्य इसे शर्मनाक लेकिन सुधारी जा सकने वाली अतिसुधारात्मक प्रतिक्रिया मानते हैं।
- एक अल्पसंख्या Google के रिकॉर्ड का बचाव करती है, सर्च, ईमेल, मैप्स, वीडियो आदि में उसकी प्रभुत्वशाली स्थिति की ओर इशारा करती है, और Gemini को उच्च‑प्रदर्शन वाला लेकिन गलत तरह से ट्यून किया गया मानती है।
Guardrails, RLHF, और Prompt Rewriting
- टिप्पणीकारों का मानना है कि मुख्य समस्या मॉडल की कच्ची क्षमता नहीं, बल्कि guardrails, RLHF, और prompt rewriting की परतें हैं जो आउटपुट को “बेहतर” बनाने की कोशिश करती हैं।
- चर्चा किए गए उदाहरणों में शामिल हैं: मॉडल का प्रॉम्प्ट्स में “be diverse” जैसी निर्देश जोड़ना, अलग moderation AIs का उपयोग करना, और image generation से पहले उपयोगकर्ता queries को चुपचाप फिर से लिखना।
- कुछ लोग इसे गंदे वास्तविक संसार पर प्रशिक्षित प्रणालियों पर एक “rose‑tinted” या वैचारिक world model थोपने की कोशिश के रूप में वर्णित करते हैं।
विविधता बनाम सटीकता और उपयोगकर्ता इरादा
- एक पक्ष default diversity का समर्थन करता है (जैसे सभी white male doctors नहीं) और इसे उचित तथा अक्सर लाभकारी मानता है।
- दूसरा पक्ष यथार्थता से परे थोपी गई diversity (जैसे Black Nazis, female popes, non‑white British monarchs) को भ्रामक, “post‑truth,” या प्रचारात्मक मानता है।
- कई लोग इस बात पर ज़ोर देते हैं कि यदि कोई उपयोगकर्ता विशेष demographics या ऐतिहासिक रूप से सटीक चित्रण स्पष्ट रूप से माँगता है, तो सिस्टम को या तो उसका सम्मान करना चाहिए या स्पष्ट रूप से मना करना चाहिए, न कि चुपचाप अनुरोध को बदल देना चाहिए।
- इस पर बहस है कि लक्ष्य क्या होना चाहिए:
- “वास्तविक दुनिया की demographics के अनुपात में”,
- “training data के अनुपात में”, या
- सामाजिक पूर्वाग्रहों का मुकाबला करने के लिए स्पष्ट रूप से biased outputs।
Google Culture, DEI, और आंतरिक असहमति
- कई टिप्पणीकारों का दावा है कि अधिकांश rank-and-file engineers DEI/“anti-racism” प्रयासों को लेकर संशय में या उदासीन हैं, लेकिन बोलने से डरते हैं।
- अन्य लोग इसका विरोध करते हुए कहते हैं कि “silent majority” के दावे केवल anecdotal हैं और युवा कर्मचारी मुख्यतः मौजूदा नैतिक मानदंडों को साझा करते हैं।
- कुछ लोग Gemini के व्यवहार को एक छोटे लेकिन शक्तिशाली आंतरिक वैचारिक समूह से जोड़ते हैं; अन्य लोग संरचनात्मक कायरता और सशक्त QA/ethics teams की कमी को दोष देते हैं।
Leadership, Strategy, और Competition
- Sundar Pichai की आलोचना एक “peacetime” steward के रूप में की जाती है, जिसमें दृष्टि की कमी है, और जो कई बाज़ारों (short-form video, videoconferencing, cloud gaming, generative AI) में देर से पहुँचे।
- कुछ लोग नेतृत्व परिवर्तन की मांग करते हैं; अन्य तर्क देते हैं कि कुल मिलाकर Google अभी भी अच्छा निष्पादन करता है और GPT-4‑class models बनाना स्वाभाविक रूप से कठिन है।
- OpenAI से तुलना की जाती है: कई लोग OpenAI के शुरुआती “nannying” और political bias को नोट करते हैं, लेकिन कहते हैं कि वह अब स्वीकार्य neutrality के करीब आ गया है, खासकर नए products में।