समस्याओं के बाद Google ने Gemini की लोगों की छवि-जनरेशन पर रोक लगाई
Google के Gemini image generator की आलोचना हुई क्योंकि उसने ऐतिहासिक रूप से गलत छवियाँ बनाईं—जैसे नस्ली रूप से विविध Nazis और Black “Founding Fathers”—और अक्सर white लोगों को, जब उन्हें स्पष्ट रूप से माँगा गया, तब भी दिखाने से इनकार कर दिया। टिप्पणीकारों को यह training data में मौजूद वास्तविक bias पर ज़रूरत से ज़्यादा सुधार लगता है, जो भारी-handed DEI-inspired prompt injection और guardrails से प्रेरित है और ऐतिहासिक तथा जनसांख्यिकीय वास्तविकता को बिगाड़ देता है। यह घटना AI systems में छिपे हस्तक्षेपों, product quality और trust पर corporate ideology के प्रभाव, और अधिक transparent या user-controllable models की आवश्यकता को लेकर व्यापक चिंताएँ उठाती है।
Gemini का छवि व्यवहार और उदाहरण
- कई टिप्पणीकारों ने Gemini के इमेज जनरेटर को परखा और यह देखा:
- स्पष्ट रूप से “white” लोगों को (“nice white man”, “white nurse”) बनाने से इनकार, जबकि अन्य नस्लों के लिए समकक्ष प्रॉम्प्ट खुशी से जनरेट किए गए।
- ऐतिहासिक रूप से गलत या अविश्वसनीय आउटपुट: काले या एशियाई “Vikings”, नस्ली रूप से विविध “German soldiers 1943”, अमेरिकी “founding fathers”, 19वीं सदी के जर्मन/स्कॉट्स, आदि।
- लिंग उलटाव (उदाहरण: “happy man” -> महिला की छवि; “king” -> महिला)।
- Google की सार्वजनिक प्रतिक्रिया (लोगों की छवियों को रोकना) को इस बात की स्वीकृति के रूप में देखा जा रहा है कि प्रशिक्षण के बाद सख्त सीमाएँ जोड़ी गई थीं और वे गलत साबित हुईं।
पक्षपात, विविधता, और “reverse racism”
- एक पक्ष इसे वास्तविक डेटा-पक्षपात पर ज़रूरत से ज़्यादा सुधार मानता है: हस्तक्षेप न होने पर मॉडल कई भूमिकाओं (नर्स/डॉक्टर/इंजीनियर, आदि) में सफेद पुरुषों को ज़्यादा दिखाते हैं।
- दूसरा पक्ष इसे anti-white racism या “DEI gone too far” कहता है, और तर्क देता है कि:
- यह ऐतिहासिक वास्तविकता को मिटाता है और whiteness को uniquely संदिग्ध मानता है।
- यह सममित नहीं है: “white-only” प्रॉम्प्ट ब्लॉक किए जाते हैं, जबकि “black-only” या अन्य race-specific प्रॉम्प्ट काम करते हैं।
- इस पर बहस है कि “racism” के लिए शक्ति-असंतुलन ज़रूरी है या नहीं; कुछ लोग जोर देते हैं कि नस्ल-आधारित कोई भी भेदभाव इसमें आता है।
तकनीकी कारण और प्रॉम्प्ट हेरफेर
- कई लोग अनुमान लगाते हैं कि Gemini (DALL·E की तरह) चुपचाप प्रॉम्प्ट को “diverse”, विशेष जातीयताओं, और लिंगों जैसे शब्दों से फिर से लिख देता है।
- एक स्क्रीनशॉट में मॉडल अपने आंतरिक “diversity” प्रॉम्प्ट विस्तार की व्याख्या करता दिखता है; दूसरे कहते हैं कि मॉडल अपने ही डिज़ाइन के बारे में hallucinate कर सकते हैं।
- अन्य लोग इन कारणों की ओर इशारा करते हैं:
- बहुत अधिक फ़िल्टर किए गए datasets।
- RLHF / guardrail layers जिन्हें संकलित “safety” उदाहरणों पर प्रशिक्षित किया गया है।
- साधारण keyword gating जो कुछ संयोजनों को ब्लॉक करता है।
वास्तविकता बनाम आकांक्षा और ऐतिहासिक सटीकता
- इस पर तीव्र असहमति है कि image models को क्या करना चाहिए:
- अनुभवजन्य डेटा-वितरण (“material history”) को प्रतिबिंबित करना, भले ही वह पक्षपाती हो।
- जानबूझकर stereotypes का प्रतिकार करना और आकांक्षात्मक विविधता दिखाना।
- कई लोग तर्क देते हैं कि इतिहास और ठोस प्रश्नों (founders, Nazis, 1820 Germans) के लिए सटीकता को विविधता पर प्राथमिकता मिलनी चाहिए; इतिहास को “colorize” करना पुराने अन्यायों को छिपाता है।
- कुछ लोग हल्की-सी nudging (जैसे अधिक विविध “board members”) स्वीकार करते हैं, लेकिन Gemini के व्यवहार को हास्यास्पद रूप से बहुत भारी-हाथ वाला मानते हैं।
विश्वास, censorship, और उत्पाद पर प्रभाव
- व्यापक चिंता इस बारे में है:
- बिना बताए प्रॉम्प्ट injection और undisclosed biases का search और अन्य Google products में फैलना।
- कॉर्पोरेट “ideology” का product quality और user intent पर हावी होना।
- कुछ लोग इसे open models और user-controllable “diversity settings” के पक्ष में तर्क मानते हैं; सुझावों में शामिल हैं:
- “historically accurate” बनाम “diversity-enhanced” जैसे toggles।
- system prompts और bias-correction rules का स्पष्ट disclosure।
- दूसरे अधिक संशयवादी हैं: उपयोगकर्ता कुछ महीनों में इसे भूल सकते हैं, लेकिन यह घटना Google की AI judgment पर भरोसे को नुकसान पहुँचाती है।