मैं ऐसे कोड देने से परहेज़ करूँगा जिसमें concepts शामिल हों, क्योंकि आप 18 से कम हैं
Google के Gemini AI ने हाल ही में 18 से कम उम्र के रूप में चिह्नित एक उपयोगकर्ता को C++ “concepts” कोड दिखाने से इनकार कर दिया, सुरक्षा चिंताओं का हवाला देते हुए, जिससे उसके अत्यधिक सतर्क गार्डरेल्स और प्रोग्रामिंग “safety” तथा बाल-सुरक्षा के बीच स्पष्ट भ्रम पर व्यापक मज़ाक बना। टिप्पणीकार इस घटना के ज़रिए गहरी समस्याएँ उठाते हैं: प्रशिक्षण डेटा और मॉडरेशन ह्यूरिस्टिक्स कैसे चूकते हैं, पूर्वाग्रह-शमन और ऐतिहासिक या तकनीकी सटीकता के बीच तनाव, और कैसे कॉर्पोरेट संस्कृति, PR संवेदनशीलताएँ, और विज्ञापनदाता की माँगें बड़े भाषा मॉडलों के व्यवहार को आकार दे रही हैं — और अक्सर बिगाड़ रही हैं। कई लोग Google की चूकों की तुलना प्रतिस्पर्धियों से करते हैं, सवाल उठाते हैं कि क्या ऐसे alignment प्रयास राजनीतिक रूप से प्रेरित हैं या बस खराब इंजीनियरिंग हैं, और चिंता करते हैं कि अत्यधिक सावधान “safety” उत्पाद की गुणवत्ता को नुकसान पहुँचाएगी और सक्षम उपयोगकर्ताओं को शिशुवत बनाएगी।
Gemini का C++ “Concepts” से इनकार
- Gemini ने 18 से कम उम्र के रूप में चिह्नित एक उपयोगकर्ता को “concepts” का उपयोग करने वाला C++ कोड देने से इनकार कर दिया, यह दावा करते हुए कि concepts “उन्नत” और “जोखिमभरे” हैं।
- टिप्पणीकार इसे एक चूक मानते हैं, जहाँ “concepts” को “conception” के साथ या “unsafe/खतरनाक” प्रोग्रामिंग विशेषताओं के साथ ग़लत तरीके से मिला दिया गया।
- कई लोगों को यह हास्यास्पद और मज़ेदार लगता है (“C++ कोड करने के लिए बहुत छोटा”), लेकिन साथ ही यह सुरक्षा ट्यूनिंग की गहरी समस्याओं का लक्षण भी है।
सुरक्षा फ़िल्टर, आयु-सीमाएँ, और मॉडरेशन रणनीति
- कई लोगों का तर्क है कि यह संभवतः टेक्स्ट-क्लासिफ़िकेशन गार्डरेल्स से उत्पन्न होता है: जिन भाषाओं/विशेषताओं को “unsafe,” “dangerous,” या “footguns” कहा जाता है, वे नाबालिगों के लिए प्रतिबंधित हो जाती हैं।
- कुछ लोग under-18 खातों के लिए अत्यधिक व्यापक system prompts (“नाबालिगों के लिए अनुपयुक्त concepts का उल्लेख न करें”) का संदेह करते हैं, जिन्हें मॉडल शाब्दिक रूप से समझ लेता है।
- इस पर बहस है कि क्या यह व्यवहार प्रशिक्षण डेटा (अंदर तक बैठा हुआ) से आता है या बाद में किए गए prompt injection और fine-tuning से; कुछ लोग Google के इस दावे पर संदेह करते हैं कि यह केवल prompts का परिणाम है।
- कई लोग नोट करते हैं कि कोई भी “unsafe” या “dangerous” प्रोग्रामिंग प्रश्न (जैसे unsafe Rust, innerHTML) अक्सर ऐसे ही इनकार को ट्रिगर करता है, यहाँ तक कि अन्य मॉडलों में भी।
पूर्वाग्रह, DEI, और छवि/इतिहास से जुड़े विवाद
- थ्रेड इसे Gemini की विविधता/छवि संबंधी समस्याओं से जोड़ता है (जैसे नाज़ियों या अमेरिकी क्रांति के नस्लीय रूप से मिश्रित चित्रण)।
- एक पक्ष विविधता-आधारित हस्तक्षेप को पक्षपाती प्रशिक्षण डेटा का आवश्यक सुधार मानता है, और कभी-कभार होने वाले हास्यास्पद आउटपुट को एक समझौते के रूप में स्वीकार करता है।
- दूसरे इसे DEI/“woke” प्राथमिकताओं और विज्ञापनदाता-संवेदनशीलता से प्रेरित वैचारिक अतिरेक मानते हैं, जो ऐतिहासिक रूप से गलत परिणाम पैदा करता है और भरोसा कम करता है।
- कुछ का तर्क है कि “विविध रहें, लेकिन ऐतिहासिक रूप से सीमित संदर्भों में नहीं” को बिना अंतहीन विशेष मामलों के एन्कोड करना संरचनात्मक रूप से कठिन है।
Google की संस्कृति और AI रणनीति
- कई टिप्पणियाँ Google की आंतरिक संस्कृति को दोष देती हैं: जोखिम का डर, “मेरी समस्या नहीं” वाला रवैया, और उपयोगिता की कीमत पर ब्रांड सुरक्षा को लेकर अत्यधिक चिंता।
- नेतृत्व के फ़ैसलों (जैसे पुनर्गठन, LLM काम की ownership बदलना) को OpenAI की पहले की, उत्पाद-केंद्रित पुनरावृत्ति की तुलना में सीखने के चक्रों को धीमा करने वाला बताया गया है।
- विज्ञापन-चालित प्रोत्साहन कथित तौर पर Google को PR आपदाओं से बचने और विज्ञापनदाताओं को खुश रखने को प्राथमिकता देने के लिए प्रेरित करते हैं, भले ही इसकी कीमत अति-सेन्सरशिप ही क्यों न हो।
भाषाओं, प्रगति, और LLM सीमाओं पर विचार
- C/C++ और Unix को “footguns” कहने वाले मज़ाक और आलोचनाएँ एक व्यापक बहस की ओर ले जाती हैं: क्या वे शानदार नींव थे या पुरानी तरकीबें जिन्हें हम कभी पीछे नहीं छोड़ पाए?
- कुछ लोग तर्क देते हैं कि नए स्टैक्स (Rust, Java, आदि) साफ़ तौर पर “बेहतर” हैं; अन्य लोग नोट करते हैं कि “प्रगति” की कोई सर्वसम्मत परिभाषा नहीं है।
- कई लोग ज़ोर देते हैं कि LLMs समझते नहीं हैं; वे सिर्फ़ पैटर्नों का सहसंबंध करते हैं, इसलिए किसी प्रश्न के पास मौजूद भ्रामक वाक्यांश उत्तरों और मॉडरेशन को अप्रत्याशित रूप से भटका सकते हैं।