Google शोधकर्ताओं ने मांग की कि उन्हें AI के बारे में जो वे जानते हैं, उसे दुनिया को बताने की स्वतंत्रता मिले
Google की AI सुरक्षा टीम उन अनुबंधों का विरोध कर रही है जो उन्हें कंपनी छोड़ने के बाद उसकी आलोचना करने से रोकते हैं, और उनका कहना है कि उन्हें शक्तिशाली AI प्रणालियों के संभावित नुकसान के बारे में जनता को चेतावनी देने की स्वतंत्रता चाहिए। टिप्पणीकार NDA के तहत चुप रहने बनाम व्हिसलब्लोइंग की नैतिकता, AI जोखिमों की वास्तविक गंभीरता (नौकरियाँ जाने से लेकर अस्तित्वगत खतरों तक), और क्या मौजूदा क्षमताओं को देखते हुए आशंकाएँ बढ़ा-चढ़ाकर बताई गई हैं, इस पर बहस करते हैं। दूसरे ध्यान दिलाते हैं कि Google कहता है कि वह नौकरी समाप्ति के बाद वाली non-disparagement धाराओं को लागू नहीं करेगा और नए कर्मचारियों के लिए इन्हें हटाना शुरू कर दिया है, जिससे यह सवाल उठता है कि यह टकराव कितना कानूनी है और कितना नैतिक।
व्हिसलब्लोइंग, NDA, और करियर जोखिम
- इस पर बड़ी बहस कि क्या जो शोधकर्ता मानते हैं कि AI खतरनाक है, उन्हें बस नौकरी छोड़कर जनता को चेतावनी देनी चाहिए, भले ही इससे NDA टूटे।
- एक पक्ष का तर्क है कि अगर खतरा सचमुच अस्तित्वगत होता, तो लोग करियर बर्बादी स्वीकार कर लेते; हिचकिचाहट का मतलब है कि जोखिम इतना चरम नहीं है।
- दूसरे जवाब देते हैं कि व्हिसलब्लोअर्स को गंभीर कानूनी और करियर से जुड़ी प्रतिशोधात्मक कार्रवाई का सामना करना पड़ता है (प्रसिद्ध मामलों का हवाला देते हुए), और व्यक्तिगत नुकसान तर्कसंगत रूप से कम-सम्भावना वाली आपदा-चेतावनी से अधिक भारी पड़ सकता है।
- कुछ लोग पत्रकारों को गुमनाम लीक सुझाते हैं; दूसरे बताते हैं कि यह भी कानूनी रूप से जोखिम भरा है और इससे कुछ बदलना निश्चित नहीं है।
Google कर्मचारियों की नैतिक ज़िम्मेदारी
- कठोर आलोचक कहते हैं कि Google का मुख्य विज्ञापन व्यवसाय और सैन्य कार्य अंतर्निहित रूप से हानिकारक हैं, और कर्मचारी “मोटी तनख्वाह” के लिए रुकते हैं जबकि निगरानी और शक्ति-संकेंद्रण को सक्षम बनाते हैं।
- प्रति-तर्क: हर कर्मचारी के सिर पर कंपनी की हर कार्रवाई का बोझ डालना अनुचित है; विशिष्ट परियोजनाओं से नैतिक असहमति, सभी नुकसानों में प्रत्यक्ष मिलीभगत के बराबर नहीं है।
- इस पर असहमति कि Google कर्मचारियों के प्रति “अच्छी नीयत और उदारता” दिखाना उचित है या नहीं, खासकर Google के व्यापक व्यवहार के बारे में धारणाओं को देखते हुए।
Google संस्कृति और आंतरिक असहमति
- एक कथित Googler विरोध कर रहे शोधकर्ताओं को “उकसाने वालों” की एक बहुत छोटी, शोर मचाने वाली अल्पसंख्या बताता है, जिन्हें सहकर्मी नापसंद करते हैं और जिन्हें अक्सर संगठन से बाहर कर दिया जाता है; दूसरों को यह बात टालने वाली या खोखली लगती है।
- कई पूर्व या वर्तमान Googlers एक ऐसी संस्कृति का वर्णन करते हैं जो करियर प्रगति और मुआवज़े पर केंद्रित है, जहाँ आंतरिक राजनीति असहमति या प्रबंधन को अल्टीमेटम देने को हतोत्साहित करती है।
- कुछ लोग पूरे कार्यस्थल के माहौल को विषाक्त मानते हैं; दूसरे कहते हैं कि यह DoD जैसी बड़ी नौकरशाहियों से मिलता-जुलता है।
अनुबंध धाराएँ और कानूनी संदर्भ
- चर्चा NDA और non‑disparagement clauses के बीच अंतर करती है; UK के टिप्पणीकार अलग कानूनी व्यवहार और तब व्हिसलब्लोअर सुरक्षा की बात करते हैं जब मुद्दे “जनहित में” हों।
- लेख से मुख्य बात: Google कहता है कि वह सुरक्षा संबंधी चिंताओं के बारे में नौकरी छोड़ने के बाद वाली non‑disparagement धाराओं को लागू नहीं करेगा, और नए कर्मचारियों के लिए उस भाषा को हटा दिया है।
- कुछ लोग निष्कर्ष निकालते हैं कि यह विवाद विशिष्ट विस्फोटक खुलासों को दबाने से अधिक अनुबंध की भाषा साफ़ करने के बारे में है।
AI जोखिम और प्रभाव
- एक धड़ा तर्क देता है कि AI को बहुत बढ़ा-चढ़ाकर पेश किया गया है, यह AGI के करीब नहीं है, और हम ज़रूरत से ज़्यादा खर्च कर रहे हैं; दूसरा ज़ोर देता है कि मौजूदा प्रणालियाँ पहले ही गहरा डिजिटल, आर्थिक और वैज्ञानिक प्रभाव डाल रही हैं।
- “Recursive self-improvement” पर बहस: कुछ इसे विज्ञान-कथा कहते हैं; दूसरे कहते हैं कि इसके शुरुआती रूप (मॉडलों का बेहतर मॉडल प्रशिक्षित करने में मदद करना) पहले से मौजूद हैं।
- बहुतों का मानना है कि सबसे संभावित जोखिम बड़े पैमाने पर आर्थिक अव्यवस्था, सैन्य/पुलिस उपयोग में दुरुपयोग, और कॉर्पोरेट अतिक्रमण हैं, न कि निकट भविष्य में मानव विलुप्ति।