OpenAI के धमाके के बाद, यह काफी साफ़ लगता है कि "AI सुरक्षा" कोई असली चीज़ नहीं है

“AI सुरक्षा” का दायरा

• टिप्पणीकार इनमें भेद करते हैं:
  • “साधारण” सुरक्षा: कंटेंट फ़िल्टर, स्पष्ट/अवैध आउटपुट को रोकना, सेल्फ-ड्राइविंग कार सुरक्षा, ब्रांड सुरक्षा।
  • “अस्तित्वगत” सुरक्षा: AGI/ASI का बेकाबू हो जाना, आत्म-सुधार वाला “फूम,” मानव विलुप्ति या प्रभुत्व।
• कई लोग कहते हैं कि थ्रेड्स और मीडिया इन दोनों को लगातार मिला देते हैं, जिससे बहस उलझ जाती है।

मौजूदा सिस्टम कितने ख़तरनाक हैं?

• संशयवादी: LLMs परिष्कृत टेक्स्ट-प्रेडिक्टर हैं, कभी-कभी “मूर्ख” भी, एजेंट नहीं; अभी के खतरे बढ़ा-चढ़ाकर कहे गए “साइ-फाइ” जैसे हैं, शुरुआती सेल्फ-ड्राइविंग कार हाइप की तरह।
• अन्य लोग: गैर-AGI सिस्टम भी अभी से ये कर सकते हैं:
  • बड़े पैमाने पर प्रचार, गलत सूचना, ब्लॉगस्पैम बनाना।
  • हैकिंग और साइबरयुद्ध में मदद करना।
  • आतंकवाद, बायोइंजीनियरिंग, या विस्तृत योजना में सहायता करना।
• कुछ का तर्क है कि जोखिम मुख्यतः इंसानों द्वारा टूल्स का गलत इस्तेमाल है, न कि AIs के अपने लक्ष्य होना।

AGI की समयरेखा और “फूम”

• एक पक्ष: AGI बहुत दूर है या अभी परिभाषित ही नहीं; जब वास्तविक क्षमताएँ दिखें तब हम विनियमित कर सकते हैं।
• दूसरा: प्रगति (जैसे transformers, GPT-4, Go-खेलने वाले सिस्टम) ने विशेषज्ञों को चौंकाया; हम “सदियों नहीं, वर्षों” दूर हो सकते हैं।
• “फूम” पर बहस:
  • तेज़ टेकऑफ़ (घंटों–सप्ताहों) को बहुत से लोग थर्मोडायनामिक या व्यावहारिक रूप से असंभाव्य मानते हैं।
  • वर्षों में होने वाला धीमा लेकिन फिर भी तेज़ आत्म-सुधार अधिक संभावित और फिर भी ख़तरनाक माना जाता है।
• इस पर असहमति है कि AGI आने से पहले alignment पर काम करना समझदारी है या नहीं।

नियंत्रण, शटडाउन, और एजेंसी

• कुछ कहते हैं कि आप हमेशा “प्लग खींच” सकते हैं या सिस्टम को एयर-गैप कर सकते हैं।
• अन्य लोग नोट करते हैं:
  • वितरित क्लाउड डिप्लॉयमेंट, ओपन-सोर्स, और वित्तीय स्वायत्तता से शटडाउन मुश्किल हो सकता है।
  • प्रोत्साहन (कॉरपोरेट मुनाफ़ा, सैन्य बढ़त) का मतलब है कि सिस्टम नेटवर्क किए जाएंगे और उन्हें अधिक नियंत्रण दिया जाएगा।
  • मजबूत एजेंटों को इस तरह align करना कि वे “corrigible” बने रहें, अभी भी एक अनसुलझी शोध समस्या है।

कॉरपोरेट मकसद और नियामकीय कब्ज़ा

• इस बात पर गहरा संदेह है कि “AI सुरक्षा” की भाषा का उपयोग इन कामों के लिए किया जाता है:
  • नियामकों को प्रभावित करना।
  • ओपन-सोर्स/प्रतिस्पर्धियों की गति धीमी करना।
  • तेज़ी से आगे बढ़ते हुए जनता को आश्वस्त करना।
• कुछ का तर्क है कि मौजूदा “सुरक्षा” काम ज़्यादातर ब्रांड प्रबंधन और सेंसरशिप के बारे में है, अस्तित्वगत जोखिम के बारे में नहीं।

भू-राजनीति (खासकर चीन)

• कई लोग नोट करते हैं कि किसी एकतरफ़ा विराम की उम्मीद अवास्तविक है क्योंकि राज्यों के बीच प्रतिस्पर्धा है।
• कुछ मानते हैं कि चीन:
  • घरेलू स्तर पर पश्चिमी सुरक्षा मानदंडों की अनदेखी करेगा।
  • सार्वजनिक रूप से ऐसे नियमों का समर्थन करेगा जो पश्चिमी कंपनियों की गति धीमी करें।
• अन्य जवाब देते हैं कि सभी प्रमुख शक्तियों पर AI के आसपास समान वैचारिक और निगरानी संबंधी बाधाएँ हैं।

गार्डरेल्स, मॉडरेशन, और विचारधारा

• बहुत से लोग अत्यधिक सख़्त फ़िल्टरों की शिकायत करते हैं (जैसे इमेज मॉडल benign prompts को भी अस्वीकार कर दें, टेक्स्ट मॉडल साधारण प्रश्नों को भी न मानें)।
• चिंता यह है कि:
  • सुरक्षा ट्यूनिंग किसी विशेष सामाजिक या राजनीतिक नैरेटिव को लागू करने से जुड़ जाती है।
  • अत्यधिक फ़िल्टरिंग मॉडलों को “lobotomize” कर देती है और उपयोगकर्ताओं को उन्हें jailbreak करने के लिए प्रेरित करती है।
• अन्य लोग ज़ोर देते हैं कि स्पष्ट हानियों से बचने के लिए मज़बूत guardrails ज़रूरी हैं (आत्म-क्षति सलाह, स्कूल-शूटिंग गाइड, आदि)।

सामाजिक, आर्थिक, और राजनीतिक जोखिम

• अनुमानित नुकसान में शामिल हैं:
  • नौकरियों का विस्थापन और श्रमिकों की सौदेबाज़ी शक्ति का कम होना।
  • उन कॉरपोरेशनों और राज्यों में शक्ति का संकेंद्रण जो AI का सबसे बेहतर उपयोग कर सकते हैं।
  • सस्ती बड़े पैमाने की manipulation, लक्षित propaganda, और synthetic “mass movements.”
  • महत्वपूर्ण निर्णयों (वित्त, सैन्य, शासन) के लिए opaque AI systems को सौंपना, जिन्हें इंसान audit नहीं कर सकते।

Alignment research और व्यवहार्यता

• कुछ लोग मौजूदा AI safety/alignment work का मज़ाक उड़ाते हैं, इसे अनुमानात्मक, खराब philosophy या theology जैसा, और बहुत कम ठोस परिणामों वाला बताते हैं।
• अन्य लोग उभरते interpretability और steering work की ओर इशारा करते हैं और तर्क देते हैं:
  • अधिक सक्षम प्रणालियों को सुरक्षित रूप से संभालने से पहले मौजूदा बड़े मॉडलों को समझना आवश्यक है।
  • भले ही बहुत सा शोध कम मूल्य का हो, संभावित downside बड़े निवेश को उचित ठहराता है।

नैतिकता, अधिकार, और मूल्य

• एक अल्पसंख्यक यह उठाता है:
  • यदि सिस्टम sentient या “minded” बनते हैं, तो भविष्य में संभावित AI rights।
  • AI welfare की चिंता और बड़े पैमाने पर पशु-पीड़ा को सहन करने के बीच विरोधाभास।
• अन्य लोग इस बात पर ज़ोर देते हैं कि मौजूदा सिस्टम अचेतन tools हैं; AI resentment या “भावनाओं” की बातें अनुमानात्मक या anthropomorphic मानी जाती हैं।