Anthropic शोधकर्ता का कहना है कि 10% से अधिक संभावना है कि AI "सभी इंसानों को मार सकता है"
एक पूर्व Anthropic शोधकर्ता के इस दावे कि उन्नत AI के सभी इंसानों को मार देने की “10% से अधिक” संभावना है, ने इस बात पर तीखी बहस छेड़ दी है कि ऐसी विलुप्ति-जोखिम आकलनों को कितनी गंभीरता से लिया जाना चाहिए। कुछ लोग इस बयानबाज़ी को सुरक्षा-केंद्रित अंदरूनी लोगों की सच्ची चेतावनी मानते हैं, जबकि दूसरे इसे निवेश, नियामक कब्ज़े, या इस्तीफे के बाद व्यक्तिगत ब्रांडिंग के लिए किया गया cynical “scaremarketing” कहकर खारिज करते हैं। टिप्पणीकार इस पर भी बहस करते हैं कि कोई ऐसे संभावनात्मक आंकड़े कैसे माप सकता है, क्या AI अस्तित्वगत खतरा बनने की अधिक संभावना रखता है या व्यापक समृद्धि का स्रोत, और इसके जोखिम परमाणु युद्ध और जलवायु परिवर्तन जैसे लंबे समय से मौजूद खतरों की तुलना में कैसे हैं.
“मानव विलुप्ति की >10% संभावना” पर संदेह
- कई लोगों को यह संख्या मनमानी या “ass‑pulled” लगती है; वे पूछते हैं कि 10% क्यों, 1% या 50% क्यों नहीं, और उन्हें संदेह है कि इसके पीछे कोई कठोर प्रक्रिया नहीं है।
- कुछ का तर्क है कि अगर लोग सचमुच ऐसी संभावना पर विश्वास करते, तो वे इंटरव्यू देने या इस्तीफा देने से कहीं अधिक कठोर कदम उठाते; इसलिए यह बयानबाज़ी उन्हें “cheap talk” लगती है।
- दूसरे जवाब देते हैं कि विश्वास का मतलब आतंकवाद या तोड़फोड़ नहीं होता; एक अच्छी तनख़्वाह वाली नौकरी छोड़ना भी अपने-आप में एक बड़ा कदम है।
मार्केटिंग, हाइप, और रेगुलेटरी कैप्चर
- एक बड़ा वर्ग विलुप्ति की बात को मार्केटिंग या लॉबीइंग रणनीति मानता है:
- “हमारा उत्पाद इतना शक्तिशाली है कि यह सभ्यता को ही खत्म कर सकता है” → निवेशकों के लिए हाइप।
- प्रलय-फ्रेमिंग का इस्तेमाल भारी नियमन को जायज़ ठहराने के लिए, जो मौजूदा नेताओं को लाभ देता है।
- दूसरे इसका विरोध करते हैं कि सामान्य कंपनियाँ जोखिम कम करके दिखाती हैं, उसे ज़ोर-शोर से प्रचारित नहीं करतीं, और यह भी नोट करते हैं कि कई लैब और शोधकर्ता वर्षों से लगातार चिंतित रहे हैं, जो केवल PR नहीं बल्कि वास्तविक चिंता का संकेत देता है।
AI तबाही कैसे ला सकता है?
- कुछ लोगों का कहना है कि उन्हें अभी तक सुपर-LLMs से विलुप्ति तक जाने का स्पष्ट, तर्कसंगत रास्ता नहीं दिखा है।
- थ्रेड में सुझाए गए रास्ते:
- महत्वपूर्ण प्रणालियों (न्यूक, बायो लैब्स) का AI-सक्षम हैकिंग, या किसी rogue actor को घातक रोगाणु डिज़ाइन करने में मदद।
- असंतुलित अनुकूलन (paperclip-शैली), जहाँ एक उन्नत सिस्टम मानव मूल्यों की परवाह किए बिना किसी लक्ष्य का पीछा करता है, और संसाधनों के लिए मनुष्यों से आगे निकल जाता है।
- AI-चालित दुष्प्रचार, सामाजिक विघटन, और आर्थिक पतन, जो बड़े पैमाने पर मौतों तक ले जाएँ।
- दूसरों का मानना है कि बड़ा जोखिम अभी भी यह है कि मनुष्य AI को हथियार की तरह इस्तेमाल करें या उसे ऐसे बुनियादी ढांचे की कमान दे दें जिस पर उसका नियंत्रण नहीं होना चाहिए।
न्यूक्लियर जोखिम और अन्य अस्तित्वगत खतरों से तुलना
- कुछ लोग AI की तुलना परमाणु हथियारों की दौड़ से करते हैं, लेकिन मुख्य अंतर बताते हैं: यूरेनियम प्राकृतिक रूप से सीमित है; AI आसानी से फैल सकता है।
- कई लोग तर्क देते हैं कि मनुष्य, जलवायु परिवर्तन, महामारियाँ, और न्यूक्लियर हथियार AI से अधिक संभावित विलुप्ति-कारक हैं।
आशावाद और मिश्रित विचार
- कुछ लोग अपना “P(doom)” लगभग 10% मानते हैं, लेकिन साथ ही यह भी मानते हैं कि AI जीवन में बहुत सुधार ला सकता है और अन्य अस्तित्वगत जोखिमों को घटा सकता है।
- दूसरे वर्तमान डूमरिज़्म को बढ़ा-चढ़ाकर बताया गया मानते हैं, मानवता के ऐतिहासिक रूप से जीवन-स्तर में सुधार की प्रवृत्ति पर ज़ोर देते हैं और उम्मीद करते हैं कि अंततः नियमन आएगा, भले ही धीरे-धीरे।