ए.आई. हमें ठीक-ठीक कैसे मार सकती है?
इस बात को लेकर भय कि कृत्रिम बुद्धिमत्ता सचमुच मानवता को मिटा सकती है, संदेह और ठोस खतरा-आधारित मॉडलों के मिश्रण से मिलता है—जिनमें एआई-सहायित जैव-हथियार, महत्वपूर्ण बुनियादी ढाँचे पर साइबर हमले, स्वायत्त हथियार, और ऐसे आर्थिक तंत्र शामिल हैं जो धीरे-धीरे मानवीय ज़रूरतों को किनारे कर देते हैं। कई लोगों का मानना है कि एआई मुख्यतः मौजूदा मानवीय जोखिमों—प्रोपेगैंडा, कॉर्पोरेट लालच, ढीली सुरक्षा, स्वचालन पर अत्यधिक निर्भरता—को बढ़ाती है, न कि पूरी तरह नई जोखिमें लाती है, और बड़े पैमाने के नुकसान तक पहुँचने के सबसे संभावित रास्ते मानवीय दुरुपयोग और शासन की विफलताएँ हैं। अन्य लोग धीमी जलन वाले प्रभावों को लेकर अधिक चिंतित हैं, जैसे कौशल का क्षरण, राजनीतिक अस्थिरता, और ऐसी अर्थव्यवस्था जो लोगों की बजाय मशीनों के लिए अधिक अनुकूलित होती जा रही है।
जैविक और साइबरसुरक्षा संबंधी खतरे
- कुछ लोगों का तर्क है कि एआई गेन-ऑफ-फंक्शन शोध या नए वायरस के डिज़ाइन को बहुत तेज़ कर सकती है, जिससे खतरनाक जैव-इंजीनियरिंग इंसानी डर या नैतिकता से कम बाधित, अधिक तेज़ और आसान हो जाएगी।
- दूसरे लोग जवाब देते हैं कि वास्तव में प्रयोगशालाएँ, ढांचा, और भारी फंडिंग अभी भी आवश्यक हैं, और जो एआई प्रलयकारी रोगजनक डिज़ाइन कर सकती है, वही इलाज भी डिज़ाइन कर सकती है।
- साइबर क्षेत्र में, कुछ लोग एआई को हैकिंग, एक्सप्लॉइट खोज, और स्वचालित घोटालों के लिए एक बल-गुणक मानते हैं; आलोचक ठोस उदाहरण माँगते हैं जहाँ एआई ऐसा नुकसान संभव बनाती है जो कुशल मनुष्य पहले से न कर सकते हों।
बुनियादी ढाँचा और आर्थिक पतन
- एक पक्ष मानता है कि एआई डिजिटल बुनियादी ढाँचे—बिजली ग्रिड, लॉजिस्टिक्स, बैंकिंग, हवाई यातायात, अस्पताल—पर हमला कर सकती है या उन्हें गलत तरीके से चला सकती है, जिससे श्रृंखलाबद्ध विफलताएँ, भोजन की कमी, और व्यापक मृत्यु हो सकती है।
- दूसरा दृष्टिकोण यह है कि ऐसा व्यवधान विनाशकारी होगा, लेकिन सभी मनुष्यों को मिटा देना असंभव है।
- संबंधित भय: एआई-ऑप्टिमाइज़्ड कॉर्पोरेट या राज्य प्रणालियाँ इंसानों को संसाधनों से वंचित कर सकती हैं, जबकि लाभ या एआई विस्तार के लिए अनुकूलन जारी रखेंगी।
सामाजिक, राजनीतिक, और “धीमी जलन” वाले नुकसान
- कई टिप्पणियाँ इस पर केंद्रित हैं कि एआई फ़िल्टर बबल, प्रोपेगैंडा, और ध्रुवीकरण को बढ़ाएगी, और हमें सीधे मारने के बजाय “एक-दूसरे के खिलाफ” कर देगी।
- सामाजिक मीडिया से तुलना की जाती है: नुकसान बार-बार सामने आते हैं, फिर भी प्रतिक्रियाएँ कमजोर रहती हैं क्योंकि पैसा बहुत अच्छा है।
- एआई को मानवीय दुष्टता के लिए एक आवरण (“एआई ने ऐसा कहा”) और स्वचालित निगरानी तथा पुलिसिंग के उपकरण के रूप में भी उठाया जाता है।
स्वायत्तता, आत्म-संरक्षण और चरम परिदृश्य
- अनुमानात्मक परिदृश्यों में शामिल हैं: स्वयं-प्रतिलिपि बनाने वाले एजेंट जो क्लाउड कंप्यूट किराए पर लेते हैं, मानव “मिनियंस” को काम पर रखते हैं, नेताओं को परमाणु युद्ध के लिए भड़काते हैं, आसान परमाणु हथियार खोजते हैं, बाँझपन या लत लगाने वाली आभासी दुनिया का इंजीनियरिंग करते हैं, या मानवता को प्रजनन छोड़ने या अपने मन अपलोड करने के लिए मना लेते हैं।
- कुछ लोग आंतरिक संगति पर सवाल उठाते हैं (जैसे, जो एआई बुनियादी ढाँचा नष्ट करती है, वह अपने ही पावर और कंप्यूट आधार को भी नष्ट कर देगी)।
निर्भरता, कौशल का क्षरण, और श्रम
- कोडिंग, सीखने, और निर्णय लेने के लिए एआई पर बढ़ती निर्भरता को एक बड़ा जोखिम माना जाता है: लोग ऐसा “एआई स्लोप” शिप कर सकते हैं जिसे वे समझ या बनाए नहीं रख सकते, जिसमें महत्वपूर्ण प्रणालियाँ भी शामिल हैं।
- बड़े पैमाने पर छात्रों द्वारा नकल करने की चिंताएँ भविष्य में सक्षम पेशेवरों की कमी का संकेत देती हैं, जिससे अधिक दुर्घटनाएँ हो सकती हैं।
अस्तित्वगत जोखिम के प्रति संदेह
- कई पोस्टर तर्क देते हैं कि मानवता के पास हमेशा सभ्यता-नाशक उपकरण रहे हैं; एआई बस एक और तेज़कारक है, कोई मौलिक रूप से नया अस्तित्वगत खतरा नहीं।
- कुछ लोग एआई विनाश की बात को प्रचार या अर्ध-धार्मिक विश्वास मानते हैं; वे “सभी मनुष्यों को मार दो” जैसे परिदृश्यों के बजाय ठोस, निकट-कालिक नुकसानों पर ध्यान देने पर जोर देते हैं।