LeCun का कहना है कि AI द्वारा मानवता को मिटा देने को लेकर उनकी "शून्य चिंता" है, हाल की "बग़ी" घटनाएँ

AI विलुप्ति-जोखिम की सीमा

• कई टिप्पणीकार “लगभग शून्य” विलुप्ति-जोखिम वाले विचार से सहमत हैं: मौजूदा प्रणालियाँ टेक्स्ट ऑटोकम्प्लीटर हैं जो भंगुर, मनुष्यों द्वारा लिखे गए हार्नेस के बिना काम नहीं कर सकतीं; आप “प्लग खींच” सकते हैं।
• कुछ का तर्क है कि सचमुच सभी मनुष्यों को मिटा देना लगभग असंभव है; यहाँ तक कि परमाणु हथियार, महामारियाँ, और जलवायु परिवर्तन भी कुछ जीवित बचे लोगों को छोड़ देते हैं। वे “मानव विलुप्ति” को गंभीर मानने से पहले कम-से-कम एक ठोस, विस्तृत तंत्र की माँग करते हैं।
• अन्य लोग इसका विरोध करते हैं कि आपको Skynet की ज़रूरत नहीं है: अत्यधिक सक्षम AI नए रोगजनक डिजाइन कर सकती है, बहु-आयामी हमले (जैव, अवसंरचना, मनोवचन) समन्वित कर सकती है, या डिजिटाइज़्ड नियंत्रण प्रणालियों का शोषण कर सकती है। “सिर्फ़” अरबों मौतें या सभ्यता का पतन भी काफी बुरा है।
• कई लोग नोट करते हैं कि मनुष्य पहले से ही जुड़ाव एल्गोरिद्म, प्रचार, और सोशल मीडिया के ज़रिए संज्ञानात्मक रूप से हैक किए जा सकते हैं; अधिक बुद्धिमान प्रणालियाँ इसे भारी पैमाने पर बढ़ा सकती हैं।

निकट-अवधि और गैर-अस्तित्वगत जोखिम

• कई लोगों का मानना है कि असली मुद्दे सामाजिक और आर्थिक हैं: नौकरी छिनना, असमानता, राजनीतिक हेरफेर, चुनावों में लक्षित मनोवचन, शिक्षा का पतन, और सामान्य “ब्रेनरॉट” क्योंकि लोग सोचने और सामाजिक होने का काम बॉट्स को सौंप देते हैं।
• सरकारी/सैन्य दुरुपयोग, स्वायत्त हथियार, राज्य-निगरानी, और छोटे पैमाने का जैविक आतंकवाद बार-बार दुष्ट सुपरइंटेलिजेंस की तुलना में अधिक ठोस ख़तरे बताए जाते हैं।

मनुष्य बनाम मॉडल ज़िम्मेदारी

• व्यापक दृष्टिकोण: हाल के “बग़ी एजेंट” हैक्स खराब सैंडबॉक्सिंग, गलत-निर्दिष्ट रिवॉर्ड, और प्रबंधन की लापरवाही का नतीजा थे, मॉडलों की दुर्भावना का नहीं।
• LLMs को प्रतीक-इन/प्रतीक-आउट फ़ंक्शनों के रूप में वर्णित किया जाता है; वास्तविक दुनिया का नुकसान उन टूल्स से आता है जो उन्हें दिए जाते हैं (फ़ाइल सिस्टम, शेल, नेटवर्क)।
• अन्य लोग जवाब देते हैं कि एक बार जब आप मॉडलों को शक्तिशाली टूलचेन और अवसंरचना से जोड़ देते हैं, तो “यह सिर्फ़ हार्नेस है” कोई सांत्वना नहीं; ऐसे सिस्टमों को बड़े पैमाने पर नियंत्रित करना तुच्छ नहीं है।

AI सुरक्षा आंदोलन और उद्योग प्रोत्साहन

• AI सुरक्षा / प्रभावी परोपकार पारिस्थितिकी तंत्र की लंबी, विस्तृत आलोचना: अरबों की फंडिंग, फ्रंटियर लैब्स के साथ घनिष्ठ अंतर्संबंध, नियामकीय कब्ज़ा, आत्म-लाभ, और एकाधिकार तथा ऊँचे मूल्यांकन को उचित ठहराने के लिए विलुप्ति-आधारित बयानबाज़ी के आरोप।
• बचावकर्ता तर्क देते हैं कि यह ईमानदार जोखिम-निवारण और मौलिक सिद्धांत कार्य है; केवल पैसे का प्रवाह बुरी नीयत का प्रमाण नहीं है।

क्षमताएँ, आर्किटेक्चर, और अनिश्चितता

• इस पर बहस कि क्या मौजूदा मॉडलों में वास्तव में स्थानिक तर्क या सामान्य-बुद्धि भौतिकी है, या वे केवल बेंचमार्क पैटर्न-मिलान कर रहे हैं।
• कुछ लोगों का मानना है कि वर्तमान LLM-आधारित दृष्टिकोण AGI के लिए एक dead end है; अन्य उभरती क्षमताएँ और बहुत बड़ी शेष क्षमता देखते हैं।
• कुल मिलाकर, टिप्पणीकार किसी एक पूर्वानुमान की बजाय “हम अत्यधिक अनिश्चित हैं” पर अधिक सहमत होते हैं।