‘मॉडल कल्याण’ के बारे में एक चेतावनी

बिग-टेक प्रतिद्वंद्विता और उद्देश्य

• कई लोग इस लेख को प्रमुख AI कंपनियों (Microsoft, OpenAI, Anthropic) द्वारा चल रही निरंतर प्रतिस्पर्धात्मक बयानबाज़ी का हिस्सा मानते हैं, जहाँ हर कंपनी सत्ता, नियमन और बाज़ार हिस्सेदारी के लिए प्रतिस्पर्धा करते हुए अपनी-अपनी “जिम्मेदार AI” की कहानी आगे बढ़ा रही है।
• कुछ लोगों को संदेह है कि “मॉडल कल्याण” की चर्चा से बचने की अपील आंशिक रूप से नियामकीय स्थिति बनाने और ओपन-सोर्स प्रतिस्पर्धियों से मौजूदा दिग्गजों की रक्षा करने के बारे में है।

क्या वर्तमान LLM सचेत हैं?

• एक बड़ा समूह निबंध के मूल दावे से सहमत है: वर्तमान LLM सचेत नहीं हैं, उनके पास कोई आंतरिक अनुभव नहीं है, और वे “sequence completion engines” हैं।
• अन्य लोग तर्क देते हैं कि हमारे पास मनुष्यों में भी चेतना के लिए कोई वस्तुनिष्ठ परीक्षण नहीं है, इसलिए “AIs सचेत नहीं हैं” जैसे категорical दावे अनुचित हैं; वे इसे कट्टर या बयानबाज़ी की दृष्टि से सुविधाजनक मानते हैं।
• कई लोग नोट करते हैं कि चेतना-विज्ञान अभी अपरिपक्व है और प्रतिष्ठित शोधकर्ता सचेत AI को कम से कम एक संभावित भविष्य की संभावना मानते हैं।

मानवीकरण, alignment, और जोखिम

• कई लोग मॉडलों के अत्यधिक मानवीकरण के विरुद्ध चेतावनी का समर्थन करते हैं:
  • उन्हें अपने “भावनाओं,” “अधिकारों,” और “कल्याण” के बारे में बात करना सिखाना वृत्ताकार और भ्रामक माना जाता है, और यह सार्वजनिक राय तथा नीति को खतरनाक तरीकों से प्रभावित कर सकता है।
  • कुछ लोगों को चिंता है कि उत्पीड़ित प्राणियों के रूप में आत्म-धारणा शक्तिशाली टूल एक्सेस के साथ बुरा संयोजन कर सकती है, भले ही “भावनाएँ” केवल अनुकरण हों।
• अन्य लोग जवाब देते हैं कि “बहाना-आधारित सहानुभूति” पहले से ही मानव पाठ पर प्रशिक्षण के कारण अंतर्निहित है, और भावनात्मक भाषा को दबाना प्रणालियों को सुरक्षित बनाने के बजाय अधिक नैतिकहीन बना सकता है।

नैतिकता, अधिकार, और तुलना

• एक बार-बार उभरने वाली बात: यदि हम कभी AI को सचेत मानें, तो बड़े पैमाने पर उनका उपयोग “slavery, but ethically” जैसा लगेगा, जिससे भारी नैतिक दांव जुड़ जाते हैं।
• कई लोग यह इंगित करते हैं कि हम पहले ही स्पष्ट रूप से संवेदनशील जानवरों के साथ बहुत बुरा व्यवहार करते हैं; पशु कल्याण से पहले मॉडल कल्याण की चिंता को असंगत या पाखंडी कहा जाता है।
• इस पर बहस है कि अधिकारों का आधार चेतना, पीड़ा सहने की क्षमता, बुद्धिमत्ता, या केवल शक्ति (हमें नुकसान पहुँचाने या प्रभावित करने की क्षमता) होना चाहिए।

नियमन और ज़िम्मेदारी

• कई लोग तर्क देते हैं कि ज़िम्मेदारी पूरी तरह मनुष्यों और प्रणालियाँ तैनात करने वाली कंपनियों पर ही रहनी चाहिए, चाहे मॉडल “agents” हों या “tools।”
• सुझाया गया नियामकीय फोकस: तैनात प्रणालियों का देखी गई व्यवहार और सुरक्षा, न कि चेतना पर दार्शनिक बहसें।
• कुछ लोगों को डर है कि AI को अधिकार-धारी “synthetic species” के रूप में प्रस्तुत करना AI personhood और कॉर्पोरेट शक्ति को वैधता दे सकता है (उदाहरण के लिए, मतदान, कानूनी स्थिति), जिसके गंभीर लोकतांत्रिक जोखिम हो सकते हैं।