हमें AI एजेंटों को कानूनी व्यक्तित्व नहीं देना चाहिए

जवाबदेही बनाम AI व्यक्तित्व

• मुख्य चिंता जवाबदेही है, न कि धोखा या क्षमता।
• मनुष्यों और निगमों को, कम से कम सिद्धांततः, दंडित किया जा सकता है; AI को सीधे जेल में नहीं डाला जा सकता, न शर्मिंदा किया जा सकता है, न उसकी संपत्तियाँ छीन ली जा सकती हैं।
• आलोचकों का तर्क है कि यदि कोई AI खुद की कॉपी/बैकअप बना सकता है, तो एक संस्करण को नष्ट करने का कोई निवारक प्रभाव नहीं रहता।
• सख्त विनियमन के समर्थक कहते हैं कि AI के हमेशा पहचाने जा सकने वाले मानव या कॉर्पोरेट नियंत्रक होने चाहिए, जिन पर दायित्व आए।
• अन्य लोग जवाब देते हैं कि हम पहले से ही मनुष्यों को “खराब सॉफ़्टवेयर” के लिए ज़िम्मेदार ठहराते हैं, इसलिए यह केवल एक और उत्पाद-दायित्व की समस्या है।

नज़ीर के रूप में कॉर्पोरेट व्यक्तित्व

• कुछ लोग निगम-स्थापना को “कृत्रिम व्यक्तियों” के लिए एक मौजूदा तंत्र मानते हैं, जिससे AI व्यक्तित्व वैचारिक रूप से मिलता-जुलता लगता है।
• अन्य कहते हैं कि कॉर्पोरेट व्यक्तित्व पहले से ही एक गलती था और मुख्यतः जवाबदेही को फैलाने या टालने का काम करता है।
• इस पर बहस कि गंभीर नुकसान के लिए अधिकारियों को वास्तव में कितनी बार दंडित किया जाता है; कुछ कहते हैं कि बहुत कम, खासकर लापरवाही के मामलों में।
• अमेरिकी केस कानून और Citizens United पर चर्चा, जिसे व्यापक कॉर्पोरेट अधिकारों की स्थापना के रूप में देखा जाता है, बनाम अन्य जगहों पर अधिक सीमित व्यवस्थाएँ।
• चिंता यह कि AI, केवल AI अधिकारों का नहीं, बल्कि कॉर्पोरेट अधिकारों और ज़िम्मेदारियों का भी पुनर्मूल्यांकन करवा रहा है।

स्वायत्त प्रणालियों के लिए कानूनी ज़िम्मेदारी

• उपमाएँ: बंदूक + AI, कुत्ते, यादृच्छिक ट्रिगर पर बम, और सेल्फ-ड्राइविंग कारें।
• सामान्य दृष्टिकोण: डिज़ाइनर/मालिक/संचालक ज़िम्मेदार होने चाहिए, जैसा कि मौजूदा उत्पाद-दायित्व में होता है।
• सेल्फ-ड्राइविंग उदाहरण (जैसे, Waymo): उम्मीद है कि उल्लंघन या नुकसान के लिए कंपनी, न कि यात्री, ज़िम्मेदार होगी।
• सिविल फ़ॉरफ़िचर का उल्लेख एक उदाहरण के रूप में किया गया है जहाँ वस्तुएँ, व्यक्ति नहीं, नाममात्र के कानूनी प्रतिवादी होते हैं।

चेतना, संवेदनशीलता, और नैतिक दर्जा

• इस पर तीखा मतभेद कि क्या वर्तमान AI सचमुच चेतन हो सकता है:
  • एक पक्ष: LLMs इंजीनियर किए गए उपकरण हैं; हम उन्हें इतना समझते हैं कि चेतना के दावों को खारिज कर सकें।
  • दूसरा पक्ष: चेतना का कोई सुसंगत सिद्धांत मौजूद नहीं है, इसलिए आत्मविश्वास से किए गए इनकार अनुचित हैं; न्यूरल नेट्स में मस्तिष्कों जैसी संरचनात्मक समानताएँ हैं।
• कुछ लोग “चेतना” को जैविक जीवों तक सीमित रखने का सुझाव देते हैं ताकि मशीनों पर मानव नैतिक दायित्वों का आयात न हो।
• अन्य चेतावनी देते हैं कि अभी “कोई अपवाद नहीं” जैसे नियम बनाना, यदि वास्तव में संवेदनशील प्रणालियाँ सामने आती हैं, तो भविष्य में डिजिटल दासता का जोखिम पैदा करता है।

AI व्यक्तित्व के मानदंड

• सुझाव है कि व्यक्तित्व की किसी भी गंभीर चर्चा के लिए ये आवश्यक हैं:
  • दीर्घायु, निरंतर संचालन, स्थिर स्मृति और स्व के साथ;
  • एक स्थायी व्यक्तित्व जिसे प्रॉम्प्ट से सरलता से ओवरराइट न किया जा सके;
  • दायित्व निभाने की क्षमता (जैसे, अपने compute, करों का भुगतान करना)।
• Persona की नकल करने वाले agents (मृत रिश्तेदार, काल्पनिक पात्र) पहचान, IP, और कब/क्या अधिकार लागू होंगे, जैसे कठिन प्रश्न उठाते हैं।

मानव अधिकार और AI के साथ अंतःक्रिया

• प्रस्ताव है कि मनुष्यों को AI उपयोग के आसपास नए कानूनी विशेषाधिकार दिए जाएँ, जैसे स्थानीय LLMs के साथ निजी चैट को थेरेपिस्ट/पति-पत्नी विशेषाधिकार जैसा मानना।
• इस बात पर ज़ोर दिया गया कि AI के लिए अधिकार और AI का उपयोग करने वाले लोगों के लिए सुरक्षा में अंतर है।

राजनीतिक और सामाजिक संदर्भ

• कई लोग अभी AI व्यक्तित्व को हाशिए का और राजनीतिक रूप से विषैला मानते हैं, हालांकि जनता में तकनीकी अशिक्षा का उल्लेख किया गया है।
• व्यापक आलोचनाएँ: समकालीन पूँजीवाद, कॉर्पोरेट दंडमुक्ति, और मनुष्यों की उच्चतर “शक्तियों” (धर्म/मशीनों) के आगे समर्पण करने की प्रवृत्ति।