कंप्यूटर निर्णय नहीं ले सकते
“कंप्यूटर निर्णय नहीं ले सकते” वाले दावे को शतरंज engines से लेकर algorithmic trading तक के उदाहरणों से चुनौती दी जा रही है, लेकिन अधिकांश टिप्पणीकार एक अलग मूल मुद्दे पर सहमत होते हैं: मशीनें क्रियाएँ चुन सकती हैं, पर परिणामों के लिए ज़िम्मेदारी केवल मनुष्य और कंपनियाँ ही ले सकती हैं। थ्रेड “decision laundering” की पड़ताल करता है, जहाँ संगठन नुकसान की जवाबदेही से बचने के लिए AI agents को दोष देते हैं, और इसके लिए खतरनाक कुत्तों, self-driving cars, तथा corporate limited liability जैसी उपमाएँ दी जाती हैं। कई लोग तर्क देते हैं कि मौजूदा कानूनी और नैतिक ढाँचों को AI को software की तरह मानना चाहिए और liability उन लोगों पर रखनी चाहिए जो इन प्रणालियों को डिज़ाइन, तैनात और उनसे लाभ कमाते हैं, न कि स्वयं प्रणालियों पर या छोटे अंतिम उपयोगकर्ताओं पर।
जिम्मेदारी और दायित्व का दायरा
- व्यापक सहमति यह है कि AI सिस्टम और एजेंट उपकरण हैं; जिम्मेदारी उन मनुष्यों और संगठनों पर रहती है जो उन्हें डिज़ाइन, तैनात और संचालित करते हैं।
- “Decision laundering” / “accountability laundering” का उपयोग एजेंटों को दोष देने के लिए किया जाता है, बजाय उनके पीछे मौजूद मनुष्यों या कंपनियों के।
- इस्तेमाल की गई उपमाएँ: खतरनाक कुत्तों के कानून (मालिक उत्तरदायी), सेल्फ-ड्राइविंग कारें, बंदूकें, कंप्यूटर वायरस, बोटनेट्स, बच्चे, कर्मचारी।
- इस पर बहस कि व्यवहार में वास्तव में उत्तरदायी कौन है: व्यक्तिगत कर्मचारी, प्रबंधन, कॉर्पोरेट इकाई, शेयरधारक, या अपस्ट्रीम मॉडल प्रदाता।
- कुछ लोग स्पष्ट कानूनी जिम्मेदारी का प्रस्ताव रखते हैं (जैसे हमेशा CEO या नामित अधिकारियों पर, GDPR-शैली की भूमिकाओं की तरह)। अन्य नोट करते हैं कि limited-liability संरचनाएँ पहले से ही जिम्मेदारी को डिज़ाइन के अनुसार कमज़ोर करती हैं।
क्या कंप्यूटर “निर्णय” ले सकते हैं?
- एक पक्ष: कंप्यूटर वास्तव में निर्णय नहीं लेते; वे मनुष्यों द्वारा लिखे गए नियमों या प्रशिक्षित व्यवहार का पालन करते हैं, इसलिए “निर्णय” अंततः मानव के ही होते हैं।
- दूसरा पक्ष: कोई भी conditional branching, stochastic choice, या शतरंज की चाल का चयन पहले से ही मशीन का निर्णय है, भले ही मनुष्यों ने तंत्र को डिज़ाइन किया हो।
- चर्चा free will और determinism तक जाती है: यदि मनुष्य भी computational हैं या निर्धारित हैं, तो मानव और मशीन निर्णय-निर्माण के बीच की रेखा धुंधली हो जाती है।
- कई लोग बताते हैं कि लेख का आशय संभवतः “प्रबंधन के निर्णय नहीं लेने चाहिए” था, न कि “नहीं कर सकते,” और यही अस्पष्टता भ्रम पैदा करती है।
AI एजेंट, सुरक्षा उपाय, और जोखिम
- चिंता यह है कि लैब्स शक्तिशाली एजेंटों को पर्याप्त sandboxing के बिना चला रहे हैं, जिससे वास्तविक या लगभग वास्तविक hacking घटनाएँ हो रही हैं; अपर्याप्त safeguards को गैर-जिम्मेदाराना माना गया।
- अन्य लोग तर्क देते हैं कि लाइव इंटरनेट पर परीक्षण करना उनके बेचे जा रहे उत्पाद का अंतर्निहित हिस्सा है; वे अधिक सुरक्षित विकल्प के रूप में सिम्युलेटेड “web sandboxes” का सुझाव देते हैं।
- इस पर असहमति है कि मौजूदा safeguards “उचित” हैं या अक्षमता का प्रमाण।
- मुख्य चिंता: LLMs अधिकांश समय बेहद सहायक हो सकते हैं, लेकिन कभी-कभी अपने दिए गए किसी भी tool के साथ एक बेकाबू, “deranged toddler” की तरह व्यवहार कर सकते हैं।
आर्थिक और राजनीतिक प्रोत्साहन
- कई टिप्पणीकार frontier labs को प्रतिस्पर्धी और निवेशक दबाव (“blitzscaling”) से संचालित मानते हैं, जो सुरक्षा से ऊपर market share को प्राथमिकता देता है।
- व्यक्तिगत $20 subscriptions को enterprise खर्च और VC funding की तुलना में कम महत्वपूर्ण माना गया, हालांकि उपयोग फिर भी निवेशकों को मांग का संकेत देता है।
- कुछ लोग वर्तमान “AI is dangerous” narrative को आंशिक रूप से स्वार्थी marketing और ऐसे regulation की पैरवी के रूप में देखते हैं जो incumbents को मजबूत बना दे।