प्रस्तावित कैलिफ़ोर्निया SB 1047 पर
कैलिफ़ोर्निया का प्रस्तावित SB 1047 बड़े AI मॉडलों के डेवलपर्स पर सुरक्षा, रिपोर्टिंग और शटडाउन आवश्यकताएँ लगाएगा, जिससे इस पर तीखी बहस छिड़ गई है कि क्या यह वास्तव में जोखिम कम करता है या बस बड़ी टेक को और मज़बूत करता है। आलोचकों का कहना है कि कंप्यूट-आधारित सीमाएँ, काग़जी कार्रवाई, और संभावित दायित्व छोटे खिलाड़ियों को दबा देंगे, काम को राज्य से बाहर धकेलेंगे, और धोखाधड़ी या मानहानि जैसे ठोस हानिकारक अनुप्रयोगों के बजाय अमूर्त “AI” को विनियमित करेंगे। समर्थकों का जवाब है कि सोशल मीडिया और अन्य अनियमित तकनीकों से मिले सबक सक्रिय सुरक्षा-बंधनों और राज्य-वित्तपोषित compute cluster जैसी सार्वजनिक अवसंरचना को उचित ठहराते हैं, ताकि AI विकास अधिक जवाबदेह और व्यापक रूप से सुलभ हो सके.
विनियमन का दायरा: मॉडल बनाम अनुप्रयोग
- बड़े फाउंडेशन मॉडलों को विनियमित करने और डाउनस्ट्रीम अनुप्रयोगों/स्वचालित निर्णय प्रणालियों को विनियमित करने के बीच स्पष्ट विभाजन है।
- आलोचकों का कहना है कि कंप्यूट/बेंचमार्क पर SB 1047 का ध्यान मौजूदा बड़ी कंपनियों के पक्ष में है, इसे आसानी से खेला जा सकता है, और छोटे खिलाड़ियों को बड़ी कंपनियों के API पर धकेलता है, जिससे एक अल्पाधिकार बनता है।
- अन्य लोगों का तर्क है कि जो चीज़ मायने रखती है, वे ऐसी प्रणालियाँ हैं जो लोगों के अधिकारों और अवसरों को प्रभावित करती हैं (ऋण, रोजगार, आदि), जिन्हें मौजूदा डेटा‑संरक्षण ढाँचे आंशिक रूप से पहले से ही कवर करते हैं।
जोखिम की रूपरेखा और अस्तित्वगत खतरे
- कुछ लोग बदचलन/“टर्मिनेटर-शैली” AI को वास्तविक मानव अभिनेताओं की तुलना में बढ़ा-चढ़ाकर बताया गया मानते हैं और तर्क देते हैं कि AI “कुछ चाहता” ही नहीं।
- अन्य लोग सोचते हैं कि यदि डेवलपर स्वयं दुनिया-समाप्ति के जोखिम की बात करते हैं, तो अकेले यही गंभीर निगरानी को उचित ठहराता है।
- बिल को मुख्यतः rogue-model जोखिम को लक्ष्य करने वाला माना जाता है, न कि उपयोगकर्ता-प्रेरित दुरुपयोग को, जिसे कुछ लोग अवधारणात्मक रूप से असंगत मानते हैं।
दायित्व, दुरुपयोग, और डीपफेक्स
- इस पर बहस है कि जब टूल्स का उपयोग धोखाधड़ी, पहचान की चोरी, या डीपफेक पोर्न के लिए किया जाए, तो डेवलपर्स या होस्टिंग फर्मों को जवाबदेह ठहराया जाना चाहिए या नहीं।
- एक पक्ष: टूल्स कारों/चाकुओं/Photoshop की तरह सामान्य-उद्देश्य हैं; धोखाधड़ी और मानहानि को दंडित करें, टूल बनाने वालों को नहीं।
- दूसरा पक्ष: पूर्वानुमेय, रोके जा सकने वाले नुकसान (जैसे सेलिब्रिटी छवियों पर प्रशिक्षण देना और नग्न डीपफेक्स को न रोकना) से कॉर्पोरेट दायित्व उत्पन्न होना चाहिए, ठीक असुरक्षित कार डिज़ाइन की तरह।
- चिंता यह है कि केवल मुकदमों पर निर्भर रहना अवास्तविक है क्योंकि नुकसान पहुँचाने की तुलना में मुकदमेबाज़ी महँगी है।
प्रतिस्पर्धा, नौकरशाही, और सीमाएँ
- चिंता है कि अनुपालन “काग़जी काम,” सुरक्षा निर्धारण, और अस्पष्ट मॉडल सीमाएँ केवल बड़ी टेक कंपनियों के लिए ही संभालने योग्य होंगी, जिससे उनका प्रभुत्व और मजबूत होगा।
- प्रतिवाद: विनियमन एंटीट्रस्ट-शैली की सीमाओं के जरिए बाजारों को खुला भी रख सकता है; अतिविनियमन और अल्पविनियमन दोनों के प्रति संदेह आवश्यक है।
- FLOPs और “state of the art” बेंचमार्क के माध्यम से बिल की मॉडल-परिभाषा को अस्पष्ट माना जाता है, जो केवल कुछ frontier LLMs ही नहीं बल्कि गैर-LLM मॉडलों को भी कवर कर सकती है।
CalCompute सार्वजनिक क्लस्टर
- कुछ लोग सार्वजनिक compute cluster को पहुँच का लोकतंत्रीकरण करने, खुला शोध सक्षम करने, और बड़ी टेक के प्रभुत्व का मुकाबला करने के लिए महत्वपूर्ण मानते हैं।
- अन्य लोग एक procurement boondoggle की आशंका करते हैं: मौजूदा contractors द्वारा कब्ज़ा, धीमा, पहुँचते ही पुराना, और संभावित रूप से खुले कार्य पर राजनीतिकरण या नियंत्रण का केंद्रीकरण।
कैलिफ़ोर्निया संदर्भ और समय
- इस पर असहमति है कि सख्त AI नियम कंपनियों और प्रतिभा को कैलिफ़ोर्निया से बाहर ले जाएँगे या नहीं, बनाम क्या फर्म ecosystem advantages के कारण वहीं रहेंगी।
- कुछ का तर्क है कि विनियमन “बहुत जल्दी” है और उसे अधिक स्पष्ट नुकसानों तक प्रतीक्षा करनी चाहिए; अन्य कहते हैं कि सोशल मीडिया प्रतीक्षा की लागत दिखाता है और हमें अभी, चरणबद्ध तरीके से, पूर्वानुमेय नुकसानों को विनियमित करना चाहिए।