EU ChatGPT और AI तकनीक को विनियमित करने के लिए समझौता करता है
EU विधायकों ने AI Act पर एक राजनीतिक समझौता किया है, जो एक ऐतिहासिक रूपरेखा होगी और बायोमेट्रिक निगरानी, सामाजिक स्कोरिंग, तथा कमजोर लोगों को हेरफेर करने वाले सिस्टम जैसे कृत्रिम बुद्धिमत्ता के “उच्च-जोखिम” उपयोगों को कड़ाई से विनियमित करेगी, साथ ही शक्तिशाली foundation models पर पारदर्शिता और पंजीकरण की जिम्मेदारियाँ लगाएगी। टिप्पणीकार बड़े पैमाने की निगरानी और अपारदर्शी निर्णय-निर्माण पर रोक का व्यापक समर्थन करते हैं, लेकिन इस बात पर तीखी असहमति है कि अंतर्निहित मॉडलों और open source टूल्स को विनियमित करना नागरिकों की रक्षा करेगा या केवल AI नवाचार और निवेश को यूरोप से बाहर धकेल देगा। कई लोग इस कदम की तुलना GDPR से करते हैं: तकनीकी दिग्गजों पर लगाम लगाने का एक नेकनीयत प्रयास, जो अनुपालन लागत बढ़ा भी सकता है, बड़े स्थापित खिलाड़ियों को और मजबूत कर सकता है, और EU उपयोगकर्ताओं को विदेशी प्लेटफार्मों पर निर्भर छोड़ सकता है।
AI Act की स्थिति / पाठ की उपलब्धता
- कई टिप्पणीकार नोट करते हैं कि “समझौता” राजनीतिक है, अंतिम कानून नहीं; सटीक विधायी पाठ और संशोधन अभी सार्वजनिक नहीं थे।
- इस पर कुछ भ्रम है कि क्या कानून “पास” हो गया है; थ्रेड में आम सहमति: एक समझौता मौजूद है, लेकिन कानूनी मसौदा, अनुवाद और औपचारिक वोट अभी बाकी हैं।
“AI” की परिधि और परिभाषा
- EU का दृष्टिकोण जोखिम- और उपयोग-आधारित है (जैसे कानून प्रवर्तन, शरण निर्णय आदि जैसे “उच्च-जोखिम” सिस्टम), केवल मशीन लर्निंग से जुड़ा नहीं।
- परिशिष्ट-शैली की परिभाषाएँ उद्धृत की गईं: AI में मशीन लर्निंग, नियम-आधारित/विशेषज्ञ सिस्टम, तर्क-आधारित सिस्टम, और सांख्यिकीय/खोज/अनुकूलन विधियाँ शामिल हैं।
- शब्दावली को लेकर बहस: कुछ का तर्क है कि इससे “अब तक बना हर प्रोग्राम” AI बन जाता है; अन्य कहते हैं कि कानून तकनीक की परवाह किए बिना संवेदनशील उपयोगों को विनियमित करता है।
बायोमेट्रिक्स, सामाजिक स्कोरिंग, और हेरफेर
- उच्च-जोखिम/प्रतिबंधित क्षेत्रों में शामिल हैं: लाइव चेहरे की पहचान (कानून-प्रवर्तन के संकीर्ण अपवादों के साथ), संवेदनशील विशेषताओं (जाति, लैंगिक अभिविन्यास, धर्म, राजनीतिक विश्वास) के आधार पर बायोमेट्रिक वर्गीकरण, सामाजिक स्कोरिंग, और संज्ञानात्मक/व्यवहारिक हेरफेर।
- स्वचालित नस्ल/विशेषता पहचान पर प्रतिबंध को लेकर विवाद:
- आलोचकों का कहना है कि यह अव्यावहारिक है, उपयोगी विश्लेषण को कमजोर करता है, और प्रणालियों को विशेषताओं का अप्रत्यक्ष रूप से अनुमान लगाने के लिए प्रेरित करेगा।
- समर्थकों का कहना है कि संवेदनशील विशेषताओं के आधार पर स्वचालित प्रोफाइलिंग स्वभावतः खतरनाक है और जब इसे मैन्युअल रूप से किया जाता है, तो अक्सर पहले से ही अवैध होती है।
- बड़े पैमाने पर निगरानी, प्रेडिक्टिव पुलिसिंग, और सामाजिक स्कोरिंग को लेकर इसी तरह की चिंताएँ हैं, जिनमें चीन और यूरोप व अन्य जगहों के वास्तविक घोटालों के संदर्भ दिए गए हैं।
विनियमन बनाम नवाचार / EU की प्रतिस्पर्धात्मकता
- मजबूत विभाजन:
- आलोचक: EU “खुद को बाज़ार से बाहर विनियमित” कर रहा है, बड़े इंटरनेट प्लेटफार्मों के साथ देखे गए पैटर्न को दोहरा या बढ़ा रहा है; छोटी कंपनियाँ EU को जियोब्लॉक कर सकती हैं, लॉन्च में देरी कर सकती हैं, या बाज़ार से पूरी तरह बच सकती हैं; बड़ी स्थापित कंपनियों द्वारा नियामकीय कब्ज़े का डर है।
- समर्थक: बड़े बाह्य प्रभावों वाली तकनीक (निगरानी, भेदभाव, हेरफेर) को ज़रूर सीमित किया जाना चाहिए; सोशल-मीडिया के अनुभव को दोहराने से बेहतर है कि शुरुआत में ही कार्रवाई की जाए; कुछ लोग स्पष्ट रूप से अनियंत्रित नुकसान की तुलना में धीमे नवाचार को पसंद करते हैं।
- यूरोप की व्यापक तकनीकी पिछड़न (US-प्रभुत्व वाले प्लेटफॉर्म, पूंजी पूल, खंडित बाज़ार) और क्या विनियमन कारण है या लक्षण, इस पर चर्चा।
Foundation Models, Open Source, और दस्तावेज़ीकरण
- “foundation models” पर वार्ताएँ विवादास्पद रहीं।
- रिपोर्टेड समझौता: शक्तिशाली foundation models के लिए प्रतिबंध और पारदर्शिता की जिम्मेदारियाँ, लेकिन open-source models के लिए व्यापक छूट/लाभ।
- कुछ लोग इसे बड़ी कंपनियों के lock-in और “black box” सिस्टम के खिलाफ सुरक्षा के रूप में स्वागत करते हैं; अन्य को डर है कि foundation models के लिए अनिवार्य पंजीकरण और दस्तावेज़ीकरण “code as munitions”-शैली के नियंत्रण को फिर से जीवित करने जैसा है।
- इस पर असहमति कि इससे FOSS मजबूत होगा या दबेगा; व्यावहारिक रूप से “training” बनाम “fine-tuning” का भेद कैसे किया जाएगा, यह अस्पष्ट है।
देयता, Black Boxes, और उच्च-जोखिम उपयोग
- कई लोगों का तर्क है कि मूल मुद्दा जवाबदेही है: जो संस्थाएँ जीवन-परिवर्तनकारी निर्णय लेने वाले सिस्टम (क्रेडिट, कल्याण, पुलिसिंग, शरण, चिकित्सा triage) तैनात करती हैं, उन्हें पूरी तरह जिम्मेदार होना चाहिए और परिणामों की व्याख्या करने में सक्षम होना चाहिए।
- अतीत के नुकसान (एल्गोरिदमिक भेदभाव, कल्याण घोटाले, पक्षपाती स्वास्थ्य और भर्ती उपकरण) को सामान्य डेटा-सुरक्षा कानून से आगे स्पष्ट AI नियमों के औचित्य के रूप में उद्धृत किया गया है।
- प्रतिवाद: भेदभाव और डेटा प्रसंस्करण (जैसे GDPR) पर मौजूदा कानून पर्याप्त होने चाहिए; AI-विशिष्ट परतें जोड़ना अतिरेक और नौकरशाही बोझ का जोखिम पैदा करता है।
GDPR उपमा और कार्यान्वयन संबंधी चिंताएँ
- कुछ लोग इसे “नया GDPR” बनते हुए देखते हैं: बड़े फर्म अनुपालन को सम्हाल सकते हैं; छोटे साइट/उत्पाद EU उपयोगकर्ताओं को ब्लॉक कर सकते हैं।
- अन्य का जवाब है कि GDPR अनुपालन आसान है यदि आप आक्रामक ट्रैकिंग से बचें; “cookie banner hell” को दुर्भावनापूर्ण या राजनीतिक डिज़ाइन के रूप में प्रस्तुत किया जाता है, न कि कानून द्वारा अनिवार्य।
- इसी तरह की आशंका कि AI नियमों का न्यूनतम और विरोधात्मक रूप से पालन किया जाएगा, जिससे अच्छा UX नहीं बल्कि रक्षात्मक कानूनीवाद पैदा होगा।
कॉपीराइट, प्रशिक्षण डेटा, और संपत्ति अधिकार
- एक समूह का तर्क है कि मॉडलों को तब तक बेचना अवैध होना चाहिए जब तक उनका प्रशिक्षण डेटा लाइसेंस प्राप्त और प्रमाणनीय न हो; अन्य जवाब देते हैं कि यह प्रमाण-भार को उलट देता है और अधिकांश वर्तमान तरीकों को अपराध बना देगा।
- कॉपीराइट को समाप्त या कमजोर करने बनाम सांस्कृतिक उत्पादन के लिए उसे आवश्यक मानने पर साइड बहस; कोई सहमति नहीं।
मेटा-स्तरीय चिंताएँ
- मूल दार्शनिक विभाजन:
- एक धड़ा निगमों पर अविश्वास करता है, मजबूत विनियमन का पक्षधर है, और AI को सार्वजनिक नियंत्रण की आवश्यकता वाले एक और क्षेत्र के रूप में देखता है।
- दूसरा धड़ा राज्यों और EU नौकरशाही पर अविश्वास करता है, धीरे-धीरे बढ़ते नियंत्रण और नवाचार के गला घोंटने से डरता है, और तकनीक के बजाय केवल हानिकारक उपयोगों पर ध्यान केंद्रित करना पसंद करेगा।