EU 2 अगस्त से प्रामाणिक दिखने वाली AI सामग्री पर लेबल अनिवार्य करेगा
नए EU नियम जल्द ही AI-जनित “प्रामाणिक दिखने वाली” छवियों, ऑडियो और वीडियो पर लेबल अनिवार्य करेंगे, खासकर उन डीपफेक्स पर जो दर्शकों को भ्रमित कर सकते हैं। टिप्पणीकार विभाजित हैं: कुछ इसे बड़े पैमाने पर फैली गलत सूचना के खिलाफ उपभोक्ता और लोकतंत्र की रक्षा के लिए आवश्यक कदम मानते हैं, जबकि अन्य को डर है कि यह अप्रभावी, अत्यधिक व्यापक, या नौकरशाही सत्ता हड़पने जैसा होगा जिसे बुरे अभिनेता बस अनदेखा कर देंगे। बहस इस बात पर केंद्रित है कि AI और “authentic” को कैसे परिभाषित किया जाए, क्या लेबल बस पृष्ठभूमि शोर बन जाएंगे, और क्या cryptographic provenance systems या अन्य तकनीकी उपकरण अधिक प्रभावी होंगे।
नियम का समग्र उद्देश्य
- कई लोग इस लक्ष्य को AI पर प्रतिबंध लगाने के बजाय उपभोक्ताओं और लोकतंत्र को धोखाधड़ी और डीपफेक प्रचार से बचाने के रूप में देखते हैं।
- समर्थक इसे “Made in X” / स्वास्थ्य चेतावनियों जैसा मानते हैं: लोगों को यह जानने का अधिकार है कि वे क्या देख रहे हैं और वह कितना कृत्रिम है।
- आलोचकों का तर्क है कि यह लंबे समय से चली आ रही छवि-हेरफेर (Photoshop, VFX, रिटच किए गए मॉडल) को अनदेखा करते हुए “AI BAD” को निशाना बनाता है।
अनिवार्य AI लेबल के पक्ष में तर्क
- लोगों को “AI slop” को फ़िल्टर करने और प्रामाणिक मानवीय आवाज़ें खोजने में मदद मिलती है, जो अन्यथा दब सकती हैं।
- इसे एस्बेस्टस, एयरबैग, शराब, सिगरेट के लेबलिंग के समान माना जाता है: व्यक्तियों के लिए हर चीज़ को स्वयं सत्यापित करना वास्तविक रूप से संभव नहीं है।
- इसे भ्रामक जनरेटिव AI (डीपफेक, नकली घटनाएँ) पर केंद्रित एक पहला, सीमित कदम माना जाता है, न कि हर छोटे AI टूल पर।
- कुछ का तर्क है कि जब संस्थाएँ गलत लेबल लगाने या लेबल न लगाने में पकड़ी जाती हैं, तो इससे कानूनी दबाव और प्रतिष्ठात्मक परिणाम उत्पन्न होते हैं।
विरोध में / चिंताएँ
- सेंसरशिप, “AI commissars,” नौकरशाही सत्ता हड़पने और नई प्रवर्तन शक्तियों से सक्षम भ्रष्टाचार का डर।
- चिंता कि लेबल झूठा भरोसा पैदा करते हैं: बिना लेबल का मतलब प्रामाणिक नहीं, लेकिन उपयोगकर्ता ऐसा मान सकते हैं।
- चिंता कि नियामकीय बोझ बड़े खिलाड़ियों के पक्ष में जाएगा; लेबल cookie banners या सर्वत्र मौजूद “may cause cancer” नोटिसों की तरह पृष्ठभूमि शोर बन सकते हैं।
- कुछ लोग दार्शनिक रूप से आपत्ति करते हैं: लोगों को भरोसा नियामकों को सौंपने के बजाय स्वयं स्रोतों की जाँच करनी चाहिए।
दायरा, परिभाषाएँ, और अस्पष्टता
- इस पर बहस कि “authentic-looking,” “real people,” और “AI system” क्या गिनता है; कुछ लोग नोट करते हैं कि EU कानून कोड-जैसी सटीकता के बजाय “reasonable person” मानकों पर निर्भर करता है।
- AI-जनित, AI-सहायता प्राप्त, और तुच्छ प्रोसेसिंग (smartphone image pipelines, seam carving, मामूली style edits) के बीच की सीमाएँ स्पष्ट नहीं हैं।
- कुछ लोग बताते हैं कि आधिकारिक पाठ deepfakes और ऐसी सामग्री पर केंद्रित है जिसे वास्तविक घटनाओं के रूप में गलत समझा जा सकता है, न कि AI के हर उपयोग पर।
व्यावहारिकता और विकल्प
- संदेह है कि बुरे इरादे वाले लोग (जैसे विदेशी प्रचारक) अनुपालन करेंगे; प्रवर्तन केवल उन्हीं तक सीमित होगा जो अधिकार-क्षेत्र में आते हैं।
- अन्य लोग कहते हैं कि आंशिक अनुपालन और जुर्माने (जैसे राजस्व का %) बड़े उल्लंघनकर्ताओं पर भी ठंडा प्रभाव डाल सकते हैं।
- पूरक उपायों के सुझाव: cameras में cryptographic signing, provenance chains (जैसे C2PA), और मजबूत watermarking.