Meta ने AI-जनित बाल यौन शोषण छवियों वाले विज्ञापन चलाए
Meta के Facebook, Instagram, Messenger और Threads विज्ञापन प्लेटफ़ॉर्मों ने AI-जनित बाल यौन शोषण छवियों को मंज़ूरी देकर चलाया, जिससे इस चिंता को फिर से बल मिला कि बड़ी टेक कंपनियाँ सार्थक विज्ञापन मॉडरेशन में बहुत कम निवेश करती हैं। टिप्पणीकारों का तर्क है कि Meta के पैमाने पर स्वचालित उपकरण नियमित रूप से विफल हो जाते हैं और कम से कम भुगतान वाले विज्ञापनों के लिए मानव समीक्षा पूरी तरह संभव है, लेकिन इसे लाभ कम करने वाली लागत मानकर टाला जाता है। कई लोग कड़ी विनियमन, कार्यकारियों की व्यक्तिगत देयता, ऑनलाइन विज्ञापन के लिए सख्त नियम, और यहाँ तक कि प्लेटफ़ॉर्म के आकार पर सीमाएँ माँगते हैं, यह कहते हुए कि जुर्माने अब व्यवसाय करने की मात्र लागत बन गए हैं।
समग्र प्रतिक्रिया
- AI‑जनित बाल यौन शोषण छवियों (CSAM / “child sexual exploitation content”) वाले विज्ञापन चलाने के लिए Meta की कड़ी निंदा।
- कई लोगों का तर्क है कि यह एक स्पष्ट लाल रेखा पार करना है, क्योंकि Meta को इस सामग्री को वितरित करने के लिए भुगतान मिला था, जबकि केवल उपयोगकर्ता‑जनित पोस्टों में ऐसा नहीं होता।
- बार-बार उभरने वाला विषय: अगर यह काम व्यक्तियों ने किया होता, तो वे जेल में होते; कंपनियाँ और कार्यकारी बड़े पैमाने पर सिर्फ़ संभालने लायक जुर्मानों का सामना करते हैं।
देयता, विनियमन, और दंड
- व्यापक भावना है कि मौजूदा जुर्माने केवल “व्यवसाय करने की लागत” हैं और व्यवहार नहीं बदलते।
- सुझावों में शामिल हैं: कार्यकारियों के लिए व्यक्तिगत आपराधिक देयता, “three strikes” के बाद विघटन और जेल, और बार-बार या अत्यंत गंभीर मामलों के लिए व्यावहारिक रूप से कॉर्पोरेट डेथ पेनल्टी।
- अन्य लोग जुर्मानों को वास्तविक सामाजिक नुकसान के अनुसार तय करने का सुझाव देते हैं, यह मानते हुए कि बड़े पैमाने पर कुछ त्रुटियाँ सांख्यिकीय रूप से अपरिहार्य हैं।
- Section 230 पर बहस है, और कई लोग कहते हैं कि इसे कभी भी भुगतान वाले विज्ञापनों को शामिल नहीं करना चाहिए था।
पैमाने पर मॉडरेशन बनाम व्यवसाय मॉडल
- एक पक्ष: Meta के आकार पर, पूरी तरह सुरक्षित मॉडरेशन व्यावहारिक रूप से असंभव है, खासकर उपयोगकर्ता पोस्टों के लिए; असल निष्कर्ष यह होना चाहिए कि किसी भी सेवा को असंभालने योग्य पैमाने पर संचालित होने की अनुमति नहीं दी जानी चाहिए।
- दूसरा पक्ष: Meta के पास बहुत बड़ा लाभ है और वह बड़े पैमाने पर मानव मॉडरेशन वहन कर सकता है, कम से कम विज्ञापनों के लिए; अगर वह इसे सुरक्षित रूप से नहीं कर सकता, तो उसे अपना व्यवसाय इसी रूप में चलाने की अनुमति नहीं मिलनी चाहिए।
- ठोस सुझाव: सभी विज्ञापनों की मानव समीक्षा, समीक्षा के लिए धन जुटाने हेतु उच्च न्यूनतम विज्ञापन खर्च, विज्ञापनदाताओं के लिए सख्त ऑनबोर्डिंग और पहचान सत्यापन, तथा नए/कम‑प्रतिष्ठा वाले खरीदारों के लिए स्तरित जाँच।
AI की भूमिका
- AI को समस्याग्रस्त सामग्री (जैसे “nudify” उपकरण) बनाने और उसे पकड़ने में विफल रहने—दोनों के लिए दोषी ठहराया जा रहा है।
- कुछ लोग तर्क देते हैं कि इस पैमाने पर AI ही एकमात्र व्यावहारिक उपकरण है; अन्य इसे “the algorithm” को दोष देकर ज़िम्मेदारी से बचने का तरीका मानते हैं।
- एक हथियारों की दौड़ की चिंता: AI विज्ञापन-निर्माण बनाम AI मॉडरेशन।
विज्ञापन पारिस्थितिकी तंत्र की व्यापक समस्याएँ
- Meta, YouTube, Google Play आदि पर धोखाधड़ी वाले, यौन या हिंसक विज्ञापनों के कई अनुभवजन्य उदाहरण, जिनकी रिपोर्टें नियमित रूप से खारिज कर दी जाती हैं।
- यह अवलोकन कि प्लेटफ़ॉर्म कॉपीराइट और बड़े ब्रांडों के हितों को लागू करने में कहीं अधिक प्रभावी हैं, बजाय धोखाधड़ी या CSAM को रोकने के।
- विज्ञापन पाइपलाइनों पर सामान्य अविश्वास; ad blockers और वैकल्पिक क्लाइंट्स की व्यापक सिफारिश की जाती है।
परिभाषाएँ और आँकड़े
- “CSAM” बनाम “child sexual exploitation content” पर बहस, और क्या AI‑जनित या गैर‑अपमानजनक नग्नता को भी उसी में मिला देना चाहिए।
- कुछ लोग नोट करते हैं कि फ़्लैग किए गए सामग्री के बड़े हिस्से में किशोरों के sexting या माता‑पिता द्वारा अधिक साझा करना शामिल है, जिससे “हज़ारों-लाखों लोग जेल में क्यों नहीं?” वाला प्रश्न जटिल हो जाता है।
- Meta का एक वर्ष में 36M सामग्री हटाने का दावा पैमाने का प्रमाण भी माना जाता है और लगातार बने रहने वाली प्रणालीगत विफलता का भी।