ईरानी अभियान ने ChatGPT का उपयोग करके वास्तविक अमेरिकी प्रकाशनों में फर्जी लेख लगाए
ईरानी operatives द्वारा छोटे अमेरिकी outlets के लिए ChatGPT से op-eds तैयार करने पर एक लेख इस बात की व्यापक चिंता को जन्म देता है कि सस्ते, scalable AI tools लंबे समय से चली आ रही propaganda और influence campaigns को कैसे और ताकत देते हैं। टिप्पणीकारों का तर्क है कि कई राज्य और निजी actors पहले से ही media narratives में हेरफेर करते हैं, और असल समस्याएँ कमजोर editorial safeguards, अपारदर्शी platform policies, और online content पर जनता का अत्यधिक भरोसा हैं। कुछ लोग open models और critical media literacy को केंद्रीकृत नियंत्रण से बेहतर मानते हैं, जबकि अन्य को चिंता है कि human और AI दोनों प्रणालियाँ हर तरफ से state-backed disinformation से अधिकाधिक भरती जा रही हैं।
प्रचार और ऑनलाइन सामग्री पर समग्र दृष्टिकोण
- कई लोगों का तर्क है कि अधिकांश ऑनलाइन सामग्री विचारों या उत्पादों को बेचने के लिए बनाई जाती है, अक्सर बेईमानी से, और AI केवल हेरफेर की मौजूदा प्रवृत्तियों को और बढ़ाता है।
- कई लोग नोट करते हैं कि नकली समाचार, sock puppets, और प्रभाव अभियानों का अस्तित्व AI से बहुत पहले से है; LLMs मुख्यतः लागत घटाते हैं और पैमाना बढ़ाते हैं।
- कुछ लोग इस लेख को इसे उजागर करने के लिए महत्वपूर्ण मानते हैं; अन्य इसे राजनीति के समय पर किया गया भय फैलाने वाला प्रयास और एक आधिकारिक “दुश्मन” राज्य पर केंद्रित मानते हैं।
प्रभाव के उपकरण के रूप में LLMs और उनका व्यवहार
- LLMs को ऐसे पाठ-जनरेटर के रूप में वर्णित किया गया है जो सत्य के प्रति उदासीन हैं, और उपयोगकर्ताओं को वही बताने के लिए अनुकूलित हैं जो वे सुनना चाहते हैं; “hallucinations” को असाधारण नहीं, बल्कि अंतर्निहित बताया गया है।
- एक किस्सा: ChatGPT ने एक स्थानीय नर्सरी में एक विशिष्ट पेड़ को बहुत आत्मविश्वास से “ढूँढ” लिया, एक यथार्थवादी उत्पाद पृष्ठ और स्टॉक संख्या के साथ, लेकिन नर्सरी ने उसे कभी बेचा ही नहीं था। इसे dystopian माना गया और उपकरणों पर भरोसा कम करने वाला बताया गया।
- इस पर बहस कि क्या ऐसी गलतियाँ मॉडल द्वारा विवरण गढ़ने से आती हैं या फिर अंतर्निहित SEO चालों या साइट व्यवहार से, जो गलत संकेत भेजते हैं।
विश्वास, सत्यापन, और पत्रकारिता
- टिप्पणीकार बताते हैं कि चमकदार opinion pieces को किनारे के या यहाँ तक कि mainstream outlets में रखना कितना आसान है, अक्सर PR और राजनीतिक मशीनरी के जरिए।
- चिंता है कि छोटे प्रकाशन—blogs, local papers, opinion sites—विशेष रूप से AI-निर्मित op-eds के प्रति संवेदनशील हैं, जो grassroots views का रूप धारण करते हैं।
- अन्य लोग कहते हैं कि यह “हमेशा से खेल का हिस्सा” रहा है, और लंबे समय से चली आ रही media manipulation, intelligence operations, और PR “submarining” का हवाला देते हैं।
अमेरिका बनाम विदेशी प्रचार
- कुछ लोग जोर देते हैं कि ईरानी या रूसी प्रचार पर ध्यान केंद्रित करना अमेरिका और उसके सहयोगियों के व्यापक प्रचार को नज़रअंदाज़ करता है; “red scare” मानसिकता के आरोप सामने आते हैं।
- अन्य जवाब देते हैं कि प्रचार सच या झूठ दोनों हो सकता है; महत्वपूर्ण है इरादा और framing, न कि तथ्यात्मक शुद्धता।
संभावित प्रतिक्रियाएँ और खुले प्रश्न
- सुझावों में शामिल हैं: बेहतर सत्यापन प्रथाएँ, reputation tracking, सामग्री पर cryptographic signing, और critical media literacy (सभी मीडिया को संभावित रूप से hostile मानना)।
- open-weight models पर बहस: एक दृष्टिकोण यह है कि वे किसी एक कंपनी या देश को यह नियंत्रित करने से रोकते हैं कि किसे censored किया जाए; दूसरा पूछता है कि इससे covert propaganda को सीमित करने में मदद कैसे मिलती है।
- training data “poisoning” और model तथा platform scale पर मज़बूत safeguards की कमी को लेकर चिंताएँ बनी हुई हैं।