छवि जनरेटरों से बदला लेने के लिए कलाकार AI को कैसे sabatoge कर रहे हैं
कलाकार “data poisoning” टूल्स के साथ प्रयोग कर रहे हैं, जो उनकी ऑनलाइन छवियों को सूक्ष्म रूप से बदलकर AI training को बाधित करते हैं, ताकि अपनी शैलियों की रक्षा की जा सके या generative image models के प्रसार को धीमा किया जा सके। टिप्पणीकार बहस करते हैं कि क्या यह रणनीति बड़े, curated datasets पर सार्थक असर डाल सकती है, और नोट करते हैं कि मॉडल पहले से ही pre-2022 “clean” data और synthetic training outputs पर भारी निर्भर हैं। तकनीकी तर्कों के नीचे कला की प्रकृति, बिना सहमति वाले काम पर प्रशिक्षण की नैतिकता, रचनात्मक आजीविका पर खतरे, और क्या AI tools का विरोध workers की principled protection है या futile neo-Luddism—इन पर गहरे विवाद हैं।
डेटा पॉइज़निंग प्रयासों की प्रभावशीलता
- कई टिप्पणीकारों को संदेह है कि कलाकार-नेतृत्व वाली poisoning (जैसे Nightshade-शैली की perturbations) बड़े मॉडलों को सार्थक रूप से नुकसान पहुँचा सकती है।
- कारण: कलाकार ऑनलाइन उपलब्ध सभी छवियों का बहुत छोटा हिस्सा हैं; बड़े मॉडल पहले से ही बड़े “pre-GPT” या LAION-जैसे कॉर्पस पर निर्भर करते हैं; प्रमुख लैब्स लगातार random web content को scrape नहीं करतीं।
- Poisoning को छोटे/fine-tuning प्रयासों की लागत बढ़ाने के रूप में अधिक देखा जाता है, न कि “AI को बर्बाद” करने के रूप में।
- अन्य लोग नोट करते हैं कि poisoning केवल तभी काम करती है जब बदली हुई छवियों को अलग पहचानना कठिन हो और वे बड़े पैमाने पर मौजूद हों, जो स्पष्ट नहीं है।
- प्रस्तावित countermeasures: मॉडलों को poison का पता लगाने/उलटने के लिए प्रशिक्षित करना, AI-generated या संदिग्ध छवियों को filter करना, या मॉडलों का version-bump करना।
सिंथेटिक डेटा और मॉडल गुणवत्ता
- एक पक्ष को डर है कि जैसे-जैसे AI increasingly AI output पर प्रशिक्षण लेता है, एक “death spiral” आएगी और गुणवत्ता गिर जाएगी।
- विरोधी पक्ष: उच्च-गुणवत्ता वाला synthetic data पहले से ही उपयोगी रहा है (जैसे GPT-4 output पर fine-tuned छोटे LMs), और अभी भी पर्याप्त वास्तविक data मौजूद है।
- thread में सहमति: naïve मामले में AI output पर retraining खराब हो सकता है, लेकिन जब curated हो तो यह शक्तिशाली है।
नैतिकता, स्वामित्व, और “Luddism”
- कई कलाकारों की प्रेरणा को non-consensual scraping और “copyright laundering” का विरोध करने के रूप में देखा गया है, सिर्फ तकनीक से नफरत करने के रूप में नहीं।
- कुछ लोग आलोचकों की तुलना ऐतिहासिक Luddites से करते हैं और उन्हें खारिज करते हैं; अन्य लोग Luddites का बचाव करते हैं, उन्हें उत्पादकता लाभों में उचित हिस्से के लिए लड़ रहे श्रमिकों के रूप में देखते हैं।
- इस पर बहस है कि क्या रचनाकारों को AI-चालित लाभों का हिस्सा मिलना चाहिए या उन्हें बस अनुकूलन करके टूल्स का उपयोग करना चाहिए।
- कई लोग भविष्यवाणी करते हैं कि जब AI white-collar काम को automate करना शुरू करेगा, तो व्यापक अशांति होगी, जो औद्योगिकीकरण की हिंसक dislocations की गूंज होगी।
क्या AI-Generated Imagery “Art” है?
- एक पक्ष: “AI art art नहीं है”; prompts और selection में embodied skill, effort, और lived experience नहीं होती। वे process, human investment, और uniqueness पर ज़ोर देते हैं।
- दूसरा पक्ष: intent और decision-making फिर भी मौजूद हैं; आधुनिक pipelines (ControlNet, LoRAs, workflows) तकनीकी artistry की मांग करते हैं, photography या 3D modeling की तरह।
- कुछ लोग सुझाव देते हैं कि AI images, photography, और painting को अलग categories की तरह देखा जाए, जिनमें से प्रत्येक का सामाजिक रूप से असाइन किया गया मूल्य अलग हो।
प्रतीकात्मक प्रतिरोध और प्रतिष्ठा संबंधी प्रभाव
- कुछ लोग कलाकारों के “spunk” की सराहना करते हैं, poisoning को विरोध और सार्वजनिक जागरूकता बढ़ाने के तरीके के रूप में देखते हैं, भले ही वह तकनीकी रूप से निष्फल हो।
- अन्य लोगों का तर्क है कि इससे मुख्यतः कलाकारों की अपनी प्रतिष्ठा को नुकसान होता है, वे तकनीकी रूप से naïve दिखते हैं और अपने घोषित लक्ष्यों को हासिल करने की संभावना कम दिखती है।