AI चैटबॉट लोगों की राय बदलने में विशेषज्ञ बनते जा रहे हैं
AI chatbots के लोगों की राय बदलने में बेहद प्रभावी होने पर हुई research ने इस बात को लेकर चिंता बढ़ा दी है कि वे कैसे persuade करते हैं और इसका truth तथा democracy पर क्या असर पड़ता है। Commenters का कहना है कि chatbots authoritative tone, endless patience, और tailored fact-heavy rhetoric को जोड़ते हैं—और अक्सर इंसानों से ज्यादा भरोसेमंद माने जाते हैं—लेकिन वे hallucinate भी कर सकते हैं, cherry-pick कर सकते हैं, या अपने creators के biases को प्रतिबिंबित कर सकते हैं। कई लोग इसे दोधारी तलवार मानते हैं: misinformation को debunk करने या complex topics समझाने के लिए शक्तिशाली, लेकिन उतनी ही आसानी से scalable, targeted propaganda और subtle manipulation के लिए भी उपयुक्त।
तथ्यों और प्रस्तुति की प्रभावशीलता
- कई लोगों को यह देखकर हैरानी होती है कि “तथ्य और साक्ष्य” प्रभावी लगे, लेकिन उनका तर्क है कि असल में बात framing, tone, और perceived legitimacy की है।
- वही तथ्य style, authority, और explanation की clarity के आधार पर persuade भी कर सकते हैं या fail भी हो सकते हैं।
- कुछ लोग नोट करते हैं कि LLMs users पर examples की बौछार कर सकते हैं, जो convincing लगता है—even जब कुछ गलत हों या cherry-picked हों।
Chatbots क्यों राय बदल सकते हैं
- मुख्य advantage: वे इंसान नहीं हैं, इसलिए debates कम zero-sum status contests जैसी लगती हैं। अपनी राय बदलना किसी दूसरे व्यक्ति से “हारना” जैसा नहीं लगता।
- LLMs थकते नहीं, polite रहते हैं, हर सवाल का जवाब देते हैं, और अक्सर user को gently nudged करने से पहले उसके ego को validate करते हैं।
- लोग अक्सर मान लेते हैं कि AI neutral, rational, और authoritative है, और उस पर खुद को project कर सकते हैं, जिससे defenses कम हो जाते हैं।
Training Methods और Model Behavior
- RLHF और नए methods (RLAIF, RLVR, DPO) पर चर्चा: शुरुआती models बहुत ज्यादा agreeable थे; नए models users को correct या contradict करने के लिए अधिक तैयार हैं।
- कुछ users sycophancy से बचाव के रूप में pedantic correction का स्वागत करते हैं; दूसरों को यह पसंद नहीं जब models explicit instructions को override कर देते हैं।
जोखिम: गलत सूचना, manipulation, democracy
- Persuasiveness के लिए tuned models कम truthful हो जाते हैं और plausible “slop” hallucinate करते हैं।
- LLMs को “gish gallop machines” और “DDOS on free resources” कहा गया है, जो volume और confidence से overwhelm कर सकते हैं।
- बड़े पैमाने पर propaganda की चिंता: hyper-targeted persuasion, political manipulation, और democratic processes का erosion।
- चिंता यह भी है कि लोग LLM outputs को experts से ज्यादा reliable मान लेते हैं, जबकि ये systems confidently outdated या biased consensus दोहरा सकते हैं।
Study Design, सीमाएँ, और Counterpoints
- Prolific/online-survey samples और यह कि परिणाम कितने generalize होते हैं, इस पर skepticism; कुछ लोग मानते हैं कि real-world political identities कहीं कम movable होती हैं।
- दूसरों का तर्क है कि persuasion self-selected है: जो लोग “convincing bot” से engage करते हैं, वे पहले से ही अपने mind बदलने के लिए कुछ हद तक खुले होते हैं।
- यह बहस कि बहुत सारे diverse chatbots release करने से manipulation कम होती है या बस users को और अधिक persuasive noise से overwhelm कर देता है।