AI सलाह ने लोगों को कम सटीक लेकिन ज़्यादा आत्मविश्वासी बना दिया – अध्ययन
एक अध्ययन के अनुसार AI-समर्थित सलाह लोगों को कम सटीक लेकिन अधिक आत्मविश्वासी बना देती है: एक LLM तक पहुँच मिलने पर प्रतिभागियों की “मुझे नहीं पता” कहने की प्रवृत्ति काफी घट गई, भले ही मॉडल अक्सर गलत था। टिप्पणीकार अध्ययन-डिज़ाइन पर सवाल उठाते हैं—यह कहते हुए कि समान प्रभाव किसी भी प्राधिकार-जैसे लेकिन दोषपूर्ण स्रोत से आ सकते हैं—फिर भी व्यापक रूप से यह मानते हैं कि यह ऑटोमेशन बायस और AI पर ज़्यादा भरोसे को उजागर करता है। कई लोग Reddit, कार्यस्थल चैट, और तकनीकी फ़ोरम जैसे वास्तविक उदाहरणों की ओर इशारा करते हैं, जहाँ उपयोगकर्ता बिना जाँचा AI आउटपुट अपनी भाषा में चिपकाते हैं, जिससे सूचना-गुणवत्ता में गिरावट, आलोचनात्मक सोच की हानि, और बेहतर मानदंडों व मॉडल व्यवहारों की आवश्यकता को लेकर चिंताएँ बढ़ती हैं.
अध्ययन लिंक और बुनियादी निष्कर्ष
- टिप्पणी करने वालों ने वास्तविक प्रीप्रिंट ढूँढ निकाला और उसे साझा किया; कुछ लोगों ने द्वितीयक कवरेज के बजाय उसे सीधे पढ़ना पसंद किया।
- शीर्षक-स्तर का सार बार-बार दोहराया गया: AI सलाह ने “मुझे नहीं पता” वाले उत्तर कम कर दिए और कुल सटीकता घटा दी, जबकि आत्मविश्वास बढ़ा दिया।
- कुछ लोगों ने ध्यान दिलाया कि प्रतिभागियों को सही होने के लिए आर्थिक प्रोत्साहन दिया गया था, फिर भी उन्होंने खराब AI उत्तरों का पालन किया।
अध्ययन की रूपरेखा और दायरे पर आलोचनाएँ
- कई लोगों का तर्क है कि यह प्रयोग किसी खास तरह की “AI” को अलग नहीं करता: यह मूलतः “खुली किताब, लेकिन एक दोषपूर्ण संदर्भ” जैसा है।
- उपयोग किए गए मॉडल (Step 3.5 Flash) को जानबूझकर चुना गया और उसे दुर्लभ फ़िल्म-आधारित दृश्य ट्रिविया पर गलत होने के लिए प्रॉम्प्ट किया गया; आलोचकों का कहना है कि यह सामान्य AI उपयोग जैसा नहीं है और परिणामों को भारी रूप से पक्षपाती बनाता है।
- नियंत्रण की कमी: गैर-AI उपकरणों (जैसे खराब पाठ्यपुस्तक या खराब खोज परिणाम) से कोई तुलना नहीं थी, इसलिए प्रभाव शायद सामान्य “ऑटोमेशन बायस” हो सकता है।
- अन्य लोग इसका प्रतिवाद करते हैं: यह फिर भी प्रासंगिक है, क्योंकि LLMs वास्तव में कई तथ्यात्मक प्रश्नों पर अविश्वसनीय होते हैं, और यह निष्कर्ष कि “लोग प्राधिकार-जैसे दिखने वाले लेकिन गलत उपकरणों पर ज़्यादा भरोसा करते हैं” फिर भी महत्वपूर्ण है।
यथार्थवाद और दांव पर सवाल
- प्रश्न तुच्छ फ़िल्म-तथ्यों से जुड़े थे; कई लोगों को संदेह है कि कम-दांव वाले ट्रिविया पर व्यवहार महत्वपूर्ण वास्तविक-विश्व निर्णयों पर लागू होता है।
- अन्य लोग सुझाव देते हैं कि अधिक मौद्रिक दांव या स्पष्ट चेतावनियाँ (“यह AI यहाँ अक्सर गलत होता है”) व्यवहार बदल सकती हैं, और इसका परीक्षण होना चाहिए।
मानवीकरण, चापलूसी, और उत्पाद डिज़ाइन
- इस बात पर चर्चा कि मार्केटिंग, UI, और “विनम्र, आत्मविश्वासी” शैली लोगों को LLMs को त्रुटिपूर्ण औज़ारों के बजाय बुद्धिमान सहकर्मियों की तरह मानने के लिए प्रेरित करती है।
- बहस कि क्या मनुष्य अनिवार्य रूप से मानवीकरण की ओर झुकते हैं, या क्या डिज़ाइन और संस्कृति इसे सार्थक रूप से कम कर सकती हैं।
ऑनलाइन सलाह और संस्कृति पर प्रभाव
- मजबूत सहमति है कि सलाह/सूचना वाले सबरेडिट्स और कुछ फ़ोरम बिना जाँच-पड़ताल वाले LLM कॉपी-पेस्ट से भर गए हैं, जिससे गुणवत्ता गिर रही है।
- लोग कार्यस्थल और समुदाय की उभरती मान्यताओं का वर्णन करते हैं: कच्चे AI डंप को हतोत्साहित करना, व्यक्तिगत संश्लेषण की मांग करना, और बिना-लेबल AI पाठ को बेईमानी या अनादर के रूप में देखना।
- चिंता है कि AI-जनित स्लॉप प्रशिक्षण डेटा में वापस चला जाता है, जिससे सूचना-गुणवत्ता में नीचे की ओर सर्पिल बनती है।
व्यापक चिंताएँ और प्रस्तावित प्रतिक्रियाएँ
- “AI-सहायित Dunning–Kruger” का डर: कम ज्ञान, अधिक आत्मविश्वास।
- सुझाव: सुरक्षा-महत्वपूर्ण संदर्भों में LLMs का उपयोग न करें, विशेषज्ञों को प्रक्रिया में बनाए रखें, आधारभूत डेटा और सत्यापन पर ज़ोर दें, और “AI की आलोचना करें” को एक कौशल के रूप में सिखाएँ।