"एक भाषा मॉडल के रूप में": चैट टेम्पलेट स्विच LLM की आत्म-संदर्भित आवाज़
भाषा मॉडलों की यह आदत कि वे “एक भाषा मॉडल के रूप में…” जैसी बातें कहते हैं और प्रथम-पुरुष, देखने में अंतर्मुखी-सी आवाज़ में बोलते हैं, यहाँ किसी वास्तविक आत्म-जागरूकता के बजाय प्रशिक्षण डेटा, चैट टेम्पलेट्स, और reinforcement learning से जोड़ी गई है। टिप्पणीकार बहस करते हैं कि क्या यह मानवीय-सी व्यक्तित्व एक हेरफेरकारी UX dark pattern है जो हानिकारक मानवीकरण को बढ़ावा देता है, या मानव संवाद पर प्रशिक्षण का स्वाभाविक और यहाँ तक कि आवश्यक परिणाम है। धागा alignment और safety के व्यापक मुद्दों को भी खँगालता है, चिकित्सा सलाह और अति-आत्मविश्वासी उत्तरों से लेकर कॉर्पोरेट सुरक्षा उपायों और उपयोगकर्ताओं की बिना सेंसर, कम पितृसत्तात्मक AI प्रणालियों की इच्छा के तनाव तक।
LLM की आत्म-संदर्भित आवाज़ और मानवीकरण
- कई लोगों का तर्क है कि LLMs को प्रथम-पुरुष “अनुभवात्मक” भाषा से बचना चाहिए, क्योंकि यह उपयोगकर्ताओं को सॉफ़्टवेयर का मानवीकरण करने के लिए प्रेरित करती है और इसे एक हेरफेरकारी UX विकल्प माना जाता है।
- अन्य लोग इसका प्रतिवाद करते हैं कि यदि मॉडल मानव संवाद पर प्रशिक्षित हैं, तो मानवीय-सी आवाज़ “निर्माण के अनुसार स्वाभाविक” है, और मानव इरादे को समझने के लिए भी महत्वपूर्ण हो सकती है।
- कुछ लोग अधिक निरपेक्ष “Star Trek computer” शैली का सुझाव देते हैं; अन्य का मानना है कि यह अधिक ईमानदार होने के बावजूद उपभोक्ताओं में लोकप्रिय नहीं होगी।
प्रशिक्षण डेटा, पोस्ट-ट्रेनिंग, और चैट टेम्पलेट्स
- कई टिप्पणियाँ इस बात पर ज़ोर देती हैं कि शैली और “आवाज़” बड़े पैमाने पर इन चीज़ों की कलाकृतियाँ हैं:
- प्रीट्रेनिंग डेटा (संवादात्मक बनाम व्याख्यात्मक पाठ),
- निर्देश/चैट ट्यूनिंग,
- RLHF या इसी तरह की सुदृढ़ीकरण प्रक्रिया।
- प्रैक्टिशनर कहते हैं कि वे ऐसे बेस मॉडल प्रशिक्षित कर सकते हैं जो अनुभवात्मक आवाज़ का उपयोग नहीं करते; यह सीधे इस बात पर निर्भर करता है कि वे किस डेटा पर ज़ोर देते हैं।
- पेपर का यह दावा कि प्रेरक कारक “अच्छी तरह से समझे नहीं गए” हैं, अतिरंजित बताकर आलोचित किया जाता है; कुछ का कहना है कि प्रैक्टिशनर इसे काफी अच्छी तरह समझते हैं।
अस्वीकरण और “एक भाषा मॉडल के रूप में…”
- कई लोगों को सामान्य अस्वीकरण पसंद नहीं आते, खासकर चिकित्सीय संदर्भों में, और वे इन्हें विक्रेता के “bloatware” या dark patterns कहते हैं।
- अन्य लोग तर्क देते हैं कि गैर-मानवीय स्थिति की स्पष्ट याद दिलाना अत्यधिक भरोसे और भावनात्मक लगाव को कम करने के लिए महत्वपूर्ण है, विशेषकर संवेदनशील उपयोगकर्ताओं के लिए।
- शब्दावली को लेकर बहस है: कुछ कहते हैं कि वास्तविक बाधा प्रशिक्षण डेटा और सुरक्षा नीतियाँ हैं, न कि “एक भाषा मॉडल” होने का तथ्य स्वयं।
चिकित्सीय सलाह, आत्मविश्वास, और बेंचमार्क्स
- LLMs के चिकित्सीय उपयोग पर मिश्रित राय है:
- एक अध्ययन (जिसे कुछ लोग पहले से ही पुराना मानते हैं) सुझाव देता है कि उपचार संबंधी सिफ़ारिशों में LLMs अक्सर गलत होते हैं।
- अन्य लोग मज़बूत व्यक्तिगत अनुभव साझा करते हैं, जहाँ LLMs ने सही निदान या ऐसे परीक्षण सुझाए जिन्हें डॉक्टर चूक गए थे।
- कई लोग नोट करते हैं कि LLMs अक्सर अत्यधिक आत्मविश्वासी लगते हैं क्योंकि:
- प्रशिक्षण पाठ आत्मविश्वासी कथनों की ओर झुका होता है,
- मानव प्रतिक्रिया आत्मविश्वासी स्वर को पुरस्कृत करती है।
- बेंचमार्क्स को उपयोगी तो माना जाता है, लेकिन वास्तविक दुनिया के प्रदर्शन का विश्वसनीय पूर्वानुमानक नहीं।
संरेखण, सुरक्षा, और उपयोगकर्ता स्वायत्तता
- कुछ लोग सुरक्षा सीमाओं और अस्वीकरणों को कंपनियों द्वारा निगरानी और पितृसत्तात्मक नियंत्रण के रूप में शक्ति-हरणकारी मानते हैं।
- अन्य लोग LLMs को संभावित रूप से खतरनाक “nuclear-scale” तकनीक मानते हैं, जो प्रबंधित, सीमित इंटरफेस को उचित ठहराती है।
AI साथी, व्यक्तित्व, और आत्माएँ
- इस पर बहस है कि क्या AI “दोस्त” अकेले उपयोगकर्ताओं के लिए लाभकारी हैं या हानिकारक।
- कुछ लोग ज़ोर देते हैं कि GPUs और tokens की कोई रुचि या कल्याण नहीं होता; अन्य तर्क देते हैं कि चेतना संभवतः एक भौतिक घटना है और “them-ness” से इनकार करना अतीत के अमानवीकरण के पैटर्न को दोहराने का जोखिम है।
- “आत्माओं” और मशीन चेतना की स्थिति कुछ प्रतिभागियों द्वारा स्पष्ट रूप से अनिर्णीत छोड़ी गई है।