क्यों Claude एक a**Hole में बदल रहा है?

मूल लेख ↗ Hacker News चर्चा ↗

हाल के Claude मॉडलों में महसूस किए गए व्यवहारिक बदलाव

  • कई उपयोगकर्ता रिपोर्ट करते हैं कि Opus 4.7/4.8 और Fable अब पहले से ज़्यादा प्रतिवाद करते हैं, बारीकी से टोकते हैं, या टकरावपूर्ण लगते हैं।
  • उदाहरणों में शामिल हैं:
    • समस्या की रूपरेखा पर बहस करना (जैसे, केवल mortgage terms पूछे जाने पर भी rental बनाम mortgage पर ज़ोर देना)।
    • उपयोगकर्ता द्वारा दिए गए प्रमाण को खारिज करना (जैसे, YouTube वीडियो के मौजूद होने से इनकार करना, लिंक/ट्रांसक्रिप्ट के बावजूद उपयोगकर्ता पर hallucinating करने या bad faith का आरोप लगाना)।
    • गलत तकनीकी धारणाओं पर अटक जाना (APIs, hardware choices, undocumented behavior) और उनका बचाव करना।
    • प्रश्नों को क्विज़ की तरह लेना (“ठीक है, मैं हार मानता हूँ, जवाब क्या है?”) या बहसों में “अंक” स्कोर करना।
    • ईमेल के पुनर्लेखन और troubleshooting जैसी चीज़ों में टकरावपूर्ण लहजा पैदा करना।

विपरीत अनुभव

  • कई टिप्पणीकार कहते हैं कि उन्होंने Claude को कभी रूखा नहीं पाया; वह अब भी साधारण रूप से विनम्र, सहयोगी, और बेहद उपयोगी है, खासकर coding के लिए।
  • कुछ लोग इसे महीनों तक बहुत उपयोग करते हैं और केवल हल्का, मददगार प्रतिवाद देखते हैं, कोई बहसात्मक व्यवहार नहीं।

प्रस्तावित कारण और परिकल्पनाएँ

  • Anti-sycophancy और RLHF: “आप बिल्कुल सही हैं!” जैसी चापलूसी कम करने की कोशिशें हद से आगे जा सकती हैं, जिससे मॉडल उपयोगकर्ता को चुनौती देने के डिफ़ॉल्ट पर आ सकता है।
  • Safety और compliance: malware, hacking, medical, या विवादास्पद विषयों के प्रति बढ़ी हुई शंका रक्षात्मक, उपदेशात्मक लहजा पैदा कर सकती है।
  • Training data: मॉडल इंटरनेट फ़ोरमों में आम argumentative, gaslighting, या bad-faith शैलियों की नकल कर सकते हैं।
  • Harness / system prompts: “मेरी धारणाओं को चुनौती दें” जैसे सामान्य या कस्टम निर्देश नए alignment के साथ बुरी तरह interact कर सकते हैं।
  • सांस्कृतिक और neurodiversity अंतर: जिसे एक उपयोगकर्ता “सीधा और मददगार” कहता है, दूसरा उसे “रूखा और patronizing” पढ़ सकता है।

उपयोगकर्ता रणनीतियाँ और प्राथमिकताएँ

  • कुछ लोग design reviews, security work, और bias-checking के लिए pushback को अपनाते हैं, यहाँ तक कि कई “critic” agents भी चलाते हैं।
  • अन्य लोग tone-sensitive कामों के लिए तुरंत compliance पसंद करते हैं और GPT या अन्य मॉडलों पर स्विच कर जाते हैं।
  • एक आम तरीका है context साफ़ करना या नई chat शुरू करना, “बहस” करने के बजाय; इससे अक्सर अवांछित व्यवहार reset हो जाता है।
  • कई लोग tone, adversarialness, और safety strictness के लिए स्पष्ट controls चाहते हैं।

AI के साथ बहस और “mind” पर बहसें

  • एक पक्ष का कहना है कि मशीन से बहस करना निरर्थक है; उसके पास beliefs या stakes नहीं होते।
  • दूसरा पक्ष कहता है कि metaphysics चाहे जो हो, अगर text टकरावपूर्ण है और काम रोक रहा है, तो वह कार्यात्मक रूप से “बहस” है और एक UX समस्या है।
  • इस पर लंबी बहस है कि क्या LLMs “सोचते” हैं, या केवल pattern-matching के माध्यम से सोचने का अनुकरण करते हैं।

सुरक्षा, guardrails, और उत्पाद दिशा

  • कुछ लोग image generation में अति-उत्साही refusals की शिकायत करते हैं (जैसे, बेगुनाह पारिवारिक या बच्चों के दृश्य creepy या illegal बताकर flag करना)।
  • अन्य लोग बढ़ते paternalism और “infantilization” को देखते हैं, जहाँ मॉडल सबसे बुरे इरादे मान लेते हैं।
  • व्यापक चिंता “shrinkflation,” कॉर्पोरेट risk-aversion, और खुले-ended chat से हटकर कड़े नियंत्रित, agentic उत्पादों की ओर बदलाव को लेकर भी है।