Anthropic द्वारा Fable के सामने लगाए गए classifiers बहुत ज़्यादा सतर्क हैं

मूल लेख ↗ Hacker News चर्चा ↗

Anthropic का नया Fable model capability में अपने predecessor से बेहतर माना जा रहा है, लेकिन कई users का कहना है कि hyper-aggressive safety classifiers इसे biology, cybersecurity, ML tooling, या यहाँ तक कि innocuous medical और math queries से जुड़े prompts पर downgrade या refuse कर देते हैं। Commenters के अनुसार यह “safety theater” bioinformatics और security research जैसे पूरे क्षेत्रों के लिए system को unusable बना देता है, data retention और misuse flags को लेकर चिंताएँ बढ़ाता है, और दिखाता है कि tightly controlled, proprietary “frontier” models को गंभीर काम के लिए अचानक unreliable बनाया जा सकता है। दूसरे लोग तर्क देते हैं कि overcautious guardrails regulatory pressure और export bans की एक predictable प्रतिक्रिया हैं, लेकिन चेतावनी देते हैं कि अगर यही pattern जारी रहा, तो power users increasingly कम restricted या open models की ओर जाएंगे.

Fable के Classifiers का दायरा और व्यवहार

  • कई टिप्पणीकारों का कहना है कि Fable का safety classifier “hair-trigger” जैसा है, खासकर biology, cybersecurity, ML research, infrastructure, और authentication के लिए।
  • बेहद व्यापक biology filtering: cells, digestion, दौड़ते समय heart rate, indoor CO₂, nicotine withdrawal, zoology trivia, “plant”, harmless eels से जुड़े सवाल, और बुनियादी medical topics तक downgraded हो जाते हैं।
  • Cyber/security और ML tooling भी refusals trigger करते हैं: pentesting emails, OWASP reviews, security audits, SDN/auth code, GPU/vLLM changes, ML pipelines, libtorch/OpenCL code, और यहाँ तक कि “bio” या “DNA” वाले libraries या variable names भी।
  • कुछ pure mathematical या CS theory सवाल भी blocked हो जाते हैं, apparently इसलिए कि model उन्हें internally bio/phylogenetics contexts से जोड़ देता है (“complexity safety”).

User Experience और Use Cases

  • Bioinformatics, biology, medicine, neuroimaging, और medical physics के users कहते हैं कि Fable उनके professional काम के लिए effectively unusable है, कभी-कभी CV update करने के लिए भी नहीं।
  • दूसरे लोग report करते हैं कि बड़े software architecture, debugging, और general coding के लिए कोई refusals नहीं मिलते, जिससे लगता है कि domains अलग हैं या safety scores/histories अलग हैं।
  • कुछ लोगों के अनुसार Fable math, research-grade review, life advice, और “final pass” checks के लिए excellent है, और जब इसे चलने दिया जाए तो यह Opus 4.8 से स्पष्ट रूप से बेहतर है।
  • कई लोग severe token और time consumption की बात करते हैं; single prompts daily या hourly limits को exhaust कर सकते हैं, बिना proportionate value दिए।

Downgrades, Account “Jail”, और Opus

  • जब trigger होता है, Fable transparently Opus 4.8 पर downgrade हो जाता है और एक visible banner दिखता है; कुछ लोग चिंतित हैं कि silent downgrades भी हो सकती हैं (thread से स्पष्ट नहीं)।
  • कुछ लोग speculate करते हैं कि prompts को “sanitize” करने की बार-बार कोशिश accounts को और अधिक sensitive “jail” state में डाल सकती है, जहाँ classifier और आसानी से fire करता है।
  • अनुभव बहुत अलग-अलग हैं: कुछ के लिए केवल ~15% tasks filter trigger करते हैं; दूसरों के लिए code-review या ML-related prompts का 80–90% ऐसा करता है।

Motivations, Alignment, और Power Asymmetry

  • सुझाए गए कारणों में US government pressure/export controls, overcautious “longtermist” safety culture, और bioterrorism का डर शामिल हैं; दूसरे इसे “safety theater” और PR-driven doom narratives मानते हैं।
  • कुछ लोगों का मानना है कि Fable guardrails के लिए एक testbed है, जिन्हें बाद में अन्य models के सामने लगाया जाएगा; दूसरे restricted high-capability versions के बारे में अनुमान लगाते हैं, जो pharma या “trusted partners” के लिए होंगे।
  • व्यापक चर्चा: inconsistent human morals के साथ alignment की कठिनाई; firearms/state secrets से तुलना, जहाँ civilians को “nerfed” tools मिलते हैं जबकि states के पास full power रहती है।
  • चिंता है कि future SOTA models governments और कुछ corporations द्वारा tightly controlled होंगे, जिससे power asymmetry बढ़ेगी; counterpoint यह है कि profit incentives और competing models (including foreign और open ones) इसे सीमित करेंगे।

Privacy, Retention, और Business Risk

  • Highlighted policy: flagged sessions की content को 2 years तक retain किया जा सकता है और safety scores को 7 years तक; इसलिए classifier false positives long-term data retention को बढ़ाते हैं।
  • Flagged data normal training opt-outs लागू होने पर भी safety systems को train करने के लिए इस्तेमाल हो सकता है, जिससे “sensitive but legitimate” काम करने वाले users चिंतित हैं।
  • कुछ लोग निष्कर्ष निकालते हैं कि proprietary, centrally controlled AI पर निर्भर रहना जोखिम भरा है क्योंकि capabilities और access अचानक बदल सकते हैं; दूसरे जवाब देते हैं कि अभी सभी top-tier models proprietary हैं, हालांकि अब strong open alternatives मौजूद हैं।