Anthropic द्वारा Fable के सामने लगाए गए classifiers बहुत ज़्यादा सतर्क हैं

Fable के Classifiers का दायरा और व्यवहार

• कई टिप्पणीकारों का कहना है कि Fable का safety classifier “hair-trigger” जैसा है, खासकर biology, cybersecurity, ML research, infrastructure, और authentication के लिए।
• बेहद व्यापक biology filtering: cells, digestion, दौड़ते समय heart rate, indoor CO₂, nicotine withdrawal, zoology trivia, “plant”, harmless eels से जुड़े सवाल, और बुनियादी medical topics तक downgraded हो जाते हैं।
• Cyber/security और ML tooling भी refusals trigger करते हैं: pentesting emails, OWASP reviews, security audits, SDN/auth code, GPU/vLLM changes, ML pipelines, libtorch/OpenCL code, और यहाँ तक कि “bio” या “DNA” वाले libraries या variable names भी।
• कुछ pure mathematical या CS theory सवाल भी blocked हो जाते हैं, apparently इसलिए कि model उन्हें internally bio/phylogenetics contexts से जोड़ देता है (“complexity safety”).

User Experience और Use Cases

• Bioinformatics, biology, medicine, neuroimaging, और medical physics के users कहते हैं कि Fable उनके professional काम के लिए effectively unusable है, कभी-कभी CV update करने के लिए भी नहीं।
• दूसरे लोग report करते हैं कि बड़े software architecture, debugging, और general coding के लिए कोई refusals नहीं मिलते, जिससे लगता है कि domains अलग हैं या safety scores/histories अलग हैं।
• कुछ लोगों के अनुसार Fable math, research-grade review, life advice, और “final pass” checks के लिए excellent है, और जब इसे चलने दिया जाए तो यह Opus 4.8 से स्पष्ट रूप से बेहतर है।
• कई लोग severe token और time consumption की बात करते हैं; single prompts daily या hourly limits को exhaust कर सकते हैं, बिना proportionate value दिए।

Downgrades, Account “Jail”, और Opus

• जब trigger होता है, Fable transparently Opus 4.8 पर downgrade हो जाता है और एक visible banner दिखता है; कुछ लोग चिंतित हैं कि silent downgrades भी हो सकती हैं (thread से स्पष्ट नहीं)।
• कुछ लोग speculate करते हैं कि prompts को “sanitize” करने की बार-बार कोशिश accounts को और अधिक sensitive “jail” state में डाल सकती है, जहाँ classifier और आसानी से fire करता है।
• अनुभव बहुत अलग-अलग हैं: कुछ के लिए केवल ~15% tasks filter trigger करते हैं; दूसरों के लिए code-review या ML-related prompts का 80–90% ऐसा करता है।

Motivations, Alignment, और Power Asymmetry

• सुझाए गए कारणों में US government pressure/export controls, overcautious “longtermist” safety culture, और bioterrorism का डर शामिल हैं; दूसरे इसे “safety theater” और PR-driven doom narratives मानते हैं।
• कुछ लोगों का मानना है कि Fable guardrails के लिए एक testbed है, जिन्हें बाद में अन्य models के सामने लगाया जाएगा; दूसरे restricted high-capability versions के बारे में अनुमान लगाते हैं, जो pharma या “trusted partners” के लिए होंगे।
• व्यापक चर्चा: inconsistent human morals के साथ alignment की कठिनाई; firearms/state secrets से तुलना, जहाँ civilians को “nerfed” tools मिलते हैं जबकि states के पास full power रहती है।
• चिंता है कि future SOTA models governments और कुछ corporations द्वारा tightly controlled होंगे, जिससे power asymmetry बढ़ेगी; counterpoint यह है कि profit incentives और competing models (including foreign और open ones) इसे सीमित करेंगे।

Privacy, Retention, और Business Risk

• Highlighted policy: flagged sessions की content को 2 years तक retain किया जा सकता है और safety scores को 7 years तक; इसलिए classifier false positives long-term data retention को बढ़ाते हैं।
• Flagged data normal training opt-outs लागू होने पर भी safety systems को train करने के लिए इस्तेमाल हो सकता है, जिससे “sensitive but legitimate” काम करने वाले users चिंतित हैं।
• कुछ लोग निष्कर्ष निकालते हैं कि proprietary, centrally controlled AI पर निर्भर रहना जोखिम भरा है क्योंकि capabilities और access अचानक बदल सकते हैं; दूसरे जवाब देते हैं कि अभी सभी top-tier models proprietary हैं, हालांकि अब strong open alternatives मौजूद हैं।