हम Mistral Large 4 के वज़न जारी कर रहे हैं
Mistral ने अपने 1T-parameter Large 4 मॉडल के weights को एक permissive-but-restrictive license के तहत जारी किया है, जिससे इस बात पर बहस छिड़ गई है कि जब commercial model-as-a-service उपयोग के लिए अभी भी अलग deal चाहिए, तब “open-weights” का क्या अर्थ है। टिप्पणीकार मॉडल के तकनीकी और आर्थिक trade-offs पर चर्चा करते हैं: अत्यधिक hardware मांग और DeepSeek व GLM जैसे Chinese open models की तुलना में औसत benchmark परिणाम, लेकिन बेहतर pricing, मजबूत refusal behavior, और regulated या sovereignty-conscious संगठनों के लिए EU-hosted विकल्प का आकर्षण। कई लोग इसे European AI के लिए एक महत्वपूर्ण, भले ही frontier-leading नहीं, कदम मानते हैं, जबकि इस बात पर चिंता जताते हैं कि वास्तव में open, reproducible frontier models अभी भी दुर्लभ हैं।
मॉडल रिलीज़ और क्षमताएँ
- Mistral Large 4 (≈1T params, 52B active MoE) के वज़न Hugging Face पर प्रकाशित किए गए हैं, जिनमें quantized और GGUF वैरिएंट शामिल हैं।
- कई लोगों का मानना है कि यह एक महत्वपूर्ण “near-frontier” open-weights विकल्प है, खासकर EU-आधारित संगठनों या उन लोगों के लिए जो Chinese models का उपयोग नहीं कर सकते।
हार्डवेयर और self-hosting
- बहुत aggressive quantization के बावजूद भी विशाल VRAM (सैकड़ों GB) की आवश्यकता होती है; कई पोस्टर्स कहते हैं कि उनके बड़े multi-GPU rigs भी पर्याप्त नहीं हैं।
- सुझावों में MoE offloading, NVMe streaming, 3–5B active MoE alternatives, और quantization/inference stacks का मूल्यांकन करने के लिए custom benchmark pipelines शामिल हैं।
- कुछ का तर्क है कि भारी quantized बड़े models, छोटे non-quantized models से बदतर महसूस होते हैं।
मूल्य निर्धारण और प्रतिस्पर्धात्मकता
- API pricing को शुरुआती preview की तुलना में लगभग आधा कर दिया गया है, साथ ही एक अलग cached-input price भी है; फिर भी कुछ लोग इसे DeepSeek, GLM, Qwen, आदि की तुलना में प्रतिस्पर्धी नहीं मानते।
- Benchmarks पर बहस होती है: कुछ बाहरी “intelligence vs cost” charts का हवाला देते हैं जो Mistral को पीछे दिखाते हैं; अन्य उन aggregated scores पर भरोसा नहीं करते या नोट करते हैं कि benchmarks को “benchmaxxed” किया जा सकता है।
- कई लोगों का कहना है कि performance “ठीक है लेकिन SOTA नहीं”, खासकर coding में Claude/Opus या शीर्ष Chinese open-weights की तुलना में।
लाइसेंसिंग और “open weight” का अर्थ
- License व्यापक internal और commercial use की अनुमति देता है, लेकिन यदि आप “Model as a Service” चलाते हैं (तीसरे पक्षों को inference serve करना) तो एक अलग deal की आवश्यकता होती है।
- Terms को लेकर बड़ी बहस है:
- एक पक्ष का कहना है कि “open weights” को open-source norms का पालन करना चाहिए (किसी भी उद्देश्य के लिए अनुमति की आवश्यकता नहीं), और इसलिए “weights available” कहना बेहतर होगा।
- दूसरे पक्ष के अनुसार, “open weights” का मतलब केवल downloadable weights है (closed APIs के विपरीत), और यह फिर भी frontier labs की तुलना में कहीं अधिक open है।
- OSI की नई open-source AI definition (जिसमें open training code/data composition और unrestricted use की आवश्यकता है) को यहाँ पूरा नहीं माना जाता।
कानूनी स्थिति, copyright, और enforceability
- इस पर लंबी subthread है कि क्या model weights और outputs पर copyright लागू हो सकता है; कई लोग दावा करते हैं कि EU में weights और pure AI output likely copyright के बिना हैं, जिससे enforcement कठिन हो जाता है।
- अन्य लोग database protections या contract law का तर्क देते हैं (डाउनलोड/उपयोग करते समय आप terms से बंधे होते हैं), लेकिन कई पहलू अभी भी अस्पष्ट हैं।
EU sovereignty, Chinese models, और trust
- कुछ US-regulated या defense-related संगठनों ने कथित तौर पर backdoor/censorship चिंताओं के कारण Chinese models पर पूरी तरह प्रतिबंध लगा दिया है।
- Mistral की EU provenance और regional hosting (अतिरिक्त शुल्क के साथ) को data protection और CLOUD Act चिंताओं के लिए मूल्यवान माना जाता है, हालांकि कुछ लोग तर्क देते हैं कि jurisdiction से जुड़ी समस्याएँ बनी रहती हैं।
User experience और product choices
- कई लोगों को Mistral का portal और subscription flows confusing लगते हैं; pricing pages और “Pro” upgrades मौजूद हैं, लेकिन वे स्पष्ट नहीं हैं।
- कुछ लोग इस बात से असंतुष्ट हैं कि Mistral का अपना chat app latest model के बजाय एक Chinese model (GLM) को default करता है, और इसे Large 4 में confidence के बारे में mixed signal मानते हैं।