सब कुछ likelihoods पर आधारित क्यों है, जबकि likelihoods इतने छोटे होते हैं?
Statisticians और practitioners समझाते हैं कि statistical models में likelihoods अक्सर बहुत छोटे numerical values क्यों लेते हैं, खासकर जब कई probabilities multiply की जाती हैं, फिर भी वे meaningful inferences कैसे देते हैं। वे इस बात पर ज़ोर देते हैं कि likelihood आम तौर पर एक probability *density* होती है (probability स्वयं नहीं), कि parameter estimation और model comparison जैसे कार्यों में केवल relative या log-likelihoods मायने रखते हैं, और कि maximum likelihood methods व्यापक परिस्थितियों में अच्छी तरह काम करती हैं लेकिन multimodal या poorly behaved distributions में संघर्ष कर सकती हैं। यह चर्चा Bayesian बनाम frequentist interpretations, likelihood principle, और इन abstractions का real-world decision-making तथा risk से संबंध भी छूती है।
likelihood की वैचारिक भूमिका
- Likelihood को, मॉडल पैरामीटर दिए होने पर देखे गए डेटा की probability (या density) के रूप में परिभाषित किया जाता है, न कि स्वयं parameters की probability के रूप में।
- Likelihood function, fixed data के साथ parameters का एक function है; यह parameters पर कोई probability distribution नहीं है और parameter space में 1 पर integrate नहीं करता।
- कई टिप्पणियाँ बताती हैं कि मूल प्रश्न likelihoods को posterior probabilities और किसी parameter value की “कितनी संभावना” से भ्रमित करता है।
Continuous बनाम discrete और “छोटे numbers”
- Continuous variables के लिए, किसी exact value की probability 0 होती है; केवल intervals की non‑zero probability होती है। Densities छोटी या बड़ी हो सकती हैं और scale तथा variance के आधार पर 1 से भी अधिक हो सकती हैं।
- कई observations के joint likelihood में कई terms multiply होते हैं, इसलिए product लगभग हमेशा बहुत छोटा या बहुत बड़ा होता है; यह अपेक्षित व्यवहार है, समस्या नहीं।
- क्योंकि केवल ratios मायने रखते हैं, absolute magnitudes के बजाय log-likelihoods और likelihood ratios पर ज़ोर दिया जाता है।
Bayesian, frequentist, और likelihood principle
- चर्चा की एक पंक्ति: maximum likelihood estimation (MLE), कमजोर/regular priors के साथ Bayesian inference का लगभग रूप है और इसके convergence गुण अच्छे होते हैं।
- दूसरी पंक्ति likelihood principle पर ज़ोर देती है: किसी model के दिए जाने पर parameters के बारे में सारी जानकारी likelihood function में होती है; किसी भी admissible estimator को इस function के साथ “कुछ समझदारी भरा” करना चाहिए।
- यह बहस दिखाई देती है कि parameters का frequentist treatment वैचारिक रूप से असहज है या नहीं, और Bayesian posteriors, priors, तथा MAP estimates का likelihood से क्या संबंध है।
सीमाएँ, pathologies, और practice
- Likelihood-based methods multimodal या खराब-व्यवहार वाली distributions और high-dimensional spaces में, जहाँ mass MLE से दूर हो, खराब प्रदर्शन कर सकते हैं।
- AIC, BIC, likelihood-ratio tests आदि के माध्यम से model comparison को heuristic और implementation-dependent बताया गया है; software के बीच results को दोहराना कठिन हो सकता है।
- कुछ लोग तर्क देते हैं कि statistical methods नाज़ुक हैं और भारी approximation-आधारित हैं; अन्य लोग ज़ोर देते हैं कि वे कई व्यावहारिक परिस्थितियों में अच्छी तरह काम करते हैं।
Intuition, risk, और वास्तविक-विश्व reasoning
- कई analogies (coin flips, lotteries, yardsticks, raindrops, bowling balls) का उपयोग यह दिखाने के लिए किया जाता है कि true model के तहत भी individual exact outcomes अत्यंत unlikely होते हैं।
- चर्चा decision-making तक जाती है: probability × consequence का महत्व, tail risks के बारे में reasoning की चुनौतियाँ, और “low-probability” bugs जो हर user को कम-से-कम एक बार प्रभावित करते हैं।