¿Por qué todo se basa en verosimilitudes aunque las verosimilitudes sean tan pequeñas?
Estadísticos y profesionales desentrañan por qué las verosimilitudes en los modelos estadísticos suelen tomar valores numéricos extremadamente pequeños, especialmente al multiplicar muchas probabilidades, y aun así producen inferencias significativas. Subrayan que la verosimilitud suele ser una densidad de probabilidad (no una probabilidad en sí), que solo las razones o log-verosimilitudes importan para tareas como la estimación de parámetros y la comparación de modelos, y que los métodos de máxima verosimilitud funcionan bien bajo condiciones amplias pero pueden tener dificultades con distribuciones multimodales o mal comportadas. El intercambio también aborda las interpretaciones bayesiana y frecuentista, el principio de verosimilitud y cómo estas abstracciones se conectan con la toma de decisiones y el riesgo en el mundo real.
Papel conceptual de la verosimilitud
- La verosimilitud se define como la probabilidad (o densidad) de los datos observados dadas las parametrizaciones del modelo, no como la probabilidad de los parámetros en sí.
- La función de verosimilitud es una función de los parámetros con los datos fijos; no es una distribución de probabilidad sobre los parámetros y no integra 1 en el espacio de parámetros.
- Varios comentarios señalan que la pregunta original confunde las verosimilitudes con las probabilidades a posteriori y con “qué tan probable” es un valor de parámetro.
Continuo vs discreto y “números diminutos”
- Para variables continuas, la probabilidad de cualquier valor exacto es 0; solo los intervalos tienen probabilidad distinta de cero. Las densidades pueden ser pequeñas o grandes e incluso superar 1 según la escala y la varianza.
- Las verosimilitudes conjuntas para muchas observaciones multiplican muchos términos, por lo que el producto casi siempre es extremadamente pequeño o extremadamente grande; esto es un comportamiento esperado, no un problema.
- Como solo importan las razones, se enfatizan las log-verosimilitudes y las razones de verosimilitud más que las magnitudes absolutas.
Bayesiano, frecuentista y el principio de verosimilitud
- Una línea de discusión: la estimación de máxima verosimilitud (MLE) aproxima la inferencia bayesiana con priors débiles o regulares y tiene buenas propiedades de convergencia.
- Otra línea subraya el principio de verosimilitud: toda la información sobre los parámetros, dado un modelo, está contenida en la función de verosimilitud; cualquier estimador admisible debe “hacer algo razonable” con esta función.
- Surge el debate sobre si el tratamiento frecuentista de los parámetros es conceptualmente incómodo y sobre cómo se relacionan los posteriores bayesianos, los priors y las estimaciones MAP con la verosimilitud.
Limitaciones, patologías y práctica
- Los métodos basados en verosimilitud pueden comportarse mal para distribuciones multimodales o mal condicionadas y en espacios de alta dimensión donde la masa está lejos del MLE.
- La comparación de modelos mediante AIC, BIC, pruebas de razón de verosimilitud, etc., se describe como heurística y dependiente de la implementación; reproducir resultados entre distintos programas puede ser difícil.
- Algunos sostienen que los métodos estadísticos son frágiles y dependen mucho de aproximaciones; otros destacan que funcionan bien en muchos entornos prácticos.
Intuición, riesgo y razonamiento en el mundo real
- Se usan múltiples analogías (lanzamientos de moneda, loterías, varas de medir, gotas de lluvia, bolas de boliche) para mostrar que los resultados exactos individuales son extremadamente improbables incluso bajo el modelo verdadero.
- La discusión se extiende a la toma de decisiones: la importancia de probabilidad × consecuencia, los desafíos de razonar sobre riesgos de cola y los bugs de “baja probabilidad” que afectan a cada usuario al menos una vez.