Hispanopedia WikiEn estadística bayesiana , un hiperparámetro es un parámetro de una distribución a priori ; el término se utiliza para distinguirlos de los parámetros del modelo del sistema subyacente que se está analizando.
Por ejemplo, si se utiliza una distribución beta para modelar la distribución del parámetro p de una distribución de Bernoulli , entonces:
- p es un parámetro del sistema subyacente (distribución de Bernoulli), y
- α y β son parámetros de la distribución previa (distribución beta), por lo tanto, hiperparámetros .
Se puede tomar un único valor para un hiperparámetro dado, o se puede iterar y tomar una distribución de probabilidad sobre el hiperparámetro en sí, llamada hiperprior .
Objetivo
A menudo se utiliza una distribución a priori que proviene de una familia paramétrica de distribuciones de probabilidad; esto se hace en parte para mayor claridad (de modo que se pueda escribir una distribución y elegir la forma variando el hiperparámetro, en lugar de intentar producir una función arbitraria), y en parte para que se pueda variar el hiperparámetro, particularmente en el método de distribuciones a priori conjugadas , o para análisis de sensibilidad.
Priores conjugados
Al utilizar una distribución a priori conjugada, la distribución a posteriori pertenecerá a la misma familia, pero tendrá hiperparámetros diferentes, que reflejan la información añadida de los datos: en términos subjetivos, las creencias se han actualizado. Para una distribución a priori general, esto es computacionalmente muy complejo, y la distribución a posteriori puede tener una forma inusual o difícil de describir, pero con una distribución a priori conjugada, generalmente existe una fórmula simple que relaciona los valores de los hiperparámetros de la distribución a posteriori con los de la distribución a priori, por lo que el cálculo de la distribución a posteriori es muy sencillo.
Análisis de sensibilidad
Una preocupación fundamental para los usuarios de la estadística bayesiana, y una crítica recurrente, es la dependencia de la distribución posterior respecto de la distribución previa. Los hiperparámetros solucionan este problema permitiendo variarlos fácilmente y observar cómo varía la distribución posterior (y diversas estadísticas relacionadas, como los intervalos de credibilidad ): se puede apreciar la sensibilidad de las conclusiones a las suposiciones previas, proceso que se denomina análisis de sensibilidad.
De manera similar, se puede usar una distribución previa con un rango para un hiperparámetro, definiendo así una hiperprior , que tal vez refleje la incertidumbre en la distribución previa correcta a tomar, y reflejar esto en un rango para la incertidumbre final. [ 1 ]
Hiperpriores
En lugar de usar un único valor para un hiperparámetro dado, se puede considerar una distribución de probabilidad del hiperparámetro en sí; esto se denomina " hiperprior ". En principio, se puede iterar este proceso, llamando a los parámetros de un hiperprior "hiperhiperparámetros", y así sucesivamente.
Véase también
Referencias
- ↑ Giulio D'Agostini, Evaluación puramente subjetiva de probabilidades previas , en Inferencia bayesiana en el procesamiento de datos experimentales: principios y aplicaciones básicas
Lecturas adicionales
- Bernardo, JM; Smith, AFM (2000). Teoría bayesiana . Nueva York: Wiley. ISBN 0-471-49464-X.
- Gelman, A.; Hill, J. (2007). Análisis de datos mediante modelos de regresión y multinivel/jerárquicos . Nueva York: Cambridge University Press. pp. 251–278 . ISBN 978-0-521-68689-1.
- Kruschke, JK (2010). Análisis de datos bayesianos: un tutorial con R y BUGS . Academic Press. pp. 241–264 . ISBN 978-0-12-381485-2.
- estadística bayesiana
- Análisis de sensibilidad