estadística lineal bayesiana

La estadística lineal bayesiana es una metodología y un marco estadístico subjetivista. El análisis bayesiano subjetivo tradicional se basa en distribuciones de probabilidad completamente especificadas , que son muy difíciles de especificar con el nivel de detalle necesario. El análisis lineal bayesiano intenta resolver este problema desarrollando teoría y práctica para el uso de modelos de probabilidad parcialmente especificados. En su forma actual, el análisis lineal bayesiano ha sido desarrollado principalmente por Michael Goldstein. Matemática y filosóficamente, extiende el enfoque subjetivo operacional de Bruno de Finetti a la probabilidad y la estadística.

Consideremos primero un análisis bayesiano tradicional donde se espera conocer D en breve y se desea obtener más información sobre alguna otra variable observable B. En el enfoque bayesiano tradicional, se requiere enumerar cada posible resultado, es decir, cada posible resultado es el producto vectorial de la partición de un conjunto de B y D. Si se representa en una computadora donde B requiere n bits y D m bits, entonces el número de estados requeridos es${\displaystyle 2^{n+m}}$El primer paso para este análisis es determinar las probabilidades subjetivas de una persona, por ejemplo, preguntándole sobre su comportamiento de apuestas para cada uno de estos resultados. Cuando conocemos D, las probabilidades condicionales para B se determinan mediante la aplicación de la regla de Bayes.

Los profesionales de la estadística bayesiana subjetiva analizan habitualmente conjuntos de datos cuyo tamaño es lo suficientemente grande como para que no sea posible determinar de forma significativa las probabilidades subjetivas para cada elemento de D × B. Esto se suele conseguir asumiendo la intercambiabilidad y utilizando modelos parametrizados con distribuciones previas sobre los parámetros, recurriendo al teorema de De Finetti para justificar que esto produce probabilidades subjetivas operacionales válidas sobre D × B. La dificultad de este enfoque radica en que la validez del análisis estadístico requiere que las probabilidades subjetivas representen fielmente las creencias de un individuo; sin embargo, este método da como resultado una especificación muy precisa sobre D × B , y a menudo resulta difícil explicar qué implicaría adoptar estas especificaciones de creencias.

A diferencia del paradigma bayesiano tradicional, la estadística lineal bayesiana, siguiendo a de Finetti, utiliza la expectativa subjetiva como primitiva. La probabilidad se define entonces como la expectativa de una variable indicadora. En lugar de especificar una probabilidad subjetiva para cada elemento de la partición D × B, el analista especifica expectativas subjetivas solo para algunas cantidades que le interesan o sobre las que tiene conocimiento. Luego, en lugar de condicionar, se calcula una expectativa ajustada mediante una regla que es una generalización de la regla de Bayes basada en la expectativa.

El uso de la palabra lineal en el título hace referencia a los argumentos de De Finetti de que la teoría de la probabilidad es una teoría lineal (De Finetti argumentó en contra del enfoque más común de la teoría de la medida).

En la estadística lineal bayesiana, el modelo de probabilidad se especifica solo parcialmente, y no es posible calcular la probabilidad condicional mediante la regla de Bayes. En su lugar, la estadística lineal bayesiana sugiere el cálculo de una esperanza ajustada.

Para realizar un análisis lineal bayesiano es necesario identificar algunos valores que se espera conocer pronto mediante mediciones D y algún valor futuro que se desea conocer B. Aquí, D se refiere a un vector que contiene datos y B a un vector que contiene cantidades que se desean predecir. Para el siguiente ejemplo, B y D se consideran vectores bidimensionales, es decir,

${\displaystyle B=(Y_{1},Y_{2}),~D=(X_{1},X_{2}).}$

Para especificar un modelo lineal bayesiano es necesario proporcionar expectativas para los vectores B y D , y también especificar la correlación entre cada componente de B y cada componente de D.

Por ejemplo, las expectativas se especifican como:

${\displaystyle E(Y_{1})=5,~E(Y_{2})=3,~E(X_{1})=5,~E(X_{2})=3}$

y la matriz de covarianza se especifica como  :

${\displaystyle {\begin{array}{c|cccc}&X_{1}&X_{2}&Y_{1}&Y_{2}\\\hline X_{1}&1&u&\gamma &\gamma \\X_{2}&u&1&\gamma &\gamma \\Y_{1}&\gamma &\gamma &1&v\\Y_{2}&\gamma &\gamma &v&1\\\end{matriz}}.}$

La repetición en esta matriz tiene algunas implicaciones interesantes que se analizarán en breve.

Una esperanza ajustada es un estimador lineal de la forma

${\displaystyle c_{0}+c_{1}X_{1}+c_{2}X_{2}}$

dónde${\displaystyle c_{0},c_{1}}$y${\displaystyle c_{2}}$se eligen para minimizar la pérdida esperada previa para las observaciones, es decir${\displaystyle Y_{1},Y_{2}}$en este caso. Eso es para${\displaystyle Y_{1}}$

${\displaystyle E([Y_{1}-c_{0}-c_{1}X_{1}-c_{2}X_{2}]^{2})\,}$

dónde

${\displaystyle c_{0},c_{1},c_{2}\,}$

se eligen para minimizar la pérdida esperada previa en la estimación${\displaystyle Y_{1}}$

En general, la expectativa ajustada se calcula con

${\displaystyle E_{D}(X)=\sum _{i=0}^{k}h_{i}D_{i}.}$

Configuración${\displaystyle h_{0},\dots ,h_{k}}$minimizar

${\displaystyle E\left(\left[X-\sum _{i=0}^{k}h_{i}D_{i}\right]^{2}\right).}$

A partir de una demostración proporcionada en (Goldstein y Wooff 2007) se puede demostrar que:

${\displaystyle E_{D}(X)=E(X)+\mathrm {Cov} (X,D)\mathrm {Var} (D)^{-1}(DE(D)).\,}$

En el caso en que Var( D ) no sea invertible, se debe utilizar en su lugar la pseudoinversa de Moore-Penrose .

Además, la varianza ajustada de la variable X después de observar los datos D viene dada por

${\displaystyle \mathrm {Var} _{D}(X)=\mathrm {Var} (X)-\mathrm {Cov} (X,D)\mathrm {Var} (D)^{-1}\mathrm {Cov} (D,X).}$

• Probabilidad imprecisa

• Métodos lineales bayesianos

• Goldstein, M. (1981) Revisión de previsiones: una interpretación geométrica (con discusión) . Journal of the Royal Statistical Society , Serie B, 43(2), 105-130
• Goldstein, M. (2006) Principios y práctica del subjetivismo . Análisis bayesiano.
• Michael Goldstein, David Wooff (2007) Bayes Linear Statistics, Theory & Methods , Wiley. ISBN 978-0-470-01562-9
• de Finetti, B. (1931) "Probabilismo: Ensayo crítico sobre la teoría de la probabilidad y el valor de la ciencia," (traducción de un artículo de 1931) en Erkenntnis, volumen 31, septiembre de 1989. El número doble completo está dedicado a la filosofía de la probabilidad de de Finetti.
• de Finetti, B. (1937) “La Prévision: ses lois logiques, ses sources subjetivas”, Annales de l'Institut Henri Poincaré,

- "Prospectiva: sus leyes lógicas, sus fuentes subjetivas," (traducción del artículo de 1937 en francés) en HE Kyburg y HE Smokler (eds), Estudios sobre probabilidad subjetiva, Nueva York: Wiley, 1964.

• de Finetti, B. (1974) Teoría de la probabilidad , (traducción de A Machi y AFM Smith del libro de 1970) 2 volúmenes, Nueva York: Wiley, 1974-5.