Información observada

En estadística , la información observada , o información de Fisher observada , es el negativo de la segunda derivada (la matriz hessiana ) de la " log-verosimilitud " (el logaritmo de la función de verosimilitud ). Es una versión de la información de Fisher basada en muestras .

Supongamos que observamos variables aleatorias${\displaystyle X_{1},\ldots ,X_{n}}$, independientes e idénticamente distribuidas con densidad f ( X ;  θ), donde θ es un vector (posiblemente desconocido). Entonces, la log-verosimilitud de los parámetros${\displaystyle \theta }$dados los datos${\displaystyle X_{1},\ldots ,X_{n}}$es

${\displaystyle \ell (\theta |X_{1},\ldots ,X_{n})=\sum _{i=1}^{n}\log f(X_{i}|\theta )}$.

Definimos la matriz de información observada en${\displaystyle \theta ^{*}}$como

${\displaystyle {\mathcal {J}}(\theta ^{*})=-\left.\nabla \nabla ^{\top }\ell (\theta )\right|_{\theta =\theta ^{*}}}$

${\displaystyle =-\left.\left({\begin{array}{cccc}{\tfrac {\partial ^{2}}{\partial \theta _{1}^{2}}}&{\tfrac {\partial ^{2}}{\partial \theta _{1}\partial \theta _{2}}}&\cdots &{\tfrac {\partial ^{2}}{\partial \theta _{1}\partial \theta _{p}}}\\{\tfrac {\partial ^{2}}{\partial \theta _{2}\partial \theta _{1}}}&{\tfrac {\partial ^{2}}{\partial \theta _{2}^{2}}}&\cdots &{\tfrac {\partial ^{2}}{\partial \theta _{2}\partial \theta _{p}}}\\\vdots &\vdots &\ddots &\vdots \\{\tfrac {\partial ^{2}}{\partial \theta _{p}\partial \theta _{1}}}&{\tfrac {\partial ^{2}}{\partial \theta _{p}\partial \theta _{2}}}&\cdots &{\tfrac {\partial ^{2}}{\partial \theta _{p}^{2}}}\\\end{array}}\right)\ell (\theta )\right|_{\theta =\theta ^{*}}}$

Dado que la inversa de la matriz de información es la matriz de covarianza asintótica del estimador de máxima verosimilitud correspondiente , la información observada se evalúa a menudo en la estimación de máxima verosimilitud con el fin de realizar pruebas de significancia o construir intervalos de confianza . ^{[ 1 ]} La propiedad de invarianza de los estimadores de máxima verosimilitud permite evaluar la matriz de información observada antes de invertirla.

La información de Fisher${\displaystyle {\mathcal {I}}(\theta )}$es el valor esperado de la información observada dada una sola observación${\displaystyle X}$distribuido según el modelo hipotético con parámetro${\displaystyle \theta }$:

${\displaystyle {\mathcal {I}}(\theta )=\mathrm {E} ({\mathcal {J}}(\theta ))}$.

La comparación entre la información observada y la información esperada sigue siendo un área activa y continua de investigación y debate. Efron y Hinkley ^{[ 3 ]} proporcionaron una justificación frecuentista para preferir la información observada a la información esperada cuando se emplean aproximaciones normales a la distribución del estimador de máxima verosimilitud en familias de un parámetro en presencia de una estadística auxiliar que afecta la precisión del MLE. Lindsay y Li demostraron que la matriz de información observada proporciona el mínimo error cuadrático medio como una aproximación de la información verdadera si un término de error de${\displaystyle O(n^{-3/2})}$se ignora. ^{[ 4 ]} En el caso de Lindsay y Li, la matriz de información esperada todavía requiere evaluación en las estimaciones ML obtenidas, introduciendo aleatoriedad.

Sin embargo, cuando la construcción de intervalos de confianza es el objetivo principal, se han reportado hallazgos que indican que la información esperada supera a la observada. Yuan y Spall demostraron que la información esperada supera a la observada para la construcción de intervalos de confianza de parámetros escalares en el sentido del error cuadrático medio . ^{[ 5 ]} Este hallazgo se generalizó posteriormente a casos multiparamétricos, aunque la afirmación se debilitó al establecer que la matriz de información esperada se desempeña al menos tan bien como la matriz de información observada. ^{[ 6 ]}

• matriz de información de Fisher
• Métrica de información de Fisher