Error de predicción cuadrático medio

En estadística, el error cuadrático medio de predicción ( MSPE ), también conocido como error cuadrático medio de las predicciones , de un procedimiento de suavizado , ajuste de curvas o regresión , es el valor esperado de los errores cuadráticos de predicción ( PE ), la diferencia cuadrática entre los valores ajustados implícitos en la función predictiva y los valores del valor verdadero (no observable) g . Es una medida inversa del poder explicativo de y puede utilizarse en el proceso de validación cruzada de un modelo estimado. Se requeriría el conocimiento de g para calcular el MSPE con exactitud; en la práctica, el MSPE se estima. ^[1]${\displaystyle {\widehat {g}}}$ ${\displaystyle {\widehat {g}},}$

Si el procedimiento de suavizado o ajuste tiene una matriz de proyección (es decir, una matriz de sombrero) L , que asigna el vector de valores observados al vector de valores predichos , entonces PE y MSPE se formulan como: ${\estilo de visualización y}$${\displaystyle {\sombrero {y}}=Ly,}$

${\displaystyle \operatorname {PE_{i}} = g(x_{i})-{\widehat {g}}(x_{i}),}$

${\displaystyle \operatorname {MSPE} =\operatorname {E} \left[\operatorname {PE} _{i}^{2}\right]=\sum _{i=1}^{n}\operatorname {PE} _{i}^{2}/n.}$

El MSPE se puede descomponer en dos términos: el sesgo al cuadrado (error medio) de los valores ajustados y la varianza de los valores ajustados:

${\displaystyle \nombreoperador {MSPE} =\nombreoperador {ME} ^{2}+\nombreoperador {VAR} ,}$

${\displaystyle \operatorname {ME} =\operatorname {E} \left[{\widehat {g}}(x_{i})-g(x_{i})\right]}$

${\displaystyle \operatorname {VAR} =\operatorname {E} \left[\left({\widehat {g}}(x_{i})-\operatorname {E} \left[{g}(x_{i})\right]\right)^{2}\right].}$

La cantidad SSPE = n MSPE se denomina error de predicción de suma al cuadrado . El error de predicción de raíz cuadrada media es la raíz cuadrada de MSPE: RMSPE = √ MSPE .

El error cuadrático medio de predicción se puede calcular exactamente en dos contextos. En primer lugar, con una muestra de datos de longitud n , el analista de datos puede ejecutar la regresión solo sobre q de los puntos de datos (con q < n ), reteniendo los otros n – q puntos de datos con el propósito específico de usarlos para calcular el MSPE del modelo estimado fuera de la muestra (es decir, sin usar datos que se usaron en el proceso de estimación del modelo). Dado que el proceso de regresión está adaptado a los q puntos dentro de la muestra, normalmente el MSPE dentro de la muestra será menor que el fuera de la muestra calculado sobre los n – q puntos retenidos. Si el aumento en el MSPE fuera de la muestra en comparación con dentro de la muestra es relativamente leve, eso da como resultado que el modelo se vea favorablemente. Y si se deben comparar dos modelos, el que tiene el MSPE más bajo sobre los n – q puntos de datos fuera de la muestra se ve más favorablemente, independientemente de los desempeños relativos dentro de la muestra de los modelos. En este contexto, el MSPE fuera de la muestra es exacto para los puntos de datos fuera de la muestra sobre los cuales se calculó, pero es simplemente una estimación del MSPE del modelo para la población mayoritariamente no observada de la cual se extrajeron los datos.

En segundo lugar, a medida que pasa el tiempo, el analista de datos puede disponer de más datos y, luego, el MSPE se puede calcular sobre esos nuevos datos.

Cuando el modelo se ha estimado sobre todos los datos disponibles sin retener ninguno, el MSPE del modelo sobre toda la población de datos en su mayoría no observados se puede estimar de la siguiente manera.

Para el modelo donde , se puede escribir ${\displaystyle y_{i}=g(x_{i})+\sigma \varepsilon _{i}}$${\displaystyle \varepsilon _{i}\sim {\mathcal {N}}(0,1)}$

${\displaystyle n\cdot \operatorname {MSPE} (L)=g^{\text{T}}(I-L)^{\text{T}}(I-L)g+\sigma ^{2}\operatorname {tr} \left[L^{\text{T}}L\right].}$

Utilizando valores de datos de la muestra, el primer término del lado derecho es equivalente a

${\displaystyle \sum _{i=1}^{n}\left(\operatorname {E} \left[g(x_{i})-{\widehat {g}}(x_{i})\right]\right)^{2}=\operatorname {E} \left[\sum _{i=1}^{n}\left(y_{i}-{\widehat {g}}(x_{i})\right)^{2}\right]-\sigma ^{2}\operatorname {tr} \left[\left(I-L\right)^{T}\left(I-L\right)\right].}$

De este modo,

${\displaystyle n\cdot \operatorname {MSPE} (L)=\operatorname {E} \left[\sum _{i=1}^{n}\left(y_{i}-{\widehat {g}}(x_{i})\right)^{2}\right]-\sigma ^{2}\left(n-\operatorname {tr} \left[L\right]\right).}$

Si se conoce o se estima bien por , es posible estimar MSPE por ${\displaystyle \sigma ^{2}}$${\displaystyle {\widehat {\sigma }}^{2}}$

${\displaystyle n\cdot \operatorname {\widehat {MSPE}} (L)=\sum _{i=1}^{n}\left(y_{i}-{\widehat {g}}(x_{i})\right)^{2}-{\widehat {\sigma }}^{2}\left(n-\operatorname {tr} \left[L\right]\right).}$

Colin Mallows defendió este método en la construcción de su estadística de selección de modelos C _p , que es una versión normalizada del MSPE estimado:

${\displaystyle C_{p}={\frac {\sum _{i=1}^{n}\left(y_{i}-{\widehat {g}}(x_{i})\right)^{2}}{{\widehat {\sigma }}^{2}}}-n+2p.}$

donde p es el número de parámetros estimados p y se calcula a partir de la versión del modelo que incluye todos los regresores posibles. Con esto concluye esta prueba. ${\displaystyle {\widehat {\sigma }}^{2}}$

• Criterio de información de Akaike
• Compensación entre sesgo y varianza
• Error cuadrático medio
• Errores y residuos en estadística
• Ley de varianza total
• C _p de Mallows
• Selección de modelo