Error cuadrático medio de predicción

En estadística, el error cuadrático medio de predicción ( MSPE ), también conocido como error cuadrático medio de las predicciones , de un procedimiento de suavizado , ajuste de curvas o regresión es el valor esperado de los errores de predicción al cuadrado ( PE ), la diferencia al cuadrado entre los valores ajustados implícitos por la función predictiva.${\displaystyle {\widehat {g}}}$y los valores del verdadero valor (no observable) g . Es una medida inversa del poder explicativo de${\displaystyle {\widehat {g}},}$y puede utilizarse en el proceso de validación cruzada de un modelo estimado. Se requeriría el conocimiento de g para calcular el MSPE con exactitud; en la práctica, el MSPE se estima. ^{[ 1 ]}

Si el procedimiento de suavizado o ajuste tiene una matriz de proyección (es decir, matriz sombrero) L , que mapea el vector de valores observados${\displaystyle y}$al vector de valores predichos${\displaystyle {\hat {y}}=Ly,}$Entonces, PE y MSPE se formulan como:

${\displaystyle \operatorname {PE_{i}} =g(x_{i})-{\widehat {g}}(x_{i}),}$

${\displaystyle \operatorname {MSPE} =\operatorname {E} \left[\operatorname {PE} _{i}^{2}\right]=\sum _{i=1}^{n}\operatorname {PE} _{i}^{2}/n.}$

El MSPE se puede descomponer en dos términos: el sesgo al cuadrado (error medio) de los valores ajustados y la varianza de los valores ajustados:

${\displaystyle \operatorname {MSPE} =\operatorname {ME} ^{2}+\operatorname {VAR} ,}$

${\displaystyle \operatorname {ME} =\operatorname {E} \left[{\widehat {g}}(x_{i})-g(x_{i})\right]}$

${\displaystyle \operatorname {VAR} =\operatorname {E} \left[\left({\widehat {g}}(x_{i})-\operatorname {E} \left[{g}(x_{i})\right]\right)^{2}\right].}$

La cantidad SSPE = n MSPE se llama suma de errores de predicción al cuadrado . El error de predicción cuadrático medio es la raíz cuadrada de MSPE: RMSPE = √ MSPE .

El error cuadrático medio de predicción se puede calcular con exactitud en dos contextos. Primero, con una muestra de datos de longitud n , el analista de datos puede ejecutar la regresión solo sobre q puntos de datos (con q < n ), reservando los otros n – q puntos de datos con el propósito específico de usarlos para calcular el MSPE estimado del modelo fuera de la muestra (es decir, sin usar los datos que se usaron en el proceso de estimación del modelo). Dado que el proceso de regresión se adapta a los q puntos de la muestra, normalmente el MSPE dentro de la muestra será menor que el MSPE fuera de la muestra calculado sobre los n – q puntos reservados. Si el aumento en el MSPE fuera de la muestra en comparación con dentro de la muestra es relativamente pequeño, eso hace que el modelo se vea favorablemente. Y si se comparan dos modelos, el que tenga el MSPE más bajo sobre los n – q puntos de datos fuera de la muestra se ve más favorablemente, independientemente del rendimiento relativo de los modelos dentro de la muestra. En este contexto, el error cuadrático medio (MSPE) fuera de la muestra es exacto para los puntos de datos fuera de la muestra sobre los que se calculó, pero es simplemente una estimación del MSPE del modelo para la población mayoritariamente no observada de la que se extrajeron los datos.

En segundo lugar, con el paso del tiempo, el analista de datos puede disponer de más datos, y entonces se puede calcular el MSPE sobre estos nuevos datos.

Cuando el modelo se ha estimado sobre todos los datos disponibles sin reservar ninguno, el MSPE del modelo sobre toda la población de datos mayoritariamente no observados se puede estimar de la siguiente manera.

Para el modelo${\displaystyle y_{i}=g(x_{i})+\sigma \varepsilon _{i}}$dónde${\displaystyle \varepsilon _ {i}\sim {\mathcal {N}}(0,1)}$, uno puede escribir

${\displaystyle n\cdot \operatorname {MSPE} (L)=g^{\text{T}}(IL)^{\text{T}}(IL)g+\sigma ^{2}\operatorname {tr} \left[L^{\text{T}}L\right].}$

Utilizando valores de datos dentro de la muestra, el primer término del lado derecho es equivalente a

${\displaystyle \sum _{i=1}^{n}\left(\operatorname {E} \left[g(x_{i})-{\widehat {g}}(x_{i})\right]\right)^{2}=\operatorname {E} \left[\sum _{i=1}^{n}\left(y_{i}-{\widehat {g}}(x_{i})\right)^{2}\right]-\sigma ^{2}\operatorname {tr} \left[\left(IL\right)^{T}\left(IL\right)\right].}$

De este modo,

${\displaystyle n\cdot \operatorname {MSPE} (L)=\operatorname {E} \left[\sum _{i=1}^{n}\left(y_{i}-{\widehat {g}}(x_{i})\right)^{2}\right]-\sigma ^{2}\left(n-\operatorname {tr} \left[L\right]\right).}$

Si${\displaystyle \sigma ^{2}}$es conocido o bien estimado por${\displaystyle {\widehat {\sigma }}^{2}}$, se hace posible estimar el MSPE mediante

${\displaystyle n\cdot \operatorname {\widehat {MSPE}} (L)=\sum _{i=1}^{n}\left(y_{i}-{\widehat {g}}(x_{i})\right)^{2}-{\widehat {\sigma }}^{2}\left(n-\operatorname {tr} \left[L\right]\right).}$

Colin Mallows defendió este método en la construcción de su estadístico de selección de modelos C _p , que es una versión normalizada del MSPE estimado:

${\displaystyle C_{p}={\frac {\sum _{i=1}^{n}\left(y_{i}-{\widehat {g}}(x_{i})\right)^{2}}{{\widehat {\sigma }}^{2}}}-n+2p.}$

donde p es el número de parámetros estimados p y${\displaystyle {\widehat {\sigma }}^{2}}$se calcula a partir de la versión del modelo que incluye todos los regresores posibles. Con esto concluye esta demostración.

• criterio de información de Akaike
• Compromiso entre sesgo y varianza
• Error cuadrático medio
• Errores y residuos en estadística
• Ley de la varianza total
• C _p de Mallows
• Selección de modelos