Validación de regresión

En estadística , la validación de regresión es el proceso de determinar si los resultados numéricos que cuantifican las relaciones hipotetizadas entre variables, obtenidos mediante análisis de regresión , son aceptables como descripciones de los datos. El proceso de validación puede incluir el análisis de la bondad de ajuste de la regresión, el análisis de si los residuos de la regresión son aleatorios y la comprobación de si el rendimiento predictivo del modelo se deteriora sustancialmente al aplicarlo a datos que no se utilizaron en la estimación del modelo.

Una medida de bondad de ajuste es el coeficiente de determinación , a menudo denotado como ^R² . En mínimos cuadrados ordinarios con término independiente, oscila entre 0 y 1. Sin embargo, un R² cercano a ¹ no garantiza que el modelo se ajuste bien a los datos. Por ejemplo, si la forma funcional del modelo no coincide con los datos, R² puede ser alto a pesar de un ajuste deficiente del modelo. El cuarteto de Anscombe consta de cuatro conjuntos de datos de ejemplo con valores de R² igualmente altos ^, pero datos que a veces claramente no se ajustan a la línea de regresión. En cambio, los conjuntos de datos incluyen ^valores atípicos , puntos de alto apalancamiento o no linealidades.

Un problema con el R² como medida de validez del modelo es que siempre puede incrementarse añadiendo más variables, salvo en el improbable caso de que las variables adicionales no estén correlacionadas con la variable dependiente en la muestra de datos utilizada. Este problema puede evitarse realizando una ^prueba F de la significación estadística del incremento del R² o, en su lugar, utilizando ^el R² ajustado .

Los residuos de un modelo ajustado son las diferencias entre las respuestas observadas en cada combinación de valores de las variables explicativas y la predicción correspondiente de la respuesta calculada mediante la función de regresión. Matemáticamente, la definición del residuo para la i ^-ésima observación en el conjunto de datos se escribe

${\displaystyle e_{i}=y_{i}-f(x_{i};{\hat {\beta }}),}$

donde y _i denota la i- ^ésima respuesta en el conjunto de datos y x _i el vector de variables explicativas, cada una establecida en los valores correspondientes encontrados en la i ^-ésima observación en el conjunto de datos.

Si el modelo se ajusta correctamente a los datos, los residuos se aproximarían a los errores aleatorios que convierten la relación entre las variables explicativas y la variable de respuesta en una relación estadística. Por lo tanto, si los residuos parecen comportarse aleatoriamente, esto sugiere que el modelo se ajusta bien a los datos. Por otro lado, si se observa una estructura no aleatoria en los residuos, es una clara señal de que el modelo se ajusta mal a los datos. La siguiente sección detalla los tipos de gráficos que se pueden usar para probar diferentes aspectos de un modelo y proporciona las interpretaciones correctas de los diferentes resultados que se pueden observar para cada tipo de gráfico.

La validación cruzada consiste en evaluar cómo se generalizan los resultados de un análisis estadístico a un conjunto de datos independiente. Si el modelo se ha estimado con algunos, pero no todos, los datos disponibles, entonces el modelo, utilizando los parámetros estimados, puede usarse para predecir los datos reservados. Si, por ejemplo, el error cuadrático medio fuera de la muestra , también conocido como error cuadrático medio de predicción , es sustancialmente mayor que el error cuadrático medio dentro de la muestra, esto indica una deficiencia en el modelo.

Un avance en estadística médica es el uso de técnicas de validación cruzada fuera de muestra en metaanálisis. Constituye la base del estadístico de validación, Vn , que se utiliza para comprobar la validez estadística de las estimaciones resumidas del metaanálisis. En esencia, mide un tipo de error de predicción normalizado y su distribución es una combinación lineal de variables χ² de grado ^{1. [ 1 ]}

• Todos los modelos son erróneos.
• Selección de modelos
• Error de predicción
• Intervalo de predicción
• Remuestreo (estadística)
• Validez de la conclusión estadística
• Especificación del modelo estadístico
• Validación del modelo estadístico
• Validez (estadística)
• Coeficiente de determinación
• Suma de cuadrados de falta de ajuste
• chi cuadrado reducido

• Arboretti Giancristofaro, R.; Salmaso, L. (2003), " Análisis del rendimiento del modelo y validación del modelo en regresión logística" , Statistica , 63 : 375–396
• Kmenta, Jan ( 1986), Elementos de econometría (Segunda  edición), Macmillan, págs. 593–600 ; republicado en 1997 por University of Michigan Press

• ¿Cómo puedo saber si un modelo se ajusta a mis datos? (NIST)
• Manual electrónico de métodos estadísticos de NIST/SEMATECH
• Diagnóstico de modelos ( Facultad de Ciencias Eberly )

 Este artículo incorpora material de dominio público del Instituto Nacional de Estándares y Tecnología.