Prueba F

La prueba F es sensible a la falta de normalidad . ^{[ 3 ] [ 4 ]} En el análisis de varianza (ANOVA), las pruebas alternativas incluyen la prueba de Levene , la prueba de Bartlett y la prueba de Brown-Forsythe . Sin embargo, cuando se realiza cualquiera de estas pruebas para comprobar el supuesto subyacente de homocedasticidad ( es decir, homogeneidad de la varianza), como paso preliminar para comprobar los efectos de la media, se produce un aumento en la tasa de error de tipo I del experimento . ^{[ 5 ]}

La fórmula para el estadístico F de la prueba ANOVA unidireccional es

${\displaystyle F={\frac {\text{varianza explicada}}{\text{varianza no explicada}}},}$

o

${\displaystyle F={\frac {\text{variabilidad entre grupos}}{\text{variabilidad dentro de los grupos}}}.}$

La "varianza explicada" o "variabilidad entre grupos" es

${\displaystyle \sum _{i=1}^{K}n_{i}({\bar {Y}}_{i\cdot }-{\bar {Y}})^{2}/(K-1)}$

donde denota la media muestral en el i -ésimo grupo, es el número de observaciones en el i -ésimo grupo, denota la media general de los datos y denota el número de grupos.${\displaystyle {\bar {Y}}_{i\cdot }}$${\displaystyle n_{i}}$${\displaystyle {\bar {Y}}}$${\displaystyle K}$

La "varianza no explicada" o "variabilidad dentro del grupo" es

${\displaystyle \sum _{i=1}^{K}\sum _{j=1}^{n_{i}}\left(Y_{ij}-{\bar {Y}}_{i\cdot }\right)^{2}/(NK),}$

donde es la j ^-ésima observación en el i ^-ésimo grupo y es el tamaño total de la muestra. Este estadístico F sigue la distribución F con grados de libertad y bajo la hipótesis nula. El estadístico será grande si la variabilidad entre grupos es grande en relación con la variabilidad dentro de los grupos, lo cual es improbable que ocurra si las medias poblacionales de todos los grupos tienen el mismo valor.${\displaystyle Y_{ij}}$${\displaystyle K}$${\displaystyle N}$${\displaystyle d_{1}=K-1}$${\displaystyle d_{2}=NK}$

El resultado de la prueba F se determina comparando el valor F calculado con el valor F crítico para un nivel de significancia específico (p. ej., 5%). La tabla F sirve como guía de referencia, ya que contiene los valores F críticos para la distribución del estadístico F bajo el supuesto de una hipótesis nula verdadera. Está diseñada para ayudar a determinar el umbral a partir del cual se espera que el estadístico F supere un porcentaje controlado de las veces (p. ej., 5%) cuando la hipótesis nula es correcta. Para localizar el valor F crítico en la tabla F , es necesario utilizar los grados de libertad correspondientes. Esto implica identificar la fila y la columna apropiadas en la tabla F que corresponden al nivel de significancia que se está probando (p. ej., 5%). ^{[ 6 ]}

Cómo utilizar los valores críticos de F :

Si el estadístico F < el valor crítico de F

• No se rechaza la hipótesis nula
• Rechazar la hipótesis alternativa
• No existen diferencias significativas entre los promedios de las muestras.
• Las diferencias observadas entre los promedios de las muestras podrían deberse razonablemente al azar.
• El resultado no es estadísticamente significativo.

Si el estadístico F > el valor crítico de F

• Aceptar la hipótesis alternativa
• Rechazar la hipótesis nula
• Existen diferencias significativas entre los promedios de las muestras.
• Las diferencias observadas entre los promedios de las muestras no podrían ser causadas razonablemente por el azar.
• El resultado es estadísticamente significativo.

Tenga en cuenta que cuando solo hay dos grupos para la prueba F del ANOVA unidireccional , donde t es el estadístico de Student .${\displaystyle F=t^{2}}$${\displaystyle t}$

La prueba F en el análisis de varianza unidireccional ( ANOVA ) se utiliza para evaluar si los valores esperados de una variable cuantitativa dentro de varios grupos predefinidos difieren entre sí. Por ejemplo, supongamos que un ensayo clínico compara cuatro tratamientos. La prueba F de ANOVA se puede utilizar para evaluar si alguno de los tratamientos es, en promedio, superior o inferior a los demás, en comparación con la hipótesis nula de que los cuatro tratamientos producen la misma respuesta media. Este es un ejemplo de una prueba "ómnibus", lo que significa que se realiza una sola prueba para detectar cualquiera de varias diferencias posibles. Alternativamente, podríamos realizar pruebas por pares entre los tratamientos (por ejemplo, en el ejemplo del ensayo clínico con cuatro tratamientos, podríamos realizar seis pruebas entre pares de tratamientos). La ventaja de la prueba F de ANOVA es que no necesitamos especificar previamente qué tratamientos se van a comparar, ni necesitamos ajustar para realizar comparaciones múltiples . La desventaja de la prueba F de ANOVA es que si rechazamos la hipótesis nula , no sabemos qué tratamientos pueden considerarse significativamente diferentes de los demás, ni, si la prueba F se realiza al nivel α, podemos afirmar que el par de tratamientos con la mayor diferencia de medias es significativamente diferente al nivel α.

Consideremos dos modelos, 1 y 2, donde el modelo 1 está anidado dentro del modelo 2. El modelo 1 es el modelo restringido y el modelo 2 es el no restringido. Es decir, el modelo 1 tiene p ₁ parámetros y el modelo 2 tiene p ₂ parámetros, donde p ₁  < p ₂ , y para cualquier elección de parámetros en el modelo 1, se puede obtener la misma curva de regresión con alguna elección de parámetros del modelo 2. 

Un contexto común en este sentido es el de determinar si un modelo se ajusta a los datos significativamente mejor que un modelo ingenuo, en el que el único término explicativo es el término de intersección, de modo que todos los valores predichos para la variable dependiente se igualan a la media muestral de dicha variable. El modelo ingenuo es el modelo restringido, ya que los coeficientes de todas las variables explicativas potenciales se limitan a ser iguales a cero.

Otro contexto común es determinar si existe una ruptura estructural en los datos: en este caso, el modelo restringido utiliza todos los datos en una sola regresión, mientras que el modelo no restringido utiliza regresiones separadas para dos subconjuntos diferentes de los datos. Este uso de la prueba F se conoce como la prueba de Chow .

El modelo con más parámetros siempre podrá ajustarse a los datos al menos tan bien como el modelo con menos parámetros. Por lo tanto, normalmente el modelo 2 proporcionará un mejor ajuste (es decir, un menor error) a los datos que el modelo 1. Sin embargo, a menudo se desea determinar si el modelo 2 proporciona un ajuste significativamente mejor a los datos. Un enfoque para este problema es utilizar una prueba F.

Si hay n puntos de datos para estimar los parámetros de ambos modelos, entonces se puede calcular el estadístico F , dado por

${\displaystyle F={\frac {\left({\frac {{\text{RSS}}_{1}-{\text{RSS}}_{2}}{p_{2}-p_{1}}}\right)}{\left({\frac {{\text{RSS}}_{2}}{n-p_{2}}}\right)}}={\frac {{\text{RSS}}_{1}-{\text{RSS}}_{2}}{{\text{RSS}}_{2}}}\cdot {\frac {n-p_{2}}{p_{2}-p_{1}}},}$

donde RSS _i es la suma de cuadrados residuales del modelo i . Si el modelo de regresión se ha calculado con ponderaciones, entonces reemplace RSS _i con χ ² , la suma ponderada de los residuos al cuadrado. Bajo la hipótesis nula de que el modelo 2 no proporciona un ajuste significativamente mejor que el modelo 1, F tendrá una distribución F , con ( p ₂ − p ₁ , n − p ₂ ) grados de libertad . La hipótesis nula se rechaza si el F calculado a partir de los datos es mayor que el valor crítico de la distribución F para alguna probabilidad de falso rechazo deseada (por ejemplo, 0,05). Dado que F es una función monótona del estadístico de razón de verosimilitud, la prueba F es una prueba de razón de verosimilitud .