Modelo lineal

En estadística , el término modelo lineal se refiere a cualquier modelo que presupone linealidad en el sistema. Su uso más frecuente se da en relación con los modelos de regresión, y a menudo se considera sinónimo de modelo de regresión lineal . Sin embargo, también se emplea en el análisis de series temporales con un significado diferente. En ambos casos, la denominación "lineal" se utiliza para identificar una subclase de modelos que permiten una reducción sustancial de la complejidad de la teoría estadística asociada.

Para el caso de regresión, el modelo estadístico es el siguiente. Dada una muestra (aleatoria), la relación entre las observaciones y las variables independientes se formula como:${\displaystyle (Y_{i},X_{i1},\ldots ,X_{ip}),\,i=1,\ldots ,n}$${\displaystyle Y_{i}}$${\displaystyle X_{ij}}$

${\displaystyle Y_{i}=\beta _{0}+\beta _{1}\phi _{1}(X_{i1})+\cdots +\beta _{p}\phi _{p}(X_{ip})+\varepsilon _{i}\qquad i=1,\ldots ,n}$

donde pueden ser funciones no lineales . En lo anterior, las cantidades son variables aleatorias que representan errores en la relación. La parte "lineal" de la designación se refiere a la aparición de los coeficientes de regresión de forma lineal en la relación anterior. Alternativamente, se puede decir que los valores predichos correspondientes al modelo anterior, a saber,${\displaystyle \phi _{1},\ldots ,\phi _{p}}$${\displaystyle \varepsilon _ {i}}$${\displaystyle \beta _{j}}$

${\displaystyle {\hat {Y}}_{i}=\beta _{0}+\beta _{1}\phi _{1}(X_{i1})+\cdots +\beta _{p}\phi _{p}(X_{ip})\qquad (i=1,\ldots ,n),}$

son funciones lineales de la .${\displaystyle \beta _{j}}$

Dado que la estimación se realiza sobre la base de un análisis de mínimos cuadrados , las estimaciones de los parámetros desconocidos se determinan minimizando una función de suma de cuadrados.${\displaystyle \beta _{j}}$

${\displaystyle S=\sum _{i=1}^{n}\varepsilon _{i}^{2}=\sum _{i=1}^{n}\left(Y_{i}-\beta _{0}-\beta _{1}\phi _{1}(X_{i1})-\cdots -\beta _{p}\phi _{p}(X_{ip})\right)^{2}.}$

De esto se desprende fácilmente que el aspecto "lineal" del modelo significa lo siguiente:

• La función que se va a minimizar es una función cuadrática de la cual la minimización es un problema relativamente simple;${\displaystyle \beta _{j}}$
• Las derivadas de la función son funciones lineales de , lo que facilita encontrar los valores mínimos;${\displaystyle \beta _{j}}$
• Los valores minimizadores son funciones lineales de las observaciones ;${\displaystyle \beta _{j}}$${\displaystyle Y_{i}}$
• Los valores minimizadores son funciones lineales de los errores aleatorios, lo que hace que sea relativamente fácil determinar las propiedades estadísticas de los valores estimados de .${\displaystyle \beta _{j}}$${\displaystyle \varepsilon _ {i}}$${\displaystyle \beta _{j}}$

Un ejemplo de modelo de serie temporal lineal es un modelo autorregresivo de media móvil . Aquí, el modelo para los valores { } en una serie temporal se puede escribir de la forma${\displaystyle X_{t}}$

${\displaystyle X_{t}=c+\varepsilon _{t}+\sum _{i=1}^{p}\phi _{i}X_{ti}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{ti}.\,}$

donde nuevamente las cantidades son variables aleatorias que representan innovaciones que son nuevos efectos aleatorios que aparecen en un momento determinado pero que también afectan los valores de en momentos posteriores. En este caso, el uso del término "modelo lineal" se refiere a la estructura de la relación anterior al representar como una función lineal de valores pasados ​​de la misma serie temporal y de valores actuales y pasados ​​de las innovaciones. ^{[ 1 ]} Este aspecto particular de la estructura significa que es relativamente simple derivar relaciones para las propiedades de media y covarianza de la serie temporal. Nótese que aquí la parte "lineal" del término "modelo lineal" no se refiere a los coeficientes y , como sería en el caso de un modelo de regresión, que parece estructuralmente similar.${\displaystyle \varepsilon _ {i}}$${\displaystyle X}$${\displaystyle X_{t}}$${\displaystyle \phi _{i}}$${\displaystyle \theta _{i}}$

Existen otros casos en los que se utiliza el término "modelo no lineal" para contrastarlo con un modelo de estructura lineal, aunque el término "modelo lineal" no se suele aplicar. Un ejemplo de ello es la reducción de dimensionalidad no lineal .

• modelo lineal general
• Modelo lineal generalizado
• Función predictora lineal
• Sistema lineal
• Regresión lineal
• Modelo estadístico