Análisis de regresión

En el modelado estadístico , el análisis de regresión es un método estadístico para estimar la relación entre una variable dependiente (a menudo llamada variable de resultado o respuesta , o etiqueta en la jerga del aprendizaje automático) y una o más variables independientes (a menudo llamadas regresores , predictores , covariables , variables explicativas o características ). ^{[ 1 ] [ 2 ]}

La forma más común de análisis de regresión es la regresión lineal , en la que se encuentra la línea (o una combinación lineal más compleja ) que mejor se ajusta a los datos según un criterio matemático específico. Por ejemplo, el método de mínimos cuadrados ordinarios calcula la única línea (o hiperplano ) que minimiza la suma de las diferencias al cuadrado entre los datos reales y esa línea (o hiperplano). Por razones matemáticas específicas (véase regresión lineal ), esto permite al investigador estimar la esperanza condicional (o valor promedio de la población ) de la variable dependiente cuando las variables independientes toman un conjunto dado de valores. Las formas menos comunes de regresión utilizan procedimientos ligeramente diferentes para estimar parámetros de localización alternativos (p. ej., regresión de cuantiles o análisis de condición necesaria ^{[ 3 ]} ) o estimar la esperanza condicional en una colección más amplia de modelos no lineales (p. ej., regresión no paramétrica ).

El análisis de regresión se utiliza principalmente para dos propósitos conceptualmente distintos. En primer lugar, se emplea ampliamente para la predicción y la previsión , donde su uso se solapa considerablemente con el campo del aprendizaje automático . En segundo lugar, en algunas situaciones, el análisis de regresión puede utilizarse para inferir relaciones causales entre las variables independientes y dependientes. Es importante destacar que las regresiones por sí solas solo revelan relaciones entre una variable dependiente y un conjunto de variables independientes en un conjunto de datos fijo. Para utilizar las regresiones para la predicción o para inferir relaciones causales, respectivamente, el investigador debe justificar cuidadosamente por qué las relaciones existentes tienen poder predictivo en un nuevo contexto o por qué una relación entre dos variables tiene una interpretación causal. Esto último es especialmente importante cuando los investigadores pretenden estimar relaciones causales utilizando datos observacionales . ^{[ 4 ] [ 5 ]}

La primera forma de regresión se observó en el trabajo de Isaac Newton en 1700, mientras estudiaba los equinoccios , a quien se le atribuye la introducción de un "análisis de regresión lineal embrionario", ya que "no solo realizó el promedio de un conjunto de datos, 50 años antes que Tobias Mayer , sino que al sumar los residuos a cero, obligó a la línea de regresión a pasar por el punto promedio. También distinguió entre dos conjuntos de datos no homogéneos y pudo haber pensado en una solución óptima en términos de sesgo, aunque no en términos de efectividad". ^{[ 6 ]} Anteriormente, utilizó un método de promedio en su trabajo de 1671 sobre los anillos de Newton , lo cual no tenía precedentes en ese momento. ^{[ 7 ]}

El método de mínimos cuadrados fue publicado por Legendre en 1805, ^{[ 8 ]} y por Gauss en 1809. ^{[ 9 ]} Tanto Legendre como Gauss aplicaron el método al problema de determinar, a partir de observaciones astronómicas, las órbitas de los cuerpos alrededor del Sol (principalmente cometas, pero también más tarde los planetas menores recién descubiertos en ese entonces ). Gauss publicó un desarrollo posterior de la teoría de mínimos cuadrados en 1821, ^{[ 10 ]} incluyendo una versión del teorema de Gauss-Markov .

El término "regresión" fue acuñado por Francis Galton en el siglo XIX para describir un fenómeno biológico. El fenómeno era que las alturas de los descendientes de ancestros altos tienden a regresar hacia un promedio normal (un fenómeno también conocido como regresión a la media ). ^{[ 11 ] [ 12 ]} Para Galton, la regresión tenía solo este significado biológico, ^{[ 13 ] [ 14 ]} pero su trabajo fue extendido posteriormente por Udny Yule y Karl Pearson a un contexto estadístico más general. ^{[ 15 ] [ 16 ]} En el trabajo de Yule y Pearson, se asume que la distribución conjunta de las variables de respuesta y explicativas es gaussiana . Esta suposición fue debilitada por RA Fisher en sus trabajos de 1922 y 1925. ^{[ 17 ] [ 18 ] [ 19 ]} Fisher asumió que la distribución condicional de la variable de respuesta es gaussiana, pero la distribución conjunta no necesariamente lo es. En este sentido, la suposición de Fisher se acerca más a la formulación de Gauss de 1821.

En las décadas de 1950 y 1960, los economistas utilizaban calculadoras de escritorio electromecánicas para calcular regresiones. Antes de 1970, a veces se tardaba hasta 24 horas en obtener el resultado de una regresión. ^{[ 20 ]}

Los métodos de regresión siguen siendo un área de investigación activa. En las últimas décadas, se han desarrollado nuevos métodos para la regresión robusta , la regresión que involucra respuestas correlacionadas como series temporales y curvas de crecimiento , la regresión en la que el predictor (variable independiente) o las variables de respuesta son curvas, imágenes, gráficos u otros objetos de datos complejos, métodos de regresión que admiten varios tipos de datos faltantes, regresión no paramétrica , métodos bayesianos para regresión, regresión en la que las variables predictoras se miden con error, regresión con más variables predictoras que observaciones e inferencia causal con regresión. El análisis de regresión moderno se realiza típicamente con paquetes de software estadístico y hojas de cálculo en computadoras, así como en calculadoras científicas y gráficas portátiles .

En la práctica, los investigadores primero seleccionan un modelo que desean estimar y luego utilizan el método elegido (por ejemplo, mínimos cuadrados ordinarios ) para estimar los parámetros de ese modelo. Los modelos de regresión incluyen los siguientes componentes:

• Los parámetros desconocidos , a menudo denotados como un escalar o un vector${\displaystyle \beta }$.
• Las variables independientes , que se observan en los datos y a menudo se denotan como un vector${\displaystyle X_{i}}$(dónde${\displaystyle i}$denota una fila de datos).
• La variable dependiente , que se observa en los datos y a menudo se denota utilizando el escalar${\displaystyle Y_{i}}$.
• Los términos de error , que no se observan directamente en los datos y a menudo se denotan utilizando el escalar${\displaystyle e_{i}}$.

En diversos campos de aplicación , se utilizan diferentes terminologías en lugar de variables dependientes e independientes .

La mayoría de los modelos de regresión proponen que${\displaystyle Y_{i}}$es una función ( función de regresión ) de${\displaystyle X_{i}}$y${\displaystyle \beta }$, con${\displaystyle e_{i}}$representando un término de error aditivo que puede sustituir a determinantes no modelados de${\displaystyle Y_{i}}$o ruido estadístico aleatorio:

${\displaystyle Y_{i}=f(X_{i},\beta )+e_{i}}$

En el modelo de regresión estándar, las variables independientes${\displaystyle X_{i}}$Se supone que están libres de errores. El modelo de errores en las variables se puede utilizar si se supone que las variables independientes contienen errores. Se pueden realizar otras modificaciones al modelo de regresión estándar para tener en cuenta diversos escenarios, como situaciones que involucran variables omitidas , variables de confusión o endogeneidad .

El objetivo de los investigadores es estimar la función${\displaystyle f(X_{i},\beta )}$que mejor se ajuste a los datos. Para realizar un análisis de regresión, la forma de la función${\displaystyle f}$debe especificarse. A veces la forma de esta función se basa en el conocimiento sobre la relación entre${\displaystyle Y_{i}}$y${\displaystyle X_{i}}$que no se basa en los datos. Si no se dispone de dicho conocimiento, una forma flexible o conveniente para${\displaystyle f}$se elige. Por ejemplo, una regresión univariante simple puede proponer${\displaystyle f(X_{i},\beta )=\beta _{0}+\beta _{1}X_{i}}$, lo que sugiere que el investigador cree${\displaystyle Y_{i}=\beta _{0}+\beta _{1}X_{i}+e_{i}}$que sea una aproximación razonable para el proceso estadístico que genera los datos.

Una vez que los investigadores determinan su modelo estadístico preferido , diferentes formas de análisis de regresión proporcionan herramientas para estimar los parámetros.${\displaystyle \beta }$. Por ejemplo, el método de mínimos cuadrados (incluida su variante más común, los mínimos cuadrados ordinarios ) encuentra el valor de${\displaystyle \beta }$que minimiza la suma de los errores cuadráticos${\displaystyle \sum _{i}(Y_{i}-f(X_{i},\beta ))^{2}}$. Un método de regresión determinado proporcionará en última instancia una estimación de${\displaystyle \beta }$, generalmente denotado${\displaystyle {\sombrero {\beta }}}$para distinguir la estimación del valor real (desconocido) del parámetro que generó los datos. Utilizando esta estimación, el investigador puede entonces usar el valor ajustado.${\displaystyle {\hat {Y_{i}}}=f(X_{i},{\hat {\beta }})}$para predecir o para evaluar la precisión del modelo al explicar los datos. Si el investigador está intrínsecamente interesado en la estimación${\displaystyle {\sombrero {\beta }}}$o el valor previsto${\displaystyle {\sombrero {Y_ {i}}}}$dependerá del contexto y sus objetivos. Como se describe en mínimos cuadrados ordinarios , los mínimos cuadrados se utilizan ampliamente porque la función estimada${\displaystyle f(X_{i},{\hat {\beta }})}$se aproxima a la esperanza condicional${\displaystyle E(Y_{i}|X_{i})}$. ^{[ 9 ]} Sin embargo, las variantes alternativas (por ejemplo, las desviaciones absolutas mínimas o la regresión de cuantiles ) son útiles cuando los investigadores quieren modelar otras funciones.${\displaystyle f(X_{i},\beta )}$.

Debe haber datos suficientes para estimar un modelo de regresión. Por ejemplo, supongamos que un investigador tiene acceso a${\displaystyle N}$filas de datos con una variable dependiente y dos variables independientes:${\displaystyle (Y_{i},X_{1i},X_{2i})}$Supongamos además que el investigador desea estimar un modelo lineal bivariado mediante mínimos cuadrados :${\displaystyle Y_{i}=\beta _{0}+\beta _{1}X_{1i}+\beta _{2}X_{2i}+e_{i}}$. Si el investigador solo tiene acceso a${\displaystyle N=2}$puntos de datos, entonces podrían encontrar infinitas combinaciones${\displaystyle ({\hat {\beta }}_{0},{\hat {\beta }}_{1},{\hat {\beta }}_{2})}$que expliquen los datos igualmente bien: se puede elegir cualquier combinación que satisfaga${\displaystyle {\hat {Y}}_{i}={\hat {\beta }}_{0}+{\hat {\beta }}_{1}X_{1i}+{\hat {\beta }}_{2}X_{2i}}$, todo lo cual conduce a${\displaystyle \sum _{i}{\hat {e}}_{i}^{2}=\sum _{i}({\hat {Y}}_{i}-({\hat {\beta }}_{0}+{\hat {\beta }}_{1}X_{1i}+{\hat {\beta }}_{2}X_{2i}))^{2}=0}$y son, por lo tanto, soluciones válidas que minimizan la suma de los residuos al cuadrado . Para entender por qué hay infinitas opciones, tenga en cuenta que el sistema de${\displaystyle N=2}$Las ecuaciones deben resolverse para 3 incógnitas, lo que hace que el sistema sea subdeterminado . Alternativamente, se pueden visualizar infinitos planos tridimensionales que pasan por${\displaystyle N=2}$puntos fijos.

De manera más general, para estimar un modelo de mínimos cuadrados con${\displaystyle k}$parámetros distintos, uno debe tener${\displaystyle N\geq k}$puntos de datos distintos. Si${\displaystyle N>k}$, entonces generalmente no existe un conjunto de parámetros que se ajusten perfectamente a los datos. La cantidad${\displaystyle N-k}$Aparece con frecuencia en el análisis de regresión y se denomina grados de libertad del modelo. Además, para estimar un modelo de mínimos cuadrados, las variables independientes${\displaystyle (X_{1i},X_{2i},...,X_{ki})}$deben ser linealmente independientes : no se debe poder reconstruir ninguna de las variables independientes sumando y multiplicando las variables independientes restantes. Como se discutió en mínimos cuadrados ordinarios , esta condición garantiza que${\displaystyle X^{T}X}$es una matriz invertible y por lo tanto tiene una solución única.${\displaystyle {\hat {\beta }}}$existe.

En sí misma, una regresión es simplemente un cálculo realizado sobre un conjunto de datos. Para interpretar la regresión resultante como un modelo estadístico significativo que cuantifique relaciones del mundo real, los investigadores suelen basarse en una serie de supuestos clásicos . Estos supuestos suelen incluir:

• La muestra es representativa de la población en general.
• Las variables independientes se miden sin error.
• Las desviaciones del modelo tienen un valor esperado de cero, condicionado a las covariables:${\displaystyle E(e_{i}|X_{i})=0}$
• La varianza de los residuos${\displaystyle e_{i}}$es constante en todas las observaciones ( homoscedasticidad ).
• Los residuos${\displaystyle e_{i}}$no están correlacionados entre sí. Matemáticamente, la matriz de varianza-covarianza de los errores es diagonal .

Un puñado de condiciones son suficientes para que el estimador de mínimos cuadrados posea propiedades deseables: en particular, los supuestos de Gauss-Markov implican que las estimaciones de los parámetros serán insesgadas , consistentes y eficientes en la clase de estimadores lineales insesgados. Los profesionales han desarrollado una variedad de métodos para mantener algunas o todas estas propiedades deseables en entornos del mundo real, porque es poco probable que estos supuestos clásicos se cumplan exactamente. Por ejemplo, modelar errores en las variables puede conducir a estimaciones razonables de las variables independientes que se miden con errores. Los errores estándar consistentes con la heterocedasticidad permiten la varianza de${\displaystyle e_{i}}$cambiar en función de los valores de${\displaystyle X_{i}}$Los errores correlacionados que existen dentro de subconjuntos de datos o que siguen patrones específicos pueden manejarse utilizando errores estándar agrupados, regresión ponderada geográficamente o errores estándar de Newey-West , entre otras técnicas. Cuando las filas de datos corresponden a ubicaciones en el espacio, la elección de cómo modelar${\displaystyle e_{i}}$dentro de las unidades geográficas puede tener consecuencias importantes. ^{[ 21 ] [ 22 ]} El subcampo de la econometría se centra principalmente en desarrollar técnicas que permitan a los investigadores llegar a conclusiones razonables del mundo real en entornos del mundo real, donde los supuestos clásicos no se cumplen exactamente.

En la regresión lineal, la especificación del modelo es que la variable dependiente,${\displaystyle y_{i}}$es una combinación lineal de los parámetros (pero no necesariamente lineal en las variables independientes ). Por ejemplo, en la regresión lineal simple para modelar${\displaystyle n}$En los puntos de datos hay una variable independiente:${\displaystyle x_{i}}$y dos parámetros,${\displaystyle \beta _{0}}$y${\displaystyle \beta _{1}}$:

línea recta:${\displaystyle y_{i}=\beta _{0}+\beta _{1}x_{i}+\varepsilon _{i},\quad i=1,\dots ,n.\!}$

En la regresión lineal múltiple, existen varias variables independientes o funciones de variables independientes.

Agregar un término en${\displaystyle x_{i}^{2}}$Al aplicar la regresión anterior se obtiene:

parábola:${\displaystyle y_{i}=\beta _{0}+\beta _{1}x_{i}+\beta _{2}x_{i}^{2}+\varepsilon _{i},\ i=1,\dots ,n.\!}$

Esto sigue siendo una regresión lineal; aunque la expresión del lado derecho es cuadrática en la variable independiente.${\displaystyle x_{i}}$es lineal en los parámetros${\displaystyle \beta _{0}}$,${\displaystyle \beta _{1}}$y${\displaystyle \beta _{2}.}$

En ambos casos,${\displaystyle \varepsilon _{i}}$es un término de error y el subíndice${\displaystyle i}$indexa una observación particular.

Volviendo al caso de la línea recta: dado un muestreo aleatorio de la población, estimamos los parámetros de la población y obtenemos el modelo de regresión lineal de la muestra:

${\displaystyle {\widehat {y}}_{i}={\widehat {\beta }}_{0}+{\widehat {\beta }}_{1}x_{i}.}$

El residual ,${\displaystyle e_{i}=y_{i}-{\widehat {y}}_{i}}$, es la diferencia entre el valor de la variable dependiente predicho por el modelo,${\displaystyle {\widehat {y}}_{i}}$y el verdadero valor de la variable dependiente,${\displaystyle y_{i}}$. Un método de estimación es el de mínimos cuadrados ordinarios . Este método obtiene estimaciones de parámetros que minimizan la suma de los residuos al cuadrado , SSR :

${\displaystyle SSR=\sum _{i=1}^{n}e_{i}^{2}}$

La minimización de esta función da como resultado un conjunto de ecuaciones normales , un conjunto de ecuaciones lineales simultáneas en los parámetros, que se resuelven para obtener los estimadores de los parámetros,${\displaystyle {\widehat {\beta }}_{0},{\widehat {\beta }}_{1}}$.

En el caso de regresión simple, las fórmulas para las estimaciones de mínimos cuadrados son:

${\displaystyle {\widehat {\beta }}_{1}={\frac {\sum (x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum (x_{i}-{\bar {x}})^{2}}}}$

${\displaystyle {\widehat {\beta }}_{0}={\bar {y}}-{\widehat {\beta }}_{1}{\bar {x}}}$

dónde${\displaystyle {\bar {x}}}$es la media (promedio) de la${\displaystyle x}$valores y${\displaystyle {\bar {y}}}$es la media de la${\displaystyle y}$valores.

Bajo el supuesto de que el término de error poblacional tiene una varianza constante, la estimación de dicha varianza viene dada por:

${\displaystyle {\hat {\sigma }}_{\varepsilon }^{2}={\frac {SSR}{n-2}}}$

Esto se denomina error cuadrático medio (ECM) de la regresión. El denominador es el tamaño de la muestra reducido por el número de parámetros del modelo estimados a partir de los mismos datos.${\displaystyle (n-p)}$para${\displaystyle p}$regresores o${\displaystyle (n-p-1)}$si se utiliza una intercepción. ^{[ 23 ]} En este caso,${\displaystyle p=1}$por lo tanto el denominador es${\displaystyle n-2}$.

Los errores estándar de las estimaciones de los parámetros vienen dados por

${\displaystyle {\hat {\sigma }}_{\beta _{1}}={\hat {\sigma }}_{\varepsilon }{\sqrt {\frac {1}{\sum (x_{i}-{\bar {x}})^{2}}}}}$

${\displaystyle {\hat {\sigma }}_{\beta _{0}}={\hat {\sigma }}_{\varepsilon }{\sqrt {{\frac {1}{n}}+{\frac {{\bar {x}}^{2}}{\sum (x_{i}-{\bar {x}})^{2}}}}}={\hat {\sigma }}_{\beta _{1}}{\sqrt {\frac {\sum x_{i}^{2}}{n}}}.}$

Bajo el supuesto adicional de que el término de error poblacional tiene una distribución normal, el investigador puede utilizar estos errores estándar estimados para crear intervalos de confianza y realizar pruebas de hipótesis sobre los parámetros poblacionales .

Cuando la función del modelo no es lineal con respecto a los parámetros, la suma de los cuadrados debe minimizarse mediante un procedimiento iterativo. Esto introduce numerosas complicaciones que se resumen en el apartado « Diferencias entre mínimos cuadrados lineales y no lineales» .

Los modelos de regresión predicen un valor de la variable Y a partir de valores conocidos de las variables X. La predicción dentro del rango de valores del conjunto de datos utilizado para el ajuste del modelo se conoce informalmente como interpolación . La predicción fuera de este rango se conoce como extrapolación . La extrapolación depende en gran medida de los supuestos de la regresión. Cuanto más se aleje la extrapolación de los datos, mayor será la probabilidad de que el modelo falle debido a las diferencias entre los supuestos y los datos de la muestra o los valores reales.

Un intervalo de predicción que representa la incertidumbre puede acompañar a la predicción puntual. Dichos intervalos tienden a expandirse rápidamente a medida que los valores de la(s) variable(s) independiente(s) se salen del rango cubierto por los datos observados.

Por tales razones y otras, algunos tienden a decir que podría ser imprudente emprender una extrapolación. ^{[ 25 ]}

No existen métodos generalmente aceptados para relacionar el número de observaciones con el número de variables independientes en el modelo. Un método propuesto por Good y Hardin es${\displaystyle N=m^{n}}$, dónde${\displaystyle N}$es el tamaño de la muestra,${\displaystyle n}$es el número de variables independientes y${\displaystyle m}$es el número de observaciones necesarias para alcanzar la precisión deseada si el modelo tuviera solo una variable independiente. ^{[ 26 ]} Por ejemplo, un investigador está construyendo un modelo de regresión lineal utilizando un conjunto de datos que contiene 1000 pacientes (${\displaystyle N}$). Si el investigador decide que se necesitan cinco observaciones para definir con precisión una línea recta (${\displaystyle m}$), entonces el número máximo de variables independientes (${\displaystyle n}$) el modelo puede soportar es 4, porque

${\displaystyle {\frac {\log 1000}{\log 5}}\approx 4.29}$.

Si bien los parámetros de un modelo de regresión generalmente se estiman utilizando el método de mínimos cuadrados, también se han utilizado otros métodos, entre los que se incluyen:

• Métodos bayesianos , por ejemplo, regresión lineal bayesiana.
• Regresión porcentual, para situaciones en las que se considera más apropiado reducir los errores porcentuales . ^{[ 27 ]}
• Desviaciones absolutas mínimas , que es más robusto en presencia de valores atípicos, lo que lleva a la regresión de cuantiles.
• La regresión no paramétrica requiere un gran número de observaciones y es computacionalmente intensiva.
• Optimización de escenarios , que da lugar a modelos predictivos de intervalo.

Todos los principales paquetes de software estadístico realizan análisis e inferencias de regresión por mínimos cuadrados . La regresión lineal simple y la regresión múltiple mediante mínimos cuadrados se pueden realizar en algunas hojas de cálculo y calculadoras. Si bien muchos paquetes de software estadístico pueden realizar diversos tipos de regresión no paramétrica y robusta, estos métodos están menos estandarizados. Los distintos paquetes de software implementan métodos diferentes, y un método con un nombre determinado puede implementarse de forma distinta en diferentes paquetes. Se ha desarrollado software de regresión especializado para su uso en campos como el análisis de encuestas y la neuroimagen.

• William H. Kruskal y Judith M. Tanur , eds. (1978), "Hipótesis lineales", Enciclopedia internacional de estadística . Free Press, vol. 1,

Evan J. Williams, "I. Regresión", págs. 523–41.

Julian C. Stanley , "II. Análisis de varianza", págs. 541–554.

• Lindley, DV (1987). "Análisis de regresión y correlación", New Palgrave: A Dictionary of Economics , vol. 4, págs.  120-23.
• Birkes, David y Dodge, Y. , Métodos alternativos de regresión . ISBN 0-471-56881-3
• Chatfield, C. (1993) " Cálculo de pronósticos por intervalos ", Journal of Business and Economic Statistics, 11. pp.  121–135.
• Draper, NR; Smith, H. (1998). Análisis de regresión aplicada (3.ª  ed.). John Wiley. ISBN 978-0-471-17082-2.
• Fox, J. (1997). Análisis de regresión aplicada, modelos lineales y métodos relacionados. Sage
• Hardle, W., Regresión no paramétrica aplicada (1990), ISBN 0-521-42950-1
• Meade, Nigel; Islam, Towhidul (1995). "Intervalos de predicción para pronósticos de curvas de crecimiento". Journal of Forecasting . 14 (5): 413– 430. doi : 10.1002/for.3980140502 .
• A. Sen, M. Srivastava, Análisis de regresión : teoría, métodos y aplicaciones , Springer-Verlag, Berlín, 2011 (4.ª edición).
• T. Strutz: Ajuste de datos e incertidumbre (Una introducción práctica a los mínimos cuadrados ponderados y más allá) . Vieweg+Teubner, ISBN 978-3-8348-1022-9.
• Stulp, Freek y Olivier Sigaud. Muchos algoritmos de regresión, un modelo unificado: una revisión. Neural Networks, vol. 69, septiembre de 2015, pp.  60–79. https://doi.org/10.1016/j.neunet.2015.05.005 .
• Malakooti, ​​B. (2013). Sistemas de operaciones y producción con objetivos múltiples . John Wiley & Sons.
• Chicco, Davide; Warrens, Matthijs J.; Jurman, Giuseppe (2021). "El coeficiente de determinación R-cuadrado es más informativo que SMAPE, MAE, MAPE, MSE y RMSE en la evaluación del análisis de regresión" . PeerJ Ciencias de la Computación . 7 (e623): e623. doi : 10.7717/peerj-cs.623 . PMC 8279135 . PMID 34307865 .  

• "Análisis de regresión" , Enciclopedia de Matemáticas , EMS Press , 2001 [1994]
• Primeros usos: Regresión – historia básica y referencias
• ¿Para qué se utiliza la regresión múltiple? – Regresión múltiple
• Regresión de datos débilmente correlacionados : cómo pueden aparecer errores de regresión lineal cuando el rango de Y es mucho menor que el rango de X.