regresión no lineal

En estadística, la regresión no lineal es una forma de análisis de regresión en la que los datos observacionales se modelan mediante una función que es una combinación no lineal de los parámetros del modelo y depende de una o más variables independientes. Los datos se ajustan mediante un método de aproximaciones sucesivas (iteraciones).

En la regresión no lineal, un modelo estadístico de la forma,

$${\displaystyle \mathbf {y} \sim f(\mathbf {x} ,{\boldsymbol {\beta }})}$$

relaciona un vector de variables independientes ,${\displaystyle \mathbf {x} }$y sus variables dependientes observadas asociadas ,${\displaystyle \mathbf {y} }$. La función${\displaystyle f}$es no lineal en los componentes del vector de parámetros${\displaystyle \beta }$, pero por lo demás arbitrario. Por ejemplo, el modelo de Michaelis-Menten para la cinética enzimática tiene dos parámetros y una variable independiente, relacionados por${\displaystyle f}$por: ^{[ a ]}

$${\displaystyle f(x,{\boldsymbol {\beta }})={\frac {\beta _{1}x}{\beta _{2}+x}}}$$

Esta función, que es una hipérbola rectangular, es no lineal porque no puede expresarse como una combinación lineal de las dos${\displaystyle \beta }$s.

Puede haber errores sistemáticos en las variables independientes, pero su tratamiento queda fuera del alcance del análisis de regresión. Si las variables independientes no están libres de errores, se trata de un modelo con errores en las variables , que también queda fuera de este alcance.

Otros ejemplos de funciones no lineales incluyen funciones exponenciales , logarítmicas , trigonométricas , potenciales , la función gaussiana y las distribuciones de Lorentz . Algunas funciones, como las exponenciales o logarítmicas, pueden transformarse para que sean lineales. Cuando se transforman de esta manera, se puede realizar una regresión lineal estándar, pero debe aplicarse con precaución. Consulte las secciones «  Linealización» y  «Transformación » a continuación para obtener más detalles. En microbiología y biotecnología, la regresión no lineal se utiliza para modelar la cinética compleja del crecimiento microbiano. Si bien el crecimiento simple sigue funciones monoaúxicas (como los modelos de Gompertz o Boltzmann), el crecimiento multifásico (poliáuxico) se modela utilizando combinaciones lineales de estas funciones no lineales. La estimación de parámetros para estos modelos complejos a menudo requiere técnicas de regresión robustas (por ejemplo, el uso de una función de pérdida lorentziana para mitigar los valores atípicos) y algoritmos de optimización global (como la evolución diferencial con L-BFGS-B ) para evitar mínimos locales y garantizar resultados biológicamente interpretables. ^{[ 1 ] [ 2 ]}

En general, no existe una expresión analítica para los parámetros óptimos, como sí la hay en la regresión lineal . Normalmente, se aplican algoritmos de optimización numérica para determinar dichos parámetros. A diferencia de la regresión lineal, la función a optimizar puede tener múltiples mínimos locales , e incluso el mínimo global puede generar una estimación sesgada . En la práctica, se utilizan valores estimados de los parámetros, junto con el algoritmo de optimización, para intentar encontrar el mínimo global de una suma de cuadrados.

Para obtener más detalles sobre el modelado de datos no lineales, consulte mínimos cuadrados y mínimos cuadrados no lineales .

La suposición subyacente a este procedimiento es que el modelo puede aproximarse mediante una función lineal, concretamente una serie de Taylor de primer orden :

$${\displaystyle f(x_{i},{\boldsymbol {\beta }})\approx f(x_{i},0)+\sum _{j}J_{ij}\beta _{j}}$$

dónde${\displaystyle J_{ij}={\frac {\partial f(x_{i},{\boldsymbol {\beta }})}{\partial \beta _{j}}}}$son elementos de la matriz jacobiana. De esto se deduce que los estimadores de mínimos cuadrados vienen dados por

$${\displaystyle {\hat {\boldsymbol {\beta }}}\approx \mathbf {(J^{T}J)^{-1}J^{T}y} ,}$$ Se comparan los mínimos cuadrados generalizados con una matriz de covarianza proporcional a la matriz identidad. Las estadísticas de regresión no lineal se calculan y utilizan como en las estadísticas de regresión lineal, pero sustituyendo X por J en las fórmulas.

Cuando la función${\displaystyle f(x_{i},{\boldsymbol {\beta }})}$en sí mismo no se conoce analíticamente, sino que necesita ser aproximado linealmente a partir de${\displaystyle n+1}$, o más, valores conocidos (donde${\displaystyle n}$es el número de estimadores), el mejor estimador se obtiene directamente del ajuste de plantilla lineal como ^{[ 3 ].}$${\displaystyle {\hat {\boldsymbol {\beta }}}=((\mathbf {Y{\tilde {M}}} )^{\mathsf {T}}{\boldsymbol {\Omega }}^{-1}\mathbf {Y{\tilde {M}}} )^{-1}(\mathbf {Y{\tilde {M}}} )^{\mathsf {T}}{\boldsymbol {\Omega }}^{-1}(\mathbf {d} -\mathbf {Y{\bar {m}})} }$$(véase también mínimos cuadrados lineales ).

La aproximación lineal introduce sesgos en las estadísticas. Por lo tanto, se requiere mayor precaución de lo habitual al interpretar las estadísticas derivadas de un modelo no lineal.

La curva de mejor ajuste suele considerarse aquella que minimiza la suma de los residuos al cuadrado . Este es el método de mínimos cuadrados ordinarios (MCO). Sin embargo, en casos donde la variable dependiente no tiene varianza constante o existen valores atípicos, se puede minimizar una suma de residuos al cuadrado ponderados; véase mínimos cuadrados ponderados . Idealmente, cada ponderación debería ser igual al recíproco de la varianza de la observación, o al recíproco de la variable dependiente elevado a alguna potencia en el caso de valores atípicos, ^{[ 4 ]} pero las ponderaciones pueden recalcularse en cada iteración, en un algoritmo iterativo de mínimos cuadrados ponderados.

• mínimos cuadrados no lineales
• Ajuste de curvas
• Modelo lineal generalizado
• regresión local
• Metodología de modelado de respuesta
• Programación genética
• Programación de expresiones múltiples
• Ajuste de plantilla lineal o cuadrático

• Bethea, RM; Duran, BS; Boullion, TL (1985). Métodos estadísticos para ingenieros y científicos . Nueva York: Marcel Dekker. ISBN 0-8247-7227-X.
• Meade, N.; Islam, T. (1995). "Intervalos de predicción para pronósticos de curvas de crecimiento". Journal of Forecasting . 14 (5): 413– 430. doi : 10.1002/for.3980140502 .
• Schittkowski, K. (2002). Ajuste de datos en sistemas dinámicos . Boston: Kluwer. ISBN 1402010796.
• Seber, GAF; Wild, CJ (1989). Regresión no lineal . Nueva York: John Wiley and Sons. ISBN 0471617601.