Hispanopedia Wiki
Articulo de referencia

regresión no paramétrica

La regresión no paramétrica es una forma de análisis de regresión en la que la variable predictora no adopta una forma predeterminada, sino que se construye completamente a part...

Hispanopedia WikiContenido en espanolLectura gratuita

La regresión no paramétrica es una forma de análisis de regresión en la que la variable predictora no adopta una forma predeterminada, sino que se construye completamente a partir de la información derivada de los datos. Es decir, no se asume ninguna ecuación paramétrica para la relación entre las variables predictoras y la variable dependiente. Se necesita un tamaño de muestra mayor para construir un modelo no paramétrico con el mismo nivel de incertidumbre que un modelo paramétrico, ya que los datos deben proporcionar tanto la estructura del modelo como las estimaciones de los parámetros.

Definición

La regresión no paramétrica asume la siguiente relación, dadas las variables aleatorias.incógnita{\displaystyle X}yY{\displaystyle Y}:

mi[Y∣incógnita=incógnita]=metro(incógnita),{\displaystyle \mathbb {E} [Y\mid X=x]=m(x),}

dóndemetro(incógnita){\displaystyle m(x)}es alguna función determinista. La regresión lineal es un caso restringido de regresión no paramétrica dondemetro(incógnita){\displaystyle m(x)}Se supone que es una función lineal de los datos. A veces se utiliza una suposición ligeramente más fuerte de ruido aditivo:

Y=metro(incógnita)+U,{\displaystyle Y=m(X)+U,}

donde la variable aleatoriaU{\displaystyle U}es el 'término de ruido', con media 0. Sin la suposición de quemetro{\displaystyle m}pertenece a una familia paramétrica específica de funciones es imposible obtener una estimación insesgada parametro{\displaystyle m}Sin embargo, la mayoría de los estimadores son consistentes bajo condiciones adecuadas.

Algoritmos comunes de regresión no paramétrica

Esta es una lista no exhaustiva de modelos no paramétricos para regresión.

Ejemplos

Regresión de procesos gaussianos o Kriging

En la regresión de procesos gaussianos, también conocida como Kriging, se asume una distribución a priori gaussiana para la curva de regresión. Se supone que los errores siguen una distribución normal multivariada y la curva de regresión se estima mediante su moda posterior . La distribución a priori gaussiana puede depender de hiperparámetros desconocidos, que generalmente se estiman mediante el método bayesiano empírico . Los hiperparámetros suelen especificar un núcleo de covarianza a priori. Si el núcleo también debe inferirse de forma no paramétrica a partir de los datos, se puede utilizar el filtro crítico .

Las funciones spline de suavizado se interpretan como el modo posterior de una regresión de proceso gaussiano.

regresión de kernel

Ejemplo de una curva (línea roja) ajustada a un pequeño conjunto de datos (puntos negros) mediante regresión no paramétrica con un suavizador de núcleo gaussiano. El área sombreada en rosa ilustra la función de núcleo aplicada para obtener una estimación de y para un valor dado de x. La función de núcleo define el peso asignado a cada punto de datos para generar la estimación de un punto objetivo.

La regresión de núcleo estima la variable dependiente continua a partir de un conjunto limitado de puntos de datos mediante la convolución de las ubicaciones de los puntos de datos con una función de núcleo ; en términos generales, la función de núcleo especifica cómo "difuminar" la influencia de los puntos de datos para que sus valores puedan utilizarse para predecir el valor de las ubicaciones cercanas.

Árboles de regresión

Los algoritmos de aprendizaje de árboles de decisión se pueden aplicar para aprender a predecir una variable dependiente a partir de datos. [ 2 ] Aunque la formulación original del Árbol de Clasificación y Regresión (CART) se aplicaba solo a la predicción de datos univariados, el marco se puede utilizar para predecir datos multivariados, incluidas las series temporales. [ 3 ]

Véase también

Referencias

  1. ↑ Cherkassky, Vladimir; Mulier, Filip (1994). Cheeseman, P.; Oldford, RW (eds.). "Técnicas estadísticas y de redes neuronales para regresión no paramétrica" . Selección de modelos a partir de datos . Notas de clase en estadística. Nueva York, NY: Springer: 383–392 . doi : 10.1007/978-1-4612-2660-4_39 . ISBN 978-1-4612-2660-4.
  2. ↑ Breiman, Leo; Friedman, JH; Olshen, RA; Stone, CJ (1984). Árboles de clasificación y regresión . Monterey, CA: Wadsworth & Brooks/Cole Advanced Books & Software. ISBN 978-0-412-04841-8.
  3. ↑ Segal, MR (1992). "Métodos estructurados en árbol para datos longitudinales". Journal of the American Statistical Association . 87 (418). American Statistical Association, Taylor & Francis: 407– 418. doi : 10.2307/2290271 . JSTOR 2290271 . 

Lecturas adicionales

  • Bowman, AW; Azzalini, A. (1997). Técnicas de suavizado aplicadas para el análisis de datos . Oxford: Clarendon Press. ISBN 0-19-852396-3.
  • Fan, J.; Gijbels, I. (1996). Modelado polinomial local y sus aplicaciones . Boca Raton: Chapman and Hall. ISBN 0-412-98321-4.
  • Henderson, DJ; Parmeter, CF (2015). Econometría no paramétrica aplicada . Nueva York: Cambridge University Press. ISBN 978-1-107-01025-3.
  • Li, Q.; Racine, J. (2007). Econometría no paramétrica: teoría y práctica . Princeton: Princeton University Press. ISBN 978-0-691-12161-1.
  • Pagan, A.; Ullah, A. (1999). Econometría no paramétrica . Nueva York: Cambridge University Press. ISBN 0-521-35564-8.
  • HyperNiche, software para regresión multiplicativa no paramétrica .
  • Regresión no paramétrica adaptativa a la escala (con el software Matlab).