Modelo aditivo

En estadística , un modelo aditivo ( AM ) es un método de regresión no paramétrico . Fue sugerido por Jerome H. Friedman y Werner Stuetzle (1981) ^[1] y es una parte esencial del algoritmo ACE . El AM utiliza un suavizador unidimensional para construir una clase restringida de modelos de regresión no paramétricos. Debido a esto, se ve menos afectado por la maldición de la dimensionalidad que un suavizador p -dimensional. Además, el AM es más flexible que un modelo lineal estándar , al mismo tiempo que es más interpretable que una superficie de regresión general a costa de errores de aproximación. Los problemas con AM , como muchos otros métodos de aprendizaje automático, incluyen selección de modelos , sobreajuste y multicolinealidad .

Dado un conjunto de datos de n unidades estadísticas , donde representan predictores y es el resultado, el modelo aditivo toma la forma ${\displaystyle \{y_{i},\,x_{i1},\ldots ,x_{ip}\}_{i=1}^{n}}$ ${\displaystyle \{x_{i1},\ldots ,x_{ip}\}_{i=1}^{n}}$${\displaystyle y_{i}}$

${\displaystyle \mathrm {E}[y_{i}|x_{i1},\ldots ,x_{ip}]=\beta _{0}+\sum _{j=1}^{p}f_{j}(x_{ij})}$

o

${\displaystyle Y=\beta _{0}+\sum _{j=1}^{p}f_{j}(X_{j})+\varepsilon }$

Donde , y . Las funciones son funciones suaves desconocidas que se ajustan a partir de los datos. El ajuste de la AM (es decir, las funciones ) se puede realizar utilizando el algoritmo de ajuste posterior propuesto por Andreas Buja, Trevor Hastie y Robert Tibshirani (1989). ^[2]${\displaystyle \mathrm {E} [\epsilon ]=0}$${\displaystyle \mathrm {Var} (\epsilon )=\sigma ^{2}}$${\displaystyle \mathrm {E}[f_{j}(X_{j})]=0}$$Estilo de visualización f(x)j$$Estilo de visualización f(x)j$

• Modelo aditivo generalizado
• Algoritmo de adaptación posterior
• Regresión de búsqueda de proyección
• Modelo aditivo generalizado para ubicación, escala y forma (GAMLSS)
• Pulido medio
• Persecución de proyecciones

• Breiman, L. y Friedman, JH (1985). "Estimación de transformaciones óptimas para regresión múltiple y correlación", Journal of the American Statistical Association 80:580–598. doi :10.1080/01621459.1985.10478157