Articulo de referencia

Árbol del modelo logístico

En ciencias de la computación , un árbol de modelo logístico ( LMT ) es un modelo de clasificación con un algoritmo de entrenamiento supervisado asociado que combina regresión l...

En ciencias de la computación , un árbol de modelo logístico ( LMT ) es un modelo de clasificación con un algoritmo de entrenamiento supervisado asociado que combina regresión logística (LR) y aprendizaje de árboles de decisión . [ 1 ] [ 2 ]

Los árboles de modelos logísticos se basan en la idea anterior de un árbol de modelos: un árbol de decisión que tiene modelos de regresión lineal en sus hojas para proporcionar un modelo de regresión lineal por partes (mientras que los árboles de decisión ordinarios con constantes en sus hojas producirían un modelo constante por partes). [ 1 ] En la variante logística, se utiliza el algoritmo LogitBoost para producir un modelo LR en cada nodo del árbol; luego, el nodo se divide utilizando el criterio C4.5 . Cada invocación de LogitBoost se inicia en caliente a partir de sus resultados en el nodo padre. Finalmente, se poda el árbol. [ 3 ]

El algoritmo básico de inducción LMT utiliza validación cruzada para encontrar un número de iteraciones de LogitBoost que no sobreajuste los datos de entrenamiento. Se ha propuesto una versión más rápida que utiliza el criterio de información de Akaike para controlar la parada de LogitBoost. [ 3 ]

Referencias

  1. 1 2 Niels Landwehr; Mark Hall; Eibe Frank (2003). Árboles modelo logísticos (PDF) . ECML PKDD .
  2. Landwehr, N.; Hall, M.; Frank, E. (2005). "Árboles de modelos logísticos" (PDF) . Aprendizaje automático . 59 ( 1–2 ): 161–205 . doi : 10.1007/s10994-005-0466-3 .
  3. 1 2 Sumner, Marc; Eibe Frank; Mark Hall (2005). Aceleración de la inducción de árboles de modelos logísticos (PDF) . PKDD. Springer. pp. 675–683 . 

Véase también