LogitBoost

En el ámbito del aprendizaje automático y la teoría del aprendizaje computacional , LogitBoost es un algoritmo de boosting formulado por Jerome Friedman , Trevor Hastie y Robert Tibshirani .

El artículo original presenta el algoritmo AdaBoost dentro de un marco estadístico. ^{[ 1 ]} Específicamente, si se considera AdaBoost como un modelo aditivo generalizado y luego se aplica la función de costo de la regresión logística , se puede derivar el algoritmo LogitBoost. ^{[ 2 ]}

LogitBoost puede considerarse una optimización convexa . Específicamente, dado que buscamos un modelo aditivo de la forma

${\displaystyle f=\sum _{t}\alpha _{t}h_{t}}$

El algoritmo LogitBoost minimiza la pérdida logística :

${\displaystyle \sum _{i}\log \left(1+e^{-y_{i}f(x_{i})}\right)}$

• Potenciación de gradiente
• Árbol del modelo logístico