CatBoost

CatBoost ^{[ 6 ]} es una biblioteca de software de código abierto desarrollada por Yandex . Proporciona un marco de potenciación de gradiente que, entre otras características, intenta resolver características categóricas utilizando una alternativa basada en permutaciones al algoritmo clásico. ^{[ 7 ]} Funciona en Linux , Windows , macOS y está disponible en Python , ^{[ 8 ]} R , ^{[ 9 ]} y los modelos construidos con CatBoost se pueden usar para predicciones en C++ , Java , ^{[ 10 ]} C# , Rust , Core ML , ONNX y PMML . El código fuente tiene licencia Apache y está disponible en GitHub. ^{[ 6 ]}

La revista InfoWorld otorgó a la biblioteca el premio a "Las mejores herramientas de aprendizaje automático" en 2017. ^{[ 11 ]} junto con TensorFlow , PyTorch , XGBoost y otras 8 bibliotecas.

Kaggle incluyó a CatBoost como uno de los marcos de aprendizaje automático (ML) más utilizados en el mundo. Fue clasificado entre los 8 marcos de ML más utilizados en la encuesta de 2020 ^{[ 12 ]} y entre los 7 más utilizados en la encuesta de 2021 ^{[ 13 ] .}

A partir de abril de 2022, CatBoost se instala aproximadamente 100 000 veces al día desde el repositorio PyPI ^{[ 14 ].}

CatBoost ha ganado popularidad en comparación con otros algoritmos de potenciación de gradiente principalmente debido a las siguientes características ^{[ 15 ]}

• Manejo nativo para características categóricas ^{[ 16 ]}
• Entrenamiento rápido de GPU ^{[ 17 ]}
• Visualizaciones y herramientas para el análisis de modelos y características.
• Utilizar árboles oblicuos o árboles simétricos para una ejecución más rápida.
• Boosting ordenado para superar el sobreajuste ^{[ 7 ]}

En 2009, Andrey Gulin desarrolló MatrixNet , una biblioteca propietaria de potenciación de gradiente que se utilizó en Yandex para clasificar los resultados de búsqueda. Desde entonces, MatrixNet se ha utilizado en diferentes proyectos de Yandex, incluidos sistemas de recomendación y predicción meteorológica.

Entre 2014 y 2015, Andrey Gulin trabajó con un equipo de investigadores para iniciar un nuevo proyecto llamado TensorNet, cuyo objetivo era resolver el problema de "cómo trabajar con datos categóricos ". Su trabajo dio como resultado varias bibliotecas propietarias de Gradient Boosting con diferentes enfoques para el manejo de datos categóricos.

En 2016, el equipo de infraestructura de aprendizaje automático, liderado por Anna Dorogush, comenzó a trabajar en Gradient Boosting en Yandex, incluyendo Matrixnet y Tensornet. Implementaron y publicaron como código abierto la siguiente versión de la biblioteca de Gradient Boosting, llamada CatBoost, que ofrece soporte para datos categóricos y de texto, entrenamiento con GPU, análisis de modelos y herramientas de visualización.

CatBoost se publicó como código abierto en julio de 2017 y se encuentra en desarrollo activo en Yandex y la comunidad de código abierto.

• JetBrains utiliza CatBoost para la finalización de código ^{[ 18 ]}
• Cloudflare utiliza CatBoost para la detección de bots ^{[ 19 ]}
• Careem utiliza CatBoost para predecir los destinos futuros de los viajes ^{[ 20 ].}

• Comparación de software de aprendizaje automático
• Aprendizaje automático
• Potenciación de gradiente
• TabPFN
• XGBoost
• LightGBM
• scikit-learn

• CatBoost
• GitHub - catboost/catboost
• CatBoost - Tecnología Yandex