El algoritmo de agrupamiento de canopy es un algoritmo de preagrupamiento no supervisado introducido por Andrew McCallum , Kamal Nigam y Lyle Ungar en 2000. [ 1 ] Se utiliza frecuentemente como paso de preprocesamiento para el algoritmo K-means o el algoritmo de agrupamiento jerárquico . Su objetivo es acelerar las operaciones de agrupamiento en conjuntos de datos grandes , donde el uso directo de otro algoritmo puede resultar poco práctico debido al tamaño del conjunto de datos.
Descripción
El algoritmo procede de la siguiente manera, utilizando dos umbrales:(la distancia suelta) y(la corta distancia), donde. [ 1 ] [ 2 ]
- Comience con el conjunto de puntos de datos que se van a agrupar.
- Elimina un punto del conjunto, creando así un nuevo "dosel" que contenga dicho punto.
- Para cada punto restante en el conjunto, asígnelo al nuevo dosel si su distancia al primer punto del dosel es menor que la distancia suelta..
- Si la distancia del punto es además menor que la distancia ajustada, retíralo del conjunto original.
- Repita desde el paso 2 hasta que no queden más puntos de datos en el conjunto para agrupar.
- Estas agrupaciones de copas de árboles, relativamente económicas, pueden subagruparse utilizando un algoritmo más costoso pero preciso.
Es importante tener en cuenta que los puntos de datos individuales pueden pertenecer a varias copas de árboles. Para acelerar aún más el proceso, se puede utilizar una métrica de distancia aproximada y rápida para el paso 3, mientras que para el paso 4 se puede utilizar una métrica de distancia más precisa y lenta.
Aplicabilidad
Dado que el algoritmo utiliza funciones de distancia y requiere la especificación de umbrales de distancia, su aplicabilidad a datos de alta dimensión se ve limitada por la maldición de la dimensionalidad . Solo cuando se dispone de una función de distancia sencilla y aproximada (de baja dimensión), los mapas de distribución resultantes conservarán los clústeres generados por K-means.
Entre sus beneficios se incluyen:
- Se reduce el número de instancias de datos de entrenamiento que deben compararse en cada paso.
- Hay cierta evidencia de que los clústeres resultantes mejoran. [ 3 ]
Referencias
- 1 2 McCallum, A.; Nigam, K.; y Ungar LH (2000) "Agrupación eficiente de conjuntos de datos de alta dimensión con aplicación a la coincidencia de referencias" , Actas de la sexta conferencia internacional ACM SIGKDD sobre descubrimiento de conocimiento y minería de datos, 169-178 doi : 10.1145/347090.347123
- ↑ "El algoritmo de las copas de los árboles" . courses.cs.washington.edu . Consultado el 6 de septiembre de 2014 .
- ↑ Descripción de Mahout sobre la agrupación de canopy. Consultado el 2 de julio de 2022.
- Algoritmos de análisis de clústeres