Clasificación de una sola clase

En el aprendizaje automático , la clasificación de una clase ( OCC ), también conocida como clasificación unaria o modelado de clases , es un enfoque para el entrenamiento de clasificadores binarios en el que solo se utilizan ejemplos de una de las dos clases. ^{[ 1 ]}

Algunos ejemplos incluyen la monitorización de las cajas de engranajes de los helicópteros, ^{[ 2 ] [ 3 ] [ 4 ]} la predicción de fallos de motor, ^{[ 5 ]} o la evaluación del estado operativo de una central nuclear como «normal»: ^{[ 6 ]} En tales escenarios, hay pocos, o ningún, ejemplo de los estados catastróficos del sistema —valores atípicos raros— que componen la segunda clase. Alternativamente, la clase en la que se centra puede abarcar un subconjunto pequeño y coherente de los datos y el entrenamiento puede basarse en un enfoque de cuello de botella de información . ^{[ 7 ]}

En la práctica, los contraejemplos de la segunda clase pueden utilizarse en rondas posteriores de entrenamiento para perfeccionar aún más el algoritmo.

El término clasificación de una clase (OCC) fue acuñado por Moya y Hush (1996) ^{[ 8 ]} y se pueden encontrar muchas aplicaciones en la literatura científica , por ejemplo, detección de valores atípicos , detección de anomalías y detección de novedades . Una característica de la OCC es que utiliza solo puntos de muestra de la clase asignada, por lo que no se requiere estrictamente un muestreo representativo para las clases no objetivo. ^{[ 9 ]}

La clasificación de una clase (OCC) basada en SVM se basa en identificar la hiperesfera más pequeña (con radio r y centro c) que consta de todos los puntos de datos. ^{[ 10 ]} Este método se llama Descripción de Datos de Vectores de Soporte (SVDD). Formalmente, el problema se puede definir en la siguiente forma de optimización restringida ,

$${\displaystyle \min _{r,c}r^{2}{\text{ sujeto a, }}||\Phi (x_{i})-c||^{2}\leq r^{2}\;\;\forall i=1,2,...,n}$$

Sin embargo, la formulación anterior es muy restrictiva y sensible a la presencia de valores atípicos. Por lo tanto, se formula una formulación flexible que permite la presencia de valores atípicos, como se muestra a continuación.

${\displaystyle \min _{r,c,\zeta }r^{2}+{\frac {1}{\nu n}}\sum _{i=1}^{n}\zeta _{i}}$

${\displaystyle {\text{sujeto a, }}||\Phi (x_{i})-c||^{2}\leq r^{2}+\zeta _{i}\;\;\forall i=1,2,...,n}$

A partir de las condiciones de Karush-Kuhn-Tucker para la optimalidad, obtenemos:

${\displaystyle c=\sum _{i=1}^{n}\alpha _{i}\Phi (x_{i}),}$

donde las 's son la solución del siguiente problema de optimización: ${\displaystyle \alpha _{i}}$

${\displaystyle \max _{\alpha }\sum _{i=1}^{n}\alpha _{i}\kappa (x_{i},x_{i})-\sum _{i,j=1}^{n}\alpha _{i}\alpha _{j}\kappa (x_{i},x_{j})}$

sujeto a,${\displaystyle \sum _{i=1}^{n}\alpha _{i}=1{\text{ y }}0\leq \alpha _{i}\leq {\frac {1}{\nu n}}{\text{para todo }}i=1,2,...,n.}$

La introducción de la función kernel proporciona flexibilidad adicional al algoritmo SVM de una clase (OSVM). ^{[ 11 ]}

Un problema similar es el aprendizaje PU , en el que se construye un clasificador binario mediante aprendizaje semisupervisado a partir únicamente de puntos de muestra positivos y sin etiquetar . ^{[ 12 ]}

En el aprendizaje PU, se asume que hay dos conjuntos de ejemplos disponibles para el entrenamiento: el conjunto positivo y un conjunto mixto , que se supone que contiene muestras tanto positivas como negativas, pero sin que estén etiquetadas como tales. Esto contrasta con otras formas de aprendizaje semisupervisado, donde se asume que hay disponible un conjunto etiquetado que contiene ejemplos de ambas clases, además de muestras sin etiquetar. Existen diversas técnicas para adaptar los clasificadores supervisados ​​al entorno de aprendizaje PU, incluidas variantes del algoritmo EM . El aprendizaje PU se ha aplicado con éxito a texto , ^{[ 13 ] [ 14 ] [ 15 ]} series temporales, ^{[ 16 ]} tareas bioinformáticas , ^{[ 17 ] [ 18 ]} y datos de teledetección . ^{[ 19 ]}${\displaystyle P}$${\displaystyle U}$

Se han propuesto varios enfoques para resolver la clasificación de una sola clase (OCC). Estos enfoques se pueden distinguir en tres categorías principales: estimación de densidad , métodos de frontera y métodos de reconstrucción . ^{[ 6 ]}

Los métodos de estimación de densidad se basan en estimar la densidad de los puntos de datos y establecer un umbral. Estos métodos se basan en la suposición de distribuciones, como la gaussiana o la de Poisson . Posteriormente, se pueden utilizar pruebas de discordancia para evaluar los nuevos objetos. Estos métodos son robustos ante la varianza de escala.

El modelo gaussiano ^{[ 20 ]} es uno de los métodos más sencillos para crear clasificadores de una sola clase. Debido al Teorema del Límite Central (TLC) ^{[ 21 ]} , estos métodos funcionan mejor cuando hay un gran número de muestras y se ven afectados por pequeños errores independientes. La distribución de probabilidad para un objeto d-dimensional viene dada por:

${\displaystyle p_{\mathcal {N}}(z;\mu ;\Sigma )={\frac {1}{(2\pi )^{\frac {d}{2}}|\Sigma |^{\frac {1}{2}}}}\exp \left\{-{\frac {1}{2}}(z-\mu )^{T}\Sigma ^{-1}(z-\mu )\right\}}$

Donde es la media y es la matriz de covarianza . Calcular la inversa de la matriz de covarianza ( ) es la operación más costosa, y en los casos en que los datos no están escalados correctamente, o los datos tienen direcciones singulares, se utiliza la pseudoinversa para aproximar la inversa, y se calcula como . ^{[ 22 ]}${\displaystyle \mu }$${\displaystyle \Sigma }$${\displaystyle \Sigma ^{-1}}$${\displaystyle \Sigma ^{+}}$${\displaystyle \Sigma ^{T}(\Sigma \Sigma ^{T})^{-1}}$

Los métodos de contorno se centran en establecer límites alrededor de un conjunto de puntos, denominados puntos objetivo. Estos métodos buscan optimizar el volumen. Al basarse en distancias, no son robustos ante variaciones de escala. Algunos ejemplos clave son el método de los centros K, NN-d y SVDD.

Centros K

En el algoritmo K-center, ^{[ 23 ]} se colocan bolas pequeñas con radio igual para minimizar la distancia máxima de todas las distancias mínimas entre los objetos de entrenamiento y los centros. Formalmente, se minimiza el siguiente error: ${\displaystyle k}$

${\displaystyle \varepsilon _{k-center}=\max _{i}(\min _{k}||x_{i}-\mu _{k}||^{2})}$

El algoritmo utiliza un método de búsqueda hacia adelante con inicialización aleatoria, donde el radio se determina por la distancia máxima del objeto que cualquier bola dada debe capturar. Después de que se determinan los centros, para cualquier objeto de prueba dado la distancia se puede calcular como, ${\displaystyle z}$

${\displaystyle d_{k-centr}(z)=\min _{k}||z-\mu _{k}||^{2}}$

Los métodos de reconstrucción utilizan el conocimiento previo y el proceso de generación para construir un modelo que se ajuste mejor a los datos. Los nuevos objetos pueden describirse en términos del estado del modelo generador. Algunos ejemplos de métodos de reconstrucción para OCC son la agrupación k-means , la cuantización vectorial de aprendizaje, los mapas autoorganizados, etc.

El paradigma básico de la Máquina de Vectores de Soporte (SVM) se entrena con ejemplos positivos y negativos; sin embargo, diversos estudios han demostrado que existen muchas razones válidas para utilizar únicamente ejemplos positivos. Cuando el algoritmo SVM se modifica para usar solo ejemplos positivos, el proceso se denomina clasificación de una sola clase. Una situación en la que este tipo de clasificación podría resultar útil para el paradigma SVM es al intentar identificar los sitios web de interés de un usuario basándose únicamente en su historial de navegación.

La clasificación de una sola clase puede ser particularmente útil en estudios biomédicos donde a menudo los datos de otras clases pueden ser difíciles o imposibles de obtener. Al estudiar datos biomédicos, puede ser difícil y/o costoso obtener el conjunto de datos etiquetados de la segunda clase que sería necesario para realizar una clasificación de dos clases. Un estudio de The Scientific World Journal encontró que el enfoque de tipicidad es el más útil en el análisis de datos biomédicos porque se puede aplicar a cualquier tipo de conjunto de datos (continuo, discreto o nominal). ^{[ 24 ]} El enfoque de tipicidad se basa en la agrupación de datos examinando los datos y colocándolos en grupos nuevos o existentes. ^{[ 25 ]} Para aplicar la tipicidad a la clasificación de una sola clase para estudios biomédicos, cada nueva observación, , se compara con la clase objetivo, , y se identifica como un valor atípico o un miembro de la clase objetivo. ^{[ 24 ]}${\displaystyle y_{0}}$${\displaystyle C}$

La clasificación de una clase tiene similitudes con la detección de deriva conceptual no supervisada, ya que ambas buscan identificar si los datos no vistos comparten características similares a los datos iniciales. Un concepto se define como la distribución de probabilidad fija de la que se extraen los datos. En la detección de deriva conceptual no supervisada, el objetivo es detectar si la distribución de datos cambia sin utilizar etiquetas de clase. En la clasificación de una clase, el flujo de datos no es importante. Los datos no vistos se clasifican como típicos o atípicos según sus características, independientemente de si pertenecen o no al concepto inicial. Sin embargo, la detección de deriva no supervisada monitorea el flujo de datos y señala una deriva si hay una cantidad significativa de cambios o anomalías. La detección de deriva conceptual no supervisada puede identificarse como la forma continua de la clasificación de una clase. ^{[ 26 ]} Los clasificadores de una clase se utilizan para detectar derivas conceptuales. ^{[ 27 ]}

• Clasificación multiclase
• Detección de anomalías
• Aprendizaje supervisado