Aprendizaje competitivo

El aprendizaje competitivo es una forma de aprendizaje no supervisado en redes neuronales artificiales , en la que los nodos compiten por el derecho a responder a un subconjunto de los datos de entrada. ^{[ 1 ] [ 2 ]} Una variante del aprendizaje hebbiano , el aprendizaje competitivo funciona aumentando la especialización de cada nodo en la red. Es muy adecuado para encontrar clústeres dentro de los datos.

Entre los modelos y algoritmos basados ​​en el principio del aprendizaje competitivo se incluyen la cuantización vectorial y los mapas autoorganizados (mapas de Kohonen).

Hay tres elementos básicos en una regla de aprendizaje competitivo : ^{[ 3 ] [ 4 ]}

• Un conjunto de neuronas que son todas iguales excepto por algunos pesos sinápticos distribuidos aleatoriamente, y que por lo tanto responden de manera diferente a un conjunto dado de patrones de entrada.
• Un límite impuesto a la "fuerza" de cada neurona.
• Mecanismo que permite a las neuronas competir por el derecho a responder a un subconjunto determinado de entradas, de modo que solo una neurona de salida (o solo una neurona por grupo) esté activa (es decir, "encendida") a la vez. La neurona que gana la competencia se denomina neurona "ganadora se lo lleva todo" .

En consecuencia, las neuronas individuales de la red aprenden a especializarse en conjuntos de patrones similares y, al hacerlo, se convierten en "detectores de características" para diferentes clases de patrones de entrada.

El hecho de que las redes competitivas recodifiquen conjuntos de entradas correlacionadas en una de unas pocas neuronas de salida elimina esencialmente la redundancia en la representación, que es una parte esencial del procesamiento en los sistemas sensoriales biológicos . ^{[ 5 ] [ 6 ]}

El aprendizaje competitivo se suele implementar con redes neuronales que contienen una capa oculta conocida como “capa competitiva”. ^{[ 7 ]} Cada neurona competitiva se describe mediante un vector de pesos.${\displaystyle {\mathbf {w} }_{i}=\left({w_{i1},..,w_{id}}\right)^{T},i=1,..,M}$y calcula la medida de similitud entre los datos de entrada.${\displaystyle {\mathbf {x} }^{n}=\left({x_{n1},..,x_{nd}}\right)^{T}\in \mathbb {R} ^{d}}$ y el vector de peso${\displaystyle {\mathbf {w} }_{i}}$.

Para cada vector de entrada, las neuronas competitivas “compiten” entre sí para ver cuál de ellas es la más similar a ese vector de entrada en particular. La neurona ganadora m establece su salida.${\displaystyle o_{m}=1}$y todas las demás neuronas competitivas establecen su salida ${\displaystyle o_{i}=0,i=1,..,M,i\neq m}$.

Generalmente, para medir la similitud se utiliza el inverso de la distancia euclidiana :${\displaystyle \left\|{{\mathbf {x} }-{\mathbf {w} }_{i}}\right\|}$entre el vector de entrada${\displaystyle {\mathbf {x} }^{n}}$y el vector de peso${\displaystyle {\mathbf {w} }_{i}}$.

Aquí se presenta un algoritmo de aprendizaje competitivo sencillo para encontrar tres grupos dentro de algunos datos de entrada.

1. (Set-up.) Let a set of sensors all feed into three different nodes, so that every node is connected to every sensor. Let the weights that each node gives to its sensors be set randomly between 0.0 and 1.0. Let the output of each node be the sum of all its sensors, each sensor's signal strength being multiplied by its weight.

2. When the net is shown an input, the node with the highest output is deemed the winner. The input is classified as being within the cluster corresponding to that node.

3. The winner updates each of its weights, moving weight from the connections that gave it weaker signals to the connections that gave it stronger signals.

Thus, as more data are received, each node converges on the centre of the cluster that it has come to represent and activates more strongly for inputs in this cluster and more weakly for inputs in other clusters.

• Ensemble learning
• Neural gas
• Pandemonium architecture

• Draft Report "Some Competitive Learning Methods"pdf(contains descriptions of several related algos)
• DemoGNG - Java simulator for competitive learning methods