Red de atracción

El atractor de punto fijo se deriva naturalmente de la red de Hopfield . Convencionalmente, los puntos fijos en este modelo representan recuerdos codificados. Estos modelos se han utilizado para explicar la memoria asociativa, la clasificación y la compleción de patrones. Las redes de Hopfield contienen una función de energía subyacente ^{[ 6 ]} que permite que la red se aproxime asintóticamente a un estado estacionario. Una clase de red de atractor de punto se inicializa con una entrada, tras la cual se elimina dicha entrada y la red se mueve hacia un estado estable. Otra clase de red de atractor presenta pesos predefinidos que se exploran con diferentes tipos de entrada. Si este estado estable difiere durante y después de la entrada, sirve como modelo de memoria asociativa. Sin embargo, si los estados durante y después de la entrada no difieren, la red puede utilizarse para la compleción de patrones.

Los atractores lineales y planos se utilizan en el estudio del control oculomotor. Estos atractores lineales, o integradores neuronales , describen la posición del ojo en respuesta a estímulos. Los atractores anulares se han utilizado para modelar la dirección de la cabeza en roedores .

Los atractores cíclicos son fundamentales para modelar los generadores centrales de patrones , neuronas que rigen la actividad oscilatoria en animales como la masticación, la marcha y la respiración.

Se ha planteado la hipótesis de que los atractores caóticos (también llamados atractores extraños ) reflejan patrones en el reconocimiento de olores. Si bien los atractores caóticos tienen la ventaja de converger más rápidamente hacia ciclos límite, aún no existe evidencia experimental que respalde esta teoría. ^{[ 7 ]}

Los estados estables vecinos (puntos fijos) de los atractores continuos (también llamados redes neuronales de atractores continuos) codifican los valores vecinos de una variable continua, como la dirección de la cabeza o la posición real en el espacio.

Un subtipo de atractores continuos con una topología particular de las neuronas (anillo para redes unidimensionales y toroide o toroide retorcido para redes bidimensionales). La actividad observada de las células de la cuadrícula se explica satisfactoriamente asumiendo la presencia de atractores anulares en la corteza entorrinal medial . ^{[ 8 ]} Recientemente, se ha propuesto que atractores anulares similares están presentes en la porción lateral de la corteza entorrinal y que su función se extiende al registro de nuevas memorias episódicas . ^{[ 9 ]}

Las redes atractoras de Hopfield son una implementación temprana de redes atractoras con memoria asociativa . Estas redes recurrentes se inicializan con la entrada y tienden hacia un atractor de punto fijo. La función de actualización en tiempo discreto es${\displaystyle x(t+1)=f(Wx(t))}$, dónde${\displaystyle x}$es un vector de nodos en la red y${\displaystyle W}$es una matriz simétrica que describe su conectividad. La actualización en tiempo continuo es${\displaystyle {\frac {dx}{dt}}=-\lambda x+f(Wx)}$.

Las redes bidireccionales son similares a las redes de Hopfield, con el caso especial de que la matriz${\displaystyle W}$es una matriz de bloques . ^{[ 6 ]}

Zemel y Mozer (2001) ^{[ 10 ]} propusieron un método para reducir el número de atractores espurios que surgen de la codificación de múltiples atractores por cada conexión en la red. Las redes de atractores localistas codifican el conocimiento localmente mediante la implementación de un algoritmo de expectativa-maximización en una mezcla de gaussianas que representan los atractores, para minimizar la energía libre en la red y hacer converger solo el atractor más relevante. Esto da como resultado las siguientes ecuaciones de actualización:

1. Determinar la actividad de los atractores:${\displaystyle q_{i}(t)={\frac {\pi _{i}g(y(t),w_{i},\sigma (t))}{\sum _{j}\pi _{j}g(y(t),w_{j},\sigma (t))}}}$
2. Determinar el siguiente estado de la red:${\displaystyle y(t+1)=\alpha (t)\xi +(1-\alpha (t))\sum _{i}q_{i}(t)w_{i}\,\!}$
3. Determinar el ancho del atractor a través de la red:${\displaystyle \sigma _{y}^{2}(t)={\frac {1}{n}}\sum _{i}q_{i}(t)|y(t)-w_{i}|^{2}}$

(${\displaystyle \pi _{i}}$denota la fuerza de la cuenca,${\displaystyle w_{i}}$indica el centro de la cuenca.${\displaystyle \xi }$denota la entrada a la red,${\displaystyle g}$es una distribución gaussiana no normalizada centrada en${\displaystyle y}$y de desviación estándar igual a${\displaystyle \sigma }$.)

Luego se vuelve a observar la red y se repiten los pasos anteriores hasta la convergencia. El modelo también refleja dos conceptos biológicamente relevantes. El cambio en${\displaystyle \alpha }$Este modelo facilita la activación de estímulos al permitir una convergencia más rápida hacia un atractor visitado recientemente. Además, la actividad combinada de los atractores genera un efecto de grupo que provoca que dos atractores cercanos refuercen mutuamente la cuenca del otro.

Siegelmann (2008) ^{[ 11 ]} generalizó el modelo de red de atractores localistas para incluir el ajuste de los propios atractores. Este algoritmo utiliza el método EM anterior, con las siguientes modificaciones: (1) terminación temprana del algoritmo cuando la actividad del atractor está más distribuida, o cuando la alta entropía sugiere la necesidad de memorias adicionales, y (2) la capacidad de actualizar los propios atractores:${\displaystyle w_{i}(t+1)=vq_{i}(t)\cdot y(t)+[1-vq_{i}(t)]\cdot w_{i}(t)\,\!}$, dónde${\displaystyle v}$es el parámetro de tamaño de paso del cambio de${\displaystyle w_{i}}$Este modelo refleja la reconsolidación de la memoria en animales y muestra algunas de las mismas dinámicas que las encontradas en experimentos de memoria.

Los avances posteriores en redes de atractores, como las redes de atractores basadas en núcleos , ^{[ 12 ]} han mejorado la viabilidad computacional de las redes de atractores como algoritmo de aprendizaje, manteniendo al mismo tiempo la flexibilidad de alto nivel para realizar la compleción de patrones en estructuras compositivas complejas.