ALOPEX

ALOPEX (abreviatura de "algoritmos de extracción de patrones") es un algoritmo de aprendizaje automático basado en la correlación , propuesto por primera vez por Tzanakou y Harth en 1974.

En el aprendizaje automático , el objetivo es entrenar un sistema para minimizar una función de coste o (en el caso de ALOPEX) una función de respuesta. Muchos algoritmos de entrenamiento, como la retropropagación , tienen una susceptibilidad inherente a quedarse "atascados" en mínimos o máximos locales de la función de respuesta. ALOPEX utiliza una correlación cruzada de diferencias y un proceso estocástico para superar este problema e intentar alcanzar el mínimo (o máximo) absoluto de la función de respuesta.

ALOPEX, en su forma más simple, se define mediante una ecuación de actualización:

${\displaystyle \Delta \ W_{ij}(n)=\gamma \ \Delta \ W_{ij}(n-1)\Delta \ R(n)+r_{i}(n)}$

dónde:

• ${\displaystyle n\geq 0}$es la iteración o paso de tiempo.
• ${\displaystyle \Delta \ W_{ij}(n)}$es la diferencia entre el valor actual y el valor anterior de la variable del sistema${\displaystyle \ W_{ij}}$en la iteración${\displaystyle n}$.
• ${\displaystyle \Delta \ R(n)}$es la diferencia entre el valor actual y el valor anterior de la función de respuesta${\displaystyle \ R,}$en la iteración${\displaystyle n}$.
• ${\displaystyle \gamma }$es el parámetro de tasa de aprendizaje${\displaystyle (\gamma \ <0}$minimiza${\displaystyle R,}$y${\displaystyle \gamma \ >0}$maximiza${\displaystyle R\ )}$
• ${\displaystyle r_{i}(n)\sim \ N(0,\sigma \ ^{2})}$

Básicamente, ALOPEX cambia cada variable del sistema.${\displaystyle W_{ij}(n)}$basado en un producto de: el cambio anterior en la variable${\displaystyle \Delta }$${\displaystyle W_{ij}(n-1)}$, el cambio resultante en la función de costos${\displaystyle \Delta }$${\displaystyle R(n)}$y el parámetro de tasa de aprendizaje${\displaystyle \gamma }$Además, para encontrar el mínimo absoluto (o máximo), el proceso estocástico${\displaystyle r_{ij}(n)}$Se agrega (gaussiana u otra) para "empujar" estocásticamente el algoritmo fuera de cualquier mínimo local.

• Harth, E.; Tzanakou, E. (diciembre de 1974). "ALOPEX: Un método estocástico para determinar campos receptivos visuales". Vision Research . 14 (12): 1475– 1482. doi : 10.1016/0042-6989(74)90024-8 . PMID 4446379 .