Regla delta

En aprendizaje automático , la regla delta es una regla de aprendizaje de descenso de gradiente para actualizar los pesos de las entradas a las neuronas artificiales en una red neuronal de una sola capa . ^{[ 1 ]} Se puede derivar como el algoritmo de retropropagación para una red neuronal de una sola capa con función de pérdida de error cuadrático medio .

Para una neurona${\displaystyle j}$con función de activación${\displaystyle g(x)}$, la regla delta para la neurona${\displaystyle j}$'s${\displaystyle i}$-ésimo peso${\displaystyle w_{ji}}$es dado por

$${\displaystyle \Delta w_{ji}=\alpha (t_{j}-y_{j})g'(h_{j})x_{i},}$$

dónde

• ${\displaystyle \alpha }$es una pequeña constante llamada tasa de aprendizaje
• ${\displaystyle g(x)}$es la función de activación de la neurona
• ${\displaystyle g'}$es el derivado de${\displaystyle g}$
• ${\displaystyle t_{j}}$es el resultado objetivo
• ${\displaystyle h_{j}}$es la suma ponderada de las entradas de la neurona
• ${\displaystyle y_{j}}$es la salida real
• ${\displaystyle x_{i}}$es el${\displaystyle i}$-entrada.

Sostiene que${\textstyle h_{j}=\sum _{i}x_{i}w_{ji}}$y${\displaystyle y_{j}=g(h_{j})}$.

La regla delta se suele enunciar de forma simplificada para una neurona con una función de activación lineal como $${\displaystyle \Delta w_{ji}=\alpha \left(t_{j}-y_{j}\right)x_{i}}$$

Si bien la regla delta es similar a la regla de actualización del perceptrón , la derivación es diferente. El perceptrón utiliza la función escalón de Heaviside como función de activación.${\displaystyle g(h)}$y eso significa que${\displaystyle g'(h)}$no existe en cero, y es igual a cero en cualquier otro lugar, lo que hace imposible la aplicación directa de la regla delta.

La regla delta se deriva intentando minimizar el error en la salida de la red neuronal mediante descenso de gradiente . El error para una red neuronal con${\displaystyle j}$Los resultados se pueden medir como $${\displaystyle E=\sum _{j}{\tfrac {1}{2}}\left(t_{j}-y_{j}\right)^{2}.}$$

En este caso, deseamos movernos a través del "espacio de pesos" de la neurona (el espacio de todos los valores posibles de todos los pesos de la neurona) en proporción al gradiente de la función de error con respecto a cada peso. Para ello, calculamos la derivada parcial del error con respecto a cada peso. Para el${\displaystyle i}$el peso, esta derivada se puede escribir como $${\displaystyle {\frac {\partial E}{\partial w_{ji}}}.}$$

Porque solo nos estamos preocupando por el${\displaystyle j}$-ésima neurona, podemos sustituir la fórmula de error anterior omitiendo la sumatoria: $${\displaystyle {\frac {\partial E}{\partial w_{ji}}}={\frac {\partial }{\partial w_{ji}}}\left[{\frac {1}{2}}\left(t_{j}-y_{j}\right)^{2}\right]}$$

A continuación, utilizamos la regla de la cadena para dividir esto en dos derivadas: $${\displaystyle {\frac {\partial E}{\partial w_{ji}}}={\frac {\partial \left({\frac {1}{2}}\left(t_{j}-y_{j}\right)^{2}\right)}{\partial y_{j}}}{\frac {\partial y_{j}}{\partial w_{ji}}}}$$

Para hallar la derivada izquierda, simplemente aplicamos la regla de la potencia y la regla de la cadena: $${\displaystyle {\frac {\partial E}{\partial w_{ji}}}=-\left(t_{j}-y_{j}\right){\frac {\partial y_{j}}{\partial w_{ji}}}}$$

Para hallar la derivada correcta, volvemos a aplicar la regla de la cadena, esta vez diferenciando con respecto a la entrada total.${\displaystyle j}$,${\displaystyle h_{j}}$: $${\displaystyle {\frac {\partial E}{\partial w_{ji}}}=-\left(t_{j}-y_{j}\right){\frac {\partial y_{j}}{\partial h_{j}}}{\frac {\partial h_{j}}{\partial w_{ji}}}}$$

Tenga en cuenta que la salida del${\displaystyle j}$la neurona,${\displaystyle y_{j}}$es simplemente la función de activación de la neurona${\displaystyle g}$aplicado a la entrada de la neurona${\displaystyle h_{j}}$Por lo tanto, podemos escribir la derivada de${\displaystyle y_{j}}$con respecto a${\displaystyle h_{j}}$simplemente como${\displaystyle g}$primera derivada: $${\displaystyle {\frac {\partial E}{\partial w_{ji}}}=-\left(t_{j}-y_{j}\right)g'(h_{j}){\frac {\partial h_{j}}{\partial w_{ji}}}}$$

A continuación, reescribimos.${\displaystyle h_{j}}$en el último término como la suma sobre todos${\displaystyle k}$pesos de cada peso${\displaystyle w_{jk}}$veces su entrada correspondiente${\displaystyle x_{k}}$: $${\displaystyle {\frac {\partial E}{\partial w_{ji}}}=-\left(t_{j}-y_{j}\right)g'(h_{j})\;{\frac {\partial }{\partial w_{ji}}}\!\!\left[\sum _{i}x_{i}w_{ji}\right]}$$

Porque solo nos preocupa el${\displaystyle i}$peso th, el único término de la suma que es relevante es${\displaystyle x_{i}w_{ji}}$. Claramente, $${\displaystyle {\frac {\partial (x_{i}w_{ji})}{\partial w_{ji}}}=x_{i}.}$$ lo que nos da nuestra ecuación final para el gradiente: $${\displaystyle {\frac {\partial E}{\partial w_{ji}}}=-\left(t_{j}-y_{j}\right)g'(h_{j})x_{i}}$$

Como se mencionó anteriormente, el descenso de gradiente nos indica que el cambio para cada peso debe ser proporcional al gradiente. Elegir una constante de proporcionalidad${\displaystyle \alpha }$y eliminando el signo menos para poder mover el peso en la dirección negativa del gradiente para minimizar el error, llegamos a nuestra ecuación objetivo: $${\displaystyle \Delta w_{ji}=\alpha (t_{j}-y_{j})g'(h_{j})x_{i}.}$$

• Descenso de gradiente estocástico
• Retropropagación
• Modelo de Rescorla-Wagner : el origen de la regla delta.