Máquina de Boltzmann restringida

Una máquina de Boltzmann restringida ( RBM ) (también llamada modelo restringido de Sherrington-Kirkpatrick con campo externo o modelo estocástico restringido de Ising-Lenz-Little ) es una red neuronal artificial estocástica generativa que puede aprender una distribución de probabilidad sobre su conjunto de entradas. ^[1]

Los RBM fueron propuestos inicialmente bajo el nombre de Harmonium por Paul Smolensky en 1986, ^[2] y cobraron importancia después de que Geoffrey Hinton y sus colaboradores usaran algoritmos de aprendizaje rápido para ellos a mediados de la década de 2000. Los RBM han encontrado aplicaciones en la reducción de dimensionalidad , ^[3] clasificación , ^[4] filtrado colaborativo , ^[5] aprendizaje de características , ^[6] modelado de temas , ^[7] inmunología , ^[8] e incluso mecánica cuántica de muchos cuerpos . ^{[9] [10] [11]}

Pueden ser entrenados de manera supervisada o no supervisada , dependiendo de la tarea. ^{[ cita requerida ]}

Como su nombre lo indica, las RBM son una variante de las máquinas de Boltzmann , con la restricción de que sus neuronas deben formar un gráfico bipartito :

• un par de nodos de cada uno de los dos grupos de unidades (comúnmente denominados unidades "visibles" y "ocultas", respectivamente) pueden tener una conexión simétrica entre ellos; y
• No hay conexiones entre nodos dentro de un grupo.

Por el contrario, las máquinas de Boltzmann "sin restricciones" pueden tener conexiones entre unidades ocultas . Esta restricción permite algoritmos de entrenamiento más eficientes que los disponibles para la clase general de máquinas de Boltzmann, en particular el algoritmo de divergencia contrastiva basado en gradientes . ^[12]

Las máquinas de Boltzmann restringidas también se pueden utilizar en redes de aprendizaje profundo . En particular, las redes de creencias profundas se pueden formar "apilando" máquinas de Boltzmann restringidas y, opcionalmente, ajustando la red profunda resultante con descenso de gradiente y retropropagación . ^[13]

El tipo estándar de RBM tiene unidades visibles y ocultas con valores binarios ( booleanos ) y consta de una matriz de pesos de tamaño . Cada elemento de peso de la matriz está asociado con la conexión entre la unidad visible (de entrada) y la unidad oculta . Además, hay pesos de sesgo (desplazamientos) para y para . Dados los pesos y sesgos, la energía de una configuración (par de vectores booleanos) ( v , h ) se define como ${\displaystyle W}$${\displaystyle m\times n}$${\displaystyle (w_{i,j})}$${\displaystyle v_{i}}$${\displaystyle h_{j}}$${\displaystyle a_{i}}$${\displaystyle v_{i}}$${\displaystyle b_{j}}$${\displaystyle h_{j}}$

${\displaystyle E(v,h)=-\sum _{i}a_{i}v_{i}-\sum _{j}b_{j}h_{j}-\sum _{i}\sum _{j}v_{i}w_{i,j}h_{j}}$

o, en notación matricial,

${\displaystyle E(v,h)=-a^{\mathrm {T} }v-b^{\mathrm {T} }h-v^{\mathrm {T} }Wh.}$

Esta función de energía es análoga a la de una red de Hopfield . Al igual que con las máquinas de Boltzmann generales, la distribución de probabilidad conjunta para los vectores visibles y ocultos se define en términos de la función de energía de la siguiente manera: ^[14]

${\displaystyle P(v,h)={\frac {1}{Z}}e^{-E(v,h)}}$

donde es una función de partición definida como la suma de todas las configuraciones posibles, que puede interpretarse como una constante normalizadora para garantizar que las probabilidades sumen 1. La probabilidad marginal de un vector visible es la suma de todas las configuraciones posibles de la capa oculta, ^[14]${\displaystyle Z}$${\displaystyle e^{-E(v,h)}}$${\displaystyle P(v,h)}$

${\displaystyle P(v)={\frac {1}{Z}}\sum _{\{h\}}e^{-E(v,h)}}$,

y viceversa. Dado que la estructura gráfica subyacente del RBM es bipartita (lo que significa que no hay conexiones intracapa), las activaciones de las unidades ocultas son mutuamente independientes dadas las activaciones de las unidades visibles. A la inversa, las activaciones de las unidades visibles son mutuamente independientes dadas las activaciones de las unidades ocultas. ^[12] Es decir, para m unidades visibles y n unidades ocultas, la probabilidad condicional de una configuración de las unidades visibles v , dada una configuración de las unidades ocultas h , es

${\displaystyle P(v|h)=\prod _{i=1}^{m}P(v_{i}|h)}$.

Por el contrario, la probabilidad condicional de h dado v es

${\displaystyle P(h|v)=\prod _{j=1}^{n}P(h_{j}|v)}$.

Las probabilidades de activación individuales están dadas por

${\displaystyle P(h_{j}=1|v)=\sigma \left(b_{j}+\sum _{i=1}^{m}w_{i,j}v_{i}\right)}$y${\displaystyle \,P(v_{i}=1|h)=\sigma \left(a_{i}+\sum _{j=1}^{n}w_{i,j}h_{j}\right)}$

donde denota el sigmoide logístico . ${\displaystyle \sigma }$

Las unidades visibles de la máquina de Boltzmann restringida pueden ser multinomiales , aunque las unidades ocultas son Bernoulli . ^{[ aclaración necesaria ]} En este caso, la función logística para unidades visibles se reemplaza por la función softmax

${\displaystyle P(v_{i}^{k}=1|h)={\frac {\exp(a_{i}^{k}+\Sigma _{j}W_{ij}^{k}h_{j})}{\Sigma _{k'=1}^{K}\exp(a_{i}^{k'}+\Sigma _{j}W_{ij}^{k'}h_{j})}}}$

donde K es el número de valores discretos que tienen los valores visibles. Se aplican en modelado de temas, ^[7] y sistemas de recomendación . ^[5]

Las máquinas de Boltzmann restringidas son un caso especial de las máquinas de Boltzmann y de los campos aleatorios de Markov . ^{[15] [16]}

El modelo gráfico de los RBM corresponde al del análisis factorial . ^[17]

Las máquinas de Boltzmann restringidas se entrenan para maximizar el producto de las probabilidades asignadas a un conjunto de entrenamiento (una matriz, cada fila de la cual se trata como un vector visible ), ${\displaystyle V}$${\displaystyle v}$

${\displaystyle \arg \max _{W}\prod _{v\in V}P(v)}$

o equivalentemente, maximizar la probabilidad logarítmica esperada de una muestra de entrenamiento seleccionada aleatoriamente de : ^{[15] [16]}${\displaystyle v}$${\displaystyle V}$

${\displaystyle \arg \max _{W}\mathbb {E} \left[\log P(v)\right]}$

El algoritmo más utilizado para entrenar RBM, es decir, para optimizar la matriz de peso , es el algoritmo de divergencia contrastiva (CD) debido a Hinton , desarrollado originalmente para entrenar modelos PoE ( producto de expertos ). ^{[18] [19]} El algoritmo realiza un muestreo de Gibbs y se utiliza dentro de un procedimiento de descenso de gradiente (similar a la forma en que se utiliza la retropropagación dentro de dicho procedimiento cuando se entrenan redes neuronales de propagación hacia adelante) para calcular la actualización de peso. ${\displaystyle W}$

El procedimiento básico de divergencia contrastiva de un solo paso (CD-1) para una sola muestra se puede resumir de la siguiente manera:

1. Tome una muestra de entrenamiento v , calcule las probabilidades de las unidades ocultas y muestree un vector de activación oculto h de esta distribución de probabilidad.
2. Calcule el producto externo de v y h y llámelo gradiente positivo .
3. A partir de h , muestre una reconstrucción v' de las unidades visibles y luego vuelva a muestrear las activaciones ocultas h' a partir de esto. (Paso de muestreo de Gibbs)
4. Calcule el producto externo de v' y h' y llámelo gradiente negativo .
5. Sea la actualización de la matriz de peso el gradiente positivo menos el gradiente negativo, multiplicado por una tasa de aprendizaje: .${\displaystyle W}$${\displaystyle \Delta W=\epsilon (vh^{\mathsf {T}}-v'h'^{\mathsf {T}})}$
6. Actualice los sesgos a y b de forma análoga: , .${\displaystyle \Delta a=\epsilon (v-v')}$${\displaystyle \Delta b=\epsilon (h-h')}$

En la página de inicio de Hinton se puede encontrar una guía práctica para la formación de RBM escrita por Hinton. ^[14]

• La diferencia entre las máquinas de Boltzmann restringidas apiladas y las RBM es que las RBM tienen conexiones laterales dentro de una capa que están prohibidas para que el análisis sea manejable. Por otro lado, la Boltzmann apilada consiste en una combinación de una red de tres capas no supervisada con pesos simétricos y una capa superior supervisada y ajustada para reconocer tres clases.
• El uso de Boltzmann apilado es para comprender lenguajes naturales , recuperar documentos , generar imágenes y clasificar. Estas funciones se entrenan con un preentrenamiento no supervisado y/o un ajuste fino supervisado. A diferencia de la capa superior simétrica no dirigida, con una capa asimétrica bidireccional para la conexión para RBM, la conexión de Boltzmann restringida tiene tres capas con pesos asimétricos y se combinan dos redes en una.
• Stacked Boltzmann comparte similitudes con RBM, la neurona de Stacked Boltzmann es una neurona de Hopfield binaria estocástica, que es la misma que la de la máquina de Boltzmann restringida. La energía tanto de Restricted Boltzmann como de RBM está dada por la medida de probabilidad de Gibbs: . El proceso de entrenamiento de Restricted Boltzmann es similar a RBM. Restricted Boltzmann entrena una capa a la vez y se aproxima al estado de equilibrio con un pase de 3 segmentos, sin realizar retropropagación. Restricted Boltzmann utiliza tanto supervisión como no supervisión en diferentes RBM para el preentrenamiento para la clasificación y el reconocimiento. El entrenamiento utiliza divergencia contrastiva con muestreo de Gibbs: Δw _ij = e*(p _ij - p' _ij )${\displaystyle E=-{\frac {1}{2}}\sum _{i,j}{w_{ij}{s_{i}}{s_{j}}}+\sum _{i}{\theta _{i}}{s_{i}}}$
• La fortaleza del modelo de Boltzmann restringido es que realiza una transformación no lineal, por lo que es fácil de expandir y puede dar una capa jerárquica de características. La debilidad es que tiene cálculos complicados de neuronas de valores reales y enteros. No sigue el gradiente de ninguna función, por lo que la aproximación de la divergencia contrastiva a la máxima verosimilitud es improvisada. ^[14]

• Fischer, Asja; Igel, Christian (2012), "Introducción a las máquinas de Boltzmann restringidas", Avances en reconocimiento de patrones, análisis de imágenes, visión artificial y aplicaciones , Lecture Notes in Computer Science, vol. 7441, Berlín, Heidelberg: Springer Berlin Heidelberg, págs. 14–36, doi : 10.1007/978-3-642-33275-3_2 , ISBN 978-3-642-33274-6

• Codificador automático
• Máquina de Helmholtz

• Chen, Edwin (18 de julio de 2011). "Introducción a las máquinas de Boltzmann restringidas". Blog de Edwin Chen .
• Nicholson, Chris; Gibson, Adam. "Un tutorial para principiantes sobre máquinas de Boltzmann restringidas". Documentación de Deeplearning4j . Archivado desde el original el 2017-02-11 . Consultado el 2018-11-15 .{{cite web}}: CS1 maint: bot: original URL status unknown (link)
• Nicholson, Chris; Gibson, Adam. "Understanding RBMs" (Comprensión de los RBM). Documentación de Deeplearning4j . Archivado desde el original el 20 de septiembre de 2016. Consultado el 29 de diciembre de 2014 .

• Implementación de Bernoulli RBM en Python y tutorial
• SimpleRBM es un código RBM muy pequeño (24 kB) que le permitirá aprender cómo aprenden y funcionan los RBM.
• Implementación de Julia de máquinas de Boltzmann restringidas: https://github.com/cossio/RestrictedBoltzmannMachines.jl