Modelo oculto de Markov en capas

El modelo oculto de Markov en capas (LHMM) es un modelo estadístico derivado del modelo oculto de Markov (HMM). Un modelo oculto de Markov en capas (LHMM) consta de N niveles de HMM, donde los HMM en el nivel i  + 1 corresponden a símbolos de observación o generadores de probabilidad en el nivel i . Cada nivel i del LHMM consta de K _i HMM que se ejecutan en paralelo. ^[1]

Los LHMM a veces son útiles en estructuras específicas porque pueden facilitar el aprendizaje y la generalización. Por ejemplo, aunque siempre se podría utilizar un HMM completamente conectado si se dispusiera de suficientes datos de entrenamiento, a menudo resulta útil restringir el modelo al no permitir transiciones de estado arbitrarias. De la misma manera, puede resultar beneficioso integrar el HMM en una estructura en capas que, en teoría, puede no ser capaz de resolver los problemas que el HMM básico no puede resolver, pero puede resolver algunos problemas de manera más eficiente porque se necesitan menos datos de entrenamiento.

Un modelo oculto de Markov en capas (LHMM) consta de niveles de HMM, donde los HMM de cada nivel corresponden a símbolos de observación o generadores de probabilidad de nivel . Cada nivel del LHMM consta de HMM que se ejecutan en paralelo. ${\estilo de visualización N}$${\estilo de visualización N+1}$${\estilo de visualización N}$${\estilo de visualización i}$$Estilo de visualización K_{i}}$

En cualquier nivel dado en el LHMM, se puede utilizar una secuencia de símbolos de observación para clasificar la entrada en una de las clases, donde cada clase corresponde a cada uno de los HMM en el nivel . Esta clasificación se puede utilizar luego para generar una nueva observación para los HMM de nivel. En la capa más baja, es decir, el nivel , se generarían símbolos de observación primitivos directamente a partir de observaciones del proceso modelado. Por ejemplo, en una tarea de seguimiento de trayectoria, los símbolos de observación primitivos se originarían a partir de los valores cuantificados del sensor. Por lo tanto, en cada capa en el LHMM, las observaciones se originan a partir de la clasificación de la capa subyacente, excepto en la capa más baja, donde los símbolos de observación se originan a partir de mediciones del proceso observado. ${\estilo de visualización L}$$Estilo de visualización T_{L}}$${\displaystyle \mathbf {o} _{L}=\{o_{1},o_{2},\dots ,o_{T_{L}}\}}$$Estilo de visualización K_ {L}}$$Estilo de visualización K_ {L}}$${\estilo de visualización L}$${\estilo de visualización L-1}$${\estilo de visualización N}$${\displaystyle \mathbf {o} _{p}=\{o_{1},o_{2},\puntos ,o_{T_{p}}\}}$

No es necesario ejecutar todos los niveles al mismo tiempo para determinar la granularidad. Por ejemplo, es posible utilizar ventanas en cualquier nivel de la estructura para que la clasificación tenga en cuenta el promedio de varias clasificaciones antes de pasar los resultados a las capas del LHMM. ^[2]

En lugar de utilizar simplemente el HMM ganador en el nivel como símbolo de entrada para el HMM en el nivel, es posible utilizarlo como generador de probabilidad al pasar la distribución de probabilidad completa por las capas del LHMM. Por lo tanto, en lugar de tener una estrategia de "el ganador se lo lleva todo" donde se selecciona el HMM más probable como símbolo de observación, la probabilidad de observar el HMM más probable se puede utilizar en la fórmula de recursión del HMM de nivel para tener en cuenta la incertidumbre en la clasificación de los HMM en el nivel . Por lo tanto, si la clasificación de los HMM en el nivel es incierta, es posible prestar más atención a la información a priori codificada en el HMM en el nivel . ${\estilo de visualización L+1}$${\estilo de visualización L}$${\displaystyle L(i)}$${\estilo de visualización i}$${\estilo de visualización L}$${\estilo de visualización L+1}$${\estilo de visualización n+1}$${\estilo de visualización L}$

En la práctica, un LHMM podría transformarse en un HMM de una sola capa donde todos los diferentes modelos se concatenan entre sí. ^[3] Algunas de las ventajas que se pueden esperar del uso del LHMM en lugar de un HMM grande de una sola capa es que el LHMM tiene menos probabilidades de sufrir sobreajuste , ya que los subcomponentes individuales se entrenan de forma independiente con cantidades de datos más pequeñas. Una consecuencia de esto es que se requiere una cantidad significativamente menor de datos de entrenamiento para que el LHMM logre un rendimiento comparable al del HMM. Otra ventaja es que las capas en la parte inferior del LHMM, que son más sensibles a los cambios en el entorno, como el tipo de sensores, la frecuencia de muestreo, etc., se pueden volver a entrenar por separado sin alterar las capas superiores del LHMM.

• Modelo jerárquico oculto de Markov