Programación bayesiana

Dada una partición de${\displaystyle \left\{X_{1},X_{2},\ldots ,X_{N}\right\}}$que contiene${\displaystyle K}$subconjuntos,${\displaystyle K}$Las variables se definen ${\displaystyle L_{1},\cdots ,L_{K}}$, cada uno correspondiente a uno de estos subconjuntos. Cada variable${\displaystyle L_{k}}$se obtiene como la conjunción de las variables${\displaystyle \left\{X_{k_{1}},X_{k_{2}},\cdots \right\}}$ perteneciente a la${\displaystyle k^{th}}$subconjunto. La aplicación recursiva del teorema de Bayes conduce a:

${\displaystyle {\begin{aligned}&P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\wedge \cdots \wedge L_{K}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\mid \delta \wedge \pi \right)\times P\left(L_{2}\mid L_{1}\wedge \delta \wedge \pi \right)\times \cdots \times P\left(L_{K}\mid L_{K-1}\wedge \cdots \wedge L_{1}\wedge \delta \wedge \pi \right)\end{aligned}}}$

Las hipótesis de independencia condicional permiten entonces simplificaciones adicionales. Una hipótesis de independencia condicional para la variable${\displaystyle L_{k}}$se define eligiendo alguna variable${\displaystyle X_{n}}$ entre las variables que aparecen en la conjunción${\displaystyle L_{k-1}\wedge \cdots \wedge L_{2}\wedge L_{1}}$, etiquetado${\displaystyle R_{k}}$como la conjunción de estas variables y configuración elegidas:

${\displaystyle P\left(L_{k}\mid L_{k-1}\wedge \cdots \wedge L_{1}\wedge \delta \wedge \pi \right)=P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}$

Obtenemos entonces:

${\displaystyle {\begin{aligned}&P\left(X_{1}\wedge X_{2}\wedge \cdots \wedge X_{N}\mid \delta \wedge \pi \right)\\={}&P\left(L_{1}\mid \delta \wedge \pi \right)\times P\left(L_{2}\mid R_{2}\wedge \delta \wedge \pi \right)\times \cdots \times P\left(L_{K}\mid R_{K}\wedge \delta \wedge \pi \right)\end{aligned}}}$

Dicha simplificación de la distribución conjunta como producto de distribuciones más simples se denomina descomposición, derivada mediante la regla de la cadena .

Esto garantiza que cada variable aparezca como máximo una vez a la izquierda de una barra de condicionamiento, que es la condición necesaria y suficiente para escribir descomposiciones matemáticamente válidas. ^{[ 6 ]}

Cada distribución${\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}$que aparece en el producto se asocia entonces con una forma paramétrica (es decir, una función)${\displaystyle f_{\mu }\left(L_{k}\right)}$) o una pregunta a otro programa bayesiano${\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)=P\left(L\mid R\wedge {\widehat {\delta }}\wedge {\widehat {\pi }}\right)}$.

Cuando es una forma${\displaystyle f_{\mu }\left(L_{k}\right)}$, en general,${\displaystyle \mu }$es un vector de parámetros que pueden depender de${\displaystyle R_{k}}$o${\displaystyle \delta }$o ambos. El aprendizaje tiene lugar cuando algunos de estos parámetros se calculan utilizando el conjunto de datos.${\displaystyle \delta }$.

Una característica importante de la programación bayesiana es esta capacidad de utilizar preguntas dirigidas a otros programas bayesianos como componentes de la definición de un nuevo programa bayesiano.${\displaystyle P\left(L_{k}\mid R_{k}\wedge \delta \wedge \pi \right)}$se obtiene mediante algunas inferencias realizadas por otro programa bayesiano definido por las especificaciones${\displaystyle {\widehat {\pi }}}$y los datos${\displaystyle {\widehat {\delta }}}$Esto es similar a llamar a una subrutina en la programación clásica y proporciona una manera fácil de construir modelos jerárquicos .

Las variables necesarias para escribir este programa son las siguientes:

1. ${\displaystyle Spam}$: una variable binaria, falsa si el correo electrónico no es spam y verdadera en caso contrario.
2. ${\displaystyle W_{0},W_{1},\ldots ,W_{N-1}}$:${\displaystyle N}$variables binarias .${\displaystyle W_{n}}$es cierto si el${\displaystyle n^{th}}$La palabra del diccionario está presente en el texto.

Estos${\displaystyle N+1}$Las variables binarias resumen toda la información sobre un correo electrónico.

Partiendo de la distribución conjunta y aplicando recursivamente el teorema de Bayes, obtenemos:

${\displaystyle {\begin{aligned}&P({\text{Spam}}\wedge W_{0}\wedge \cdots \wedge W_{N-1})\\={}&P({\text{Spam}})\times P(W_{0}\mid {\text{Spam}})\times P(W_{1}\mid {\text{Spam}}\wedge W_{0})\\&\times \cdots \\&\times P\left(W_{N-1}\mid {\text{Spam}}\wedge W_{0}\wedge \cdots \wedge W_{N-2}\right)\end{aligned}}}$

Esta es una expresión matemática exacta.

Se puede simplificar drásticamente asumiendo que la probabilidad de aparición de una palabra, conociendo la naturaleza del texto (spam o no), es independiente de la aparición de las demás palabras. Esta es la suposición del clasificador bayesiano ingenuo , lo que convierte a este filtro de spam en un modelo bayesiano ingenuo .

Por ejemplo, el programador puede suponer que:

${\displaystyle P(W_{1}\mid {\text{Spam}}\land W_{0})=P(W_{1}\mid {\text{Spam}})}$

para finalmente obtener:

${\displaystyle P({\text{Spam}}\land W_{0}\land \ldots \land W_{N-1})=P({\text{Spam}})\prod _{n=0}^{N-1}[P(W_{n}\mid {\text{Spam}})]}$

Este tipo de suposición se conoce como la suposición bayesiana ingenua . Es "ingenua" en el sentido de que la independencia entre palabras claramente no es del todo cierta. Por ejemplo, ignora por completo que la aparición de pares de palabras puede ser más significativa que las apariciones aisladas. Sin embargo, el programador puede asumir esta hipótesis y desarrollar el modelo y las inferencias asociadas para comprobar su fiabilidad y eficiencia.

Para poder calcular la distribución conjunta, el programador ahora debe especificar la ${\displaystyle N+1}$distribuciones que aparecen en la descomposición:

1. ${\displaystyle P({\text{Spam}})}$es una definición previa, por ejemplo, por${\displaystyle P([{\text{Spam}}=1])=0.75}$
2. Cada uno de los${\displaystyle N}$ formas${\displaystyle P(W_{n}\mid {\text{Spam}})}$puede especificarse utilizando la regla de sucesión de Laplace (esta es una técnica de suavizado basada en pseudocuentas para contrarrestar el problema de frecuencia cero de palabras nunca antes vistas):
   1. ${\displaystyle P(W_{n}\mid [{\text{Spam}}={\text{false}}])={\frac {1+a_{f}^{n}}{2+a_{f}}}}$
   2. ${\displaystyle P(W_{n}\mid [{\text{Spam}}={\text{true}}])={\frac {1+a_{t}^{n}}{2+a_{t}}}}$

dónde${\displaystyle a_{f}^{n}}$representa el número de apariciones del${\displaystyle n^{th}}$palabra en correos electrónicos que no son spam y${\displaystyle a_{f}}$representa el número total de correos electrónicos que no son spam. De manera similar,${\displaystyle a_{t}^{n}}$representa el número de apariciones del${\displaystyle n^{th}}$palabra en correos electrónicos no deseados y${\displaystyle a_{t}}$representa el número total de correos electrónicos no deseados.

El${\displaystyle N}$ formas${\displaystyle P(W_{n}\mid {\text{Spam}})}$aún no están completamente especificados porque el${\displaystyle 2N+2}$parámetros${\displaystyle a_{f}^{n=0,\ldots ,N-1}}$,${\displaystyle a_{t}^{n=0,\ldots ,N-1}}$,${\displaystyle a_{f}}$y${\displaystyle a_{t}}$aún no tienen valores.

La identificación de estos parámetros podría realizarse mediante el procesamiento por lotes de una serie de correos electrónicos clasificados o mediante una actualización incremental de los parámetros utilizando las clasificaciones que el usuario haga de los correos electrónicos a medida que llegan.

Ambos métodos podrían combinarse: el sistema podría comenzar con valores estándar iniciales de estos parámetros obtenidos de una base de datos genérica, y luego un aprendizaje incremental personalizaría el clasificador para cada usuario individual.

La pregunta que se le plantea al programa es: "¿Cuál es la probabilidad de que un texto dado sea spam sabiendo qué palabras aparecen y cuáles no aparecen en este texto?" Se puede formalizar de la siguiente manera:

${\displaystyle P({\text{Spam}}\mid w_{0}\wedge \cdots \wedge w_{N-1})}$

que se puede calcular de la siguiente manera:

${\displaystyle {\begin{aligned}&P({\text{Spam}}\mid w_{0}\wedge \cdots \wedge w_{N-1})\\={}&{\frac {\displaystyle P({\text{Spam}})\prod _{n=0}^{N-1}[P(w_{n}\mid {\text{Spam}})]}{\displaystyle \sum _{\text{Spam}}[P({\text{Spam}})\prod _{n=0}^{N-1}[P(w_{n}\mid {\text{Spam}})]]}}\end{aligned}}}$

El denominador parece ser una constante de normalización . No es necesario calcularla para decidir si se trata de spam. Por ejemplo, un truco sencillo es calcular la proporción:

${\displaystyle {\begin{aligned}&{\frac {P([{\text{Spam}}={\text{true}}]\mid w_{0}\wedge \cdots \wedge w_{N-1})}{P([{\text{Spam}}={\text{false}}]\mid w_{0}\wedge \cdots \wedge w_{N-1})}}\\={}&{\frac {P([{\text{Spam}}={\text{true}}])}{P([{\text{Spam}}={\text{false}}])}}\times \prod _{n=0}^{N-1}\left[{\frac {P(w_{n}\mid [{\text{Spam}}={\text{true}}])}{P(w_{n}\mid [{\text{Spam}}={\text{false}}])}}\right]\end{aligned}}}$

Este cálculo es más rápido y sencillo porque solo requiere${\displaystyle 2N}$productos.

El programa de filtro de spam bayesiano se define completamente por:

${\displaystyle \Pr {\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:{\text{Spam}},W_{0},W_{1}\ldots W_{N-1}\\Dc:{\begin{cases}P({\text{Spam}}\land W_{0}\land \ldots \land W_{n}\land \ldots \land W_{N-1})\\=P({\text{Spam}})\prod _{n=0}^{N-1}P(W_{n}\mid {\text{Spam}})\end{cases}}\\Fo:{\begin{cases}P({\text{Spam}}):{\begin{cases}P([{\text{Spam}}={\text{false}}])=0.25\\P([{\text{Spam}}={\text{true}}])=0.75\end{cases}}\\P(W_{n}\mid {\text{Spam}}):{\begin{cases}P(W_{n}\mid [{\text{Spam}}={\text{false}}])\\={\frac {1+a_{f}^{n}}{2+a_{f}}}\\P(W_{n}\mid [{\text{Spam}}={\text{true}}])\\={\frac {1+a_{t}^{n}}{2+a_{t}}}\end{cases}}\\\end{cases}}\\\end{cases}}\\{\text{Identification (based on }}\delta )\end{cases}}\\Qu:P({\text{Spam}}\mid w_{0}\land \ldots \land w_{n}\land \ldots \land w_{N-1})\end{cases}}}$

• Variables${\displaystyle S^{0},\ldots ,S^{T}}$son una serie temporal de variables de estado consideradas en un horizonte temporal que abarca desde${\displaystyle 0}$a${\displaystyle T}$.
• Variables${\displaystyle O^{0},\ldots ,O^{T}}$son una serie temporal de variables de observación en el mismo horizonte.

La descomposición se basa en:

• en${\displaystyle P(S^{t}\mid S^{t-1})}$, llamado modelo del sistema, modelo de transición o modelo dinámico, que formaliza la transición desde el estado en el tiempo${\displaystyle t-1}$al estado en ese momento${\displaystyle t}$;
• en${\displaystyle P(O^{t}\mid S^{t})}$, llamado modelo de observación, que expresa lo que se puede observar en el tiempo${\displaystyle t}$cuando el sistema está en estado${\displaystyle S^{t}}$;
• en un estado inicial en el momento${\displaystyle 0}$:${\displaystyle P(S^{0}\wedge O^{0})}$.

Las formas paramétricas no están restringidas y las diferentes elecciones dan lugar a diferentes modelos bien conocidos: véanse los filtros de Kalman y los modelos ocultos de Markov justo debajo.

La pregunta típica para este tipo de modelos es:${\displaystyle P\left(S^{t+k}\mid O^{0}\wedge \cdots \wedge O^{t}\right)}$: ¿Cuál es la distribución de probabilidad para el estado en el tiempo${\displaystyle t+k}$conociendo las observaciones del instante${\displaystyle 0}$a${\displaystyle t}$¿

El caso más común es el filtrado bayesiano donde${\displaystyle k=0}$, que busca el estado actual, conociendo observaciones pasadas.

Sin embargo, también es posible${\displaystyle (k>0)}$para extrapolar un estado futuro a partir de observaciones pasadas o para realizar suavizado${\displaystyle (k<0)}$, para recuperar un estado pasado a partir de observaciones realizadas antes o después de ese instante.

También se pueden plantear preguntas más complejas, como se muestra a continuación en la sección HMM.

filtros bayesianos${\displaystyle (k=0)}$Tienen una propiedad recursiva muy interesante, lo que contribuye en gran medida a su atractivo.${\displaystyle P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t}\right)}$puede calcularse simplemente a partir de${\displaystyle P\left(S^{t-1}\mid O^{0}\wedge \cdots \wedge O^{t-1}\right)}$con la siguiente fórmula:

${\displaystyle {\begin{array}{ll}&P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t}\right)\\=&P\left(O^{t}|S^{t}\right)\times \sum _{S^{t-1}}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(S^{t-1}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\right]\end{array}}}$

Otro punto de vista interesante para esta ecuación es considerar que hay dos fases: una fase de predicción y una fase de estimación:

• Durante la fase de predicción, el estado se predice utilizando el modelo dinámico y la estimación del estado en el momento anterior:

${\displaystyle {\begin{array}{ll}&P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\\=&\sum _{S^{t-1}}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(S^{t-1}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\right]\end{array}}}$

• Durante la fase de estimación, la predicción se confirma o se invalida utilizando la última observación:

${\displaystyle {\begin{aligned}&P\left(S^{t}\mid O^{0}\wedge \cdots \wedge O^{t}\right)\\={}&P\left(O^{t}\mid S^{t}\right)\times P\left(S^{t}|O^{0}\wedge \cdots \wedge O^{t-1}\right)\end{aligned}}}$

${\displaystyle Pr{\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\cdots ,S^{T},O^{0},\cdots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}|\pi \right)\\=&P\left(S^{0}\wedge O^{0}\right)\times \prod _{t=1}^{T}\left[P\left(S^{t}|S^{t-1}\right)\times P\left(O^{t}|S^{t}\right)\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{0}\wedge O^{0}\right)\\P\left(S^{t}|S^{t-1}\right)\\P\left(O^{t}|S^{t}\right)\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\{\begin{cases}{\begin{array}{l}P\left(S^{t+k}|O^{0}\wedge \cdots \wedge O^{t}\right)\\\left(k=0\right)\equiv {\text{Filtering}}\\\left(k>0\right)\equiv {\text{Prediction}}\\\left(k<0\right)\equiv {\text{Smoothing}}\end{array}}\end{cases}}\end{cases}}}$

Los filtros de Kalman, muy conocidos ^{[ 7 ],} son un caso especial de filtros bayesianos.

Se definen mediante el siguiente programa bayesiano:

${\displaystyle Pr{\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\cdots ,S^{T},O^{0},\cdots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge O^{T}|\pi \right)\\=&\left[{\begin{array}{c}P\left(S^{0}\wedge O^{0}|\pi \right)\\\prod _{t=1}^{T}\left[P\left(S^{t}|S^{t-1}\wedge \pi \right)\times P\left(O^{t}|S^{t}\wedge \pi \right)\right]\end{array}}\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\equiv G\left(S^{t},A\bullet S^{t-1},Q\right)\\P\left(O^{t}\mid S^{t}\wedge \pi \right)\equiv G\left(O^{t},H\bullet S^{t},R\right)\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\P\left(S^{T}\mid O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\end{cases}}}$

• Las variables son continuas.
• El modelo de transición${\displaystyle P(S^{t}\mid S^{t-1}\wedge \pi )}$y el modelo de observación${\displaystyle P(O^{t}\mid S^{t}\wedge \pi )}$Ambas se especifican utilizando leyes gaussianas con medias que son funciones lineales de las variables de condicionamiento.

Con estas hipótesis y utilizando la fórmula recursiva, es posible resolver analíticamente el problema de inferencia para responder a las preguntas habituales.${\displaystyle P(S^{T}\mid O^{0}\wedge \cdots \wedge O^{T}\wedge \pi )}$Pregunta. Esto da como resultado un algoritmo extremadamente eficiente, lo que explica la popularidad de los filtros de Kalman y la cantidad de aplicaciones cotidianas que tienen.

Cuando no existen modelos de transición y observación lineales evidentes, a menudo es posible, mediante una expansión de Taylor de primer orden, tratar estos modelos como localmente lineales. Esta generalización se conoce comúnmente como filtro de Kalman extendido .

Los modelos ocultos de Markov (HMM) son otra especialización muy popular de los filtros bayesianos.

Se definen mediante el siguiente programa bayesiano:

${\displaystyle \Pr {\begin{cases}Ds{\begin{cases}Sp(\pi ){\begin{cases}Va:\\S^{0},\ldots ,S^{T},O^{0},\ldots ,O^{T}\\Dc:\\{\begin{cases}&P\left(S^{0}\wedge \cdots \wedge O^{T}\mid \pi \right)\\=&\left[{\begin{array}{c}P\left(S^{0}\wedge O^{0}\mid \pi \right)\\\prod _{t=1}^{T}\left[P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\times P\left(O^{t}\mid S^{t}\wedge \pi \right)\right]\end{array}}\right]\end{cases}}\\Fo:\\{\begin{cases}P\left(S^{0}\wedge O^{0}\mid \pi \right)\equiv {\text{Matrix}}\\P\left(S^{t}\mid S^{t-1}\wedge \pi \right)\equiv {\text{Matrix}}\\P\left(O^{t}\mid S^{t}\wedge \pi \right)\equiv {\text{Matrix}}\end{cases}}\end{cases}}\\Id\end{cases}}\\Qu:\\\max _{S^{1}\wedge \cdots \wedge S^{T-1}}\left[P\left(S^{1}\wedge \cdots \wedge S^{T-1}\mid S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\right]\end{cases}}}$

• Las variables se tratan como discretas.
• El modelo de transición${\displaystyle P\left(S^{t}\mid S^{t-1}\wedge \pi \right)}$y el modelo de observación${\displaystyle P\left(O^{t}\mid S^{t}\wedge \pi \right)}$son

ambos especificados mediante matrices de probabilidad.

• La pregunta que más se formula a los HMM es:

${\displaystyle \max _{S^{1}\wedge \cdots \wedge S^{T-1}}\left[P\left(S^{1}\wedge \cdots \wedge S^{T-1}\mid S^{T}\wedge O^{0}\wedge \cdots \wedge O^{T}\wedge \pi \right)\right]}$

¿Cuál es la serie de estados más probable que conduce al estado actual, conociendo las observaciones pasadas?

Esta pregunta en particular puede responderse con un algoritmo específico y muy eficiente llamado algoritmo de Viterbi .

El algoritmo Baum-Welch se ha desarrollado para modelos ocultos de Markov (HMM).

En robótica, la programación bayesiana se aplicó a la robótica autónoma , ^{[ 9 ] [ 10 ] [ 11 ] [ 12 ] [ 13 ]} sistemas CAD robóticos , ^{[ 14 ]} sistemas avanzados de asistencia al conductor , ^{[ 15 ]} control de brazos robóticos , robótica móvil , ^{[ 16 ] [ 17 ]} interacción humano-robot, ^{[ 18 ]} interacción humano-vehículo (modelos de conductor autónomo bayesiano) ^{[ 19 ] [ 20 ] [ 21 ] [ 22 ] [ 23 ]} programación y entrenamiento de avatares de videojuegos ^{[ 24 ]} y juegos de estrategia en tiempo real (IA). ^{[ 25 ]}

En ciencias de la vida, la programación bayesiana se utilizó en visión para reconstruir la forma a partir del movimiento, ^{[ 26 ]} para modelar la interacción visuovestibular ^{[ 27 ]} y para estudiar los movimientos sacádicos oculares; ^{[ 28 ]} en percepción y control del habla para estudiar la adquisición temprana del habla ^{[ 29 ]} y la aparición de sistemas articulatorios-acústicos; ^{[ 30 ]} y para modelar la percepción y el control de la escritura a mano. ^{[ 31 ]}