Articulo de referencia

Modelo gráfico

Un modelo gráfico , modelo gráfico probabilístico ( MGP ) o modelo probabilístico estructurado es un modelo probabilístico en el que un gráfico expresa la estructura de dependen...

Un modelo gráfico , modelo gráfico probabilístico ( MGP ) o modelo probabilístico estructurado es un modelo probabilístico en el que un gráfico expresa la estructura de dependencia condicional entre variables aleatorias . Los modelos gráficos se utilizan comúnmente en la teoría de la probabilidad , la estadística —en particular la estadística bayesiana— y el aprendizaje automático .

Tipos

Generalmente, los modelos gráficos probabilísticos utilizan una representación basada en grafos como base para codificar una distribución en un espacio multidimensional, y un grafo que constituye una representación compacta o factorizada de un conjunto de independencias que se cumplen en dicha distribución. Se utilizan comúnmente dos ramas de representaciones gráficas de distribuciones: las redes bayesianas y los campos aleatorios de Markov . Ambas familias abarcan las propiedades de factorización e independencia, pero difieren en el conjunto de independencias que pueden codificar y en la factorización de la distribución que inducen. [ 1 ]

Modelo gráfico no dirigido

Un grafo no dirigido con cuatro vértices.
Un grafo no dirigido con cuatro vértices

El grafo no dirigido que se muestra puede tener varias interpretaciones; la característica común es que la presencia de una arista implica algún tipo de dependencia entre las variables aleatorias correspondientes. A partir de este grafo, podemos deducir que B, C y D son condicionalmente independientes dado A. Esto significa que si se conoce el valor de A, entonces los valores de B, C y D no proporcionan información adicional entre sí. De forma equivalente (en este caso), la distribución de probabilidad conjunta se puede factorizar como:

PAG[A,B,do,D]=FAB[A,B]FAdo[A,do]FAD[A,D]{\displaystyle P[A,B,C,D]=f_{AB}[A,B]\cdot f_{AC}[A,C]\cdot f_{AD}[A,D]}

para algunas funciones no negativasFAB,FAdo,FAD{\displaystyle f_{AB},f_{AC},f_{AD}}.

red bayesiana

Ejemplo de un grafo dirigido acíclico con cuatro vértices.
Ejemplo de un grafo dirigido acíclico con cuatro vértices.

Si la estructura de red del modelo es un grafo dirigido acíclico , el modelo representa una factorización de la probabilidad conjunta de todas las variables aleatorias. Más precisamente, si los eventos sonincógnita1,,incógnitanorte{\displaystyle X_{1},\ldots ,X_{n}}entonces la probabilidad conjunta satisface

PAG[incógnita1,,incógnitanorte]=i=1nortePAG[incógnitai|Pensilvania(incógnitai)]{\displaystyle P[X_{1},\ldots ,X_{n}]=\prod _{i=1}^{n}P[X_{i}|{\text{pa}}(X_{i})]}

dóndePensilvania(incógnitai){\displaystyle {\text{pa}}(X_{i})}es el conjunto de padres del nodoincógnitai{\displaystyle X_{i}}(nodos con aristas dirigidas haciaincógnitai{\displaystyle X_{i}}). En otras palabras, la distribución conjunta se factoriza en un producto de distribuciones condicionales. Por ejemplo, en el grafo acíclico dirigido que se muestra en la figura, esta factorización sería

PAG[A,B,do,D]=PAG[A]PAG[B|A]PAG[do|A]PAG[D|A,do]{\displaystyle P[A,B,C,D]=P[A]\cdot P[B|A]\cdot P[C|A]\cdot P[D|A,C]}.

Dos nodos cualesquiera son condicionalmente independientes dados los valores de sus padres. En general, dos conjuntos cualesquiera de nodos son condicionalmente independientes dado un tercer conjunto si se cumple un criterio denominado d -separación en el grafo. Las independencias locales y globales son equivalentes en las redes bayesianas.

Este tipo de modelo gráfico se conoce como modelo gráfico dirigido, red bayesiana o red de creencias. Los modelos clásicos de aprendizaje automático, como los modelos ocultos de Markov y las redes neuronales , y los modelos más recientes, como los modelos de Markov de orden variable, pueden considerarse casos especiales de redes bayesianas.

Una de las redes bayesianas más simples es el clasificador Naive Bayes .

Modelos gráficos dirigidos cíclicos

Un ejemplo de modelo gráfico dirigido.
Ejemplo de un modelo gráfico cíclico dirigido. Cada flecha indica una dependencia. En este ejemplo: D depende de A, B y C; y C depende de B y D; mientras que A y B son independientes entre sí.

La siguiente figura muestra un modelo gráfico con un ciclo. Esto puede interpretarse en términos de que cada variable "depende" de los valores de sus padres de alguna manera. El gráfico en particular que se muestra sugiere una densidad de probabilidad conjunta que se factoriza como

PAG[A,B,do,D]=PAG[A]PAG[B]PAG[do,D|A,B]{\displaystyle P[A,B,C,D]=P[A]\cdot P[B]\cdot P[C,D|A,B]},

pero son posibles otras interpretaciones. [ 2 ]

Otros tipos

Modelo TAN para el conjunto de datos "corral"

Aplicaciones

El marco de los modelos, que proporciona algoritmos para descubrir y analizar la estructura en distribuciones complejas para describirlas sucintamente y extraer la información no estructurada, permite que se construyan y utilicen de manera efectiva. [ 1 ] Las aplicaciones de los modelos gráficos incluyen inferencia causal , extracción de información , reconocimiento de voz , visión por computadora , decodificación de códigos de verificación de paridad de baja densidad , modelado de redes reguladoras de genes , búsqueda de genes y diagnóstico de enfermedades, y modelos gráficos para la estructura de proteínas .

Véase también

Notas

  1. 12 Koller , D .; Friedman, N. (2009). Modelos gráficos probabilísticos . Massachusetts: MIT Press. pag.  1208.ISBN 978-0-262-01319-2Archivado del original el 27 de abril de 2014.
  2. Richardson, Thomas (1996). «Un algoritmo de descubrimiento para grafos cíclicos dirigidos». Actas de la Duodécima Conferencia sobre Incertidumbre en Inteligencia Artificial . Morgan Kaufmann Pub. ISBN 978-1-55860-412-4.
  3. Frydenberg, Morten (1990). "La propiedad de Markov del grafo en cadena". Scandinavian Journal of Statistics . 17 (4): 333– 353. JSTOR 4616181. MR 1096723 .  
  4. Richardson, Thomas; Spirtes, Peter (2002). "Modelos de Markov de grafos ancestrales". Annals of Statistics . 30 (4): 962– 1030. CiteSeerX 10.1.1.33.4906 . doi : 10.1214/aos/1031689015 . MR 1926166 . Zbl 1033.60008 .   

Lecturas adicionales

Libros y capítulos de libros

  • Barber, David (2012). Razonamiento bayesiano y aprendizaje automático . Cambridge University Press. ISBN 978-0-521-51814-7.
  • Bishop, Christopher M. (2006). «Capítulo 8. Modelos gráficos» (PDF) . Reconocimiento de patrones y aprendizaje automático . Springer. pp. 359–422 . ISBN  978-0-387-31073-2MR 2247587 .​ 
  • Cowell, Robert G.; David, A. Felipe ; Lauritzen, Steffen L.; Spiegelhalter, David J. (1999). Redes probabilísticas y sistemas expertos . Berlín: Springer. ISBN 978-0-387-98767-5. MR 1697175 . Un libro más avanzado y orientado a la estadística.
  • Jensen, Finn (1996). Introducción a las redes bayesianas . Berlín: Springer. ISBN 978-0-387-91502-9.
  • Perla, Judea (1988). Razonamiento probabilístico en sistemas inteligentes (2ª  edición revisada). San Mateo, California: Morgan Kaufmann . ISBN 978-1-55860-479-7. SR 0965765 . Un enfoque de razonamiento computacional, donde se introdujeron formalmente las relaciones entre gráficos y probabilidades.

Artículos de revistas

  • Edoardo M. Airoldi (2007). " Introducción a los modelos gráficos probabilísticos" . PLOS Computational Biology . 3 (12): e252. arXiv : 0706.2040 . Bibcode : 2007PLSCB...3..252A . doi : 10.1371/journal.pcbi.0030252 . PMC 2134967. PMID 18069887 .  
  • Jordan, MI (2004). "Modelos gráficos" . Ciencia estadística . 19 : 140–155 . doi : 10.1214/088342304000000026 .
  • Ghahramani, Zoubin (mayo de 2015). " Aprendizaje automático probabilístico e inteligencia artificial" . Nature . 521 (7553): 452– 459. Bibcode : 2015Natur.521..452G . doi : 10.1038/nature14541 . PMID 26017444. S2CID 216356 .  

Otro

  • Tutorial de aprendizaje de redes bayesianas de Heckerman
  • Breve introducción a los modelos gráficos y las redes bayesianas
  • Diapositivas de la clase de Sargur Srihari sobre modelos gráficos probabilísticos
  • Modelos gráficos y campos aleatorios condicionales
  • Modelos gráficos probabilísticos impartidos por Eric Xing en CMU.