Articulo de referencia

Modelo de bloques estocásticos

El modelo de bloques estocásticos es un modelo generativo para grafos aleatorios . Este modelo tiende a producir grafos que contienen comunidades , subconjuntos de nodos caracte...

El modelo de bloques estocásticos es un modelo generativo para grafos aleatorios . Este modelo tiende a producir grafos que contienen comunidades , subconjuntos de nodos caracterizados por estar conectados entre sí con densidades de aristas particulares. Por ejemplo, las aristas pueden ser más comunes dentro de las comunidades que entre ellas. Su formulación matemática fue introducida por primera vez en 1983 en el campo del análisis de redes sociales por Paul W. Holland et al. [ 1 ]. El modelo de bloques estocásticos es importante en estadística , aprendizaje automático y ciencia de redes , donde sirve como un punto de referencia útil para la tarea de recuperar la estructura de comunidades en datos de grafos.

Definición

El modelo de bloques estocásticos toma los siguientes parámetros:

  • El númeronorte{\displaystyle n}de vértices;
  • una partición del conjunto de vértices{1,,norte}{\displaystyle \{1,\ldots ,n\}}en subconjuntos disjuntosdo1,,dor{\displaystyle C_{1},\ldots ,C_{r}}, llamadas comunidades ;
  • una simétricar×r{\displaystyle r\times r}matrizPAG{\displaystyle P}de probabilidades de borde.

El conjunto de aristas se muestrea luego al azar de la siguiente manera: cualesquiera dos vérticesdoi{\displaystyle u\in C_{i}}yvdoj{\displaystyle v\in C_{j}}están conectados por una arista con probabilidadPAGij{\displaystyle P_{ij}}. Un ejemplo de problema es: dado un gráfico con norte{\displaystyle n}vértices, donde las aristas se muestrean como se describe, recuperan los grupos do1,,dor{\displaystyle C_{1},\ldots ,C_{r}}.

Casos especiales

Un ejemplo del caso asociativo para el modelo de bloques estocásticos.

Si la matriz de probabilidad es una constante, en el sentido de quePAGij=pag{\displaystyle P_{ij}=p}a pesar dei,j{\displaystyle i,j}, entonces el resultado es el modelo Erdős-RényiGRAMO(norte,pag){\displaystyle G(n,p)}Este caso es degenerado —la partición en comunidades se vuelve irrelevante—, pero ilustra una estrecha relación con el modelo de Erdős-Rényi.

El modelo de partición plantada es el caso especial en el que los valores de la matriz de probabilidadPAG{\displaystyle P}son una constantepag{\displaystyle p}en diagonal y otra constanteq{\displaystyle q}fuera de la diagonal. Por lo tanto, dos vértices dentro de la misma comunidad comparten una arista con probabilidadpag{\displaystyle p}, mientras que dos vértices en comunidades diferentes comparten una arista con probabilidadq{\displaystyle q}. A veces, este modelo restringido es el que se denomina modelo de bloques estocásticos. El caso en el quepag>q{\displaystyle p>q}se denomina modelo asociativo , mientras que el casopag<q{\displaystyle p<q}se denomina disasortativo .

Volviendo al modelo general de bloques estocásticos, un modelo se denomina fuertemente asociativo siPAGii>PAGjk{\displaystyle P_{ii}>P_{jk}}cuando seajk{\displaystyle j\neq k}: todas las entradas diagonales dominan a todas las entradas fuera de la diagonal. Un modelo se denomina débilmente asociativo siPAGii>PAGij{\displaystyle P_{ii}>P_{ij}}cuando seaij{\displaystyle i\neq j}Cada entrada diagonal solo debe dominar el resto de su propia fila y columna. [ 2 ] Existen formas disasortativas de esta terminología, invirtiendo todas las desigualdades. Para algunos algoritmos, la recuperación podría ser más fácil para modelos de bloques con condiciones asociativas o disasortativas de esta forma. [ 2 ]

Tareas estadísticas típicas

Gran parte de la bibliografía sobre detección algorítmica de comunidades aborda tres tareas estadísticas: detección, recuperación parcial y recuperación exacta.

Detección

El objetivo de los algoritmos de detección es simplemente determinar, dado un grafo muestreado, si este posee una estructura de comunidad latente. Más precisamente, un grafo podría generarse, con cierta probabilidad previa conocida, a partir de un modelo de bloques estocástico conocido, o bien a partir de un modelo de Erdos-Renyi similar . La tarea algorítmica consiste en identificar correctamente cuál de estos dos modelos subyacentes generó el grafo. [ 3 ]

Recuperación parcial

En la recuperación parcial, el objetivo es determinar aproximadamente la partición latente en comunidades, en el sentido de encontrar una partición que se correlacione con la partición verdadera de manera significativamente mejor que una suposición aleatoria. [ 4 ]

Recuperación exacta

En la recuperación exacta, el objetivo es recuperar la partición latente en comunidades de forma exacta. Los tamaños de las comunidades y la matriz de probabilidad pueden ser conocidos [ 5 ] o desconocidos. [ 6 ]

Límites inferiores estadísticos y comportamiento del umbral

Los modelos de bloques estocásticos exhiben un marcado efecto umbral que recuerda a los umbrales de percolación . [ 7 ] [ 3 ] [ 8 ] Supongamos que permitimos el tamañonorte{\displaystyle n}del gráfico para crecer, manteniendo los tamaños de las comunidades en proporciones fijas. Si la matriz de probabilidad permanece fija, tareas como la recuperación parcial y exacta se vuelven factibles para todas las configuraciones de parámetros no degeneradas. Sin embargo, si reducimos la matriz de probabilidad a una tasa adecuada comonorte{\displaystyle n}A medida que aumenta, observamos una transición de fase abrupta: para ciertas configuraciones de los parámetros, será posible lograr la recuperación con una probabilidad que tiende a 1, mientras que en el lado opuesto del umbral del parámetro, la probabilidad de recuperación tiende a 0 sin importar qué algoritmo se utilice.

Para una recuperación parcial, la escala apropiada es tomarPAGij=PAG~ij/norte{\displaystyle P_{ij}={\tilde {P}}_{ij}/n}para fijoPAG~{\displaystyle {\tilde {P}}}, lo que da como resultado gráficos de grado promedio constante. En el caso de dos comunidades de igual tamaño, en el modelo de partición plantada selectiva con matriz de probabilidad PAG=(pag~/norteq~/norteq~/nortepag~/norte),{\displaystyle P=\left({\begin{array}{cc}{\tilde {p}}/n&{\tilde {q}}/n\\{\tilde {q}}/n&{\tilde {p}}/n\end{array}}\right),} La recuperación parcial es factible [ 4 ] con probabilidad1o(1){\displaystyle 1-o(1)}cuando sea(pag~q~)2>2(pag~+q~){\displaystyle ({\tilde {p}}-{\tilde {q}})^{2}>2({\tilde {p}}+{\tilde {q}})}, mientras que cualquier estimador falla [ 3 ] recuperación parcial con probabilidad1o(1){\displaystyle 1-o(1)}cuando sea(pag~q~)2<2(pag~+q~){\displaystyle ({\tilde {p}}-{\tilde {q}})^{2}<2({\tilde {p}}+{\tilde {q}})}.

Para una recuperación exacta, la escala apropiada es tomarPAGij=PAG~ijregistronorte/norte{\displaystyle P_{ij}={\tilde {P}}_{ij}\log n/n}, lo que resulta en gráficos de grado promedio logarítmico. Aquí existe un umbral similar: para el modelo de partición plantada asociativa conr{\displaystyle r}comunidades de igual tamaño, el umbral se encuentra enpag~q~=r{\displaystyle {\sqrt {\tilde {p}}}-{\sqrt {\tilde {q}}}={\sqrt {r}}}De hecho, se conoce el umbral de recuperación exacto para el modelo de bloques estocásticos totalmente general. [ 5 ]

Algoritmos

En principio, la recuperación exacta puede resolverse dentro de su rango factible mediante máxima verosimilitud , pero esto equivale a resolver un problema de corte restringido o regularizado , como la bisección mínima, que suele ser NP-completo . Por lo tanto, ningún algoritmo eficiente conocido calculará correctamente la estimación de máxima verosimilitud en el peor de los casos.

Sin embargo, una amplia variedad de algoritmos funcionan bien en el caso promedio, y se han demostrado muchas garantías de rendimiento de alta probabilidad para algoritmos tanto en configuraciones de recuperación parcial como exacta. Los algoritmos exitosos incluyen agrupamiento espectral de vértices, [ 9 ] [ 4 ] [ 5 ] [ 10 ] programación semidefinida , [ 2 ] [ 8 ] formas de propagación de creencias , [ 7 ] [ 11 ] y detección de comunidades [ 12 ] entre otros.

Variantes

Existen varias variantes del modelo. Una pequeña modificación asigna los vértices a las comunidades de forma aleatoria, según una distribución categórica , en lugar de en una partición fija. [ 5 ] Las variantes más significativas incluyen el modelo de bloques estocásticos con corrección de grado, [ 13 ] el modelo de bloques estocásticos jerárquicos, [ 14 ] el modelo de bloques geométricos, [ 15 ] el modelo de bloques censurados y el modelo de bloques de membresía mixta. [ 16 ]

Modelos de temas

Se ha reconocido que el modelo de bloques estocásticos es un modelo de temas en redes bipartitas. [ 17 ] En una red de documentos y palabras, el modelo de bloques estocásticos puede identificar temas: grupos de palabras con un significado similar.

Extensiones a grafos con signo

Los grafos con signos permiten relaciones tanto favorables como adversas y constituyen una opción de modelo común para diversas aplicaciones de análisis de datos, por ejemplo, la agrupación por correlación. El modelo de bloques estocásticos puede extenderse fácilmente a grafos con signos asignando pesos positivos y negativos a las aristas o, de forma equivalente, utilizando una diferencia de matrices de adyacencia de dos modelos de bloques estocásticos. [ 18 ]

Desafío de gráficos DARPA/MIT/AWS: partición estocástica de bloques en tiempo real

GraphChallenge [ 19 ] fomenta enfoques comunitarios para desarrollar nuevas soluciones para analizar grafos y datos dispersos derivados de redes sociales, flujos de sensores y datos científicos para permitir el descubrimiento de relaciones entre eventos a medida que se desarrollan en el campo. La partición estocástica de bloques en tiempo real es uno de los desafíos desde 2017. [ 20 ] El agrupamiento espectral ha demostrado un rendimiento excepcional en comparación con el algoritmo base original e incluso mejorado [ 21 ] , igualando su calidad de clústeres y siendo varios órdenes de magnitud más rápido. [ 22 ] [ 23 ]

Véase también

Referencias

  1. Holland, Paul W; Laskey, Kathryn Blackmond; Leinhardt, Samuel (1983). "Stochastic blockmodels: First steps". Social Networks . 5 (2): 109– 137. doi : 10.1016/0378-8733(83)90021-7 . ISSN 0378-8733 . S2CID 34098453 .  
  2. 1 2 3 Amini, Arash A.; Levina, Elizaveta (junio de 2014). "Sobre relajaciones semidefinidas para el modelo de bloques". arXiv : 1406.5647 [ cs.LG ].
  3. 1 2 3 Mossel, Elchanan; Neeman, Joe; Sly, Allan (febrero de 2012). "Modelos de bloques estocásticos y reconstrucción". arXiv : 1202.1499 [ math.PR ].
  4. 1 2 3 Massoulie, Laurent (noviembre de 2013). "Umbrales de detección de comunidades y la propiedad débil de Ramanujan". arXiv : 1311.3085 [ cs.SI ].
  5. 1 2 3 4 Abbe, Emmanuel; Sandon, Colin (marzo de 2015). "Detección de comunidades en modelos de bloques estocásticos generales: límites fundamentales y algoritmos de recuperación eficientes". arXiv : 1503.00609 [ math.PR ].
  6. Abbe, Emmanuel; Sandon, Colin (junio de 2015). "Recuperación de comunidades en el modelo general de bloques estocásticos sin conocer los parámetros". arXiv : 1506.03729 [ math.PR ].
  7. 1 2 Decelle, Aurelien; Krzakala, Florent; Moore, Cristopher; Zdeborová, Lenka (septiembre de 2011). "Análisis asintótico del modelo de bloques estocásticos para redes modulares y sus aplicaciones algorítmicas". Physical Review E . 84 (6) 066106. arXiv : 1109.3041 . Bibcode : 2011PhRvE..84f6106D . doi : 10.1103/PhysRevE.84.066106 . PMID 22304154 . S2CID 15788070 .  
  8. 1 2 Abbe, Emmanuel; Bandeira, Afonso S.; Hall, Georgina (mayo de 2014). "Recuperación exacta en el modelo de bloques estocásticos". arXiv : 1405.3267 [ cs.SI ].
  9. Krzakala, Florent; Moore, Cristopher; Mossel, Elchanan; Neeman, Joe; Sly, Allan; Lenka, Lenka; Zhang, Pan (octubre de 2013). "Redención espectral en la agrupación de redes dispersas" . Actas de la Academia Nacional de Ciencias . 110 (52 ) : 20935– 20940. arXiv : 1306.5550 . Bibcode : 2013PNAS..11020935K . doi : 10.1073/pnas.1312486110 . PMC 3876200. PMID 24277835 .  
  10. Lei, Jing; Rinaldo, Alessandro (febrero de 2015). "Consistencia del agrupamiento espectral en modelos de bloques estocásticos". The Annals of Statistics . 43 (1): 215– 237. arXiv : 1312.2050 . doi : 10.1214/14-AOS1274 . ISSN 0090-5364 . S2CID 88519551 .  
  11. Mossel, Elchanan; Neeman, Joe; Sly, Allan (septiembre de 2013). "Propagación de creencias, reconstrucción robusta y recuperación óptima de modelos de bloques". The Annals of Applied Probability . 26 (4): 2211– 2256. arXiv : 1309.1380 . Bibcode : 2013arXiv1309.1380M . doi : 10.1214/15-AAP1145 . S2CID 184446 . 
  12. Fathi, Reza (abril de 2019). "Detección eficiente de comunidades distribuidas en el modelo de bloques estocásticos". arXiv : 1904.07494 [ cs.DC ].
  13. Karrer, Brian; Newman, Mark EJ (2011). "Stochastic blockmodels and community structure in networks" . Physical Review E. 83 ( 1) 016107. arXiv : 1008.3926 . Bibcode : 2011PhRvE..83a6107K . doi : 10.1103/PhysRevE.83.016107 . PMID 21405744. S2CID 9068097. Archivado del original el 4 de febrero de 2023. Recuperado el 16 de junio de 2021 .  
  14. Peixoto, Tiago (2014). "Estructuras de bloques jerárquicas y selección de modelos de alta resolución en grandes redes" . Physical Review X. 4 ( 1) 011047. arXiv : 1310.4377 . Bibcode : 2014PhRvX...4a1047P . doi : 10.1103/PhysRevX.4.011047 . S2CID 5841379. Archivado del original el 24-06-2021 . Recuperado el 16-06-2021 . 
  15. ^ Galhotra, Sainyam; Mazumdar, Arya; Pal, Soumyabrata; Saha, Barna (febrero de 2018). "El modelo de bloques geométricos". AAAI . 32 . arXiv : 1709.05510 . doi : 10.1609/aaai.v32i1.11905 . S2CID 19152144 . 
  16. Airoldi, Edoardo ; Blei, David; Feinberg, Stephen; Xing, Eric (mayo de 2007). "Modelos de bloques estocásticos de membresía mixta" . Journal of Machine Learning Research . 9 : 1981–2014 . arXiv : 0705.4485 . Bibcode : 2007arXiv0705.4485A . PMC 3119541. PMID 21701698 .  
  17. Martin Gerlach; Tiago Peixoto; Eduardo Altmann (2018). "Un enfoque de red para los modelos de temas" . Science Advances . 4 (7) eaaq1360. arXiv : 1708.01677 . Bibcode : 2018SciA....4.1360G . doi : 10.1126/ sciadv.aaq1360 . PMC 6051742. PMID 30035215 .  
  18. Alyson Fox; Geoffrey Sanders; Andrew Knyazev (2018). "Investigación de la agrupación espectral para representaciones de matrices de grafos con signo". 2018 IEEE High Performance Extreme Computing Conference (HPEC) . pp. 1–7 . doi : 10.1109/HPEC.2018.8547575 . ISBN  978-1-5386-5989-2. OSTI 1476177 . S2CID 54443034 .  
  19. Archivado el 4 de febrero de 2023 en Wayback Machine : Desafío de gráficos DARPA/MIT/AWS
  20. Archivado el 4 de febrero de 2023 en Wayback Machine . Campeones del desafío de gráficos DARPA/MIT/AWS.
  21. AJ Uppal; J. Choi; TB Rolinger; H. Howie Huang (2021). "Partición de bloques estocástica más rápida mediante fusión inicial agresiva, representación comprimida y control de paralelismo". 2021 IEEE High Performance Extreme Computing Conference (HPEC) . págs. 1–7 . doi : 10.1109/HPEC49654.2021.9622836 . ISBN  978-1-6654-2369-4. S2CID 244780210 . 
  22. David Zhuzhunashvili; Andrew Knyazev (2017). "Agrupamiento espectral precondicionado para el desafío de grafos de transmisión con partición de bloques estocástica (Versión preliminar en arXiv)". 2017 IEEE High Performance Extreme Computing Conference (HPEC) . págs. 1–6 . arXiv : 1708.07481 . doi : 10.1109/HPEC.2017.8091045 . ISBN  978-1-5386-3472-1. S2CID 19781504 . 
  23. Lisa Durbeck; Peter Athanas (2020). "Particionamiento incremental de grafos en flujo continuo". 2020 IEEE High Performance Extreme Computing Conference (HPEC) . pp. 1–8 . doi : 10.1109/HPEC43674.2020.9286181 . ISBN  978-1-7281-9219-2. S2CID 229376193 .