El modelo de bloques estocásticos es un modelo generativo para grafos aleatorios . Este modelo tiende a producir grafos que contienen comunidades , subconjuntos de nodos caracterizados por estar conectados entre sí con densidades de aristas particulares. Por ejemplo, las aristas pueden ser más comunes dentro de las comunidades que entre ellas. Su formulación matemática fue introducida por primera vez en 1983 en el campo del análisis de redes sociales por Paul W. Holland et al. [ 1 ]. El modelo de bloques estocásticos es importante en estadística , aprendizaje automático y ciencia de redes , donde sirve como un punto de referencia útil para la tarea de recuperar la estructura de comunidades en datos de grafos.
Definición
El modelo de bloques estocásticos toma los siguientes parámetros:
- El númerode vértices;
- una partición del conjunto de vérticesen subconjuntos disjuntos, llamadas comunidades ;
- una simétricamatrizde probabilidades de borde.
El conjunto de aristas se muestrea luego al azar de la siguiente manera: cualesquiera dos vérticesyestán conectados por una arista con probabilidad. Un ejemplo de problema es: dado un gráfico con vértices, donde las aristas se muestrean como se describe, recuperan los grupos .
Casos especiales

Si la matriz de probabilidad es una constante, en el sentido de quea pesar de, entonces el resultado es el modelo Erdős-RényiEste caso es degenerado —la partición en comunidades se vuelve irrelevante—, pero ilustra una estrecha relación con el modelo de Erdős-Rényi.
El modelo de partición plantada es el caso especial en el que los valores de la matriz de probabilidadson una constanteen diagonal y otra constantefuera de la diagonal. Por lo tanto, dos vértices dentro de la misma comunidad comparten una arista con probabilidad, mientras que dos vértices en comunidades diferentes comparten una arista con probabilidad. A veces, este modelo restringido es el que se denomina modelo de bloques estocásticos. El caso en el quese denomina modelo asociativo , mientras que el casose denomina disasortativo .
Volviendo al modelo general de bloques estocásticos, un modelo se denomina fuertemente asociativo sicuando sea: todas las entradas diagonales dominan a todas las entradas fuera de la diagonal. Un modelo se denomina débilmente asociativo sicuando seaCada entrada diagonal solo debe dominar el resto de su propia fila y columna. [ 2 ] Existen formas disasortativas de esta terminología, invirtiendo todas las desigualdades. Para algunos algoritmos, la recuperación podría ser más fácil para modelos de bloques con condiciones asociativas o disasortativas de esta forma. [ 2 ]
Tareas estadísticas típicas
Gran parte de la bibliografía sobre detección algorítmica de comunidades aborda tres tareas estadísticas: detección, recuperación parcial y recuperación exacta.
Detección
El objetivo de los algoritmos de detección es simplemente determinar, dado un grafo muestreado, si este posee una estructura de comunidad latente. Más precisamente, un grafo podría generarse, con cierta probabilidad previa conocida, a partir de un modelo de bloques estocástico conocido, o bien a partir de un modelo de Erdos-Renyi similar . La tarea algorítmica consiste en identificar correctamente cuál de estos dos modelos subyacentes generó el grafo. [ 3 ]
Recuperación parcial
En la recuperación parcial, el objetivo es determinar aproximadamente la partición latente en comunidades, en el sentido de encontrar una partición que se correlacione con la partición verdadera de manera significativamente mejor que una suposición aleatoria. [ 4 ]
Recuperación exacta
En la recuperación exacta, el objetivo es recuperar la partición latente en comunidades de forma exacta. Los tamaños de las comunidades y la matriz de probabilidad pueden ser conocidos [ 5 ] o desconocidos. [ 6 ]
Límites inferiores estadísticos y comportamiento del umbral
Los modelos de bloques estocásticos exhiben un marcado efecto umbral que recuerda a los umbrales de percolación . [ 7 ] [ 3 ] [ 8 ] Supongamos que permitimos el tamañodel gráfico para crecer, manteniendo los tamaños de las comunidades en proporciones fijas. Si la matriz de probabilidad permanece fija, tareas como la recuperación parcial y exacta se vuelven factibles para todas las configuraciones de parámetros no degeneradas. Sin embargo, si reducimos la matriz de probabilidad a una tasa adecuada comoA medida que aumenta, observamos una transición de fase abrupta: para ciertas configuraciones de los parámetros, será posible lograr la recuperación con una probabilidad que tiende a 1, mientras que en el lado opuesto del umbral del parámetro, la probabilidad de recuperación tiende a 0 sin importar qué algoritmo se utilice.
Para una recuperación parcial, la escala apropiada es tomarpara fijo, lo que da como resultado gráficos de grado promedio constante. En el caso de dos comunidades de igual tamaño, en el modelo de partición plantada selectiva con matriz de probabilidad La recuperación parcial es factible [ 4 ] con probabilidadcuando sea, mientras que cualquier estimador falla [ 3 ] recuperación parcial con probabilidadcuando sea.
Para una recuperación exacta, la escala apropiada es tomar, lo que resulta en gráficos de grado promedio logarítmico. Aquí existe un umbral similar: para el modelo de partición plantada asociativa concomunidades de igual tamaño, el umbral se encuentra enDe hecho, se conoce el umbral de recuperación exacto para el modelo de bloques estocásticos totalmente general. [ 5 ]
Algoritmos
En principio, la recuperación exacta puede resolverse dentro de su rango factible mediante máxima verosimilitud , pero esto equivale a resolver un problema de corte restringido o regularizado , como la bisección mínima, que suele ser NP-completo . Por lo tanto, ningún algoritmo eficiente conocido calculará correctamente la estimación de máxima verosimilitud en el peor de los casos.
Sin embargo, una amplia variedad de algoritmos funcionan bien en el caso promedio, y se han demostrado muchas garantías de rendimiento de alta probabilidad para algoritmos tanto en configuraciones de recuperación parcial como exacta. Los algoritmos exitosos incluyen agrupamiento espectral de vértices, [ 9 ] [ 4 ] [ 5 ] [ 10 ] programación semidefinida , [ 2 ] [ 8 ] formas de propagación de creencias , [ 7 ] [ 11 ] y detección de comunidades [ 12 ] entre otros.
Variantes
Existen varias variantes del modelo. Una pequeña modificación asigna los vértices a las comunidades de forma aleatoria, según una distribución categórica , en lugar de en una partición fija. [ 5 ] Las variantes más significativas incluyen el modelo de bloques estocásticos con corrección de grado, [ 13 ] el modelo de bloques estocásticos jerárquicos, [ 14 ] el modelo de bloques geométricos, [ 15 ] el modelo de bloques censurados y el modelo de bloques de membresía mixta. [ 16 ]
Modelos de temas
Se ha reconocido que el modelo de bloques estocásticos es un modelo de temas en redes bipartitas. [ 17 ] En una red de documentos y palabras, el modelo de bloques estocásticos puede identificar temas: grupos de palabras con un significado similar.
Extensiones a grafos con signo
Los grafos con signos permiten relaciones tanto favorables como adversas y constituyen una opción de modelo común para diversas aplicaciones de análisis de datos, por ejemplo, la agrupación por correlación. El modelo de bloques estocásticos puede extenderse fácilmente a grafos con signos asignando pesos positivos y negativos a las aristas o, de forma equivalente, utilizando una diferencia de matrices de adyacencia de dos modelos de bloques estocásticos. [ 18 ]
Desafío de gráficos DARPA/MIT/AWS: partición estocástica de bloques en tiempo real
GraphChallenge [ 19 ] fomenta enfoques comunitarios para desarrollar nuevas soluciones para analizar grafos y datos dispersos derivados de redes sociales, flujos de sensores y datos científicos para permitir el descubrimiento de relaciones entre eventos a medida que se desarrollan en el campo. La partición estocástica de bloques en tiempo real es uno de los desafíos desde 2017. [ 20 ] El agrupamiento espectral ha demostrado un rendimiento excepcional en comparación con el algoritmo base original e incluso mejorado [ 21 ] , igualando su calidad de clústeres y siendo varios órdenes de magnitud más rápido. [ 22 ] [ 23 ]
Véase también
- modelado de bloques
- Algoritmo de Girvan-Newman : algoritmo de detección de comunidades.
- Referencia Lancichinetti–Fortunato–Radicchi : páginas de algoritmos que muestran descripciones breves sin espacios para generar redes de referencia con comunidades.
Referencias
- ↑ Holland, Paul W; Laskey, Kathryn Blackmond; Leinhardt, Samuel (1983). "Stochastic blockmodels: First steps". Social Networks . 5 (2): 109– 137. doi : 10.1016/0378-8733(83)90021-7 . ISSN 0378-8733 . S2CID 34098453 .
- 1 2 3 Amini, Arash A.; Levina, Elizaveta (junio de 2014). "Sobre relajaciones semidefinidas para el modelo de bloques". arXiv : 1406.5647 [ cs.LG ].
- 1 2 3 Mossel, Elchanan; Neeman, Joe; Sly, Allan (febrero de 2012). "Modelos de bloques estocásticos y reconstrucción". arXiv : 1202.1499 [ math.PR ].
- 1 2 3 Massoulie, Laurent (noviembre de 2013). "Umbrales de detección de comunidades y la propiedad débil de Ramanujan". arXiv : 1311.3085 [ cs.SI ].
- 1 2 3 4 Abbe, Emmanuel; Sandon, Colin (marzo de 2015). "Detección de comunidades en modelos de bloques estocásticos generales: límites fundamentales y algoritmos de recuperación eficientes". arXiv : 1503.00609 [ math.PR ].
- ↑ Abbe, Emmanuel; Sandon, Colin (junio de 2015). "Recuperación de comunidades en el modelo general de bloques estocásticos sin conocer los parámetros". arXiv : 1506.03729 [ math.PR ].
- 1 2 Decelle, Aurelien; Krzakala, Florent; Moore, Cristopher; Zdeborová, Lenka (septiembre de 2011). "Análisis asintótico del modelo de bloques estocásticos para redes modulares y sus aplicaciones algorítmicas". Physical Review E . 84 (6) 066106. arXiv : 1109.3041 . Bibcode : 2011PhRvE..84f6106D . doi : 10.1103/PhysRevE.84.066106 . PMID 22304154 . S2CID 15788070 .
- 1 2 Abbe, Emmanuel; Bandeira, Afonso S.; Hall, Georgina (mayo de 2014). "Recuperación exacta en el modelo de bloques estocásticos". arXiv : 1405.3267 [ cs.SI ].
- ↑ Krzakala, Florent; Moore, Cristopher; Mossel, Elchanan; Neeman, Joe; Sly, Allan; Lenka, Lenka; Zhang, Pan (octubre de 2013). "Redención espectral en la agrupación de redes dispersas" . Actas de la Academia Nacional de Ciencias . 110 (52 ) : 20935– 20940. arXiv : 1306.5550 . Bibcode : 2013PNAS..11020935K . doi : 10.1073/pnas.1312486110 . PMC 3876200. PMID 24277835 .
- ↑ Lei, Jing; Rinaldo, Alessandro (febrero de 2015). "Consistencia del agrupamiento espectral en modelos de bloques estocásticos". The Annals of Statistics . 43 (1): 215– 237. arXiv : 1312.2050 . doi : 10.1214/14-AOS1274 . ISSN 0090-5364 . S2CID 88519551 .
- ↑ Mossel, Elchanan; Neeman, Joe; Sly, Allan (septiembre de 2013). "Propagación de creencias, reconstrucción robusta y recuperación óptima de modelos de bloques". The Annals of Applied Probability . 26 (4): 2211– 2256. arXiv : 1309.1380 . Bibcode : 2013arXiv1309.1380M . doi : 10.1214/15-AAP1145 . S2CID 184446 .
- ↑ Fathi, Reza (abril de 2019). "Detección eficiente de comunidades distribuidas en el modelo de bloques estocásticos". arXiv : 1904.07494 [ cs.DC ].
- ↑ Karrer, Brian; Newman, Mark EJ (2011). "Stochastic blockmodels and community structure in networks" . Physical Review E. 83 ( 1) 016107. arXiv : 1008.3926 . Bibcode : 2011PhRvE..83a6107K . doi : 10.1103/PhysRevE.83.016107 . PMID 21405744. S2CID 9068097. Archivado del original el 4 de febrero de 2023. Recuperado el 16 de junio de 2021 .
- ↑ Peixoto, Tiago (2014). "Estructuras de bloques jerárquicas y selección de modelos de alta resolución en grandes redes" . Physical Review X. 4 ( 1) 011047. arXiv : 1310.4377 . Bibcode : 2014PhRvX...4a1047P . doi : 10.1103/PhysRevX.4.011047 . S2CID 5841379. Archivado del original el 24-06-2021 . Recuperado el 16-06-2021 .
- ^ Galhotra, Sainyam; Mazumdar, Arya; Pal, Soumyabrata; Saha, Barna (febrero de 2018). "El modelo de bloques geométricos". AAAI . 32 . arXiv : 1709.05510 . doi : 10.1609/aaai.v32i1.11905 . S2CID 19152144 .
- ↑ Airoldi, Edoardo ; Blei, David; Feinberg, Stephen; Xing, Eric (mayo de 2007). "Modelos de bloques estocásticos de membresía mixta" . Journal of Machine Learning Research . 9 : 1981–2014 . arXiv : 0705.4485 . Bibcode : 2007arXiv0705.4485A . PMC 3119541. PMID 21701698 .
- ↑ Martin Gerlach; Tiago Peixoto; Eduardo Altmann (2018). "Un enfoque de red para los modelos de temas" . Science Advances . 4 (7) eaaq1360. arXiv : 1708.01677 . Bibcode : 2018SciA....4.1360G . doi : 10.1126/ sciadv.aaq1360 . PMC 6051742. PMID 30035215 .
- ↑ Alyson Fox; Geoffrey Sanders; Andrew Knyazev (2018). "Investigación de la agrupación espectral para representaciones de matrices de grafos con signo". 2018 IEEE High Performance Extreme Computing Conference (HPEC) . pp. 1–7 . doi : 10.1109/HPEC.2018.8547575 . ISBN 978-1-5386-5989-2. OSTI 1476177 . S2CID 54443034 .
- ↑Archivado el 4 de febrero de 2023 en Wayback Machine : Desafío de gráficos DARPA/MIT/AWS
- ↑Archivado el 4 de febrero de 2023 en Wayback Machine . Campeones del desafío de gráficos DARPA/MIT/AWS.
- ↑ AJ Uppal; J. Choi; TB Rolinger; H. Howie Huang (2021). "Partición de bloques estocástica más rápida mediante fusión inicial agresiva, representación comprimida y control de paralelismo". 2021 IEEE High Performance Extreme Computing Conference (HPEC) . págs. 1–7 . doi : 10.1109/HPEC49654.2021.9622836 . ISBN 978-1-6654-2369-4. S2CID 244780210 .
- ↑ David Zhuzhunashvili; Andrew Knyazev (2017). "Agrupamiento espectral precondicionado para el desafío de grafos de transmisión con partición de bloques estocástica (Versión preliminar en arXiv)". 2017 IEEE High Performance Extreme Computing Conference (HPEC) . págs. 1–6 . arXiv : 1708.07481 . doi : 10.1109/HPEC.2017.8091045 . ISBN 978-1-5386-3472-1. S2CID 19781504 .
- ↑ Lisa Durbeck; Peter Athanas (2020). "Particionamiento incremental de grafos en flujo continuo". 2020 IEEE High Performance Extreme Computing Conference (HPEC) . pp. 1–8 . doi : 10.1109/HPEC43674.2020.9286181 . ISBN 978-1-7281-9219-2. S2CID 229376193 .
- Gráficos aleatorios
- Redes
- Modelado por bloques