La estadística bayesiana ( / ˈ b eɪ z i ə n / BAY -zee-ən o / ˈ b eɪ ʒ ən / BAY -zhən ) [ 1 ] es una teoría en el campo de la estadística basada en la interpretación bayesiana de la probabilidad , donde la probabilidad expresa un grado de creencia en un evento . El grado de creencia puede basarse en el conocimiento previo sobre el evento, como los resultados de experimentos anteriores, o en creencias personales sobre el evento. Esto difiere de varias otras interpretaciones de la probabilidad , como la interpretación frecuentista , que ve la probabilidad como el límite de la frecuencia relativa de un evento después de muchos ensayos. [ 2 ] Más concretamente, el análisis en los métodos bayesianos codifica el conocimiento previo en forma de una distribución previa .
Los métodos estadísticos bayesianos utilizan el teorema de Bayes para calcular y actualizar probabilidades tras obtener nuevos datos. El teorema de Bayes describe la probabilidad condicional de un evento basándose en datos, así como en información previa o creencias sobre el evento o las condiciones relacionadas con él. [ 3 ] [ 4 ] Por ejemplo, en la inferencia bayesiana , el teorema de Bayes se puede utilizar para estimar los parámetros de una distribución de probabilidad o un modelo estadístico . Dado que la estadística bayesiana trata la probabilidad como un grado de creencia, el teorema de Bayes puede asignar directamente una distribución de probabilidad que cuantifica la creencia al parámetro o conjunto de parámetros. [ 2 ] [ 3 ]
La estadística bayesiana recibe su nombre de Thomas Bayes , quien formuló un caso específico del teorema de Bayes en un artículo publicado en 1763. En varios artículos que abarcan desde finales del siglo XVIII hasta principios del XIX, Pierre-Simon Laplace desarrolló la interpretación bayesiana de la probabilidad. [ 5 ] Laplace utilizó métodos que ahora se consideran bayesianos para resolver diversos problemas estadísticos. Si bien muchos métodos bayesianos fueron desarrollados posteriormente por otros autores, el término "bayesiano" no se utilizó comúnmente para describir estos métodos hasta la década de 1950. Durante gran parte del siglo XX, muchos estadísticos vieron con malos ojos los métodos bayesianos debido a consideraciones filosóficas y prácticas. Muchos de estos métodos requerían muchos cálculos, y la mayoría de los enfoques más utilizados en ese momento se basaban en la interpretación frecuentista. Sin embargo, con la llegada de las computadoras potentes y nuevos algoritmos como el método de Monte Carlo de cadenas de Markov , los métodos bayesianos han ganado cada vez más prominencia en la estadística en el siglo XXI. [ 2 ] [ 6 ]
Teorema de Bayes
El teorema de Bayes se utiliza en los métodos bayesianos para actualizar las probabilidades, que son grados de creencia, después de obtener nuevos datos. Dados dos eventosy, la probabilidad condicional dedado quees verdadero se expresa de la siguiente manera: [ 7 ]
dóndeAunque el teorema de Bayes es un resultado fundamental de la teoría de la probabilidad , tiene una interpretación específica en la estadística bayesiana. En la ecuación anterior,generalmente representa una proposición (como la afirmación de que una moneda cae cara el cincuenta por ciento de las veces) yrepresenta la evidencia o los nuevos datos que deben tenerse en cuenta (como el resultado de una serie de lanzamientos de moneda).es la probabilidad previa deque expresa las creencias de uno sobreantes de que se tenga en cuenta la evidencia. La probabilidad previa también puede cuantificar el conocimiento previo o la información sobre.es la función de verosimilitud , que puede interpretarse como la probabilidad de la evidenciadado quees cierto. La probabilidad cuantifica el grado en que la evidenciaapoya la proposición.es la probabilidad posterior , la probabilidad de la proposicióndespués de tomar las pruebastenerlo en cuenta. En esencia, el teorema de Bayes actualiza las creencias previas de una persona.tras considerar las nuevas pruebas. [ 2 ]
La probabilidad de la evidenciase puede calcular utilizando la ley de probabilidad total . Sies una partición del espacio muestral , que es el conjunto de todos los resultados de un experimento, entonces, [ 2 ] [ 7 ]
Cuando hay un número infinito de resultados, es necesario integrar sobre todos los resultados para calcularutilizando la ley de probabilidad total. A menudo,es difícil de calcular ya que el cálculo implicaría sumas o integrales que consumirían mucho tiempo para evaluar, por lo que a menudo solo se considera el producto de la probabilidad a priori y la verosimilitud, ya que la evidencia no cambia en el mismo análisis. La probabilidad a posteriori es proporcional a este producto: [ 2 ]
La máxima a posteriori , que es la moda de la posterior y que a menudo se calcula en estadística bayesiana utilizando métodos de optimización matemática , permanece igual. La posterior se puede aproximar incluso sin calcular el valor exacto decon métodos como el método de Monte Carlo de cadena de Markov o los métodos bayesianos variacionales . [ 2 ]
Construcción
La ecuación clásica de los libros de texto para la distribución posterior en estadística bayesiana se suele expresar como: dóndees la probabilidad actualizada desiendo el parámetro verdadero después de recopilar los datos,es la probabilidad de recopilar los datosdado el parámetro,es la creencia previa deLa probabilidad de y la integral en el denominador da la probabilidad de recopilar los datos.
Matemáticamente, esta versión del teorema de Bayes se puede construir de la siguiente manera: Supongamos queser algún modelo estadístico paramétrico yser un espacio de probabilidad sobre el espacio de parámetros. Podemos construir un nuevo espacio de probabilidad.dóndees una especie de medida de producto definida como: dónde.
Ahora, dejemosy, entonces obtenemos:
y por lo tanto
ambos como cabría esperar empíricamente. Por lo tanto, el teorema de Bayes establece:
Si(es decir, absolutamente continua con respecto a la medida de Lebesgue ), entonces existe una densidad tal quey podemos escribir:
De lo contrario, si(absolutamente continuo con respecto a la medida de conteo), de forma análoga podemos escribir:
Por lo tanto, al identificarconyconLlegamos así a la ecuación clásica enunciada anteriormente.
métodos bayesianos
El conjunto general de técnicas estadísticas se puede dividir en varias actividades, muchas de las cuales tienen versiones bayesianas especiales.
Inferencia bayesiana
La inferencia bayesiana se refiere a la inferencia estadística donde la incertidumbre en las inferencias se cuantifica mediante la probabilidad. [ 8 ] En la inferencia frecuentista clásica , los parámetros del modelo y las hipótesis se consideran fijos. No se asignan probabilidades a los parámetros ni a las hipótesis en la inferencia frecuentista. Por ejemplo, no tendría sentido en la inferencia frecuentista asignar directamente una probabilidad a un evento que solo puede ocurrir una vez, como el resultado del siguiente lanzamiento de una moneda justa. Sin embargo, sí tendría sentido afirmar que la proporción de caras se aproxima a la mitad a medida que aumenta el número de lanzamientos de moneda. [ 9 ]
Los modelos estadísticos especifican un conjunto de supuestos y procesos estadísticos que representan cómo se generan los datos de la muestra. Los modelos estadísticos tienen varios parámetros que se pueden modificar. Por ejemplo, una moneda se puede representar como muestras de una distribución de Bernoulli , que modela dos resultados posibles. La distribución de Bernoulli tiene un único parámetro igual a la probabilidad de un resultado, que en la mayoría de los casos es la probabilidad de que caiga cara. Diseñar un buen modelo para los datos es fundamental en la inferencia bayesiana. En la mayoría de los casos, los modelos solo aproximan el proceso real y pueden no tener en cuenta ciertos factores que influyen en los datos. [ 2 ] En la inferencia bayesiana, se pueden asignar probabilidades a los parámetros del modelo. Los parámetros se pueden representar como variables aleatorias . La inferencia bayesiana utiliza el teorema de Bayes para actualizar las probabilidades después de obtener o conocer más evidencia. [ 2 ] [ 10 ] Además, los métodos bayesianos permiten establecer distribuciones a priori en modelos completos y calcular sus probabilidades a posteriori utilizando el teorema de Bayes. Estas probabilidades posteriores son proporcionales al producto de la probabilidad a priori y la probabilidad marginal, donde la probabilidad marginal es la integral de la densidad de muestreo sobre la distribución a priori de los parámetros. En modelos complejos, las probabilidades marginales generalmente se calculan numéricamente. [ 11 ]
Modelado estadístico
La formulación de modelos estadísticos mediante estadística bayesiana se caracteriza por requerir la especificación de distribuciones previas para cualquier parámetro desconocido. De hecho, los parámetros de las distribuciones previas pueden tener a su vez distribuciones previas, lo que da lugar al modelado jerárquico bayesiano , [ 12 ] [ 13 ] [ 14 ] también conocido como modelado multinivel. Un caso especial son las redes bayesianas .
Para realizar un análisis estadístico bayesiano, van de Schoot et al. [ 15 ] discuten las mejores prácticas.
Diseño de experimentos
El diseño experimental bayesiano incluye un concepto llamado «influencia de las creencias previas». Este enfoque utiliza técnicas de análisis secuencial para incorporar el resultado de experimentos anteriores en el diseño del siguiente. Esto se logra actualizando las «creencias» mediante el uso de distribuciones previas y posteriores . Esto permite que el diseño experimental aproveche al máximo los recursos de todo tipo. Un ejemplo de esto es el problema del bandido multi-brazo .
Análisis exploratorio de modelos bayesianos
El análisis exploratorio de modelos bayesianos es una adaptación o extensión del enfoque de análisis exploratorio de datos a las necesidades y peculiaridades del modelado bayesiano. En palabras de Persi Diaconis: [ 16 ]
El análisis exploratorio de datos busca revelar la estructura o descripciones simples de los datos. Observamos números o gráficos e intentamos encontrar patrones. Seguimos las pistas sugeridas por la información previa, la imaginación, los patrones percibidos y la experiencia con otros análisis de datos.
El proceso de inferencia genera una distribución posterior, que desempeña un papel central en la estadística bayesiana, junto con otras distribuciones como la distribución predictiva posterior y la distribución predictiva previa. La correcta visualización, análisis e interpretación de estas distribuciones es clave para responder adecuadamente a las preguntas que motivan el proceso de inferencia. [ 17 ]
Al trabajar con modelos bayesianos, hay una serie de tareas relacionadas que deben abordarse además de la inferencia en sí:
- Diagnóstico de la calidad de la inferencia, esto es necesario cuando se utilizan métodos numéricos como las técnicas de Monte Carlo de cadena de Markov.
- Crítica del modelo, incluyendo evaluaciones tanto de los supuestos del modelo como de las predicciones del modelo.
- Comparación de modelos, incluyendo selección de modelos o promedio de modelos.
- Preparación de los resultados para una audiencia específica.
Todas estas tareas forman parte del enfoque de análisis exploratorio de modelos bayesianos, y su correcta realización es fundamental para el proceso de modelado iterativo e interactivo. Estas tareas requieren resúmenes tanto numéricos como visuales. [ 18 ] [ 19 ] [ 20 ] En términos más generales, estas tareas interconectadas, junto con la construcción, verificación y resolución de problemas iterativos del modelo, se describen como la formación de un flujo de trabajo bayesiano . [ 21 ]
Véase también
- epistemología bayesiana
- Para obtener una lista de la notación de lógica matemática utilizada en este artículo
Referencias
- ↑ "Bayesiano" . Diccionario Merriam-Webster.com . Merriam-Webster. OCLC 1032680871 .
- 1 2 3 4 5 6 7 8 9 Gelman, Andrew ; Carlin, John B.; Stern, Hal S.; Dunson, David B.; Vehtari, Aki; Rubin, Donald B. (2013). Análisis de datos bayesianos (Tercera ed.). Chapman and Hall/CRC. ISBN 978-1-4398-4095-5.
- 1 2 McElreath, Richard (2020). Repensamiento estadístico : un curso bayesiano con ejemplos en R y Stan (2.ª ed.). Chapman and Hall/CRC. ISBN 978-0-367-13991-9.
- ↑ Kruschke, John (2014). Doing Bayesian Data Analysis: A Tutorial with R, JAGS, and Stan (2.ª ed.). Academic Press. ISBN 978-0-12-405888-0.
- ↑ McGrayne, Sharon (2012). La teoría que se negaba a morir: cómo la regla de Bayes descifró el código Enigma, localizó submarinos rusos y salió victoriosa de dos siglos de controversia (Primera ed.). Chapman and Hall/CRC. ISBN 978-0-3001-8822-6.
- ↑ Fienberg, Stephen E. (2006). "¿Cuándo se convirtió la inferencia bayesiana en "bayesiana"?" . Análisis bayesiano . 1 (1): 1– 40. doi : 10.1214/06-BA101 .
- 1 2 Grinstead, Charles M.; Snell, J. Laurie (2006). Introducción a la probabilidad (2.ª ed.). Providence, RI: American Mathematical Society. ISBN 978-0-8218-9414-9.
- ↑ Lee, Se Yoon (2021). "Inferencia variacional mediante muestreador de Gibbs y ascenso de coordenadas: una revisión basada en la teoría de conjuntos". Communications in Statistics - Theory and Methods . 51 (6): 1549– 1568. arXiv : 2008.01006 . doi : 10.1080/03610926.2021.1921214 . S2CID 220935477 .
- ↑ Wakefield, Jon (2013). Métodos de regresión bayesiana y frecuentista . Nueva York, NY: Springer. ISBN 978-1-4419-0924-4.
- ↑ Congdon, Peter (2014). Modelado bayesiano aplicado (2.ª ed.). Wiley. ISBN 978-1119951513.
- ↑ Chib, Siddhartha (1995). "Verosimilitud marginal a partir de la salida de Gibbs". Journal of the American Statistical Association . 90 (432): 1313– 1321. doi : 10.1080/01621459.1995.10476635 .
- ↑ Kruschke, JK ; Vanpaemel, W (2015). "Estimación bayesiana en modelos jerárquicos". En Busemeyer, JR; Wang, Z; Townsend, JT; Eidels, A (eds.). The Oxford Handbook of Computational and Mathematical Psychology (PDF) . Oxford University Press. pp. 279–299 .
- ↑ Hajiramezanali, E. & Dadaneh, SZ & Karbalayghareh, A. & Zhou, Z. & Qian, X. Aprendizaje bayesiano multidominio para el descubrimiento de subtipos de cáncer a partir de datos de recuento de secuenciación de próxima generación. 32.ª Conferencia sobre Sistemas de Procesamiento de Información Neuronal (NIPS 2018), Montreal, Canadá. arXiv : 1810.09433
- ↑ Lee, Se Yoon; Mallick, Bani (2021). "Modelado jerárquico bayesiano: aplicación a los resultados de producción en el esquisto Eagle Ford del sur de Texas". Sankhya B. 84 : 1–43 . doi : 10.1007 /s13571-020-00245-8 .
- ↑ van de Schoot, Rens; Depaoli, Sarah; King, Ruth; Kramer, Bianca; Märtens, Kaspar; Tadesse, Mahlet G. ; Vannucci, Marina; Gelman, Andrew; Veen, Duco; Willemsen, Joukje; Yau, Christopher (14 de enero de 2021). "Estadística y modelado bayesiano" . Nature Reviews Methods Primers . 1 (1): 1– 26. doi : 10.1038/s43586-020-00001-2 . hdl : 1874/415909 . S2CID 234108684 .
- ↑ Diaconis, Persi (2011) Teorías del análisis de datos: Del pensamiento mágico a través de la estadística clásica. John Wiley & Sons, Ltd 2:e55 doi : 10.1002/9781118150702.ch1
- ↑ Kumar, Ravin; Carroll, Colin; Hartikainen, Ari; Martin, Osvaldo (2019). "ArviZ una biblioteca unificada para el análisis exploratorio de modelos bayesianos en Python" . Journal of Open Source Software . 4 (33): 1143. Bibcode : 2019JOSS....4.1143K . doi : 10.21105/joss.01143 . hdl : 11336/114615 .
- ↑ Gabry, Jonah; Simpson, Daniel; Vehtari, Aki; Betancourt, Michael; Gelman, Andrew (2019). "Visualización en el flujo de trabajo bayesiano". Journal of the Royal Statistical Society, Series A (Statistics in Society) . 182 (2): 389– 402. arXiv : 1709.01449 . doi : 10.1111/rssa.12378 . S2CID 26590874 .
- ↑ Vehtari, Aki; Gelman, Andrew; Simpson, Daniel; Carpenter, Bob; Bürkner, Paul-Christian (2021). "Normalización de rango, plegado y localización: un Rˆ mejorado para evaluar la convergencia de MCMC (con discusión)". Análisis bayesiano . 16 (2): 667. arXiv : 1903.08008 . Bibcode : 2021BayAn..16..667V . doi : 10.1214/20-BA1221 . S2CID 88522683 .
- ↑ Martin, Osvaldo (2018). Análisis bayesiano con Python: Introducción al modelado estadístico y la programación probabilística con PyMC3 y ArviZ . Packt Publishing Ltd. ISBN 9781789341652.
- ↑ Gelman, Andrew; Vehtari, Aki; McElreath, Richard; Simpson, Daniel; Margossian, Charles C.; Yao, Yuling; Kennedy, Lauren; Gabry, Jonah; Bürkner, Paul-Christian; Modrák, Martin; Barajas, Vianey Leos (2026). Bayesian Workflow . Chapman and Hall/CRC. ISBN 978-0-367-49014-0.
Lecturas adicionales
- Bernardo, José M.; Smith , Adrian FM (2000). Teoría bayesiana . Nueva York: Wiley. ISBN 0-471-92416-4.
- Bolstad, William M.; Curran, James M. (2016). Introducción a la estadística bayesiana (3.ª ed.). Wiley. ISBN 978-1-118-09156-2.
- Downey, Allen B. (2021). Think Bayes: Bayesian Statistics in Python (2.ª ed.). O'Reilly. ISBN 978-1-4920-8946-9.
- Hoff, Peter D. (2009). Un primer curso de métodos estadísticos bayesianos (2.ª ed.). Nueva York: Springer. ISBN 978-1-4419-2828-3.
- Lee, Peter M. (2012). Estadística bayesiana: una introducción (4.ª ed.). Wiley. ISBN 978-1-118-33257-3.
- Robert, Christian P. (2007). La elección bayesiana : desde los fundamentos de la teoría de la decisión hasta la implementación computacional (2.ª ed.). Nueva York: Springer. ISBN 978-0-387-71598-8.
- Johnson, Alicia A.; Ott, Mies Q.; Dogucu, Mine (2022). ¡Bayes manda! Una introducción al modelado bayesiano aplicado . Boca Raton: Chapman & Hall/CRC Texts in Statistical Science. ISBN 978-0-367-25539-8.
Enlaces externos
- Theo Kypraios. "Una introducción sencilla a la estadística bayesiana" (PDF) . Consultado el 3 de noviembre de 2013 .
- Jordi Vallverdu. Bayesianos versus frecuentistas: un debate filosófico sobre el razonamiento estadístico .
- Estadística bayesiana David Spiegelhalter , Kenneth Rice Scholarpedia 4(8):5230. doi:10.4249/scholarpedia.5230
- Libro y ejemplos sobre modelado bayesiano disponibles para su descarga.
- Rens van de Schoot. "Una introducción sencilla al análisis bayesiano" (PDF) .
- Calculadora de rendimiento dinámico para pruebas A/B bayesianas
- estadística bayesiana