Articulo de referencia

Estimación de densidad

Demostración de estimación de densidad mediante estimación de densidad de núcleo : La densidad real es una mezcla de dos gaussianas centradas en 0 y 3, representadas por una cur...

Demostración de estimación de densidad mediante estimación de densidad de núcleo : La densidad real es una mezcla de dos gaussianas centradas en 0 y 3, representadas por una curva azul continua. En cada fotograma, se generan 100 muestras de la distribución, representadas en rojo. Centrado en cada muestra, se dibuja un núcleo gaussiano en gris. El promedio de las gaussianas produce la estimación de densidad mostrada en la curva negra discontinua.

En estadística , la estimación de la densidad de probabilidad , o simplemente estimación de la densidad, consiste en la construcción de una estimación , basada en datos observados , de una función de densidad de probabilidad subyacente no observable . Se considera que la función de densidad no observable representa la distribución de una gran población; los datos se suelen considerar como una muestra aleatoria de dicha población. [ 1 ]

Se utilizan diversos métodos para la estimación de la densidad, como las ventanas de Parzen y una variedad de técnicas de agrupamiento de datos , incluida la cuantización vectorial . La forma más básica de estimación de la densidad es un histograma reescalado .

Ejemplo

Densidad estimada de p (glu | diabetes=1) (rojo), p  (glu | diabetes=0) (azul) y p  (glu) (negro)
Probabilidad estimada de p (diabetes=1 | glu)
Probabilidad estimada de p  (diabetes=1 | glu)

Consideraremos los registros de incidencia de diabetes . A continuación se cita textualmente la descripción del conjunto de datos :

Se realizó una prueba de detección de diabetes mellitus a una población de mujeres mayores de 21 años, de ascendencia indígena Pima y residentes cerca de Phoenix, Arizona, según los criterios de la Organización Mundial de la Salud . Los datos fueron recopilados por el Instituto Nacional de Diabetes y Enfermedades Digestivas y Renales de los Estados Unidos. Se utilizaron 532 registros completos. [ 2 ] [ 3 ]

En este ejemplo, construimos tres estimaciones de densidad para "glu" ( concentración de glucosa en plasma ): una condicionada a la presencia de diabetes, la segunda a la ausencia de diabetes y la tercera independiente de la presencia de diabetes. Estas estimaciones de densidad condicionales se utilizan para construir la probabilidad de padecer diabetes condicionada a "glu".

Los datos "glu" se obtuvieron del paquete MASS [ 4 ] del lenguaje de programación R. Dentro de R, ?Pima.try ?Pima.teofrecen una descripción más completa de los datos.

La media de "glu" en los casos de diabetes es 143,1 y la desviación estándar es 31,26. La media de "glu" en los casos sin diabetes es 110,0 y la desviación estándar es 24,29. A partir de esto, observamos que, en este conjunto de datos, los casos de diabetes se asocian con mayores niveles de "glu". Esto se verá más claramente en los gráficos de las funciones de densidad estimadas.

La primera figura muestra las estimaciones de densidad de p (glu | diabetes=1), p (glu | diabetes=0) y p (glu). Estas estimaciones de densidad son estimaciones de densidad de núcleo utilizando un núcleo gaussiano. Es decir, se coloca una función de densidad gaussiana en cada punto de datos y se calcula la suma de las funciones de densidad en todo el rango de los datos.

A partir de la densidad de "glu" condicionada a la diabetes, podemos obtener la probabilidad de diabetes condicionada a "glu" mediante la regla de Bayes . Para abreviar, "diabetes" se abrevia como "db." en esta fórmula.

pag(diabetes=1|glu)=pag(glu|db.=1)pag(db.=1)pag(glu|db.=1)pag(db.=1)+pag(glu|db.=0)pag(db.=0){\displaystyle p({\mbox{diabetes}}=1|{\mbox{glu}})={\frac {p({\mbox{glu}}|{\mbox{db.}}=1)\,p({\mbox{db.}}=1)}{p({\mbox{glu}}|{\mbox{db.}}=1)\,p({\mbox{db.}}=1)+p({\mbox{glu}}|{\mbox{db.}}=0)\,p({\mbox{db.}}=0)}}}

La segunda figura muestra la probabilidad posterior estimada p (diabetes=1 | glu). A partir de estos datos, parece que un nivel elevado de "glu" está asociado con la diabetes.

Aplicación y propósito

Un uso muy natural de las estimaciones de densidad es la investigación informal de las propiedades de un conjunto de datos determinado. Las estimaciones de densidad pueden proporcionar una valiosa indicación de características como la asimetría y la multimodalidad en los datos. En algunos casos, darán lugar a conclusiones que pueden considerarse evidentes, mientras que en otros solo servirán para orientar un análisis o una recopilación de datos adicionales. [ 5 ]

Histograma y función de densidad para una distribución de Gumbel [ 6 ]

Un aspecto importante de la estadística suele ser la presentación de datos al cliente para explicar e ilustrar conclusiones que podrían haberse obtenido por otros medios. Las estimaciones de densidad son ideales para este propósito, ya que son bastante fáciles de comprender para quienes no son matemáticos.

Más ejemplos que ilustran el uso de estimaciones de densidad con fines exploratorios y de presentación, incluyendo el caso importante de datos bivariados. [ 7 ]

La estimación de densidad también se utiliza con frecuencia en la detección de anomalías o la detección de novedades : [ 8 ] si una observación se encuentra en una región de muy baja densidad, es probable que sea una anomalía o una novedad.

  • En hidrología, el histograma y la función de densidad estimada de los datos de precipitación y caudal de los ríos, analizados con una distribución de probabilidad , se utilizan para comprender su comportamiento y frecuencia de ocurrencia. [ 9 ] Un ejemplo se muestra en la figura azul.

Estimación de densidad de kernel

Estimación de la densidad del núcleo de 100 números aleatorios con distribución normal utilizando diferentes anchos de banda de suavizado.

En estadística , la estimación de densidad de kernel (KDE) es la aplicación del suavizado de kernel para la estimación de la densidad de probabilidad , es decir, un método no paramétrico para estimar la función de densidad de probabilidad de una variable aleatoria basada en kernels como ponderaciones . KDE resuelve un problema fundamental de suavizado de datos donde se realizan inferencias sobre la población basándose en una muestra de datos finita . En algunos campos como el procesamiento de señales y la econometría, también se denomina método de ventana de Parzen-Rosenblatt, en honor a Emanuel Parzen y Murray Rosenblatt , a quienes generalmente se les atribuye su creación independiente en su forma actual. [ 10 ] [ 11 ] Una de las aplicaciones más conocidas de la estimación de densidad de kernel es la estimación de las densidades marginales condicionales de clase de los datos cuando se utiliza un clasificador bayesiano ingenuo , lo que puede mejorar su precisión de predicción. [ 12 ]

Véase también

Referencias

  1. Alberto Bernacchia, Simone Pigolotti, Método autoconsistente para la estimación de la densidad, Journal of the Royal Statistical Society Series B: Statistical Methodology, Volumen 73, Número 3, junio de 2011, Páginas 407–422, https://doi.org/10.1111/j.1467-9868.2011.00772.x
  2. "Diabetes en mujeres indígenas Pima - Documentación R" .
  3. Smith, JW, Everhart, JE, Dickson, WC, Knowler, WC y Johannes, RS (1988). RA Greenes (ed.). "Uso del algoritmo de aprendizaje ADAP para predecir la aparición de diabetes mellitus" . Actas del Simposio sobre Aplicaciones Informáticas en la Atención Médica (Washington, 1988) . Los Alamitos, CA: 261–265 . PMC 2245318 . {{cite journal}}: CS1 maint: varios nombres: lista de autores ( enlace )
  4. "Funciones de soporte y conjuntos de datos para MASS de Venables y Ripley" .
  5. Silverman, BW (1986). Estimación de densidad para estadística y análisis de datos . Chapman and Hall. ISBN 978-0412246203.
  6. Una calculadora para distribuciones de probabilidad y funciones de densidad
  7. Geof H., Givens (2013). Estadística computacional. Wiley. pág. 330. ISBN 978-0-470-53331-4.
  8. Pimentel, Marco AF; Clifton, David A.; Clifton, Lei; Tarassenko, Lionel (2 de enero de 2014). "Una revisión de la detección de novedades". Procesamiento de señales . 99 (junio de 2014): 215– 249. doi : 10.1016/j.sigpro.2013.12.026 .
  9. Ilustración de histogramas y funciones de densidad de probabilidad
  10. Rosenblatt, M. (1956). "Observaciones sobre algunas estimaciones no paramétricas de una función de densidad" . The Annals of Mathematical Statistics . 27 (3): 832– 837. doi : 10.1214/aoms/1177728190 .
  11. Parzen, E. (1962). "Sobre la estimación de una función de densidad de probabilidad y la moda" . The Annals of Mathematical Statistics . 33 (3): 1065– 1076. doi : 10.1214/aoms/1177704472 . JSTOR 2237880 . 
  12. Hastie, Trevor ; Tibshirani, Robert ; Friedman, Jerome H. (2001). Los elementos del aprendizaje estadístico : minería de datos, inferencia y predicción : con 200 ilustraciones a todo color . Nueva York: Springer. ISBN   0-387-95284-5OCLC 46809224 

Fuentes

  • Brian D. Ripley (1996). Reconocimiento de patrones y redes neuronales . Cambridge: Cambridge University Press. ISBN 978-0521460866.
  • Trevor Hastie , Robert Tibshirani y Jerome Friedman. Los elementos del aprendizaje estadístico . Nueva York: Springer, 2001. ISBN 0-387-95284-5( Véase el capítulo 6.)
  • Qi Li y Jeffrey S. Racine. Econometría no paramétrica: teoría y práctica . Princeton University Press, 2007, ISBN 0-691-12161-3( Véase el capítulo 1.)
  • DW Scott. Estimación de densidad multivariante. Teoría, práctica y visualización . Nueva York: Wiley, 1992.
  • BW Silverman . Estimación de densidad . Londres: Chapman and Hall, 1986. ISBN 978-0-412-24620-3
  • CREEM: Centro de Investigación en Modelado Ecológico y Ambiental Descargas de paquetes de software gratuitos para la estimación de densidad Distance 4 (de la Unidad de Investigación para la Evaluación de Poblaciones de Vida Silvestre "RUWPA") y WiSP .
  • Resumen del contenido del repositorio de aprendizaje automático de la UCI (Consulte "Base de datos de diabetes de los indios Pima" para ver el conjunto de datos original de 732 registros y notas adicionales).
  • Código MATLAB para la estimación de densidad unidimensional y bidimensional.
  • Software libAGF en C++ para la estimación de densidad de kernel variable .