Distribución geométrica

La distribución geométrica es la única distribución de probabilidad discreta sin memoria. ^{[ 4 ]} Es la versión discreta de la misma propiedad que se encuentra en la distribución exponencial . ^{[ 1 ] : 228} La propiedad afirma que el número de ensayos fallidos previos no afecta el número de ensayos futuros necesarios para un éxito.

Debido a que existen dos definiciones de la distribución geométrica, también existen dos definiciones de ausencia de memoria para variables aleatorias discretas. ^{[ 5 ]} Expresadas en términos de probabilidad condicional , las dos definiciones son: $${\displaystyle \Pr(X>m+n\mid X>n)=\Pr(X>m),}$$ y $${\displaystyle \Pr(Y>m+n\mid Y\geq n)=\Pr(Y>m),}$$

dónde${\displaystyle m}$y${\displaystyle n}$son números naturales ,${\displaystyle X}$es una variable aleatoria con distribución geométrica definida sobre${\displaystyle \mathbb {N} }$, y${\displaystyle Y}$es una variable aleatoria con distribución geométrica definida sobre${\displaystyle \mathbb {N} _ {0}}$Tenga en cuenta que estas definiciones no son equivalentes para variables aleatorias discretas;${\displaystyle Y}$no satisface la primera ecuación y${\displaystyle X}$no satisface el segundo.

El valor esperado y la varianza de una variable aleatoria con distribución geométrica.${\displaystyle X}$definido sobre${\displaystyle \mathbb {N} }$es ^{[ 2 ] : 261}$${\displaystyle \operatorname {E} (X)={\frac {1}{p}},\qquad \operatorname {var} (X)={\frac {1-p}{p^{2}}}.}$$ Con una variable aleatoria con distribución geométrica${\displaystyle Y}$definido sobre${\displaystyle \mathbb {N} _ {0}}$, el valor esperado cambia a $${\displaystyle \operatorname {E} (Y)={\frac {1-p}{p}},}$$ mientras que la varianza permanece igual. ^{[ 6 ] : 114–115}

Por ejemplo, al lanzar un dado de seis caras hasta que caiga un "1", el número promedio de lanzamientos necesarios es${\displaystyle {\frac {1}{1/6}}=6}$y el número promedio de fallas es${\displaystyle {\frac {1-1/6}{1/6}}=5}$.

La función generadora de momentos de la distribución geométrica cuando se define sobre${\displaystyle \mathbb {N} }$y${\displaystyle \mathbb {N} _ {0}}$respectivamente es ^{[ 7 ] [ 6 ] : 114}$${\displaystyle {\begin{aligned}M_{X}(t)&={\frac {pe^{t}}{1-(1-p)e^{t}}}\\M_{Y}(t)&={\frac {p}{1-(1-p)e^{t}}},t<-\ln(1-p)\end{aligned}}}$$ Los momentos para el número de fallos antes del primer éxito vienen dados por $${\displaystyle {\begin{aligned}\mathrm {E} (Y^{n})&{}=\sum _{k=0}^{\infty }(1-p)^{k}p\cdot k^{n}\\&{}=p\operatorname {Li} _{-n}(1-p)&({\text{for }}n\neq 0)\end{aligned}}}$$

dónde${\displaystyle \operatorname {Li} _{-n}(1-p)}$es la función polilogaritmo . ^{[ 8 ]}

La función generadora de cumulantes de la distribución geométrica definida sobre${\displaystyle \mathbb {N} _{0}}$es ^{[ 1 ] : 216}$${\displaystyle K(t)=\ln p-\ln(1-(1-p)e^{t})}$$Los cumulantes${\displaystyle \kappa _{r}}$satisfacer la recursión$${\displaystyle \kappa _{r+1}=q{\frac {\delta \kappa _{r}}{\delta q}},r=1,2,\dotsc }$$dónde${\displaystyle q=1-p}$, cuando se define sobre${\displaystyle \mathbb {N} _{0}}$. ^{[ 1 ] : 216}

La media de la distribución geométrica es su valor esperado que es, como se discutió previamente en § Momentos y cumulantes ,${\displaystyle {\frac {1}{p}}}$o${\displaystyle {\frac {1-p}{p}}}$cuando se define sobre${\displaystyle \mathbb {N} }$o${\displaystyle \mathbb {N} _{0}}$respectivamente.

La mediana de la distribución geométrica es${\displaystyle \left\lceil -{\frac {\log 2}{\log(1-p)}}\right\rceil }$cuando se define sobre${\displaystyle \mathbb {N} }$^{[ 9 ]} y${\displaystyle \left\lfloor -{\frac {\log 2}{\log(1-p)}}\right\rfloor }$cuando se define sobre${\displaystyle \mathbb {N} _{0}}$. ^{[ 3 ] : 69}

La moda de la distribución geométrica es el primer valor en el conjunto de soporte. Este es 1 cuando se define sobre${\displaystyle \mathbb {N} }$y 0 cuando se define sobre${\displaystyle \mathbb {N} _{0}}$. ^{[ 3 ] : 69}

La asimetría de la distribución geométrica es${\displaystyle {\frac {2-p}{\sqrt {1-p}}}}$. ^{[ 6 ] : 115}

La curtosis de la distribución geométrica es${\displaystyle 9+{\frac {p^{2}}{1-p}}}$. ^{[ 6 ] : 115} El exceso de curtosis de una distribución es la diferencia entre su curtosis y la curtosis de una distribución normal ,${\displaystyle 3}$. ^{[ 10 ] : 217} Por lo tanto, la curtosis en exceso de la distribución geométrica es${\displaystyle 6+{\frac {p^{2}}{1-p}}}$. Desde${\displaystyle {\frac {p^{2}}{1-p}}\geq 0}$, el exceso de curtosis siempre es positivo, por lo que la distribución es leptocúrtica . ^{[ 3 ] : 69} En otras palabras, la cola de una distribución geométrica tiene más masa y decae más lentamente que la de una gaussiana. ^{[ 11 ]}

La entropía es una medida de incertidumbre en una distribución de probabilidad. Para la distribución geométrica que modela el número de fallos antes del primer éxito, la función de masa de probabilidad es:

$${\displaystyle P(X=k)=(1-p)^{k}p,\quad k=0,1,2,\dots }$$

La entropía${\displaystyle H(X)}$para esta distribución se define como:

$${\displaystyle {\begin{aligned}H(X)&=-\sum _{k=0}^{\infty }P(X=k)\ln P(X=k)\\&=-\sum _{k=0}^{\infty }(1-p)^{k}p\ln \left((1-p)^{k}p\right)\\&=-\sum _{k=0}^{\infty }(1-p)^{k}p\left[k\ln(1-p)+\ln p\right]\\&=-\log p-{\frac {1-p}{p}}\log(1-p)\end{aligned}}}$$

La entropía aumenta a medida que aumenta la probabilidad.${\displaystyle p}$disminuye, lo que refleja una mayor incertidumbre a medida que el éxito se vuelve más raro.

La información de Fisher mide la cantidad de información que una variable aleatoria observable puede contener.${\displaystyle X}$lleva consigo un parámetro desconocido${\displaystyle p}$. Para la distribución geométrica (fallos antes del primer éxito), la información de Fisher con respecto a${\displaystyle p}$está dado por:

$${\displaystyle I(p)={\frac {1}{p^{2}(1-p)}}}$$

Prueba:

• La función de verosimilitud para una variable aleatoria geométrica${\displaystyle X}$es:$${\displaystyle L(p;X)=(1-p)^{X}p}$$
• La función de verosimilitud logarítmica es:$${\displaystyle \ln L(p;X)=X\ln(1-p)+\ln p}$$
• La función de puntuación (primera derivada de la log-verosimilitud con respecto a${\displaystyle p}$) es:$${\displaystyle {\frac {\partial }{\partial p}}\ln L(p;X)={\frac {1}{p}}-{\frac {X}{1-p}}}$$
• La segunda derivada de la función de log-verosimilitud es:$${\displaystyle {\frac {\partial ^{2}}{\partial p^{2}}}\ln L(p;X)=-{\frac {1}{p^{2}}}-{\frac {X}{(1-p)^{2}}}}$$
• La información de Fisher se calcula como el valor esperado negativo de la segunda derivada:$${\displaystyle {\begin{aligned}I(p)&=-E\left[{\frac {\partial ^{2}}{\partial p^{2}}}\ln L(p;X)\right]\\&=-\left(-{\frac {1}{p^{2}}}-{\frac {1-p}{p(1-p)^{2}}}\right)\\&={\frac {1}{p^{2}(1-p)}}\end{aligned}}}$$

La información de Fisher aumenta a medida que${\displaystyle p}$disminuye, lo que indica que los éxitos menos frecuentes proporcionan más información sobre el parámetro.${\displaystyle p}$.

Para la distribución geométrica que modela el número de ensayos hasta el primer éxito, la función de probabilidad es:

$${\displaystyle P(X=k)=(1-p)^{k-1}p,\quad k=1,2,3,\dots }$$

La entropía${\displaystyle H(X)}$para esta distribución es la misma que la de las pruebas de modelado de versiones hasta el fallo,

$${\displaystyle {\begin{aligned}H(X)&=-\log p-{\frac {1-p}{p}}\log(1-p)\end{aligned}}}$$

La información de Fisher para el modelo de distribución geométrica que representa el número de ensayos hasta el primer éxito viene dada por:

$${\displaystyle I(p)={\frac {1}{p^{2}(1-p)}}}$$

Prueba:

• La función de verosimilitud para una variable aleatoria geométrica${\displaystyle X}$es:

${\displaystyle L(p;X)=(1-p)^{X-1}p}$

• La función de verosimilitud logarítmica es:

${\displaystyle \ln L(p;X)=(X-1)\ln(1-p)+\ln p}$

• La función de puntuación (primera derivada de la log-verosimilitud con respecto a${\displaystyle p}$) es:

${\displaystyle {\frac {\partial }{\partial p}}\ln L(p;X)={\frac {1}{p}}-{\frac {X-1}{1-p}}}$

• La segunda derivada de la función de log-verosimilitud es:

${\displaystyle {\frac {\partial ^{2}}{\partial p^{2}}}\ln L(p;X)=-{\frac {1}{p^{2}}}-{\frac {X-1}{(1-p)^{2}}}}$

• La información de Fisher se calcula como el valor esperado negativo de la segunda derivada:

$${\displaystyle {\begin{aligned}I(p)&=-E\left[{\frac {\partial ^{2}}{\partial p^{2}}}\ln L(p;X)\right]\\&=-\left(-{\frac {1}{p^{2}}}-{\frac {1-p}{p(1-p)^{2}}}\right)\\&={\frac {1}{p^{2}(1-p)}}\end{aligned}}}$$

• Las funciones generadoras de probabilidad de variables aleatorias geométricas${\displaystyle X}$y${\displaystyle Y}$definido sobre${\displaystyle \mathbb {N} }$y${\displaystyle \mathbb {N} _{0}}$son, respectivamente, ^{[ 6 ] : 114–115}$${\displaystyle {\begin{aligned}G_{X}(s)&={\frac {s\,p}{1-s\,(1-p)}},\\[10pt]G_{Y}(s)&={\frac {p}{1-s\,(1-p)}},\quad |s|<(1-p)^{-1}.\end{aligned}}}$$
• La función característica${\displaystyle \varphi (t)}$es igual a${\displaystyle G(e^{it})}$por lo tanto, la función característica de la distribución geométrica, cuando se define sobre${\displaystyle \mathbb {N} }$y${\displaystyle \mathbb {N} _{0}}$respectivamente, es ^{[ 12 ] : 1630}$${\displaystyle {\begin{aligned}\varphi _{X}(t)&={\frac {pe^{it}}{1-(1-p)e^{it}}},\\[10pt]\varphi _{Y}(t)&={\frac {p}{1-(1-p)e^{it}}}.\end{aligned}}}$$
• La entropía de una distribución geométrica con parámetro${\displaystyle p}$es ^{[ 13 ]}$${\displaystyle -{\frac {p\log _{2}p+(1-p)\log _{2}(1-p)}{p}}}$$
• Dada una media , la distribución geométrica es la distribución de probabilidad de máxima entropía de todas las distribuciones de probabilidad discretas. La distribución continua correspondiente es la distribución exponencial . ^{[ 14 ]}
• La distribución geométrica definida en${\displaystyle \mathbb {N} _{0}}$es infinitamente divisible , es decir, para cualquier entero positivo${\displaystyle n}$, existen${\displaystyle n}$Variables aleatorias independientes e idénticamente distribuidas cuya suma también sigue una distribución geométrica. Esto se debe a que la distribución binomial negativa puede derivarse de una suma de variables aleatorias logarítmicas con parada de Poisson . ^{[ 12 ] : 606–607}
• Los dígitos decimales de la variable aleatoria Y, distribuida geométricamente, constituyen una secuencia de variables aleatorias independientes (y no idénticamente distribuidas). Por ejemplo, el dígito de las centenas D tiene la siguiente distribución de probabilidad:$${\displaystyle \Pr(D=d)={q^{100d} \over 1+q^{100}+q^{200}+\cdots +q^{900}},}$$donde q = 1 − p , y de manera similar para los demás dígitos, y, más generalmente, de manera similar para sistemas numéricos con bases distintas de 10. Cuando la base es 2, esto muestra que una variable aleatoria con distribución geométrica puede escribirse como una suma de variables aleatorias independientes cuyas distribuciones de probabilidad son indescomponibles .
• La codificación de Golomb es el código de prefijo óptimo para la distribución discreta geométrica. ^{[ 13 ]}

Siempre que existan, el primero${\displaystyle l}$Los momentos de una distribución de probabilidad pueden estimarse a partir de una muestra.${\displaystyle x_{1},\dotsc ,x_{n}}$utilizando la fórmula$${\displaystyle m_{i}={\frac {1}{n}}\sum _{j=1}^{n}x_{j}^{i}}$$dónde${\displaystyle m_{i}}$es el${\displaystyle i}$momento de la muestra y${\displaystyle 1\leq i\leq l}$. ^{[ 17 ] : 349–350} Estimación${\displaystyle \mathrm {E} (X)}$con${\displaystyle m_{1}}$da la media de la muestra , denotada${\displaystyle {\bar {x}}}$Sustituyendo esta estimación en la fórmula para el valor esperado de una distribución geométrica y resolviendo para${\displaystyle p}$da a los estimadores${\displaystyle {\hat {p}}={\frac {1}{\bar {x}}}}$y${\displaystyle {\hat {p}}={\frac {1}{{\bar {x}}+1}}}$cuando se admite en${\displaystyle \mathbb {N} }$y${\displaystyle \mathbb {N} _{0}}$respectivamente. Estos estimadores están sesgados ya que${\displaystyle \mathrm {E} \left({\frac {1}{\bar {x}}}\right)>{\frac {1}{\mathrm {E} ({\bar {x}})}}=p}$como resultado de la desigualdad de Jensen . ^{[ 18 ] : 53–54}

El estimador de máxima verosimilitud de${\displaystyle p}$es el valor que maximiza la función de verosimilitud dada una muestra. ^{[ 17 ] : 308} Al encontrar el cero de la derivada de la función de log-verosimilitud cuando la distribución se define sobre${\displaystyle \mathbb {N} }$, el estimador de máxima verosimilitud puede ser hallado como${\displaystyle {\hat {p}}={\frac {1}{\bar {x}}}}$, dónde${\displaystyle {\bar {x}}}$es la media de la muestra. ^{[ 19 ]} Si el dominio es${\displaystyle \mathbb {N} _{0}}$, entonces el estimador cambia a${\displaystyle {\hat {p}}={\frac {1}{{\bar {x}}+1}}}$Como ya se explicó en el apartado § Método de los momentos , estos estimadores están sesgados.

Independientemente del dominio, el sesgo es igual a

$${\displaystyle b\equiv \operatorname {E} {\bigg [}\;({\hat {p}}_{\mathrm {mle} }-p)\;{\bigg ]}={\frac {p\,(1-p)}{n}}}$$

lo que produce el estimador de máxima verosimilitud corregido por sesgo ,

$${\displaystyle {\hat {p\,}}_{\text{mle}}^{*}={\hat {p\,}}_{\text{mle}}-{\hat {b\,}}}$$

En la inferencia bayesiana , el parámetro${\displaystyle p}$es una variable aleatoria de una distribución previa con una distribución posterior calculada utilizando el teorema de Bayes después de observar muestras. ^{[ 18 ] : 167} Si se elige una distribución beta como distribución previa, entonces la posterior también será una distribución beta y se denomina distribución conjugada . En particular, si una${\displaystyle \mathrm {Beta} (\alpha ,\beta )}$Se selecciona la distribución a priori y luego la distribución a posteriori, después de observar las muestras.${\displaystyle k_{1},\dotsc ,k_{n}\in \mathbb {N} }$, es ^{[ 20 ]}$${\displaystyle p\sim \mathrm {Beta} \left(\alpha +n,\ \beta +\sum _{i=1}^{n}(k_{i}-1)\right).\!}$$Alternativamente, si las muestras están en${\displaystyle \mathbb {N} _{0}}$, la distribución posterior es ^{[ 21 ]}$${\displaystyle p\sim \mathrm {Beta} \left(\alpha +n,\beta +\sum _{i=1}^{n}k_{i}\right).}$$Dado que el valor esperado de un${\displaystyle \mathrm {Beta} (\alpha ,\beta )}$La distribución es${\displaystyle {\frac {\alpha }{\alpha +\beta }}}$, ^{[ 12 ] : 145} como${\displaystyle \alpha }$y${\displaystyle \beta }$Cuando la media posterior se acerca a cero, se aproxima a su estimación de máxima verosimilitud.