Método Delta

En estadística , el método delta es un método para derivar la distribución asintótica de una variable aleatoria. Es aplicable cuando la variable aleatoria considerada puede definirse como una función diferenciable de una variable aleatoria asintóticamente gaussiana . De forma más general, el método delta se aplica a funcionales de Hadamard direccionalmente diferenciables de procesos estocásticos que convergen a un proceso límite.

El método delta se derivó de la propagación de errores , y la idea subyacente se conocía a principios del siglo XX. ^{[ 1 ]} Su aplicación estadística se remonta a 1928, cuando TL Kelley la describió . ^{[ 2 ]} JL Doob presentó una descripción formal del método en 1935. ^{[ 3 ]} Robert Dorfman también describió una versión del mismo en 1938. ^{[ 4 ]}

Si bien el método delta se generaliza fácilmente a un entorno multivariado, la motivación cuidadosa de la técnica se demuestra más fácilmente en términos univariados . Aproximadamente, si hay una secuencia de variables aleatorias X _n que satisfacen

${\displaystyle {{\sqrt {n}}[X_{n}-\theta ]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2})},}$

donde θ y σ ² son constantes de valor finito y${\displaystyle {\xrightarrow {D}}}$denota convergencia en la distribución , entonces

${\displaystyle {{\sqrt {n}}[g(X_{n})-g(\theta )]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2}\cdot [g'(\theta )]^{2})}}$

para cualquier función g que satisfaga la propiedad de que su primera derivada, evaluada en${\displaystyle \theta }$,${\displaystyle g'(\theta )}$Existe y tiene un valor distinto de cero.

La intuición del método delta radica en que cualquier función g , dentro de un rango suficientemente pequeño, puede aproximarse mediante un polinomio de Taylor de primer orden , es decir, una función lineal. Si la variable aleatoria sigue una distribución aproximadamente normal, su transformación lineal también lo hará. Se puede garantizar un rango pequeño al aproximar la función alrededor del punto de concentración de la secuencia de variables aleatorias, siempre que la varianza sea suficientemente pequeña. Al aplicar g a una variable aleatoria como la media, el método delta tiende a funcionar mejor a medida que aumenta el tamaño de la muestra, ya que ayuda a reducir la varianza y, por lo tanto, la aproximación de Taylor se aplica a un rango menor de la función g en el punto de interés.

Por definición, un estimador consistente B converge en probabilidad a su verdadero valor β , y a menudo se puede aplicar un teorema del límite central para obtener la normalidad asintótica :

${\displaystyle {\sqrt {n}}\left(B-\beta \right)\,{\xrightarrow {D}}\,N\left(0,\Sigma \right),}$

donde n es el número de observaciones y Σ es una matriz de covarianza (simétrica semidefinida positiva) . Supongamos que queremos estimar la varianza de una función escalar h del estimador B. Conservando solo los dos primeros términos de la serie de Taylor y utilizando la notación vectorial para el gradiente , podemos estimar h(B) como

${\displaystyle h(B)\approx h(\beta )+\nabla h(\beta )^{T}\cdot (B-\beta )}$

lo que implica que la varianza de h(B) es aproximadamente

${\displaystyle {\begin{aligned}\operatorname {Var} \left(h(B)\right)&\approx \operatorname {Var} \left(h(\beta )+\nabla h(\beta )^{T}\cdot (B-\beta )\right)\\[5pt]&=\operatorname {Var} \left(h(\beta )+\nabla h(\beta )^{T}\cdot B-\nabla h(\beta )^{T}\cdot \beta \right)\\[5pt]&=\operatorname {Var} \left(\nabla h(\beta )^{T}\cdot B\right)\\[5pt]&=\nabla h(\beta )^{T}\cdot \operatorname {Cov} (B)\cdot \nabla h(\beta )\\[5pt]&=\nabla h(\beta )^{T}\cdot {\frac {\Sigma }{n}}\cdot \nabla h(\beta )\end{aligned}}}$

Se puede utilizar el teorema del valor medio (para funciones de valor real de muchas variables) para ver que esto no depende de tomar una aproximación de primer orden.

Por lo tanto, el método delta implica que

${\displaystyle {\sqrt {n}}\left(h(B)-h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\nabla h(\beta )^{T}\cdot \Sigma \cdot \nabla h(\beta )\right)}$

o en términos univariados,

${\displaystyle {\sqrt {n}}\left(h(B)-h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\sigma ^{2}\cdot \left(h^{\prime }(\beta )\right)^{2}\right).}$

Supongamos que X _n es una distribución binomial con parámetros${\displaystyle p\in (0,1]}$y n . Dado que

${\displaystyle {{\sqrt {n}}\left[{\frac {X_{n}}{n}}-p\right]\,{\xrightarrow {D}}\,N(0,p(1-p))},}$

Podemos aplicar el método Delta con g ( θ ) = log( θ ) para ver

${\displaystyle {{\sqrt {n}}\left[\log \left({\frac {X_{n}}{n}}\right)-\log(p)\right]\,{\xrightarrow {D}}\,N(0,p(1-p)[1/p]^{2})}}$

Por lo tanto, aunque para cualquier n finito , la varianza de${\displaystyle \log \left({\frac {X_{n}}{n}}\right)}$en realidad no existe (ya que X _n puede ser cero), la varianza asintótica de${\displaystyle \log \left({\frac {X_{n}}{n}}\right)}$existe y es igual a

${\displaystyle {\frac {1-p}{np}}.}$

Tenga en cuenta que dado que p>0 ,${\displaystyle \Pr \left({\frac {X_{n}}{n}}>0\right)\rightarrow 1}$como${\displaystyle n\rightarrow \infty }$, así que con la probabilidad convergiendo a uno,${\displaystyle \log \left({\frac {X_{n}}{n}}\right)}$es finito para n grande .

Además, si${\displaystyle {\hat {p}}}$y${\displaystyle {\hat {q}}}$son estimaciones de diferentes tasas de grupo a partir de muestras independientes de tamaños n y m respectivamente, luego el logaritmo del riesgo relativo estimado${\displaystyle {\frac {\hat {p}}{\hat {q}}}}$tiene una varianza asintótica igual a

${\displaystyle {\frac {1-p}{p\,n}}+{\frac {1-q}{q\,m}}.}$

Esto resulta útil para elaborar una prueba de hipótesis o para crear un intervalo de confianza para el riesgo relativo.

El método delta se usa a menudo de una forma esencialmente idéntica a la anterior, pero sin la suposición de que X _n o B sea asintóticamente normal. A menudo, el único contexto es que la varianza es "pequeña". Los resultados entonces solo dan aproximaciones a las medias y covarianzas de las cantidades transformadas. Por ejemplo, las fórmulas presentadas en Klein (1953, p.  258) son: ^{[ 5 ]}

${\displaystyle {\begin{aligned}\operatorname {Var} \left(h_{r}\right)=&\sum _{i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)^{2}\operatorname {Var} \left(B_{i}\right)+\sum _{i}\sum _{j\neq i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac {\partial h_{r}}{\partial B_{j}}}\right)\operatorname {Cov} \left(B_{i},B_{j}\right)\\\operatorname {Cov} \left(h_{r},h_{s}\right)=&\sum _{i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac {\partial h_{s}}{\partial B_{i}}}\right)\operatorname {Var} \left(B_{i}\right)+\sum _{i}\sum _{j\neq i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac {\partial h_{s}}{\partial B_{j}}}\right)\operatorname {Cov} \left(B_{i},B_{j}\right)\end{aligned}}}$

donde h _r es el r -ésimo elemento de h ( B ) y B _i es el i -ésimo elemento de B .

Cuando g′ ( θ ) = 0 no se puede aplicar el método delta. Sin embargo, si g′′ ( θ ) existe y no es cero, se puede aplicar el método delta de segundo orden. Mediante la expansión de Taylor,${\displaystyle n[g(X_{n})-g(\theta )]={\frac {1}{2}}n[X_{n}-\theta ]^{2}\left[g''(\theta )\right]+o_{p}(1)}$, de modo que la varianza de${\displaystyle g\left(X_{n}\right)}$depende hasta el cuarto momento de${\displaystyle X_{n}}$.

Nótese que al utilizar el método de segundo orden, la esperanza de g ( X _n ) ya no es simplemente g ( θ ) , sino que también tiene un término de corrección que depende de la curvatura:${\displaystyle E[g(X_{n})]\approx g(\theta )+{\frac {1}{2}}g''(\theta )\sigma ^{2}}$La intuición es que si la función tiene una curvatura significativa, incluso si la variable de entrada X _n es gaussiana (y tiene colas simétricas), el valor esperado de la función ya no es igual a la función de la media, g ( θ ) .

El método delta de segundo orden también es útil para realizar una aproximación más precisa de${\displaystyle g\left(X_{n}\right)}$distribución cuando el tamaño de la muestra es pequeño. ${\displaystyle {\sqrt {n}}[g(X_{n})-g(\theta )]={\sqrt {n}}[X_{n}-\theta ]g'(\theta )+{\frac {1}{2}}{\frac {n[X_{n}-\theta ]^{2}}{\sqrt {n}}}g''(\theta )+o_{p}(1)}$. Por ejemplo, cuando${\displaystyle X_{n}}$sigue la distribución normal estándar,${\displaystyle g\left(X_{n}\right)}$se puede aproximar como la suma ponderada de una distribución normal estándar y una distribución chi-cuadrado con 1 grado de libertad.

Existe una versión del método delta en estadística no paramétrica .${\displaystyle X_{i}\sim F}$sea ​​una variable aleatoria independiente e idénticamente distribuida con una muestra de tamaño${\displaystyle n}$con una función de distribución empírica${\displaystyle {\hat {F}}_{n}}$y dejar${\displaystyle T}$ser funcional. Si${\displaystyle T}$Si es Hadamard diferenciable con respecto a la métrica de Chebyshev , entonces

${\displaystyle {\frac {T({\hat {F}}_{n})-T(F)}{\widehat {\text{se}}}}\xrightarrow {D} N(0,1)}$

dónde${\displaystyle {\widehat {\text{se}}}={\frac {\hat {\tau }}{\sqrt {n}}}}$y${\displaystyle {\hat {\tau }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}{\hat {L}}^{2}(X_{i})}$, con${\displaystyle {\hat {L}}(x)=L_{{\hat {F}}_{n}}(\delta _{x})}$que denota la función de influencia empírica para${\displaystyle T}$. Un método no paramétrico${\displaystyle (1-\alpha )}$intervalo de confianza asintótico puntual para${\displaystyle T(F)}$por lo tanto, está dado por

${\displaystyle T({\hat {F}}_{n})\pm z_{\alpha /2}{\widehat {\text{se}}}}$

dónde${\displaystyle z_{q}}$denota el${\displaystyle q}$-cuantil de la distribución normal estándar. Véase Wasserman (2006), págs. 19 y siguientes, para más detalles y ejemplos.

• Desarrollos de Taylor para los momentos de funciones de variables aleatorias
• Transformación estabilizadora de la varianza

• Oehlert, GW (1992). "Una nota sobre el método delta". The American Statistician . 46 (1): 27– 29. doi : 10.1080/00031305.1992.10475842 . JSTOR 2684406 . 
• Wolter, Kirk M. (1985). «Métodos de la serie de Taylor» . Introducción a la estimación de la varianza . Nueva York: Springer. págs. 221–247 . ISBN  0-387-96119-4.
• Wasserman, Larry (2006). Estadística no paramétrica . Nueva York: Springer. pp. 19–20 . ISBN  0-387-25145-6.

• Asmussen, Søren (2005). "Algunas aplicaciones del método delta" (PDF) . Apuntes de clase . Universidad de Aarhus. Archivado del original (PDF) el 25 de mayo de 2015.