Inverse probability weighting

Inverse probability weighting is a statistical technique for estimating quantities related to a population other than the one from which the data was collected. Study designs with a disparate sampling population and population of target inference (target population) are common in application.^[1] There may be prohibitive factors barring researchers from directly sampling from the target population such as cost, time, or ethical concerns.^[2] A solution to this problem is to use an alternate design strategy, e.g. stratified sampling. Weighting, when correctly applied, can potentially improve the efficiency and reduce the bias of unweighted estimators.

One very early weighted estimator is the Horvitz–Thompson estimator of the mean.^[3] When the sampling probability is known, from which the sampling population is drawn from the target population, then the inverse of this probability is used to weight the observations. This approach has been generalized to many aspects of statistics under various frameworks. In particular, there are weighted likelihoods, weighted estimating equations, and weighted probability densities from which a majority of statistics are derived. These applications codified the theory of other statistics and estimators such as marginal structural models, the standardized mortality ratio, and the EM algorithm for coarsened or aggregate data.

Inverse probability weighting is also used to account for missing data when subjects with missing data cannot be included in the primary analysis.^[4] With an estimate of the sampling probability, or the probability that the factor would be measured in another measurement, inverse probability weighting can be used to inflate the weight for subjects who are under-represented due to a large degree of missing data.

The inverse probability weighting estimator can be used to demonstrate causality when the researcher cannot conduct a controlled experiment but has observed data to model. Because it is assumed that the treatment is not randomly assigned, the goal is to estimate the counterfactual or potential outcome if all subjects in population were assigned either treatment.

We consider random variables ${\displaystyle (X,A,Y)\in \mathbb {R} ^{p}\times \{0,1\}\times \mathbb {R} }$ jointly distributed according to a law ${\displaystyle P}$ where

• ${\displaystyle X\in \mathbb {R} ^{p}}$ are the covariates
• ${\displaystyle A\in \{0,1\}}$ are the two possible treatments
• ${\displaystyle Y\in \mathbb {R} }$ is the response
• No assumptions such as random assignment of treatment are made.

Siguiendo el marco de resultados potenciales de Rubin, también estipulamos la existencia de variables aleatorias para cada . Semánticamente, denota el resultado potencial que se observaría si al sujeto se le asignara el tratamiento . Técnicamente hablando, en realidad trabajamos con la distribución conjunta completa de ; en ese caso, es la distribución marginal solo para los componentes observados de . Se necesitan supuestos especiales para inferir propiedades sobre usando , que se detallarán más adelante. ${\displaystyle Y^{\ast }(a)\in \mathbb {R} }$${\displaystyle a=0,1}$${\displaystyle Y^{*}{\bigl (}a{\bigr )}}$${\displaystyle a}$${\displaystyle P^{\ast }}$${\displaystyle (X,A,Y,Y^{\ast }(0),Y^{\ast }(1))}$${\displaystyle P}$${\displaystyle P^{\ast }}$${\displaystyle P^{\ast }}$${\displaystyle P}$

Ahora supongamos que tenemos observaciones distribuidas de forma idéntica e independiente según . El objetivo es utilizar los datos observados para estimar propiedades del resultado potencial . Por ejemplo, podríamos querer comparar el resultado medio si a todos los pacientes de la población se les asignara cualquiera de los dos tratamientos: . Queremos estimar utilizando los datos observados . ${\displaystyle \{(X_{i},A_{i},Y_{i})\}_{i=1}^{n}}$${\displaystyle P}$${\displaystyle Y^{\ast }(a)}$${\displaystyle \mu _{a}=\mathbb {E} Y^{*}(a)}$${\displaystyle \mu _{a}}$${\displaystyle \{{\bigl (}X_{i},A_{i},Y_{i}{\bigr )}\}_{i=1}^{n}}$

${\displaystyle {\hat {\mu }}_{a,n}^{IPWE}={\frac {1}{n}}\sum _{i=1}^{n}Y_{i}{\frac {\mathbf {1} _{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}}$

1. ${\displaystyle \mu _{a}=\mathbb {E} \left[{\frac {\mathbf {1} _{A=a}Y}{p(A|X)}}\right]}$ dónde${\displaystyle p(a|x)={\frac {P(A=a,X=x)}{P(X=x)}}}$
2. construir o utilizar cualquier modelo de propensión (a menudo un modelo de regresión logística )${\displaystyle {\hat {p}}_{n}(a|x)}$${\displaystyle p(a|x)}$
3. ${\displaystyle {\hat {\mu }}_{a,n}^{IPWE}=\sum _{i=1}^{n}{\frac {Y_{i}1_{A_{i}=a}}{n{\hat {p}}_{n}(A_{i}|X_{i})}}}$

Una vez calculada la media de cada grupo de tratamiento, se puede utilizar una prueba t estadística o una prueba ANOVA para evaluar la diferencia entre las medias de los grupos y determinar la significación estadística del efecto del tratamiento.

Recordemos el modelo de probabilidad conjunta completo para la covariable , la acción , la respuesta y los resultados potenciales . Recordemos también que es la distribución marginal de los datos observados . ${\displaystyle (X,A,Y,Y^{\ast }(0),Y^{\ast }(1))\sim P^{\ast }}$${\displaystyle X}$${\displaystyle A}$${\displaystyle Y}$${\displaystyle Y^{\ast }(0),Y^{\ast }(1)}$${\displaystyle P}$${\displaystyle (X,A,Y)}$

Hacemos las siguientes suposiciones sobre la relación entre los resultados potenciales y los datos observados. Estas nos permiten inferir propiedades de a través de . ${\displaystyle P^{\ast }}$${\displaystyle P^{\ast }}$${\displaystyle P}$

• ( A1 ) Consistencia: . Por lo tanto, para cualquier .${\displaystyle Y=\mathbf {1} \{A=0\}Y^{\ast }(0)+\mathbf {1} \{A=1\}Y^{\ast }(1)}$${\displaystyle \mathbf {1} \{A=a\}Y=\mathbf {1} \{A=a\}Y^{\ast }(a)}$${\displaystyle a}$
• ( A2 ) Sin factores de confusión no medidos: . Formalmente, para cualquier función acotada y medible por Borel y , para cualquier . Esto significa que la asignación del tratamiento se basa únicamente en datos de covariables y es independiente de los resultados potenciales.${\displaystyle \{Y^{*}(0),Y^{*}(1)\}\perp A\,|\,X}$${\displaystyle f}$${\displaystyle g}$${\displaystyle {\begin{aligned}\mathbb {E} _{(A,Y^{*}(a))}\left[f(Y^{*}(a))g(A)\,|\,X\right]=\mathbb {E} _{Y^{*}(a)}\left[f(Y^{*}(a))\,|\,X\right]\mathbb {E} _{A}\left[g(A)\,|\,X\right]\end{aligned}}}$${\displaystyle a}$
• ( A3 ) Positividad: para todos y .${\displaystyle P(A=a|X=x)>0}$${\displaystyle a}$${\displaystyle x}$

Bajo los supuestos ( A1 )-( A3 ), derivaremos las siguientes identidades ^{[ 5 ]}

${\displaystyle {\begin{aligned}\mathbb {E} _{Y^{*}(a)}\left[Y^{*}(a)\right]=\mathbb {E} _{X}\left[\mathbb {E} _{Y}\left[Y\,|\,A=a,X\right]\right]=\mathbb {E} _{(X,A,Y)}\left[{\frac {\mathbf {1} \{A=a\}Y}{P(A|X)}}\right].\qquad \cdots \cdots (*)\end{aligned}}}$

La primera igualdad se muestra de la siguiente manera:

${\displaystyle {\begin{aligned}\mathbb {E} _{Y^{*}(a)}\left[Y^{\ast }(a)\right]&=\mathbb {E} _{X}\left[\mathbb {E} _{Y^{*}(a)}[Y^{\ast }(a)\,|\,X]\right]\qquad \cdots \cdots {\text{ iterated expectation }}\\&=\mathbb {E} _{X}\left[\mathbb {E} _{Y^{*}(a)}[Y^{\ast }(a)\,|\,A=a,X]\right]\qquad \cdots \cdots {\text{ (A3) and (A2) }}\\&=\mathbb {E} _{X}\left[\mathbb {E} _{Y}\left[Y\,|\,A=a,X\right]\right]\qquad \cdots \cdots {\text{ (A1) }}\end{aligned}}}$

Para la segunda igualdad, primero observemos en la demostración anterior que

${\displaystyle {\begin{aligned}\mathbb {E} _{X}\left[\mathbb {E} _{Y}\left[Y\,|\,A=a,X\right]\right]=\mathbb {E} _{X}\left[\mathbb {E} _{Y^{*}(a)}[Y^{\ast }(a)\,|\,X]\right].\end{aligned}}}$

Ahora bien, por ( A3 ), casi con seguridad . Además, tenga en cuenta que ${\displaystyle P(A\,|\,X)>0}$

${\displaystyle \mathbb {E} _{A}{\Big [}{\frac {\mathbf {1} \{A=a\}}{P(A\,|\,X)}}\,{\Big |}\,X{\Big ]}=\sum _{\alpha =0,1}{\frac {\mathbf {1} \{\alpha =a\}}{\cancel {P(\alpha |X)}}}{\cancel {P(\alpha |X)}}=1}$Por lo tanto podemos escribir

${\displaystyle {\begin{aligned}\mathbb {E} _{X}\left[\mathbb {E} _{Y^{*}(a)}[Y^{\ast }(a)\,|\,X]\right]&=\mathbb {E} _{X}{\Big [}\mathbb {E} _{A}{\Big [}{\frac {\mathbf {1} \{A=a\}}{P(A\,|\,X)}}\,{\Big |}\,X{\Big ]}\,\mathbb {E} _{Y^{*}(a)}[Y^{\ast }(a)\,|\,X]{\Big ]}\\&=\mathbb {E} _{X}{\Big [}\mathbb {E} _{(A,Y^{\ast }(a))}{\Big [}{\frac {\mathbf {1} \{A=a\}Y^{\ast }(a)}{P(A\,|\,X)}}\,{\Big |}\,X{\Big ]}{\Big ]}\qquad \cdots \cdots {\text{ (A2) }}\\&=\mathbb {E} _{X}{\Big [}\mathbb {E} _{(A,Y)}{\Big [}{\frac {\mathbf {1} \{A=a\}Y}{P(A\,|\,X)}}\,{\Big |}\,X{\Big ]}{\Big ]}\qquad \cdots \cdots {\text{ (A1) }}\\&=\mathbb {E} _{(X,A,Y)}\left[{\frac {\mathbf {1} \{A=a\}Y}{P(A|X)}}\right]\end{aligned}}}$

Se sabe que el estimador ponderado de probabilidad inversa (IPWE) es inestable si algunas propensiones estimadas están demasiado cerca de 0 o 1. En tales casos, el IPWE puede verse dominado por un pequeño número de sujetos con ponderaciones elevadas. Para abordar este problema, se ha propuesto un estimador IPW suavizado mediante la técnica de Rao-Blackwell, que reduce la varianza del IPWE hasta siete veces y ayuda a proteger el estimador de la especificación incorrecta del modelo. ^{[ 6 ]}

Un estimador alternativo es el estimador ponderado de probabilidad inversa aumentado (AIPWE), que combina las propiedades del estimador basado en regresión y del estimador ponderado de probabilidad inversa. Por lo tanto, es un método «doblemente robusto», ya que solo requiere que el modelo de propensión o el de resultados estén correctamente especificados, pero no ambos. Este método aumenta el IPWE para reducir la variabilidad y mejorar la eficiencia de la estimación. Este modelo mantiene los mismos supuestos que el estimador ponderado de probabilidad inversa (IPWE). ^{[ 7 ]}

${\displaystyle {\begin{aligned}{\hat {\mu }}_{a,n}^{AIPWE}&={\frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\frac {Y_{i}1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}-{\frac {1_{A_{i}=a}-{\hat {p}}_{n}(A_{i}|X_{i})}{{\hat {p}}_{n}(A_{i}|X_{i})}}{\hat {Q}}_{n}(X_{i},a){\Biggr )}\\&={\frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}Y_{i}+\left(1-{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}\right){\hat {Q}}_{n}(X_{i},a){\Biggr )}\\&={\frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\hat {Q}}_{n}(X_{i},a){\Biggr )}+{\frac {1}{n}}\sum _{i=1}^{n}{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}{\Biggl (}Y_{i}-{\hat {Q}}_{n}(X_{i},a){\Biggr )}\end{aligned}}}$

Con las siguientes notaciones:

1. ${\displaystyle 1_{A_{i}=a}}$es una función indicadora de si el sujeto i forma parte del grupo de tratamiento a (o no).
2. Construir un estimador de regresión para predecir el resultado en función de las covariables y el tratamiento , para algún sujeto i. Por ejemplo, utilizando la regresión de mínimos cuadrados ordinarios .${\displaystyle {\hat {Q}}_{n}(x,a)}$${\displaystyle Y}$${\displaystyle X}$${\displaystyle A}$
3. Construir una estimación de propensión (probabilidad) . Por ejemplo, utilizando regresión logística .${\displaystyle {\hat {p}}_{n}(A_{i}|X_{i})}$
4. Combinar en AIPWE para obtener${\displaystyle {\hat {\mu }}_{a,n}^{AIPWE}}$

La posterior reorganización de la fórmula ayuda a revelar la idea subyacente: nuestro estimador se basa en el resultado promedio predicho usando el modelo (es decir: ). Sin embargo, si el modelo está sesgado, entonces los residuos del modelo no estarán (en el grupo de tratamiento completo a) alrededor de 0. Podemos corregir este posible sesgo agregando el término adicional de los residuos promedio del modelo (Q) del valor verdadero del resultado (Y) (es decir: ). Debido a que tenemos valores faltantes de Y, damos ponderaciones para inflar la importancia relativa de cada residuo (estas ponderaciones se basan en la propensión inversa, también conocida como probabilidad, de ver las observaciones de cada sujeto) (ver página 10 en ^{[ 8 ]} ). ${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}{\Biggl (}{\hat {Q}}_{n}(X_{i},a){\Biggr )}}$${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}{\frac {1_{A_{i}=a}}{{\hat {p}}_{n}(A_{i}|X_{i})}}{\Biggl (}Y_{i}-{\hat {Q}}_{n}(X_{i},a){\Biggr )}}$

La ventaja de "doblemente robusto" de dicho estimador radica en que basta con que uno de los dos modelos esté correctamente especificado para que el estimador sea insesgado (ya sea uno u otro , o ambos). Esto se debe a que si el modelo de resultados está bien especificado, sus residuos serán cercanos a 0 (independientemente de las ponderaciones que reciba cada residuo). En cambio, si el modelo está sesgado, pero el modelo de ponderación está bien especificado, el sesgo se estimará correctamente (y se corregirá) mediante los residuos promedio ponderados. ^{[ 8 ] [ 9 ] [ 10 ]}${\displaystyle {\hat {Q}}_{n}(X_{i},a)}$${\displaystyle {\hat {p}}_{n}(A_{i}|X_{i})}$

El sesgo de los estimadores doblemente robustos se denomina sesgo de segundo orden y depende del producto de la diferencia y la diferencia . Esta propiedad nos permite, cuando disponemos de un tamaño de muestra suficientemente grande, reducir el sesgo general de los estimadores doblemente robustos mediante el uso de estimadores de aprendizaje automático (en lugar de modelos paramétricos). ^{[ 11 ]}${\displaystyle {\frac {1}{{\hat {p}}_{n}(A_{i}|X_{i})}}-{\frac {1}{{p}_{n}(A_{i}|X_{i})}}}$${\displaystyle {\hat {Q}}_{n}(X_{i},a)-Q_{n}(X_{i},a)}$

La ponderación por probabilidad inversa se implementa en varios paquetes de software estadístico:

• Python : ipw del paquete balance , permite ajustar IPW para corregir el sesgo de no respuesta en encuestas. ^{[ 12 ]} . Esto se basa en la regresión logística (véase el tutorial de inicio rápido ) o en cualquier otro modelo de clasificación de scikit-learn .
• R : El paquete ipw de CRAN : Estimación de ponderaciones de probabilidad inversa. ^{[ 13 ]} El paquete WeightIt de CRAN también maneja una gama más amplia de enfoques : Ponderación para el equilibrio de covariables en estudios observacionales . ^{[ 14 ]}

• Emparejamiento por puntuación de propensión
• Efecto de diseño