Articulo de referencia

Evaluación comparativa experimental

La evaluación comparativa experimental permite a los investigadores conocer la precisión de los diseños de investigación no experimentales. En concreto, se pueden comparar los r...

La evaluación comparativa experimental permite a los investigadores conocer la precisión de los diseños de investigación no experimentales. En concreto, se pueden comparar los resultados observacionales con los hallazgos experimentales para calibrar el sesgo. En condiciones normales, la realización de un experimento proporciona a los investigadores una estimación imparcial del parámetro de interés. Esta estimación se puede comparar con los resultados de la investigación observacional. Cabe destacar que la evaluación comparativa busca calibrar la incertidumbre no estadística (fallos en los supuestos subyacentes). Combinado con el metaanálisis, este método permite comprender el alcance del sesgo asociado a un área de investigación específica.

Historia

El inicio de la evaluación comparativa experimental en las ciencias sociales se atribuye a menudo a Robert LaLonde . En 1986 descubrió que los resultados de los procedimientos econométricos que evaluaban el efecto de un programa de empleo en los ingresos de los aprendices no reproducían los resultados experimentales. [ 1 ]

La evaluación comparativa experimental se realiza con frecuencia en la investigación médica, como en los estudios de Schnell-Inderst et al. (2017) [ 2 ] y Burden et al. (2017). [ 3 ]

Consideraciones de procedimiento

Los diseños de evaluación comparativa experimental más instructivos se realizan a gran escala. También comparan trabajos experimentales y no experimentales que analizan el mismo resultado y la misma población. [ 4 ]

Diseños observacionales que pueden evaluarse mediante la evaluación comparativa.

Los diseños de investigación no experimentales u observacionales comparan sujetos tratados con sujetos no tratados, controlando los atributos de base (llamados covariables). Este enfoque de estimación también puede denominarse ajuste de covariables. Las covariables son atributos que existen antes de la experimentación y, por lo tanto, no cambian en función del tratamiento. [ 5 ] Algunos ejemplos son la edad, el sexo, el peso y el color del cabello. Por ejemplo, si los investigadores están interesados ​​en el efecto de las clases para dejar de fumar sobre el número de cigarrillos fumados al día, pueden realizar un ajuste de covariables para controlar la etnia, los ingresos y el número de años que el fumador lleva fumando.

El ajuste de covariables puede realizarse de diversas maneras. Gordon et al. (2018) ilustran muchos de estos métodos mediante datos de publicidad en línea, como el emparejamiento por puntuación de propensión , la estratificación , el ajuste de regresión y el ajuste de regresión ponderada por probabilidad inversa . Observan que, a pesar de la gran variabilidad de las variables en sus datos, los métodos observacionales no permiten recuperar los efectos causales de la publicidad en línea. Este estudio, en definitiva, demuestra que, sin un ensayo controlado aleatorizado, es imposible detectar síntomas de sesgo. El sesgo no siempre se presenta en una sola dirección ni con la misma magnitud.

Ejemplos seleccionados de evaluación comparativa experimental

Bloom et al. (2002) analizan el impacto de los programas obligatorios de inserción laboral para determinar qué métodos no experimentales se aproximan más a la recuperación de los efectos de dichos programas estimados experimentalmente. También cuestionan si los métodos no experimentales más precisos son lo suficientemente exactos como para reemplazar el trabajo experimental. Finalmente, argumentan que ninguno de los métodos se acerca a la precisión de los métodos experimentales para recuperar el parámetro de interés. [ 6 ]

Dehijia y Wahba (1999) examinan los datos de LaLonde (1989) con hallazgos no experimentales adicionales. Argumentan que cuando hay suficiente superposición de sujetos y las covariables no observables no afectan los resultados, los métodos no experimentales pueden estimar con precisión el impacto del tratamiento. [ 7 ]

Glazerman, Levy y Myers (2003) realizan una evaluación comparativa experimental en el contexto de los servicios de empleo, el bienestar social y la formación laboral. Determinan que los métodos no experimentales pueden aproximarse a las estimaciones experimentales; sin embargo, estas estimaciones pueden estar lo suficientemente sesgadas como para afectar el análisis y la implementación de políticas. [ 8 ]

Gordon et al. (2018) utiliza datos de Facebook para determinar si la variación en los datos recopilados por la industria publicitaria permite que los métodos observacionales permitan recuperar los efectos causales de la publicidad en línea. Específicamente, el estudio busca analizar la efectividad de los anuncios de Facebook en tres resultados: finalización de compra, registro y visualización de página. Los autores concluyen que, a pesar de la gran variación que posibilita la naturaleza de las redes sociales, no es posible recuperar con precisión los efectos causales. [ 9 ]

Referencias

[ 5 ] [ 6 ] [ 3 ] [ 7 ] [ 8 ] [ 9 ] [ 1 ] [ 2 ] [ 4 ]

  1. 1 2 LaLonde, Robert (1986). "Evaluación de las evaluaciones econométricas de programas de capacitación con datos experimentales". American Economic Review . 4 (76): 604– 620.
  2. 1 2 Schnell‐Inderst, P., Iglesias, CP, Arvandi, MARJAN, Ciani, ORIANA, Matteucci Gothe, R., Peters, J., ... & Siebert, U. (2017). Una síntesis de evidencia ajustada por sesgo de datos de ECA y datos observacionales: el caso del reemplazo total de cadera. Economía de la salud, 26, 46-69.
  3. 1 2 Burden, A., Roche, N., Miglio, C., Hillyer, EV, Postma, DS, Herings, RM, Overbeek, JA, Khalid, JM, van Eickels, D., … Price, DB (2017). Una evaluación de los métodos de emparejamiento exacto y puntuación de propensión aplicados en un estudio de efectividad comparativa de corticosteroides inhalados en el asma. Pragmatic and observational research, 8, 15-30. doi:10.2147/POR.S122563
  4. 1 2 Smith, Jeffrey y Petra Todd . 2001. "¿Conciliando evidencia contradictoria sobre el desempeño de los métodos de emparejamiento?" American Economic Review, Papers and Proceedings 91(2): 112-118
  5. 1 2 "10 cosas que debe saber sobre el ajuste de covariables" . Evidencia en el gobierno y la política . EGAP . Consultado el 26 de noviembre de 2018 .
  6. 1 2 Bloom, HS, Michalopoulos, C., Hill, CJ, & Lei, Y. (2002). ¿Pueden los métodos de grupos de comparación no experimentales coincidir con los hallazgos de una evaluación de asignación aleatoria de programas obligatorios de inserción laboral? Documentos de trabajo del MDRC sobre metodología de investigación.
  7. 1 2 Dehejia, RH, & Wahba, S. (1999). Efectos causales en estudios no experimentales: Reevaluación de la evaluación de programas de capacitación. Journal of the American statistical Association, 94(448), 1053-1062.
  8. 1 2 Glazerman, S., Levy, DM, & Myers, D. (2003). Estimaciones no experimentales versus experimentales de los impactos en los ingresos. The Annals of the American Academy of Political and Social Science, 589(1), 63-93.
  9. 1 2 Gordon, Brett R., Florian Zettelmeyer, Neha Bhargava y Dan Chapsky. 2018. Una comparación de enfoques para la medición de la publicidad: evidencia de grandes experimentos de campo en Facebook. papers.ssrn.com/sol3/papers.cfm?abstract_id=3033144

Lecturas adicionales

Medicamento

Rubin, DB (1973). Emparejamiento para eliminar el sesgo en estudios observacionales. Biometrics, 159–183.

Stuart EA (2010). Métodos de emparejamiento para la inferencia causal: una revisión y una mirada al futuro. Statistical science  : a review journal of the Institute of Mathematical Statistics , 25(1), 1-21.

Ciencias Sociales

Smith, Jeffrey y Petra Todd . 2005. "¿Supera el método de emparejamiento la crítica de LaLonde a los métodos no experimentales?" Journal of Econometrics 125(1-2):305-353