El efecto del modo de administración es un término amplio que se refiere a un fenómeno en el que un modo particular de administración de encuestas provoca que se recopilen datos diferentes. Por ejemplo, al formular una pregunta utilizando dos modos distintos ( como papel y teléfono), las respuestas a un modo pueden ser significativamente diferentes de las respuestas dadas en el otro. Los efectos del modo de administración son un artefacto metodológico que limita la capacidad de comparar los resultados obtenidos con diferentes métodos de recolección de datos.
Teoría
Los distintos modos de encuesta predisponen a los encuestados a diferentes estados de ánimo, lo que se conoce como un "guion" mental. [ 1 ] Esto puede afectar los resultados que dan. Por ejemplo:
- Las encuestas presenciales suelen generar un patrón de comportamiento habitual. Los encuestados tienden a tratar a los entrevistadores con amabilidad y hospitalidad, lo que los lleva a ser más receptivos y a influir en sus respuestas. Las diferencias entre los entrevistadores que administran la encuesta también pueden dar lugar a diversos "efectos del entrevistador" en los resultados.
- Las entrevistas telefónicas suelen dar pie a un discurso típico de vendedor o teleoperador. Los encuestados pueden restar importancia a las entrevistas telefónicas, lo que los lleva a responder de forma superficial (con el mínimo esfuerzo) para terminar la entrevista cuanto antes. La desconfianza hacia la persona que llama también puede influir en que los encuestados den respuestas más socialmente aceptables que las que darían en otros métodos de encuesta.
Es probable que los efectos del modo de realización sean mayores cuando las diferencias entre ellos son mayores . Las entrevistas presenciales difieren sustancialmente de los formularios escritos a mano. Por el contrario, las encuestas web, los formularios escritos a mano y otros formularios de autocompletado son bastante similares (ya que todos requieren que los encuestados lean y respondan en privado a una pregunta), por lo que los efectos del modo de realización pueden minimizarse.
Los usuarios de encuestas deben considerar los posibles efectos del método al comparar los resultados de estudios realizados con diferentes modalidades. Sin embargo, esto resulta difícil, ya que los efectos del método pueden ser complejos y estar sujetos a interacciones entre las características demográficas de los encuestados, el tema y la modalidad. A menos que se investiguen formalmente los efectos del método para el instrumento de encuesta, es difícil cuantificar su magnitud, por lo que se requieren juicios cualitativos de expertos familiarizados con el tema y las modalidades correspondientes.
Sesgo de deseabilidad social
Los estudios sobre los efectos del modo de realización a veces son contradictorios, pero sí se observan algunos patrones generales. Por ejemplo, el sesgo de deseabilidad social tiende a ser mayor en las encuestas telefónicas y menor en las encuestas web: [ 2 ] [ 3 ]
- encuestas telefónicas
- Encuestas presenciales
- encuestas IVR
- encuestas por correo
- encuestas web
Por lo tanto, dado que los datos recopilados sobre temas delicados (como el comportamiento sexual o las actividades ilícitas) variarán según el modo de administración, los investigadores deben tener cuidado al combinar datos o comparar resultados de diferentes modos.
Diferencias en las preguntas entre los distintos modos
Algunos métodos requieren preguntas formuladas de manera diferente a otros, para adaptarse a sus características. Por ejemplo, los formularios autocompletados pueden usar listas de ejemplos o instrucciones detalladas para ayudar a los encuestados a responder preguntas relativamente complejas. En cambio, en las entrevistas telefónicas, los encuestados suelen tener limitaciones en su memoria de trabajo y es poco probable que comprendan una pregunta larga con múltiples subapartados. Otro ejemplo es una matriz de preguntas, común en los formularios autocompletados, que no se puede leer fácilmente en una entrevista verbal; en cambio, generalmente se necesitaría redactar una serie de preguntas individuales.
Las diferencias en la redacción de las preguntas entre los distintos formatos pueden dar lugar a que se recopilen datos diferentes. Sin embargo, esto no siempre es así, y una adaptación adecuada de las preguntas a un nuevo formato puede generar datos comparables . Los diseñadores de encuestas deben tener en cuenta las convenciones del formato al adaptar las preguntas. Por ejemplo, si bien puede ser aceptable que los encuestados calculen las cifras totales por sí mismos en un formulario en papel, podrían percibirlo como una carga si se les exige en un formulario web (donde podrían esperar que el ordenador calcule los totales automáticamente). Esto, a su vez, podría cambiar su actitud hacia el formulario, modificando su comportamiento y, en última instancia, alterando los datos recopilados.
Identificación y resolución de los efectos del modo
Los efectos del modo de aplicación pueden identificarse incorporando un experimento dentro de la encuesta, donde una proporción de los encuestados se asigna a cada modo. Las diferencias en los resultados de cada modo deberían permitir identificar el "efecto del modo de aplicación" para esta encuesta en particular.
Una vez cuantificado el efecto del modo de administración, es posible utilizar esta información para reprocesar los datos existentes y permitir la comparación entre datos recopilados en diferentes modos (por ejemplo, mediante la reconstrucción retrospectiva de una serie temporal para determinar cuáles habrían sido los resultados pasados si se hubieran administrado en el nuevo modo).
Cobertura diferencial entre modos
Different administration modes may inherently exclude some parts of the target population. This potentially biases the sample that is taken, and changes the data from what would have been collected using another mode. For example, people without a home phone are excluded from Random Digit Dialling (RDD) surveys, and people without internet access are unlikely to complete a web survey. This means different samples are taken from the population when using different modes. Unless experiments are specifically designed to investigate differential coverage, mode effects will be confounded by coverage [4] , and significant differences between modes/experimental conditions could have several explanations:
- properties of the mode;
- different 'types' of people responding to the different modes;
- both the mode properties and different 'types' of respondents (in an additive fashion);
- an interaction, where some respondents are affected by properties of the mode but others aren't.
This problem is exacerbated when in 'live' administration of a survey, multiple modes are used. Some surveys use multiple modes, allowing respondents to choose the most convenient method for them. That is, different 'types' of respondents are expected to complete different modes based on their own choices. In this case, mode effects are difficult to quantify as randomly allocating respondents to a condition does not reflect their preference. Such an experiment lacks external validity and results would not directly generalise to situations offering respondents a choice. Failing to randomly allocate participants to a condition (i.e. allowing them to have a choice, thereby retaining external validity) would mean apparent differences between modes reflect the combined effect of a) different respondent types choosing each mode and b) any mode effects.
References
- ↑Groves, Robert M. (1989). Survey Errors and Survey Costs, New York: Wiley-Interscience.
- ↑Frauke Kreuter, Stanley Presser, and Roger Tourangeau. "Social Desirability Bias in CATI, IVR, and Web Surveys: The Effects of Mode and Question Sensitivity". Public Opin Q (2008) 72(5): 847–865 first published online January 26, 2009 doi:10.1093/poq/nfn063
- ↑Allyson L. Holbrook, Melanie C. Green And Jon A. Krosnick. "Telephone versus Face-to-Face Interviewing of National Probability Samples with Long Questionnaires: Comparisons of Respondent Satisficing and Social Desirability Response Bias". Public Opin Q (2003) 67 (1): 79–125. doi:10.1086/346010.
- ↑de Leeuw, E. (2005). To mix or not to mix data collection modes in surveys. Journal of Official Statistics, 21(2): 233-255.
- Survey methodology