Hispanopedia Wiki
Articulo de referencia

sesgo de automatización

El sesgo de automatización es la propensión de los humanos a favorecer las sugerencias de los sistemas automatizados de toma de decisiones y a ignorar la información contradicto...

Hispanopedia WikiContenido en espanolLectura gratuita

El sesgo de automatización es la propensión de los humanos a favorecer las sugerencias de los sistemas automatizados de toma de decisiones y a ignorar la información contradictoria generada sin automatización, incluso si es correcta. [ 1 ] El sesgo de automatización proviene de la literatura de psicología social que encontró un sesgo en la interacción humano-humana que mostró que las personas asignan evaluaciones más positivas a las decisiones tomadas por humanos que a un objeto neutral. [ 2 ] El mismo tipo de sesgo de positividad se ha encontrado en la interacción humano-automatización, [ 3 ] donde las decisiones automatizadas se califican más positivamente que las neutrales. [ 4 ]

Este tipo de sesgo se ha convertido en un problema creciente para la toma de decisiones, ya que las unidades de cuidados intensivos , las centrales nucleares y las cabinas de los aviones han integrado cada vez más sistemas informáticos de monitorización y ayudas a la decisión para minimizar el posible error humano. Los errores de sesgo de automatización tienden a ocurrir cuando la toma de decisiones depende de ordenadores u otras ayudas automatizadas y el ser humano desempeña un papel de observador, pero tiene capacidad para tomar decisiones. Ejemplos de sesgo de automatización abarcan desde asuntos urgentes, como pilotar un avión con piloto automático, hasta asuntos tan cotidianos como el uso de correctores ortográficos . [ 5 ]

Desuso y mal uso

La confianza de un operador en el sistema también puede conducir a diferentes interacciones con el sistema, incluyendo el uso, el mal uso, el desuso y el abuso del mismo. [ 6 ]

La tendencia a depender excesivamente de las ayudas automatizadas se conoce como "mal uso de la automatización". [ 6 ] [ 7 ] El mal uso de la automatización se observa cuando un usuario no supervisa adecuadamente un sistema automatizado o cuando este se utiliza indebidamente. Esto contrasta con la falta de uso, donde el usuario no utiliza correctamente la automatización, ya sea apagándola o ignorándola. Tanto el mal uso como la falta de uso pueden ser problemáticos, pero el sesgo de automatización está directamente relacionado con el mal uso de la automatización, ya sea por una confianza excesiva en las capacidades del sistema o por recurrir a heurísticas. El mal uso puede llevar a la falta de supervisión del sistema automatizado o a la aceptación ciega de una sugerencia de automatización, categorizados en dos tipos de errores: errores de omisión y errores de comisión, respectivamente. [ 8 ] [ 9 ] [ 6 ]

El uso y desuso de la automatización también puede influir en las etapas del procesamiento de la información: adquisición de información, análisis de información, toma de decisiones y selección de acciones , e implementación de acciones. [ 10 ]

Por ejemplo, la adquisición de información, el primer paso en el procesamiento de la información, es el proceso mediante el cual un usuario registra la entrada a través de los sentidos. [ 10 ] Un indicador de motor automatizado podría ayudar al usuario con la adquisición de información a través de funciones de interfaz simples, como resaltar los cambios en el rendimiento del motor, dirigiendo así la atención selectiva del usuario. Cuando se enfrentan a problemas originados en una aeronave, los pilotos pueden tender a confiar demasiado en los indicadores del motor, perdiendo de vista otras posibles fallas no relacionadas con el motor. Esta actitud es una forma de complacencia y mal uso de la automatización. Sin embargo, si el piloto dedica tiempo a interpretar el indicador del motor y manipula la aeronave en consecuencia, solo para descubrir que la turbulencia del vuelo no ha cambiado, el piloto puede estar inclinado a ignorar futuras recomendaciones de error transmitidas por el indicador del motor, una forma de complacencia de la automatización que lleva al desuso.

Errores de acción y omisión

El sesgo de automatización puede manifestarse en forma de errores de comisión, que ocurren cuando los usuarios siguen una directiva automatizada sin tener en cuenta otras fuentes de información. Por el contrario, los errores de omisión ocurren cuando los dispositivos automatizados no detectan ni indican problemas y el usuario no se da cuenta porque no está supervisando adecuadamente el sistema. [ 11 ]

Se ha demostrado que los errores de omisión resultan de disminuciones en la vigilancia cognitiva, mientras que los errores de comisión resultan de una combinación de no tener en cuenta la información y una confianza excesiva en la fiabilidad de las ayudas automatizadas. [ 5 ] Los errores de comisión ocurren por tres razones: (1) redirección manifiesta de la atención lejos de la ayuda automatizada; (2) disminución de la atención a la ayuda; (3) desestimación activa de la información que contradice las recomendaciones de la ayuda. [ 12 ] Los errores de omisión ocurren cuando el responsable de la toma de decisiones humano no percibe un fallo de automatización, ya sea debido a una baja vigilancia o a una confianza excesiva en el sistema. [ 5 ] Por ejemplo, un programa corrector ortográfico que marca incorrectamente una palabra como mal escrita y sugiere una alternativa sería un error de comisión, y un programa corrector ortográfico que no percibe una palabra mal escrita sería un error de omisión. En estos casos, el sesgo de automatización podría observarse cuando un usuario acepta la palabra alternativa sin consultar un diccionario, o cuando no se da cuenta de la palabra mal escrita y asume que todas las palabras son correctas sin revisarlas.

Se ha demostrado que la capacitación centrada en la reducción del sesgo de automatización y los problemas relacionados disminuye la tasa de errores de comisión, pero no la de errores de omisión. [ 5 ]

Factores

La presencia de ayudas automáticas, como señala una fuente, «disminuye la probabilidad de que quienes toman decisiones realicen el esfuerzo cognitivo de buscar otra información diagnóstica o procesen toda la información disponible de forma cognitivamente compleja». También aumenta la probabilidad de que los usuarios lleguen a una conclusión precipitada sobre su evaluación de una situación tras ser incitados por una ayuda automática a tomar una medida específica. [ 7 ]

Según una fuente, existen tres factores principales que conducen al sesgo de automatización. Primero, la tendencia humana a elegir el enfoque menos cognitivo para la toma de decisiones, un fenómeno denominado hipótesis del austero cognitivo . Segundo, la tendencia de los humanos a considerar que las ayudas automatizadas poseen una capacidad analítica superior a la propia. Tercero, la tendencia de los humanos a reducir su propio esfuerzo al compartir tareas, ya sea con otra persona o con una ayuda automatizada. [ 12 ]

Otros factores que conducen a una dependencia excesiva de la automatización y, por lo tanto, al sesgo de automatización incluyen la inexperiencia en una tarea (aunque los usuarios inexpertos tienden a ser los más beneficiados por los sistemas automatizados de apoyo a la toma de decisiones), la falta de confianza en las propias habilidades, la falta de información alternativa fácilmente disponible o el deseo de ahorrar tiempo y esfuerzo en tareas complejas o cargas de trabajo elevadas. [ 13 ] [ 14 ] [ 15 ] [ 8 ] Se ha demostrado que las personas que tienen mayor confianza en sus propias habilidades de toma de decisiones tienden a depender menos del apoyo automatizado externo, mientras que aquellos con mayor confianza en los sistemas de apoyo a la toma de decisiones (DSS) eran más dependientes de él. [ 13 ]

Diseño de pantalla

Un estudio, publicado en el Journal of the American Medical Informatics Association , encontró que la posición y prominencia de los consejos en una pantalla pueden afectar la probabilidad de sesgo de automatización, donde los consejos mostrados prominentemente, correctos o no, tienen más probabilidades de ser seguidos. Sin embargo, otro estudio pareció restar importancia a este factor. [ 13 ] Según otro estudio, una mayor cantidad de detalles en pantalla puede hacer que los usuarios sean menos "conservadores" y, por lo tanto, aumentar la probabilidad de sesgo de automatización. [ 13 ] Un estudio mostró que hacer que las personas sean responsables de su desempeño o de la precisión de sus decisiones redujo el sesgo de automatización. [ 5 ]

Disponibilidad

«La disponibilidad de ayudas automatizadas para la toma de decisiones», afirma un estudio de Linda Skitka , «puede a veces alimentar la tendencia humana general a seguir el camino de menor esfuerzo cognitivo». [ 5 ]

Conciencia del proceso

Un estudio también encontró que cuando los usuarios son conscientes del proceso de razonamiento empleado por un sistema de apoyo a la toma de decisiones, es probable que ajusten su confianza en consecuencia, reduciendo así el sesgo de automatización. [ 13 ]

Equipo contra individuo

La realización de trabajos por equipos en lugar de individuos que actúan solos no elimina necesariamente el sesgo de automatización. [ 16 ] [ 11 ] Un estudio ha demostrado que cuando los dispositivos automatizados no detectaron irregularidades del sistema, los equipos no tuvieron más éxito que los trabajadores individuales al responder a esas irregularidades. [ 5 ]

Capacitación

La formación centrada en el sesgo de automatización en la aviación ha logrado reducir los errores por omisión de los estudiantes de piloto. [ 16 ] [ 11 ]

Fallo de la automatización y "descuido aprendido"

Se ha demostrado que un fallo en la automatización conlleva una disminución de la confianza del operador, seguida a su vez por una lenta recuperación de dicha confianza. Esta disminución de la confianza tras un fallo inicial de la automatización se ha descrito como el efecto del primer fallo. [ 12 ] Del mismo modo, si las ayudas automatizadas demuestran ser muy fiables con el tiempo, es probable que el resultado sea un mayor sesgo hacia la automatización. Esto se denomina «descuido aprendido». [ 12 ]

Suministro de información sobre la confianza del sistema

En los casos en que se proporciona información sobre la confianza del sistema a los usuarios, esa información en sí misma puede convertirse en un factor de sesgo de automatización. [ 12 ]

presiones externas

Los estudios han demostrado que cuanto mayores son las presiones externas que se ejercen sobre la capacidad cognitiva de un individuo, mayor es la probabilidad de que dependa del apoyo externo. [ 13 ]

Problemas de definición

Aunque el sesgo de automatización ha sido objeto de numerosos estudios, persisten las quejas de que sigue estando mal definido y que la notificación de incidentes relacionados con el sesgo de automatización no es sistemática. [ 13 ] [ 8 ]

Una revisión de varios estudios sobre el sesgo de la automatización clasificó los diferentes tipos de tareas en las que se utilizaron ayudas automatizadas, así como la función que desempeñaban dichas ayudas. Las tareas en las que se utilizaron ayudas automatizadas se clasificaron como tareas de monitorización, tareas de diagnóstico o tareas de tratamiento. Los tipos de asistencia automatizada se enumeraron como automatización de alertas, que realiza un seguimiento de los cambios importantes y alerta al usuario; automatización de apoyo a la toma de decisiones, que puede proporcionar un diagnóstico o una recomendación; o automatización de la implementación, en la que la ayuda automatizada realiza una tarea específica. [ 8 ]

Autocomplacencia inducida por la automatización

El concepto de sesgo de automatización se considera superpuesto con la complacencia inducida por la automatización, también conocida simplemente como complacencia de automatización. Al igual que el sesgo de automatización, es consecuencia del mal uso de la automatización e implica problemas de atención. Mientras que el sesgo de automatización implica una tendencia a confiar en los sistemas de apoyo a la toma de decisiones, la complacencia de automatización implica una atención y un monitoreo insuficientes de los resultados de la automatización, generalmente porque dichos resultados se consideran fiables. [ 13 ] "Aunque los conceptos de complacencia y sesgo de automatización se han discutido por separado como si fueran independientes", escribe un experto, "comparten varias características comunes, lo que sugiere que reflejan diferentes aspectos del mismo tipo de mal uso de la automatización". De hecho, se ha propuesto que los conceptos de complacencia y sesgo de automatización se combinen en un único "concepto integrador" porque estos dos conceptos "podrían representar diferentes manifestaciones de fenómenos superpuestos inducidos por la automatización" y porque "la complacencia inducida por la automatización y el sesgo de automatización representan conceptos teóricos estrechamente vinculados que muestran una considerable superposición con respecto a los procesos subyacentes". [ 12 ]

La complacencia en la automatización se ha definido como "una detección deficiente de fallos del sistema bajo automatización en comparación con el control manual". El Sistema de Notificación de Seguridad Aérea (ASRS) de la NASA define la complacencia como "autosatisfacción que puede resultar en falta de vigilancia basada en una suposición injustificada de un estado satisfactorio del sistema". Varios estudios han indicado que ocurre con mayor frecuencia cuando los operadores realizan tareas manuales y automatizadas simultáneamente. A su vez, la percepción que tienen los operadores sobre la fiabilidad del sistema automatizado puede influir en la forma en que interactúan con él. Endsley (2017) describe cómo una alta fiabilidad del sistema puede llevar a los usuarios a desconectarse de los sistemas de monitorización, aumentando así los errores de monitorización, disminuyendo la conciencia situacional e interfiriendo con la capacidad del operador para retomar el control del sistema en caso de que se hayan superado los límites de rendimiento. [ 17 ] Esta complacencia puede reducirse drásticamente cuando la fiabilidad de la automatización varía con el tiempo en lugar de permanecer constante, pero no se reduce con la experiencia y la práctica. Tanto los participantes expertos como los inexpertos pueden mostrar sesgo de automatización, así como complacencia en la automatización. Ninguno de estos problemas se puede superar fácilmente mediante el entrenamiento. [ 12 ]

El término «autocomplacencia ante la automatización» se utilizó por primera vez en relación con accidentes o incidentes de aviación en los que pilotos , controladores aéreos u otros trabajadores no revisaron los sistemas adecuadamente, dando por sentado que todo estaba bien cuando, en realidad, un accidente estaba a punto de ocurrir. La autocomplacencia del operador, esté o no relacionada con la automatización, se ha reconocido desde hace tiempo como un factor determinante en los accidentes aéreos. [ 12 ]

Por lo tanto, las percepciones de confiabilidad, en general, pueden dar lugar a una forma de ironía de la automatización , en la que una mayor automatización puede disminuir la carga cognitiva, pero aumenta la oportunidad de errores de monitoreo. Por el contrario, una baja automatización puede aumentar la carga de trabajo, pero disminuye la oportunidad de errores de monitoreo. [ 18 ] Tomemos, por ejemplo, a un piloto que vuela en condiciones climáticas adversas, donde los truenos continuos interfieren con su capacidad para comprender la información transmitida por un controlador de tránsito aéreo (ATC). A pesar del esfuerzo dedicado a comprender la información transmitida por el ATC, el desempeño del piloto se ve limitado por la fuente de información necesaria para la tarea. Por lo tanto, el piloto debe confiar en los indicadores automatizados en la cabina para comprender la información de la trayectoria de vuelo. Si el piloto percibe que los indicadores automatizados son altamente confiables, la cantidad de esfuerzo necesario para comprender al ATC y los indicadores automatizados puede disminuir. Además, si los indicadores automatizados se perciben como altamente confiables, el piloto puede ignorarlos para dedicar recursos mentales a descifrar la información transmitida por el ATC. Al hacerlo, el piloto se convierte en un monitor complaciente, corriendo así el riesgo de perder información crítica transmitida por los indicadores automatizados. Sin embargo, si el piloto percibe que los indicadores automatizados no son fiables, tendrá que interpretar simultáneamente la información del control de tráfico aéreo (ATC) y de dichos indicadores. Esto genera situaciones en las que el operador puede estar gastando recursos cognitivos innecesarios cuando la automatización es, de hecho, fiable, pero también aumenta la probabilidad de identificar posibles errores en los indicadores meteorológicos si estos se producen. Para calibrar la percepción de fiabilidad del piloto, la automatización debe diseñarse para mantener la carga de trabajo en niveles adecuados, al tiempo que garantiza que el operador permanezca concentrado en las tareas de monitorización. Es menos probable que el operador se desconecte de la monitorización cuando la fiabilidad del sistema puede variar, en comparación con un sistema que presenta una fiabilidad constante (Parasuraman, 1993). [ 19 ]

En cierta medida, la complacencia del usuario contrarresta los beneficios de la automatización, y cuando el nivel de fiabilidad de un sistema automatizado cae por debajo de cierto nivel, la automatización deja de ser una ventaja. Un estudio de 2007 sugirió que esta automatización se produce cuando el nivel de fiabilidad alcanza aproximadamente el 70 %. Otros estudios han encontrado que la automatización con un nivel de fiabilidad inferior al 70 % puede ser útil para personas con acceso a las fuentes de información originales, que pueden combinarse con la salida de la automatización para mejorar el rendimiento. [ 12 ]

La muerte por GPS , en la que el fallecimiento de personas se debe en parte a seguir indicaciones GPS inexactas, es otro ejemplo de complacencia ante la automatización.

Sectores

El sesgo de automatización se ha examinado en muchos campos de investigación. [ 13 ] Puede ser una preocupación particularmente importante en la aviación, la medicina , el control de procesos y las operaciones de mando y control militar . [ 12 ]

Aviación

Inicialmente, el debate sobre el sesgo de la automatización se centró principalmente en la aviación. Las ayudas automatizadas han desempeñado un papel cada vez más importante en las cabinas de mando, asumiendo una función creciente en el control de tareas de vuelo como la determinación de las rutas más eficientes en consumo de combustible, la navegación y la detección y el diagnóstico de fallos del sistema. Sin embargo, el uso de estas ayudas puede llevar a una búsqueda y un procesamiento de información menos atentos y menos vigilantes por parte de los seres humanos. En algunos casos, los seres humanos pueden depositar más confianza en la información errónea proporcionada por los ordenadores de vuelo que en sus propias habilidades. [ 7 ]

Un factor importante en el sesgo de automatización relacionado con la aviación es el grado en que los pilotos se perciben a sí mismos como responsables de las tareas que realizan las ayudas automatizadas. Un estudio con pilotos demostró que la presencia de un segundo miembro de la tripulación en la cabina no afectaba el sesgo de automatización. Un estudio de 1994 comparó el impacto de niveles bajos y altos de automatización (LOA) en el desempeño de los pilotos y concluyó que los pilotos que trabajaban con un alto nivel dedicaban menos tiempo a reflexionar de forma independiente sobre las decisiones de vuelo. [ 12 ]

En otro estudio, todos los pilotos que recibieron falsas alertas automáticas que les indicaban apagar un motor lo hicieron, a pesar de que esos mismos pilotos insistieron en una entrevista en que no responderían a tal alerta apagando un motor, sino que habrían reducido la potencia al ralentí. Un estudio de 1998 encontró que los pilotos con aproximadamente 440 horas de experiencia de vuelo detectaron más fallas de automatización que los no pilotos, aunque ambos grupos mostraron efectos de complacencia. Un estudio de 2001 sobre pilotos que usaban un sistema de automatización de cabina, el Sistema de Indicación de Motor y Alerta de Tripulación (EICAS), mostró evidencia de complacencia. Los pilotos detectaron menos fallas del motor cuando usaban el sistema que cuando realizaban la tarea manualmente. [ 12 ]

En un estudio de 2005, controladores de tráfico aéreo experimentados utilizaron una simulación de alta fidelidad de un escenario de control de tráfico aéreo (vuelo libre) que implicaba la detección de conflictos entre aeronaves que se separaban automáticamente. Tenían acceso a un dispositivo automatizado que identificaba posibles conflictos con varios minutos de antelación. Cuando el dispositivo falló cerca del final del proceso de simulación, muchos menos controladores detectaron el conflicto que cuando la situación se gestionó manualmente. Otros estudios han arrojado resultados similares. [ 12 ]

Dos estudios sobre el sesgo de automatización en la aviación descubrieron una tasa mayor de errores de comisión que de errores de omisión, mientras que otro estudio de aviación encontró tasas de omisión del 55 % y tasas de comisión del 0 %. [ 13 ] Los errores de omisión relacionados con la automatización son especialmente comunes durante la fase de crucero. Cuando un vuelo de China Airlines perdió potencia en un motor, el piloto automático intentó corregir este problema bajando el ala izquierda, una acción que ocultó el problema a la tripulación. Cuando se desconectó el piloto automático, el avión se inclinó hacia la derecha y descendió bruscamente, causando daños extensos. El derribo en 1983 de un Boeing 747 de Korean Airlines sobre el espacio aéreo soviético ocurrió porque la tripulación coreana "confió en una automatización que había sido configurada de manera inadecuada y nunca verificaron su progreso manualmente". [ 7 ]

Cuidado de la salud

Los sistemas de apoyo a la toma de decisiones clínicas (SADC) están diseñados para facilitar la toma de decisiones clínicas. Tienen el potencial de generar una gran mejora en este sentido y de mejorar los resultados de los pacientes. Sin embargo, si bien los SADC, cuando se utilizan correctamente, mejoran el rendimiento general, también pueden causar errores que podrían pasar desapercibidos debido al sesgo de automatización. Un peligro reside en que el asesoramiento incorrecto proporcionado por estos sistemas puede llevar a los usuarios a modificar una decisión correcta que hayan tomado por sí mismos. Dada la gravedad de algunas de las posibles consecuencias del sesgo de automatización en el ámbito sanitario, es fundamental tener en cuenta este problema cuando se presenta en entornos clínicos. [ 13 ]

En ocasiones, el sesgo de automatización en entornos clínicos constituye un problema importante que, en conjunto, hace que los sistemas de apoyo a la decisión clínica (CDSS) resulten contraproducentes; en otras ocasiones, se trata de un problema menor, donde los beneficios superan los perjuicios. Un estudio halló un mayor sesgo de automatización entre los usuarios de mayor edad, pero se señaló que esto podría deberse no a la edad, sino a la experiencia. De hecho, algunos estudios sugieren que la familiaridad con los CDSS suele generar efectos de desensibilización y habituación. Si bien el sesgo de automatización se produce con mayor frecuencia entre personas sin experiencia en una tarea determinada, los usuarios sin experiencia son quienes muestran la mayor mejora en el rendimiento al utilizar los CDSS. En un estudio, el uso de los CDSS mejoró las respuestas de los clínicos en un 21 %, pasando del 29 % al 50 %, mientras que el 7 % de las respuestas correctas sin CDSS se modificaron incorrectamente. [ 13 ]

Un estudio de 2005 encontró que cuando los médicos de atención primaria usaban fuentes electrónicas como PubMed , Medline y Google , había un aumento "pequeño a moderado" en las respuestas correctas, mientras que en un porcentaje igualmente pequeño de casos los médicos fueron inducidos a error por el uso de esas fuentes y cambiaron respuestas correctas por incorrectas. [ 12 ]

Estudios realizados en 2004 y 2008 sobre el efecto de las ayudas automatizadas en el diagnóstico del cáncer de mama hallaron pruebas claras de sesgo de automatización, incluyendo errores de omisión. Los cánceres diagnosticados en el 46% de los casos sin ayudas automatizadas se detectaron solo en el 21% de los casos con ayudas automatizadas que no lograron identificar el cáncer. [ 12 ]

Militar

El sesgo de automatización puede ser un factor crucial en el uso de sistemas inteligentes de apoyo a la toma de decisiones para operaciones militares de mando y control. Un estudio de 2004 reveló que los efectos del sesgo de automatización contribuyeron a varias decisiones militares fatales, incluyendo muertes por fuego amigo durante la Guerra de Irak . Los investigadores han intentado determinar el nivel adecuado de automatización para los sistemas de apoyo a la toma de decisiones en este campo. [ 12 ]

Automotor

La complacencia ante la automatización también representa un desafío para los sistemas de conducción automatizada, en los que el ser humano solo tiene que supervisar el sistema o actuar como conductor de reserva. Esto se analiza, por ejemplo, en el informe de la Junta Nacional de Seguridad del Transporte sobre el accidente mortal entre un vehículo de prueba de Uber y la peatona Elaine Herzberg . [ 20 ]

Corrección

El sesgo de automatización puede mitigarse rediseñando los sistemas automatizados para reducir la prominencia de la pantalla, disminuir la complejidad de la información o presentar la asistencia como información de apoyo en lugar de directiva. [ 13 ] Capacitar a los usuarios en sistemas automatizados que introducen errores deliberados reduce el sesgo de automatización de manera más efectiva que simplemente informarles que pueden ocurrir errores. [ 21 ] La verificación y el cuestionamiento excesivos de la asistencia automatizada pueden aumentar la presión de tiempo y la complejidad de la tarea, reduciendo así el beneficio, por lo que algunos sistemas automatizados de apoyo a la toma de decisiones equilibran los efectos positivos y negativos en lugar de intentar eliminar los efectos negativos. [ 14 ]

Véase también

Referencias

  1. ↑ Cummings, Mary (2004). "Sesgo de automatización en sistemas inteligentes de apoyo a la toma de decisiones críticas en el tiempo" (PDF) . Primera Conferencia Técnica de Sistemas Inteligentes de la AIAA (PDF) . doi : 10.2514/6.2004-6313 . ISBN 978-1-62410-080-2. S2CID 10328335 . Archivado del original el 01-11-2014. {{cite book}}: CS1 maint: bot: estado de la URL original desconocido ( enlace )
  2. ↑ Bruner, JS, & Tagiuri, R. 1954. "La percepción de las personas". En G. Lindzey (Ed.), Manual de psicología social (vol. 2) : 634-654. Reading, MA: Addison-Wesley.
  3. ↑ Madhavan, P.; Wiegmann, DA (1 de julio de 2007). "Similitudes y diferencias entre la confianza entre humanos y entre humanos y automatización: una revisión integradora". Theoretical Issues in Ergonomics Science . 8 (4): 277– 301. doi : 10.1080/14639220500337708 . S2CID 39064140 . 
  4. ↑ Dzindolet, Mary T.; Peterson, Scott A.; Pomranky, Regina A.; Pierce, Linda G.; Beck, Hall P. (2003). "El papel de la confianza en la dependencia de la automatización". International Journal of Human-Computer Studies . 58 (6): 697– 718. doi : 10.1016/S1071-5819(03)00038-7 .
  5. 1 2 3 4 5 6 7 Skitka, Linda. "Automatización" . Universidad de Illinois . Universidad de Illinois en Chicago . Recuperado el 16 de enero de 2017 .
  6. 1 2 3 Parasuraman, Raja; Riley, Victor (1997). "Humanos y automatización: uso, mal uso, desuso, abuso". Factores humanos: la revista de la Sociedad de Factores Humanos y Ergonomía . 39 (2): 230– 253. doi : 10.1518/001872097778543886 . S2CID 41149078 . 
  7. 1 2 3 4 Mosier, Kathleen; Skitka, Linda; Heers, Susan; Burdick, Mark (1997). "Automation Bias: Decision Making and Performance in High-Tech Cockpits" . International Journal of Aviation Psychology . 8 (1): 47– 63. doi : 10.1207/s15327108ijap0801_3 . PMID 11540946 . 
  8. 1 2 3 4 Lyell, David; Coiera, Enrico (agosto de 2016). "Sesgo de automatización y complejidad de verificación: una revisión sistemática" . Journal of the American Medical Informatics Association . 24 (2): 424– 431. doi : 10.1093/jamia/ocw105 . PMC 7651899. PMID 27516495 .  
  9. ↑ Tversky, A.; Kahneman, D. (1974). "Juicio bajo incertidumbre: heurísticas y sesgos". Science . 185 (4157): 1124– 1131. Bibcode : 1974Sci...185.1124T . doi : 10.1126/science.185.4157.1124 . PMID 17835457 . S2CID 143452957 .  
  10. 1 2 Wickens, Christopher D.; Hollands, Justin G.; Banbury, Simon; Parasuraman, Raja (2015). Psicología de la ingeniería y rendimiento humano (4.ª ed.). Psychology Press. págs. 335–338 . ISBN   9781317351320.
  11. 1 2 3 Mosier, Kathleen L.; Dunbar, Melisa; McDonnell, Lori; Skitka, Linda J.; Burdick, Mark; Rosenblatt, Bonnie (1998). "Automation Bias and Errors: Are Teams Better than Individuals?". Proceedings of the Human Factors and Ergonomics Society Annual Meeting . 42 (3): 201– 205. doi : 10.1177/154193129804200304 . S2CID 62603631 . 
  12. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 Parasuraman , Raja; Manzey, Dietrich (junio de 2010). " Complacencia y sesgo en el uso humano de la automatización: una integración atencional" . The Journal of the Human Factors and Ergonomics Society . 52 (3): 381– 410. doi : 10.1177/0018720810376055 . PMID 21077562. S2CID 2279803. Recuperado el 17 de enero de 2017 .  
  13. 1 2 3 4 5 6 7 8 9 10 11 12 13 Goddard, K. ; Roudsari, A.; Wyatt, JC (2012). "Sesgo de automatización: una revisión sistemática de frecuencia, mediadores de efectos y mitigadores" . Journal of the American Medical Informatics Association . 19 (1): 121– 127. doi : 10.1136/amiajnl-2011-000089 . PMC 3240751 . PMID 21685142 .  
  14. 1 2 Alberdi, Eugenio; Strigini, Lorenzo; Povyakalo, Andrey A.; Ayton, Peter (2009). "¿Por qué las decisiones de las personas a veces empeoran con el apoyo informático?" (PDF) . Seguridad, fiabilidad y protección informática . Notas de clase en informática. Vol. 5775. Springer Berlin Heidelberg. págs. 18–31 . doi : 10.1007/978-3-642-04468-7_3 . ISBN   978-3-642-04467-0.
  15. ↑ Goddard, Kate; Roudsari, Abdul; Wyatt, Jeremy C. (2014). "Sesgo de automatización: resultados empíricos que evalúan factores influyentes". International Journal of Medical Informatics . 83 (5): 368– 375. doi : 10.1016/j.ijmedinf.2014.01.001 . PMID 24581700 . 
  16. 1 2 Mosier, Kathleen; Skitka, Linda; Dunbar, Melisa; McDonnell, Lori (13 de noviembre de 2009). "Tripulaciones aéreas y sesgo de automatización: ¿Las ventajas del trabajo en equipo?". The International Journal of Aviation Psychology . 11 (1): 1– 14. doi : 10.1207/S15327108IJAP1101_1 . S2CID 4132245 . 
  17. ↑ Endsley, Mica (2017). "De aquí a la autonomía: lecciones aprendidas de la investigación sobre la interacción humano-automatización" . Factores humanos . 59 (1): 5– 27. doi : 10.1177/0018720816681350 . PMID 28146676. S2CID 3771328 .  
  18. ↑ Bainbridge, Lisanne (1983). "Ironías de la automatización" (PDF) . Automatica . 19 (6): 775– 779. doi : 10.1016/0005-1098(83)90046-8 . S2CID 12667742. Archivado del original (PDF) el 13 de septiembre de 2020. Consultado el 7 de diciembre de 2019 . 
  19. ↑ Parasuraman, Raja; Molloy, Robert; Singh, Indramani L. (1993). "Consecuencias en el desempeño de la 'autocomplacencia' inducida por la automatización"". The International Journal of Aviation Psychology . 3 : 1– 23. doi : 10.1207/s15327108ijap0301_1 .
  20. ↑ "Colisión entre un vehículo controlado por un sistema de conducción automatizada en desarrollo y un peatón" . www.ntsb.gov . Consultado el 19 de diciembre de 2019 .
  21. ↑ Bahner, J. Elin; Hüper, Anke-Dorothea; Manzey, Dietrich (2008). "Mal uso de las ayudas automatizadas para la toma de decisiones: autocomplacencia, sesgo de automatización y el impacto de la experiencia de capacitación". International Journal of Human-Computer Studies . 66 (9): 688– 699. doi : 10.1016/j.ijhcs.2008.06.001 .

Lecturas adicionales

  • Goddard, K ; Roudsari, A; Wyatt, JC (2011). «Sesgo de automatización: un problema oculto en el uso de sistemas de apoyo a la toma de decisiones clínicas» . Perspectivas internacionales en informática de la salud . Estudios en tecnología e informática de la salud. Vol.  164. pp. 17–22 . ISBN  978-1-60750-708-6. PMID 21335682 . 
  • 175 razones por las que no piensas con claridad