Intervención humana

La interacción humana permite al usuario modificar el resultado de un evento o proceso. Esta inmersión contribuye eficazmente a la transferencia positiva de las habilidades adquiridas al mundo real. Esto se puede observar en los alumnos que utilizan simuladores de vuelo para prepararse para ser pilotos.

HITL también permite adquirir conocimiento sobre cómo un nuevo proceso puede afectar un evento en particular. La utilización de HITL permite a los participantes interactuar con modelos realistas e intentar actuar como lo harían en un escenario real. Las simulaciones HITL ponen de manifiesto problemas que de otro modo no serían evidentes hasta después de la implementación de un nuevo proceso. Un ejemplo real de la simulación HITL como herramienta de evaluación es su uso por parte de la Administración Federal de Aviación (FAA) para permitir a los controladores de tráfico aéreo probar nuevos procedimientos de automatización dirigiendo las actividades del tráfico aéreo simulado mientras supervisan el efecto de los procedimientos recién implementados. ^{[ 6 ]}

Como en la mayoría de los procesos, siempre existe la posibilidad de error humano , que solo puede reproducirse mediante simulación HITL. Aunque se puede hacer mucho para automatizar los sistemas, los humanos generalmente aún necesitan tomar la información proporcionada por un sistema para determinar el siguiente curso de acción basándose en su juicio y experiencia. Los sistemas inteligentes solo pueden llegar hasta cierto punto en ciertas circunstancias para automatizar un proceso; solo los humanos en la simulación pueden juzgar con precisión el diseño final. La simulación de mesa puede ser útil en las etapas muy tempranas del desarrollo del proyecto para el propósito de recopilar datos para establecer parámetros generales, pero las decisiones importantes requieren simulación con intervención humana. ^{[ 7 ]} HITL refleja escenarios donde la entrada humana sigue siendo esencial a pesar de los avances en la automatización.

Las simulaciones virtuales otorgan a la inteligencia, la tecnología y la comunicación (HITL) un papel central al ejercitar las habilidades de control motor (por ejemplo, pilotar un avión), las habilidades de toma de decisiones (por ejemplo, asignar recursos de control de fuego a la acción) o las habilidades de comunicación (por ejemplo, como miembros de un equipo C4I ).

• simuladores de vuelo
• simuladores de conducción
• simuladores marinos
• Juegos de vídeo
• Simuladores de gestión de la cadena de suministro ^{[ 8 ]}
• Marionetas digitales

Si bien la simulación con intervención humana puede incluir una simulación por computadora en forma de un entorno sintético, no necesariamente es una forma de simulación con intervención humana, y a menudo se considera una simulación sin intervención humana. En este caso particular, el comportamiento de un modelo informático se modifica según un conjunto de parámetros iniciales. Los resultados del modelo difieren de los resultados de una verdadera simulación con intervención humana porque los resultados pueden replicarse fácilmente una y otra vez, simplemente proporcionando parámetros idénticos.

Bonnie Docherty estableció tres clasificaciones del grado de control humano de los sistemas de armas autónomas en un informe de Human Rights Watch de 2012. ^{[ 3 ]}

• Intervención humana : un ser humano debe iniciar la acción del arma (es decir, no es totalmente autónoma).
• humano en el bucle : un humano puede abortar una acción.
• humano-fuera-del-bucle : no hay acción humana involucrada

En los debates sobre armas autónomas y mando y control nuclear, la frase « acción humana positiva » se ha utilizado junto con «intervención humana» para enfatizar que un operador humano debe autorizar afirmativamente el uso de la fuerza. ^{[ 9 ] [ 10 ]}

Las descripciones del Sistema de Combate Aegis de la Armada de los Estados Unidos han utilizado la frase para caracterizar la necesidad de una acción humana afirmativa para iniciar el fuego real. Un estudio de sistemas de armas autónomos describió el modo "Auto SM" del Aegis como aquel en el que "el sistema desarrolla completamente el proceso de enfrentamiento, sin embargo, el enfrentamiento requiere una acción humana positiva". ^{[ 11 ]}

La frase se incorporó a la legislación federal de Estados Unidos en la Ley de Autorización de Defensa Nacional para el Año Fiscal 2025 , que estipula que los sistemas de inteligencia artificial no deben comprometer "el principio de requerir acciones humanas positivas en la ejecución de las decisiones del Presidente con respecto al empleo de armas nucleares". ^{[ 12 ] [ 13 ]}