La verificación y validación de los modelos de simulación por computadora se lleva a cabo durante el desarrollo de un modelo de simulación con el objetivo final de producir un modelo preciso y creíble. [ 1 ] [ 2 ] "Los modelos de simulación se utilizan cada vez más para resolver problemas y ayudar en la toma de decisiones. Los desarrolladores y usuarios de estos modelos, los responsables de la toma de decisiones que utilizan la información obtenida de los resultados de estos modelos y las personas afectadas por decisiones basadas en dichos modelos están, con razón, preocupados por si un modelo y sus resultados son "correctos". [ 3 ] Esta preocupación se aborda mediante la verificación y validación del modelo de simulación.
Los modelos de simulación son imitaciones aproximadas de sistemas del mundo real y nunca los imitan con exactitud. Por ello, un modelo debe verificarse y validarse en la medida necesaria para su propósito o aplicación. [ 3 ]
La verificación y validación de un modelo de simulación comienza después de que se hayan documentado las especificaciones funcionales y se haya completado el desarrollo inicial del modelo. [ 4 ] La verificación y validación es un proceso iterativo que se lleva a cabo a lo largo del desarrollo de un modelo. [ 1 ] [ 4 ]
Verificación
En el contexto de la simulación por computadora, la verificación de un modelo es el proceso de confirmar que se implementa correctamente con respecto al modelo conceptual (que cumple con las especificaciones y suposiciones consideradas aceptables para el propósito de la aplicación). [ 1 ] [ 4 ] Durante la verificación, el modelo se prueba para encontrar y corregir errores en su implementación. [ 4 ] Se utilizan diversos procesos y técnicas para asegurar que el modelo cumpla con las especificaciones y suposiciones con respecto al concepto del modelo. El objetivo de la verificación del modelo es garantizar que su implementación sea correcta.
Existen muchas técnicas que se pueden utilizar para verificar un modelo. Estas incluyen, entre otras, la revisión del modelo por un experto, la creación de diagramas de flujo lógico que incluyan cada acción lógicamente posible, el análisis de la razonabilidad de la salida del modelo bajo diversas configuraciones de los parámetros de entrada y el uso de un depurador interactivo. [ 1 ] Muchas técnicas de ingeniería de software utilizadas para la verificación de software son aplicables a la verificación de modelos de simulación. [ 1 ]
Validación
La validación comprueba la exactitud de la representación del sistema real por parte del modelo. La validación de un modelo se define como la «demostración de que un modelo computarizado, dentro de su dominio de aplicabilidad, posee un rango de exactitud satisfactorio y coherente con la aplicación prevista del modelo». [ 3 ] Un modelo debe construirse para un propósito o conjunto de objetivos específicos y su validez debe determinarse para dicho propósito. [ 3 ]
Existen diversos métodos para validar un modelo informático. Estos métodos abarcan desde revisiones subjetivas hasta pruebas estadísticas objetivas. Un método comúnmente utilizado consiste en que los creadores del modelo determinen su validez mediante una serie de pruebas. [ 3 ]
Naylor y Finger [1967] formularon un enfoque de tres pasos para la validación de modelos que ha sido ampliamente seguido: [ 1 ]
Paso 1. Construya un modelo que tenga una alta validez aparente .
Paso 2. Validar los supuestos del modelo.
Paso 3. Compare las transformaciones de entrada-salida del modelo con las transformaciones de entrada-salida correspondientes para el sistema real. [ 5 ]
Validez aparente
Un modelo que tiene validez aparente parece ser una imitación razonable de un sistema del mundo real para las personas que conocen el sistema del mundo real. [ 4 ] La validez aparente se prueba haciendo que los usuarios y las personas que conocen el sistema examinen la salida del modelo para verificar su razonabilidad y, en el proceso, identifiquen deficiencias. [ 1 ] Una ventaja adicional de que los usuarios participen en la validación es que aumenta la credibilidad del modelo para los usuarios y la confianza del usuario en el modelo. [ 1 ] [ 4 ] La sensibilidad a las entradas del modelo también se puede utilizar para juzgar la validez aparente. [ 1 ] Por ejemplo, si se ejecutara una simulación de un autoservicio de un restaurante de comida rápida dos veces con tasas de llegada de clientes de 20 por hora y 40 por hora, entonces se esperaría que las salidas del modelo, como el tiempo de espera promedio o el número máximo de clientes esperando, aumentaran con la tasa de llegada.
Validación de los supuestos del modelo
Las suposiciones que se hacen sobre un modelo generalmente se dividen en dos categorías: suposiciones estructurales sobre cómo funciona el sistema y suposiciones sobre los datos. También podemos considerar las suposiciones de simplificación, que son aquellas que utilizamos para simplificar la realidad. [ 6 ]
Supuestos estructurales
Las suposiciones sobre cómo funciona el sistema y cómo está organizado físicamente son suposiciones estructurales. Por ejemplo, el número de servidores en un autoservicio de comida rápida y, si hay más de uno, ¿cómo se utilizan? ¿Los servidores trabajan en paralelo, de modo que un cliente completa una transacción visitando un solo servidor, o un servidor toma los pedidos y gestiona el pago mientras el otro prepara y sirve el pedido? Muchos problemas estructurales en el modelo provienen de suposiciones deficientes o incorrectas. [ 4 ] Si es posible, se debe observar detenidamente el funcionamiento del sistema real para comprender cómo opera. [ 4 ] La estructura y el funcionamiento del sistema también deben verificarse con los usuarios del sistema real. [ 1 ]
Supuestos de los datos
Debe haber una cantidad suficiente de datos apropiados disponibles para construir un modelo conceptual y validar un modelo. La falta de datos apropiados suele ser la razón por la que fracasan los intentos de validar un modelo. [ 3 ] Los datos deben verificarse para que provengan de una fuente confiable. Un error típico es asumir una distribución estadística inapropiada para los datos. [ 1 ] El modelo estadístico asumido debe probarse utilizando pruebas de bondad de ajuste y otras técnicas. [ 1 ] [ 3 ] Ejemplos de pruebas de bondad de ajuste son la prueba de Kolmogorov-Smirnov y la prueba de chi-cuadrado . Cualquier valor atípico en los datos debe verificarse. [ 3 ]
Supuestos de simplificación
Son suposiciones que sabemos que no son ciertas, pero que son necesarias para simplificar el problema que queremos resolver. [ 6 ] El uso de estas suposiciones debe restringirse para asegurar que el modelo sea lo suficientemente correcto como para servir como respuesta al problema que queremos resolver.
Validación de transformaciones de entrada-salida
El modelo se considera una transformación de entrada-salida para estas pruebas. La prueba de validación consiste en comparar las salidas del sistema en consideración con las salidas del modelo para el mismo conjunto de condiciones de entrada. Los datos registrados mientras se observa el sistema deben estar disponibles para realizar esta prueba. [ 3 ] La salida del modelo que sea de interés principal debe usarse como medida de rendimiento. [ 1 ] Por ejemplo, si el sistema en consideración es un autoservicio de comida rápida donde la entrada al modelo es el tiempo de llegada del cliente y la medida de rendimiento de salida es el tiempo promedio del cliente en la fila, entonces el tiempo de llegada real y el tiempo que los clientes pasan en la fila en el autoservicio se registrarían. El modelo se ejecutaría con los tiempos de llegada reales y el tiempo promedio en la fila del modelo se compararía con el tiempo promedio real que se pasa en la fila usando una o más pruebas.
Prueba de hipótesis
Las pruebas de hipótesis estadísticas mediante la prueba t pueden utilizarse como base para aceptar el modelo como válido o rechazarlo como inválido.
La hipótesis que se va a comprobar es
- H 0 la medida de rendimiento del modelo = la medida de rendimiento del sistema
versus
- H 1 la medida de rendimiento del modelo ≠ la medida de rendimiento del sistema.
La prueba se realiza para un tamaño de muestra y un nivel de significancia o α determinados. Para realizar la prueba, se llevan a cabo n ejecuciones estadísticamente independientes del modelo y se obtiene un valor promedio o esperado, E(Y), para la variable de interés. Luego, se calcula el estadístico de prueba , t 0 para el α, n , E(Y) dados y el valor observado para el sistema μ 0
- y el valor crítico para α y n-1 los grados de libertad
- se calcula.
Si
Rechazar H 0 , el modelo necesita ajuste.
Hay dos tipos de error que pueden ocurrir al usar pruebas de hipótesis: rechazar un modelo válido llamado error de tipo I o "riesgo del constructor del modelo" y aceptar un modelo inválido llamado error de tipo II, β, o "riesgo del usuario del modelo". [ 3 ] El nivel de significancia o α es igual a la probabilidad de error de tipo I. [ 3 ] Si α es pequeño, rechazar la hipótesis nula es una conclusión fuerte. [ 1 ] Por ejemplo, si α = 0.05 y se rechaza la hipótesis nula, hay solo una probabilidad de 0.05 de rechazar un modelo que es válido. Disminuir la probabilidad de un error de tipo II es muy importante. [ 1 ] [ 3 ] La probabilidad de detectar correctamente un modelo inválido es 1 - β. La probabilidad de un error de tipo II depende del tamaño de la muestra y de la diferencia real entre el valor de la muestra y el valor observado. Aumentar el tamaño de la muestra disminuye el riesgo de un error de tipo II.
Precisión del modelo como un rango
Recientemente se ha desarrollado una técnica estadística donde la precisión del modelo se especifica como un rango. Esta técnica utiliza pruebas de hipótesis para aceptar un modelo si la diferencia entre la variable de interés del modelo y la variable de interés del sistema se encuentra dentro de un rango de precisión especificado. [ 7 ] Un requisito es que tanto los datos del sistema como los del modelo sean aproximadamente normales, independientes e idénticamente distribuidos (NIID) . En esta técnica se utiliza la estadística de prueba t . Si la media del modelo es μ m y la media del sistema es μ s, entonces la diferencia entre el modelo y el sistema es D = μ m - μ s . La hipótesis a probar es si D se encuentra dentro del rango de precisión aceptable. Sea L = el límite inferior de precisión y U = el límite superior de precisión. Entonces
- H 0 L ≤ D ≤ U
versus
- H 1 D < L o D > U
debe ser probado.
La curva característica operativa (CO) representa la probabilidad de que se acepte la hipótesis nula cuando es verdadera. La CO caracteriza las probabilidades de errores de tipo I y II. A partir de las CO, se pueden desarrollar curvas de riesgo para el constructor del modelo y el usuario del modelo. Comparando curvas con tamaños de muestra fijos, se pueden observar fácilmente las compensaciones entre el riesgo del constructor del modelo y el riesgo del usuario del modelo en las curvas de riesgo. [ 7 ] Si se especifican el riesgo del constructor del modelo, el riesgo del usuario del modelo y los límites superior e inferior del rango de precisión, se puede calcular el tamaño de muestra necesario. [ 7 ]
Intervalos de confianza
Los intervalos de confianza se pueden utilizar para evaluar si un modelo es "suficientemente cercano" [ 1 ] a un sistema para alguna variable de interés. Se comprueba la diferencia entre el valor conocido del modelo, μ₀ , y el valor del sistema, μ, para ver si es menor que un valor suficientemente pequeño como para que el modelo sea válido con respecto a esa variable de interés. El valor se denota con el símbolo ε. Para realizar la prueba, se llevan a cabo n ejecuciones estadísticamente independientes del modelo y se produce un valor medio o esperado, E(Y) o μ, para la variable de salida de la simulación de interés Y, con una desviación estándar S. Se selecciona un nivel de confianza, 100(1-α). Se construye un intervalo, [a,b], mediante
- ,
dónde
es el valor crítico de la distribución t para el nivel de significancia dado y n-1 grados de libertad.
- Si |a-μ 0 | > ε y |b-μ 0 | > ε entonces el modelo necesita ser calibrado ya que en ambos casos la diferencia es mayor que aceptable.
- Si |a-μ 0 | < ε y |b-μ 0 | < ε entonces el modelo es aceptable ya que en ambos casos el error es suficientemente cercano.
- Si |a-μ 0 | < ε y |b-μ 0 | > ε o viceversa , entonces se necesitan ejecuciones adicionales del modelo para reducir el intervalo.
Comparaciones gráficas
Si no se pueden satisfacer los supuestos estadísticos o no hay datos suficientes para el sistema, se pueden utilizar comparaciones gráficas de las salidas del modelo con las salidas del sistema para tomar decisiones subjetivas; sin embargo, son preferibles otras pruebas objetivas. [ 3 ]
Normas ASME
Los documentos y estándares relacionados con la verificación y validación de modelos y simulaciones computacionales son desarrollados por el Comité de Verificación y Validación (V&V) de la Sociedad Estadounidense de Ingenieros Mecánicos (ASME). ASME V&V 10 proporciona orientación para evaluar y aumentar la credibilidad de los modelos computacionales de mecánica de sólidos a través de los procesos de verificación, validación y cuantificación de la incertidumbre . [ 8 ] ASME V&V 10.1 proporciona un ejemplo detallado para ilustrar los conceptos descritos en ASME V&V 10. [ 9 ] ASME V&V 20 proporciona una metodología detallada para validar simulaciones computacionales aplicadas a la dinámica de fluidos y la transferencia de calor. [ 10 ] ASME V&V 40 proporciona un marco para establecer requisitos de credibilidad de modelos para el modelado computacional y presenta ejemplos específicos en la industria de dispositivos médicos. [ 11 ]
Véase también
Referencias
- 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 Banks, Jerry; Carson, John S.; Nelson, Barry L.; Nicol, David M. Simulación de sistemas de eventos discretos Quinta edición, Upper Saddle River, Pearson Education, Inc. 2010 ISBN 0136062121
- ↑ Schlesinger, S.; et al. (1979). "Terminología para la credibilidad de los modelos". Simulation . 32 (3): 103– 104. doi : 10.1177/003754977903200304 .
- 1 2 3 4 5 6 7 8 9 10 11 12 13 Sargent, Robert G. "VERIFICACIÓN Y VALIDACIÓN DE MODELOS DE SIMULACIÓN" . Actas de la Conferencia de Simulación de Invierno de 2011.
- 1 2 3 4 5 6 7 8 Carson, John, "VERIFICACIÓN Y VALIDACIÓN DE MODELOS" . Actas de la Conferencia de Simulación de Invierno de 2002.
- ↑ NAYLOR, TH Y JM FINGER [1967], "Verificación de modelos de simulación por computadora" , Management Science, vol. 2, págs. B92–B101, citado en Banks, Jerry; Carson, John S.; Nelson, Barry L.; Nicol, David M. Simulación de sistemas de eventos discretos , quinta edición, Upper Saddle River, Pearson Education, Inc., 2010, pág. 396. ISBN 0136062121
- 1 2 1. Fonseca, P. Hipótesis de simulación. En Actas de SIMUL 2011; 2011; págs. 114–119. https://www.researchgate.net/publication/262187532_Simulation_hypotheses_A_proposed_taxonomy_for_the_hypotheses_used_in_a_simulation_model
- 1 2 3 Sargent, RG 2010. "Un nuevo procedimiento estadístico para la validación de modelos de simulación y estocásticos." Informe técnico SYR-EECS-2010-06, Departamento de Ingeniería Eléctrica y Ciencias de la Computación, Universidad de Syracuse, Syracuse, Nueva York.
- ↑ “V&V 10 – Guía de 2006 para la verificación y validación en mecánica de sólidos computacional” . Normas . ASME. Consultado el 2 de septiembre de 2018.
- ↑ “V&V 10.1 – 2012 Una ilustración de los conceptos de verificación y validación en mecánica de sólidos computacional” . Normas . ASME. Consultado el 2 de septiembre de 2018.
- ↑ “V&V 20 – 2009 Norma para la verificación y validación en dinámica de fluidos computacional y transferencia de calor” . Normas . ASME. Consultado el 2 de septiembre de 2018.
- ↑ “V&V 40 Industry Day” . Simposio de Verificación y Validación . ASME. Consultado el 2 de septiembre de 2018.
- Software de simulación
- Métodos formales