Articulo de referencia

Kriging con mejora de gradiente

El kriging con gradiente mejorado ( GEK ) es una técnica de modelado sustituto utilizada en ingeniería. Un modelo sustituto (también conocido como metamodelo , superficie de res...

El kriging con gradiente mejorado ( GEK ) es una técnica de modelado sustituto utilizada en ingeniería. Un modelo sustituto (también conocido como metamodelo , superficie de respuesta o emulador) es una predicción de la salida de un código informático costoso. [ 1 ] Esta predicción se basa en un pequeño número de evaluaciones del código informático costoso.

Introducción

Ejemplo de datos unidimensionales interpolados mediante Kriging y GEK. La línea negra indica la función de prueba, mientras que los círculos grises representan las observaciones, muestras o evaluaciones de dicha función. La línea azul corresponde a la media de Kriging, y el área sombreada en azul ilustra la desviación estándar de Kriging. Con GEK, podemos añadir la información del gradiente, representada en rojo, lo que aumenta la precisión de la predicción.

Los solucionadores adjuntos están cada vez más disponibles en diversos solucionadores de dinámica de fluidos computacional (CFD), como Fluent , OpenFOAM , SU2 y US3D. Desarrollados originalmente para la optimización , los solucionadores adjuntos se utilizan cada vez más en la cuantificación de la incertidumbre .

aceleración lineal

Un solucionador adjunto permite calcular el gradiente de la cantidad de interés con respecto a todos los parámetros de diseño a costa de una resolución adicional. Esto, potencialmente, conduce a una aceleración lineal : el costo computacional de construir un sustituto preciso disminuye y la aceleración computacional resultantes{\displaystyle s}escala linealmente con el númerod{\displaystyle d}de parámetros de diseño.

El razonamiento detrás de esta aceleración lineal es sencillo. Supongamos que ejecutamosnorte{\displaystyle N}soluciones primales ynorte{\displaystyle N}El método adjunto resuelve, a un costo total de2norte{\displaystyle 2N}Esto da como resultadonorte+dnorte{\displaystyle N+dN}datos;norte{\displaystyle N}valores para la cantidad de interés yd{\displaystyle d}derivadas parciales en cada una de lasnorte{\displaystyle N}gradientes. Ahora supongamos que cada derivada parcial proporciona tanta información para nuestro sustituto como una sola solución primal. Entonces, el costo total de obtener la misma cantidad de información solo con soluciones primales esnorte+dnorte{\displaystyle N+dN}. La aceleración es la relación de estos costos: [ 2 ] [ 3 ]

s=norte+dnorte2norte=12+12d.{\displaystyle s={\frac {N+dN}{2N}}={\frac {1}{2}}+{\frac {1}{2}}d.}

Se ha demostrado una aceleración lineal para un problema de interacción fluido-estructura [ 2 ] y para un perfil aerodinámico transónico . [ 3 ]

Ruido

Un problema con los gradientes basados ​​en adjuntos en CFD es que pueden ser particularmente ruidosos . [ 4 ] [ 5 ] Cuando se deriva en un marco bayesiano , GEK permite incorporar no solo la información del gradiente, sino también la incertidumbre en esa información del gradiente. [ 6 ]

Acercarse

Al utilizar GEK, se deben seguir los siguientes pasos:

  1. Cree un diseño de experimento (DoE): El DoE o "plan de muestreo" es una lista de diferentes ubicaciones en el espacio de diseño. El DoE indica qué combinaciones de parámetros se utilizarán para muestrear la simulación por computadora. Con Kriging y GEK, una opción común es utilizar un diseño de hipercubo latino (LHS) con un criterio "maximin". El diseño LHS está disponible en lenguajes de programación como MATLAB o Python .
  2. Realizar observaciones: Para cada muestra en nuestro DoE, se ejecuta la simulación por computadora para obtener la Cantidad de Interés (QoI).
  3. Construir el modelo sustituto: Se utilizan las ecuaciones predictoras de GEK para construir el modelo sustituto condicionado a las observaciones obtenidas.

Una vez construido el modelo sustituto, puede utilizarse de diferentes maneras, por ejemplo, para la cuantificación de la incertidumbre basada en modelos sustitutos (UQ) o para la optimización .

Ecuaciones predictivas

En un marco bayesiano , utilizamos el teorema de Bayes para predecir la media y la covarianza de Kriging condicionadas a las observaciones. Al usar GEK, las observaciones suelen ser el resultado de varias simulaciones por ordenador. GEK puede interpretarse como una forma de regresión de procesos gaussianos .

Kriging

En la misma línea que [ 7 ] , nos interesa la salida.incógnita{\displaystyle X}de nuestra simulación por computadora, para la cual asumimos la distribución de probabilidad previa normal :

incógnitanorte(μ,PAG),{\displaystyle X\sim {\mathcal {N}}(\mu ,P),}

con media previaμ{\displaystyle \mu }y matriz de covarianza previaPAG{\displaystyle P}Las observacionesy{\displaystyle y}tienen la probabilidad normal :

Yincógnitanorte(Hincógnita,R),{\displaystyle Y\mid x\sim {\mathcal {N}}(Hx,R),}

conH{\displaystyle H}la matriz de observación yR{\displaystyle R}la matriz de covarianza del error de observación, que contiene las incertidumbres de la observación . Después de aplicar el teorema de Bayes, obtenemos una distribución de probabilidad posterior con distribución normal , con media de Kriging:

mi(incógnitay)=μ+K(yHμ),{\displaystyle \operatorname {E} (X\mid y)=\mu +K(yH\mu ),}

y covarianza de Kriging:

cobertura(incógnitay)=(IKH)PAG,{\displaystyle \operatorname {cov} (X\mid y)=(I-KH)P,}

donde tenemos la matriz de ganancia:

K=PAGHT(R+HPAGHT)1.{\displaystyle K=PH^{T}(R+HPH^{T})^{-1}.}

En Kriging, la matriz de covarianza previaPAG{\displaystyle P}se genera a partir de una función de covarianza. Un ejemplo de función de covarianza es la covarianza gaussiana:

PAGij=σ2exp(k|ξjkξik|22θk2),{\displaystyle P_{ij}=\sigma ^{2}\exp \left(-\sum _{k}{\frac {|\xi _{jk}-\xi _{ik}|^{2}}{2\theta _{k}^{2}}}\right),}

donde sumamos sobre las dimensionesk{\displaystyle k}yξ{\displaystyle \xi }son los parámetros de entrada. Los hiperparámetrosμ{\displaystyle \mu },σ{\displaystyle \sigma }yθ{\displaystyle \theta }puede estimarse a partir de una estimación de máxima verosimilitud (MLE). [ 6 ] [ 8 ] [ 9 ]

GEK indirecto

Hay varias formas de implementar GEK. El primer método, GEK indirecto, define un tamaño de paso pequeño pero finito.h{\displaystyle h}y utiliza la información del gradiente para agregar datos sintéticos a las observaciones.y{\displaystyle y}, véase por ejemplo. [ 8 ] El Kriging indirecto es sensible a la elección del tamaño del paso.h{\displaystyle h}y no puede incluir incertidumbres de observación .

GEK directo (a través de la matriz de covarianza previa)

Direct GEK es una forma de co-Kriging, donde agregamos la información del gradiente como covariables. Esto se puede hacer modificando la covarianza previa.PAG{\displaystyle P}o modificando la matriz de observaciónH{\displaystyle H}; ambos enfoques conducen al mismo predictor GEK. Cuando construimos GEK directo a través de la matriz de covarianza previa, agregamos las derivadas parciales ay{\displaystyle y}y modificar la matriz de covarianza previaPAG{\displaystyle P}de tal manera que también contiene las derivadas (y segundas derivadas) de la función de covarianza, véase por ejemplo [ 10 ] . [ 6 ] Las principales ventajas de GEK directo sobre GEK indirecto son: 1) no tenemos que elegir un tamaño de paso, 2) podemos incluir incertidumbres de observación para los gradientes enR{\displaystyle R}y 3) es menos susceptible a un mal condicionamiento de la matriz de ganancia.K{\displaystyle K}. [ 6 ] [ 8 ]

GEK directo (a través de la matriz de observación)

Otra forma de llegar al mismo predictor GEK directo es agregar las derivadas parciales a las observaciones.y{\displaystyle y}e incluir operadores de derivadas parciales en la matriz de observaciónH{\displaystyle H}, véase por ejemplo. [ 11 ]

Kriging con gradiente mejorado para problemas de alta dimensión (método indirecto)

Los métodos actuales de kriging con gradiente mejorado no escalan bien con el número de puntos de muestreo debido al rápido crecimiento del tamaño de la matriz de correlación, donde se añade nueva información para cada punto de muestreo en cada dirección del espacio de diseño. Además, no escalan bien con el número de variables independientes debido al aumento en el número de hiperparámetros que deben estimarse. Para abordar este problema, se ha desarrollado un nuevo enfoque de modelo sustituto con gradiente mejorado que reduce drásticamente el número de hiperparámetros mediante el uso del método de mínimos cuadrados parciales que mantiene la precisión. Además, este método puede controlar el tamaño de la matriz de correlación añadiendo solo los puntos relevantes definidos a través de la información proporcionada por el método de mínimos cuadrados parciales. Para más detalles, véase [ 12 ] . Este enfoque está implementado en Surrogate Modeling Toolbox (SMT) en Python ( https://github.com/SMTorg/SMT ), y se ejecuta en Linux, macOS y Windows. SMT se distribuye bajo la licencia New BSD.

Kriging con gradiente aumentado (método directo)

En [ 9 ] se propone un marco de trabajo universal aumentado para añadir derivadas de cualquier orden a las observaciones. Este método puede considerarse una generalización del método GEK directo que tiene en cuenta derivadas de orden superior. Además, bajo este marco, no es necesario que las observaciones y las derivadas se midan en la misma ubicación.

Ejemplo: Coeficiente de arrastre de un perfil aerodinámico transónico

Perfil aerodinámico transónico.
Resultados de referencia para el coeficiente de arrastre de un perfil aerodinámico transónico, basados ​​en un gran número de simulaciones CFD. Los ejes horizontal y vertical muestran la deformación de la forma del perfil.
Modelo sustituto de Kriging del coeficiente de arrastre de un perfil aerodinámico transónico. Los puntos grises indican las configuraciones para las que se ejecutó el solucionador CFD.
Modelo sustituto GEK del coeficiente de arrastre de un perfil aerodinámico transónico. Los puntos grises indican las configuraciones para las que se ejecutó el solucionador CFD, y las flechas indican los gradientes.

Como ejemplo, consideremos el flujo sobre un perfil aerodinámico transónico . [ 3 ] El perfil opera a un número de Mach de 0,8 y un ángulo de ataque de 1,25 grados. Suponemos que la forma del perfil es incierta; la parte superior e inferior podrían haberse desplazado hacia arriba o hacia abajo debido a las tolerancias de fabricación. En otras palabras, la forma del perfil que estamos utilizando podría ser ligeramente diferente a la del perfil que diseñamos.

A la derecha se muestran los resultados de referencia del coeficiente de resistencia del perfil aerodinámico, obtenidos a partir de numerosas simulaciones CFD. Cabe destacar que la menor resistencia, que corresponde al rendimiento óptimo, se sitúa cerca del diseño de referencia del perfil aerodinámico sin deformar en (0,0).

Tras diseñar un plan de muestreo (indicado por los puntos grises) y ejecutar el solucionador CFD en dichas ubicaciones, obtenemos el modelo sustituto de Kriging. Este modelo se aproxima al de referencia, pero quizás no tanto como nos gustaría.

En la última figura, hemos mejorado la precisión de este modelo sustituto al incluir la información del gradiente basada en el adjunto, indicada por las flechas, y al aplicar GEK.

Aplicaciones

GEK ha encontrado las siguientes aplicaciones:

  • 1993: Problema de diseño para una función de prueba de modelo de pozo. [ 13 ]
  • 2002: Diseño aerodinámico de un avión de negocios supersónico. [ 14 ]
  • 2008: Cuantificación de la incertidumbre para un perfil aerodinámico transónico con parámetros de forma inciertos. [ 10 ]
  • 2009: Cuantificación de la incertidumbre para un perfil aerodinámico transónico con parámetros de forma inciertos. [ 8 ]
  • 2012: Construcción de un modelo sustituto para un problema de divergencia de paneles, un problema de interacción fluido-estructura . Demostración de una aceleración lineal. [ 2 ]
  • 2013: Cuantificación de la incertidumbre para un perfil aerodinámico transónico con ángulo de ataque y número de Mach inciertos. [ 15 ]
  • 2014: Cuantificación de la incertidumbre para la simulación RANS de un perfil aerodinámico, con los parámetros del modelo de turbulencia k-epsilon como entradas inciertas. [ 6 ]
  • 2015: Cuantificación de la incertidumbre para la simulación euleriana de un perfil aerodinámico transónico con parámetros de forma inciertos. Demostración de una aceleración lineal. [ 3 ]
  • 2016: Construcción de un modelo sustituto para dos problemas de interacción fluido-estructura . [ 16 ]
  • 2017: Amplia revisión de modelos sustitutos mejorados con gradiente que incluye muchos detalles sobre el kriging mejorado con gradiente. [ 17 ]
  • 2017: Propagación de la incertidumbre para un sistema de energía nuclear. [ 18 ]
  • 2020: Optimización de la geometría molecular. [ 19 ]

Referencias

  1. Mitchell, M.; Morris, M. (1992). "Diseño y análisis bayesiano de experimentos computacionales: dos ejemplos" (PDF) . Statistica Sinica (2): 359–379 .
  2. 1 2 3 de Baar, JHS; Scholcz, TP; Verhoosel, CV; Dwight, RP; van Zuijlen, AH; Bijl, H. (2012). "Cuantificación eficiente de la incertidumbre con Kriging mejorado con gradiente: aplicaciones en FSI" (PDF) . ECCOMAS, Viena, Austria, 10 al 14 de septiembre .
  3. 1 2 3 4 de Baar, JHS; Scholcz, TP; Dwight, RP (2015). "Exploiting Adjoint Derivatives in High-Dimensional Metamodels". AIAA Journal . 53 (5): 1391– 1395. Bibcode : 2015AIAAJ..53.1391D . doi : 10.2514/1.J053678 .
  4. Dwight, R.; Brezillon, J. (2006). "Efecto de las aproximaciones del adjunto discreto en la optimización basada en gradientes". AIAA Journal . 44 (12): 3022– 3031. Bibcode : 2006AIAAJ..44.3022D . CiteSeerX 10.1.1.711.4761 . doi : 10.2514/1.21744 . 
  5. Giles, M.; Duta, M.; Muller, J.; Pierce, N. (2003). "Desarrollos de algoritmos para métodos adjuntos discretos" . AIAA Journal . 41 (2): 198– 205. Bibcode : 2003AIAAJ..41..198G . doi : 10.2514/2.1961 . S2CID 2106397 . 
  6. 1 2 3 4 5 de Baar, JHS; Dwight, RP; Bijl, H. (2014). "Mejoras en el Kriging con gradiente mejorado mediante una interpretación bayesiana" . International Journal for Uncertainty Quantification . 4 (3): 205– 223. doi : 10.1615/Int.J.UncertaintyQuantification.2013006809 .
  7. Wikle, CK; Berliner, LM (2007). "Un tutorial bayesiano para la asimilación de datos". Physica D. 230 ( 1–2 ) : 1–16 . Bibcode : 2007PhyD..230....1W . doi : 10.1016/j.physd.2006.09.017 .
  8. 1 2 3 4 Dwight, RP; Han, Z.-H. (2009). Cuantificación eficiente de la incertidumbre mediante Kriging con gradiente mejorado (PDF) . doi : 10.2514/6.2009-2276 . ISBN 978-1-60086-975-4. S2CID 59019628 . {{cite book}}: |journal=ignorado ( ayuda )
  9. 1 2 Zhang, Sheng; Yang, Xiu; Tindel, Samy; Lin, Guang (2021). "Campo aleatorio gaussiano aumentado: teoría y cálculo". Sistemas dinámicos discretos y continuos - S. 15 (4): 931. arXiv : 2009.01961 . doi : 10.3934/dcdss.2021098 . S2CID 221507566 . 
  10. 1 2 Laurenceau, J.; Sagaut, P. (2008). "Building efficient response surfaces of aerodynamic functions with Kriging and coKriging". AIAA Journal . 46 (2): 498– 507. Bibcode : 2008AIAAJ..46..498L . doi : 10.2514/1.32308 . S2CID 17895486 . 
  11. de Baar, JHS (2014). "Sustitutos estocásticos para mediciones y modelos informáticos de fluidos" . Tesis doctoral, Universidad Tecnológica de Delft : 99–101 .
  12. Bouhlel, MA; Martins, JRRA (2018). "Kriging con gradiente mejorado para problemas de alta dimensión". Ingeniería con computadoras . 35 : 157–173 . arXiv : 1708.02663 . doi : 10.1007/s00366-018-0590-x . S2CID 3540630 . 
  13. Morris, MD; Mitchell, TJ; Ylvisaker, D. (1993). "Diseño y análisis bayesiano de experimentos computacionales: uso de derivadas en la predicción de superficies" . Technometrics . 35 (3): 243– 255. doi : 10.1080/00401706.1993.10485320 .
  14. Chung, H.-S.; Alonso, JJ (2002). "Uso de gradientes para construir modelos de aproximación de cokriging para problemas de optimización de diseño de alta dimensión". AIAA 40th Aerospace Sciences Meeting and Exhibit : 2002–0317 . CiteSeerX 10.1.1.12.4149 . doi : 10.2514/6.2002-317 . 
  15. Han, Z.-H.; Gortz, S.; Zimmermann, R. (2013). "Mejora del modelado sustituto de fidelidad variable mediante kriging mejorado con gradiente y una función puente híbrida generalizada". Ingeniería con computadoras . 32 (1): 15– 34. doi : 10.1016/j.ast.2012.01.006 .
  16. Ulaganathan, S.; Couckuyt, I.; Dhaene, T.; Degroote, J.; Laermans, E. (2016). "Estudio de rendimiento del Kriging con gradiente mejorado" . Ciencia y tecnología aeroespacial . 25 (1): 177– 189.
  17. Laurent, L.; Le Riche, R.; Soulier, B.; Boucard, P.-A. (2017). "Una visión general de los metamodelos mejorados con gradiente con aplicaciones" (PDF) . Archives of Computational Methods in Engineering . 26 : 1–46 . doi : 10.1007/s11831-017-9226-3 . S2CID 54625655 . 
  18. Lockwood, BA; Anitescu, M. (2012). "Kriging universal mejorado por gradiente para la propagación de la incertidumbre" (PDF) . Ciencia e ingeniería nuclear . 170 (2): 168– 195. CiteSeerX 10.1.1.187.6097 . doi : 10.13182/NSE10-86 . S2CID 18465024 .  
  19. Raggi, G.; Fdez. Galván, I.; Ritterhoff, CL; Vacher, M.; Lindh, R. (2020). "Optimización de la geometría molecular de varianza restringida basada en kriging mejorado por gradiente" . Journal of Chemical Theory and Computation . 16 (6): 3989– 4001. doi : 10.1021/acs.jctc.0c00257 . PMC 7304864. PMID 32374164 .