En el análisis de regresión , un modelo predictor de intervalos ( IPM ) es un enfoque de regresión en el que se obtienen límites de la función que se va a aproximar. Esto difiere de otras técnicas de aprendizaje automático , donde generalmente se desea estimar valores puntuales o una distribución de probabilidad completa. Los modelos predictores de intervalos a veces se denominan una técnica de regresión no paramétrica , porque el IPM contiene un conjunto potencialmente infinito de funciones y no se implica ninguna distribución específica para las variables regresionadas.
Recientemente se han desarrollado IPM de múltiples entradas y múltiples salidas para datos multipunto que se utilizan comúnmente para representar funciones. [1] Estos IPM prescriben los parámetros del modelo como un conjunto semialgebraico conectado por trayectorias utilizando distribuciones normales porciones [2] o exponenciales porciones [3] . Una ventaja clave de este enfoque es su capacidad para caracterizar dependencias de parámetros complejos con distintos niveles de fidelidad. Esta práctica permite al analista ajustar el nivel deseado de conservadurismo en la predicción.
Como consecuencia de la teoría de optimización de escenarios , en muchos casos se pueden hacer predicciones rigurosas sobre el rendimiento del modelo en el momento de la prueba. [4] Por lo tanto, un modelo de predicción de intervalo puede verse como un límite garantizado en la regresión cuantil . Los modelos de predicción de intervalo también pueden verse como una forma de prescribir el soporte de los modelos de predicción aleatorios, de los cuales un proceso gaussiano es un caso específico. [5]
Modelos predictores de intervalos convexos
Normalmente, el modelo predictor de intervalos se crea especificando una función paramétrica, que suele elegirse como el producto de un vector de parámetros y una base. Normalmente, la base está formada por características polinómicas o, a veces, se utiliza una base radial. A continuación, se asigna un conjunto convexo al vector de parámetros y se minimiza el tamaño del conjunto convexo de forma que cada punto de datos posible pueda predecirse mediante un valor posible de los parámetros. Campi (2009) utilizó conjuntos de parámetros elipsoidales, lo que da lugar a un programa de optimización convexa para entrenar el IPM. [4] Crespo (2016) propuso el uso de un conjunto de parámetros hiperrectangular, que da como resultado una forma lineal conveniente para los límites del IPM. [6] Por tanto, el IPM se puede entrenar con un programa de optimización lineal:
donde los ejemplos de datos de entrenamiento son y , y los límites del modelo de predicción de intervalo y están parametrizados por el vector de parámetros . La confiabilidad de un IPM de este tipo se obtiene al notar que para un IPM convexo el número de restricciones de soporte es menor que la dimensionalidad de los parámetros entrenables y, por lo tanto, se puede aplicar el enfoque de escenario.
Lacerda (2017) demostró que este enfoque se puede extender a situaciones en las que los datos de entrenamiento se valoran en intervalos en lugar de en puntos. [7]
Modelos predictores de intervalos no convexos
En Campi (2015) se propuso una teoría no convexa de optimización de escenarios. [8] Esto implica medir la cantidad de restricciones de soporte, , para el modelo de predictor de intervalo después del entrenamiento y, por lo tanto, hacer predicciones sobre la confiabilidad del modelo. Esto permite crear IPM no convexos, como una red neuronal de una sola capa. Campi (2015) demuestra que un algoritmo donde el programa de optimización de escenarios solo se resuelve veces que puede determinar la confiabilidad del modelo en el momento de la prueba sin una evaluación previa en un conjunto de validación. [8] Esto se logra resolviendo el programa de optimización
donde la línea central del modelo predictor de intervalo es , y el ancho del modelo es . Esto da como resultado un IPM que realiza predicciones con incertidumbre homocedástica.
Sadeghi (2019) demuestra que el enfoque de escenario no convexo de Campi (2015) se puede extender para entrenar redes neuronales más profundas que predicen intervalos con incertidumbre heterocedástica en conjuntos de datos con imprecisión. [9] Esto se logra proponiendo generalizaciones a la función de pérdida de error máximo dada por
lo que equivale a resolver el programa de optimización propuesto por Campi (2015).
Aplicaciones
Inicialmente, la optimización de escenarios se aplicó a problemas de control robusto. [10]
Crespo (2015) y (2021) aplicaron modelos de predicción de intervalos al diseño de blindaje contra la radiación espacial [11] y a la identificación de sistemas. [12]
En Patelli (2017), Faes (2019) y Crespo (2018), se aplicaron modelos de predicción de intervalos al problema de análisis de confiabilidad estructural . [13] [5] [14] Brandt (2017) aplica modelos de predicción de intervalos a la estimación de daños por fatiga de subestructuras de cubiertas de turbinas eólicas marinas. [15]
Garatti (2019) demostró que las capas de Chebyshev (es decir, las capas minimax alrededor de funciones ajustadas por regresión lineal) pertenecen a una clase particular de modelos predictores de intervalo, para los cuales la confiabilidad es invariante con respecto a la distribución de los datos. [16]
Implementaciones de software
OpenCOSSAN proporciona una implementación en Matlab del trabajo de Crespo (2015). [13]
Referencias
- ^ Crespo, Luis G.; Kenny, Sean P.; Colbert, Brendon K.; Slagel, Tanner (2021). "Modelos de predicción de intervalos para la identificación robusta de sistemas". 2021 60th IEEE Conference on Decision and Control (CDC) . págs. 872– 879. doi :10.1109/CDC45484.2021.9683582. ISBN 978-1-6654-3659-5.S2CID246479771 .
- ^ Crespo, Luis; Colbert, Brendon; Kenny, Sean; Giesy, Daniel (2019). "Sobre la cuantificación de la incertidumbre aleatoria y epistémica utilizando distribuciones Sliced-Normal". Systems and Control Letters . 34 : 104560. doi :10.1016/j.sysconle.2019.104560. S2CID 209339118.
- ^ Crespo, Luis G.; Colbert, Brendon K.; Slager, Tanner; Kenny, Sean P. (2021). "Estimación robusta de distribuciones exponenciales porciones ⋆ ". 2021 60.ª Conferencia IEEE sobre decisiones y control (CDC) . pp. 6742– 6748. doi :10.1109/CDC45484.2021.9683584. ISBN 978-1-6654-3659-5.S2CID246476974 .
- ^ ab Campi, MC; Calafiore, G.; Garatti, S. (2009). "Modelos predictores de intervalos: identificación y confiabilidad". Automática . 45 (2): 382– 392. doi :10.1016/j.automatica.2008.09.004. ISSN 0005-1098.
- ^ ab Crespo, Luis G.; Kenny, Sean P.; Giesy, Daniel P. (2018). "Modelos predictores en escalera para análisis de confiabilidad y riesgo". Seguridad estructural . 75 : 35– 44. doi :10.1016/j.strusafe.2018.05.002. ISSN 0167-4730. S2CID 126167977.
- ^ Crespo, Luis G.; Kenny, Sean P.; Giesy, Daniel P. (2016). "Modelos de predicción de intervalos con una dependencia lineal de parámetros". Revista de verificación, validación y cuantificación de incertidumbre . 1 (2): 021007. doi :10.1115/1.4032070. ISSN 2377-2158.
- ^ Lacerda, Marcio J.; Crespo, Luis G. (2017). "Modelos de predicción de intervalos para datos con incertidumbre de medición". 2017 American Control Conference (ACC) . pp. 1487– 1492. doi :10.23919/ACC.2017.7963163. hdl :2060/20170005690. ISBN . 978-1-5090-5992-8. Número de identificación del sujeto 3713493.
- ^ ab Campi, Marco C.; Garatti, Simone; Ramponi, Federico A. (2015). "Optimización de escenarios no convexos con aplicación a la identificación de sistemas". 2015 54th IEEE Conference on Decision and Control (CDC) . págs. 4023– 4028. doi :10.1109/CDC.2015.7402845. ISBN 978-1-4799-7886-1.S2CID 127406 .
- ^ Sadeghi, Jonathan C.; De Angelis, Marco; Patelli, Edoardo (2019). "Entrenamiento eficiente de redes neuronales de intervalo para datos de entrenamiento imprecisos". Redes neuronales . 118 : 338– 351. doi :10.1016/j.neunet.2019.07.005. PMID 31369950. S2CID 199383010.
- ^ Campi, Marco C.; Garatti, Simone; Prandini, María (2009). "El enfoque de escenarios para el diseño de sistemas y control". Revisiones Anuales en Control . 33 (2): 149– 157. doi :10.1016/j.arcontrol.2009.07.001. ISSN 1367-5788.
- ^ Crespo, Luis G.; Kenny, Sean P.; Giesy, Daniel P.; Norman, Ryan B.; Blattnig, Steve (2016). "Aplicación de modelos predictores de intervalos al blindaje contra la radiación espacial". 18.ª Conferencia de enfoques no deterministas de la AIAA . doi :10.2514/6.2016-0431. hdl :2060/20160007750. ISBN . 978-1-62410-397-1.S2CID124192684 .
- ^ Crespo, Luis G.; Kenny, Sean P.; Colbert, Brendon K.; Slagel, Tanner (2021). "Modelos de predicción de intervalos para la identificación robusta de sistemas". 2021 60th IEEE Conference on Decision and Control (CDC) . págs. 872– 879. doi :10.1109/CDC45484.2021.9683582. ISBN 978-1-6654-3659-5.S2CID246479771 .
- ^ ab Patelli, Edoardo; Broggi, Matteo; Tolo, Silvia; Sadeghi, Jonathan (2017). "Cossan Software: Un software multidisciplinario y colaborativo para la cuantificación de la incertidumbre". Actas de la 2.ª Conferencia internacional sobre cuantificación de la incertidumbre en ciencias computacionales e ingeniería (UNCECOMP 2017) . pp. 212– 224. doi :10.7712/120217.5364.16982. ISBN 978-618-82844-4-9.
- ^ Faes, Matthias; Sadeghi, Jonathan; Broggi, Matteo; De Angelis, Marco; Patelli, Edoardo; Beer, Michael; Moens, David (2019). "Sobre la estimación robusta de pequeñas probabilidades de falla para modelos no lineales fuertes". Revista ASCE-ASME de riesgo e incertidumbre en sistemas de ingeniería, Parte B: Ingeniería mecánica . 5 (4). doi :10.1115/1.4044044. ISSN 2332-9017. S2CID 197472507.
- ^ Brandt, Sebastian; Broggi, Matteo; Hafele, Jan; Guillermo Gebhardt, Cristian; Rolfes, Raimund; Beer, Michael (2017). "Metamodelos para la estimación del daño por fatiga de subestructuras de cubiertas de turbinas eólicas marinas". Procedia Engineering . 199 : 1158– 1163. doi : 10.1016/j.proeng.2017.09.292 . ISSN 1877-7058.
- ^ Garatti, S.; Campi, MC; Carè, A. (2019). "Sobre una clase de modelos de predicción de intervalos con confiabilidad universal". Automatica . 110 : 108542. doi :10.1016/j.automatica.2019.108542. hdl : 11311/1121161 . ISSN 0005-1098. S2CID 204188183.