método de ecuaciones diferenciales estocásticas regresivas profundas

Las BSDE fueron introducidas por primera vez por Pardoux y Peng en 1990 y desde entonces se han convertido en herramientas esenciales en el control estocástico y las matemáticas financieras . En la década de 1990, Étienne Pardoux y Shige Peng establecieron la teoría de existencia y unicidad para las soluciones de BSDE, aplicándolas a las matemáticas financieras y la teoría de control. Por ejemplo, las BSDE se han utilizado ampliamente en la valoración de opciones, la medición de riesgos y la cobertura dinámica. ^{[ 2 ]}

El aprendizaje profundo es un método de aprendizaje automático basado en redes neuronales multicapa . Su concepto central se remonta a los modelos de computación neuronal de la década de 1940. En la década de 1980, la propuesta del algoritmo de retropropagación hizo posible el entrenamiento de redes neuronales multicapa. En 2006, las Redes de Creencia Profunda propuestas por Geoffrey Hinton y otros reavivaron el interés en el aprendizaje profundo. Desde entonces, el aprendizaje profundo ha logrado avances revolucionarios en el procesamiento de imágenes , el reconocimiento de voz , el procesamiento del lenguaje natural y otros campos. ^{[ 3 ]}

Los métodos numéricos tradicionales para resolver ecuaciones diferenciales estocásticas ^{[ 4 ]} incluyen el método de Euler-Maruyama , el método de Milstein , el método de Runge-Kutta (EDE) y métodos basados ​​en diferentes representaciones de integrales estocásticas iteradas. ^{[ 5 ] [ 6 ]}

Pero a medida que los problemas financieros se vuelven más complejos, los métodos numéricos tradicionales para las BSDE (como el método de Monte Carlo , el método de diferencias finitas , etc.) han mostrado limitaciones tales como una alta complejidad computacional y la maldición de la dimensionalidad. ^{[ 1 ]}

1. En escenarios de alta dimensionalidad, el método de Monte Carlo requiere numerosas rutas de simulación para garantizar la precisión, lo que resulta en tiempos de cálculo prolongados. En particular, para las BSDE no lineales, la tasa de convergencia es lenta, lo que dificulta el manejo de problemas complejos de valoración de derivados financieros. ^{[ 7 ] [ 8 ]}

   

2. Por otro lado, el método de diferencias finitas experimenta un crecimiento exponencial en el número de mallas de cálculo con el aumento de las dimensiones, lo que conlleva importantes exigencias computacionales y de almacenamiento. Este método suele ser adecuado para condiciones de contorno simples y ecuaciones diferenciales estocásticas regresivas de baja dimensión, pero es menos eficaz en situaciones complejas. ^{[ 9 ]}

La combinación de aprendizaje profundo con BSDE, conocida como BSDE profunda, fue propuesta por Han, Jentzen y E en 2018 como una solución a los desafíos de alta dimensionalidad que enfrentan los métodos numéricos tradicionales. El enfoque de BSDE profunda aprovecha las potentes capacidades de ajuste no lineal del aprendizaje profundo, aproximando la solución de las BSDE mediante la construcción de redes neuronales. La idea específica es representar la solución de una BSDE como la salida de una red neuronal y entrenar la red para aproximar la solución. ^{[ 1 ]}

Las ecuaciones diferenciales estocásticas regresivas (EDER) representan una poderosa herramienta matemática ampliamente aplicada en campos como el control estocástico , las matemáticas financieras y otros. A diferencia de las ecuaciones diferenciales estocásticas (EDE) tradicionales, que se resuelven hacia adelante en el tiempo, las EDER se resuelven hacia atrás, comenzando desde un momento futuro y retrocediendo hasta el presente. Esta característica única hace que las EDER sean particularmente adecuadas para problemas que involucran condiciones terminales e incertidumbres. ^{[ 2 ]}

Una ecuación diferencial estocástica hacia atrás (BSDE) se puede formular como: ^{[ 10 ]}

${\displaystyle Y_{t}=\xi +\int _{t}^{T}f(s,Y_{s},Z_{s})\,ds-\int _{t}^{T}Z_{s}\,dW_{s},\quad t\in [0,T]}$

En esta ecuación:

• ${\displaystyle \xi }$es la condición terminal especificada en el tiempo${\displaystyle T}$.
• ${\displaystyle f:[0,T]\times \mathbb {R} \times \mathbb {R} \to \mathbb {R} }$se denomina generador de la BSDE
• ${\displaystyle (Y_{t},Z_{t})_{t\in [0,T]}}$La solución consiste en procesos estocásticos${\displaystyle (Y_{t})_{t\in [0,T]}}$y${\displaystyle (Z_{t})_{t\in [0,T]}}$que están adaptados a la filtración${\displaystyle ({\mathcal {F}}_{t})_{t\in [0,T]}}$
• ${\displaystyle W_{s}}$es un movimiento browniano estándar .

El objetivo es encontrar procesos adaptados.${\displaystyle Y_{t}}$y${\displaystyle Z_{t}}$que satisfacen esta ecuación. Los métodos numéricos tradicionales tienen dificultades con las BSDE debido a la maldición de la dimensionalidad, lo que hace que los cálculos en espacios de alta dimensión sean extremadamente difíciles. ^{[ 1 ]}

Fuente: ^{[ 1 ]}

Fuente: ^{[ 1 ]}

El aprendizaje profundo abarca una clase de técnicas de aprendizaje automático que han transformado numerosos campos al permitir el modelado e interpretación de estructuras de datos complejas. Estos métodos, a menudo denominados aprendizaje profundo , se distinguen por su arquitectura jerárquica compuesta por múltiples capas de nodos o neuronas interconectadas. Esta arquitectura permite que las redes neuronales profundas aprendan de forma autónoma representaciones abstractas de los datos, lo que las hace particularmente efectivas en tareas como el reconocimiento de imágenes , el procesamiento del lenguaje natural y el modelado financiero . El núcleo de este método reside en el diseño de una estructura de red neuronal apropiada (como redes totalmente conectadas o redes neuronales recurrentes ) y la selección de algoritmos de optimización eficaces. ^{[ 3 ]}

La elección de la arquitectura de red BSDE profunda, el número de capas y el número de neuronas por capa son hiperparámetros cruciales que impactan significativamente el rendimiento del método BSDE profundo. El método BSDE profundo construye redes neuronales para aproximar las soluciones para${\displaystyle Y}$y${\displaystyle Z}$y utiliza el descenso de gradiente estocástico y otros algoritmos de optimización para el entrenamiento. ^{[ 1 ]}

La figura ilustra la arquitectura de red para el método BSDE profundo. Tenga en cuenta que${\displaystyle \nabla u(t_{n},X_{t_{n}})}$denota la variable aproximada directamente por subredes, y${\displaystyle u(t_{n},X_{t_{n}})}$denota la variable calculada iterativamente en la red. Hay tres tipos de conexiones en esta red: ^{[ 1 ]}

i)${\displaystyle X_{t_{n}}\rightarrow h_{1}^{n}\rightarrow h_{2}^{n}\rightarrow \ldots \rightarrow h_{H}^{n}\rightarrow \nabla u(t_{n},X_{t_{n}})}$es la red neuronal multicapa de alimentación directa que aproxima los gradientes espaciales en el tiempo${\displaystyle t=t_{n}}$Los pesos${\displaystyle \theta _{n}}$Los parámetros de esta subred están optimizados.

ii)${\displaystyle (u(t_{n},X_{t_{n}}),\nabla u(t_{n},X_{t_{n}}),W_{t_{n}+1}-W_{t_{n}})\rightarrow u(t_{n+1},X_{t_{n+1}})}$es la iteración hacia adelante que proporciona la salida final de la red como una aproximación de${\displaystyle u(t_{N},X_{t_{N}})}$, caracterizada por las ecuaciones 5 y 6. No hay parámetros optimizados en este tipo de conexión.

iii)${\displaystyle (X_{t_{n}},W_{t_{n}+1}-W_{t_{n}})\rightarrow X_{t_{n+1}}}$es el atajo que conecta bloques en diferentes momentos, caracterizado por las ecuaciones 4 y 6. Tampoco hay parámetros optimizados en este tipo de conexión.

Esta función implementa el algoritmo Adam ^{[ 11 ]} para minimizar la función objetivo.${\displaystyle {\mathcal {G}}(\theta )}$.

Función: ADAM(${\displaystyle \alpha }$,${\displaystyle \beta _{1}}$,${\displaystyle \beta _{2}}$,${\displaystyle \epsilon }$,${\displaystyle {\mathcal {G}}(\theta )}$,${\displaystyle \theta _{0}}$) es${\displaystyle m_{0}:=0}$// Inicializar el primer vector de momentos${\displaystyle v_{0}:=0}$// Inicializar el vector de segundo momento${\displaystyle t:=0}$// Inicializar paso de tiempo// Paso 1: Inicializar parámetros${\displaystyle \theta _{t}:=\theta _{0}}$// Paso 2: Bucle de optimización while${\displaystyle \theta _{t}}$no ha convergido${\displaystyle t:=t+1}$${\displaystyle g_{t}:=\nabla _{\theta }{\mathcal {G}}_{t}(\theta _{t-1})}$// Calcular el gradiente de${\displaystyle {\mathcal {G}}}$en el paso de tiempo${\displaystyle t}$${\displaystyle m_{t}:=\beta _{1}\cdot m_{t-1}+(1-\beta _{1})\cdot g_{t}}$// Actualizar la estimación sesgada del primer momento${\displaystyle v_{t}:=\beta _{2}\cdot v_{t-1}+(1-\beta _{2})\cdot g_{t}^{2}}$// Actualizar la estimación del segundo momento bruto sesgado${\displaystyle {\widehat {m}}_{t}:={\frac {m_{t}}{(1-\beta _{1}^{t})}}}$// Calcular la estimación del primer momento corregida por sesgo${\displaystyle {\widehat {v}}_{t}:={\frac {v_{t}}{(1-\beta _{2}^{t})}}}$// Calcular la estimación del segundo momento corregida por sesgo${\displaystyle \theta _{t}:=\theta _{t-1}-{\frac {\alpha \cdot {\widehat {m}}_{t}}{({\sqrt {{\widehat {v}}_{t}}}+\epsilon )}}}$// Actualizar parámetrosdevolver${\displaystyle \theta _{t}}$

• Con el algoritmo ADAM descrito anteriormente, presentamos ahora el pseudocódigo correspondiente a una red neuronal multicapa de alimentación directa:

Esta función implementa el algoritmo de retropropagación para entrenar una red neuronal multicapa de propagación directa.

Función: Retropropagación( establecer${\displaystyle D=\left\{(\mathbf {x} _{k},\mathbf {y} _{k})\right\}_{k=1}^{m}}$) es // Paso 1: Inicialización aleatoria // Paso 2: Bucle de optimización que se repite hasta que se cumple la condición de terminación: para cada${\displaystyle (\mathbf {x} _{k},\mathbf {y} _{k})\in D}$: ${\displaystyle {\hat {\mathbf {y} }}_{k}:=f(\beta _{j}-\theta _{j})}$// Calcular la salida // Calcular los gradientes para cada neurona de salida${\displaystyle j}$: ${\displaystyle g_{j}:={\hat {y}}_{j}^{k}(1-{\hat {y}}_{j}^{k})({\hat {y}}_{j}^{k}-y_{j}^{k})}$// Gradiente de la neurona de salida para cada neurona oculta${\displaystyle h}$: ${\displaystyle e_{h}:=b_{h}(1-b_{h})\sum _{j=1}^{\ell }w_{hj}g_{j}}$// Gradiente de la neurona oculta // Actualizar los pesos para cada peso${\displaystyle w_{hj}}$: ${\displaystyle \Delta w_{hj}:=\eta g_{j}b_{h}}$// Actualizar la regla de peso para cada peso${\displaystyle v_{ih}}$: ${\displaystyle \Delta v_{ih}:=\eta e_{h}x_{i}}$// Actualizar regla para peso // Actualizar parámetros para cada parámetro${\displaystyle \theta _{j}}$: ${\displaystyle \Delta \theta _{j}:=-\eta g_{j}}$// Regla de actualización para el parámetro para cada parámetro${\displaystyle \gamma _{h}}$: ${\displaystyle \Delta \gamma _{h}:=-\eta e_{h}}$// Regla de actualización para el parámetro// Paso 3: Construir la red neuronal multicapa de alimentación directa entrenadared neuronal entrenada de retorno

• Combinando el algoritmo ADAM y una red neuronal multicapa de alimentación directa, proporcionamos el siguiente pseudocódigo para resolver la cartera de inversión óptima:

Fuente: ^{[ 1 ]}

Esta función calcula la cartera de inversión óptima utilizando los parámetros y procesos estocásticos especificados.

función Inversión Óptima(${\displaystyle W_{t_{i+1}}-W_{t_{i}}}$,${\displaystyle x}$,${\displaystyle \theta =(X_{0},H_{0},\theta _{1},\theta _{2},\dots ,\theta _{N-1})}$) es // Paso 1: Inicialización para${\displaystyle k:=0}$para maxstep hacer${\displaystyle M_{0}^{k,m}:=0}$,${\displaystyle X_{0}^{k,m}:=X_{0}^{k}}$// Inicialización de parámetros para${\displaystyle i:=0}$a${\displaystyle N-1}$hacer${\displaystyle H_{t_{i}}^{k,m}:={\mathcal {NN}}(M_{t_{i}}^{k,m};\theta _{i}^{k})}$// Actualizar la unidad de red neuronal de alimentación directa${\displaystyle M_{t_{i+1}}^{k,m}:=M_{t_{i}}^{k,m}+{\big (}(1-\phi )(\mu _{t_{i}}-M_{t_{i}}^{k,m}){\big )}(t_{i+1}-t_{i})+\sigma _{t_{i}}(W_{t_{i+1}}-W_{t_{i}})}$${\displaystyle X_{t_{i+1}}^{k,m}:=X_{t_{i}}^{k,m}+{\big [}H_{t_{i}}^{k,m}(\phi (M_{t_{i}}^{k,m}-\mu _{t_{i}})+\mu _{t_{i}}){\big ]}(t_{i+1}-t_{i})+H_{t_{i}}^{k,m}(W_{t_{i+1}}-W_{t_{i}})}$// Paso 2: Calcular la función de pérdida${\displaystyle {\mathcal {L}}(t):={\frac {1}{M}}\sum _{m=1}^{M}\left|X_{t_{N}}^{k,m}-g(M_{t_{N}}^{k,m})\right|^{2}}$// Paso 3: Actualizar parámetros mediante la optimización de ADAM${\displaystyle \theta ^{k+1}:=\operatorname {ADAM} (\theta ^{k},\nabla {\mathcal {L}}(t))}$${\displaystyle X_{0}^{k+1}:=\operatorname {ADAM} (X_{0}^{k},\nabla {\mathcal {L}}(t))}$// Paso 4: Devolver el estado del terminal${\displaystyle (M_{t_{N}},X_{t_{N}})}$

Fuentes: ^{[ 1 ] [ 12 ]}

1. Capacidad para alta dimensionalidad: En comparación con los métodos numéricos tradicionales, el método BSDE profundo ofrece un rendimiento excepcionalmente bueno en problemas de alta dimensionalidad.
2. Flexibilidad: La incorporación de redes neuronales profundas permite que este método se adapte a diversos tipos de BSDE y modelos financieros.
3. Computación paralela: Los marcos de aprendizaje profundo admiten la aceleración por GPU, lo que mejora significativamente la eficiencia computacional.

Fuentes: ^{[ 1 ] [ 12 ]}

1. Tiempo de entrenamiento: El entrenamiento de redes neuronales profundas generalmente requiere una cantidad sustancial de datos y recursos computacionales.
2. Sensibilidad de los parámetros: La elección de la arquitectura de la red neuronal y de los hiperparámetros influye enormemente en los resultados, y a menudo requiere experiencia y un método de ensayo y error.