Análisis de componentes principales funcionales

El análisis de componentes principales funcionales ( FPCA ) es un método estadístico para investigar los modos dominantes de variación de datos funcionales . Utilizando este método, una función aleatoria se representa en la base propia, que es una base ortonormal del espacio de Hilbert L ² que consiste en las funciones propias del operador de autocovarianza . FPCA representa datos funcionales de la manera más parsimoniosa, en el sentido de que cuando se utiliza un número fijo de funciones base , la base de la función propia explica más variación que cualquier otra expansión de base. FPCA se puede aplicar para representar funciones aleatorias, ^[1] o en regresión funcional ^[2] y clasificación.

Para un proceso estocástico integrable al cuadrado X ( t ), t ∈ 𝒯, sea

${\displaystyle \mu(t)={\text{E}}(X(t))}$

y

${\displaystyle G(s,t)={\text{Cov}}(X(s),X(t))=\sum _{k=1}^{\infty }\lambda _{k}\varphi _{k}(s)\varphi _{k}(t),}$

donde son los valores propios y , , ... son las funciones propias ortonormales del operador lineal de Hilbert-Schmidt${\displaystyle \lambda _{1}\geq \lambda _{2}\geq ...\geq 0}$${\displaystyle \varphi _{1}}$${\displaystyle \varphi _{2}}$

${\displaystyle G:L^{2}({\mathcal {T}})\rightarrow L^{2}({\mathcal {T}}),\,G(f)=\int _{\mathcal {T}}G(s,t)f(s)ds.}$

Por el teorema de Karhunen-Loève , se puede expresar el proceso centrado en la base propia,

${\displaystyle X(t)-\mu(t)=\sum_{k=1}^{\infty}\xi_{k}\varphi_{k}(t),}$

dónde

${\displaystyle \xi_{k}=\int_{\mathcal {T}}(X(t)-\mu(t))\varphi_{k}(t)dt}$

es el componente principal asociado con la función propia k - ésima , con las propiedades ${\displaystyle \varphi _{k}}$

${\displaystyle {\text{E}}(\xi _{k})=0,{\text{Var}}(\xi _{k})=\lambda _{k}{\text{ y }}{\text{E}}(\xi _{k}\xi _{l})=0{\text{ para }}k\neq l.}$

El proceso centrado es entonces equivalente a ξ ₁ , ξ ₂ , .... Una suposición común es que X puede representarse solo por las primeras funciones propias (después de restar la función media), es decir

${\displaystyle X(t)\approx X_{m}(t)=\mu (t)+\sum _{k=1}^{m}\xi _{k}\varphi _{k}(t),}$

dónde

${\displaystyle \mathrm {E} \left(\int _{\mathcal {T}}\left(X(t)-X_{m}(t)\right)^{2}dt\right)=\sum _{j>m}\lambda _{j}\rightarrow 0{\text{ como }}m\rightarrow \infty .}$

La primera función propia representa el modo dominante de variación de X.${\displaystyle \varphi _{1}}$

${\displaystyle \varphi _{1}={\underset {\Vert \mathbf {\varphi } \Vert =1}{\operatorname {arg\,max} }}\left\{\operatorname {Var} (\int _{\mathcal {T}}(X(t)-\mu (t))\varphi (t)dt)\right\},}$

dónde

${\displaystyle \Vert \mathbf {\varphi } \Vert =\left(\int _{\mathcal {T}}\varphi (t)^{2}dt\right)^{\frac {1}{2}}.}$

La función propia k -ésima es el modo dominante de variación ortogonal a , , ... , , ${\displaystyle \varphi _{k}}$${\displaystyle \varphi _{1}}$${\displaystyle \varphi _{2}}$${\displaystyle \varphi _{k-1}}$

${\displaystyle \varphi _{k}={\underset {\Vert \mathbf {\varphi } \Vert =1,\langle \varphi ,\varphi _{j}\rangle =0{\text{ para }}j=1,\dots ,k-1}{\operatorname {arg\,max} }}\left\{\operatorname {Var} (\int _{\mathcal {T}}(X(t)-\mu (t))\varphi (t)dt)\right\},}$

dónde

${\displaystyle \langle \varphi ,\varphi _{j}\rangle =\int _{\mathcal {T}}\varphi (t)\varphi _{j}(t)dt,{\text{ para }} j=1,\puntos,k-1.}$

Sea Y _ij = X _i ( t _ij ) + ε _ij las observaciones realizadas en las ubicaciones (normalmente puntos temporales) t _ij , donde X _i es la i -ésima realización del proceso estocástico suave que genera los datos, y ε _ij son variables aleatorias normales distribuidas de forma idéntica e independiente con media 0 y varianza σ ² , j = 1, 2, ..., m _i . Para obtener una estimación de la función media μ ( t _ij ), si se dispone de una muestra densa en una cuadrícula regular, se puede tomar el promedio en cada ubicación t _ij :

${\displaystyle {\hat {\mu }}(t_{ij})={\frac {1}{n}}\sum _{i=1}^{n}Y_{ij}.}$

Si las observaciones son escasas, es necesario suavizar los datos agrupados de todas las observaciones para obtener la estimación media, ^[3] utilizando métodos de suavizado como el suavizado lineal local o el suavizado de spline .

Luego, la estimación de la función de covarianza se obtiene promediando (en el caso denso) o suavizando (en el caso disperso) las covarianzas brutas. ${\displaystyle {\hat {G}}(s,t)}$

${\displaystyle G_{i}(t_{ij},t_{il})=(Y_{ij}-{\hat {\mu }}(t_{ij}))(Y_{il}-{\hat {\mu }}(t_{il})),j\neq l,i=1,\dots ,n.}$

Téngase en cuenta que los elementos diagonales de G _i deben eliminarse porque contienen errores de medición. ^[4]

En la práctica, se discretiza en una cuadrícula densa de espaciado uniforme, y la estimación de los valores propios λ _k y los vectores propios v _k se lleva a cabo mediante álgebra lineal numérica. ^[5] Las estimaciones de las funciones propias se pueden obtener interpolando los vectores propios.${\displaystyle {\hat {G}}(s,t)}$${\displaystyle {\hat {\varphi }}_{k}}$${\displaystyle {\hat {v_{k}}}.}$

La covarianza ajustada debe ser definida positiva y simétrica y luego se obtiene como

${\displaystyle {\tilde {G}}(s,t)=\sum _{\lambda _{k}>0}{\hat {\lambda }}_{k}{\hat {\varphi }}_{k}(s){\hat {\varphi }}_{k}(t).}$

Sea una versión suavizada de los elementos diagonales G _i ( t _ij , t _ij ) de las matrices de covarianza en bruto. Entonces es una estimación de ( G ( t , t ) + σ ² ). Una estimación de σ ² se obtiene mediante ${\displaystyle {\hat {V}}(t)}$${\displaystyle {\hat {V}}(t)}$

${\displaystyle {\hat {\sigma }}^{2}={\frac {2}{|{\mathcal {T}}|}}\int _{\mathcal {T}}({\hat {V}}(t)-{\tilde {G}}(t,t))dt,}$En caso contrario${\displaystyle {\hat {\sigma }}^{2}>0;}$${\displaystyle {\hat {\sigma }}^{2}=0.}$

Si las observaciones X _ij , j =1, 2, ..., m _i son densas en 𝒯, entonces el k -ésimo FPC ξ _k se puede estimar mediante integración numérica , implementando

${\displaystyle {\hat {\xi }}_{k}=\langle X-{\hat {\mu }},{\hat {\varphi }}_{k}\rangle .}$

Sin embargo, si las observaciones son escasas, este método no funcionará. En su lugar, se pueden utilizar los mejores predictores lineales imparciales , ^[3] obteniendo

${\displaystyle {\hat {\xi }}_{k}={\hat {\lambda }}_{k}{\hat {\varphi }}_{k}^{T}{\hat {\Sigma }}_{Y_{i}}^{-1}(Y_{i}-{\hat {\mu }}),}$

dónde

${\displaystyle {\hat {\Sigma }}_{Y_{i}}={\tilde {G}}+{\hat {\sigma }}^{2}\mathbf {I} _{m_{i}}}$,

y se evalúa en los puntos de la cuadrícula generados por t _ij , j = 1, 2, ..., m _i . El algoritmo, PACE, tiene un paquete Matlab disponible ^[6] y un paquete R ^[7]${\displaystyle {\tilde {G}}}$

Se han investigado las propiedades de convergencia asintótica de estas estimaciones. ^{[3] [8] [9]}

El FPCA se puede aplicar para mostrar los modos de variación funcional , ^{[1] [10]} en diagramas de dispersión de FPC entre sí o de respuestas contra FPC, para modelar datos longitudinales dispersos , ^[3] o para regresión y clasificación funcional (por ejemplo, regresión lineal funcional). ^{[2] Se pueden utilizar} diagramas de sedimentación y otros métodos para determinar el número de componentes incluidos. El análisis de componentes principales funcional tiene diversas aplicaciones en el análisis de series temporales. En la actualidad, este método se está adaptando a partir de técnicas multivariadas tradicionales para analizar conjuntos de datos financieros como índices bursátiles y generar gráficos de volatilidad implícita. ^[11] Un buen ejemplo de las ventajas del enfoque funcional es el FPCA suavizado (SPCA), desarrollado por Silverman [1996] y estudiado por Pezzulli y Silverman [1993], que permite la combinación directa de FPCA junto con un enfoque de suavizado general que hace posible el uso de la información almacenada en algunos operadores diferenciales lineales. Una aplicación importante del FPCA ya conocido a partir del PCA multivariante está motivada por la descomposición de Karhunen-Loève de una función aleatoria al conjunto de parámetros funcionales – funciones factoriales y cargas factoriales correspondientes (variables aleatorias escalares). Esta aplicación es mucho más importante que en el PCA multivariante estándar ya que la distribución de la función aleatoria es en general demasiado compleja para ser analizada directamente y la descomposición de Karhunen-Loève reduce el análisis a la interpretación de las funciones factoriales y la distribución de variables aleatorias escalares. Debido a la reducción de la dimensionalidad así como a su precisión para representar datos, existe un amplio margen para futuros desarrollos de técnicas de componentes principales funcionales en el campo financiero.

Aplicaciones del PCA en la ingeniería automotriz. ^{[12] [13] [14] [15]}

La siguiente tabla muestra una comparación de varios elementos del análisis de componentes principales (PCA) y FPCA. Ambos métodos se utilizan para la reducción de dimensionalidad . En las implementaciones, FPCA utiliza un paso de PCA.

Sin embargo, el PCA y el FPCA difieren en algunos aspectos críticos. En primer lugar, el orden de los datos multivariados en el PCA se puede permutar , lo que no tiene ningún efecto en el análisis, pero el orden de los datos funcionales lleva información de tiempo o espacio y no se puede reordenar. En segundo lugar, el espaciado de las observaciones en el FPCA importa, mientras que no hay ningún problema de espaciado en el PCA. En tercer lugar, el PCA regular no funciona para datos de alta dimensión sin regularización , mientras que el FPCA tiene una regularización incorporada debido a la suavidad de los datos funcionales y el truncamiento a un número finito de componentes incluidos.

• Análisis de componentes principales

• James O. Ramsay; BW Silverman (8 de junio de 2005). Análisis de datos funcionales. Springer. ISBN 978-0-387-40080-8.