Descomposición del rango tensorial

En álgebra multilineal , la descomposición de un tensor por rango ^[1] o descomposición por rango R es la descomposición de un tensor como una suma de R tensores de rango 1, donde R es mínimo. Calcular esta descomposición es un problema abierto. ^{[ Se necesita aclaración ]}

La descomposición poliádica canónica (CPD) es una variante de la descomposición de rangos tensoriales, en la que el tensor se aproxima como una suma de K tensores de rango 1 para un K especificado por el usuario . La descomposición CP ha encontrado algunas aplicaciones en lingüística y quimiometría . Fue introducida por Frank Lauren Hitchcock en 1927 ^[2] y luego redescubierta varias veces, en particular en psicometría. ^{[3] [4]} La descomposición CP se conoce como CANDECOMP, ^[3] PARAFAC, ^[4] o CANDECOMP/PARAFAC (CP). Tenga en cuenta que la descomposición de rangos PARAFAC2 es una variación de la descomposición CP. ^[5]

Otra generalización popular de la matriz SVD, conocida como descomposición en valores singulares de orden superior, calcula matrices de modos ortonormales y ha encontrado aplicaciones en econometría , procesamiento de señales , visión artificial , gráficos por computadora y psicometría .

Una variable escalar se denota con letras cursivas minúsculas, y un escalar de límite superior se denota con una letra cursiva mayúscula . ${\estilo de visualización a}$${\estilo de visualización A}$

Los índices se indican mediante una combinación de letras cursivas en mayúsculas y minúsculas. Los índices múltiples que uno puede encontrar al referirse a los múltiples modos de un tensor se indican convenientemente mediante donde . ${\displaystyle 1\leq i\leq I}$${\displaystyle 1\leq i_{m}\leq I_{m}}$${\displaystyle 1\leq m\leq M}$

Un vector se denota con letras Times Roman minúsculas y negrita, y una matriz se denota con letras mayúsculas y negrita . ${\displaystyle \mathbf {a}}$${\displaystyle \mathbf {A}}$

Un tensor de orden superior se denota con letras caligráficas, . Un elemento de un tensor de orden superior se denota con o . ${\displaystyle {\mathcal {A}}}$${\estilo de visualización M}$${\displaystyle {\mathcal {A}}\in \mathbb {C} ^{I_{1}\times I_{2}\times \dots I_{m}\times \dots I_{M}}}$${\displaystyle a_{i_{1},i_{2},\puntos ,i_{m},\puntos i_{M}}}$${\displaystyle {\mathcal {A}}_{i_{1},i_{2},\puntos ,i_{m},\puntos i_{M}}}$

Un tensor de datos es una colección de observaciones multivariadas organizadas en una matriz de M vías donde M = C +1. Cada tensor puede representarse con un valor adecuadamente grande como una combinación lineal de tensores de rango 1: ${\displaystyle {\mathcal {A}}\in {\mathbb {F} }^{I_{0}\times I_{1}\times \ldots \times I_{C}}}$${\estilo de visualización R}$${\estilo de visualización r}$

${\displaystyle {\mathcal {A}}=\sum _{r=1}^{R}\lambda _{r}\mathbf {a} _{0,r}\otimes \mathbf {a} _{1 ,r}\otimes \mathbf {a} _{2,r}\dots \otimes \mathbf {a} _{c,r}\otimes \cdots \otimes \mathbf {a} _{C,r},}$

donde y donde . Cuando el número de términos es mínimo en la expresión anterior, entonces se denomina rango del tensor, y la descomposición a menudo se conoce como descomposición por rango (tensor) , descomposición CP mínima o descomposición poliádica canónica (CPD) . Si el número de términos no es mínimo, entonces la descomposición anterior a menudo se conoce como CANDECOMP/PARAFAC , descomposición poliádica.${\displaystyle \lambda _{r}\in {\mathbb {R} }}$${\displaystyle \mathbf {a} _{m,r}\in {\mathbb {F} }^{I_{m}}}$${\displaystyle 1\leq m\leq M}$${\displaystyle R}$${\displaystyle R}$

Al contrario del caso de las matrices, calcular el rango de un tensor es NP-difícil . ^[6] El único caso notable bien entendido consiste en tensores en , cuyo rango se puede obtener a partir de la forma normal de Kronecker - Weierstrass de la matriz lineal lápiz que representa el tensor. ^[7] Existe un algoritmo simple de tiempo polinomial para certificar que un tensor es de rango 1, a saber, la descomposición en valores singulares de orden superior . ${\displaystyle F^{I_{m}}\otimes F^{I_{n}}\otimes F^{2}}$

El rango del tensor de ceros es cero por convención. El rango de un tensor es uno, siempre que . ${\displaystyle \mathbf {a} _{1}\otimes \cdots \otimes \mathbf {a} _{M}}$${\displaystyle \mathbf {a} _{m}\in F^{I_{m}}\setminus \{0\}}$

El rango de un tensor depende del campo sobre el que se descompone el tensor. Se sabe que algunos tensores reales pueden admitir una descomposición compleja cuyo rango es estrictamente menor que el rango de una descomposición real del mismo tensor. Como ejemplo, ^[8] considere el siguiente tensor real

${\displaystyle {\mathcal {A}}=\mathbf {x} _{1}\otimes \mathbf {x} _{2}\otimes \mathbf {x} _{3}+\mathbf {x} _{1}\otimes \mathbf {y} _{2}\otimes \mathbf {y} _{3}-\mathbf {y} _{1}\otimes \mathbf {x} _{2}\otimes \mathbf {y} _{3}+\mathbf {y} _{1}\otimes \mathbf {y} _{2}\otimes \mathbf {x} _{3},}$

donde . Se sabe que el rango de este tensor sobre los números reales es 3, mientras que su rango complejo es solo 2 porque es la suma de un tensor complejo de rango 1 con su conjugado complejo , es decir ${\displaystyle \mathbf {x} _{i},\mathbf {y} _{j}\in \mathbb {R} ^{2}}$

${\displaystyle {\mathcal {A}}={\frac {1}{2}}({\bar {\mathbf {z} }}_{1}\otimes \mathbf {z} _{2}\otimes {\bar {\mathbf {z} }}_{3}+\mathbf {z} _{1}\otimes {\bar {\mathbf {z} }}_{2}\otimes \mathbf {z} _{3}),}$

dónde . ${\displaystyle \mathbf {z} _{k}=\mathbf {x} _{k}+i\mathbf {y} _{k}}$

Por el contrario, el rango de las matrices reales nunca disminuirá bajo una extensión de campo a : el rango de la matriz real y el rango de la matriz compleja coinciden para las matrices reales. ${\displaystyle \mathbb {C} }$

El rango genérico se define como el rango menor tal que la clausura en la topología de Zariski del conjunto de tensores de rango como máximo es todo el espacio . En el caso de tensores complejos, los tensores de rango como máximo forman un conjunto denso : cada tensor en el espacio mencionado anteriormente es o bien de rango menor que el rango genérico, o bien es el límite en la topología euclidiana de una secuencia de tensores de . En el caso de tensores reales, el conjunto de tensores de rango como máximo solo forma un conjunto abierto de medida positiva en la topología euclidiana. Pueden existir conjuntos euclidianos-abiertos de tensores de rango estrictamente superior al rango genérico. Todos los rangos que aparecen en conjuntos abiertos en la topología euclidiana se denominan rangos típicos . El rango típico más pequeño se denomina rango genérico; esta definición se aplica tanto a tensores complejos como reales. El rango genérico de los espacios tensoriales fue estudiado inicialmente en 1983 por Volker Strassen . ^[9]${\displaystyle r(I_{1},\ldots ,I_{M})}$${\displaystyle r}$${\displaystyle r}$${\displaystyle F^{I_{1}}\otimes \cdots \otimes F^{I_{M}}}$${\displaystyle r(I_{1},\ldots ,I_{M})}$ ${\displaystyle S}$${\displaystyle S}$${\displaystyle r(I_{1},\ldots ,I_{M})}$

Como ilustración de los conceptos anteriores, se sabe que tanto 2 como 3 son rangos típicos de mientras que el rango genérico de es 2. En la práctica, esto significa que un tensor real muestreado aleatoriamente (de una medida de probabilidad continua en el espacio de tensores) de tamaño será un tensor de rango 1 con probabilidad cero, un tensor de rango 2 con probabilidad positiva y un tensor de rango 3 con probabilidad positiva. Por otro lado, un tensor complejo muestreado aleatoriamente del mismo tamaño será un tensor de rango 1 con probabilidad cero, un tensor de rango 2 con probabilidad uno y un tensor de rango 3 con probabilidad cero. Incluso se sabe que el tensor real genérico de rango 3 en será de rango complejo igual a 2. ${\displaystyle \mathbb {R} ^{2}\otimes \mathbb {R} ^{2}\otimes \mathbb {R} ^{2}}$${\displaystyle \mathbb {C} ^{2}\otimes \mathbb {C} ^{2}\otimes \mathbb {C} ^{2}}$${\displaystyle 2\times 2\times 2}$${\displaystyle \mathbb {R} ^{2}\otimes \mathbb {R} ^{2}\otimes \mathbb {R} ^{2}}$

El rango genérico de los espacios tensoriales depende de la distinción entre espacios tensoriales equilibrados y no equilibrados. Un espacio tensorial , donde , se denomina no equilibrado siempre que ${\displaystyle F^{I_{1}}\otimes \cdots \otimes F^{I_{M}}}$${\displaystyle I_{1}\geq I_{2}\geq \cdots \geq I_{M}}$

${\displaystyle I_{1}>1+\prod _{m=2}^{M}I_{m}-\sum _{m=2}^{M}(I_{m}-1),}$

y en caso contrario se llama equilibrado .

Cuando el primer factor es muy grande con respecto a los otros factores en el producto tensorial, entonces el espacio tensorial se comporta esencialmente como un espacio matricial. Se sabe que el rango genérico de los tensores que viven en espacios tensoriales desequilibrados es igual a

${\displaystyle r(I_{1},\ldots ,I_{M})=\min \left\{I_{1},\prod _{m=2}^{M}I_{m}\right\}}$

casi en todas partes . Más precisamente, el rango de cada tensor en un espacio tensorial desequilibrado , donde es un conjunto cerrado indeterminado en la topología de Zariski, es igual al valor anterior. ^[10]${\displaystyle F^{I_{1}\times \cdots \times I_{M}}\setminus Z}$${\displaystyle Z}$

El rango genérico esperado de los tensores que viven en un espacio tensorial equilibrado es igual a

${\displaystyle r_{E}(I_{1},\ldots ,I_{M})=\left\lceil {\frac {\Pi }{\Sigma +1}}\right\rceil }$

casi en todas partes para tensores complejos y en un conjunto euclidiano abierto para tensores reales, donde

${\displaystyle \Pi =\prod _{m=1}^{M}I_{m}\quad {\text{and}}\quad \Sigma =\sum _{m=1}^{M}(I_{m}-1).}$

Más precisamente, se espera que el rango de cada tensor en , donde es un conjunto cerrado indeterminado en la topología de Zariski , sea igual al valor anterior. ^[11] Para tensores reales, es el rango mínimo que se espera que ocurra en un conjunto de medida euclidiana positiva. El valor a menudo se denomina rango genérico esperado del espacio tensorial porque solo es correcto conjeturalmente. Se sabe que el rango genérico verdadero siempre satisface ${\displaystyle \mathbb {C} ^{I_{1}\times \cdots \times I_{M}}\setminus Z}$${\displaystyle Z}$${\displaystyle r_{E}(I_{1},\ldots ,I_{M})}$${\displaystyle r_{E}(I_{1},\ldots ,I_{M})}$${\displaystyle F^{I_{1}\times \cdots \times I_{M}}}$

${\displaystyle r(I_{1},\ldots ,I_{M})\geq r_{E}(I_{1},\ldots ,I_{M}).}$

La conjetura de Abo–Ottaviani–Peterson ^[11] establece que se espera igualdad, es decir, , con los siguientes casos excepcionales: ${\displaystyle r(I_{1},\ldots ,I_{M})=r_{E}(I_{1},\ldots ,I_{M})}$

• ${\displaystyle F^{(2m+1)\times (2m+1)\times 3}{\text{ with }}m=1,2,\ldots }$
• ${\displaystyle F^{(m+1)\times (m+1)\times 2\times 2}{\text{ with }}m=2,3,\ldots }$

En cada uno de estos casos excepcionales, se sabe que el rango genérico es . Nótese que, si bien el conjunto de tensores de rango 3 en es defectuoso (13 y no el esperado 14), el rango genérico en ese espacio sigue siendo el esperado, 4. De manera similar, el conjunto de tensores de rango 5 en es defectuoso (44 y no el esperado 45), pero el rango genérico en ese espacio sigue siendo el esperado 6. ${\displaystyle r(I_{1},\ldots ,I_{m},\ldots ,I_{M})=r_{E}(I_{1},\ldots ,I_{M})+1}$${\displaystyle F^{2\times 2\times 2\times 2}}$${\displaystyle F^{4\times 4\times 3}}$

La conjetura AOP ha sido demostrada completamente en varios casos especiales. Lickteig ya demostró en 1985 que , siempre que . ^[12] En 2011, Catalisano, Geramita y Gimigliano lograron un gran avance al demostrar que la dimensión esperada del conjunto de tensores de rango de formato es la esperada, excepto para los tensores de rango 3 en el caso de 4 factores, aunque el rango esperado en ese caso sigue siendo 4. Como consecuencia, para todos los tensores binarios. ^[13]${\displaystyle r(n,n,n)=r_{E}(n,n,n)}$${\displaystyle n\neq 3}$${\displaystyle s}$${\displaystyle 2\times 2\times \cdots \times 2}$${\displaystyle r(2,2,\ldots ,2)=r_{E}(2,2,\ldots ,2)}$

El rango máximo que puede ser admitido por cualquiera de los tensores en un espacio tensorial es desconocido en general; incluso falta una conjetura sobre este rango máximo. Actualmente, el mejor límite superior general establece que el rango máximo de , donde , satisface ${\displaystyle r_{\mbox{max}}(I_{1},\ldots ,I_{M})}$${\displaystyle F^{I_{1}}\otimes \cdots \otimes F^{I_{M}}}$${\displaystyle I_{1}\geq I_{2}\geq \cdots \geq I_{M}}$

${\displaystyle r_{\mbox{max}}(I_{1},\ldots ,I_{M})\leq \min \left\{\prod _{m=2}^{M}I_{m},2\cdot r(I_{1},\ldots ,I_{M})\right\},}$

donde es el rango genérico (menor) de . ^[14] Es bien sabido que la desigualdad anterior puede ser estricta. Por ejemplo, el rango genérico de los tensores en es dos, de modo que el límite anterior produce , mientras que se sabe que el rango máximo es igual a 3. ^[8]${\displaystyle r(I_{1},\ldots ,I_{M})}$${\displaystyle F^{I_{1}}\otimes \cdots \otimes F^{I_{M}}}$${\displaystyle \mathbb {R} ^{2\times 2\times 2}}$${\displaystyle r_{\mbox{max}}(2,2,2)\leq 4}$

Un tensor de rango se denomina tensor de borde si existe una secuencia de tensores de rango como máximo cuyo límite es . Si es el valor mínimo para el que existe dicha secuencia convergente, entonces se denomina rango de borde de . Para tensores de orden 2, es decir, matrices, el rango y el rango de borde siempre coinciden, sin embargo, para tensores de orden pueden diferir. Los tensores de borde fueron estudiados por primera vez en el contexto de algoritmos rápidos de multiplicación de matrices aproximadas por Bini, Lotti y Romani en 1980. ^[15]${\displaystyle s}$${\displaystyle {\mathcal {A}}}$${\displaystyle r<s}$${\displaystyle {\mathcal {A}}}$${\displaystyle r}$${\displaystyle {\mathcal {A}}}$${\displaystyle \geq 3}$

Un ejemplo clásico de un tensor de borde es el tensor de rango 3

${\displaystyle {\mathcal {A}}=\mathbf {u} \otimes \mathbf {u} \otimes \mathbf {v} +\mathbf {u} \otimes \mathbf {v} \otimes \mathbf {u} +\mathbf {v} \otimes \mathbf {u} \otimes \mathbf {u} ,\quad {\text{with }}\|\mathbf {u} \|=\|\mathbf {v} \|=1{\text{ and }}\langle \mathbf {u} ,\mathbf {v} \rangle \neq 1.}$

Se puede aproximar arbitrariamente bien mediante la siguiente secuencia de tensores de rango 2

${\displaystyle {\begin{aligned}{\mathcal {A}}_{m}&=m(\mathbf {u} +{\frac {1}{m}}\mathbf {v} )\otimes (\mathbf {u} +{\frac {1}{m}}\mathbf {v} )\otimes (\mathbf {u} +{\frac {1}{m}}\mathbf {v} )-m\mathbf {u} \otimes \mathbf {u} \otimes \mathbf {u} \\&=\mathbf {u} \otimes \mathbf {u} \otimes \mathbf {v} +\mathbf {u} \otimes \mathbf {v} \otimes \mathbf {u} +\mathbf {v} \otimes \mathbf {u} \otimes \mathbf {u} +{\frac {1}{m}}(\mathbf {u} \otimes \mathbf {v} \otimes \mathbf {v} +\mathbf {v} \otimes \mathbf {u} \otimes \mathbf {v} +\mathbf {v} \otimes \mathbf {v} \otimes \mathbf {u} )+{\frac {1}{m^{2}}}\mathbf {v} \otimes \mathbf {v} \otimes \mathbf {v} \end{aligned}}}$

como . Por lo tanto, su rango de frontera es 2, que es estrictamente menor que su rango. Cuando los dos vectores son ortogonales, este ejemplo también se conoce como un estado W . ${\displaystyle m\to \infty }$

De la definición de un tensor puro se deduce que si y solo si existen tales que y para todo m . Por esta razón, los parámetros de un tensor de rango 1 se denominan identificables o esencialmente únicos. Un tensor de rango se denomina identificable si cada una de sus descomposiciones de rango tensorial es la suma del mismo conjunto de tensores distintos donde los son de rango 1. Un tensor de rango identificable tiene, por tanto, solo una descomposición esencialmente única y todas las descomposiciones de rango tensorial de se pueden obtener permutando el orden de los sumandos. Obsérvese que en una descomposición de rango tensorial todos los son distintos, ya que de lo contrario el rango de sería como máximo . ${\displaystyle {\mathcal {A}}=\mathbf {a} _{1}\otimes \mathbf {a} _{2}\otimes \cdots \otimes \mathbf {a} _{M}=\mathbf {b} _{1}\otimes \mathbf {b} _{2}\otimes \cdots \otimes \mathbf {b} _{M}}$${\displaystyle \lambda _{k}}$${\displaystyle \lambda _{1}\lambda _{2}\cdots \lambda _{M}=1}$${\displaystyle \mathbf {a} _{m}=\lambda _{m}\mathbf {b} _{m}}$${\displaystyle \{\mathbf {a} _{m}\}_{m=1}^{M}}$${\displaystyle {\mathcal {A}}}$${\displaystyle r}$${\displaystyle {\mathcal {A}}\in F^{I_{1}}\otimes F^{I_{2}}\otimes \cdots \otimes F^{I_{M}}}$${\displaystyle r}$${\displaystyle \{{\mathcal {A}}_{1},{\mathcal {A}}_{2},\ldots ,{\mathcal {A}}_{r}\}}$${\displaystyle {\mathcal {A}}_{i}}$${\displaystyle r}$$${\displaystyle {\mathcal {A}}=\sum _{i=1}^{r}{\mathcal {A}}_{i},}$$${\displaystyle r!}$${\displaystyle {\mathcal {A}}}$${\displaystyle {\mathcal {A}}_{i}}$${\displaystyle {\mathcal {A}}}$${\displaystyle r-1}$

Los tensores de orden 2 en , es decir, matrices, no son identificables para . Esto se desprende esencialmente de la observación donde es una matriz invertible, , y . Se puede demostrar ^[16] que para cada , donde es un conjunto cerrado en la topología de Zariski, la descomposición en el lado derecho es una suma de un conjunto diferente de tensores de rango 1 que la descomposición en el lado izquierdo, lo que implica que los tensores de orden 2 de rango no son genéricamente identificables. ${\displaystyle F^{I_{1}}\otimes F^{I_{2}}\simeq F^{I_{1}\times I_{2}}}$${\displaystyle r>1}$$${\displaystyle {\mathcal {A}}=\sum _{i=1}^{r}\mathbf {a} _{i}\otimes \mathbf {b} _{i}=\sum _{i=1}^{r}\mathbf {a} _{i}\mathbf {b} _{i}^{T}=AB^{T}=(AX^{-1})(BX^{T})^{T}=\sum _{i=1}^{r}\mathbf {c} _{i}\mathbf {d} _{i}^{T}=\sum _{i=1}^{r}\mathbf {c} _{i}\otimes \mathbf {d} _{i},}$$${\displaystyle X\in \mathrm {GL} _{r}(F)}$${\displaystyle r\times r}$${\displaystyle A=[\mathbf {a} _{i}]_{i=1}^{r}}$${\displaystyle B=[\mathbf {b} _{i}]_{i=1}^{r}}$${\displaystyle AX^{-1}=[\mathbf {c} _{i}]_{i=1}^{r}}$${\displaystyle BX^{T}=[\mathbf {d} _{i}]_{i=1}^{r}}$${\displaystyle X\in \mathrm {GL} _{n}(F)\setminus Z}$${\displaystyle Z}$${\displaystyle r>1}$

La situación cambia completamente para tensores de orden superior en con y todos . Para simplificar la notación, supongamos sin pérdida de generalidad que los factores están ordenados de tal manera que . Sea el conjunto de tensores de rango acotado por . Luego, se demostró que la siguiente afirmación era correcta utilizando una prueba asistida por computadora para todos los espacios de dimensión , ^[17] y se conjetura que es válida en general: ^{[17] [18] [19]}${\displaystyle F^{I_{1}}\otimes F^{I_{2}}\otimes \cdots \otimes F^{I_{M}}}$${\displaystyle M>2}$${\displaystyle I_{m}\geq 2}$${\displaystyle I_{1}\geq I_{2}\geq \cdots \geq I_{M}\geq 2}$${\displaystyle S_{r}\subset F^{I_{1}}\otimes \cdots F^{I_{m}}\otimes \cdots \otimes F^{I_{M}}}$${\displaystyle r}$${\displaystyle \Pi <15000}$

Existe un conjunto cerrado en la topología de Zariski tal que cada tensor es identificable ( en este caso se denomina genéricamente identificable ), a menos que se cumpla alguno de los siguientes casos excepcionales: ${\displaystyle Z_{r}}$ ${\displaystyle {\mathcal {A}}\in S_{r}\setminus Z_{r}}$${\displaystyle S_{r}}$

1. El rango es demasiado grande: ;${\displaystyle r>r_{E}(I_{1},I_{2},\ldots ,I_{M})}$
2. El espacio no tiene equilibrio de identificación, es decir , y el rango es demasiado grande: ;${\textstyle I_{1}>\prod _{m=2}^{M}i_{m}-\sum _{m=2}^{M}(I_{m}-1)}$${\textstyle r\geq \prod _{m=2}^{M}I_{m}-\sum _{m=2}^{M}(I_{m}-1)}$
3. El espacio es el caso defectuoso y el rango es ;${\displaystyle F^{4}\otimes F^{4}\otimes F^{3}}$${\displaystyle r=5}$
4. El espacio es el caso defectuoso , donde , y el rango es ;${\displaystyle F^{n}\otimes F^{n}\otimes F^{2}\otimes F^{2}}$${\displaystyle n\geq 2}$${\displaystyle r=2n-1}$
5. El espacio es y el rango es ;${\displaystyle F^{4}\otimes F^{4}\otimes F^{4}}$${\displaystyle r=6}$
6. El espacio es y el rango es ; o${\displaystyle F^{6}\otimes F^{6}\otimes F^{3}}$${\displaystyle r=8}$
7. El espacio es y el rango es .${\displaystyle F^{2}\otimes F^{2}\otimes F^{2}\otimes F^{2}\otimes F^{2}}$${\displaystyle r=5}$
8. El espacio es perfecto, es decir, es un entero, y el rango es .${\textstyle r_{E}(I_{1},I_{2},\ldots ,I_{M})={\frac {\Pi }{\Sigma +1}}}$${\textstyle r=r_{E}(I_{1},I_{2},\ldots ,I_{M})}$

En estos casos excepcionales, el número genérico (y también mínimo) de descomposiciones complejas es

• resultó estar en los primeros 4 casos;${\displaystyle \infty }$
• Resultó ser dos en el caso 5; ^[20]
• Se esperaba que ^[21] fueran seis en el caso 6;
• resultaron ser dos en el caso 7; ^[22] y
• Se espera que ^[21] sean al menos dos en el caso 8 con excepción de los dos casos identificables y .${\displaystyle F^{5}\otimes F^{4}\otimes F^{3}}$${\displaystyle F^{3}\otimes F^{2}\otimes F^{2}\otimes F^{2}}$

En resumen, se espera que el tensor genérico de orden y rango que no está desequilibrado en cuanto a identificabilidad sea identificable (módulo de los casos excepcionales en espacios pequeños). ${\displaystyle M>2}$${\textstyle r<{\frac {\Pi }{\Sigma +1}}}$

El problema de aproximación de rangos pide la descomposición de rangos más cercana (en la topología euclidiana habitual) a algún tensor de rangos , donde . Es decir, se busca resolver ${\displaystyle r}$${\displaystyle s}$${\displaystyle {\mathcal {A}}}$${\displaystyle r<s}$

${\displaystyle \min _{\mathbf {a} _{i}^{m}\in F^{I_{m}}}\|{\mathcal {A}}-\sum _{i=1}^{r}\mathbf {a} _{i}^{1}\otimes \mathbf {a} _{i}^{2}\otimes \cdots \otimes \mathbf {a} _{i}^{M}\|_{F},}$

¿Dónde está la norma de Frobenius ? ${\displaystyle \|\cdot \|_{F}}$

^{En un artículo de 2008 de de Silva y Lim [8]} se demostró que el problema de aproximación estándar anterior puede estar mal planteado . A veces, puede que no exista una solución al problema mencionado anteriormente porque el conjunto sobre el que se optimiza no es cerrado. Como tal, puede que no exista un minimizador, aunque sí exista un ínfimo. En particular, se sabe que ciertos llamados tensores de borde pueden aproximarse arbitrariamente bien mediante una secuencia de tensores de rango como máximo , aunque el límite de la secuencia converja a un tensor de rango estrictamente superior a . El tensor de rango 3 ${\displaystyle r}$${\displaystyle r}$

${\displaystyle {\mathcal {A}}=\mathbf {u} \otimes \mathbf {u} \otimes \mathbf {v} +\mathbf {u} \otimes \mathbf {v} \otimes \mathbf {u} +\mathbf {v} \otimes \mathbf {u} \otimes \mathbf {u} ,\quad {\text{with }}\|\mathbf {u} \|=\|\mathbf {v} \|=1{\text{ and }}\langle \mathbf {u} ,\mathbf {v} \rangle \neq 1}$

se puede aproximar arbitrariamente bien mediante la siguiente secuencia de tensores de rango 2

${\displaystyle {\mathcal {A}}_{n}=n(\mathbf {u} +{\frac {1}{n}}\mathbf {v} )\otimes (\mathbf {u} +{\frac {1}{n}}\mathbf {v} )\otimes (\mathbf {u} +{\frac {1}{n}}\mathbf {v} )-n\mathbf {u} \otimes \mathbf {u} \otimes \mathbf {u} }$

como . Este ejemplo ilustra claramente el principio general de que una secuencia de tensores de rango que converge a un tensor de rango estrictamente superior necesita admitir al menos dos términos individuales de rango 1 cuyas normas se vuelven ilimitadas. Dicho formalmente, siempre que una secuencia ${\displaystyle n\to \infty }$${\displaystyle r}$

${\displaystyle {\mathcal {A}}_{n}=\sum _{i=1}^{r}\mathbf {a} _{i,n}^{1}\otimes \mathbf {a} _{i,n}^{2}\otimes \cdots \otimes \mathbf {a} _{i,n}^{M}}$

tiene la propiedad de que (en la topología euclidiana) como , entonces debería existir al menos tal que ${\displaystyle {\mathcal {A}}_{n}\to {\mathcal {A}}}$${\displaystyle n\to \infty }$${\displaystyle 1\leq i\neq j\leq r}$

${\displaystyle \|\mathbf {a} _{i,n}^{1}\otimes \mathbf {a} _{i,n}^{2}\otimes \cdots \otimes \mathbf {a} _{i,n}^{M}\|_{F}\to \infty {\text{ and }}\|\mathbf {a} _{j,n}^{1}\otimes \mathbf {a} _{j,n}^{2}\otimes \cdots \otimes \mathbf {a} _{j,n}^{M}\|_{F}\to \infty }$

como . Este fenómeno se encuentra a menudo cuando se intenta aproximar un tensor utilizando algoritmos de optimización numérica. A veces se lo llama el problema de los componentes divergentes . Además, se demostró que un tensor aleatorio de bajo rango sobre los números reales puede no admitir una aproximación de rango 2 con probabilidad positiva, lo que lleva a la comprensión de que el problema de la mala formulación es una consideración importante al emplear la descomposición del rango del tensor. ${\displaystyle n\to \infty }$

Una solución parcial común al problema de la mal formulación consiste en imponer una restricción de desigualdad adicional que limita la norma de los términos de rango 1 individuales mediante alguna constante. Otras restricciones que resultan en un conjunto cerrado y, por lo tanto, en un problema de optimización bien formulado, incluyen la imposición de positividad o un producto interno acotado estrictamente menor que la unidad entre los términos de rango 1 que aparecen en la descomposición buscada.

Algoritmos alternos:

• mínimos cuadrados alternos (ALS)
• diagonalización alternada por cortes (ASD)

Algoritmos directos:

• algoritmos basados ​​en lápiz ^{[23] [24] [25] [26] [27] [28] [29]}
• algoritmos basados ​​en momentos ^[30]

Algoritmos generales de optimización:

• diagonalización simultánea (SD)
• Descomposición de Schur generalizada simultánea (SGSD)
• Levenberg–Marquardt (LM)
• gradiente conjugado no lineal (NCG)
• BFGS de memoria limitada (L-BFGS)

Algoritmos generales de resolución de sistemas polinomiales:

• continuación de homotopía ^[31]

En el aprendizaje automático, la descomposición CP es el ingrediente central en el aprendizaje de modelos probabilísticos de variables latentes a través de la técnica de coincidencia de momentos. Por ejemplo, considere el modelo de múltiples vistas ^[32] que es un modelo probabilístico de variable latente. En este modelo, la generación de muestras se postula de la siguiente manera: existe una variable aleatoria oculta que no se observa directamente, dada la cual, hay varias variables aleatorias condicionalmente independientes conocidas como las diferentes "vistas" de la variable oculta. Por ejemplo, suponga que hay tres vistas de una variable oculta categórica de estado . Entonces, el tercer momento empírico de este modelo de variable latente es un tensor de rango 3 y se puede descomponer como: . ${\displaystyle x_{1},x_{2},x_{3}}$${\displaystyle k}$${\displaystyle h}$${\displaystyle E[x_{1}\otimes x_{2}\otimes x_{3}]}$${\displaystyle E[x_{1}\otimes x_{2}\otimes x_{3}]=\sum _{i=1}^{k}Pr(h=i)E[x_{1}|h=i]\otimes E[x_{2}|h=i]\otimes E[x_{3}|h=i]}$

En aplicaciones como el modelado de temas , esto se puede interpretar como la coocurrencia de palabras en un documento. Luego, los coeficientes en la descomposición de este tensor de momento empírico se pueden interpretar como la probabilidad de elegir un tema específico y cada columna de la matriz de factores corresponde a las probabilidades de palabras en el vocabulario en el tema correspondiente. ${\displaystyle E[x|h=i]}$

• Análisis de clases latentes
• Aprendizaje de subespacios multilineales
• Descomposición en valores singulares
• Descomposición de Tucker
• Descomposición en valores singulares de orden superior
• Descomposición tensorial

• Kolda, Tamara G. ; Bader, Brett W. (2009). "Descomposiciones tensoriales y aplicaciones". SIAM Rev . 51 (3): 455–500. Bibcode :2009SIAMR..51..455K. CiteSeerX  10.1.1.153.2059 . doi :10.1137/07070111X. S2CID  16074195.
• Landsberg, Joseph M. (2012). Tensores: geometría y aplicaciones . AMS.

• Tutorial de PARAFAC
• Análisis factorial paralelo (PARAFAC)
• FactoMineR (software gratuito de análisis exploratorio de datos multivariados vinculado a R )