Descomposición en valores singulares

En el caso especial en que${\displaystyle \mathbf {M} }$⁠ es un ⁠${\displaystyle m\times m}$matriz cuadrada real ,las matrices${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} ^{*}}$Se puede elegir que sea ortogonal real .${\displaystyle m\times m}$Matrices .​${\displaystyle \mathbf {M} }$Puede interpretarse como la representación de una transformación lineal .${\displaystyle \mathbf {x} \mapsto \mathbf {M} \mathbf {x} }$del espacio euclidiano​${\displaystyle \mathbb {R} ^{m}}$; luego las matrices${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} ^{*}}$⁠ representan rotaciones o reflexiones del espacio, mientras que ⁠${\displaystyle \mathbf {\Sigma } }$⁠ representa la escala de cada coordenada ⁠${\displaystyle \mathbf {x} _ {i}}$por el factor${\displaystyle \sigma _{i}}$⁠ . Por lo tanto, la descomposición SVD rompe cualquier transformación lineal de ⁠${\displaystyle \mathbb {R} ^{m}}$en una composición de tres transformaciones geométricas : una rotación o una reflexión .${\displaystyle \mathbf {V} ^{*}}$seguido de un escalado coordenada por coordenada${\displaystyle \mathbf {\Sigma } }$seguido de otra rotación o reflexión${\displaystyle \mathbf {U} }$⁠ .

En particular, si${\displaystyle \mathbf {M} }$Si tiene un determinante positivo, entonces${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} ^{*}}$Se pueden elegir rotaciones con reflexiones o rotaciones sin reflexiones.Si el determinante es negativo, exactamente una de ellas tendrá una reflexión. Si el determinante es cero, cada una puede elegirse independientemente para que sea de cualquiera de los dos tipos.

En el caso más general cuando la matriz ⁠${\displaystyle \mathbf {M} }$es real pero no cuadrado, es decir${\displaystyle m\times n}$con​​${\displaystyle m\neq n}$⁠ , puede interpretarse como una transformación lineal de ⁠${\displaystyle \mathbb {R} ^{n}}$a​​${\displaystyle \mathbb {R} ^{m}}$⁠ . Entonces ⁠${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} ^{*}}$⁠ pueden elegirse como rotaciones/reflexiones de ⁠${\displaystyle \mathbb {R} ^{m}}$y​​${\displaystyle \mathbb {R} ^{n}}$⁠ , respectivamente; y ⁠${\displaystyle \mathbf {\Sigma } }$⁠ , además de escalar el primero ⁠${\displaystyle \min\{m,n\}}$⁠ coordenadas, también extiende el vector con ceros [y Σ, además de escalar las primeras min{m, n} coordenadas de un vector, también lo extiende con m − n ceros si m > n, o elimina sus últimas n − m coordenadas si m < n] , es decir, elimina las coordenadas finales, para convertir ⁠${\displaystyle \mathbb {R} ^{n}}$en​​${\displaystyle \mathbb {R} ^{m}}$⁠ .

Como se muestra en la figura, los valores singulares pueden interpretarse como la magnitud de los semiejes de una elipse en 2D. Este concepto puede generalizarse a${\displaystyle n}$Espacio euclidiano de dimensión , con los valores singulares de cualquier .${\displaystyle n\times n}$⁠ matriz cuadrada vista como la magnitud del semieje de una${\displaystyle n}$elipsoide -dimensional . De manera similar, los valores singularesde cualquier${\displaystyle m\times n}$Una matriz puede verse como la magnitud del semieje de una${\displaystyle n}$elipsoide -dimensional en${\displaystyle m}$Espacio de dimensiones , por ejemplo, como una elipse en un plano bidimensional (inclinado) en un espacio tridimensional. Los valores singulares codifican la magnitud del semieje, mientras que los vectores singulares codifican la dirección. Consulte más abajo para obtener más detalles.

Desde​${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} ^{*}}$⁠ son unitarias, las columnas de cada una de ellas forman un conjunto de vectores ortonormales , que pueden considerarse vectores base . La matriz ⁠${\displaystyle \mathbf {M} }$mapea el vector base${\displaystyle \mathbf {v} _{i}}$al vector unitario estirado${\displaystyle \sigma _{i}\mathbf {u} _{i}}$Por definición de matriz unitaria, lo mismo ocurre con sus transpuestas conjugadas .${\displaystyle \mathbf {U} ^{*}}$y​​${\displaystyle \mathbf {V} }$⁠ , excepto que se pierde la interpretación geométrica de los valores singulares como estiramientos. En resumen, las columnas de ⁠${\displaystyle \mathbf {U} }$,​​${\displaystyle \mathbf {U} ^{*}}$,​​${\displaystyle \mathbf {V} }$y​​${\displaystyle \mathbf {V} ^{*}}$⁠ son bases ortonormales . cuando ⁠${\displaystyle \mathbf {M} }$es una matriz hermitiana semidefinida positiva ,${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} }$⁠ ambas son iguales a la matriz unitaria utilizada para diagonalizar ⁠${\displaystyle \mathbf {M} }$⁠ . Sin embargo, cuando ⁠${\displaystyle \mathbf {M} }$⁠ no es semidefinida positiva ni hermitiana, pero aún así es diagonalizable , su descomposición en valores propios y su descomposición en valores singulares son distintas.

• El primero${\displaystyle r}$columnas de​${\displaystyle \mathbf {U} }$son una base del espacio columna de${\displaystyle \mathbf {M} }$⁠ .
• El último${\displaystyle señor}$columnas de​${\displaystyle \mathbf {U} }$son una base del espacio nulo de${\displaystyle \mathbf {M} ^{*}}$⁠ .
• El primero${\displaystyle r}$columnas de​${\displaystyle \mathbf {V} }$son una base del espacio columna de${\displaystyle \mathbf {M} ^{*}}$⁠ (el espacio entre filas de ⁠${\displaystyle \mathbf {M} }$en el caso real).
• El último${\displaystyle nr}$columnas de​${\displaystyle \mathbf {V} }$son una base del espacio nulo de${\displaystyle \mathbf {M} }$⁠ .

Porque​${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} }$⁠ son unitarias, las columnas ⁠${\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{m}}$de​​${\displaystyle \mathbf {U} }$⁠ son una base ortonormal de ⁠${\displaystyle \mathbb {C} ^{m}}$y las columnas${\displaystyle \mathbf {v} _{1},\ldots ,\mathbf {v} _{n}}$de​​${\displaystyle \mathbf {V} }$⁠ son una base ortonormal de ⁠${\displaystyle \mathbb {C} ^{n}}$( con respecto a los productos escalares estándar en estos espacios).

La transformación lineal$${\displaystyle T\colon \left\{{\begin{aligned}\mathbb {C} ^{n}&\to \mathbb {C} ^{m}\\\mathbf {x} &\mapsto \mathbf {Mx} \end{aligned}}\right.}$$ tiene una descripción particularmente simple con respecto a estas bases ortonormales: tenemos $${\displaystyle T(\mathbf {v} _{i})=\sigma _{i}\mathbf {u} _{i},\qquad i=1,\ldots ,\min\{m,n\},}$$ donde​${\displaystyle \sigma _{i}}$es el​${\displaystyle i}$-ésima entrada diagonal de${\displaystyle \mathbf {\Sigma } }$y​​${\displaystyle T(\mathbf {v} _{i})=\mathbf {0} }$para​​${\displaystyle i>\min\{m,n\}}$⁠ .

El contenido geométrico del teorema SVD se puede resumir de la siguiente manera: para cada aplicación lineal ⁠${\displaystyle T\colon \mathbb {C} ^{n}\to \mathbb {C} ^{m}}$⁠ se pueden encontrar bases ortonormales de ⁠${\displaystyle \mathbb {C} ^{n}}$y​​${\displaystyle \mathbb {C} ^{m}}$de tal manera que${\displaystyle T}$⁠ mapas el ⁠${\displaystyle i}$-ésimo vector base de${\displaystyle \mathbb {C} ^{n}}$a un múltiplo no negativo del${\displaystyle i}$-ésimo vector base de${\displaystyle \mathbb {C} ^{m}}$⁠ , y envía los vectores base restantes a cero. Con respecto a estas bases, el mapeo ⁠${\displaystyle T}$Por lo tanto , se representa mediante una matriz diagonal con entradas diagonales reales no negativas.

Para obtener una visión más clara de los valores singulares y la factorización SVD, al menos cuando se trabaja con espacios vectoriales reales, considere la esfera unitaria .${\displaystyle S}$en​​${\displaystyle \mathbb {R} ^{n}}$⁠ . El mapa lineal ⁠${\displaystyle T}$⁠ mapea esta esfera sobre un elipsoide en ⁠${\displaystyle \mathbb {R} ^{m}}$⁠ . Los valores singulares distintos de cero son simplemente las longitudes de los semiejes de este elipsoide. Especialmente cuando ⁠${\displaystyle n=m}$⁠ , y todos los valores singulares son distintos y no nulos, la SVD del mapa lineal ⁠${\displaystyle T}$⁠ se puede analizar fácilmente como una sucesión de tres movimientos consecutivos: considérese el elipsoide ⁠${\displaystyle T(S)}$y específicamente sus ejes; luego considere las direcciones en${\displaystyle \mathbb {R} ^{n}}$Enviado por​${\displaystyle T}$sobre estos ejes. Estas direcciones resultan ser mutuamente ortogonales. Aplique primero una isometría .${\displaystyle \mathbf {V} ^{*}}$enviando estas direcciones a los ejes de coordenadas de${\displaystyle \mathbb {R} ^{n}}$En un segundo movimiento, aplica un endomorfismo .${\displaystyle \mathbf {D} }$diagonalizado a lo largo de los ejes de coordenadas y estirándose o encogiéndose en cada dirección, utilizando las longitudes de los semiejes de${\displaystyle T(S)}$como coeficientes de escala. La composición${\displaystyle \mathbf {D} \circ \mathbf {V} ^{*}}$Luego , envía la esfera unitaria a un elipsoide isométrico .${\displaystyle T(S)}$Para definir el tercer y último movimiento, aplica una isometría .${\displaystyle \mathbf {U} }$⁠ a este elipsoide para obtener ⁠${\displaystyle T(S)}$⁠ . Como se puede comprobar fácilmente, la composición ⁠${\displaystyle \mathbf {U} \circ \mathbf {D} \circ \mathbf {V} ^{*}}$coincide con​${\displaystyle T}$⁠ .

Un número real no negativo${\displaystyle \sigma }$⁠ es un valor singular para ⁠${\displaystyle \mathbf {M} }$Si y solo si existen vectores unitarios${\displaystyle \mathbf {u} }$en​​${\displaystyle \mathbb {C} ^{m}}$y​​${\displaystyle \mathbf {v} }$en​​${\displaystyle \mathbb {C} ^{n}}$de tal manera que $${\displaystyle {\begin{aligned}\mathbf {Mv} &=\sigma \mathbf {u} ,\\[3mu]\mathbf {M} ^{*}\mathbf {u} &=\sigma \mathbf {v} .\end{aligned}}}$$

Los vectores${\displaystyle \mathbf {u} }$y​​${\displaystyle \mathbf {v} }$Se denominan vectores singulares izquierdos y singulares derechos para${\displaystyle \sigma }$, respectivamente.

En cualquier descomposición en valores singulares${\displaystyle \mathbf {M} =\mathbf {U\Sigma V} ^{*}}$⁠ , las entradas diagonales de ⁠${\displaystyle \mathbf {\Sigma } }$comprenden los valores singulares de${\displaystyle \mathbf {M} }$⁠ . El primero ⁠${\displaystyle p=\min\{m,n\}}$columnas de​${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} }$⁠ son, respectivamente, vectores singulares izquierdos y derechos para los valores singulares correspondientes. En consecuencia,

• Un​${\displaystyle m\times n}$matriz​​${\displaystyle \mathbf {M} }$⁠ tiene como máximo ⁠${\displaystyle p}$valores singulares distintos .
• Siempre es posible encontrar una base unitaria .${\displaystyle \mathbf {U} }$para​​${\displaystyle \mathbb {C} ^{m}}$con un subconjunto de vectores base que abarcan los vectores singulares izquierdos de cada valor singular de${\displaystyle \mathbf {M} }$⁠ .
• Siempre es posible encontrar una base unitaria .${\displaystyle \mathbf {V} }$para​​${\displaystyle \mathbb {C} ^{n}}$con un subconjunto de vectores base que abarcan los vectores singulares derechos de cada valor singular de${\displaystyle \mathbf {M} }$⁠ .

Las entradas diagonales de ⁠${\displaystyle \Sigma }$No es necesario que sean distintos. Un valor singular${\displaystyle \sigma }$que aparece entre ellos${\displaystyle k}$⁠ veces tiene un ⁠${\displaystyle k}$Subespacio -dimensional de vectores singulares izquierdos correspondientes. Cualquier base ortonormal para este subespacio puede tomarse como las columnas correspondientes de alguna matriz .${\displaystyle \mathbf {U} }$⁠ , y determina de forma única una base ortonormal para el ⁠${\displaystyle k}$Subespacio -dimensional de vectores singulares derechos que forman las columnas correspondientes de una matriz .${\displaystyle \mathbf {V} }$⁠ . Cuando ⁠${\displaystyle \sigma \neq 0}$y​​${\displaystyle k=1}$⁠ , el valor singular se denomina no degenerado , y el vector singular izquierdo y el vector singular derecho correspondientes son únicos salvo multiplicación por un factor de fase (un número complejo unitario), o, en el caso real, únicos salvo signo. Cuando ⁠${\displaystyle k>1}$, el valor singular${\displaystyle \sigma }$Se llama degenerado .

Los vectores singulares izquierdo y derecho de valor singular${\displaystyle 0}$⁠ comprenden todos los vectores unitarios en el cokernel y el kernel , respectivamente, de ⁠${\displaystyle \mathbf {M} }$⁠ . Por el teorema de rango-nulidad , estos subespacios no pueden tener la misma dimensión si ⁠${\displaystyle m\neq n}$⁠ . Incluso cuando todos los valores singulares son distintos de cero, si ⁠${\displaystyle m>n}$⁠ , entonces el cokernel no es trivial, en cuyo caso ⁠${\displaystyle \mathbf {U} }$⁠ está relleno con ⁠${\displaystyle m-n}$Vectores unitarios ortogonales del cokernel. Por el contrario , si${\displaystyle m<n}$⁠ , entonces ⁠${\displaystyle \mathbf {V} }$⁠ está relleno por ⁠${\displaystyle n-m}$Vectores unitarios ortogonales del núcleo. Sin embargo, si el valor singular${\displaystyle 0}$⁠ existe, las columnas adicionales de ⁠${\displaystyle \mathbf {U} }$o​​${\displaystyle \mathbf {V} }$⁠ ya aparecen como vectores singulares izquierdos o derechos. […, si existe el valor singular 0, las columnas adicionales de U o V no deben repetir los vectores singulares izquierdos o derechos correspondientes.] [De lo contrario, U o V no tendrían rango de columna completo.]

Si todos los valores singulares de una matriz cuadrada${\displaystyle \mathbf {M} }$Si son distintos de cero y no degenerados, entonces su descomposición en valores singulares es única salvo la multiplicación de cualquier columna de${\displaystyle \mathbf {U} }$y la columna correspondiente de${\displaystyle \mathbf {V} }$por un factor de fase arbitrario. De forma más general, la SVD de cualquier matriz${\displaystyle \mathbf {M} }$⁠ es único salvo transformaciones unitarias aplicadas uniformemente a los vectores columna de ambos ⁠${\displaystyle \mathbf {U} }$y​​${\displaystyle \mathbf {V} }$( y que no mezclan columnas correspondientes a valores singulares distintos).

La descomposición en valores singulares es muy general en el sentido de que se puede aplicar a cualquier${\displaystyle m\times n}$La descomposición en valores propios solose puede aplicar a matrices cuadradas diagonalizables . Sin embargo, ambas descomposiciones están relacionadas.

Si​${\displaystyle \mathbf {M} }$Tiene SVD​${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}}$⁠ , se cumplen las dos relaciones siguientes: $${\displaystyle {\begin{aligned}\mathbf {M} ^{*}\mathbf {M} &=\mathbf {V} \mathbf {\Sigma } ^{*}\mathbf {U} ^{*}\,\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}=\mathbf {V} (\mathbf {\Sigma } ^{*}\mathbf {\Sigma } )\mathbf {V} ^{*},\\[3mu]\mathbf {M} \mathbf {M} ^{*}&=\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}\,\mathbf {V} \mathbf {\Sigma } ^{*}\mathbf {U} ^{*}=\mathbf {U} (\mathbf {\Sigma } \mathbf {\Sigma } ^{*})\mathbf {U} ^{*}.\end{aligned}}}$$

Los miembros derechos de estas relaciones describen las descomposiciones en valores propios de los miembros izquierdos. En consecuencia:

• Las columnas de ⁠${\displaystyle \mathbf {V} }$⁠ (denominados vectores singulares derechos) son vectores propios de ⁠${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$⁠ .
• Las columnas de ⁠${\displaystyle \mathbf {U} }$⁠ (denominados vectores singulares izquierdos) son vectores propios de ⁠${\displaystyle \mathbf {M} \mathbf {M} ^{*}}$⁠ .
• Los elementos no nulos de ⁠${\displaystyle \mathbf {\Sigma } }$⁠ (valores singulares distintos de cero) son las raíces cuadradas de los valores propios distintos de cero de ⁠${\displaystyle \mathbf {M} ^{*}\mathbf {M} }$o​​${\displaystyle \mathbf {M} \mathbf {M} ^{*}}$⁠ .

En el caso especial de${\displaystyle \mathbf {M} }$Al ser una matriz normal y, por lo tanto, también cuadrada, el teorema espectral garantiza que puede diagonalizarse unitariamente utilizando una base de autovectores y, por lo tanto, descomponerse como${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {D} \mathbf {U} ^{*}}$para alguna matriz unitaria${\displaystyle \mathbf {U} }$y matriz diagonal${\displaystyle \mathbf {D} }$con elementos complejos${\displaystyle \sigma _{i}}$⁠ a lo largo de la diagonal. Cuando ⁠${\displaystyle \mathbf {M} }$es semidefinida positiva, la${\displaystyle \sigma _{i}}$serán números reales no negativos, por lo que la descomposición${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {D} \mathbf {U} ^{*}}$También es una descomposición en valores singulares. De lo contrario, se puede reformular como una SVD moviendo la fase .${\displaystyle e^{i\varphi }}$de cada uno${\displaystyle \sigma _{i}}$⁠ a cualquiera de sus correspondientes ⁠${\displaystyle \mathbf {v} _{i}}$o​​${\displaystyle \mathbf {u} _{i}}$⁠ . La conexión natural de la SVD con matrices no normales se establece a través delteorema de descomposición polar : ⁠${\displaystyle \mathbf {M} =\mathbf {S} \mathbf {R} }$, donde​${\displaystyle \mathbf {S} =\mathbf {U} \mathbf {\Sigma } \mathbf {U} ^{*}}$es semidefinida positiva y normal, y${\displaystyle \mathbf {R} =\mathbf {U} \mathbf {V} ^{*}}$es unitario.

Por lo tanto, excepto para matrices semidefinidas positivas, la descomposición en valores propios y la SVD de ⁠${\displaystyle \mathbf {M} }$⁠ , aunque relacionadas, difieren: la descomposición en valores propios es ⁠${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {D} \mathbf {U} ^{-1}}$, donde​${\displaystyle \mathbf {U} }$⁠ no es necesariamente unitario y ⁠${\displaystyle \mathbf {D} }$⁠ is not necessarily positive semi-definite, while the SVD is ⁠${\displaystyle \mathbf {M} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}}$⁠, where ⁠${\displaystyle \mathbf {\Sigma } }$⁠ is diagonal and positive semi-definite, and ⁠${\displaystyle \mathbf {U} }$⁠ and ⁠${\displaystyle \mathbf {V} }$⁠ are unitary matrices that are not necessarily related except through the matrix ⁠${\displaystyle \mathbf {M} }$⁠. While only non-defective square matrices have an eigenvalue decomposition, any ⁠${\displaystyle m\times n}$⁠ matrix has an SVD.

The singular value decomposition can be used for computing the pseudoinverse of a matrix. The pseudoinverse of the matrix ⁠${\displaystyle \mathbf {M} }$⁠ with singular value decomposition ⁠${\displaystyle \mathbf {M} =\mathbf {U\Sigma V} ^{*}}$⁠ is $${\displaystyle \mathbf {M} ^{+}=\mathbf {V} \mathbf {\Sigma } ^{+}\mathbf {U} ^{*},}$$ where ${\displaystyle \mathbf {\Sigma } ^{+}}$ is the pseudoinverse of ⁠${\displaystyle \mathbf {\Sigma } }$⁠, which is formed by replacing every non-zero diagonal entry of ⁠${\displaystyle \mathbf {\Sigma } }$⁠ by its reciprocal and transposing the resulting matrix. The pseudoinverse is one way to solve linear least squares problems.

A set of homogeneous linear equations can be written as ⁠${\displaystyle \mathbf {A} \mathbf {x} =\mathbf {0} }$⁠ for a matrix ⁠${\displaystyle \mathbf {A} }$⁠, vector ⁠${\displaystyle \mathbf {x} }$⁠, and zero vector⁠${\displaystyle \mathbf {0} }$⁠. A typical situation is that ⁠${\displaystyle \mathbf {A} }$⁠ is known and a non-zero ⁠${\displaystyle \mathbf {x} }$⁠ is to be determined which satisfies the equation. Such an ⁠${\displaystyle \mathbf {x} }$⁠ belongs to ⁠${\displaystyle \mathbf {A} }$⁠'s null space and is sometimes called a (right) null vector of ⁠${\displaystyle \mathbf {A} }$⁠. The vector ⁠${\displaystyle \mathbf {x} }$⁠ can be characterized as a right-singular vector corresponding to a singular value of ⁠${\displaystyle \mathbf {A} }$⁠ that is zero. This observation means that if ⁠${\displaystyle \mathbf {A} }$⁠ is a square matrix and has no vanishing singular value, the equation has no non-zero ⁠${\displaystyle \mathbf {x} }$⁠ as a solution. It also means that if there are several vanishing singular values, any linear combination of the corresponding right-singular vectors is a valid solution. Analogously to the definition of a (right) null vector, a non-zero ⁠${\displaystyle \mathbf {x} }$⁠ satisfying ⁠${\displaystyle \mathbf {x} ^{*}\mathbf {A} =\mathbf {0} }$⁠, where ⁠${\displaystyle \mathbf {x} ^{*}}$⁠ denotes the conjugate transpose of ⁠${\displaystyle \mathbf {x} }$⁠, is called a left null vector of ⁠${\displaystyle \mathbf {A} }$⁠.

A total least squares problem seeks the vector ⁠${\displaystyle \mathbf {x} }$⁠ that minimizes the 2-norm of a vector ⁠${\displaystyle \mathbf {A} \mathbf {x} }$bajo la restricción${\displaystyle \|\mathbf {x} \|=1}$. La solución resulta ser el vector singular derecho de ⁠${\displaystyle \mathbf {A} }$⁠ correspondiente al valor singular más pequeño.

Otra aplicación de la SVD es que proporciona una representación explícita del rango y el espacio nulo de una matriz .${\displaystyle \mathbf {M} }$⁠ . Los vectores singulares derechos correspondientes a valores singulares nulos de ⁠${\displaystyle \mathbf {M} }$abarcar el espacio nulo de${\displaystyle \mathbf {M} }$y los vectores singulares izquierdos correspondientes a los valores singulares no nulos de${\displaystyle \mathbf {M} }$abarcan el rango de${\displaystyle \mathbf {M} }$⁠ .

Como consecuencia, el rango de ⁠${\displaystyle \mathbf {M} }$⁠ es igual al número de valores singulares distintos de cero, que es el mismo que el número de elementos diagonales distintos de cero en ⁠${\displaystyle \mathbf {\Sigma } }$En álgebra lineal numérica , los valores singulares pueden utilizarse para determinar el rango efectivo de una matriz, ya que los errores de redondeo pueden generar valores singulares pequeños pero distintos de cero en una matriz con rango deficiente. Se supone que los valores singulares que superan un intervalo significativo son numéricamente equivalentes a cero.

Algunas aplicaciones prácticas necesitan resolver el problema de aproximar una matriz .${\displaystyle \mathbf {M} }$con otra matriz${\displaystyle {\tilde {\mathbf {M} }}}$⁠ , se dice que está truncado , que tiene un rango específico ⁠${\displaystyle r}$⁠ . En el caso de que la aproximación se base en minimizar la norma de Frobenius de la diferencia entre ⁠${\displaystyle \mathbf {M} }$y​​${\displaystyle {\tilde {\mathbf {M} }}}$bajo la restricción de que${\displaystyle \operatorname {rank} {\bigl (}{\tilde {\mathbf {M} }}{\bigr )}=r}$⁠ , resulta que la solución viene dada por la SVD de ⁠${\displaystyle \mathbf {M} }$, es decir, $${\displaystyle {\tilde {\mathbf {M} }}=\mathbf {U} {\tilde {\mathbf {\Sigma } }}\mathbf {V} ^{*},}$$ dónde${\displaystyle {\tilde {\mathbf {\Sigma } }}}$es la misma matriz que${\displaystyle \mathbf {\Sigma } }$excepto que contiene solo el ⁠${\displaystyle r}$⁠ valores singulares más grandes (los demás valores singulares se reemplazan por cero). Esto se conoce como el teorema de Eckart-Young , ya que fue demostrado por esos dos autores en 1936. ^{[ a ]}

Una consecuencia práctica de la aproximación de bajo rango dada por SVD es que una imagen en escala de grises , representada como una${\displaystyle m\times n}$matriz${\displaystyle \mathbf {A} }$, puede representarse eficientemente manteniendo el primero${\displaystyle k}$Valores singulares y vectores correspondientes. La descomposición truncada $${\displaystyle \mathbf {A} _{k}=\sum _{j=1}^{k}\sigma _{j}\mathbf {u} _{j}\mathbf {v} _{j}^{\mathsf {T}}}$$ proporciona una imagen con el mejor error de norma 2 de entre todos los rangos .${\displaystyle k}$aproximaciones. Por lo tanto, la tarea consiste en encontrar una aproximación que equilibre la conservación de la fidelidad perceptiva con el número de vectores necesarios para reconstruir la imagen. Almacenamiento${\displaystyle \mathbf {A} _{k}}$requiere solo${\displaystyle k(n+m+1)}$números de punto flotante comparados con${\displaystyle nm}$números enteros. Esta misma idea se extiende a las imágenes en color aplicando esta operación a cada canal o apilando los canales en una sola matriz.

Dado que los valores singulares de la mayoría de las imágenes naturales decaen rápidamente, la mayor parte de su varianza suele ser capturada por un pequeño ⁠${\displaystyle k}$⁠ . Para una imagen en escala de grises de 1528 × 1225, podemos lograr un error relativo de${\displaystyle 0.7\%}$con tan solo ⁠${\displaystyle k=100}$⁠ . ^{[ 1 ]} Sin embargo, en la práctica, calcular la SVD puede ser demasiado costoso computacionalmente y la compresión resultante suele ser menos eficiente en términos de almacenamiento que un algoritmo especializado como JPEG .

La SVD puede considerarse como la descomposición de una matriz en una suma ponderada y ordenada de matrices de rango 1. Cada matriz de rango 1${\displaystyle \mathbf {A} }$es separable, en el sentido de que puede escribirse como un producto exterior de dos vectores .${\displaystyle \mathbf {A} =\mathbf {u} \mathbf {v} ^{*}}$Cada entrada de dicha matriz${\displaystyle \mathbf {A} }$es el producto de una entrada del vector columna${\displaystyle \mathbf {u} }$⁠ veces una entrada del vector fila ⁠${\displaystyle \mathbf {v} ^{*}}$,​​${\displaystyle \mathbf {A} _{i,j}=u_{i}{\overline {v_{j}}}}$⁠ .

Específicamente, la SVD descompone una matriz .${\displaystyle \mathbf {M} }$como la suma de varias matrices de rango 1${\displaystyle \mathbf {A} _{i}}$⁠$${\displaystyle \mathbf {M} =\sum _{i}\mathbf {A} _{i}=\sum _{i}\sigma _{i}\mathbf {u} _{i}\mathbf {v} _{i}^{*}.}$$ donde​${\displaystyle \mathbf {u} _{i}}$y​​${\displaystyle \mathbf {v} _{i}}$son los vectores singulares izquierdo y derecho correspondientes a cada valor singular${\displaystyle \sigma _{i}}$⁠ . El número de no cero ⁠${\displaystyle \sigma _{i}}$es exactamente el rango de la matriz.

La SVD se puede utilizar para encontrar la descomposición de un filtro de procesamiento de imágenes en filtros horizontales y verticales separables. Los modelos separables suelen aparecer en sistemas biológicos, y la factorización SVD es útil para analizar dichos sistemas. Por ejemplo, los campos receptivos de algunas células simples del área visual V1 se pueden describir bien ^{[ 2 ]} mediante un filtro de Gabor en el dominio espacial multiplicado por una función de modulación en el dominio temporal. Por lo tanto, dado un filtro lineal evaluado mediante, por ejemplo, la correlación inversa , se pueden reorganizar las dos dimensiones espaciales en una dimensión, obteniendo así un filtro bidimensional (espacio, tiempo) que se puede descomponer mediante SVD . La primera columna de${\displaystyle \mathbf {U} }$⁠ en la factorización SVD es entonces un Gabor mientras que la primera columna de ⁠${\displaystyle \mathbf {V} }$representa la modulación temporal (o viceversa). Entonces se puede definir un índice de separabilidad .$${\displaystyle \alpha ={\frac {\sigma _{1}^{2}}{\sum _{i}\sigma _{i}^{2}}},}$$ que es la fracción de la potencia en la matriz${\displaystyle \mathbf {M} }$lo cual se explica por la primera matriz separable en la descomposición. ^{[ 3 ]}

Es posible utilizar la descomposición en valores singulares (SVD) de una matriz cuadrada .${\displaystyle \mathbf {A} }$Para determinar la matriz ortogonal .${\displaystyle \mathbf {Q} }$más cercano a${\displaystyle \mathbf {A} }$⁠ . La cercanía del ajuste se mide mediante la norma de Frobenius de ⁠${\displaystyle \mathbf {Q} -\mathbf {A} }$La solución es el producto .${\displaystyle \mathbf {U} \mathbf {V} ^{*}.}$⁠ ^{[ 4 ] [ 5 ]} Esto intuitivamente tiene sentido porque una matriz ortogonal tendría la descomposición ⁠${\displaystyle \mathbf {U} \mathbf {I} \mathbf {V} ^{*}}$¿ Dónde ?${\displaystyle \mathbf {I} }$es la matriz identidad, de modo que si${\displaystyle \mathbf {A} =\mathbf {U} \mathbf {\Sigma } \mathbf {V} ^{*}}$⁠ luego el producto ⁠${\displaystyle \mathbf {A} =\mathbf {U} \mathbf {V} ^{*}}$Esto equivale a reemplazar los valores singulares por unos. De forma equivalente, la solución es la matriz unitaria .${\displaystyle \mathbf {R} =\mathbf {U} \mathbf {V} ^{*}}$de la descomposición polar${\displaystyle \mathbf {M} =\mathbf {R} \mathbf {P} =\mathbf {P} '\mathbf {R} }$en cualquiera de los dos órdenes de estiramiento y rotación, como se describió anteriormente.

Un problema similar, con interesantes aplicaciones en el análisis de formas , es el problema de Procrustes ortogonal , que consiste en encontrar una matriz ortogonal .${\displaystyle \mathbf {Q} }$que se corresponde más estrechamente${\displaystyle \mathbf {A} }$a​​${\displaystyle \mathbf {B} .}$Específicamente , $${\displaystyle \mathbf {Q} ={\underset {\Omega }{\operatorname {argmin} }}\|\mathbf {A} \mathbf {\Omega } -\mathbf {B} \|_{F}\quad {\text{subject to}}\quad \mathbf {\Omega } ^{\mathsf {T}}\mathbf {\Omega } =\mathbf {I} ,}$$ dónde${\displaystyle \|\cdot \|_{F}}$denota la norma de Frobenius.

Este problema equivale a encontrar la matriz ortogonal más cercana a una matriz dada .${\displaystyle \mathbf {M} =\mathbf {A} ^{\mathsf {T}}\mathbf {B} }$⁠ .

El algoritmo de Kabsch (conocido como problema de Wahba en otros campos) utiliza la descomposición en valores singulares (SVD) para calcular la rotación óptima (con respecto a la minimización por mínimos cuadrados) que alineará un conjunto de puntos con otro conjunto de puntos correspondiente. Se utiliza, entre otras aplicaciones, para comparar las estructuras de las moléculas.

La SVD se puede utilizar para construir los componentes principales en el análisis de componentes principales de la siguiente manera: ^{[ 6 ]}

Dejar${\displaystyle \mathbf {X} \in \mathbb {R} ^{N\times p}}$sea ​​una matriz de datos donde cada uno de los${\displaystyle N}$filas es una observación centrada en la media (en términos de características), cada una de dimensión${\displaystyle p}$⁠ .

La SVD de${\displaystyle \mathbf {X} }$es: $${\displaystyle \mathbf {X} =\mathbf {V} \mathbf {\Sigma } \mathbf {U} ^{*}.}$$

Vemos que${\displaystyle \mathbf {V} \mathbf {\Sigma } }$contiene las puntuaciones de las filas de${\displaystyle \mathbf {X} }$(es decir, cada observación), y${\displaystyle \mathbf {U} }$es la matriz cuyas columnas son vectores de carga de componentes principales. ^{[ 6 ]}

La SVD y la pseudoinversa se han aplicado con éxito al procesamiento de señales , ^{[ 7 ]} el procesamiento de imágenes ^{[ 8 ]} y los macrodatos (por ejemplo, en el procesamiento de señales genómicas). ^{[ 9 ] [ 10 ] [ 11 ] [ 12 ]}

La descomposición en valores singulares (SVD) se aplica ampliamente al estudio de problemas inversos lineales y resulta útil en el análisis de métodos de regularización como el de Tikhonov . Se utiliza con frecuencia en estadística, donde se relaciona con el análisis de componentes principales y el análisis de correspondencias , así como en el procesamiento de señales y el reconocimiento de patrones . También se emplea en el análisis modal basado únicamente en la salida , donde las formas modales no escaladas pueden determinarse a partir de los vectores singulares. Otro uso más es la indexación semántica latente en el procesamiento de texto en lenguaje natural.

En la computación numérica general que involucra sistemas lineales o linealizados, existe una constante universal que caracteriza la regularidad o singularidad de un problema, que es el "número de condición" del sistema .${\displaystyle \kappa =\sigma _{\text{max}}/\sigma _{\text{min}}}$A menudo controla la tasa de error o la tasa de convergencia de un esquema computacional dado en dichos sistemas. ^{[ 13 ] [ 14 ]}

La SVD también juega un papel crucial en el campo de la información cuántica , en una forma a menudo denominada descomposición de Schmidt . A través de ella, los estados de dos sistemas cuánticos se descomponen naturalmente, proporcionando una condición necesaria y suficiente para que estén entrelazados : si el rango de los${\displaystyle \mathbf {\Sigma } }$La matriz es mayor que uno.

Una aplicación de la descomposición en valores singulares (SVD) a matrices de gran tamaño se encuentra en la predicción numérica del tiempo , donde se utilizan métodos de Lanczos para estimar las perturbaciones de crecimiento lineal más rápido en la predicción numérica central del tiempo durante un período de tiempo inicial dado; es decir, los vectores singulares correspondientes a los mayores valores singulares del propagador linealizado para el tiempo global durante ese intervalo de tiempo. En este caso, los vectores singulares de salida son sistemas meteorológicos completos. Estas perturbaciones se procesan a través del modelo no lineal completo para generar una predicción de conjunto , lo que permite comprender parte de la incertidumbre que debe considerarse en torno a la predicción central actual.

La descomposición en valores singulares (SVD) también se ha aplicado al modelado de orden reducido. El objetivo del modelado de orden reducido es disminuir el número de grados de libertad en un sistema complejo que se va a modelar. La SVD se combinó con funciones de base radial para interpolar soluciones a problemas de flujo no estacionario tridimensionales. ^{[ 15 ]}

Curiosamente, la descomposición en valores singulares (SVD) se ha utilizado para mejorar el modelado de formas de onda gravitacionales mediante el interferómetro de ondas gravitacionales terrestre aLIGO. ^{[ 16 ]} La SVD puede ayudar a aumentar la precisión y la velocidad de generación de formas de onda para apoyar la búsqueda de ondas gravitacionales y actualizar dos modelos de formas de onda diferentes.

La descomposición en valores singulares se utiliza en sistemas de recomendación para predecir las calificaciones de los ítems por parte de las personas. ^{[ 17 ]} Se han desarrollado algoritmos distribuidos con el propósito de calcular la SVD en clústeres de máquinas de uso común. ^{[ 18 ]}

La descomposición en valores singulares (SVD) de bajo rango se ha aplicado para la detección de puntos críticos a partir de datos espaciotemporales, con aplicaciones en la detección de brotes de enfermedades . ^{[ 19 ]} También se ha aplicado una combinación de SVD y SVD de orden superior para la detección de eventos en tiempo real a partir de flujos de datos complejos (datos multivariados con dimensiones espaciales y temporales) en la vigilancia de enfermedades . ^{[ 20 ]}

En astrodinámica , la SVD y sus variantes se utilizan como una opción para determinar direcciones de maniobra adecuadas para el diseño de trayectorias de transferencia ^{[ 21 ]} y mantenimiento de la posición orbital . ^{[ 22 ]}

La descomposición en valores singulares (SVD) se puede utilizar para medir la similitud entre matrices de valores reales. ^{[ 23 ]} Al medir los ángulos entre los vectores singulares, se tiene en cuenta la estructura bidimensional inherente de las matrices. Se ha demostrado que este método supera a la similitud del coseno y a la norma de Frobenius en la mayoría de los casos, incluidas las mediciones de la actividad cerebral en experimentos de neurociencia .