Distribución normal multivariada

La distribución normal multivariada de un vector aleatorio k -dimensional${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$se puede escribir con la siguiente notación:

${\displaystyle \mathbf {X} \ \sim \ {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}),}$

o para dar a conocer explícitamente que${\displaystyle \mathbf {X} }$es k -dimensional,

${\displaystyle \mathbf {X} \ \sim \ {\mathcal {N}}_{k}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}),}$

con vector medio k -dimensional

${\displaystyle {\boldsymbol {\mu }}=\operatorname {E} [\mathbf {X} ]=(\operatorname {E} [X_{1}],\operatorname {E} [X_{2}],\ldots ,\operatorname {E} [X_{k}])^{\mathrm {T} },}$

y${\displaystyle k\times k}$matriz de covarianza

${\displaystyle \Sigma _{i,j}=\operatorname {E} [(X_{i}-\mu _{i})(X_{j}-\mu _{j})]=\operatorname {Cov} [X_{i},X_{j}]}$

de tal manera que${\displaystyle 1\leq i\leq k}$y${\displaystyle 1\leq j\leq k}$. La inversa de la matriz de covarianza se llama matriz de precisión , denotada por${\displaystyle {\boldsymbol {Q}}={\boldsymbol {\Sigma }}^{-1}}$.

Un vector aleatorio real${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$Se denomina vector aleatorio normal estándar si todos sus componentes${\displaystyle X_{i}}$son independientes y cada una es una variable aleatoria con distribución normal de media cero y varianza unitaria, es decir, si${\displaystyle X_{i}\sim \ {\mathcal {N}}(0,1)}$a pesar de${\displaystyle i=1\ldots k}$. ^{[ 1 ] : pág. 454}

Un vector aleatorio real${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$Se denomina vector aleatorio normal centrado si existe un${\displaystyle k\times \ell }$matriz${\displaystyle {\boldsymbol {A}}}$de tal manera que${\displaystyle {\boldsymbol {A}}\mathbf {Z} }$tiene la misma distribución que${\displaystyle \mathbf {X} }$dónde${\displaystyle \mathbf {Z} }$es un vector aleatorio normal estándar con${\displaystyle \ell }$componentes. ^{[ 1 ] : pág. 454}

Un vector aleatorio real${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$Se denomina vector aleatorio normal si existe un vector aleatorio${\displaystyle \ell }$-vector${\displaystyle \mathbf {Z} }$, que es un vector aleatorio normal estándar, un${\displaystyle k}$-vector${\displaystyle {\boldsymbol {\mu }}}$y un${\displaystyle k\times \ell }$matriz${\displaystyle {\boldsymbol {A}}}$, de tal manera que${\displaystyle \mathbf {X} ={\boldsymbol {A}}\mathbf {Z} +{\boldsymbol {\mu }}}$. ^{[ 2 ] : pág. 454 [ 1 ] : pág. 455}

Formalmente:

Aquí la matriz de covarianza es${\displaystyle {\boldsymbol {\Sigma }}={\boldsymbol {A}}{\boldsymbol {A}}^{\mathrm {T} }}$.

En el caso degenerado donde la matriz de covarianza es singular , la distribución correspondiente no tiene densidad; consulte la sección siguiente para obtener más detalles. Este caso surge con frecuencia en estadística ; por ejemplo, en la distribución del vector de residuos en la regresión de mínimos cuadrados ordinarios .${\displaystyle X_{i}}$En general no son independientes; pueden verse como el resultado de aplicar la matriz${\displaystyle {\boldsymbol {A}}}$a una colección de variables gaussianas independientes${\displaystyle \mathbf {Z} }$.

Las siguientes definiciones son equivalentes a la definición dada anteriormente. Un vector aleatorio${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{k})^{\mathrm {T} }}$Tiene una distribución normal multivariada si satisface una de las siguientes condiciones equivalentes.

• Cada combinación lineal${\displaystyle Y=a_{1}X_{1}+\cdots +a_{k}X_{k}}$de sus componentes se distribuye normalmente . Es decir, para cualquier vector constante${\displaystyle \mathbf {a} \in \mathbb {R} ^{k}}$, la variable aleatoria${\displaystyle Y=\mathbf {a} ^{\mathrm {T} }\mathbf {X} }$tiene una distribución normal univariada, donde una distribución normal univariada con varianza cero es una masa puntual en su media.
• Hay un vector k${\displaystyle \mathbf {\mu } }$y una semidefinida positiva simétrica${\displaystyle k\times k}$matriz${\displaystyle {\boldsymbol {\Sigma }}}$, de tal manera que la función característica de${\displaystyle \mathbf {X} }$es$${\displaystyle \varphi _{\mathbf {X} }(\mathbf {u} )=\exp {\Big (}i\mathbf {u} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\tfrac {1}{2}}\mathbf {u} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {u} {\Big )}.}$$

La distribución normal esférica puede caracterizarse como la única distribución cuyos componentes son independientes en cualquier sistema de coordenadas ortogonales. ^{[ 3 ] [ 4 ]}

La noción de función de distribución acumulativa (FDA) en dimensión 1 puede extenderse de dos maneras al caso multidimensional, basándose en regiones rectangulares y elipsoidales.

La primera forma es definir la función de distribución acumulada (cdf).${\displaystyle F(\mathbf {x} )}$de un vector aleatorio${\displaystyle \mathbf {X} }$como la probabilidad de que todos los componentes de${\displaystyle \mathbf {X} }$son menores o iguales que los valores correspondientes en el vector${\displaystyle \mathbf {x} }$: ^{[ 11 ]}

${\displaystyle F(\mathbf {x} )=\mathbb {P} (\mathbf {X} \leq \mathbf {x} ),\quad {\text{where }}\mathbf {X} \sim {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }}).}$

Aunque no existe un formulario cerrado para${\displaystyle F(\mathbf {x} )}$, existen varios algoritmos que lo estiman numéricamente. ^{[ 11 ] [ 12 ]}

Otra forma es definir la función de distribución acumulada (cdf).${\displaystyle F(r)}$como la probabilidad de que una muestra se encuentre dentro del elipsoide determinado por su distancia de Mahalanobis.${\displaystyle r}$de la gaussiana, una generalización directa de la desviación estándar. ^{[ 13 ]} Para calcular los valores de esta función, existe una fórmula analítica cerrada, ^{[ 13 ]} como sigue.

La función de distribución acumulativa complementaria (ccdf) o distribución de cola se define como${\displaystyle {\overline {F}}(\mathbf {x} )=1-\mathbb {P} \left(\mathbf {X} \leq \mathbf {x} \right)}$. Cuando${\displaystyle \mathbf {X} \sim {\mathcal {N}}({\boldsymbol {\mu }},\,{\boldsymbol {\Sigma }})}$, entonces la CCDF se puede escribir como una probabilidad del máximo de variables gaussianas dependientes: ^{[ 15 ]}

${\displaystyle {\overline {F}}(\mathbf {x} )=\mathbb {P} \left(\bigcup _{i}\{X_{i}\geq x_{i}\}\right)=\mathbb {P} \left(\max _{i}Y_{i}\geq 0\right),\quad {\text{where }}\mathbf {Y} \sim {\mathcal {N}}\left({\boldsymbol {\mu }}-\mathbf {x} ,\,{\boldsymbol {\Sigma }}\right).}$

Aunque no existe una fórmula cerrada simple para calcular la CCDF, el máximo de variables gaussianas dependientes se puede estimar con precisión mediante el método de Monte Carlo . ^{[ 15 ] [ 16 ]}

Los momentos de orden k de x están dados por

${\displaystyle \mu _{1,\ldots ,N}(\mathbf {x} )\mathrel {\stackrel {\mathrm {def} }{=}} \mu _{r_{1},\ldots ,r_{N}}(\mathbf {x} )\mathrel {\stackrel {\mathrm {def} }{=}} \operatorname {E} \left[\prod _{j=1}^{N}X_{j}^{r_{j}}\right]}$

donde r ₁ + r ₂ + ⋯ + r _N = k .

Los momentos centrales de orden k son los siguientes:

donde la suma se toma sobre todas las asignaciones del conjunto${\displaystyle \left\{1,\ldots ,2\lambda \right\}}$en λ pares (no ordenados). Es decir, para un k -ésimo (= 2 λ = 6) momento central, se suman los productos de λ = 3 covarianzas (el valor esperado μ se toma como 0 en aras de la parsimonia):

${\displaystyle {\begin{aligned}&\operatorname {E} [X_{1}X_{2}X_{3}X_{4}X_{5}X_{6}]\\[8pt]={}&\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{4}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{5}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{2}]\operatorname {E} [X_{3}X_{6}]\operatorname {E} [X_{4}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{3}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{4}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{5}X_{6}]+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{3}X_{6}]+\operatorname {E} [X_{1}X_{4}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{3}X_{5}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{4}X_{6}]+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{3}X_{6}]+\operatorname {E} [X_{1}X_{5}]\operatorname {E} [X_{2}X_{6}]\operatorname {E} [X_{3}X_{4}]\\[4pt]&{}+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{3}]\operatorname {E} [X_{4}X_{5}]+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{4}]\operatorname {E} [X_{3}X_{5}]+\operatorname {E} [X_{1}X_{6}]\operatorname {E} [X_{2}X_{5}]\operatorname {E} [X_{3}X_{4}].\end{aligned}}}$

Esto produce${\displaystyle {\tfrac {(2\lambda -1)!}{2^{\lambda -1}(\lambda -1)!}}}$términos en la suma (15 en el caso anterior), cada uno siendo el producto de λ (en este caso 3) covarianzas. Para momentos de cuarto orden (cuatro variables) hay tres términos. Para momentos de sexto orden hay 3 × 5 = 15 términos, y para momentos de octavo orden hay 3 × 5 × 7 = 105 términos.

Las covarianzas se determinan luego reemplazando los términos de la lista.${\displaystyle [1,\ldots ,2\lambda ]}$mediante los términos correspondientes de la lista que consta de r ₁ unos, luego r ₂ doses, etc. Para ilustrar esto, examine el siguiente caso de momento central de cuarto orden:

${\displaystyle {\begin{aligned}\operatorname {E} \left[X_{i}^{4}\right]&=3\sigma _{ii}^{2}\\[4pt]\operatorname {E} \left[X_{i}^{3}X_{j}\right]&=3\sigma _{ii}\sigma _{ij}\\[4pt]\operatorname {E} \left[X_{i}^{2}X_{j}^{2}\right]&=\sigma _{ii}\sigma _{jj}+2\sigma _{ij}^{2}\\[4pt]\operatorname {E} \left[X_{i}^{2}X_{j}X_{k}\right]&=\sigma _{ii}\sigma _{jk}+2\sigma _{ij}\sigma _{ik}\\[4pt]\operatorname {E} \left[X_{i}X_{j}X_{k}X_{n}\right]&=\sigma _{ij}\sigma _{kn}+\sigma _{ik}\sigma _{jn}+\sigma _{in}\sigma _{jk}.\end{aligned}}}$

dónde${\displaystyle \sigma _{ij}}$es la covarianza de X _i y X _j . Con el método anterior, primero se encuentra el caso general para un k -ésimo momento con k variables X diferentes ,${\displaystyle E\left[X_{i}X_{j}X_{k}X_{n}\right]}$y luego se simplifica esto en consecuencia. Por ejemplo, para${\displaystyle \operatorname {E} [X_{i}^{2}X_{k}X_{n}]}$, se hace X _i = X _j y se utiliza el hecho de que${\displaystyle \sigma _{ii}=\sigma _{i}^{2}}$.

Una forma cuadrática de un vector normal${\displaystyle {\boldsymbol {x}}}$,${\displaystyle q({\boldsymbol {x}})={\boldsymbol {x}}'\mathbf {Q_{2}} {\boldsymbol {x}}+{\boldsymbol {q_{1}}}'{\boldsymbol {x}}+q_{0}}$(dónde${\displaystyle \mathbf {Q_{2}} }$es una matriz,${\displaystyle {\boldsymbol {q_{1}}}}$es un vector, y${\displaystyle q_{0}}$es un escalar), es una variable chi-cuadrado generalizada . La dirección de un vector normal sigue una distribución normal proyectada . ^{[ 17 ]}

Si${\displaystyle f({\boldsymbol {x}})}$es una función escalar general de un vector normal, su función de densidad de probabilidad , función de distribución acumulativa y función de distribución acumulativa inversa se pueden calcular con el método numérico de trazado de rayos ( código Matlab archivado el 20 de febrero de 2025 en Wayback Machine ).

La entropía diferencial de la distribución normal multivariada es ^{[ 19 ]}

$${\displaystyle {\begin{aligned}h\left(f\right)&=-\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }f(\mathbf {x} )\ln f(\mathbf {x} )\,d\mathbf {x} \\[1ex]&={\frac {1}{2}}\ln \left|2\pi e{\boldsymbol {\Sigma }}\right|={\frac {k}{2}}\left(1+\ln 2\pi \right)+{\frac {1}{2}}\ln \left|{\boldsymbol {\Sigma }}\right|,\end{aligned}}}$$

donde las barras denotan el determinante de la matriz , k es la dimensionalidad del espacio vectorial y el resultado tiene unidades de nats .

La divergencia de Kullback-Leibler de${\displaystyle {\mathcal {N}}_{1}({\boldsymbol {\mu }}_{1},{\boldsymbol {\Sigma }}_{1})}$a${\displaystyle {\mathcal {N}}_{0}({\boldsymbol {\mu }}_{0},{\boldsymbol {\Sigma }}_{0})}$, para matrices no singulares Σ ₁ y Σ ₀ , es: ^{[ 20 ]}

${\displaystyle D_{\text{KL}}({\mathcal {N}}_{0}\parallel {\mathcal {N}}_{1})={1 \over 2}\left\{\operatorname {tr} \left({\boldsymbol {\Sigma }}_{1}^{-1}{\boldsymbol {\Sigma }}_{0}\right)+\left({\boldsymbol {\mu }}_{1}-{\boldsymbol {\mu }}_{0}\right)^{\rm {T}}{\boldsymbol {\Sigma }}_{1}^{-1}({\boldsymbol {\mu }}_{1}-{\boldsymbol {\mu }}_{0})-k+\ln {|{\boldsymbol {\Sigma }}_{1}| \over |{\boldsymbol {\Sigma }}_{0}|}\right\},}$

dónde${\displaystyle |\cdot |}$denota el determinante de la matriz ,${\displaystyle tr(\cdot )}$es el rastro ,${\displaystyle \ln(\cdot )}$es el logaritmo natural y${\displaystyle k}$es la dimensión del espacio vectorial.

El logaritmo debe tomarse en base e, ya que los dos términos que siguen al logaritmo son a su vez logaritmos en base e de expresiones que son factores de la función de densidad o que surgen de forma natural. Por lo tanto, la ecuación da un resultado medido en nats . Dividiendo toda la expresión anterior por log _e²  se obtiene la divergencia en bits .

Cuando${\displaystyle {\boldsymbol {\mu }}_{1}={\boldsymbol {\mu }}_{0}}$,

${\displaystyle D_{\text{KL}}({\mathcal {N}}_{0}\parallel {\mathcal {N}}_{1})={1 \over 2}\left\{\operatorname {tr} \left({\boldsymbol {\Sigma }}_{1}^{-1}{\boldsymbol {\Sigma }}_{0}\right)-k+\ln {|{\boldsymbol {\Sigma }}_{1}| \over |{\boldsymbol {\Sigma }}_{0}|}\right\}.}$

La información mutua de dos distribuciones normales multivariadas es un caso especial de la divergencia de Kullback-Leibler en la que${\displaystyle P}$es el completo${\displaystyle k}$distribución multivariada dimensional y${\displaystyle Q}$es el producto de la${\displaystyle k_{1}}$y${\displaystyle k_{2}}$distribuciones marginales dimensionales${\displaystyle X}$y${\displaystyle Y}$, de tal manera que${\displaystyle k_{1}+k_{2}=k}$. La información mutua entre${\displaystyle X}$y${\displaystyle Y}$está dado por: ^{[ 21 ]}

${\displaystyle I({\boldsymbol {X}},{\boldsymbol {Y}})={\frac {1}{2}}\ln \left({\frac {\det(\Sigma _{X})\det(\Sigma _{Y})}{\det(\Sigma )}}\right),}$

dónde

${\displaystyle \Sigma ={\begin{bmatrix}\Sigma _{X}&\Sigma _{XY}\\\Sigma _{XY}&\Sigma _{Y}\end{bmatrix}}.}$

Si${\displaystyle Q}$es producto de${\displaystyle k}$distribuciones normales unidimensionales, luego en la notación de la sección de divergencia de Kullback-Leibler de este artículo,${\displaystyle {\boldsymbol {\Sigma }}_{1}}$es una matriz diagonal con las entradas diagonales de${\displaystyle {\boldsymbol {\Sigma }}_{0}}$, y${\displaystyle {\boldsymbol {\mu }}_{1}={\boldsymbol {\mu }}_{0}}$La fórmula resultante para la información mutua es:

${\displaystyle I({\boldsymbol {X}})=-{1 \over 2}\ln |{\boldsymbol {\rho }}_{0}|,}$

dónde${\displaystyle {\boldsymbol {\rho }}_{0}}$es la matriz de correlación construida a partir de${\displaystyle {\boldsymbol {\Sigma }}_{0}}$. ^{[ 22 ]}

En el caso bivariado, la expresión para la información mutua es:

${\displaystyle I(x;y)=-{1 \over 2}\ln(1-\rho ^{2}).}$

Si x N -dimensional se particiona de la siguiente manera

${\displaystyle \mathbf {x} ={\begin{bmatrix}\mathbf {x} _{1}\\\mathbf {x} _{2}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times 1\\(N-q)\times 1\end{bmatrix}}}$

y, en consecuencia, μ y Σ se dividen de la siguiente manera:

${\displaystyle {\boldsymbol {\mu }}={\begin{bmatrix}{\boldsymbol {\mu }}_{1}\\{\boldsymbol {\mu }}_{2}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times 1\\(N-q)\times 1\end{bmatrix}}}$

${\displaystyle {\boldsymbol {\Sigma }}={\begin{bmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{12}\\{\boldsymbol {\Sigma }}_{21}&{\boldsymbol {\Sigma }}_{22}\end{bmatrix}}{\text{ with sizes }}{\begin{bmatrix}q\times q&q\times (N-q)\\(N-q)\times q&(N-q)\times (N-q)\end{bmatrix}}}$

entonces la distribución de x ₁ condicionada a x ₂ = a es normal multivariada ^{[ 23 ]} ( x ₁  | x ₂ = a ) ~ N ( μ , Σ )  donde

${\displaystyle {\bar {\boldsymbol {\mu }}}={\boldsymbol {\mu }}_{1}+{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\left(\mathbf {a} -{\boldsymbol {\mu }}_{2}\right)}$

y matriz de covarianza

${\displaystyle {\overline {\boldsymbol {\Sigma }}}={\boldsymbol {\Sigma }}_{11}-{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}{\boldsymbol {\Sigma }}_{21}.}$^{[ 24 ]}

Aquí${\displaystyle {\boldsymbol {\Sigma }}_{22}^{-1}}$es la inversa generalizada de${\displaystyle {\boldsymbol {\Sigma }}_{22}}$La matriz${\displaystyle {\overline {\boldsymbol {\Sigma }}}}$es el complemento de Schur de Σ ₂₂ en Σ . Es decir, la ecuación anterior es equivalente a invertir la matriz de covarianza general, eliminar las filas y columnas correspondientes a las variables condicionadas y volver a invertirla para obtener la matriz de covarianza condicional.

Nótese que saber que x ₂ = a altera la varianza, aunque la nueva varianza no depende del valor específico de a ; quizás más sorprendentemente, la media se desplaza en${\displaystyle {\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\left(\mathbf {a} -{\boldsymbol {\mu }}_{2}\right)}$; compárese esto con la situación de no conocer el valor de a , en cuyo caso x ₁ tendría distribución ${\displaystyle {\mathcal {N}}_{q}\left({\boldsymbol {\mu }}_{1},{\boldsymbol {\Sigma }}_{11}\right)}$.

Un hecho interesante derivado para probar este resultado es que los vectores aleatorios${\displaystyle \mathbf {x} _{2}}$y${\displaystyle \mathbf {y} _{1}=\mathbf {x} _{1}-{\boldsymbol {\Sigma }}_{12}{\boldsymbol {\Sigma }}_{22}^{-1}\mathbf {x} _{2}}$son independientes.

La matriz Σ ₁₂ Σ ₂₂ ⁻¹ se conoce como la matriz de coeficientes de regresión .

Para obtener la distribución marginal sobre un subconjunto de variables aleatorias normales multivariadas, basta con eliminar las variables irrelevantes (las que se desean marginalizar) del vector de medias y la matriz de covarianza. La demostración se deduce de las definiciones de distribuciones normales multivariadas y del álgebra lineal. ^{[ 27 ]}

Ejemplo

Sea X = [ X ₁ , X ₂ , X ₃ ] una variable aleatoria normal multivariada con vector de medias μ = [ μ ₁ , μ ₂ , μ ₃ ] y matriz de covarianza Σ (parametrización estándar para distribuciones normales multivariadas). Entonces, la distribución conjunta de X ′ = [ X ₁ , X ₃ ] es normal multivariada con vector de medias μ ′ = [ μ ₁ , μ ₃ ] y matriz de covarianza Σ ${\displaystyle {\boldsymbol {\Sigma }}'={\begin{bmatrix}{\boldsymbol {\Sigma }}_{11}&{\boldsymbol {\Sigma }}_{13}\\{\boldsymbol {\Sigma }}_{31}&{\boldsymbol {\Sigma }}_{33}\end{bmatrix}}}$.

Si Y = c + BX es una transformación afín de${\displaystyle \mathbf {X} \ \sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}),}$donde c es un${\displaystyle M\times 1}$vector de constantes y B es una constante${\displaystyle M\times N}$matriz, entonces Y tiene una distribución normal multivariada con valor esperado c + Bμ y varianza BΣB ^T es decir,${\displaystyle \mathbf {Y} \sim {\mathcal {N}}\left(\mathbf {c} +\mathbf {B} {\boldsymbol {\mu }},\mathbf {B} {\boldsymbol {\Sigma }}\mathbf {B} ^{\rm {T}}\right)}$En particular, cualquier subconjunto de X _i tiene una distribución marginal que también es normal multivariada. Para ver esto, considere el siguiente ejemplo: para extraer el subconjunto ( X ₁ , X ₂ , X ₄ ) ^T , utilice

${\displaystyle \mathbf {B} ={\begin{bmatrix}1&0&0&0&0&\ldots &0\\0&1&0&0&0&\ldots &0\\0&0&0&1&0&\ldots &0\end{bmatrix}}}$

que extrae directamente los elementos deseados.

Otro corolario es que la distribución de Z = b · X , donde b es un vector constante con el mismo número de elementos que X y el punto indica el producto escalar , es una distribución gaussiana univariada con${\displaystyle Z\sim {\mathcal {N}}\left(\mathbf {b} \cdot {\boldsymbol {\mu }},\mathbf {b} ^{\rm {T}}{\boldsymbol {\Sigma }}\mathbf {b} \right)}$Este resultado se obtiene utilizando

${\displaystyle \mathbf {B} ={\begin{bmatrix}b_{1}&b_{2}&\ldots &b_{n}\end{bmatrix}}=\mathbf {b} ^{\rm {T}}.}$

Observe cómo la positividad definida de Σ implica que la varianza del producto escalar debe ser positiva.

Una transformación afín de X como 2 X no es lo mismo que la suma de dos realizaciones independientes de X.

Los contornos de equidensidad de una distribución normal multivariada no singular son elipsoides (es decir, transformaciones afines de hiperesferas ) centrados en la media. ^{[ 28 ]} Por lo tanto, la distribución normal multivariada es un ejemplo de la clase de distribuciones elípticas . Las direcciones de los ejes principales de los elipsoides vienen dadas por los vectores propios de la matriz de covarianza.${\displaystyle {\boldsymbol {\Sigma }}}$Las longitudes relativas al cuadrado de los ejes principales vienen dadas por los autovalores correspondientes.

Si Σ = UΛU ^T = UΛ ^1/2 ( UΛ ^1/2 ) ^T es una descomposición en valores propios donde las columnas de U son vectores propios unitarios y Λ es una matriz diagonal de los valores propios, entonces tenemos

${\displaystyle \mathbf {X} \ \sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})\iff \mathbf {X} \ \sim {\boldsymbol {\mu }}+\mathbf {U} {\boldsymbol {\Lambda }}^{1/2}{\mathcal {N}}(0,\mathbf {I} )\iff \mathbf {X} \ \sim {\boldsymbol {\mu }}+\mathbf {U} {\mathcal {N}}(0,{\boldsymbol {\Lambda }}).}$

Además, U puede elegirse como una matriz de rotación , ya que invertir un eje no tiene ningún efecto sobre N (0, Λ ), pero invertir una columna cambia el signo del determinante de U. La distribución N ( μ , Σ ) es en efecto N (0, I ) escalada por Λ ^1/2 , rotada por U y trasladada por μ .

Por el contrario, cualquier elección de μ , matriz de rango completo U y entradas diagonales positivas Λ _i produce una distribución normal multivariada no singular. Si algún Λ _i es cero y U es cuadrada, la matriz de covarianza resultante UΛU ^T es singular . Geométricamente, esto significa que cada elipsoide de contorno es infinitamente delgado y tiene volumen cero en el espacio n -dimensional, ya que al menos uno de los ejes principales tiene longitud cero; este es el caso degenerado .

"El radio alrededor de la media verdadera en una variable aleatoria normal bivariada, reescrita en coordenadas polares (radio y ángulo), sigue una distribución de Hoyt ." ^{[ 29 ]}

En una dimensión, la probabilidad de encontrar una muestra de la distribución normal en el intervalo${\displaystyle \mu \pm \sigma }$es aproximadamente 68,27%, pero en dimensiones superiores la probabilidad de encontrar una muestra en la región de la elipse de desviación estándar es menor. ^{[ 30 ]}

La derivación del estimador de máxima verosimilitud de la matriz de covarianza de una distribución normal multivariada es sencilla.

En resumen, la función de densidad de probabilidad (pdf) de una distribución normal multivariada es

${\displaystyle f(\mathbf {x} )={\frac {1}{\sqrt {(2\pi )^{k}|{\boldsymbol {\Sigma }}|}}}\exp \left(-{1 \over 2}(\mathbf {x} -{\boldsymbol {\mu }})^{\rm {T}}{\boldsymbol {\Sigma }}^{-1}({\mathbf {x} }-{\boldsymbol {\mu }})\right)}$

y el estimador ML de la matriz de covarianza a partir de una muestra de n observaciones es ^{[ 31 ]}

${\displaystyle {\widehat {\boldsymbol {\Sigma }}}={1 \over n}\sum _{i=1}^{n}({\mathbf {x} }_{i}-{\overline {\mathbf {x} }})({\mathbf {x} }_{i}-{\overline {\mathbf {x} }})^{\mathrm {T} }}$

que es simplemente la matriz de covarianza de la muestra . Este es un estimador sesgado cuya esperanza es

${\displaystyle E\left[{\widehat {\boldsymbol {\Sigma }}}\right]={\frac {n-1}{n}}{\boldsymbol {\Sigma }}.}$

Una covarianza de muestra insesgada es

${\displaystyle {\widehat {\boldsymbol {\Sigma }}}={\frac {1}{n-1}}\sum _{i=1}^{n}(\mathbf {x} _{i}-{\overline {\mathbf {x} }})(\mathbf {x} _{i}-{\overline {\mathbf {x} }})^{\rm {T}}={\frac {1}{n-1}}\left[X'\left(I-{\frac {1}{n}}\cdot J\right)X\right]}$ (forma matricial;${\displaystyle I}$es el${\displaystyle K\times K}$matriz identidad, J es una${\displaystyle K\times K}$matriz de unos; el término entre paréntesis es, por lo tanto, el${\displaystyle K\times K}$matriz de centrado)

La matriz de información de Fisher para estimar los parámetros de una distribución normal multivariada tiene una expresión analítica. Esta puede utilizarse, por ejemplo, para calcular la cota de Cramér-Rao para la estimación de parámetros en este contexto. Consulte la información de Fisher para obtener más detalles.

En estadística bayesiana , la distribución a priori conjugada del vector de medias es otra distribución normal multivariada, y la distribución a priori conjugada de la matriz de covarianza es una distribución inversa de Wishart.${\displaystyle {\mathcal {W}}^{-1}}$Supongamos entonces que se han realizado n observaciones.

${\displaystyle \mathbf {X} =\{\mathbf {x} _{1},\dots ,\mathbf {x} _{n}\}\sim {\mathcal {N}}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})}$

y que se ha asignado un prior conjugado, donde

${\displaystyle p({\boldsymbol {\mu }},{\boldsymbol {\Sigma }})=p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }})\ p({\boldsymbol {\Sigma }}),}$

dónde

${\displaystyle p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }})\sim {\mathcal {N}}({\boldsymbol {\mu }}_{0},m^{-1}{\boldsymbol {\Sigma }}),}$

y

${\displaystyle p({\boldsymbol {\Sigma }})\sim {\mathcal {W}}^{-1}({\boldsymbol {\Psi }},n_{0}).}$

Entonces ^{[ 31 ]}

${\displaystyle {\begin{array}{rcl}p({\boldsymbol {\mu }}\mid {\boldsymbol {\Sigma }},\mathbf {X} )&\sim &{\mathcal {N}}\left({\frac {n{\bar {\mathbf {x} }}+m{\boldsymbol {\mu }}_{0}}{n+m}},{\frac {1}{n+m}}{\boldsymbol {\Sigma }}\right),\\p({\boldsymbol {\Sigma }}\mid \mathbf {X} )&\sim &{\mathcal {W}}^{-1}\left({\boldsymbol {\Psi }}+n\mathbf {S} +{\frac {nm}{n+m}}({\bar {\mathbf {x} }}-{\boldsymbol {\mu }}_{0})({\bar {\mathbf {x} }}-{\boldsymbol {\mu }}_{0})',n+n_{0}\right),\end{array}}}$

dónde

${\displaystyle {\begin{aligned}{\bar {\mathbf {x} }}&={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {x} _{i},\\\mathbf {S} &={\frac {1}{n}}\sum _{i=1}^{n}(\mathbf {x} _{i}-{\bar {\mathbf {x} }})(\mathbf {x} _{i}-{\bar {\mathbf {x} }})'.\end{aligned}}}$

Las pruebas de normalidad multivariante comprueban si un conjunto de datos dado se asemeja a la distribución normal multivariante . La hipótesis nula es que el conjunto de datos es similar a la distribución normal; por lo tanto, un valor p suficientemente pequeño indica que los datos no son normales. Las pruebas de normalidad multivariante incluyen la prueba de Cox-Small ^{[ 32 ]} y la adaptación de Smith y Jain ^{[ 33 ]} de la prueba de Friedman-Rafsky creada por Larry Rafsky y Jerome Friedman ^{[ 34 ]} .