Articulo de referencia

Covarianza

El signo de la covarianza de dos variables aleatorias X e Y En teoría de la probabilidad y estadística , la covarianza es una medida de la variabilidad conjunta de dos variables...

El signo de la covarianza de dos variables aleatorias X e Y

En teoría de la probabilidad y estadística , la covarianza es una medida de la variabilidad conjunta de dos variables aleatorias . [ 1 ] El signo de la covarianza muestra la tendencia en la relación lineal entre las variables. La covarianza es positiva cuando las variables tienden a mostrar un comportamiento similar y negativa cuando tienden a mostrar un comportamiento opuesto. [ 2 ] La magnitud de la covarianza es la media geométrica de las varianzas compartidas por las dos variables aleatorias, donde una magnitud mayor significa que las dos variables dependen más fuertemente entre sí.

La covarianza tiene unidades de medida, y su magnitud se ve afectada por dichas unidades. Esto significa que cambiar las unidades (por ejemplo, de metros a milímetros) modifica el valor de la covarianza proporcionalmente, lo que dificulta evaluar la fuerza de la relación basándose únicamente en la covarianza. En algunas situaciones, es conveniente comparar la fuerza de la asociación conjunta entre diferentes pares de variables aleatorias que no necesariamente tienen las mismas unidades. [ 3 ] En esos casos, utilizamos el coeficiente de correlación , que normaliza la covarianza a un valor entre -1 y 1 dividiéndola por la media geométrica de las varianzas totales (es decir, el producto de las desviaciones estándar ) de las dos variables aleatorias. [ 4 ]

Se hace una distinción entre (1) la covarianza de dos variables aleatorias, que es un parámetro poblacional que puede verse como una propiedad de la distribución de probabilidad conjunta , y (2) la covarianza muestral , que, además de servir como un descriptor de la muestra, también sirve como un valor estimado del parámetro poblacional.

Definición

Para dos variables aleatorias de valor real distribuidas conjuntamenteincógnita{\displaystyle X}yY{\displaystyle Y}con segundos momentos finitos , la covarianza se define como el valor esperado (o media) del producto de sus desviaciones de sus valores esperados individuales: [ 5 ] [ 6 ] : 119

cobertura(incógnita,Y)=mi[(incógnitami[incógnita])(Ymi[Y])]{\displaystyle \operatorname {cov} (X,Y)=\operatorname {E} {{\big [}(X-\operatorname {E} [X])(Y-\operatorname {E} [Y]){\big ]}}}

dóndemi[incógnita]{\displaystyle \operatorname {E} [X]}es el valor esperado deincógnita{\displaystyle X}, también conocido como la media deincógnita{\displaystyle X}La covarianza también se denota a vecesσincógnitaY{\displaystyle \sigma _{XY}}oσ(incógnita,Y){\displaystyle \sigma (X,Y)}, de forma análoga a la varianza . Utilizando la propiedad de linealidad de las esperanzas, esto se puede simplificar al valor esperado de su producto menos el producto de sus valores esperados: cobertura(incógnita,Y)=mi[(incógnitami[incógnita])(Ymi[Y])]=mi[incógnitaYincógnitami[Y]mi[incógnita]Y+mi[incógnita]mi[Y]]=mi[incógnitaY]mi[incógnita]mi[Y]mi[incógnita]mi[Y]+mi[incógnita]mi[Y]=mi[incógnitaY]mi[incógnita]mi[Y].{\displaystyle {\begin{aligned}\operatorname {cov} (X,Y)&=\operatorname {E} \left[\left(X-\operatorname {E} \left[X\right]\right)\left(Y-\operatorname {E} \left[Y\right]\right)\right]\\&=\operatorname {E} \left[XY-X\operatorname {E} \left[Y\right]-\operatorname {E} \left[X\right]Y+\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\right]\\&=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]+\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\\&=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right].\end{aligned}}} Esta identidad resulta útil para derivaciones matemáticas. Sin embargo, desde el punto de vista del cálculo numérico, es susceptible de cancelación catastrófica (véase la sección sobre cálculo numérico más adelante).

Las unidades de medida de la covarianzacobertura(incógnita,Y){\displaystyle \operatorname {cov} (X,Y)}son los deincógnita{\displaystyle X}tiempos aquellos deY{\displaystyle Y}Por el contrario, los coeficientes de correlación , que dependen de la covarianza, son una medida adimensional de la dependencia lineal. (De hecho, los coeficientes de correlación pueden entenderse simplemente como una versión normalizada de la covarianza).

variables aleatorias complejas

La covarianza entre dos variables aleatorias complejasZ,W{\displaystyle Z,W}se define como [ 6 ] : 119cobertura(Z,W)=mi[(Zmi[Z])(Wmi[W])¯]=mi[ZW¯]mi[Z]mi[W¯]{\displaystyle \operatorname {cov} (Z,W)=\operatorname {E} \left[(Z-\operatorname {E} [Z]){\overline {(W-\operatorname {E} [W])}}\right]=\operatorname {E} \left[Z{\overline {W}}\right]-\operatorname {E} [Z]\operatorname {E} \left[{\overline {W}}\right]}

Nótese la conjugación compleja del segundo factor en la definición.

También se puede definir una pseudocovarianza relacionada .

Variables aleatorias discretas

Si el par de variables aleatorias (reales)(incógnita,Y){\displaystyle (X,Y)}pueden adoptar los valores(incógnitai,yi){\displaystyle (x_{i},y_{i})}parai=1,,norte{\displaystyle i=1,\ldots ,n}, con igual probabilidadpagi=1/norte{\displaystyle p_{i}=1/n}, entonces la covarianza puede escribirse de forma equivalente en términos de las mediasmi[incógnita]{\displaystyle \operatorname {E} [X]}ymi[Y]{\displaystyle \operatorname {E} [Y]}como cobertura(incógnita,Y)=1nortei=1norte(incógnitaimi(incógnita))(yimi(Y)).{\displaystyle \operatorname {cov} (X,Y)={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-E(X))(y_{i}-E(Y)).}

También puede expresarse de forma equivalente, sin referirse directamente a los medios, como [ 7 ].cobertura(incógnita,Y)=1norte2i=1nortej=1norte12(incógnitaiincógnitaj)(yiyj)=1norte2ij>i(incógnitaiincógnitaj)(yiyj).{\displaystyle \operatorname {cov} (X,Y)={\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}{\frac {1}{2}}(x_{i}-x_{j})(y_{i}-y_{j})={\frac {1}{n^{2}}}\sum _{i}\sum _{j>i}(x_{i}-x_{j})(y_{i}-y_{j}).}

En términos más generales, si haynorte{\displaystyle n}posibles realizaciones de(incógnita,Y){\displaystyle (X,Y)}, es decir(incógnitai,yi){\displaystyle (x_{i},y_{i})}pero con probabilidades posiblemente desigualespagi{\displaystyle p_{i}}parai=1,,norte{\displaystyle i=1,\ldots ,n}, entonces la covarianza es cobertura(incógnita,Y)=i=1nortepagi(incógnitaimi(incógnita))(yimi(Y)).{\displaystyle \operatorname {cov} (X,Y)=\sum _{i=1}^{n}p_{i}(x_{i}-E(X))(y_{i}-E(Y)).}

En el caso de que haya dos variables aleatorias discretasincógnita{\displaystyle X}yY{\displaystyle Y}tienen una distribución de probabilidad conjunta, representada por elementospagi,j{\displaystyle p_{i,j}}correspondientes a las probabilidades conjuntas dePAG(incógnita=incógnitai,Y=yj){\displaystyle P(X=x_{i},Y=y_{j})}La covarianza se calcula mediante una doble suma sobre los índices de la matriz:

cobertura(incógnita,Y)=i=1nortej=1nortepagi,j(incógnitaimi[incógnita])(yjmi[Y]).{\displaystyle \operatorname {cov} (X,Y)=\sum _{i=1}^{n}\sum _{j=1}^{n}p_{i,j}(x_{i}-E[X])(y_{j}-E[Y]).}

Ejemplos

Consideremos tres variables aleatorias independientes.A,B,do{\displaystyle A,B,C}y dos constantesq,r{\displaystyle q,r}. incógnita=qA+BY=rA+docobertura(incógnita,Y)=qrvar(A){\displaystyle {\begin{aligned}X&=qA+B\\Y&=rA+C\\\operatorname {cov} (X,Y)&=qr\operatorname {var} (A)\end{aligned}}} En el caso especial,q=1{\displaystyle q=1}yr=1{\displaystyle r=1}, la covarianza entreincógnita{\displaystyle X}yY{\displaystyle Y}es simplemente la variación deA{\displaystyle A}y el nombre covarianza es totalmente apropiado.

Interpretación geométrica del ejemplo de covarianza. Cada cuboide es el recuadro delimitador alineado con los ejes de su punto ( x , y , f ( x , y )), y las medias de X e Y (punto magenta). La covarianza es la suma de los volúmenes de los cuboides en el primer y tercer cuadrante (rojo) y en el segundo y cuarto (azul).

Supongamos queincógnita{\displaystyle X}yY{\displaystyle Y}tienen la siguiente función de masa de probabilidad conjunta , [ 8 ] en la que las seis celdas centrales dan las probabilidades conjuntas discretasF(incógnita,y){\displaystyle f(x,y)}de las seis realizaciones hipotéticas(incógnita,y)S={(5,8),(6,8),(7,8),(5,9),(6,9),(7,9)}{\displaystyle (x,y)\in S=\left\{(5,8),(6,8),(7,8),(5,9),(6,9),(7,9)\right\}}:

incógnita{\displaystyle X}puede tomar tres valores (5, 6 y 7) mientrasY{\displaystyle Y}pueden tomar dos (8 y 9). Sus medias sonμincógnita=5(0,3)+6(0,4)+7(0.1+0,2)=6{\displaystyle \mu _{X}=5(0.3)+6(0.4)+7(0.1+0.2)=6}yμY=8(0,4+0.1)+9(0,3+0,2)=8.5{\displaystyle \mu _{Y}=8(0.4+0.1)+9(0.3+0.2)=8.5}. Entonces, cobertura(incógnita,Y)=σincógnitaY=(incógnita,y)SF(incógnita,y)(incógnitaμincógnita)(yμY)=(0)(56)(88.5)+(0,4)(66)(88.5)+(0.1)(76)(88.5)+(0,3)(56)(98.5)+(0)(66)(98.5)+(0,2)(76)(98.5)=0.1.{\displaystyle {\begin{aligned}\operatorname {cov} (X,Y)={}&\sigma _{XY}=\sum _{(x,y)\in S}f(x,y)\left(x-\mu _{X}\right)\left(y-\mu _{Y}\right)\\[4pt]={}&(0)(5-6)(8-8.5)+(0.4)(6-6)(8-8.5)+(0.1)(7-6)(8-8.5)+{}\\[4pt]&(0.3)(5-6)(9-8.5)+(0)(6-6)(9-8.5)+(0.2)(7-6)(9-8.5)\\[4pt]={}&{-0.1}\;.\end{aligned}}}

Propiedades

Covarianza consigo misma

La varianza es un caso especial de la covarianza en el que las dos variables son idénticas: [ 6 ] : 121cobertura(incógnita,incógnita)=var(incógnita)σ2(incógnita)σincógnita2.{\displaystyle \operatorname {cov} (X,X)=\operatorname {var} (X)\equiv \sigma ^{2}(X)\equiv \sigma _{X}^{2}.}

Covarianza de combinaciones lineales

Siincógnita{\displaystyle X},Y{\displaystyle Y},W{\displaystyle W}, yV{\displaystyle V}son variables aleatorias de valor real ya,b,do,d{\displaystyle a,b,c,d}Si son constantes de valor real, entonces los siguientes hechos son consecuencia de la definición de covarianza: cobertura(incógnita,a)=0cobertura(incógnita,incógnita)=var(incógnita)cobertura(incógnita,Y)=cobertura(Y,incógnita)cobertura(aincógnita,bY)=abcobertura(incógnita,Y)cobertura(incógnita+a,Y+b)=cobertura(incógnita,Y)cobertura(aincógnita+bY,doW+dV)=adocobertura(incógnita,W)+adcobertura(incógnita,V)+bdocobertura(Y,W)+bdcobertura(Y,V){\displaystyle {\begin{aligned}\operatorname {cov} (X,a)&=0\\\operatorname {cov} (X,X)&=\operatorname {var} (X)\\\operatorname {cov} (X,Y)&=\operatorname {cov} (Y,X)\\\operatorname {cov} (aX,bY)&=ab\,\operatorname {cov} (X,Y)\\\operatorname {cov} (X+a,Y+b)&=\operatorname {cov} (X,Y)\\\operatorname {cov} (aX+bY,cW+dV)&=ac\,\operatorname {cov} (X,W)+ad\,\operatorname {cov} (X,V)+bc\,\operatorname {cov} (Y,W)+bd\,\operatorname {cov} (Y,V)\end{aligned}}}

Para una secuenciaincógnita1,,incógnitanorte{\displaystyle X_{1},\ldots ,X_{n}}de variables aleatorias y constantes de valor reala1,,anorte{\displaystyle a_{1},\ldots ,a_{n}}, tenemos var(i=1norteaiincógnitai)=i=1norteai2var(incógnitai)+2i,j:i<jaiajcobertura(incógnitai,incógnitaj)=i,jaiajcobertura(incógnitai,incógnitaj){\displaystyle \operatorname {var} \left(\sum _{i=1}^{n}a_{i}X_{i}\right)=\sum _{i=1}^{n}a_{i}^{2}\operatorname {var} (X_{i})+2\sum _{i,j\,:\,i<j}a_{i}a_{j}\operatorname {cov} (X_{i},X_{j})=\sum _{i,j}{a_{i}a_{j}\operatorname {cov} (X_{i},X_{j})}}

Identidad de covarianza de Hoeffding

Una identidad útil para calcular la covarianza entre dos variables aleatorias.incógnita,Y{\displaystyle X,Y} es la identidad de covarianza de Hoeffding: [ 9 ]cobertura(incógnita,Y)=RR(F(incógnita,Y)(incógnita,y)Fincógnita(incógnita)FY(y))dincógnitady{\displaystyle \operatorname {cov} (X,Y)=\int _{\mathbb {R} }\int _{\mathbb {R} }\left(F_{(X,Y)}(x,y)-F_{X}(x)F_{Y}(y)\right)\,dx\,dy} dóndeF(incógnita,Y)(incógnita,y){\displaystyle F_{(X,Y)}(x,y)}es la función de distribución acumulativa conjunta del vector aleatorio(incógnita,Y){\displaystyle (X,Y)}yFincógnita(incógnita),FY(y){\displaystyle F_{X}(x),F_{Y}(y)}son los marginales .

Descorrelación e independencia

Las variables aleatorias cuya covarianza es cero se denominan no correlacionadas . [ 6 ] : 121 De manera similar, los componentes de vectores aleatorios cuya matriz de covarianza es cero en cada entrada fuera de la diagonal principal también se denominan no correlacionados.

Siincógnita{\displaystyle X}yY{\displaystyle Y}son variables aleatorias independientes , entonces su covarianza es cero. [ 6 ] : 123 [ 10 ] Esto se deduce porque bajo independencia, mi[incógnitaY]=mi[incógnita]mi[Y].{\displaystyle \operatorname {E} [XY]=\operatorname {E} [X]\cdot \operatorname {E} [Y].}

Sin embargo, lo contrario no suele ser cierto. Por ejemplo, supongamos que...incógnita{\displaystyle X}estar distribuido uniformemente en[1,1]{\displaystyle [-1,1]}y dejarY=incógnita2{\displaystyle Y=X^{2}}. Claramente,incógnita{\displaystyle X}yY{\displaystyle Y}no son independientes, pero cobertura(incógnita,Y)=cobertura(incógnita,incógnita2)=mi[incógnitaincógnita2]mi[incógnita]mi[incógnita2]=mi[incógnita3]mi[incógnita]mi[incógnita2]=00mi[incógnita2]=0.{\displaystyle {\begin{aligned}\operatorname {cov} (X,Y)&=\operatorname {cov} \left(X,X^{2}\right)\\&=\operatorname {E} \left[X\cdot X^{2}\right]-\operatorname {E} [X]\cdot \operatorname {E} \left[X^{2}\right]\\&=\operatorname {E} \left[X^{3}\right]-\operatorname {E} [X]\operatorname {E} \left[X^{2}\right]\\&=0-0\cdot \operatorname {E} [X^{2}]\\&=0.\end{aligned}}}

En este caso, la relación entreY{\displaystyle Y}yincógnita{\displaystyle X}es no lineal, mientras que la correlación y la covarianza son medidas de dependencia lineal entre dos variables aleatorias. Este ejemplo muestra que si dos variables aleatorias no están correlacionadas, eso no implica, en general, que sean independientes. Sin embargo, si dos variables tienen una distribución normal conjunta (pero no si solo tienen una distribución normal individual ), la falta de correlación implica independencia. [ 11 ]

incógnita{\displaystyle X}yY{\displaystyle Y}cuya covarianza es positiva se denominan correlacionadas positivamente, lo que implica que siincógnita>mi[incógnita]{\displaystyle X>E[X]}entonces probableY>mi[Y]{\displaystyle Y>E[Y]}. En cambio,incógnita{\displaystyle X}yY{\displaystyle Y}con covarianza negativa están correlacionados negativamente, y siincógnita>mi[incógnita]{\displaystyle X>E[X]}entonces probableY<mi[Y]{\displaystyle Y<E[Y]}.

Relación con los productos internos

Muchas de las propiedades de la covarianza se pueden extraer elegantemente observando que satisface propiedades similares a las de un producto interno :

  1. bilineal : para constantesa{\displaystyle a}yb{\displaystyle b}y variables aleatoriasincógnita,Y,Z,{\displaystyle X,Y,Z,}cobertura(aincógnita+bY,Z)=acobertura(incógnita,Z)+bcobertura(Y,Z){\displaystyle \operatorname {cov} (aX+bY,Z)=a\operatorname {cov} (X,Z)+b\operatorname {cov} (Y,Z)}
  2. simétrico:cobertura(incógnita,Y)=cobertura(Y,incógnita){\displaystyle \operatorname {cov} (X,Y)=\operatorname {cov} (Y,X)}
  3. semidefinido positivo :σ2(incógnita)=cobertura(incógnita,incógnita)0{\displaystyle \sigma ^{2}(X)=\operatorname {cov} (X,X)\geq 0}para todas las variables aleatoriasincógnita{\displaystyle X}, ycobertura(incógnita,incógnita)=0{\displaystyle \operatorname {cov} (X,X)=0}implica queincógnita{\displaystyle X}es constante casi con seguridad .

De hecho, estas propiedades implican que la covarianza define un producto interno sobre el espacio vectorial cociente obtenido al tomar el subespacio de variables aleatorias con segundo momento finito e identificar dos cualesquiera que difieran en una constante. (Esta identificación transforma la semidefinición positiva anterior en definición positiva). Dicho espacio vectorial cociente es isomorfo al subespacio de variables aleatorias con segundo momento finito y media cero; en ese subespacio, la covarianza es precisamente el producto interno de funciones de valor real en el espacio muestral.

Como resultado, para variables aleatorias con varianza finita, la desigualdad |cobertura(incógnita,Y)|σ2(incógnita)σ2(Y){\displaystyle \left|\operatorname {cov} (X,Y)\right|\leq {\sqrt {\sigma ^{2}(X)\sigma ^{2}(Y)}}} es un caso especial de la desigualdad de Cauchy-Schwarz .

Para mayor comodidad, aquí se presenta una demostración explícita que utiliza únicamente las propiedades del producto interno mencionadas anteriormente.

Siσ2(Y)=0{\displaystyle \sigma ^{2}(Y)=0}, entonces se cumple trivialmente. De lo contrario, defina la variable aleatoria Z=incógnitacobertura(incógnita,Y)σ2(Y)Y.{\displaystyle Z=X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y.}

Entonces tenemos 0σ2(Z)=cobertura(incógnitacobertura(incógnita,Y)σ2(Y)Y,incógnitacobertura(incógnita,Y)σ2(Y)Y)=σ2(incógnita)(cobertura(incógnita,Y))2σ2(Y)(cobertura(incógnita,Y))2σ2(incógnita)σ2(Y)|cobertura(incógnita,Y)|σ2(incógnita)σ2(Y){\displaystyle {\begin{aligned}0\leq \sigma ^{2}(Z)&=\operatorname {cov} \left(X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y,\;X-{\frac {\operatorname {cov} (X,Y)}{\sigma ^{2}(Y)}}Y\right)\\[12pt]&=\sigma ^{2}(X)-{\frac {(\operatorname {cov} (X,Y))^{2}}{\sigma ^{2}(Y)}}\\\implies (\operatorname {cov} (X,Y))^{2}&\leq \sigma ^{2}(X)\sigma ^{2}(Y)\\\left|\operatorname {cov} (X,Y)\right|&\leq {\sqrt {\sigma ^{2}(X)\sigma ^{2}(Y)}}\end{aligned}}}

Cálculo de la covarianza muestral

Las covarianzas de muestra entreK{\displaystyle K}variables basadas ennorte{\displaystyle N}Las observaciones de cada uno, extraídas de una población que de otro modo no habría sido observada, se dan mediante laK×K{\displaystyle K\times K}matrizq¯=[qjk]{\displaystyle \textstyle {\overline {\mathbf {q} }}=\left[q_{jk}\right]}con las entradas

qjk=1norte1i=1norte(incógnitaijincógnita¯j)(incógnitaikincógnita¯k),{\displaystyle q_{jk}={\frac {1}{N-1}}\sum _{i=1}^{N}\left(X_{ij}-{\bar {X}}_{j}\right)\left(X_{ik}-{\bar {X}}_{k}\right),}

que es una estimación de la covarianza entre variablesj{\displaystyle j}y variablek{\displaystyle k}.

La media muestral y la matriz de covarianza muestral son estimaciones insesgadas de la media y la matriz de covarianza del vector aleatorio.incógnita{\displaystyle \textstyle \mathbf {X} }, un vector cuyo j -ésimo elemento(j=1,,K){\displaystyle (j=1,\,\ldots ,\,K)}es una de las variables aleatorias. La razón por la que la matriz de covarianza de la muestra tienenorte1{\displaystyle \textstyle N-1}en el denominador en lugar denorte{\displaystyle \textstyle N}es esencialmente que la media poblacionalmi(incógnita){\displaystyle \operatorname {E} (\mathbf {X} )}no se conoce y se reemplaza por la media de la muestra.incógnita¯{\displaystyle \mathbf {\bar {X}} }. Si la media poblacionalmi(incógnita){\displaystyle \operatorname {E} (\mathbf {X} )}Se sabe que la estimación análoga insesgada viene dada por

qjk=1nortei=1norte(incógnitaijmi(incógnitaj))(incógnitaikmi(incógnitak)){\displaystyle q_{jk}={\frac {1}{N}}\sum _{i=1}^{N}\left(X_{ij}-\operatorname {E} \left(X_{j}\right)\right)\left(X_{ik}-\operatorname {E} \left(X_{k}\right)\right)}.

Generalizaciones

Matriz de autocovarianza de vectores aleatorios reales

Para un vectorincógnita=[incógnita1incógnita2incógnitametro]T{\displaystyle \mathbf {X} ={\begin{bmatrix}X_{1}&X_{2}&\dots &X_{m}\end{bmatrix}}^{\mathrm {T} }}demetro{\displaystyle m}variables aleatorias distribuidas conjuntamente con segundos momentos finitos, su matriz de autocovarianza (también conocida como matriz de varianza-covarianza o simplemente matriz de covarianza )Kincógnitaincógnita{\displaystyle \operatorname {K} _{\mathbf {X} \mathbf {X} }}(también denotado porΣ(incógnita){\displaystyle \Sigma (\mathbf {X} )}ocobertura(incógnita,incógnita){\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {X} )}) se define como [ 12 ] : 335Kincógnitaincógnita=cobertura(incógnita,incógnita)=mi[(incógnitami[incógnita])(incógnitami[incógnita])T]=mi[incógnitaincógnitaT]mi[incógnita]mi[incógnita]T.{\displaystyle {\begin{aligned}\operatorname {K} _{\mathbf {XX} }=\operatorname {cov} (\mathbf {X} ,\mathbf {X} )&=\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\mathrm {T} }\right]\\&=\operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {X} ]^{\mathrm {T} }.\end{aligned}}}

Dejarincógnita{\displaystyle \mathbf {X} }Sea un vector aleatorio con matriz de covarianza Σ , y sea A una matriz que puede actuar sobreincógnita{\displaystyle \mathbf {X} }A la izquierda. La matriz de covarianza del producto matriz-vector AX es: cobertura(Aincógnita,Aincógnita)=mi[Aincógnita(Aincógnita)T]mi[Aincógnita]mi[(Aincógnita)T]=mi[AincógnitaincógnitaTAT]mi[Aincógnita]mi[incógnitaTAT]=Ami[incógnitaincógnitaT]ATAmi[incógnita]mi[incógnitaT]AT=A(mi[incógnitaincógnitaT]mi[incógnita]mi[incógnitaT])AT=AΣAT.{\displaystyle {\begin{aligned}\operatorname {cov} (\mathbf {AX} ,\mathbf {AX} )&=\operatorname {E} \left[\mathbf {AX(A} \mathbf {X)} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {AX} ]\operatorname {E} \left[(\mathbf {A} \mathbf {X} )^{\mathrm {T} }\right]\\&=\operatorname {E} \left[\mathbf {AXX} ^{\mathrm {T} }\mathbf {A} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {AX} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\mathbf {A} ^{\mathrm {T} }\right]\\&=\mathbf {A} \operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]\mathbf {A} ^{\mathrm {T} }-\mathbf {A} \operatorname {E} [\mathbf {X} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\right]\mathbf {A} ^{\mathrm {T} }\\&=\mathbf {A} \left(\operatorname {E} \left[\mathbf {XX} ^{\mathrm {T} }\right]-\operatorname {E} [\mathbf {X} ]\operatorname {E} \left[\mathbf {X} ^{\mathrm {T} }\right]\right)\mathbf {A} ^{\mathrm {T} }\\&=\mathbf {A} \Sigma \mathbf {A} ^{\mathrm {T} }.\end{aligned}}}

Esto es consecuencia directa de la linealidad de la esperanza matemática y resulta útil al aplicar una transformación lineal , como una transformación de blanqueamiento , a un vector.

Matriz de covarianza cruzada de vectores aleatorios reales

Para vectores aleatorios realesincógnitaRmetro{\displaystyle \mathbf {X} \in \mathbb {R} ^{m}}yYRnorte{\displaystyle \mathbf {Y} \in \mathbb {R} ^{n}}, elmetro×norte{\displaystyle m\times n}La matriz de covarianza cruzada es igual a [ 12 ] : 336

dóndeYT{\displaystyle \mathbf {Y} ^{\mathrm {T} }}es la transpuesta del vector (o matriz)Y{\displaystyle \mathbf {Y} }.

El(i,j){\displaystyle (i,j)}El -ésimo elemento de esta matriz es igual a la covarianza.cobertura(incógnitai,Yj){\displaystyle \operatorname {cov} (X_{i},Y_{j})}entre el i -ésimo componente escalar deincógnita{\displaystyle \mathbf {X} }y el j -ésimo componente escalar deY{\displaystyle \mathbf {Y} }. En particular,cobertura(Y,incógnita){\displaystyle \operatorname {cov} (\mathbf {Y} ,\mathbf {X} )}es la transpuesta decobertura(incógnita,Y){\displaystyle \operatorname {cov} (\mathbf {X} ,\mathbf {Y} )}.

Forma sesquilineal de covarianza cruzada de vectores aleatorios en un espacio de Hilbert real o complejo.

De manera más general, dejarH1=(H1,,1){\displaystyle H_{1}=(H_{1},\langle \,,\rangle _{1})}yH2=(H2,,2){\displaystyle H_{2}=(H_{2},\langle \,,\rangle _{2})}, sean espacios de Hilbert sobreR{\displaystyle \mathbb {R} }odo{\displaystyle \mathbb {C} }con,{\displaystyle \langle \,,\rangle }antilineal en la primera variable, y seaincógnita,Y{\displaystyle \mathbf {X} ,\mathbf {Y} }serH1{\displaystyle H_{1}}respectivamente.H2{\displaystyle H_{2}}variables aleatorias valoradas. Entonces la covarianza deincógnita{\displaystyle \mathbf {X} }yY{\displaystyle \mathbf {Y} }es la forma sesquilineal enH1×H2{\displaystyle H_{1}\times H_{2}} (antilineal en la primera variable) dada por Kincógnita,Y(h1,h2)=cobertura(incógnita,Y)(h1,h2)=mi[h1,(incógnitami[incógnita])1(Ymi[Y]),h22]=mi[h1,incógnita1Y,h22]mi[h,incógnita1]mi[Y,h22]=h1,mi[(incógnitami[incógnita])(Ymi[Y])]h21=h1,(mi[incógnitaY]mi[incógnita]mi[Y])h21{\displaystyle {\begin{aligned}\operatorname {K} _{X,Y}(h_{1},h_{2})=\operatorname {cov} (\mathbf {X} ,\mathbf {Y} )(h_{1},h_{2})&=\operatorname {E} \left[\langle h_{1},(\mathbf {X} -\operatorname {E} [\mathbf {X} ])\rangle _{1}\langle (\mathbf {Y} -\operatorname {E} [\mathbf {Y} ]),h_{2}\rangle _{2}\right]\\&=\operatorname {E} [\langle h_{1},\mathbf {X} \rangle _{1}\langle \mathbf {Y} ,h_{2}\rangle _{2}]-\operatorname {E} [\langle h,\mathbf {X} \rangle _{1}]\operatorname {E} [\langle \mathbf {Y} ,h_{2}\rangle _{2}]\\&=\langle h_{1},\operatorname {E} \left[(\mathbf {X} -\operatorname {E} [\mathbf {X} ])(\mathbf {Y} -\operatorname {E} [\mathbf {Y} ])^{\dagger }\right]h_{2}\rangle _{1}\\&=\langle h_{1},\left(\operatorname {E} [\mathbf {X} \mathbf {Y} ^{\dagger }]-\operatorname {E} [\mathbf {X} ]\operatorname {E} [\mathbf {Y} ]^{\dagger }\right)h_{2}\rangle _{1}\\\end{aligned}}}

Cálculo numérico

Cuandomi[incógnitaY]mi[incógnita]mi[Y]{\displaystyle \operatorname {E} [XY]\approx \operatorname {E} [X]\operatorname {E} [Y]}, la ecuacióncobertura(incógnita,Y)=mi[incógnitaY]mi[incógnita]mi[Y]{\displaystyle \operatorname {cov} (X,Y)=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]}es propenso a la cancelación catastrófica simi[incógnitaY]{\displaystyle \operatorname {E} \left[XY\right]}ymi[incógnita]mi[Y]{\displaystyle \operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]}no se calculan con exactitud y, por lo tanto, deben evitarse en programas informáticos cuando los datos no se han centrado previamente. [ 13 ] En este caso, se deben preferir algoritmos numéricamente estables . [ 14 ]

Comentarios

La covarianza se denomina a veces medida de «dependencia lineal» entre dos variables aleatorias. Esto no significa lo mismo que en el contexto del álgebra lineal (véase dependencia lineal ). Al normalizar la covarianza, se obtiene el coeficiente de correlación de Pearson , que indica la bondad de ajuste de la mejor función lineal posible que describe la relación entre las variables. En este sentido, la covarianza es una medida lineal de dependencia.

Aplicaciones

Genética y biología molecular

La covarianza es una medida importante en biología . Ciertas secuencias de ADN se conservan más que otras entre especies, por lo que, para estudiar las estructuras secundarias y terciarias de las proteínas o de las estructuras de ARN , se comparan secuencias en especies estrechamente relacionadas. Si se encuentran cambios en las secuencias o no se encuentran cambios en absoluto en el ARN no codificante (como el microARN ), se determina que las secuencias son necesarias para motivos estructurales comunes, como un bucle de ARN. En genética, la covarianza sirve de base para el cálculo de la Matriz de Relación Genética (MRG) (también conocida como matriz de parentesco), lo que permite inferir la estructura de la población a partir de una muestra sin parientes cercanos conocidos, así como inferir la estimación de la heredabilidad de rasgos complejos.

En la teoría de la evolución y la selección natural , la ecuación de Price describe cómo cambia la frecuencia de un rasgo genético a lo largo del tiempo. Esta ecuación utiliza una covarianza entre un rasgo y la aptitud para ofrecer una descripción matemática de la evolución y la selección natural. Proporciona una forma de comprender los efectos que la transmisión genética y la selección natural tienen sobre la proporción de genes en cada nueva generación de una población. [ 15 ] [ 16 ]

Economía financiera

Las covarianzas desempeñan un papel fundamental en la economía financiera , especialmente en la teoría moderna de carteras y en el modelo de valoración de activos de capital . Las covarianzas entre los rendimientos de diversos activos se utilizan para determinar, bajo ciertos supuestos, las cantidades relativas de diferentes activos que los inversores deberían (en un análisis normativo ) o se prevé que (en un análisis positivo ) elegirán mantener en un contexto de diversificación .

Asimilación de datos meteorológicos y oceanográficos

La matriz de covarianza es fundamental para estimar las condiciones iniciales necesarias para ejecutar modelos de pronóstico meteorológico, un procedimiento conocido como asimilación de datos . La matriz de covarianza de errores de pronóstico se construye típicamente entre perturbaciones alrededor de un estado medio (ya sea climatológico o de conjunto). La matriz de covarianza de errores de observación se construye para representar la magnitud de los errores de observación combinados (en la diagonal) y los errores correlacionados entre mediciones (fuera de la diagonal). Este es un ejemplo de su amplia aplicación al filtrado de Kalman y a la estimación de estado más general para sistemas variables en el tiempo.

Micrometeorología

La técnica de covarianza de remolinos es una técnica clave de medición atmosférica en la que la covarianza entre la desviación instantánea de la velocidad vertical del viento con respecto al valor medio y la desviación instantánea de la concentración de gases constituye la base para calcular los flujos turbulentos verticales.

Procesamiento de señales

La matriz de covarianza se utiliza para capturar la variabilidad espectral de una señal. [ 17 ]

Correlación

El coeficiente de correlación producto-momento de Pearson entre dos variables aleatoriasincógnita{\displaystyle X}yY{\displaystyle Y}se define como ρincógnita,Y=cobertura(incógnita,Y)σincógnitaσY{\displaystyle \rho _{X,Y}={\frac {\operatorname {cov} (X,Y)}{\sigma _{X}\sigma _{Y}}}}

dónde

  • cobertura{\displaystyle \operatorname {cov} }es la covarianza
  • σincógnita{\displaystyle \sigma _{X}}es la desviación estándar de incógnita{\displaystyle X}
  • σY{\displaystyle \sigma _{Y}}es la desviación estándar de Y{\displaystyle Y}.

El denominador también se puede escribir comovar(incógnita)var(Y){\displaystyle {\sqrt {\operatorname {var} (X)\operatorname {var} (Y)}}}, que es la media geométrica de las varianzas.

Así vemos que el coeficiente de correlación es una versión normalizada de la covarianza. Siempre es un número entre1{\displaystyle -1}y1{\displaystyle 1}y no tiene unidades (a diferencia de la covarianza).

El coeficiente de correlación se suele denotar con la letra r y se suele mencionar en estudios científicos.

Análisis de componentes principales

La matriz de covarianza se utiliza en el análisis de componentes principales para reducir la dimensionalidad de las características durante el preprocesamiento de datos . Los componentes principales son las dimensiones que explican la mayor parte de la varianza en los datos. Una aplicación conocida es la inteligencia, donde se obtiene el factor g . Otra aplicación es la personalidad, con modelos como el de los cinco factores, derivados del análisis de componentes principales.

Véase también

Referencias

  1. Rice, John (2007). Estadística matemática y análisis de datos . Brooks/Cole Cengage Learning. pág.  138. ISBN 9780534399429.
  2. Weisstein, Eric W. "Covarianza" . MathWorld .
  3. Kim, Hae-Young (febrero de 2018). " Notas estadísticas para investigadores clínicos: covarianza y correlación" . Odontología Restauradora y Endodoncia . 43 (1) e4. doi : 10.5395/rde.2018.43.e4 . ISSN 2234-7658 . PMC 5816993. PMID 29487835 .   
  4. "4.3. Covarianza y coeficiente de correlación — Libro de texto de la TU Delft" . mude.citg.tudelft.nl . Consultado el 30 de octubre de 2025 .
  5. Diccionario Oxford de Estadística, Oxford University Press, 2002, pág. 104.
  6. 1 2 3 4 5 Park, Kun Il (2018). Fundamentos de probabilidad y procesos estocásticos con aplicaciones a las comunicaciones . Springer. ISBN 9783319680743.
  7. Yuli Zhang; Huaiyu Wu; Lei Cheng (junio de 2012). "Algunas nuevas fórmulas de deformación sobre varianza y covarianza". Actas de la 4.ª Conferencia Internacional sobre Modelado, Identificación y Control (ICMIC2012) . págs. 987–992 . 
  8. "Covarianza de X e Y | STAT 414/415" . Universidad Estatal de Pensilvania. Archivado del original el 17 de agosto de 2017. Recuperado el 4 de agosto de 2019 .
  9. Papoulis, Athanasios ; Pillai, S. Unnikrishna (2002). Probabilidad, variables aleatorias y procesos estocásticos (4.ª ed.). Boston: McGraw-Hill. ISBN  978-0-07-100870-9.
  10. Siegrist, Kyle. "Covarianza y correlación" . Universidad de Alabama en Huntsville . Consultado el 3 de octubre de 2022 .
  11. Dekking, Michel, ed. (2005). Una introducción moderna a la probabilidad y la estadística: comprender el porqué y el cómo . Textos de estadística de Springer. Londres [Heidelberg]: Springer. ISBN 978-1-85233-896-1.
  12. 1 2 Gubner, John A. (2006). Probabilidad y procesos aleatorios para ingenieros eléctricos e informáticos . Cambridge University Press. ISBN 978-0-521-86470-1.
  13. Knuth, Donald E. (1998). El arte de la programación informática , Volumen 2: Algoritmos seminuméricos . Vol. 2 (3.ª ed.). Boston: Addison-Wesley . pág. 232.   
  14. Schubert, Erich; Gertz, Michael (2018). «Cálculo paralelo numéricamente estable de la (co)varianza» . Actas de la 30.ª Conferencia Internacional sobre Gestión de Bases de Datos Científicas y Estadísticas . Bozen-Bolzano, Italia: ACM Press. pp. 1–12 . doi : 10.1145/3221269.3223036 . ISBN  978-1-4503-6505-5. S2CID 49665540 . 
  15. Price, George (1970). "Selección y covarianza". Nature . 227 (5257): 520– 521. Bibcode : 1970Natur.227..520P . doi : 10.1038 / 227520a0 . PMID 5428476. S2CID 4264723 .  
  16. Harman, Oren (2020). "Cuando la ciencia refleja la vida: sobre los orígenes de la ecuación de Price" . Philosophical Transactions of the Royal Society B: Biological Sciences . 375 (1797). royalsocietypublishing.org: 1– 7. doi : 10.1098 / rstb.2019.0352 . PMC 7133509. PMID 32146891 .  
  17. Sahidullah, Md.; Kinnunen, Tomi (marzo de 2016). "Características de variabilidad espectral local para la verificación del hablante" . Procesamiento de señales digitales . 50 : 1–11 . Bibcode : 2016DSP....50....1S . doi : 10.1016/j.dsp.2015.10.011 .