Álgebra de variables aleatorias

El álgebra de variables aleatorias en estadística , proporciona reglas para la manipulación simbólica de variables aleatorias , evitando al mismo tiempo ahondar demasiado en las ideas matemáticamente sofisticadas de la teoría de la probabilidad . Su simbolismo permite el tratamiento de sumas, productos, ratios y funciones generales de variables aleatorias, así como tratar operaciones como hallar las distribuciones de probabilidad y las expectativas (o valores esperados), varianzas y covarianzas de tales combinaciones.

En principio, el álgebra elemental de variables aleatorias es equivalente a la de las variables no aleatorias (o deterministas) convencionales. Sin embargo, los cambios que se producen en la distribución de probabilidad de una variable aleatoria obtenida tras realizar operaciones algebraicas no son sencillos. Por tanto, el comportamiento de los diferentes operadores de la distribución de probabilidad, como los valores esperados, las varianzas, las covarianzas y los momentos , puede ser diferente del observado para la variable aleatoria utilizando el álgebra simbólica. Es posible identificar algunas reglas clave para cada uno de esos operadores, lo que da lugar a diferentes tipos de álgebra para variables aleatorias, aparte del álgebra simbólica elemental: álgebra de expectativas, álgebra de varianzas, álgebra de covarianzas, álgebra de momentos, etc.

Considerando dos variables aleatorias y , son posibles las siguientes operaciones algebraicas: ${\displaystyle X}$${\displaystyle Y}$

• Suma :${\displaystyle Z=X+Y=Y+X}$
• Resta :${\displaystyle Z=X-Y=-Y+X}$
• Multiplicación :${\displaystyle Z=XY=YX}$
• División :${\displaystyle Z=X/Y=X\cdot (1/Y)=(1/Y)\cdot X}$
• Exponenciación :${\displaystyle Z=X^{Y}=e^{Y\ln(X)}}$

En todos los casos, la variable resultante de cada operación es también una variable aleatoria. Todas las propiedades conmutativas y asociativas de las operaciones algebraicas convencionales son también válidas para las variables aleatorias. Si alguna de las variables aleatorias se sustituye por una variable determinista o por un valor constante, todas las propiedades anteriores siguen siendo válidas. ${\displaystyle Z}$

El valor esperado de la variable aleatoria resultante de una operación algebraica entre dos variables aleatorias se puede calcular utilizando el siguiente conjunto de reglas: ${\displaystyle E}$${\displaystyle Z}$

• Suma :${\displaystyle E[Z]=E[X+Y]=E[X]+E[Y]=E[Y]+E[X]}$
• Resta :${\displaystyle E[Z]=E[X-Y]=E[X]-E[Y]=-E[Y]+E[X]}$
• Multiplicación : . En particular, si y son independientes entre sí, entonces: .${\displaystyle E[Z]=E[XY]=E[YX]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle E[XY]=E[X]\cdot E[Y]=E[Y]\cdot E[X]}$
• División : . En particular, si y son independientes entre sí, entonces: .${\displaystyle E[Z]=E[X/Y]=E[X\cdot (1/Y)]=E[(1/Y)\cdot X]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle E[X/Y]=E[X]\cdot E[1/Y]=E[1/Y]\cdot E[X]}$
• Exponenciación :${\displaystyle E[Z]=E[X^{Y}]=E[e^{Y\ln(X)}]}$

Si alguna de las variables aleatorias se sustituye por una variable determinista o por un valor constante ( ), las propiedades anteriores siguen siendo válidas considerando que y, por tanto, . ${\displaystyle k}$${\displaystyle P[X=k]=1}$${\displaystyle E[X]=k}$

Si se define como una función algebraica no lineal general de una variable aleatoria , entonces: ${\displaystyle Z}$${\displaystyle f}$${\displaystyle X}$

${\displaystyle E[Z]=E[f(X)]\neq f(E[X])}$

Algunos ejemplos de esta propiedad incluyen:

• ${\displaystyle E[X^{2}]\neq E[X]^{2}}$
• ${\displaystyle E[1/X]\neq 1/E[X]}$
• ${\displaystyle E[e^{X}]\neq e^{E[X]}}$
• ${\displaystyle E[\ln(X)]\neq \ln(E[X])}$

El valor exacto de la expectativa de la función no lineal dependerá de la distribución de probabilidad particular de la variable aleatoria . ${\displaystyle X}$

La varianza de la variable aleatoria resultante de una operación algebraica entre variables aleatorias se puede calcular utilizando el siguiente conjunto de reglas: ${\displaystyle \mathrm {Var} }$${\displaystyle Z}$

• Adición : . En particular, si y son independientes entre sí, entonces: .${\displaystyle \mathrm {Var} [Z]=\mathrm {Var} [X+Y]=\mathrm {Var} [X]+2\mathrm {Cov} [X,Y]+\mathrm {Var} [Y]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Var} [X+Y]=\mathrm {Var} [X]+\mathrm {Var} [Y]}$
• Resta : . En particular, si y son independientes entre sí, entonces: . Es decir, para las variables aleatorias independientes la varianza es la misma para las sumas y las restas:${\displaystyle \mathrm {Var} [Z]=\mathrm {Var} [X-Y]=\mathrm {Var} [X]-2\mathrm {Cov} [X,Y]+\mathrm {Var} [Y]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Var} [X-Y]=\mathrm {Var} [X]+\mathrm {Var} [Y]}$${\displaystyle \mathrm {Var} [X+Y]=\mathrm {Var} [X-Y]=\mathrm {Var} [Y-X]=\mathrm {Var} [-X-Y]}$
• Multiplicación : . En particular, si y son independientes entre sí, entonces: .${\displaystyle \mathrm {Var} [Z]=\mathrm {Var} [XY]=\mathrm {Var} [YX]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Var} [XY]=E[X^{2}]\cdot E[Y^{2}]-(E[X]\cdot E[Y])^{2}=\mathrm {Var} [X]\cdot \mathrm {Var} [Y]+\mathrm {Var} [X]\cdot (E[Y])^{2}+\mathrm {Var} [Y]\cdot (E[X])^{2}}$
• División : . En particular, si y son independientes entre sí, entonces: .${\displaystyle \mathrm {Var} [Z]=\mathrm {Var} [X/Y]=\mathrm {Var} [X\cdot (1/Y)]=\mathrm {Var} [(1/Y)\cdot X]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Var} [X/Y]=E[X^{2}]\cdot E[1/Y^{2}]-(E[X]\cdot E[1/Y])^{2}=\mathrm {Var} [X]\cdot \mathrm {Var} [1/Y]+\mathrm {Var} [X]\cdot (E[1/Y])^{2}+\mathrm {Var} [1/Y]\cdot (E[X])^{2}}$
• Exponenciación :${\displaystyle \mathrm {Var} [Z]=\mathrm {Var} [X^{Y}]=\mathrm {Var} [e^{Y\ln(X)}]}$

donde representa el operador de covarianza entre variables aleatorias y . ${\displaystyle \mathrm {Cov} [X,Y]=\mathrm {Cov} [Y,X]}$${\displaystyle X}$${\displaystyle Y}$

La varianza de una variable aleatoria también se puede expresar directamente en términos de la covarianza o en términos del valor esperado:

${\displaystyle \mathrm {Var} [X]=\mathrm {Cov} (X,X)=E[X^{2}]-E[X]^{2}}$

Si alguna de las variables aleatorias se sustituye por una variable determinista o por un valor constante ( ), las propiedades anteriores siguen siendo válidas considerando que y , y . Casos especiales son la adición y multiplicación de una variable aleatoria por una variable determinista o una constante, donde: ${\displaystyle k}$${\displaystyle P[X=k]=1}$${\displaystyle E[X]=k}$${\displaystyle \mathrm {Var} [X]=0}$${\displaystyle \mathrm {Cov} [Y,k]=0}$

• ${\displaystyle \mathrm {Var} [k+Y]=\mathrm {Var} [Y]}$
• ${\displaystyle \mathrm {Var} [kY]=k^{2}\mathrm {Var} [Y]}$

Si se define como una función algebraica no lineal general de una variable aleatoria , entonces: ${\displaystyle Z}$${\displaystyle f}$${\displaystyle X}$

${\displaystyle \mathrm {Var} [Z]=\mathrm {Var} [f(X)]\neq f(\mathrm {Var} [X])}$

El valor exacto de la varianza de la función no lineal dependerá de la distribución de probabilidad particular de la variable aleatoria . ${\displaystyle X}$

La covarianza ( ) entre la variable aleatoria resultante de una operación algebraica y la variable aleatoria se puede calcular utilizando el siguiente conjunto de reglas: ${\displaystyle \mathrm {Cov} }$${\displaystyle Z}$${\displaystyle X}$

• Adición : . Si y son independientes entre sí, entonces: .${\displaystyle \mathrm {Cov} [Z,X]=\mathrm {Cov} [X+Y,X]=\mathrm {Var} [X]+\mathrm {Cov} [X,Y]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Cov} [X+Y,X]=\mathrm {Var} [X]}$
• Resta : . Si y son independientes entre sí, entonces: .${\displaystyle \mathrm {Cov} [Z,X]=\mathrm {Cov} [X-Y,X]=\mathrm {Var} [X]-\mathrm {Cov} [X,Y]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Cov} [X-Y,X]=\mathrm {Var} [X]}$
• Multiplicación : . Si y son independientes entre sí, entonces: .${\displaystyle \mathrm {Cov} [Z,X]=\mathrm {Cov} [XY,X]=E[X^{2}Y]-E[XY]E[X]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Cov} [XY,X]=\mathrm {Var} [X]\cdot E[Y]}$
• División (covarianza respecto del numerador): . Si y son independientes entre sí, entonces: .${\displaystyle \mathrm {Cov} [Z,X]=\mathrm {Cov} [X/Y,X]=E[X^{2}/Y]-E[X/Y]E[X]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Cov} [X/Y,X]=\mathrm {Var} [X]\cdot E[1/Y]}$
• División (covarianza respecto del denominador): . Si y son independientes entre sí, entonces: .${\displaystyle \mathrm {Cov} [Z,X]=\mathrm {Cov} [Y/X,X]=E[Y]-E[Y/X]E[X]}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle \mathrm {Cov} [Y/X,X]=E[Y]\cdot (1-E[X]\cdot E[1/X])}$
• Exponenciación (covarianza con respecto a la base): .${\displaystyle \mathrm {Cov} [Z,X]=\mathrm {Cov} [X^{Y},X]=E[X^{Y+1}]-E[X^{Y}]E[X]}$
• Exponenciación (covarianza con respecto a la potencia): .${\displaystyle \mathrm {Cov} [Z,X]=\mathrm {Cov} [Y^{X},X]=E[XY^{X}]-E[Y^{X}]E[X]}$

La covarianza de una variable aleatoria también se puede expresar directamente en términos del valor esperado:

${\displaystyle \mathrm {Cov} (X,Y)=E[XY]-E[X]E[Y]}$

Si alguna de las variables aleatorias se sustituye por una variable determinista o por un valor constante ( ), las propiedades anteriores siguen siendo válidas considerando que , y . ${\displaystyle k}$${\displaystyle E[k]=k}$${\displaystyle \mathrm {Var} [k]=0}$${\displaystyle \mathrm {Cov} [X,k]=0}$

Si se define como una función algebraica no lineal general de una variable aleatoria , entonces: ${\displaystyle Z}$${\displaystyle f}$${\displaystyle X}$

${\displaystyle \mathrm {Cov} [Z,X]=\mathrm {Cov} [f(X),X]=E[Xf(X)]-E[f(X)]E[X]}$

El valor exacto de la varianza de la función no lineal dependerá de la distribución de probabilidad particular de la variable aleatoria . ${\displaystyle X}$

Si se conocen los momentos de una determinada variable aleatoria (o se pueden determinar por integración si se conoce la función de densidad de probabilidad ), entonces es posible aproximar el valor esperado de cualquier función no lineal general como una expansión en serie de Taylor de los momentos , de la siguiente manera: ${\displaystyle X}$${\displaystyle f(X)}$

${\displaystyle f(X)=\displaystyle \sum _{n=0}^{\infty }\displaystyle {\frac {1}{n!}}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }(X-\mu )^{n}}$, donde es el valor medio de . ${\displaystyle \mu =E[X]}$${\displaystyle X}$

${\displaystyle E[f(X)]=E{\biggl (}\textstyle \sum _{n=0}^{\infty }\displaystyle {1 \over n!}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }(X-\mu )^{n}{\biggr )}=\displaystyle \sum _{n=0}^{\infty }\displaystyle {1 \over n!}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }E[(X-\mu )^{n}]=\textstyle \sum _{n=0}^{\infty }\displaystyle {\frac {1}{n!}}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }\mu _{n}(X)}$, donde es el momento n -ésimo de respecto a su media. Nótese que, según su definición, y . El término de primer orden siempre se anula, pero se conservó para obtener una expresión en forma cerrada. ${\displaystyle \mu _{n}(X)=E[(X-\mu )^{n}]}$${\displaystyle X}$${\displaystyle \mu _{0}(X)=1}$${\displaystyle \mu _{1}(X)=0}$

Entonces,

${\displaystyle E[f(X)]\approx \textstyle \sum _{n=0}^{n_{max}}\displaystyle {1 \over n!}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }\mu _{n}(X)}$, donde la expansión de Taylor se trunca después del momento -ésimo. ${\displaystyle n_{max}}$

En particular, para funciones de variables aleatorias normales , es posible obtener una expansión de Taylor en términos de la distribución normal estándar : ^[1]

${\displaystyle f(X)=\textstyle \sum _{n=0}^{\infty }\displaystyle {\sigma ^{n} \over n!}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }\mu _{n}(Z)}$, donde es una variable aleatoria normal y es la distribución normal estándar. Por lo tanto, ${\displaystyle X\sim N(\mu ,\sigma ^{2})}$${\displaystyle Z\sim N(0,1)}$

${\displaystyle E[f(X)]\approx \textstyle \sum _{n=0}^{n_{max}}\displaystyle {\sigma ^{n} \over n!}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }\mu _{n}(Z)}$, donde los momentos de la distribución normal estándar vienen dados por:

${\displaystyle \mu _{n}(Z)={\begin{cases}\prod _{i=1}^{n/2}(2i-1),&{\text{if }}n{\text{ is even}}\\0,&{\text{if }}n{\text{ is odd}}\end{cases}}}$

De manera similar, para las variables aleatorias normales, también es posible aproximar la varianza de la función no lineal como una expansión de la serie de Taylor como:

${\displaystyle Var[f(X)]\approx \textstyle \sum _{n=1}^{n_{max}}\displaystyle {\biggl (}{\sigma ^{n} \over n!}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }{\biggr )}^{2}Var[Z^{n}]+\textstyle \sum _{n=1}^{n_{max}}\displaystyle \textstyle \sum _{m\neq n}\displaystyle {\sigma ^{n+m} \over {n!m!}}{\biggl (}{d^{n}f \over dX^{n}}{\biggr )}_{X=\mu }{\biggl (}{d^{m}f \over dX^{m}}{\biggr )}_{X=\mu }Cov[Z^{n},Z^{m}]}$, dónde

${\displaystyle Var[Z^{n}]={\begin{cases}\prod _{i=1}^{n}(2i-1)-\prod _{i=1}^{n/2}(2i-1)^{2},&{\text{if }}n{\text{ is even}}\\\prod _{i=1}^{n}(2i-1),&{\text{if }}n{\text{ is odd}}\end{cases}}}$, y

${\displaystyle Cov[Z^{n},Z^{m}]={\begin{cases}\prod _{i=1}^{(n+m)/2}(2i-1)-\prod _{i=1}^{n/2}(2i-1)\prod _{j=1}^{m/2}(2j-1),&{\text{if }}n{\text{ and }}m{\text{ are even}}\\\prod _{i=1}^{(n+m)/2}(2i-1),&{\text{if }}n{\text{ and }}m{\text{ are odd}}\\0,&{\text{otherwise}}\end{cases}}}$

En la axiomatización algebraica de la teoría de la probabilidad , el concepto primario no es el de probabilidad de un evento, sino el de variable aleatoria . Las distribuciones de probabilidad se determinan asignando una expectativa a cada variable aleatoria. El espacio medible y la medida de probabilidad surgen de las variables aleatorias y las expectativas mediante teoremas de representación de análisis bien conocidos. Una de las características importantes del enfoque algebraico es que las distribuciones de probabilidad aparentemente de dimensión infinita no son más difíciles de formalizar que las de dimensión finita.

Se supone que las variables aleatorias tienen las siguientes propiedades:

1. Las constantes complejas son posibles realizaciones de una variable aleatoria;
2. la suma de dos variables aleatorias es una variable aleatoria;
3. el producto de dos variables aleatorias es una variable aleatoria;
4. La suma y la multiplicación de variables aleatorias son ambas conmutativas ; y
5. Existe una noción de conjugación de variables aleatorias, que satisface ( XY ) ^* = Y ^* X ^* y X ^** = X para todas las variables aleatorias X , Y y que coincide con la conjugación compleja si X es una constante.

Esto significa que las variables aleatorias forman *-álgebras conmutativas complejas . Si X = X ^* entonces la variable aleatoria X se llama "real".

Una expectativa E en un álgebra A de variables aleatorias es una función lineal positiva normalizada . Esto significa que

1. E [ k ] = k donde k es una constante;
2. E [ X ^* X ] ≥ 0 para todas las variables aleatorias X ;
3. E [ X + Y ] = E [ X ] + E [ Y ] para todas las variables aleatorias X e Y ; y
4. E [ kX ] = kE [ X ] si k es una constante.

Se puede generalizar esta configuración, permitiendo que el álgebra sea no conmutativa. Esto conduce a otras áreas de probabilidad no conmutativa, como la probabilidad cuántica , la teoría de matrices aleatorias y la probabilidad libre .

• Relaciones entre distribuciones de probabilidad
• Distribución de proporciones
  • Distribución de Cauchy
  • Distribución de barras
• Distribución inversa
• Distribución de productos
• Transformación de Mellin
• Suma de variables aleatorias distribuidas normalmente
• Lista de convoluciones de distribuciones de probabilidad : la medida de probabilidad de la suma de variables aleatorias independientes es la convolución de sus medidas de probabilidad.
• Ley de la expectativa total
• Ley de varianza total
• Ley de covarianza total
• Ley de acumulación total
• Expansiones de Taylor para los momentos de funciones de variables aleatorias
• Método delta

• Whittle, Peter (2000). Probabilidad mediante expectativa (4.ª ed.). Nueva York, NY: Springer. ISBN 978-0-387-98955-6. Recuperado el 24 de septiembre de 2012 .
• Springer, Melvin Dale (1979). El álgebra de variables aleatorias. Wiley . ISBN 0-471-01406-0. Recuperado el 24 de septiembre de 2012 .
• "Álgebra de medida", Enciclopedia de Matemáticas , EMS Press , 2001 [1994]