Vector de probabilidad

En matemáticas y estadística , un vector de probabilidad o vector estocástico es un vector con entradas no negativas que suman uno.

Detrás de cada vector de probabilidad subyace un experimento que puede producir un resultado. Para conectar este experimento con las matemáticas, se introduce una variable aleatoria discreta , que es una función que asigna un valor numérico a cada resultado posible. Por ejemplo, si el experimento consiste en lanzar un dado, los posibles valores de esta variable aleatoria son los enteros 1, 2, ..., 6. El vector de probabilidad asociado tiene seis componentes, cada una de las cuales representa la probabilidad de obtener el resultado correspondiente. De forma más general, un vector de probabilidad de longitud n representa la distribución de probabilidades entre los n posibles resultados numéricos de una variable aleatoria. ^{[ 1 ]}

El vector nos da la función de masa de probabilidad de esa variable aleatoria, que es la forma estándar de caracterizar una distribución de probabilidad discreta . ^{[ 2 ]}

Aquí hay algunos ejemplos de vectores de probabilidad. Los vectores pueden ser columnas o filas. ^{[ 3 ]}

• ${\displaystyle x_{0}={\begin{bmatrix}0.5\\0.25\\0.25\end{bmatrix}},}$
• ${\displaystyle x_{1}={\begin{bmatrix}0\\1\\0\end{bmatrix}},}$
• ${\displaystyle x_{2}={\begin{bmatrix}0.65&0.35\end{bmatrix}},}$
• ${\displaystyle x_{3}={\begin{bmatrix}0.3&0.5&0.07&0.1&0.03\end{bmatrix}}.}$

• La media de los componentes de cualquier vector de probabilidad es${\displaystyle 1/n}$. ^{[ 4 ]}

• La longitud euclidiana de un vector de probabilidad está relacionada con la varianza de sus componentes mediante ^{[ 5 ].}

${\displaystyle \|p\|={\sqrt {\,n\sigma ^{2}+{\tfrac {1}{n}}\,}}}$.

• Esta expresión para la longitud alcanza su valor mínimo de${\displaystyle {\tfrac {1}{\sqrt {n}}}}$cuando todos los componentes son iguales, con${\displaystyle p_{i}=1/n}$. ^{[ 3 ]}
• El vector de probabilidad más largo tiene el valor 1 en un solo componente y 0 en todos los demás, y tiene una longitud de 1. ^{[ 3 ]}
• El vector más corto corresponde a la máxima incertidumbre, y el más largo a la máxima certeza.
• La varianza${\displaystyle \sigma ^{2}}$de un vector de probabilidad${\displaystyle p=(p_{1},p_{2},\ldots ,p_{n})}$Satisface:

${\displaystyle \sigma ^{2}\in \left[\,0,\,{\tfrac {n-1}{n^{2}}}\,\right].}$

El límite inferior se produce cuando todos los componentes son iguales.${\displaystyle p_{i}=1/n}$y el límite superior cuando un componente es igual a${\displaystyle 1}$y el resto son${\displaystyle 0}$. ^{[ 6 ]}

Los límites de la varianza muestran que a medida que aumenta el número de resultados posibles${\displaystyle n}$A medida que aumenta, la varianza necesariamente disminuye hacia cero. Como resultado, la incertidumbre asociada con cualquier resultado individual aumenta porque los componentes del vector de probabilidad se vuelven más iguales. En el trabajo empírico, esto a menudo motiva agrupar los resultados para reducir${\displaystyle n}$Aunque esto descarta cierta información contenida en los resultados originales, permite revelar la estructura más general de la distribución. La disminución de la varianza con el aumento de${\displaystyle n}$refleja la misma tendencia hacia la uniformidad que subyace a la entropía en la teoría de la información y la mecánica estadística . ^{[ 7 ]}

Un simplex es el objeto geométrico más simple que ocupa completamente la región de una dimensión dada definida por sus vértices. Se construye como la envoltura convexa de n puntos afínmente independientes: para${\displaystyle n=2}$es un segmento de línea, para${\displaystyle n=3}$un triángulo, para${\displaystyle n=4}$un tetraedro , y así sucesivamente.

El simplex de probabilidad (o simplex estándar ) es el ejemplo canónico de un simplex. Se obtiene tomando los n vectores base estándar.${\displaystyle e_{1}=(1,0,0,\ldots ,0),\quad e_{2}=(0,1,0,\ldots ,0),\quad e_{3}=(0,0,1,0,\ldots ,0),\ \ldots }$ como vértices y formando su envoltura convexa: ${\displaystyle \Delta _{n-1}=\{\,p\in \mathbb {R} ^{n}\mid p_{i}\geq 0,\ \sum _{i=1}^{n}p_{i}=1\,\}.}$

Esto es un${\displaystyle (n-1)}$simplex -dimensional situado en el hiperplano afín${\displaystyle \sum _{i}p_{i}=1}$. Una variable aleatoria con${\displaystyle n}$Los posibles resultados viven naturalmente en esto${\displaystyle (n-1)}$-simplex en lugar de un${\displaystyle n}$-símplex, porque el requisito de que todas las probabilidades sumen 1 elimina un grado de libertad.

Los componentes${\displaystyle p_{i}}$Estas coordenadas sirven como coordenadas baricéntricas , lo que confiere a este simplex una interpretación inmediata en la teoría de la probabilidad: cada vértice corresponde a un resultado determinado, y cada punto interior representa una mezcla o distribución sobre los n resultados. Cada posible distribución de probabilidad discreta sobre n resultados corresponde a un único punto de este simplex, y, a la inversa, cada punto del simplex define una distribución única. El movimiento hacia un vértice a lo largo de las coordenadas baricéntricas corresponde a una mayor certeza sobre el resultado, mientras que el movimiento hacia el centro representa una mayor incertidumbre derivada de una distribución más uniforme.

El simplex de probabilidad sirve como el simplex canónico en${\displaystyle \mathbb {R} ^{n}}$, puesto que cualquier otro simplex puede obtenerse a partir de él mediante una transformación afín , lo que lo convierte en la referencia estándar para análisis geométricos y probabilísticos. ^{[ 8 ] [ 9 ]}

Cada vector de probabilidad de dimensión n se encuentra dentro de un simplex de ( n − 1) dimensiones. La envoltura convexa de este simplex no forma una superficie suave que cambie gradualmente en${\displaystyle \mathbb {R} ^{n}}$En cambio, tiene vértices afilados, aristas rectas y caras planas.

• Probabilidad cero:

Asignar una probabilidad cero a un resultado corresponde a pasar a una cara de menor dimensión del simplex, ya que ese resultado ya no es posible.

• Agregar un vértice:

Agregar un nuevo resultado posible a la variable aleatoria incrementa n en uno e introduce una nueva dimensión ortogonal. Aparece un nuevo vértice en esa dimensión, y cada cara del símplex anterior se combina con este vértice para formar una nueva faceta de una dimensión superior. Por ejemplo, cuando un triángulo (2-símplex) adquiere un nuevo vértice, al conectarlo a cada una de sus tres aristas se forman tres nuevas facetas triangulares, creando un tetraedro. En el siguiente paso, agregar otro vértice produciría un 4-símplex, cuyas facetas son tetraedros.

• Hiperplano afín:

El simplex de probabilidad se encuentra en el hiperplano afín.${\displaystyle \sum _{i}p_{i}=1}$en${\displaystyle \mathbb {R} ^{n}}$Su vector normal es${\displaystyle a=(1,1,\ldots ,1)}$con norma${\displaystyle \|a\|={\sqrt {n}}}$Por lo tanto, todos los puntos del hiperplano se encuentran dentro del ortante positivo a la misma distancia perpendicular.${\displaystyle 1/{\sqrt {n}}}$desde el origen. Esto se debe a que la proyección de cualquier punto en el hiperplano sobre su vector normal${\displaystyle a}$es constante, por definición de un plano. La distancia euclidiana desde el origen a los puntos individuales del plano varía, pero la longitud de su proyección perpendicular (la componente a lo largo de${\displaystyle a}$) permanece fijo. La independencia afín implica que los puntos de definición en el hiperespacio se ubican en relación unos con otros, no con respecto al origen como en el caso de la independencia lineal. Esto permite que los objetos afínmente independientes “floten” con respecto al origen, ya que su ecuación de definición incluye un término constante que especifica su desplazamiento a lo largo de la dirección normal. Al cambiar esta constante, el objeto completo se traslada paralelamente a sí mismo, conservando sus relaciones internas a la vez que cambia su posición en el espacio.

• Centroide:

El centroide, que corresponde a la distribución uniforme, es ${\displaystyle u=(1/n,1/n,\ldots ,1/n)}$Se encuentra a una distancia tanto euclidiana como perpendicular.${\displaystyle \|u\|=1/{\sqrt {n}}}$desde el origen, ya que la línea desde el origen hasta el centroide coincide con el vector normal del simplex. Cada vértice está a una distancia euclidiana igual.${\displaystyle {\sqrt {(n-1)/n}}}$desde el centroide.

• Conteniendo hipercubo:

El simplex de probabilidad ( n − 1)-dimensional se encuentra completamente dentro del hipercubo unitario n- dimensional. Ese hipercubo tiene un contenido total (o medida) de una unidad. Sin embargo, el significado de esa medida cambia con la dimensión: un cuadrado unitario (dimensión 2) tiene un área de uno (1 × 1 = 1), un cubo unitario (dimensión 3) tiene un volumen de uno (1 × 1 × 1 = 1), y un hipercubo unitario de dimensión 4 tiene una medida de uno (1⁴ = 1), y así sucesivamente. Aunque el contenido total permanece constante, la longitud de la diagonal euclidiana del cubo aumenta a medida que${\displaystyle {\sqrt {n}}}$, por lo que el hipercubo se vuelve geométricamente “más disperso” ^{[ 10 ]} a medida que n aumenta: sus vértices se alejan más aunque su contenido no cambie. El simplex de probabilidad ocupa solo una delgada sección ( n − 1)-dimensional a través de este hipercubo, formando una sección transversal a una distancia perpendicular de${\displaystyle 1/{\sqrt {n}}}$desde el origen. ^{[ 8 ] [ 9 ]}

• Volumen (Contenido):

El${\displaystyle (n-1)}$El contenido (volumen) dimensional del simplex de probabilidad estándar se puede calcular utilizando la fórmula del determinante de Gram para el volumen del simplex. Eligiendo el vértice${\displaystyle e_{n}}$Como punto base, los vértices restantes definen vectores de aristas.

${\displaystyle v_{i}=e_{i}-e_{n},\qquad i=1,\dots ,n-1,}$

que se encuentran en el${\displaystyle (n-1)}$Hiperplano afín de dimensión donde las coordenadas${\displaystyle p_{i}}$la suma es igual a uno. El paralelepípedo generado por estos vectores tiene contenido

${\displaystyle \operatorname {Vol} _{\mathrm {para} }={\sqrt {\det(G)}},}$

dónde${\displaystyle G}$es la matriz de Gram${\displaystyle G_{ij}=v_{i}\cdot v_{j}}$Esta matriz de Gram tiene determinante${\displaystyle n}$. ^{[ 11 ] [ 12 ]} Dado que este simplex ocupa exactamente${\displaystyle 1/(n-1)!}$del volumen de su paralelepípedo, su contenido es

${\displaystyle V_{n-1}={\frac {\sqrt {n}}{(n-1)!}}.}$

Esta cantidad disminuye factorialmente con${\displaystyle n}$, por lo que aunque el simplex se encuentra dentro de la unidad${\displaystyle n}$-cubo (que tiene volumen 1), la fracción del volumen del hipercubo contenida en el simplex se vuelve superexponencialmente pequeña a medida que${\displaystyle n}$aumenta.

• Matriz estocástica
• distribución de Dirichlet