Hispanopedia Wiki
Articulo de referencia

Notación de probabilidad Big O

El orden en notación de probabilidad se utiliza en teoría de la probabilidad y teoría estadística en paralelo directo con la notación O grande , que es estándar en matemáticas ....

Hispanopedia WikiContenido en espanolLectura gratuita

El orden en notación de probabilidad se utiliza en teoría de la probabilidad y teoría estadística en paralelo directo con la notación O grande , que es estándar en matemáticas . Mientras que la notación O grande se ocupa de la convergencia de secuencias o conjuntos de números ordinarios, el orden en notación de probabilidad se ocupa de la convergencia de conjuntos de variables aleatorias , donde la convergencia se entiende en el sentido de convergencia en probabilidad . [ 1 ]

Definiciones

o pequeña : convergencia en probabilidad

Para un conjunto de variables aleatorias X n y un conjunto correspondiente de constantes a n (ambas indexadas por n , que no necesariamente son discretas), la notación

incógnitanorte=opag(anorte){\displaystyle X_{n}=o_{p}(a_{n})}

significa que el conjunto de valores X n / a n converge a cero en probabilidad cuando n se aproxima a un límite apropiado. Equivalentemente, X n = o p ( a n ) se puede escribir como X n / a n  =  o p (1), es decir

límitenorte→∞PAG[|incógnitanorteanorte|≥ε]=0,{\displaystyle \lim _{n\to \infty }P\left[\left|{\frac {X_{n}}{a_{n}}}\right|\geq \varepsilon \right]=0,}

para cada ε positivo. [ 2 ]

Notación Big O : acotación estocástica

La notación

incógnitanorte=Opag(anorte) como norte→∞{\displaystyle X_{n}=O_{p}(a_{n}){\text{ cuando }}n\to \infty }

significa que el conjunto de valores X n / a n está acotado estocásticamente. Es decir, para cualquier ε > 0, existe un M > 0 finito y un N > 0 finito tales que

PAG(|incógnitanorteanorte|>METRO)<ε,∀norte>norte.{\displaystyle P\left(|{\frac {X_{n}}{a_{n}}}|>M\right)<\varepsilon ,\;\forall \;n>N.}

Comparación de las dos definiciones

La diferencia entre las definiciones es sutil. Si se utiliza la definición de límite, se obtiene:

  • GrandeOpag(1){\displaystyle O_{p}(1)}:∀ε∃norteε,δε de tal manera que PAG(|incógnitanorte|≥δε)≤ε∀norte>norteε{\displaystyle \forall \varepsilon \quad \exists N_{\varepsilon },\delta _{\varepsilon }\quad {\text{ tal que }}P(|X_{n}|\geq \delta _{\varepsilon })\leq \varepsilon \quad \forall n>N_{\varepsilon }}
  • Pequeñoopag(1){\displaystyle o_{p}(1)}:∀ε,δ∃norteε,δ de tal manera que PAG(|incógnitanorte|≥δ)≤ε∀norte>norteε,δ{\displaystyle \forall \varepsilon ,\delta \quad \exists N_{\varepsilon ,\delta }\quad {\text{ tal que }}P(|X_{n}|\geq \delta )\leq \varepsilon \quad \forall n>N_{\varepsilon ,\delta }}

La diferencia radica en laδ{\displaystyle \delta }: para la acotación estocástica, basta con que exista uno (arbitrariamente grande)δ{\displaystyle \delta }para satisfacer la desigualdad yδ{\displaystyle \delta }se le permite depender deε{\displaystyle \varepsilon }(de ahí elδε{\displaystyle \delta _{\varepsilon }}). Por otro lado, para la convergencia, la afirmación debe cumplirse no solo para uno, sino para cualquier (arbitrariamente pequeño)δ{\displaystyle \delta }En cierto modo, esto significa que la secuencia debe estar acotada, con un límite que se reduce a medida que aumenta el tamaño de la muestra.

Esto sugiere que si una secuencia esopag(1){\displaystyle o_{p}(1)}, entonces esOpag(1){\displaystyle O_{p}(1)}Es decir, la convergencia en probabilidad implica acotación estocástica. Pero lo contrario no es cierto.

Lema de Chebyshev para el orden estocástico

Lema de Chebyshev para orden estocástico ( [ 3 ] ) — Si (incógnitanorte){\displaystyle (X_{n})}es una secuencia estocástica tal que cada elemento tiene varianza finitaσnorte2{\displaystyle \sigma _{n}^{2}}, entonces

incógnitanorte−μnorte=Opag(σnorte){\displaystyle X_{n}-\mu _{n}=O_{p}\left(\sigma _{n}\right)}, dóndeμnorte=mi(incógnitanorte){\displaystyle \mu _{n}=E(X_{n})}.
Prueba

Introduzcamos otra definición para mayor comodidad. incógnitanorte=Opag(1){\displaystyle X_{n}=O_{p}(1)}si por cadaη>0{\displaystyle \eta >0}existe una constanteK(η){\displaystyle K(\eta )}y enteronorte(η){\displaystyle n(\eta )}de tal manera que sinorte≥norte(η){\displaystyle n\geq n(\eta)}entonces

PAG(|incógnitanorte|≤K(η))≥1−η{\displaystyle P\left(\left|X_{n}\right|\leq K(\eta )\right)\geq 1-\eta }.

La desigualdad de Chebyshev establece:

PAG(|incógnita−μ|≤hσ)≥1−h−2{\displaystyle P\left(\left|X-\mu \right|\leq h\sigma \right)\geq 1-h^{-2}}, dóndeh>0{\displaystyle h>0}.

Si nos establecemos allíh=η−1/2{\displaystyle h=\eta ^{-1/2}}para cualquier0<η<1{\displaystyle 0<\eta <1}entonces tenemos

PAG(|incógnitanorte−μnorte|σnorte<η−1/2)≥1−η{\displaystyle P\left({\frac {\left|X_{n}-\mu _{n}\right|}{\sigma _{n}}}<\eta ^{-1/2}\right)\geq 1-\eta },

lo cual es válido paranorte≥1{\displaystyle n\geq 1}. ConfiguraciónK(η)=η−1/2{\displaystyle K(\eta )=\eta ^{-1/2}}Aplicamos nuestra definición y concluimos que

incógnitanorte−μnorteσnorte=Opag(1){\displaystyle {\frac {X_{n}-\mu _{n}}{\sigma _{n}}}=O_{p}(1)}.

Si, además,anorte−2var⁡(incógnitanorte)=var⁡(anorte−1incógnitanorte){\displaystyle a_{n}^{-2}\operatorname {var} (X_{n})=\operatorname {var} (a_{n}^{-1}X_{n})}es una secuencia nula para una secuencia(anorte){\displaystyle (a_{n})}de números reales, entoncesanorte−1(incógnitanorte−mi(incógnitanorte)){\displaystyle a_{n}^{-1}(X_{n}-E(X_{n}))}converge a cero en probabilidad por la desigualdad de Chebyshev , por lo tanto

incógnitanorte−mi(incógnitanorte)=opag(anorte).{\ Displaystyle X_ {n} -E (X_ {n}) = o_ {p} (a_ {n}).}

Referencias

  1. ↑ Dodge, Y. (2003) The Oxford Dictionary of Statistical Terms , OUP. ISBN 0-19-920613-9
  2. ↑ Yvonne M. Bishop , Stephen E. Fienberg, Paul W. Holland . (1975, 2007) Análisis multivariante discreto , Springer. ISBN 0-387-72805-8, ISBN 978-0-387-72805-6
  3. ↑ Bishop, Yvonne MM; Fienberg, Stephen E.; Holland, Paul W. (2007). Análisis multivariante discreto: teoría y práctica . Nueva York, NY: Springer. págs. 476-477. ISBN  978-0-387-72805-6. LCCN 2007928365 .