Regla de decisión aleatoria

Una regla de decisión admisible es aquella que no está dominada por ninguna otra regla de decisión, es decir, no existe ninguna regla de decisión que tenga un riesgo igual o menor para todos los parámetros y un riesgo estrictamente menor para algún parámetro. En un problema de decisión finito, el punto de riesgo de una regla de decisión admisible tiene coordenadas x o y menores que todos los demás puntos de riesgo o, más formalmente, es el conjunto de reglas con puntos de riesgo de la forma${\displaystyle (a,b)}$de tal manera que${\displaystyle \{(R_{1},R_{2}):R_{1}\leq a,R_{2}\leq b\}\cap {\mathcal {S}}=(a,b)}$. Por lo tanto, el lado izquierdo del límite inferior del conjunto de riesgo es el conjunto de reglas de decisión admisibles. ^{[ 6 ] [ 7 ]}

Una regla de Bayes minimax es aquella que minimiza el riesgo supremo.${\displaystyle \sup _{\theta \in \Theta }R(\theta ,d^{*})}$entre todas las reglas de decisión en${\displaystyle {\mathcal {D}}^{*}}$. A veces, una regla de decisión aleatoria puede tener un mejor desempeño que todas las demás reglas de decisión no aleatorias en este sentido. ^{[ 1 ]}

En un problema de decisión finito con dos parámetros posibles, la regla minimax se puede encontrar considerando la familia de cuadrados.${\displaystyle Q(c)=\{(R_{1},R_{2}):0\leq R_{1}\leq c,0\leq R_{2}\leq c\}}$. ^{[ 8 ]} El valor de${\displaystyle c}$para el más pequeño de esos cuadrados que toca${\displaystyle {\mathcal {S}}}$es el riesgo minimax y el punto o puntos correspondientes en el conjunto de riesgo es la regla minimax.

Si el conjunto de riesgos interseca la línea${\displaystyle R_{1}=R_{2}}$, entonces la regla de decisión admisible que se encuentra en la línea es minimax. Si${\displaystyle R_{2}>R_{1}}$o${\displaystyle R_{1}>R_{2}}$Si se cumple para cada punto del conjunto de riesgo, la regla minimax puede ser un punto extremo (es decir, una regla de decisión no aleatoria) o una línea que conecta dos puntos extremos (reglas de decisión no aleatorias). ^{[ 9 ] [ 6 ]}

• 
  La regla minimax es la regla de decisión aleatoria.${\displaystyle (1-p)d_{1}+pd_{2}}$.
• 
  La regla minimax es${\displaystyle d_{2}}$.
• 
  Las reglas minimax son todas reglas de la forma${\displaystyle (1-p)d_{1}+pd_{2}}$,${\displaystyle 0\leq p\leq 1}$.

Una regla de Bayes aleatoria es aquella que tiene riesgo de Bayes ínfimo.${\displaystyle r(\pi ,d^{*})}$entre todas las reglas de decisión. En el caso especial en que el espacio de parámetros tiene dos elementos, la línea${\displaystyle \pi _{1}R_{1}+(1-\pi _{1})R_{2}=c}$, dónde${\displaystyle \pi _{1}}$y${\displaystyle \pi _{2}}$denotan las probabilidades previas de${\displaystyle \theta _{1}}$y${\displaystyle \theta _{2}}$respectivamente, es una familia de puntos con riesgo de Bayes${\displaystyle c}$Por lo tanto, el riesgo mínimo de Bayes para el problema de decisión es el más pequeño.${\displaystyle c}$de tal manera que la línea toque el conjunto de riesgo. ^{[ 10 ] [ 11 ]} Esta línea puede tocar solo un punto extremo del conjunto de riesgo, es decir, corresponder a una regla de decisión no aleatoria, o superponerse con un lado completo del conjunto de riesgo, es decir, corresponder a dos reglas de decisión no aleatorias y reglas de decisión aleatorias que combinan ambas. Esto se ilustra con las tres situaciones siguientes:

• 
  Las reglas de Bayes son el conjunto de reglas de decisión de la forma${\displaystyle (1-p)d_{1}+pd_{2}}$,${\displaystyle 0\leq p\leq 1}$.
• 
  La regla de Bayes es${\displaystyle d_{1}}$.
• 
  La regla de Bayes es${\displaystyle d_{2}}$.

Como diferentes distribuciones a priori dan lugar a diferentes pendientes, el conjunto de todas las reglas que son bayesianas con respecto a alguna distribución a priori es el mismo que el conjunto de reglas admisibles. ^{[ 12 ]}

Nótese que no es posible ninguna situación en la que no exista una regla de Bayes no aleatoria pero sí una regla de Bayes aleatoria. La existencia de una regla de Bayes aleatoria implica la existencia de una regla de Bayes no aleatoria. Esto también es cierto en el caso general, incluso con un espacio de parámetros infinito, un riesgo de Bayes infinito e independientemente de si se puede alcanzar el riesgo de Bayes ínfimo. ^{[ 3 ] [ 12 ]} Esto respalda la noción intuitiva de que el estadístico no necesita utilizar la aleatorización para llegar a decisiones estadísticas. ^{[ 4 ]}

Las pruebas aleatorias no deben confundirse con las pruebas de permutación . ^{[ 16 ]}

En la formulación habitual de la prueba de razón de verosimilitud , la hipótesis nula se rechaza siempre que la razón de verosimilitud${\displaystyle \Lambda }$es menor que alguna constante${\displaystyle K}$y se acepta en otros casos. Sin embargo, esto a veces resulta problemático cuando${\displaystyle \Lambda }$es discreto bajo la hipótesis nula, cuando${\displaystyle \Lambda =K}$es posible.

Una solución consiste en definir una función de prueba.${\displaystyle \phi (x)}$, cuyo valor es la probabilidad con la que se acepta la hipótesis nula: ^{[ 17 ] [ 18 ]}

${\displaystyle \phi (x)=\left\{{\begin{array}{l}1&{\text{ if }}\Lambda >K\\p(x)&{\text{ if }}\Lambda =K\\0&{\text{ if }}\Lambda <K\end{array}}\right.}$

Esto puede interpretarse como lanzar una moneda trucada con una probabilidad${\displaystyle p(x)}$de cabezas que regresan cuando${\displaystyle \Lambda =k}$y rechazar la hipótesis nula si sale cara. ^{[ 15 ]}

Una forma generalizada del lema de Neyman-Pearson establece que esta prueba tiene la máxima potencia entre todas las pruebas con el mismo nivel de significancia.${\displaystyle \alpha }$que tal prueba debe existir para cualquier nivel de significancia${\displaystyle \alpha }$y que la prueba es única en situaciones normales. ^{[ 17 ]}

Como ejemplo, consideremos el caso en que la distribución subyacente es de Bernoulli con probabilidad${\displaystyle p}$y nos gustaría probar la hipótesis nula${\displaystyle p\leq \lambda }$en contra de la hipótesis alternativa${\displaystyle p>\lambda }$Es natural elegir algunos${\displaystyle k}$de tal manera que${\displaystyle P({\hat {p}}>k|H_{0})=\alpha }$y rechazar el valor nulo siempre que${\displaystyle {\hat {p}}>k}$, dónde${\displaystyle {\hat {p}}}$es el estadístico de prueba . Sin embargo, para tener en cuenta los casos en los que${\displaystyle {\hat {p}}=k}$, definimos la función de prueba:

${\displaystyle \phi (x)=\left\{{\begin{array}{l}1&{\text{ if }}{\hat {p}}>k\\\gamma &{\text{ if }}{\hat {p}}=k\\0&{\text{ if }}{\hat {p}}<k\end{array}}\right.}$

dónde${\displaystyle \gamma }$se elige de tal manera que${\displaystyle P({\hat {p}}>k|H_{0})+\gamma P({\hat {p}}=k|H_{0})=\alpha }$.

Un problema análogo surge en la construcción de intervalos de confianza. Por ejemplo, el intervalo de Clopper-Pearson siempre es conservador debido a la naturaleza discreta de la distribución binomial . Una alternativa es encontrar los límites superior e inferior del intervalo de confianza.${\displaystyle U}$y${\displaystyle L}$resolviendo las siguientes ecuaciones: ^{[ 14 ]}

${\displaystyle \left\{{\begin{array}{l}Pr({\hat {p}}<k|p=U)+\gamma P({\hat {p}}=k|p=U)&=\alpha /2\\Pr({\hat {p}}>k|p=L)+\gamma P({\hat {p}}=k|p=L)&=\alpha /2\end{array}}\right.}$

dónde${\displaystyle \gamma }$es una variable aleatoria uniforme en (0, 1).