Familia exponencial

Las familias exponenciales incluyen muchas de las distribuciones más comunes. Entre muchas otras, las familias exponenciales incluyen las siguientes: ^{[ 6 ]}

Varias distribuciones comunes pertenecen a familias exponenciales, pero solo cuando ciertos parámetros son fijos y conocidos. Por ejemplo:

• binomial (con un número fijo de ensayos)
• multinomial (con un número fijo de ensayos)
• binomial negativa (con número fijo de fallos)

Cabe señalar que, en cada caso, los parámetros que deben fijarse son aquellos que establecen un límite al rango de valores que pueden observarse.

Ejemplos de distribuciones comunes que no pertenecen a familias exponenciales son la t de Student , la mayoría de las distribuciones de mezcla e incluso la familia de distribuciones uniformes cuando los límites no son fijos. Consulte la sección siguiente sobre ejemplos para obtener más información.

El valor de${\displaystyle \theta }$se denomina parámetro de la familia.

Una familia exponencial de un solo parámetro es un conjunto de distribuciones de probabilidad cuya función de densidad de probabilidad (o función de masa de probabilidad , para el caso de una distribución discreta ) puede expresarse en la forma

$${\displaystyle f_{X}{\left(x\,{\big |}\,\theta \right)}=h(x)\,\exp \left[\eta (\theta )\cdot T(x)-A(\theta )\right]}$$

donde T ( x ) , h ( x ) , η ( θ ) , y A ( θ ) son funciones conocidas. La función h ( x ) debe ser no negativa.

Una forma alternativa y equivalente que se suele dar es

$${\displaystyle f_{X}{\left(x\ {\big |}\ \theta \right)}=h(x)\,g(\theta )\,\exp \left[\eta (\theta )\cdot T(x)\right]}$$

o equivalentemente

$${\displaystyle f_{X}{\left(x\ {\big |}\ \theta \right)}=\exp \left[\eta (\theta )\cdot T(x)-A(\theta )+B(x)\right].}$$

En términos de probabilidad logarítmica , $${\displaystyle \log(f_{X}{\left(x\ {\big |}\ \theta \right)})=\eta (\theta )\cdot T(x)-A(\theta )+B(x).}$$

Tenga en cuenta que${\displaystyle g(\theta )=e^{-A(\theta )}}$y${\displaystyle h(x)=e^{B(x)}}$.

Es importante destacar, y esto caracteriza a todas las variantes de la familia exponencial, que el/los parámetro(s) y la/s variable(s) de observación deben factorizarse (pueden separarse en productos, cada uno de los cuales involucra un solo tipo de variable), ya sea directamente o dentro de cualquiera de las partes (la base o el exponente) de una operación de exponenciación . En general, esto significa que todos los factores que constituyen la función de densidad o de masa deben tener una de las siguientes formas:

$${\displaystyle {\begin{aligned}f(x),&&c^{f(x)},&&{[f(x)]}^{c},&&{[f(x)]}^{g(\theta )},&&{[f(x)]}^{h(x)g(\theta )},\\g(\theta ),&&c^{g(\theta )},&&{[g(\theta )]}^{c},&&{[g(\theta )]}^{f(x)},&&~~{\mathsf {or}}~~{[g(\theta )]}^{h(x)j(\theta )},\end{aligned}}}$$

donde f y h son funciones arbitrarias de x , la variable estadística observada; g y j son funciones arbitrarias de${\displaystyle \theta ,}$los parámetros fijos que definen la forma de la distribución; y c es cualquier expresión constante arbitraria (es decir, un número o una expresión que no cambia con x o${\displaystyle \theta }$).

Existen restricciones adicionales sobre la cantidad de factores de este tipo que pueden ocurrir. Por ejemplo, las dos expresiones:

$${\displaystyle {[f(x)g(\theta )]}^{h(x)j(\theta )},\qquad {[f(x)]}^{h(x)j(\theta )}{[g(\theta )]}^{h(x)j(\theta )},}$$

son lo mismo, es decir, un producto de dos factores "permitidos". Sin embargo, cuando se reescribe en la forma factorizada,

$${\displaystyle {\begin{aligned}{\left[f(x)g(\theta )\right]}^{h(x)j(\theta )}&={\left[f(x)\right]}^{h(x)j(\theta )}{\left[g(\theta )\right]}^{h(x)j(\theta )}\\[4pt]&=\exp \left\{{[h(x)\log f(x)]j(\theta )+h(x)[j(\theta )\log g(\theta )]}\right\},\end{aligned}}}$$

Se puede observar que no se puede expresar en la forma requerida. (Sin embargo, una forma de este tipo pertenece a una familia exponencial curva , que permite múltiples términos factorizados en el exponente ) .

Para ver por qué una expresión de la forma

$${\displaystyle {[f(x)]}^{g(\theta )}}$$

califica, $${\displaystyle {[f(x)]}^{g(\theta )}=e^{g(\theta )\log f(x)}}$$

y por lo tanto se factoriza dentro del exponente. De manera similar,

$${\displaystyle {[f(x)]}^{h(x)g(\theta )}=e^{h(x)g(\theta )\log f(x)}=e^{[h(x)\log f(x)]g(\theta )}}$$

y de nuevo se factoriza dentro del exponente.

Un factor que consiste en una suma donde intervienen ambos tipos de variables (por ejemplo, un factor de la forma${\displaystyle 1+f(x)g(\theta )}$) no se puede factorizar de esta manera (excepto en algunos casos donde aparece directamente en un exponente); por eso, por ejemplo, la distribución de Cauchy y la distribución t de Student no son familias exponenciales.

La definición en términos de un parámetro numérico real puede extenderse a un parámetro vectorial real.

$${\displaystyle {\boldsymbol {\theta }}\equiv {\begin{bmatrix}\theta _{1}&\theta _{2}&\cdots &\theta _{s}\end{bmatrix}}^{\mathsf {T}}.}$$

Se dice que una familia de distribuciones pertenece a una familia exponencial vectorial si la función de densidad de probabilidad (o función de masa de probabilidad, para distribuciones discretas) se puede escribir como

$${\displaystyle f_{X}(x\mid {\boldsymbol {\theta }})=h(x)\,\exp \left(\sum _{i=1}^{s}\eta _{i}({\boldsymbol {\theta }})T_{i}(x)-A({\boldsymbol {\theta }})\right)~,}$$

o en una forma más compacta,

$${\displaystyle f_{X}(x\mid {\boldsymbol {\theta }})=h(x)\,\exp \left[{\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (x)-A({\boldsymbol {\theta }})\right]}$$

Esta forma escribe la suma como un producto escalar de funciones con valores vectoriales.${\displaystyle {\boldsymbol {\eta }}({\boldsymbol {\theta }})}$y T ( x ) .

Una forma alternativa y equivalente que se ve a menudo es

$${\displaystyle f_{X}(x\mid {\boldsymbol {\theta }})=h(x)\,g({\boldsymbol {\theta }})\,\exp \left[{\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (x)\right]}$$

Al igual que en el caso de valores escalares, se dice que la familia exponencial está en forma canónica si

$${\displaystyle \eta _{i}({\boldsymbol {\theta }})=\theta _{i}~,\quad \forall i\,.}$$

Se dice que una familia exponencial vectorial es curva si la dimensión de

$${\displaystyle {\boldsymbol {\theta }}\equiv {\begin{bmatrix}\theta _{1}&\theta _{2}&\cdots &\theta _{d}\end{bmatrix}}^{\mathsf {T}}}$$

es menor que la dimensión del vector

$${\displaystyle {\boldsymbol {\eta }}({\boldsymbol {\theta }})\equiv {\begin{bmatrix}\eta _{1}{\!({\boldsymbol {\theta }})}&\eta _{2}{\!({\boldsymbol {\theta }})}&\cdots &\eta _{s}{\!({\boldsymbol {\theta }})}\end{bmatrix}}^{\mathsf {T}}~.}$$

Es decir, si la dimensión , d , del vector de parámetros es menor que el número de funciones , s , del vector de parámetros en la representación anterior de la función de densidad de probabilidad. La mayoría de las distribuciones comunes en la familia exponencial no son curvas, y muchos algoritmos diseñados para trabajar con cualquier familia exponencial asumen implícita o explícitamente que la distribución no es curva.

Al igual que en el caso de un parámetro escalar, la función${\displaystyle A({\boldsymbol {\theta }})}$o equivalentemente${\displaystyle g({\boldsymbol {\theta }})}$se determina automáticamente por la restricción de normalización, una vez que se han elegido las demás funciones. Incluso si${\displaystyle {\boldsymbol {\eta }}({\boldsymbol {\theta }})}$no es uno a uno, funciones${\displaystyle A({\boldsymbol {\eta }})}$y${\displaystyle g({\boldsymbol {\eta }})}$se puede definir exigiendo que la distribución esté normalizada para cada valor del parámetro natural.${\displaystyle {\boldsymbol {\eta }}}$Esto da como resultado la forma canónica .

$${\displaystyle f_{X}(x\mid {\boldsymbol {\eta }})=h(x)\exp \left[{\boldsymbol {\eta }}\cdot \mathbf {T} (x)-A({\boldsymbol {\eta }})\right],}$$

o equivalentemente

$${\displaystyle f_{X}(x\mid {\boldsymbol {\eta }})=h(x)g({\boldsymbol {\eta }})\exp \left[{\boldsymbol {\eta }}\cdot \mathbf {T} (x)\right].}$$

Las formas anteriores a veces pueden verse con${\displaystyle {\boldsymbol {\eta }}^{\mathsf {T}}\mathbf {T} (x)}$en lugar de${\displaystyle {\boldsymbol {\eta }}\cdot \mathbf {T} (x)\,}$Estas formulaciones son exactamente equivalentes, utilizando simplemente una notación diferente para el producto escalar .

La forma de parámetro vectorial sobre una única variable aleatoria escalar se puede extender trivialmente para cubrir una distribución conjunta sobre un vector de variables aleatorias. La distribución resultante es simplemente la misma que la distribución anterior para una variable aleatoria escalar, donde cada ocurrencia del escalar x se reemplaza por el vector.

$${\displaystyle \mathbf {x} ={\begin{bmatrix}x_{1}&x_{2}&\cdots &x_{k}\end{bmatrix}}^{\mathsf {T}}.}$$

Las dimensiones k de la variable aleatoria no tienen por qué coincidir con la dimensión d del vector de parámetros, ni (en el caso de una función exponencial curva) con la dimensión s del parámetro natural.${\displaystyle {\boldsymbol {\eta }}}$y estadístico suficiente T ( x )  .

La distribución en este caso se escribe como

$${\displaystyle f_{X}{\left(\mathbf {x} \mid {\boldsymbol {\theta }}\right)}=h(\mathbf {x} )\,\exp \!\left[\sum _{i=1}^{s}\eta _{i}({\boldsymbol {\theta }})T_{i}(\mathbf {x} )-A({\boldsymbol {\theta }})\right]}$$

O de forma más compacta como

$${\displaystyle f_{X}{\left(\mathbf {x} \mid {\boldsymbol {\theta }}\right)}=h(\mathbf {x} )\,\exp \left[{\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (\mathbf {x} )-A({\boldsymbol {\theta }})\right]}$$

O alternativamente como

$${\displaystyle f_{X}{\left(\mathbf {x} \mid {\boldsymbol {\theta }}\right)}=g({\boldsymbol {\theta }})\,h(\mathbf {x} )\,\exp \left[{\boldsymbol {\eta }}({\boldsymbol {\theta }})\cdot \mathbf {T} (\mathbf {x} )\right]}$$

Utilizamos funciones de distribución acumulativa (CDF) para abarcar tanto distribuciones discretas como continuas.

Supongamos que H es una función no decreciente de una variable real. Entonces, las integrales de Lebesgue-Stieltjes con respecto a${\displaystyle dH(\mathbf {x} )}$son integrales con respecto a la medida de referencia de la familia exponencial generada por H. 

Cualquier miembro de esa familia exponencial tiene función de distribución acumulativa

$${\displaystyle dF{\left(\mathbf {x} \mid {\boldsymbol {\theta }}\right)}=\exp \left[{\boldsymbol {\eta }}(\theta )\cdot \mathbf {T} (\mathbf {x} )-A({\boldsymbol {\theta }})\right]~dH(\mathbf {x} )\,.}$$

H ( x ) es un integrador de Lebesgue-Stieltjes para la medida de referencia. Cuando la medida de referencia es finita, se puede normalizar y H es en realidad la función de distribución acumulativa de una distribución de probabilidad. Si F es absolutamente continua con una densidad${\displaystyle f(x)}$con respecto a una medida de referencia${\displaystyle dx}$(típicamente la medida de Lebesgue ), se puede escribir${\displaystyle dF(x)=f(x)\,dx}$En este caso, H también es absolutamente continua y se puede escribir${\displaystyle dH(x)=h(x)\,dx}$Por lo tanto, las fórmulas se reducen a las de los párrafos anteriores. Si F es discreta, entonces H es una función escalonada (con escalones en el soporte de F ).

Alternativamente, podemos escribir la medida de probabilidad directamente como

$${\displaystyle P\left(d\mathbf {x} \mid {\boldsymbol {\theta }}\right)=\exp \left[{\boldsymbol {\eta }}(\theta )\cdot \mathbf {T} (\mathbf {x} )-A({\boldsymbol {\theta }})\right]~\mu (d\mathbf {x} )\,.}$$

para alguna medida de referencia${\displaystyle \mu \,}$.

Como primer ejemplo, consideremos una variable aleatoria con distribución normal, con media desconocida ^μ y varianza conocida σ² . La función de densidad de probabilidad es entonces

$${\displaystyle f_{\sigma }(x;\mu )={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-(x-\mu )^{2}/2\sigma ^{2}}.}$$

Esta es una familia exponencial de un solo parámetro, como se puede ver al establecer

$${\displaystyle {\begin{aligned}T_{\sigma }(x)&={\frac {x}{\sigma }},&h_{\sigma }(x)&={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-x^{2}/2\sigma ^{2}},\\[4pt]A_{\sigma }(\mu )&={\frac {\mu ^{2}}{2\sigma ^{2}}},&\eta _{\sigma }(\mu )&={\frac {\mu }{\sigma }}.\end{aligned}}}$$

Si σ = 1, esto está en forma canónica, ya que entonces η ( μ ) = μ . 

A continuación, consideremos el caso de una distribución normal con media y varianza desconocidas. La función de densidad de probabilidad es entonces

$${\displaystyle f(y;\mu ,\sigma ^{2})={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-(y-\mu )^{2}/2\sigma ^{2}}.}$$

Esta es una familia exponencial que se puede escribir en forma canónica definiendo

$${\displaystyle {\begin{aligned}h(y)&={\frac {1}{\sqrt {2\pi }}},&{\boldsymbol {\eta }}&=\left[{\frac {\mu }{\sigma ^{2}}},~-{\frac {1}{2\sigma ^{2}}}\right],\\T(y)&=\left(y,y^{2}\right)^{\mathsf {T}},&A({\boldsymbol {\eta }})&={\frac {\mu ^{2}}{2\sigma ^{2}}}+\log |\sigma |=-{\frac {\eta _{1}^{2}}{4\eta _{2}}}+{\frac {1}{2}}\log \left|{\frac {1}{2\eta _{2}}}\right|\end{aligned}}}$$

Como ejemplo de una familia exponencial discreta, consideremos la distribución binomial con un número conocido de ensayos n . La función de probabilidad para esta distribución es $${\displaystyle f(x)={\binom {n}{x}}p^{x}{\left(1-p\right)}^{n-x},\quad x\in \{0,1,2,\ldots ,n\}.}$$ Esto se puede escribir de forma equivalente como $${\displaystyle f(x)={\binom {n}{x}}\exp \left[x\log \left({\frac {p}{1-p}}\right)+n\log(1-p)\right],}$$ lo que demuestra que la distribución binomial es una familia exponencial, cuyo parámetro natural es $${\displaystyle \eta =\log {\frac {p}{1-p}}.}$$ Esta función de p se conoce como logit .

Comenzamos con la normalización de la distribución de probabilidad. En general, cualquier función no negativa f ( x ) que sirva como núcleo de una distribución de probabilidad (la parte que codifica toda la dependencia de x ) puede convertirse en una distribución propia normalizándola : es decir

$${\displaystyle p(x)={\frac {1}{Z}}f(x)}$$

dónde

$${\displaystyle Z=\int _{x}f(x)\,dx.}$$

El factor Z a veces se denomina función normalizadora o función de partición , basándose en una analogía con la física estadística .

En el caso de una familia exponencial donde $${\displaystyle p(x;{\boldsymbol {\eta }})=g({\boldsymbol {\eta }})h(x)e^{{\boldsymbol {\eta }}\cdot \mathbf {T} (x)},}$$

el núcleo es $${\displaystyle K(x)=h(x)e^{{\boldsymbol {\eta }}\cdot \mathbf {T} (x)}}$$ y la función de partición es $${\displaystyle Z=\int _{x}h(x)e^{{\boldsymbol {\eta }}\cdot \mathbf {T} (x)}\,dx.}$$

Dado que la distribución debe ser normalizada, tenemos

$${\displaystyle {\begin{aligned}1&=\int _{x}g({\boldsymbol {\eta }})h(x)e^{{\boldsymbol {\eta }}\cdot \mathbf {T} (x)}\,dx\\&=g({\boldsymbol {\eta }})\int _{x}h(x)e^{{\boldsymbol {\eta }}\cdot \mathbf {T} (x)}\,dx\\[1ex]&=g({\boldsymbol {\eta }})Z.\end{aligned}}}$$

En otras palabras, $${\displaystyle g({\boldsymbol {\eta }})={\frac {1}{Z}}}$$ o equivalentemente $${\displaystyle A({\boldsymbol {\eta }})=-\log g({\boldsymbol {\eta }})=\log Z.}$$

Esto justifica llamar a A la función de normalización logarítmica o de partición logarítmica .

Ahora, la función generadora de momentos de T ( x ) es

$${\displaystyle {\begin{aligned}M_{T}(u)&\equiv \operatorname {E} \left[\exp \left(u^{\mathsf {T}}T(x)\right)\mid \eta \right]\\&=\int _{x}h(x)\,\exp \left[(\eta +u)^{\mathsf {T}}T(x)-A(\eta )\right]\,dx\\[1ex]&=e^{A(\eta +u)-A(\eta )}\end{aligned}}}$$

probando la afirmación anterior de que

$${\displaystyle K(u\mid \eta )=A(\eta +u)-A(\eta )}$$

es la función generadora de cumulantes para T.

Una subclase importante de familias exponenciales son las familias exponenciales naturales , que tienen una forma similar para la función generadora de momentos para la distribución de x .

La entropía relativa ( divergencia de Kullback-Leibler , divergencia KL) de dos distribuciones en una familia exponencial tiene una expresión simple como la divergencia de Bregman entre los parámetros naturales con respecto al logaritmo normalizador. ^{[ 14 ]} La entropía relativa se define en términos de una integral, mientras que la divergencia de Bregman se define en términos de una derivada y un producto interno, por lo que es más fácil de calcular y tiene una expresión de forma cerrada (suponiendo que la derivada tenga una expresión de forma cerrada). Además, la divergencia de Bregman en términos de los parámetros naturales y el logaritmo normalizador es igual a la divergencia de Bregman de los parámetros duales (parámetros de expectativa), en orden inverso, para la función conjugada convexa . ^{[ 15 ]}

Corrección de una familia exponencial con log- normalizador${\displaystyle A}$( con conjugado convexo )${\displaystyle A^{*}}$) , escribiendo${\displaystyle P_{A,\theta }}$para la distribución en esta familia correspondiente a un valor fijo del parámetro natural ⁠${\displaystyle \theta }$( escritura )${\displaystyle \theta '}$para otro valor, y con${\displaystyle \eta ,\eta '}$⁠ para los parámetros de expectativa/momento duales correspondientes), escribiendo KL para la divergencia KL, y ⁠${\displaystyle B_{A}}$Para la divergencia de Bregman, las divergencias se relacionan de la siguiente manera: $${\displaystyle \operatorname {KL} (P_{A,\theta }\parallel P_{A,\theta '})=B_{A}(\theta '\parallel \theta )=B_{A^{*}}(\eta \parallel \eta ').}$$

La divergencia KL se escribe convencionalmente con respecto al primer parámetro, mientras que la divergencia de Bregman se escribe convencionalmente con respecto al segundo parámetro, y por lo tanto esto se puede leer como "la entropía relativa es igual a la divergencia de Bregman definida por el log-normalizador en los parámetros naturales intercambiados", o equivalentemente como "igual a la divergencia de Bregman definida por el dual del log-normalizador en los parámetros de expectativa".

Las familias exponenciales surgen naturalmente como respuesta a la siguiente pregunta: ¿cuál es la distribución de máxima entropía consistente con las restricciones dadas sobre los valores esperados? ^{[ 16 ]}

La entropía de información de una distribución de probabilidad dF ( x ) solo puede calcularse con respecto a otra distribución de probabilidad (o, más generalmente, una medida positiva), y ambas medidas deben ser mutuamente absolutamente continuas . Por consiguiente, necesitamos elegir una medida de referencia dH ( x ) con el mismo soporte que dF ( x ) .

La entropía de dF ( x ) relativa a dH ( x ) es

$${\displaystyle S[dF\mid dH]=-\int {\frac {dF}{dH}}\log {\frac {dF}{dH}}\,dH}$$

o

$${\displaystyle S[dF\mid dH]=\int \log {\frac {dH}{dF}}\,dF}$$

donde dF / dH y dH / dF son derivadas de Radon-Nikodym . La definición ordinaria de entropía para una distribución discreta soportada en un conjunto I , a saber:

$${\displaystyle S=-\sum _{i\in I}p_{i}\log p_{i}}$$

asume , aunque rara vez se señala, que dH se elige como la medida de conteo en I.

Consideremos ahora una colección de cantidades observables (variables aleatorias) T _i . La distribución de probabilidad dF cuya entropía con respecto a dH es mayor, sujeta a las condiciones de que el valor esperado de T _i sea igual a t _i , es una familia exponencial con dH como medida de referencia y ( T ₁ , ..., T _n ) como estadístico suficiente.

La derivación es un cálculo variacional simple que utiliza multiplicadores de Lagrange . _La normalización se impone estableciendo T₀ = 1 como una de las restricciones. Los parámetros naturales de la distribución son los multiplicadores de Lagrange, y el factor _de normalización es el multiplicador de Lagrange asociado a T₀ .

Para ver ejemplos de dichas derivaciones, consulte la distribución de probabilidad de entropía máxima .

Según el teorema de Pitman - Koopman - Darmois , entre las familias de distribuciones de probabilidad cuyo dominio no varía con el parámetro que se estima, solo en las familias exponenciales existe un estadístico suficiente cuya dimensión permanece acotada a medida que aumenta el tamaño de la muestra.

En términos menos concisos, supongamos que X _k , (donde k = 1, 2, 3, ..., n ) son variables aleatorias independientes e idénticamente distribuidas. Solo si su distribución pertenece a la familia exponencial existe un estadístico suficiente T ( X ₁ , ..., X _n ) cuyo número de componentes escalares no aumenta a medida que aumenta el tamaño de la muestra n ; el estadístico T puede ser un vector o un único número escalar , pero sea cual sea su naturaleza, su tamaño no crecerá ni disminuirá al obtenerse más datos.

Como contraejemplo, si se relajan estas condiciones, la familia de distribuciones uniformes (ya sean discretas o continuas , con uno o ambos límites desconocidos) tiene una estadística suficiente, a saber, el máximo de la muestra, el mínimo de la muestra y el tamaño de la muestra, pero no forma una familia exponencial, ya que el dominio varía con los parámetros.

Las familias exponenciales también son importantes en la estadística bayesiana . En la estadística bayesiana, una distribución a priori se multiplica por una función de verosimilitud y luego se normaliza para producir una distribución a posteriori . En el caso de una función de verosimilitud que pertenece a una familia exponencial, existe una distribución a priori conjugada , que a menudo también pertenece a una familia exponencial. Una distribución a priori conjugada π para el parámetro${\displaystyle {\boldsymbol {\eta }}}$de una familia exponencial

$${\displaystyle f(x\mid {\boldsymbol {\eta }})=h(x)\,\exp \left[{\boldsymbol {\eta }}^{\mathsf {T}}\mathbf {T} (x)-A({\boldsymbol {\eta }})\right]}$$

es dado por

$${\displaystyle p_{\pi }({\boldsymbol {\eta }}\mid {\boldsymbol {\chi }},\nu )=f({\boldsymbol {\chi }},\nu )\,\exp \left[{\boldsymbol {\eta }}^{\mathsf {T}}{\boldsymbol {\chi }}-\nu A({\boldsymbol {\eta }})\right],}$$

o equivalentemente

$${\displaystyle p_{\pi }({\boldsymbol {\eta }}\mid {\boldsymbol {\chi }},\nu )=f({\boldsymbol {\chi }},\nu )\,g({\boldsymbol {\eta }})^{\nu }\,\exp \left({\boldsymbol {\eta }}^{\mathsf {T}}{\boldsymbol {\chi }}\right),\qquad {\boldsymbol {\chi }}\in \mathbb {R} ^{s}}$$

donde s es la dimensión de${\displaystyle {\boldsymbol {\eta }}}$y${\displaystyle \nu >0}$y${\displaystyle {\boldsymbol {\chi }}}$son hiperparámetros (parámetros que controlan otros parámetros).${\displaystyle \nu }$corresponde al número efectivo de observaciones que aporta la distribución previa, y${\displaystyle {\boldsymbol {\chi }}}$corresponde a la cantidad total que estas pseudo-observaciones aportan al estadístico suficiente sobre todas las observaciones y pseudo-observaciones.${\displaystyle f({\boldsymbol {\chi }},\nu )}$es una constante de normalización que se determina automáticamente mediante las funciones restantes y sirve para garantizar que la función dada sea una función de densidad de probabilidad (es decir, que esté normalizada ).${\displaystyle A({\boldsymbol {\eta }})}$y equivalentemente${\displaystyle g({\boldsymbol {\eta }})}$son las mismas funciones que en la definición de la distribución sobre la cual π es la distribución a priori conjugada.