El método de Laplace

En matemáticas , el método de Laplace , llamado así por Pierre-Simon Laplace , es una técnica utilizada para aproximar integrales de la forma

\int _{a}^{b}e^{Mf(x)}\,dx,

donde es una función dos veces diferenciable , es un número grande y los puntos finales y podrían ser infinitos. Esta técnica fue presentada originalmente en el libro de Laplace (1774). ${\estilo de visualización f}$ ${\estilo de visualización M}$ ${\estilo de visualización a}$ ${\estilo de visualización b}$

En estadística bayesiana , la aproximación de Laplace puede referirse a la aproximación de la constante de normalización posterior con el método de Laplace o a la aproximación de la distribución posterior con una gaussiana centrada en la estimación máxima a posteriori . ^[1]^[2] Las aproximaciones de Laplace se utilizan en el método de aproximaciones de Laplace anidadas integradas para aproximaciones rápidas de inferencia bayesiana .

Concepto

{\displaystyle f(x)={\frac {\sin(x)}{x}}} — $f(x)={\frac {\sin(x)}{x}}$ tiene un máximo global en . se muestra en la parte superior para y en la parte inferior para (ambos en azul). A medida que crece, la aproximación de esta función por una función gaussiana (mostrada en rojo) mejora. Esta observación sustenta el método de Laplace. $x=0$ $Estilo de visualización e^{Mf(x)}}$ $M=0,5$ ${\estilo de visualización M=3}$ ${\estilo de visualización M}$

Dejemos que la función tenga un máximo global único en . es una constante aquí. Se consideran las dos funciones siguientes: ${\estilo de visualización f(x)}$ $estilo de visualización x_{0}}$ $M>0$

{\begin{aligned}g(x)&=Mf(x),\\h(x)&=e^{Mf(x)}.\end{aligned}}

Cabe señalar que será el máximo global de y también. Por lo tanto, se observa: $x_{0}$ $g$ $h$

{\begin{aligned}{\frac {g(x_{0})}{g(x)}}&={\frac {Mf(x_{0})}{Mf(x)}}={\frac {f(x_{0})}{f(x)}},\\[4pt]{\frac {h(x_{0})}{h(x)}}&={\frac {e^{Mf(x_{0})}}{e^{Mf(x)}}}=e^{M(f(x_{0})-f(x))}.\end{aligned}}

A medida que M aumenta, la razón para crecerá exponencialmente, mientras que la razón para no cambia. Por lo tanto, las contribuciones significativas a la integral de esta función provendrán solo de puntos en un entorno de , que luego se pueden estimar. $h$ $g$ $x$ $x_{0}$

Teoría general

Para enunciar y motivar el método, se deben hacer varias suposiciones. Se supone que no es un punto final del intervalo de integración y que los valores no pueden estar muy cerca de a menos que esté cerca de _. $x_{0}$ $f(x)$ $f(x_{0})$ $x$ $x_{0}$

$f(x)$ se puede desarrollar alrededor de x ₀ por el teorema de Taylor ,

f(x)=f(x_{0})+f'(x_{0})(x-x_{0})+{\frac {1}{2}}f''(x_{0})(x-x_{0})^{2}+R

donde (ver: notación O grande ). $R=O\left((x-x_{0})^{3}\right)$

Dado que tiene un máximo global en , y no es un punto final, es un punto estacionario , es decir . Por lo tanto, la aproximación del polinomio de Taylor de segundo orden es $f$ $x_{0}$ $x_{0}$ $f'(x_{0})=0$ $f(x)$

f(x)\approx f(x_{0})+{\frac {1}{2}}f''(x_{0})(x-x_{0})^{2}.

Luego, sólo se necesita un paso más para obtener una distribución gaussiana. Como es un máximo global de la función, se puede afirmar, por definición de la segunda derivada , que , obteniéndose así la relación $x_{0}$ $f$ $f''(x_{0})\leq 0$

$f(x)\approx f(x_{0})-{\frac {1}{2}}|f''(x_{0})|(x-x_{0})^{2}$

Para valores cercanos a . La integral puede entonces aproximarse con: $x$ $x_{0}$

\int _{a}^{b}e^{Mf(x)}\,dx\approx e^{Mf(x_{0})}\int _{a}^{b}e^{-{\frac {1}{2}}M|f''(x_{0})|(x-x_{0})^{2}}\,dx

Si esta última integral se convierte en una integral gaussiana , si reemplazamos los límites de integración por y ; cuando es grande, esto crea solo un pequeño error porque la exponencial decae muy rápido a partir de . Al calcular esta integral gaussiana, obtenemos: $f''(x_{0})<0$ $-\infty$ $+\infty$ $M$ $x_{0}$

\int _{a}^{b}e^{Mf(x)}\,dx\approx {\sqrt {\frac {2\pi }{M|f''(x_{0})|}}}e^{Mf(x_{0})}{\text{ as }}M\to \infty .

El libro Fog (2008) ofrece una generalización de este método y una extensión a precisión arbitraria.

Declaración formal y prueba

Supongamos que es una función dos veces continuamente diferenciable en y existe un punto único tal que: $f(x)$ $[a,b],$ $x_{0}\in (a,b)$

f(x_{0})=\max _{x\in [a,b]}f(x)\quad {\text{and}}\quad f''(x_{0})<0.

Entonces:

\lim _{n\to \infty }{\frac {\int _{a}^{b}e^{nf(x)}\,dx}{e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n\left(-f''(x_{0})\right)}}}}}=1.

Prueba

Límite inferior: Sea . Como es continua existe tal que si entonces Por el teorema de Taylor , para cualquier $\varepsilon >0$ $f''$ $\delta >0$ $|x_{0}-c|<\delta$ $f''(c)\geq f''(x_{0})-\varepsilon .$ $x\in (x_{0}-\delta ,x_{0}+\delta ),$

f(x)\geq f(x_{0})+{\frac {1}{2}}(f''(x_{0})-\varepsilon )(x-x_{0})^{2}.

Entonces tenemos el siguiente límite inferior:

{\begin{aligned}\int _{a}^{b}e^{nf(x)}\,dx&\geq \int _{x_{0}-\delta }^{x_{0}+\delta }e^{nf(x)}\,dx\\&\geq e^{nf(x_{0})}\int _{x_{0}-\delta }^{x_{0}+\delta }e^{{\frac {n}{2}}(f''(x_{0})-\varepsilon )(x-x_{0})^{2}}\,dx\\&=e^{nf(x_{0})}{\sqrt {\frac {1}{n(-f''(x_{0})+\varepsilon )}}}\int _{-\delta {\sqrt {n(-f''(x_{0})+\varepsilon )}}}^{\delta {\sqrt {n(-f''(x_{0})+\varepsilon )}}}e^{-{\frac {1}{2}}y^{2}}\,dy\end{aligned}}

donde la última igualdad se obtuvo por un cambio de variables

y={\sqrt {n(-f''(x_{0})+\varepsilon )}}(x-x_{0}).

Recuerde para que podamos sacar la raíz cuadrada de su negación. $f''(x_{0})<0$

Si dividimos ambos lados de la desigualdad anterior por

e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0}))}}}

y tomamos el límite obtenemos:

\lim _{n\to \infty }{\frac {\int _{a}^{b}e^{nf(x)}\,dx}{e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0}))}}}}}\geq \lim _{n\to \infty }{\frac {1}{\sqrt {2\pi }}}\int _{-\delta {\sqrt {n(-f''(x_{0})+\varepsilon )}}}^{\delta {\sqrt {n(-f''(x_{0})+\varepsilon )}}}e^{-{\frac {1}{2}}y^{2}}\,dy\,\cdot {\sqrt {\frac {-f''(x_{0})}{-f''(x_{0})+\varepsilon }}}={\sqrt {\frac {-f''(x_{0})}{-f''(x_{0})+\varepsilon }}}

Como esto es cierto para cualquier número, obtenemos el límite inferior: $\varepsilon$

\lim _{n\to \infty }{\frac {\int _{a}^{b}e^{nf(x)}\,dx}{e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0}))}}}}}\geq 1

Tenga en cuenta que esta prueba también funciona cuando o (o ambos). $a=-\infty$ $b=\infty$

Límite superior: La prueba es similar a la del límite inferior pero hay algunos inconvenientes. Nuevamente comenzamos eligiendo un pero para que la prueba funcione necesitamos que sea lo suficientemente pequeño para que Entonces, como se indicó anteriormente, por continuidad de y el teorema de Taylor podemos encontrar de modo que si , entonces $\varepsilon >0$ $\varepsilon$ $f''(x_{0})+\varepsilon <0.$ $f''$ $\delta >0$ $|x-x_{0}|<\delta$

f(x)\leq f(x_{0})+{\frac {1}{2}}(f''(x_{0})+\varepsilon )(x-x_{0})^{2}.

Por último, según nuestras suposiciones (suponiendo que son finitas) existe un tal que si , entonces . $a,b$ $\eta >0$ $|x-x_{0}|\geq \delta$ $f(x)\leq f(x_{0})-\eta$

Luego podemos calcular el siguiente límite superior:

{\begin{aligned}\int _{a}^{b}e^{nf(x)}\,dx&\leq \int _{a}^{x_{0}-\delta }e^{nf(x)}\,dx+\int _{x_{0}-\delta }^{x_{0}+\delta }e^{nf(x)}\,dx+\int _{x_{0}+\delta }^{b}e^{nf(x)}\,dx\\&\leq (b-a)e^{n(f(x_{0})-\eta )}+\int _{x_{0}-\delta }^{x_{0}+\delta }e^{nf(x)}\,dx\\&\leq (b-a)e^{n(f(x_{0})-\eta )}+e^{nf(x_{0})}\int _{x_{0}-\delta }^{x_{0}+\delta }e^{{\frac {n}{2}}(f''(x_{0})+\varepsilon )(x-x_{0})^{2}}\,dx\\&\leq (b-a)e^{n(f(x_{0})-\eta )}+e^{nf(x_{0})}\int _{-\infty }^{+\infty }e^{{\frac {n}{2}}(f''(x_{0})+\varepsilon )(x-x_{0})^{2}}\,dx\\&\leq (b-a)e^{n(f(x_{0})-\eta )}+e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0})-\varepsilon )}}}\end{aligned}}

Si dividimos ambos lados de la desigualdad anterior por

e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0}))}}}

y tomamos el límite obtenemos:

\lim _{n\to \infty }{\frac {\int _{a}^{b}e^{nf(x)}\,dx}{e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0}))}}}}}\leq \lim _{n\to \infty }(b-a)e^{-\eta n}{\sqrt {\frac {n(-f''(x_{0}))}{2\pi }}}+{\sqrt {\frac {-f''(x_{0})}{-f''(x_{0})-\varepsilon }}}={\sqrt {\frac {-f''(x_{0})}{-f''(x_{0})-\varepsilon }}}

Como es arbitrario obtenemos el límite superior: $\varepsilon$

\lim _{n\to \infty }{\frac {\int _{a}^{b}e^{nf(x)}\,dx}{e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0}))}}}}}\leq 1

Y combinando esto con el límite inferior obtenemos el resultado.

Nótese que la prueba anterior obviamente falla cuando o (o ambos). Para tratar estos casos, necesitamos algunas suposiciones adicionales. Una suposición suficiente (no necesaria) es que para $a=-\infty$ $b=\infty$ $n=1,$

\int _{a}^{b}e^{nf(x)}\,dx<\infty ,

y que el número indicado anteriormente existe (nótese que esto debe ser una suposición en el caso en que el intervalo sea infinito). La prueba procede de manera diferente a la indicada anteriormente, pero con una aproximación de integrales ligeramente diferente: $\eta$ $[a,b]$

\int _{a}^{x_{0}-\delta }e^{nf(x)}\,dx+\int _{x_{0}+\delta }^{b}e^{nf(x)}\,dx\leq \int _{a}^{b}e^{f(x)}e^{(n-1)(f(x_{0})-\eta )}\,dx=e^{(n-1)(f(x_{0})-\eta )}\int _{a}^{b}e^{f(x)}\,dx.

Cuando dividimos por

e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0}))}}},

obtenemos para este término

{\frac {e^{(n-1)(f(x_{0})-\eta )}\int _{a}^{b}e^{f(x)}\,dx}{e^{nf(x_{0})}{\sqrt {\frac {2\pi }{n(-f''(x_{0}))}}}}}=e^{-(n-1)\eta }{\sqrt {n}}e^{-f(x_{0})}\int _{a}^{b}e^{f(x)}\,dx{\sqrt {\frac {-f''(x_{0})}{2\pi }}}

cuyo límite es . El resto de la prueba (el análisis del término interesante) procede como se indicó anteriormente. $n\to \infty$ $0$

La condición dada en el caso del intervalo infinito es, como se dijo anteriormente, suficiente pero no necesaria. Sin embargo, la condición se cumple en muchas aplicaciones, si no en la mayoría: la condición simplemente dice que la integral que estamos estudiando debe estar bien definida (no infinita) y que el máximo de la función en debe ser un máximo "verdadero" (el número debe existir). No hay necesidad de exigir que la integral sea finita para pero es suficiente exigir que la integral sea finita para algún $x_{0}$ $\eta >0$ $n=1$ $n=N.$

Este método se basa en cuatro conceptos básicos como son:

Conceptos

1. Error relativo

La “aproximación” en este método está relacionada con el error relativo y no con el error absoluto . Por lo tanto, si establecemos

s={\sqrt {\frac {2\pi }{M\left|f''(x_{0})\right|}}},

La integral se puede escribir como

{\begin{aligned}\int _{a}^{b}e^{Mf(x)}\,dx&=se^{Mf(x_{0})}{\frac {1}{s}}\int _{a}^{b}e^{M(f(x)-f(x_{0}))}\,dx\\&=se^{Mf(x_{0})}\int _{\frac {a-x_{0}}{s}}^{\frac {b-x_{0}}{s}}e^{M(f(sy+x_{0})-f(x_{0}))}\,dy\end{aligned}}

donde es un número pequeño cuando es un número grande obviamente y el error relativo será $s$ $M$

\left|\int _{\frac {a-x_{0}}{s}}^{\frac {b-x_{0}}{s}}e^{M(f(sy+x_{0})-f(x_{0}))}dy-1\right|.

Ahora, separemos esta integral en dos partes: región y resto. $y\in [-D_{y},D_{y}]$

2. alrededor del punto estacionario cuando es lo suficientemente grande $e^{M(f(sy+x_{0})-f(x_{0}))}\to e^{-\pi y^{2}}$ $M$

Veamos la expansión de Taylor alrededor de x ₀ y traduzcamos x a y porque hacemos la comparación en el espacio y, obtendremos $M(f(x)-f(x_{0}))$

M(f(x)-f(x_{0}))={\frac {Mf''(x_{0})}{2}}s^{2}y^{2}+{\frac {Mf'''(x_{0})}{6}}s^{3}y^{3}+\cdots =-\pi y^{2}+O\left({\frac {1}{\sqrt {M}}}\right).

Tenga en cuenta que debido a que es un punto estacionario, a partir de esta ecuación encontrará que los términos superiores a la segunda derivada en esta expansión de Taylor se suprimen como el orden de, de modo que se acercará a la función gaussiana como se muestra en la figura. Además, $f'(x_{0})=0$ $x_{0}$ ${\tfrac {1}{\sqrt {M}}}$ $\exp(M(f(x)-f(x_{0})))$

\int _{-\infty }^{\infty }e^{-\pi y^{2}}dy=1.

{\displaystyle e^{M[f(sy+x_{0})-f(x_{0})]}} — La figura de con es igual a 1, 2 y 3, y la línea roja es la curva de la función . $e^{M[f(sy+x_{0})-f(x_{0})]}$ $M$ $e^{-\pi y^{2}}$

3. Cuanto mayor sea, menor será el rango de relación. $M$ $x$

Debido a que hacemos la comparación en el espacio y, es fijo en lo que causará ; sin embargo, es inversamente proporcional a , la región elegida de será más pequeña cuando se incrementa. $y$ $y\in [-D_{y},D_{y}]$ $x\in [-sD_{y},sD_{y}]$ $s$ ${\sqrt {M}}$ $x$ $M$

4. Si la integral en el método de Laplace converge, la contribución de la región que no está alrededor del punto estacionario de la integración de su error relativo tenderá a cero a medida que crece. $M$

Basándonos en el tercer concepto, incluso si elegimos un D _y muy grande , sD _y será finalmente un número muy pequeño cuando se incremente a un número enorme. Entonces, ¿cómo podemos garantizar que la integral del resto tenderá a 0 cuando sea lo suficientemente grande? $M$ $M$

La idea básica es encontrar una función tal que y la integral de tenderá a cero cuando crezca. Porque la función exponencial de siempre será mayor que cero mientras sea un número real, y esta función exponencial es proporcional a la integral de tenderá a cero. Para simplificar, elija como tangente a través del punto como se muestra en la figura: $m(x)$ $m(x)\geq f(x)$ $e^{Mm(x)}$ $M$ $Mm(x)$ $m(x)$ $m(x),$ $e^{Mf(x)}$ $m(x)$ $x=sD_{y}$

{\estilo de visualización m(x)} — $m(x)$ se denota por las dos líneas tangentes que pasan por . Cuando se hace más pequeño, la región de cobertura será más grande. $x=\pm sD_{y}+x_{0}$ $sD_{y}$

Si el intervalo de integración de este método es finito, encontraremos que, independientemente de que continúe en la región de reposo, siempre será menor que lo que se mostró anteriormente cuando es suficientemente grande. Por cierto, se demostrará más adelante que la integral de tenderá a cero cuando es suficientemente grande. $f(x)$ $m(x)$ $M$ $e^{Mm(x)}$ $M$

Si el intervalo de la integración de este método es infinito, y siempre pueden cruzarse entre sí. Si es así, no podemos garantizar que la integral de tenderá a cero finalmente. Por ejemplo, en el caso de siempre divergirá. Por lo tanto, debemos exigir que pueda converger para el caso de intervalo infinito. Si es así, esta integral tenderá a cero cuando sea lo suficientemente grande y podemos elegir esto como el cruce de y $m(x)$ $f(x)$ $e^{Mf(x)}$ $f(x)={\tfrac {\sin(x)}{x}},$ $\int _{0}^{\infty }e^{Mf(x)}dx$ $\int _{d}^{\infty }e^{Mf(x)}dx$ $d$ $d$ $m(x)$ $f(x).$

Podrías preguntarte por qué no elegir como integral convergente. Permíteme usar un ejemplo para mostrarte la razón. Supón que la parte restante de es entonces y su integral divergirá; sin embargo, cuando la integral de converge. Entonces, la integral de algunas funciones divergirá cuando no sea un número grande, pero convergerá cuando sea lo suficientemente grande. $\int _{d}^{\infty }e^{f(x)}dx$ $f(x)$ $-\ln x,$ $e^{f(x)}={\tfrac {1}{x}}$ $M=2,$ $e^{Mf(x)}={\tfrac {1}{x^{2}}}$ $M$ $M$

Basándonos en estos cuatro conceptos, podemos derivar el error relativo de este método.

Otras formulaciones

La aproximación de Laplace a veces se escribe como

\int _{a}^{b}h(x)e^{Mg(x)}\,dx\approx {\sqrt {\frac {2\pi }{M|g''(x_{0})|}}}h(x_{0})e^{Mg(x_{0})}\ {\text{ as }}M\to \infty

donde es positivo. $h$

Es importante destacar que la precisión de la aproximación depende de la variable de integración, es decir, de lo que queda y lo que entra ^[3]. $g(x)$ $h(x).$

La derivación de su error relativo

En primer lugar, se utiliza para indicar el máximo global, lo que simplificará esta derivación. Nos interesa el error relativo, escrito como , $x_{0}=0$ $|R|$

\int _{a}^{b}h(x)e^{Mg(x)}\,dx=h(0)e^{Mg(0)}s\underbrace {\int _{a/s}^{b/s}{\frac {h(sy)}{h(0)}}e^{M\left[g(sy)-g(0)\right]}dy} _{1+R},

dónde

s\equiv {\sqrt {\frac {2\pi }{M\left|g''(0)\right|}}}.

Entonces, si lo dejamos

A\equiv {\frac {h(sy)}{h(0)}}e^{M\left[g(sy)-g(0)\right]}

y podemos conseguir $A_{0}\equiv e^{-\pi y^{2}}$

\left|R\right|=\left|\int _{a/s}^{b/s}A\,dy-\int _{-\infty }^{\infty }A_{0}\,dy\right|

desde . $\int _{-\infty }^{\infty }A_{0}\,dy=1$

Para el límite superior, tenga en cuenta que podemos separar esta integración en 5 partes con 3 tipos diferentes (a), (b) y (c), respectivamente. Por lo tanto, $|A+B|\leq |A|+|B|,$

|R|<\underbrace {\left|\int _{D_{y}}^{\infty }A_{0}dy\right|} _{(a_{1})}+\underbrace {\left|\int _{D_{y}}^{b/s}Ady\right|} _{(b_{1})}+\underbrace {\left|\int _{-D_{y}}^{D_{y}}\left(A-A_{0}\right)dy\right|} _{(c)}+\underbrace {\left|\int _{a/s}^{-D_{y}}Ady\right|} _{(b_{2})}+\underbrace {\left|\int _{-\infty }^{-D_{y}}A_{0}dy\right|} _{(a_{2})}

donde y son similares, simplemente calculemos y y también son similares, simplemente calcularé . $(a_{1})$ $(a_{2})$ $(a_{1})$ $(b_{1})$ $(b_{2})$ $(b_{1})$

Porque , después de la traducción de , podemos obtener $(a_{1})$ $z\equiv \pi y^{2}$

(a_{1})=\left|{\frac {1}{2{\sqrt {\pi }}}}\int _{\pi D_{y}^{2}}^{\infty }e^{-z}z^{-1/2}dz\right|<{\frac {e^{-\pi D_{y}^{2}}}{2\pi D_{y}}}.

Esto significa que mientras sea lo suficientemente grande, tenderá a cero. $D_{y}$

Para , podemos obtener $(b_{1})$

(b_{1})\leq \left|\int _{D_{y}}^{b/s}\left[{\frac {h(sy)}{h(0)}}\right]_{\text{max}}e^{Mm(sy)}dy\right|

dónde

m(x)\geq g(x)-g(0){\text{as}}x\in [sD_{y},b]

y debe tener el mismo signo durante esta región. Elijamos como la tangente que pasa por el punto en , es decir, que se muestra en la figura $h(x)$ $h(0)$ $m(x)$ $x=sD_{y}$ $m(sy)=g(sD_{y})-g(0)+g'(sD_{y})\left(sy-sD_{y}\right)$

De esta figura se puede deducir que cuando o se hace más pequeño, la región que satisface la desigualdad anterior se hará más grande. Por lo tanto, si queremos encontrar un adecuado para cubrir la totalidad durante el intervalo de , tendrá un límite superior. Además, como la integración de es simple, permítanme utilizarla para estimar el error relativo aportado por este . $s$ $D_{y}$ $m(x)$ $f(x)$ $(b_{1})$ $D_{y}$ $e^{-\alpha x}$ $(b_{1})$

Basándonos en la expansión de Taylor, podemos obtener

{\begin{aligned}M\left[g(sD_{y})-g(0)\right]&=M\left[{\frac {g''(0)}{2}}s^{2}D_{y}^{2}+{\frac {g'''(\xi )}{6}}s^{3}D_{y}^{3}\right]&&{\text{as }}\xi \in [0,sD_{y}]\\&=-\pi D_{y}^{2}+{\frac {(2\pi )^{3/2}g'''(\xi )D_{y}^{3}}{6{\sqrt {M}}|g''(0)|^{\frac {3}{2}}}},\end{aligned}}

y

{\begin{aligned}Msg'(sD_{y})&=Ms\left(g''(0)sD_{y}+{\frac {g'''(\zeta )}{2}}s^{2}D_{y}^{2}\right)&&{\text{as }}\zeta \in [0,sD_{y}]\\&=-2\pi D_{y}+{\sqrt {\frac {2}{M}}}\left({\frac {\pi }{|g''(0)|}}\right)^{\frac {3}{2}}g'''(\zeta )D_{y}^{2},\end{aligned}}

y luego sustituirlos nuevamente en el cálculo de ; sin embargo, puede encontrar que los restos de estas dos expansiones son inversamente proporcionales a la raíz cuadrada de , déjeme eliminarlos para embellecer el cálculo. Mantenerlos es mejor, pero hará que la fórmula sea más fea. $(b_{1})$ $M$

{\begin{aligned}(b_{1})&\leq \left|\left[{\frac {h(sy)}{h(0)}}\right]_{\max }e^{-\pi D_{y}^{2}}\int _{0}^{b/s-D_{y}}e^{-2\pi D_{y}y}dy\right|\\&\leq \left|\left[{\frac {h(sy)}{h(0)}}\right]_{\max }e^{-\pi D_{y}^{2}}{\frac {1}{2\pi D_{y}}}\right|.\end{aligned}}

Por lo tanto, tenderá a cero cuando se haga más grande, pero no olvide que el límite superior de debe considerarse durante este cálculo. $D_{y}$ $D_{y}$

En cuanto a la integración cerca de , también podemos utilizar el teorema de Taylor para calcularla. Cuando $x=0$ $h'(0)\neq 0$

{\begin{aligned}(c)&\leq \int _{-D_{y}}^{D_{y}}e^{-\pi y^{2}}\left|{\frac {sh'(\xi )}{h(0)}}y\right|\,dy\\&<{\sqrt {\frac {2}{\pi M|g''(0)|}}}\left|{\frac {h'(\xi )}{h(0)}}\right|_{\max }\left(1-e^{-\pi D_{y}^{2}}\right)\end{aligned}}

y puedes encontrar que es inversamente proporcional a la raíz cuadrada de . De hecho, tendrá el mismo comportamiento cuando es una constante. $M$ $(c)$ $h(x)$

En conclusión, la integral cerca del punto estacionario se hará más pequeña a medida que se hace más grande, y las partes restantes tenderán a cero siempre que sea lo suficientemente grande; sin embargo, debemos recordar que tiene un límite superior que se decide por si la función es siempre más grande que en la región de reposo. Sin embargo, siempre que podamos encontrar uno que satisfaga esta condición, el límite superior de puede elegirse como directamente proporcional a ya que es una tangente que pasa por el punto de en . Entonces, cuanto más grande es, más grande puede ser. ${\sqrt {M}}$ $D_{y}$ $D_{y}$ $m(x)$ $g(x)-g(0)$ $m(x)$ $D_{y}$ ${\sqrt {M}}$ $m(x)$ $g(x)-g(0)$ $x=sD_{y}$ $M$ $D_{y}$

En el caso multivariado, donde es un vector -dimensional y es una función escalar de , la aproximación de Laplace suele escribirse como: $\mathbf {x}$ $d$ $f(\mathbf {x} )$ $\mathbf {x}$

\int h(\mathbf {x} )e^{Mf(\mathbf {x} )}\,d\mathbf {x} \approx \left({\frac {2\pi }{M}}\right)^{d/2}{\frac {h(\mathbf {x} _{0})e^{Mf(\mathbf {x} _{0})}}{\left|-H(f)(\mathbf {x} _{0})\right|^{1/2}}}{\text{ as }}M\to \infty

donde es la matriz hessiana de evaluada en y donde denota el determinante de la matriz . De manera análoga al caso univariado, se requiere que la hessiana sea definida negativamente . ^[4] $H(f)(\mathbf {x} _{0})$ $f$ $\mathbf {x} _{0}$ $|\cdot |$

Por cierto, aunque denota un vector -dimensional, el término denota aquí un volumen infinitesimal , es decir . $\mathbf {x}$ $d$ $d\mathbf {x}$ $d\mathbf {x} :=dx_{1}dx_{2}\cdots dx_{d}$

Extensión de descenso más pronunciado

En las extensiones del método de Laplace, se utiliza el análisis complejo y, en particular , la fórmula integral de Cauchy para encontrar un contorno de descenso más pronunciado para una integral equivalente (asintóticamente con M grande ), expresada como una integral de línea . En particular, si no existe ningún punto x ₀ donde la derivada de se anule en la línea real, puede ser necesario deformar el contorno de integración a uno óptimo, donde será posible el análisis anterior. Nuevamente, la idea principal es reducir, al menos asintóticamente, el cálculo de la integral dada al de una integral más simple que pueda evaluarse explícitamente. Consulte el libro de Erdelyi (1956) para una discusión simple (donde el método se denomina descensos más pronunciados ). $f$

La formulación adecuada para el plano z complejo es

\int _{a}^{b}e^{Mf(z)}\,dz\approx {\sqrt {\frac {2\pi }{-Mf''(z_{0})}}}e^{Mf(z_{0})}{\text{ as }}M\to \infty .

para un camino que pasa por el punto de silla en z ₀ . Nótese la aparición explícita de un signo menos para indicar la dirección de la segunda derivada: no se debe tomar el módulo. Nótese también que si el integrando es meromórfico , es posible que haya que añadir residuos correspondientes a los polos atravesados mientras se deforma el contorno (véase, por ejemplo, la sección 3 del artículo de Okounkov Funciones simétricas y particiones aleatorias ).

Generalizaciones adicionales

Una extensión del método de descenso más pronunciado es el llamado método de fase estacionaria no lineal/descenso más pronunciado . Aquí, en lugar de integrales, es necesario evaluar asintóticamente soluciones de problemas de factorización de Riemann-Hilbert .

Dado un contorno C en la esfera compleja , una función definida en ese contorno y un punto especial, como el infinito, se busca una función holomorfa M alejada de C , con un salto prescrito a través de C y con una normalización dada en el infinito. Si y por lo tanto M son matrices en lugar de escalares, este es un problema que en general no admite una solución explícita. $f$ $f$

En este caso, es posible realizar una evaluación asintótica siguiendo el método de la fase estacionaria lineal/descenso más pronunciado. La idea es reducir asintóticamente la solución del problema de Riemann-Hilbert dado a la de un problema de Riemann-Hilbert más simple y explícitamente solucionable. El teorema de Cauchy se utiliza para justificar las deformaciones del contorno de salto.

La fase estacionaria no lineal fue introducida por Deift y Zhou en 1993, basándose en trabajos anteriores de Its. Un método de descenso más pronunciado (propiamente dicho) no lineal fue introducido por Kamvissis, K. McLaughlin y P. Miller en 2003, basándose en trabajos anteriores de Lax, Levermore, Deift, Venakides y Zhou. Al igual que en el caso lineal, las "curvas de descenso más pronunciadas" resuelven un problema de mínimo-máximo. En el caso no lineal, resultan ser "curvas en S" (definidas en un contexto diferente en los años 80 por Stahl, Gonchar y Rakhmanov).

El método de fase estacionaria no lineal/descenso más pronunciado tiene aplicaciones en la teoría de ecuaciones de solitones y modelos integrables , matrices aleatorias y combinatoria .

Generalización de la aproximación del punto medio

En la generalización, la evaluación de la integral se considera equivalente a encontrar la norma de la distribución con densidad.

e^{Mf(x)}.

Denotando la distribución acumulativa , si hay una distribución gaussiana difeomórfica con densidad $F(x)$

e^{-g-{\frac {\gamma }{2}}y^{2}}

La norma viene dada por

{\sqrt {2\pi \gamma ^{-1}}}e^{-g}

y el difeomorfismo correspondiente es

y(x)={\frac {1}{\sqrt {\gamma }}}\Phi ^{-1}{\left({\frac {F(x)}{F(\infty )}}\right)},

donde denota la función de distribución normal estándar acumulativa . $\Phi$

En general, cualquier distribución difeomorfa a la distribución gaussiana tiene densidad

e^{-g-{\frac {\gamma }{2}}y^{2}(x)}y'(x)

y el punto medio se asigna a la mediana de la distribución gaussiana. Al hacer coincidir el logaritmo de las funciones de densidad y sus derivadas en el punto medio hasta un orden dado, se obtiene un sistema de ecuaciones que determinan los valores aproximados de y . $\gamma$ $g$

La aproximación fue introducida en 2019 por D. Makogon y C. Morais Smith principalmente en el contexto de la evaluación de la función de partición para un sistema de fermiones en interacción. ^[5]

Integrales complejas

Para integrales complejas en la forma:

{\frac {1}{2\pi i}}\int _{c-i\infty }^{c+i\infty }g(s)e^{st}\,ds

con ello realizamos la sustitución t = iu y el cambio de variable para obtener la transformada de Laplace bilateral: $t\gg 1,$ $s=c+ix$

{\frac {1}{2\pi }}\int _{-\infty }^{\infty }g(c+ix)e^{-ux}e^{icu}\,dx.

Luego descomponemos g ( c + ix ) en su parte real y compleja, después de lo cual recuperamos u = t / i . Esto es útil para las transformadas inversas de Laplace , la fórmula de Perron y la integración compleja.

Ejemplo: Aproximación de Stirling

El método de Laplace se puede utilizar para derivar la aproximación de Stirling.

N!\approx {\sqrt {2\pi N}}({\frac {N}{e}})^{N}\,

para un entero grande N . De la definición de la función Gamma , tenemos

N!=\Gamma (N+1)=\int _{0}^{\infty }e^{-x}x^{N}\,dx.

Ahora cambiamos las variables, de modo que volvamos a insertar estos valores para obtener $x=Nz$ $dx=Ndz.$

{\begin{aligned}N!&=\int _{0}^{\infty }e^{-Nz}(Nz)^{N}N\,dz\\&=N^{N+1}\int _{0}^{\infty }e^{-Nz}z^{N}\,dz\\&=N^{N+1}\int _{0}^{\infty }e^{-Nz}e^{N\ln z}\,dz\\&=N^{N+1}\int _{0}^{\infty }e^{N(\ln z-z)}\,dz.\end{aligned}}

Esta integral tiene la forma necesaria para el método de Laplace con

f(z)=\ln {z}-z

que es dos veces diferenciable:

f'(z)={\frac {1}{z}}-1,

f''(z)=-{\frac {1}{z^{2}}}.

El máximo de se encuentra en z ₀ = 1, y la segunda derivada de tiene el valor −1 en este punto. Por lo tanto, obtenemos $f(z)$ $f(z)$

N!\approx N^{N+1}{\sqrt {\frac {2\pi }{N}}}e^{-N}={\sqrt {2\pi N}}N^{N}e^{-N}.

Véase también

Notas

^ Tierney, Luke; Kadane, Joseph B. (1986). "Aproximaciones precisas para momentos posteriores y densidades marginales". J. Amer. Statist. Assoc . 81 (393): 82–86. doi :10.1080/01621459.1986.10478240.
^ Amaral Turkman, M. Antónia; Paulino, Carlos Daniel; Müller, Peter (2019). "Métodos basados en aproximaciones analíticas". Estadística bayesiana computacional: una introducción . Cambridge University Press. págs. 150–171. ISBN 978-1-108-70374-1.
^ Butler, Ronald W (2007). Aproximaciones y aplicaciones de puntos de silla de montar . Cambridge University Press. ISBN 978-0-521-87250-8.
^ MacKay, David JC (septiembre de 2003). Teoría de la información, inferencia y algoritmos de aprendizaje. Cambridge: Cambridge University Press. ISBN 9780521642989.
^ Makogon, D.; Morais Smith, C. (3 de mayo de 2022). "Aproximación del punto medio y su aplicación para el estudio de sistemas fermiónicos". Physical Review B . 105 (17): 174505. Bibcode :2022PhRvB.105q4505M. doi :10.1103/PhysRevB.105.174505. hdl : 1874/423769 . S2CID 203591796.

Referencias

Azevedo-Filho, A.; Shachter, R. (1994), "Aproximaciones del método de Laplace para la inferencia probabilística en redes de creencias con variables continuas", en Mantaras, R.; Poole, D. (eds.), Incertidumbre en la inteligencia artificial , San Francisco, CA: Morgan Kaufmann , CiteSeerX 10.1.1.91.2064.
Deift, P.; Zhou, X. (1993), "Un método de descenso más pronunciado para problemas oscilatorios de Riemann-Hilbert. Asintótica para la ecuación MKdV", Ann. of Math. , vol. 137, núm. 2, págs. 295–368, arXiv : math/9201261 , doi :10.2307/2946540, JSTOR 2946540.
Erdelyi, A. (1956), Expansiones asintóticas , Dover.
Fog, A. (2008), "Métodos de cálculo para la distribución hipergeométrica no central de Wallenius", Communications in Statistics, Simulation and Computation , vol. 37, núm. 2, págs. 258–273, doi :10.1080/03610910701790269, S2CID 9040568.
Laplace, PS (1774), "Mémoires de Mathématique et de Physique, Tome Sixième" [Memoria sobre la probabilidad de las causas de los eventos.], Statistical Science , 1 (3): 366–367, JSTOR 2245476
Wang, Xiang-Sheng; Wong, Roderick (2007). "Análogos discretos de la aproximación de Laplace". Asymptot. Anal . 54 (3–4): 165–180.

Este artículo incorpora material de aproximación del punto de silla en PlanetMath , que se encuentra bajo la licencia Creative Commons Attribution/Share-Alike License .

[1] Tierney, Luke; Kadane, Joseph B. (1986). "Aproximaciones precisas para momentos posteriores y densidades marginales". J. Amer. Statist. Assoc . 81 (393): 82–86. doi :10.1080/01621459.1986.10478240.

[2] Amaral Turkman, M. Antónia; Paulino, Carlos Daniel; Müller, Peter (2019). "Métodos basados en aproximaciones analíticas". Estadística bayesiana computacional: una introducción . Cambridge University Press. págs. 150–171. ISBN 978-1-108-70374-1.

[3] Butler, Ronald W (2007). Aproximaciones y aplicaciones de puntos de silla de montar . Cambridge University Press. ISBN 978-0-521-87250-8.

[4] MacKay, David JC (septiembre de 2003). Teoría de la información, inferencia y algoritmos de aprendizaje. Cambridge: Cambridge University Press. ISBN 9780521642989.

[5] Makogon, D.; Morais Smith, C. (3 de mayo de 2022). "Aproximación del punto medio y su aplicación para el estudio de sistemas fermiónicos". Physical Review B . 105 (17): 174505. Bibcode :2022PhRvB.105q4505M. doi :10.1103/PhysRevB.105.174505. hdl : 1874/423769 . S2CID 203591796.