Articulo de referencia

El método de Newton

Una ilustración del método de Newton En análisis numérico , el método de Newton-Raphson , también conocido simplemente como método de Newton , llamado así en honor a Isaac Newto...

Una ilustración del método de Newton

En análisis numérico , el método de Newton-Raphson , también conocido simplemente como método de Newton , llamado así en honor a Isaac Newton y Joseph Raphson , es un algoritmo de búsqueda de raíces que produce aproximaciones sucesivamente mejores a las raíces (o ceros) de una función de valor real . La versión más básica comienza con una función de valor real f , su derivada f ' y una estimación inicial x₀ para una raíz de f . Si f satisface ciertas suposiciones y la estimación inicial es cercana, entonces

incógnita1=incógnita0F(incógnita0)F(incógnita0){\displaystyle x_{1}=x_{0}-{\frac {f(x_{0})}{f'(x_{0})}}}

es una mejor aproximación de la raíz que x 0 . Geométricamente, ( x 1 , 0) es la intersección con el eje x de la tangente a la gráfica de f en ( x 0 , f ( x 0 )) : es decir, la estimación mejorada, x 1 , es la raíz única de la aproximación lineal de f en la estimación inicial, x 0 . El proceso se repite como

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte){\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}}

hasta alcanzar un valor suficientemente preciso. El número de dígitos correctos se duplica aproximadamente con cada paso. Este algoritmo es el primero de la clase de métodos de Householder y fue sucedido por el método de Halley . El método también puede extenderse a funciones complejas y a sistemas de ecuaciones .

Descripción

El objetivo del método de Newton es encontrar la raíz de una función. La idea consiste en partir de una estimación inicial cercana a la raíz, aproximar la función mediante su recta tangente cerca de dicha estimación y, a continuación, tomar la raíz de la aproximación lineal como una nueva estimación de la raíz de la función. Esta última estimación suele estar más cerca de la raíz que la anterior, y el método puede repetirse .

Ilustración del método de Newton
x n +1 es una mejor aproximación que x n para la raíz x de la función f (curva azul).

La mejor aproximación lineal a una función diferenciable arbitrariaF(incógnita){\displaystyle f(x)}cerca del puntoincógnita=incógnitanorte{\displaystyle x=x_{n}}es la línea tangente a la curva, con ecuación

F(incógnita)F(incógnitanorte)+F(incógnitanorte)(incógnitaincógnitanorte).{\displaystyle f(x)\approx f(x_{n})+f'(x_{n})(x-x_{n}).}

La raíz de esta función lineal, el lugar donde intercepta laincógnita{\displaystyle x}El eje - puede tomarse como una raíz aproximada más cercana .incógnitanorte+1{\displaystyle x_{n+1}}siF(incógnitanorte)0{\displaystyle f'(x_{n})\neq 0}:

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte).{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}.}

Ilustración del método de Newton
La iteración suele mejorar la aproximación.

El proceso puede iniciarse con cualquier estimación inicial arbitraria .incógnita0{\displaystyle x_{0}} , aunque generalmente requerirá menos iteraciones para converger si la suposición está cerca de una de las raíces de la función. El método normalmente convergerá siF(incógnita0)0{\displaystyle f'(x_{0})\neq 0}Además , para una raíz de multiplicidad  1, la convergencia es al menos cuadrática (véase Tasa de convergencia ) en un entorno suficientemente pequeño de la raíz: el número de dígitos correctos de la aproximación se duplica aproximadamente con cada paso adicional. Encontrará más detalles en la sección  Análisis a continuación.

Los métodos de Householder son similares pero tienen un orden superior para una convergencia aún más rápida. Sin embargo, los cálculos adicionales requeridos para cada paso pueden ralentizar el rendimiento general en relación con el método de Newton, particularmente siF{\displaystyle f}o sus derivados son computacionalmente costosos de evaluar.

Historia

En el período paleobabilónico (siglos XIX-XVI a. C.), el lado de un cuadrado de área conocida podía aproximarse eficazmente, y se conjetura que esto se hizo utilizando un caso especial del método de Newton, descrito algebraicamente más adelante , mejorando iterativamente una estimación inicial; un método equivalente se puede encontrar en la Métrica de Herón de Alejandría (siglos I-II d. C.), por lo que a menudo se le llama método de Herón . [ 1 ] Jamshīd al-Kāshī utilizó un método para resolver x PN = 0 para encontrar raíces de N , un método que era algebraicamente equivalente al método de Newton, y en el que se encontró un método similar en Trigonometria Britannica , publicada por Henry Briggs en 1633. [ 2 ] Su método apareció por primera vez en su publicación de 1427 Miftāḥ al-Ḥisāb ( La clave de la aritmética ). [ 3 ] La obra de Al-Kāshī se fundamentó en las contribuciones previas del polímata al-Bīrūnī (973–1048) y del matemático Sharaf al-Dīn al-Ṭūsī (1135–1213). Las contribuciones de al-Kāshī permanecieron en gran medida desconocidas para la comunidad científica occidental durante siglos, hasta la obra de François Viète (1540–1603). En 1600, Viète redescubrió una técnica similar a la de al-Kāshī en el contexto de la resolución de ecuaciones polinómicas escalares de sexto grado. [ 3 ]

El método que sentó las bases de lo que hoy es el método moderno de Newton, desarrollado posteriormente por Joseph Raphson y Thomas Simpson, apareció por primera vez en la obra de Isaac Newton , De analysi per aequationes numero terminorum infinitas (escrita en 1669 y publicada en 1711 por William Jones ) y en De metodis fluxionum et serierum infinitarum (escrita en 1671 y traducida y publicada como Method of Fluxions en 1736 por John Colson ). [ 4 ] [ 2 ] [ 5 ] Sin embargo, si bien Newton proporcionó las ideas básicas, su método difiere del método moderno descrito anteriormente. Aplicó el método únicamente a polinomios, comenzando con una estimación inicial de la raíz y extrayendo una secuencia de correcciones de error. Utilizó cada corrección para reescribir el polinomio en términos del error restante y, a continuación, resolvió para obtener una nueva corrección, despreciando los términos de grado superior. No conectó explícitamente el método con las derivadas ni presentó una fórmula general. Newton aplicó este método tanto a problemas numéricos como algebraicos, obteniendo series de Taylor en este último caso. A pesar de ello, en las posteriores segunda y tercera ediciones de su obra Philosophiæ Naturalis Principia Mathematica de 1687 , aplicó su método de forma iterativa a una ecuación no polinómica, concretamente a la ecuación de Kepler , siendo estas las primeras publicaciones suyas que utilizaron el método de Newton de esta forma. [ 2 ]

Es posible que Newton haya derivado su método de un método similar, aunque menos preciso, del matemático Viète; sin embargo, ambos métodos no son idénticos. [ 4 ] La esencia del método de Viète se encuentra en la obra del matemático Sharaf al-Din al-Tusi . [ 6 ]

El matemático japonés Seki Kōwa utilizó una forma del método de Newton en la década de 1680 para resolver ecuaciones de una sola variable, aunque no tenía conexión con el cálculo . [ 7 ]

El método de Newton se publicó por primera vez en 1685 en A Treatise of Algebra both Historical and Practical de John Wallis . [ 8 ] En 1690, Raphson publicó una descripción simplificada en Analysis aequationum universalis . [ 9 ] Raphson también aplicó el método solo a polinomios, pero evitó el tedioso proceso de reescritura de Newton extrayendo cada corrección sucesiva del polinomio original. Esto le permitió derivar una expresión iterativa reutilizable para cada problema. Finalmente, en 1740, Simpson describió el método de Newton como un método iterativo para resolver ecuaciones no lineales generales usando cálculo, dando esencialmente la descripción anterior. En la misma publicación, Simpson también da la generalización a sistemas de dos ecuaciones y señala que el método de Newton se puede usar para resolver problemas de optimización estableciendo el gradiente a cero.

En 1879, Arthur Cayley, en su obra El problema imaginario de Newton-Fourier, fue el primero en percatarse de las dificultades para generalizar el método de Newton a raíces complejas de polinomios de grado superior a 2 y valores iniciales complejos. Esto abrió el camino al estudio de la teoría de las iteraciones de funciones racionales.

Consideraciones prácticas

El método de Newton es una técnica poderosa: si la derivada de la función en la raíz es distinta de cero, la convergencia es al menos cuadrática. A medida que el método converge hacia la raíz, la diferencia entre la raíz y la aproximación se eleva al cuadrado (el número de dígitos exactos se duplica aproximadamente) en cada paso. Sin embargo, este método presenta algunas dificultades.

Dificultad para calcular la derivada de una función

El método de Newton requiere que la derivada pueda calcularse directamente. Obtener una expresión analítica para la derivada puede resultar difícil o costoso. En estos casos, puede ser conveniente aproximar la derivada utilizando la pendiente de una recta que pasa por dos puntos cercanos de la función. Esta aproximación daría como resultado un método similar al de la secante , cuya convergencia es más lenta que la del método de Newton.

Fallo del método para converger a la raíz

Es importante revisar la demostración de la convergencia cuadrática del método de Newton antes de implementarlo. En concreto, conviene revisar las suposiciones de la demostración. Si el método no converge, es porque no se cumplen dichas suposiciones.

Por ejemplo, en algunos casos , si la primera derivada no se comporta adecuadamente en las proximidades de una raíz específica, es posible que el método de Newton no converja independientemente de la inicialización. En otros casos, el método de Newton puede estabilizarse mediante la sobrerrelajación sucesiva , o bien, se puede aumentar la velocidad de convergencia utilizando el mismo método.

En una implementación robusta del método de Newton, es común establecer límites al número de iteraciones, acotar la solución a un intervalo que se sabe que contiene la raíz y combinar el método con un método de búsqueda de raíces más robusto.

Convergencia lenta para raíces de multiplicidad mayor que 1.

Si la raíz que se busca tiene una multiplicidad mayor que uno, la tasa de convergencia es simplemente lineal (los errores se reducen por un factor constante en cada paso) a menos que se tomen medidas especiales. Cuando hay dos o más raíces muy próximas, pueden ser necesarias muchas iteraciones antes de que las iteraciones se acerquen lo suficiente a una de ellas para que la convergencia cuadrática sea evidente. Sin embargo, si se conoce la multiplicidad m de la raíz, el siguiente algoritmo modificado conserva la tasa de convergencia cuadrática: [ 10 ]

incógnitanorte+1=incógnitanortemetroF(incógnitanorte)F(incógnitanorte).{\displaystyle x_{n+1}=x_{n}-m{\frac {f(x_{n})}{f'(x_{n})}}.}

Esto equivale a utilizar la sobre-relajación sucesiva . Por otro lado, si se desconoce la multiplicidad m de la raíz, es posible estimar m tras realizar una o dos iteraciones y, a continuación, utilizar ese valor para aumentar la tasa de convergencia.

Si la multiplicidad m de la raíz es finita, entonces g ( x ) = f ( x ) / f ( x ) tendrá una raíz en la misma ubicación con multiplicidad 1. Aplicar el método de Newton para encontrar la raíz de g ( x ) recupera la convergencia cuadrática en muchos casos, aunque generalmente implica la segunda derivada de f ( x ) . En un caso particularmente simple, si f ( x ) = x m entonces g ( x ) = x / m y el método de Newton encuentra la raíz en una sola iteración con

incógnitanorte+1=incógnitanortegramo(incógnitanorte)gramo(incógnitanorte)=incógnitanorteincógnitanortemetro1metro=0.{\displaystyle x_{n+1}=x_{n}-{\frac {g(x_{n})}{g'(x_{n})}}=x_{n}-{\frac {\;{\frac {x_{n}}{m}}\;}{\frac {1}{m}}}=0\,.}

Convergencia lenta

La función f ( x ) = x 2 tiene una raíz en 0. [ 11 ] Dado que f es continuamente diferenciable en su raíz, la teoría garantiza que el método de Newton, inicializado suficientemente cerca de la raíz, convergerá. Sin embargo, dado que la derivada f es cero en la raíz, la teoría no garantiza la convergencia cuadrática. En este ejemplo particular, la iteración de Newton viene dada por

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=12incógnitanorte.{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}={\frac {1}{2}}x_{n}.}

De esto se desprende que el método de Newton podría inicializarse en cualquier punto y converger a cero, pero solo a un ritmo lineal. Si se inicializa en 1, se requerirían docenas de iteraciones antes de alcanzar una precisión de diez dígitos.

La función f ( x ) = x + x 4/3 también tiene una raíz en 0, donde es continuamente diferenciable. Aunque la primera derivada f es distinta de cero en la raíz, la segunda derivada f ′′ es inexistente allí, por lo que no se puede garantizar la convergencia cuadrática. De hecho, la iteración de Newton viene dada por

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=incógnitanorte4/33+4incógnitanorte1/3incógnitanorteincógnitanorte1/33.{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}={\frac {x_{n}^{4/3}}{3+4x_{n}^{1/3}}}\approx x_{n}\cdot {\frac {x_{n}^{1/3}}{3}}.}

A partir de esto, se puede observar que la tasa de convergencia es superlineal pero subcuadrática. Esto se puede apreciar en las siguientes tablas, la de la izquierda muestra el método de Newton aplicado a la función f ( x ) = x + x⁴ y la de la derecha muestra el método de Newton aplicado a f ( x ) = x + x² . La convergencia cuadrática en la iteración mostrada a la derecha se ilustra mediante el orden de magnitud de la distancia desde la iteración hasta la raíz verdadera (0, 1, 2, 3, 5, 10, 20, 39 ,...) que se duplica aproximadamente de una fila a otra. Mientras que la convergencia a la izquierda es superlineal, el orden de magnitud solo se multiplica por aproximadamente 4/3 de una fila a otra (0, 1, 2, 4, 5, 7, 10, 13,...).

La tasa de convergencia se distingue del número de iteraciones necesarias para alcanzar una precisión dada. Por ejemplo, la función f ( x ) = x 20 − 1 tiene una raíz en 1. Dado que f ′(1) ≠ 0 y f es suave, se sabe que cualquier iteración de Newton que converja a 1 convergerá cuadráticamente. Sin embargo, si se inicializa en 0,5, las primeras iteraciones del método de Newton son aproximadamente 26214, 24904, 23658, 22476, disminuyendo lentamente, siendo solo la iteración 200 la de 1,0371. Las siguientes iteraciones son 1,0103, 1,00093, 1,0000082 y 1,00000000065, lo que ilustra la convergencia cuadrática. Esto pone de relieve que la convergencia cuadrática de una iteración de Newton no significa que se requieran pocas iteraciones; esto solo se aplica una vez que la secuencia de iteraciones está suficientemente cerca de la raíz. [ 12 ]

La convergencia depende de la inicialización.

La función f ( x ) = x (1 + x 2 ) −1/2 tiene una raíz en 0. La iteración de Newton viene dada por

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=incógnitanorteincógnitanorte(1+incógnitanorte2)1/2(1+incógnitanorte2)3/2=incógnitanorte3.{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}=x_{n}-{\frac {x_{n}(1+x_{n}^{2})^{-1/2}}{(1+x_{n}^{2})^{-3/2}}}=-x_{n}^{3}.}

De esto se puede ver que hay tres fenómenos posibles para una iteración de Newton. Si se inicializa estrictamente entre ±1 , la iteración de Newton convergerá (super)cuadráticamente a 0; si se inicializa exactamente en 1 o −1 , la iteración de Newton oscilará infinitamente entre ±1 ; si se inicializa en cualquier otro lugar, la iteración de Newton divergirá. [ 13 ] Esta misma tricotomía ocurre para f ( x ) = arctan x . [ 11 ]

En los casos en que la función en cuestión tiene múltiples raíces, puede ser difícil controlar, mediante la elección de la inicialización, qué raíz (si la hay) es identificada por el método de Newton. Por ejemplo, la función f ( x ) = x ( x 2 − 1)( x − 3)e −( x − 1) 2 /2 tiene raíces en −1, 0, 1 y 3. [ 14 ] Si se inicializa en −1.488, la iteración de Newton converge a 0; si se inicializa en −1.487, diverge a ; si se inicializa en −1.486, converge a −1; si se inicializa en −1.485, diverge a −∞ ; si se inicializa en −1.4843, converge a 3; Si se inicializa en −1,484, converge a 1. Este tipo de dependencia sutil de la inicialización no es infrecuente; se estudia frecuentemente en el plano complejo en forma del fractal de Newton .

Divergencia incluso cuando la inicialización está cerca de la raíz

Consideremos el problema de encontrar una raíz de f ( x ) = x 1/3 . La iteración de Newton es

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=incógnitanorteincógnitanorte1/313incógnitanorte2/3=2incógnitanorte.{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}=x_{n}-{\frac {x_{n}^{1/3}}{{\frac {1}{3}}x_{n}^{-2/3}}}=-2x_{n}.}

A menos que el método de Newton se inicialice en la raíz exacta 0, se observa que la secuencia de iteraciones no converge. Por ejemplo, incluso si se inicializa con una estimación razonablemente precisa de 0,001, las primeras iteraciones son −0,002, 0,004, −0,008, 0,016, llegando a 1048,58, −2097,15, ... en la vigésima iteración. Esta falta de convergencia no se contradice con la teoría analítica, ya que en este caso f no es diferenciable en su raíz.

En el ejemplo anterior, la falta de convergencia se refleja en el hecho de que f ( x n ) no se acerca a cero a medida que n aumenta, así como en el hecho de que las iteraciones sucesivas se separan cada vez más. Sin embargo, la función f ( x ) = x 1/3 e x 2 también tiene una raíz en 0. La iteración de Newton viene dada por

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=incógnitanorte(1316incógnitanorte2).{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}=x_{n}\left(1-{\frac {3}{1-6x_{n}^{2}}}\right).}

En este ejemplo, donde nuevamente f no es diferenciable en la raíz, cualquier iteración de Newton que no comience exactamente en la raíz divergirá, pero tanto x n + 1x n como f ( x n ) convergerán a cero. [ 15 ] Esto se observa en la siguiente tabla que muestra las iteraciones con inicialización 1:

Aunque la convergencia de x n + 1x n en este caso no es muy rápida, se puede demostrar a partir de la fórmula de iteración. Este ejemplo pone de manifiesto la posibilidad de que un criterio de parada para el método de Newton basado únicamente en la pequeñez de x n + 1x n y f ( x n ) pueda identificar erróneamente una raíz.

Comportamiento oscilatorio

Las líneas tangentes de 2x + 2 en 0 y 1 intersecan el eje x en 1 y 0 respectivamente, lo que ilustra por qué el método de Newton oscila entre estos valores para algunos puntos de partida.

Es fácil encontrar situaciones en las que el método de Newton oscila infinitamente entre dos valores distintos. Por ejemplo, para que el método de Newton aplicado a una función f oscile entre 0 y 1, basta con que la recta tangente a f en 0 interseque el eje x en 1 y que la recta tangente a f en 1 interseque el eje x en 0. [ 15 ] Este es el caso, por ejemplo, si f ( x ) = x 3 − 2 x + 2 . Para esta función, incluso se da el caso de que la iteración de Newton, inicializada suficientemente cerca de 0 o 1, oscile asintóticamente entre estos valores. Por ejemplo, el método de Newton, inicializado en 0,99, produce las siguientes iteraciones: 0,99, -0,06317, 1,00628, 0,03651, 1,00196, 0,01162, 1,00020, 0,00120, 1,000002, etc. Este comportamiento se observa a pesar de la presencia de una raíz de f aproximadamente igual a -1,76929.

Indefinición del método de Newton

En algunos casos, ni siquiera es posible realizar la iteración de Newton. Por ejemplo, si f ( x ) = x 2 − 1 , entonces la iteración de Newton se define por

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=incógnitanorteincógnitanorte212incógnitanorte=incógnitanorte2+12incógnitanorte.{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}=x_{n}-{\frac {x_{n}^{2}-1}{2x_{n}}}={\frac {x_{n}^{2}+1}{2x_{n}}}.}

Por lo tanto, el método de Newton no puede inicializarse en 0, ya que esto haría que x 1 no estuviera definido. Geométricamente, esto se debe a que la línea tangente a f en 0 es horizontal (es decir, f ′(0) = 0 ), y nunca interseca el eje x .

Aunque la inicialización se seleccione de forma que pueda comenzar la iteración de Newton, el mismo fenómeno puede impedir que la iteración continúe indefinidamente.

Si f tiene un dominio incompleto, es posible que el método de Newton envíe las iteraciones fuera del dominio, de modo que sea imposible continuar la iteración. [ 15 ] Por ejemplo, la función logaritmo natural f ( x ) = ln x tiene una raíz en 1 y está definida solo para x positivo . La iteración de Newton en este caso viene dada por

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=incógnitanorte(1lnincógnitanorte).{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}=x_{n}(1-\ln x_{n}).}

Si la iteración se inicializa en e , la siguiente iteración será 0; si se inicializa con un valor mayor que e , la siguiente iteración será negativa. En ambos casos, el método no puede continuar.

Análisis

Supongamos que la función f tiene un cero en α , es decir, f ( α ) = 0 , y f es diferenciable en un entorno de α .

Si f es continuamente diferenciable y su derivada es distinta de cero en α , entonces existe un entorno de α tal que para todos los valores iniciales x 0 en ese entorno, la sucesión ( x n ) convergerá a α . [ 16 ] 

Si f es continuamente diferenciable, su derivada es distinta de cero en α y tiene una segunda derivada en α , entonces la convergencia es cuadrática o más rápida. Si la segunda derivada no es cero en α, entonces la convergencia es simplemente cuadrática. Si la tercera derivada existe y está acotada en un entorno de α , entonces:  

Δincógnitai+1=F(α)2F(α)(Δincógnitai)2+O(Δincógnitai)3,{\displaystyle \Delta x_{i+1}={\frac {f''(\alpha )}{2f'(\alpha )}}\left(\Delta x_{i}\right)^{2}+O\left(\Delta x_{i}\right)^{3}\,,}

dónde

Δincógnitaiincógnitaiα.{\displaystyle \Delta x_{i}\triangleq x_{i}-\alpha \,.}

Si la derivada es 0 en α , entonces la convergencia suele ser solo lineal. Específicamente, si f es dos veces continuamente diferenciable, f ( α ) = 0 y f ( α ) ≠ 0 , entonces existe un entorno de α tal que, para todos los valores iniciales x 0 en ese entorno, la secuencia de iteraciones converge linealmente, con tasa 1 / 2 . [ 17 ] Alternativamente, si f ( α ) = 0 y f ( x ) ≠ 0 para xα , x en un entorno U de α , siendo α un cero de multiplicidad r , y si fC r ( U ) , entonces existe un entorno de α tal que, para todos los valores iniciales x 0 en ese entorno, la secuencia de iteraciones converge linealmente. 

Sin embargo, ni siquiera la convergencia lineal está garantizada en situaciones patológicas.

En la práctica, estos resultados son locales y el entorno de convergencia no se conoce de antemano. Pero también hay algunos resultados sobre convergencia global: por ejemplo, dado un entorno derecho U + de α , si f es dos veces diferenciable en U + y si f ≠ 0 , f · f > 0 en U + , entonces, para cada x 0 en U + la secuencia x k es monótonamente decreciente a α .

Demostración de la convergencia cuadrática para el método iterativo de Newton.

Según el teorema de Taylor , cualquier función f ( x ) que tenga una segunda derivada continua puede representarse mediante un desarrollo en serie alrededor de un punto cercano a una raíz de f ( x ) . Supongamos que esta raíz es α . Entonces, el desarrollo en serie de f ( α ) alrededor de xⁿ es :

donde la forma lagrangiana del resto de la expansión de la serie de Taylor es

R1=12¡F(ξnorte)(αincógnitanorte)2,{\displaystyle R_{1}={\frac {1}{2!}}f''(\xi _{n})\left(\alpha -x_{n}\right)^{2}\,,}

donde ξ n está entre x n y α .

Dado que α es la raíz, ( 1 ) se convierte en:

Dividiendo la ecuación ( 2 ) por f ' ( xn ) y reordenando se obtiene

Recordando que x n + 1 se define por

uno descubre que

αincógnitanorte+1εnorte+1=F(ξnorte)2F(incógnitanorte)(αincógnitanorteεnorte)2.{\displaystyle \underbrace {\alpha -x_{n+1}} _{\varepsilon _{n+1}}={\frac {-f''(\xi _{n})}{2f'(x_{n})}}{(\,\underbrace {\alpha -x_{n}} _{\varepsilon _{n}}\,)}^{2}\,.}

Eso es,

Tomando el valor absoluto de ambos lados se obtiene

La ecuación ( 6 ) muestra que el orden de convergencia es al menos cuadrático si se cumplen las siguientes condiciones:

  1. f ( x ) ≠ 0 ; para todo xI , donde I es el intervalo [ α| ε 0 | , α + | ε 0 | ] ;
  2. f ( x ) es continua, para todo xI ;
  3. M | ε 0 | < 1

donde M viene dado por

METRO=12(sorberincógnitaI|F(incógnita)|)(sorberincógnitaI1|F(incógnita)|).{\displaystyle M={\frac {1}{2}}\left(\sup _{x\in I}\vert f''(x)\vert \right)\left(\sup _{x\in I}{\frac {1}{\vert f'(x)\vert }}\right).\,}

Si se cumplen estas condiciones,

|εnorte+1|METROεnorte2.{\displaystyle \vert \varepsilon _{n+1}\vert \leq M\cdot \varepsilon _{n}^{2}\,.}

condiciones de Fourier

Supongamos que f ( x ) es una función cóncava en un intervalo, estrictamente creciente . Si es negativa en el extremo izquierdo y positiva en el extremo derecho, el teorema del valor intermedio garantiza que existe un cero ζ de f en algún punto del intervalo. A partir de principios geométricos, se puede ver que la iteración de Newton xᵢ que comienza en el extremo izquierdo es monótonamente creciente y converge, necesariamente a ζ . [ 18 ]

Joseph Fourier introdujo una modificación del método de Newton comenzando en el extremo derecho:

yi+1=yiF(yi)F(incógnitai).{\displaystyle y_{i+1}=y_{i}-{\frac {f(y_{i})}{f'(x_{i})}}.}

Esta sucesión es monótonamente decreciente y convergente. Al pasar al límite en esta definición, se puede ver que el límite de y i también debe ser el cero ζ . [ 18 ]

Así pues, en el caso de una función cóncava creciente con un cero, la inicialización es en gran medida irrelevante. La iteración de Newton que comience en cualquier punto a la izquierda del cero convergerá, al igual que la iteración de Newton modificada de Fourier que comience en cualquier punto a la derecha del cero. La precisión en cualquier paso de la iteración se puede determinar directamente a partir de la diferencia entre la posición de la iteración desde la izquierda y la posición de la iteración desde la derecha. Si f es dos veces continuamente diferenciable, se puede demostrar utilizando el teorema de Taylor que

límiteiyi+1incógnitai+1(yiincógnitai)2=12F(ζ)F(ζ),{\displaystyle \lim _{i\to \infty }{\frac {y_{i+1}-x_{i+1}}{(y_{i}-x_{i})^{2}}}=-{\frac {1}{2}}{\frac {f''(\zeta )}{f'(\zeta )}},}

demostrando que esta diferencia en las ubicaciones converge cuadráticamente a cero. [ 18 ]

Todo lo anterior puede extenderse a sistemas de ecuaciones con múltiples variables, aunque en ese contexto los conceptos relevantes de monotonicidad y concavidad son más sutiles de formular. [ 19 ] En el caso de ecuaciones simples con una sola variable, la convergencia monótona del método de Newton también puede generalizarse para reemplazar la concavidad por condiciones de positividad o negatividad en una derivada arbitraria de orden superior de f . Sin embargo, en esta generalización, la iteración de Newton se modifica para basarse en polinomios de Taylor en lugar de la recta tangente . En el caso de la concavidad, esta modificación coincide con el método de Newton estándar. [ 20 ]

Error para n>1 variables

Si buscamos la raíz de una sola funciónF:RnorteR{\displaystyle f:\mathbf {R} ^{n}\to \mathbf {R} } entonces el errorϵnorte=incógnitanorteα{\displaystyle \epsilon _{n}=x_{n}-\alpha }es un vector tal que sus componentes obedecenϵk(norte+1)=12(ϵ(norte))TQkϵ(norte)+O(ϵ(norte)3){\displaystyle \epsilon _{k}^{(n+1)}={\frac {1}{2}}(\epsilon ^{(n)})^{T}Q_{k}\epsilon ^{(n)}+O(\|\epsilon ^{(n)}\|^{3})}dóndeQk{\displaystyle Q_{k}}es una forma cuadrática: (Qk)i,j=((D2F)1)i,3Fincógnitajincógnitakincógnita{\displaystyle (Q_{k})_{i,j}=\sum _{\ell }((D^{2}f)^{-1})_{i,\ell }{\frac {\partial ^{3}f}{\partial x_{j}\partial x_{k}\partial x_{\ell }}}} evaluado en la raízα{\displaystyle \alpha } (dóndeD2F{\displaystyle D^{2}f}es la matriz hessiana de segunda derivada).

Ejemplos

Uso del método de Newton para calcular raíces cuadradas

El método de Newton es uno de los muchos métodos conocidos para calcular raíces cuadradas . Dado un número positivo a , el problema de encontrar un número x tal que = a es equivalente a encontrar una raíz de la función f ( x ) = a . La iteración de Newton definida por esta función viene dada por [ 21 ] .

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=incógnitanorteincógnitanorte2a2incógnitanorte=12(incógnitanorte+aincógnitanorte){\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}=x_{n}-{\frac {x_{n}^{2}-a}{2x_{n}}}={\frac {1}{2}}\left(x_{n}+{\frac {a}{x_{n}}}\right)}.

Esto coincide con el método "babilónico" para hallar raíces cuadradas , que consiste en reemplazar una raíz aproximada x n por la media aritmética de x n y ax n . Al realizar esta iteración, es posible calcular una raíz cuadrada con la precisión deseada utilizando únicamente las operaciones aritméticas básicas .

Las siguientes tres tablas muestran ejemplos del resultado de este cálculo para hallar la raíz cuadrada de 612, con la iteración inicializada en los valores 1, 10 y −20. Cada fila en una columna " x n " se obtiene aplicando la fórmula anterior a la entrada que se encuentra encima, por ejemplo

306.5=12(1+6121).{\displaystyle 306.5={\frac {1}{2}}\left(1+{\frac {612}{1}}\right).}

Los dígitos correctos están subrayados. Se observa que con solo unas pocas iteraciones se puede obtener una solución con una precisión de muchas cifras decimales. La primera tabla muestra que esto es cierto incluso si la iteración de Newton se inicializó con la estimación muy imprecisa de 1 .

Al calcular cualquier raíz cuadrada distinta de cero, la primera derivada de f debe ser distinta de cero en la raíz, y f debe ser una función suave. Por lo tanto, incluso antes de cualquier cálculo, se sabe que cualquier iteración de Newton convergente tiene una tasa de convergencia cuadrática. Esto se refleja en las tablas anteriores en el hecho de que, una vez que una iteración de Newton se acerca a la raíz, el número de dígitos correctos se duplica aproximadamente con cada iteración.

Solución de cos( x ) = utilizando el método de Newton .

Consideremos el problema de encontrar el número positivo x tal que cos( x ) = . Podemos reformularlo como encontrar el cero de f ( x ) = cos( x ) - . Tenemos f ' ( x ) = -sin ( x ) - 3x² . Dado que cos( x ) ≤ 1 para todo x y > 1 para x > 1 , sabemos que nuestra solución se encuentra entre 0 y 1.

Un valor inicial de 0 dará como resultado un resultado indefinido, lo que ilustra la importancia de usar un punto de partida cercano a la solución. Por ejemplo, con una estimación inicial x₀ = 0,5 , la secuencia dada por el método de Newton es:

incógnita1=incógnita0F(incógnita0)F(incógnita0)=0,5porque0,50,53pecado0,53×0,52=1.112141637097incógnita2=incógnita1F(incógnita1)F(incógnita1)==0._909672693736incógnita3===0,86_7263818209incógnita4===0,86547_7135298incógnita5===0,8654740331_11incógnita6===0,865474033102_{\displaystyle {\begin{matrix}x_{1}&=&x_{0}-{\dfrac {f(x_{0})}{f'(x_{0})}}&=&0.5-{\dfrac {\cos 0.5-0.5^{3}}{-\sin 0.5-3\times 0.5^{2}}}&=&1.112\,141\,637\,097\dots \\x_{2}&=&x_{1}-{\dfrac {f(x_{1})}{f'(x_{1})}}&=&\vdots &=&{\underline {0.}}909\,672\,693\,736\dots \\x_{3}&=&\vdots &=&\vdots &=&{\underline {0.86}}7\,263\,818\,209\dots \\x_{4}&=&\vdots &=&\vdots &=&{\underline {0.865\,47}}7\,135\,298\dots \\x_{5}&=&\vdots &=&\vdots &=&{\underline {0.865\,474\,033\,1}}11\dots \\x_{6}&=&\vdots &=&\vdots &=&{\underline {0.865\,474\,033\,102}}\dots \end{matrix}}}

En el ejemplo anterior, los dígitos correctos están subrayados. En particular, x 6 es correcto hasta la 12 cifra decimal. Observamos que el número de dígitos correctos después del punto decimal aumenta de 2 (para x 3 ) a 5 y 10, lo que ilustra la convergencia cuadrática.

Formulaciones multidimensionales

Sistemas de ecuaciones

k variables, k funciones

También se puede utilizar el método de Newton para resolver sistemas de k ecuaciones, lo que equivale a encontrar los ceros (simultáneos) de k funciones continuamente diferenciables.F:RkR.{\displaystyle f:\mathbb {R} ^{k}\to \mathbb {R} .}Esto equivale a encontrar los ceros de una única función vectorial.F:RkRk.{\displaystyle F:\mathbb {R} ^{k}\to \mathbb {R} ^{k}.}En la formulación dada anteriormente, los escalares x n se reemplazan por vectores x n y, en lugar de dividir la función f ( x n ) por su derivada f ( x n ), se debe multiplicar por la izquierda la función F ( x n ) por la inversa de su matriz jacobiana k × k J F ( x n ) . [ 22 ] [ 23 ] [ 24 ] Esto da como resultado la expresión

incógnitanorte+1=incógnitanorteJF(incógnitanorte)1F(incógnitanorte).{\displaystyle \mathbf {x} _{n+1}=\mathbf {x} _{n}-J_{F}(\mathbf {x} _{n})^{-1}F(\mathbf {x} _{n}).}

o bien, resolviendo el sistema de ecuaciones lineales

JF(incógnitanorte)(incógnitanorte+1incógnitanorte)=F(incógnitanorte){\displaystyle J_{F}(\mathbf {x} _{n})(\mathbf {x} _{n+1}-\mathbf {x} _{n})=-F(\mathbf {x} _{n})}

para la desconocida x n + 1x n . [ 25 ]

k variables, m ecuaciones, con m > k

La variante k -dimensional del método de Newton también puede utilizarse para resolver sistemas de ecuaciones no lineales (de más de k ecuaciones) si el algoritmo emplea la inversa generalizada de la matriz jacobiana no cuadrada J + = ( J T J ) −1 J T en lugar de la inversa de J . Si el sistema no lineal no tiene solución, el método intenta encontrar una solución en el sentido de mínimos cuadrados no lineales . Consulte el algoritmo de Gauss-Newton para obtener más información.

Ejemplo

El cartón de leche que se va a construir

Se va a construir un cartón de leche [ 26 ] con una capacidad de 2 pintas a partir de una lámina de cartón encerado con un solapamiento de 5 mm. El requisito es que se utilice la superficie mínima para el cartón.

Supongamos que el ancho, la anchura y la altura de la caja se denotan porw{\displaystyle w},b{\displaystyle b}yh{\displaystyle h}respectivamente, en milímetros. El área total de la superficie,A{\displaystyle A}, se da por

A=(2b+2w+5)(h+b+10).{\displaystyle A=(2b+2w+5)(h+b+10).}

El cartón de leche se abrió mostrando todas las medidas.

Dado que 2 pintas son aproximadamente 1,136 litros, y 1 litro es1.000.000metrometro3{\displaystyle 1000000mm^{3}}De ello también se deduce que

hbw=1136000.{\displaystyle hbw=1136000.}

Resolver paraw{\displaystyle w}da

w=1.136.000hb.{\displaystyle w={\frac {1136000}{hb}}.}

Alquilerincógnita=[b,h]R2{\displaystyle \mathbf {x} =\left[b,h\right]\in {\mathbb {R} }^{2}}sea ​​el vector de dos incógnitas,b{\displaystyle b}yh{\displaystyle h}, entonces el área de la superficie se puede expresar como

A(incógnita)=(h+b+10)(2272000hb+2b+5).{\displaystyle A(\mathbf {x} )=(h+b+10)\left({\frac {2272000}{hb}}+2b+5\right).}

La minimización de esta función implica igualar a cero sus derivadas parciales , lo que da como resultado

Ab=2272000hb+2b+5+(h+b+10)(2272000hb2+2)=0{\displaystyle {\frac {\partial A}{\partial b}}={\frac {2272000}{hb}}+2b+5+(h+b+10)\left({\frac {-2272000}{hb^{2}}}+2\right)=0}

y

Ah=2272000hb+2b+5(h+b+10)(2272000h2b)=0.{\displaystyle {\frac {\partial A}{\partial h}}={\frac {2272000}{hb}}+2b+5-(h+b+10)\left({\frac {2272000}{h^{2}b}}\right)=0.}

Para simplificar la notación, sea

F1(incógnita)=Ab{\displaystyle f_{1}(\mathbf {x} )={\frac {\partial A}{\partial b}}}

y

F2(incógnita)=Ah.{\displaystyle f_{2}(\mathbf {x} )={\frac {\partial A}{\partial h}}.}

El vector de funciónF(incógnita){\displaystyle \mathbf {F} (\mathbf {x} )}es por lo tanto

F(incógnita)=[ F1(incógnita) F2(incógnita)] = [ 2272000hb+2b+5+(h+b+10)(2272000hb2+2) 2272000hb+2b+5(h+b+10)(2272000h2b)]{\displaystyle \mathbf {F} (\mathbf {x} )={\begin{bmatrix}{\begin{aligned}~&f_{1}(\mathbf {x} )\\~&f_{2}(\mathbf {x} )\end{aligned}}\end{bmatrix}}~=~{\begin{bmatrix}{\begin{aligned}~&{\frac {2272000}{hb}}+2b+5+(h+b+10)\left({\frac {-2272000}{hb^{2}}}+2\right)\\~&{\frac {2272000}{hb}}+2b+5-(h+b+10)\left({\frac {2272000}{h^{2}b}}\right)\end{aligned}}\end{bmatrix}}}

y matriz jacobianaJ(incógnita){\displaystyle \mathbf {J} (\mathbf {x} )}es

J(incógnita)=[  F1 b   F1 h   F2 b   F2 h ] = [ 4544000b3+45440000hb3+4 22720000h2b2+2 22720000h2b2+2 4544000h3+45440000bh3].{\displaystyle {\begin{aligned}\mathbf {J} (\mathbf {x} )={\begin{bmatrix}~{\frac {\ \partial {f_{1}}\ }{\partial {b}}}\ &~{\frac {\ \partial {f_{1}}\ }{\partial {h}}}~\\~{\frac {\ \partial {f_{2}}\ }{\partial {b}}}\ &~{\frac {\ \partial {f_{2}}\ }{\partial {h}}}~\end{bmatrix}}~=~{\begin{bmatrix}{\begin{aligned}~&{\frac {4544000}{b^{3}}}+{\frac {45440000}{hb^{3}}}+4\ &&{\frac {22720000}{h^{2}b^{2}}}+2\\~&{\frac {22720000}{h^{2}b^{2}}}+2\ &&{\frac {4544000}{h^{3}}}+{\frac {45440000}{bh^{3}}}\end{aligned}}\end{bmatrix}}.\end{aligned}}}

Aplicando el método de Newton con una estimación inicialincógnita0=[100,100]{\displaystyle \mathbf {x} _{0}=\left[100,100\right]}y con un criterio de parada de incógnitaiincógnitai12<106{\displaystyle \|\ \mathbf {x} _{i}-\mathbf {x} _{i-1}\|_{2}<10^{-6}}da las siguientes iteraciones:

Representación gráfica de la función de área superficial, mostrando el punto mínimo.

Para demostrar queincógnita8=[65.67176536,138.5684895]{\displaystyle \mathbf {x} _{8}=\left[65.67176536,138.5684895\right]}minimizaA(incógnita){\displaystyle A(\mathbf {x} )}, basta con demostrar que su matriz hessiana es definida positiva. En este caso, la matriz hessiana es simplemente

J(incógnita8)[ 20.15939696 2.27436075  2.27436075 1.9678865 ].{\displaystyle \mathbf {J} (\mathbf {x} _{8})\approx {\begin{bmatrix}~20.15939696&~2.27436075~\\~2.27436075&~1.9678865~\end{bmatrix}}.}

El polinomio característico de esta matriz es

λ222.12728346λ+34.49868830=0{\displaystyle \lambda ^{2}-22.12728346\lambda +34.49868830=0}.

Aplicando la fórmula cuadrática se obtienen los dos autovalores como

λ1=22.12728346+351.62192220.43943{\displaystyle \lambda _{1}={\frac {22.12728346+{\sqrt {351.62192}}}{2}}\approx 20.43943}

y

λ2=22.12728346351.6219221.68784.{\displaystyle \lambda _{2}={\frac {22.12728346-{\sqrt {351.62192}}}{2}}\approx 1.68784.}

Dado que todos los valores propios son positivos,J(incógnita8){\displaystyle \mathbf {J} (\mathbf {x} _{8})}es definida positiva y, por lo tanto,incógnita8{\displaystyle \mathbf {x} _{8}}es un mínimo.

Funciones complejas

Cuencas de atracción para x 5 − 1 = 0 ; un color más oscuro significa más iteraciones para converger.

Al trabajar con funciones complejas , el método de Newton se puede aplicar directamente para hallar sus ceros. [ 27 ] Cada cero tiene una cuenca de atracción en el plano complejo, el conjunto de todos los valores iniciales que hacen que el método converja a ese cero en particular. Estos conjuntos se pueden representar como en la imagen mostrada. Para muchas funciones complejas, los límites de las cuencas de atracción son fractales .

En algunos casos, existen regiones en el plano complejo que no pertenecen a ninguna de estas cuencas de atracción, lo que significa que las iteraciones no convergen. Por ejemplo, [ 28 ] si se utiliza una condición inicial real para buscar una raíz de + 1 , todas las iteraciones subsiguientes serán números reales y, por lo tanto, las iteraciones no pueden converger a ninguna de las raíces, ya que ambas son no reales. En este caso, casi todas las condiciones iniciales reales conducen a un comportamiento caótico , mientras que algunas condiciones iniciales iteran hasta el infinito o a ciclos repetitivos de cualquier longitud finita.

Curt McMullen ha demostrado que para cualquier posible algoritmo puramente iterativo similar al método de Newton, el algoritmo divergirá en algunas regiones abiertas del plano complejo cuando se aplique a algún polinomio de grado 4 o superior. Sin embargo, McMullen proporcionó un algoritmo generalmente convergente para polinomios de grado 3. [ 29 ] Además, Hubbard, Schleicher y Sutherland construyeron un conjunto universal de puntos de partida para el método de Newton: para cada grado d , existe un conjunto explícitamente construible de aproximadamente 1,11 d (log d ) 2 puntos tales que, para cualquier polinomio de grado d debidamente normalizado , cada raíz se encuentra mediante la iteración de Newton iniciada desde al menos un punto del conjunto. [ 30 ] [ 31 ]

En un espacio Banach

Otra generalización es el método de Newton para encontrar una raíz de un funcional F definido en un espacio de Banach . En este caso, la formulación es

incógnitanorte+1=incógnitanorte(F(incógnitanorte))1F(incógnitanorte),{\displaystyle X_{n+1}=X_{n}-{\bigl (}F'(X_{n}){\bigr )}^{-1}F(X_{n}),\,}

donde F ( X n ) es la derivada de Fréchet calculada en X n . Para que el método sea aplicable, es necesario que la derivada de Fréchet sea invertible acotadamente en cada X n . El teorema de Newton-Kantorovich proporciona una condición para la existencia y convergencia a una raíz . [ 32 ]

Iteración de Nash-Moser

En la década de 1950, John Nash desarrolló una versión del método de Newton para aplicarla al problema de construir incrustaciones isométricas de variedades riemannianas generales en el espacio euclidiano . El problema de la pérdida de derivadas , presente en este contexto, hacía inaplicable la iteración estándar de Newton, ya que no podía continuarse indefinidamente (y mucho menos converger). La solución de Nash implicó la introducción de operadores de suavizado en la iteración. Logró demostrar la convergencia de su método de Newton suavizado, con el fin de probar un teorema de función implícita para incrustaciones isométricas. En la década de 1960, Jürgen Moser demostró que los métodos de Nash eran lo suficientemente flexibles como para aplicarse a problemas más allá de las incrustaciones isométricas, particularmente en mecánica celeste . Desde entonces, varios matemáticos, entre ellos Mikhael Gromov y Richard Hamilton , han encontrado versiones abstractas generalizadas de la teoría de Nash-Moser. [ 33 ] [ 34 ] En la formulación de Hamilton, el teorema de Nash-Moser constituye una generalización del método de Newton del espacio de Banach que tiene lugar en ciertos espacios de Fréchet .

Modificaciones

Métodos cuasi-Newton

Cuando el jacobiano no está disponible o su cálculo en cada iteración resulta demasiado costoso, se puede utilizar un método cuasi-Newton .

Método de tercer orden de Chebyshev

Dado que las expansiones de Taylor de orden superior ofrecen aproximaciones locales más precisas de una función f , es razonable preguntarse por qué el método de Newton se basa únicamente en una aproximación de Taylor de segundo orden. En el siglo XIX, el matemático ruso Pafnuty Chebyshev exploró esta idea desarrollando una variante del método de Newton que utilizaba aproximaciones cúbicas. [ 35 ] [ 36 ] [ 37 ]

Sobre números p -ádicos

En el análisis p -ádico, el método estándar para demostrar que una ecuación polinómica de una variable tiene una raíz p -ádica es el lema de Hensel , que utiliza la recursión del método de Newton en los números p -ádicos. Debido al comportamiento más estable de la suma y la multiplicación en los números p -ádicos en comparación con los números reales (específicamente, la bola unitaria en los números p -ádicos es un anillo), la convergencia en el lema de Hensel puede garantizarse bajo hipótesis mucho más simples que en el método clásico de Newton en la recta real.

q -analógico

El método de Newton puede generalizarse con el análogo q de la derivada usual. [ 38 ]

Métodos de Newton modificados

Procedimiento de Maehly

Una ecuación no lineal tiene múltiples soluciones en general. Pero si el valor inicial no es apropiado, el método de Newton puede no converger a la solución deseada o puede converger a la misma solución encontrada anteriormente. Cuando ya hemos encontrado N soluciones deF(incógnita)=0{\displaystyle f(x)=0}, entonces la siguiente raíz se puede encontrar aplicando el método de Newton a la siguiente ecuación: [ 39 ] [ 40 ]

F(incógnita)=F(incógnita)i=1norte(incógnitaincógnitai)=0.{\displaystyle F(x)={\frac {f(x)}{\prod _{i=1}^{N}(x-x_{i})}}=0.}

Este método se aplica para obtener los ceros de la función de Bessel de segundo tipo. [ 41 ]

Método de Newton modificado de Hirano

El método de Newton modificado de Hirano es una modificación que conserva la convergencia del método de Newton y evita la inestabilidad. [ 42 ] Se desarrolló para resolver polinomios complejos.

Método de Newton por intervalos

La combinación del método de Newton con la aritmética de intervalos resulta muy útil en algunos contextos. Esto proporciona un criterio de parada más fiable que los habituales (que consisten en un valor pequeño de la función o una pequeña variación de la variable entre iteraciones consecutivas). Además, permite detectar casos en los que el método de Newton converge teóricamente pero diverge numéricamente debido a una precisión de punto flotante insuficiente (esto suele ocurrir con polinomios de alto grado, donde un cambio muy pequeño de la variable puede alterar drásticamente el valor de la función; véase el polinomio de Wilkinson ). [ 43 ] [ 44 ]

Consideremos fC 1 ( X ) , donde X es un intervalo real, y supongamos que tenemos una extensión de intervalo F de f , lo que significa que F toma como entrada un intervalo YX y produce como salida un intervalo F ( Y ) tal que:

F([y,y])={F(y)}F(Y){F(y)yY}.{\displaystyle {\begin{aligned}F'([y,y])&=\{f'(y)\}\\[5pt]F'(Y)&\supseteq \{f'(y)\mid y\in Y\}.\end{aligned}}}

También suponemos que 0 ∉ F ( X ) , por lo que en particular f tiene como máximo una raíz en X . A continuación, definimos el operador de Newton de intervalo mediante:

norte(Y)=metroF(metro)F(Y)={metroF(metro)z | zF(Y)}{\displaystyle N(Y)=m-{\frac {f(m)}{F'(Y)}}=\left\{\left.m-{\frac {f(m)}{z}}~\right|~z\in F'(Y)\right\}}

donde mY. Nótese que la hipótesis sobre F implica que N ( Y ) está bien definido y es un intervalo (véase aritmética de intervalos para más detalles sobre operaciones con intervalos). Esto conduce naturalmente a la siguiente secuencia:

incógnita0=incógnitaincógnitak+1=norte(incógnitak)incógnitak.{\displaystyle {\begin{aligned}X_{0}&=X\\X_{k+1}&=N(X_{k})\cap X_{k}.\end{aligned}}}

El teorema del valor medio asegura que si hay una raíz de f en X k , entonces también está en X k + 1 . Además, la hipótesis sobre F′ asegura que X k + 1 es como máximo la mitad del tamaño de X k cuando m es el punto medio de Y , por lo que esta secuencia converge hacia [ x* , x* ] , donde x* es la raíz de f en X .

Si F ( X ) contiene estrictamente 0, el uso de la división de intervalos extendida produce una unión de dos intervalos para N ( X ) ; por lo tanto, las raíces múltiples se separan y acotan automáticamente.

Aplicaciones

Problemas de minimización y maximización

El método de Newton se puede utilizar para encontrar un mínimo o un máximo de una función f ( x ) . La derivada es cero en un mínimo o un máximo, por lo que se pueden encontrar mínimos y máximos locales aplicando el método de Newton a la derivada. [ 45 ] La iteración se convierte en:

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte).{\displaystyle x_{n+1}=x_{n}-{\frac {f'(x_{n})}{f''(x_{n})}}.}

Inversos multiplicativos de números y series de potencias

Una aplicación importante es la división de Newton-Raphson , que se puede usar para encontrar rápidamente el recíproco de un número a , usando solo multiplicación y resta, es decir, el número x tal que 1 / x = a . Podemos reformularlo como encontrar el cero de f ( x ) = 1 / x - a . Tenemos f ' ( x ) = -1 / .

La iteración de Newton es

incógnitanorte+1=incógnitanorteF(incógnitanorte)F(incógnitanorte)=incógnitanorte+1incógnitanortea1incógnitanorte2=incógnitanorte(2aincógnitanorte).{\displaystyle x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}=x_{n}+{\frac {{\frac {1}{x_{n}}}-a}{\frac {1}{x_{n}^{2}}}}=x_{n}(2-ax_{n}).}

Por lo tanto, la iteración de Newton solo necesita dos multiplicaciones y una resta.

Este método también es muy eficiente para calcular el inverso multiplicativo de una serie de potencias .

Resolución de ecuaciones trascendentales

Muchas ecuaciones trascendentales pueden resolverse con una precisión arbitraria mediante el método de Newton. Por ejemplo, hallar la función de densidad de probabilidad acumulada , como una distribución normal que se ajuste a una probabilidad conocida, generalmente implica funciones integrales sin un método conocido para resolverlas en forma cerrada. Sin embargo, el cálculo de las derivadas necesarias para resolverlas numéricamente con el método de Newton suele ser conocido, lo que permite obtener soluciones numéricas. Como ejemplo, véase la solución numérica de la distribución acumulada normal inversa .

Verificación numérica para soluciones de ecuaciones no lineales

Se ha establecido una verificación numérica para soluciones de ecuaciones no lineales mediante el uso repetido del método de Newton y la formación de un conjunto de soluciones candidatas.

Algoritmo

El siguiente pseudocódigo describe una posible implementación del método de Newton.

Entrada: Función de valor real, f. La derivada de la función, f′. Una estimación inicial de la raíz, x0. La tolerancia requerida, TOL. El número máximo de iteraciones, MAX_IT. El número más pequeño por el que deseamos dividir, ε Salida: Un valor x tal que f ( x ) ≈ 0 xx0 para i ← 1 hasta MAX_IT hacer si | f′ ( x )| < ε entonces imprimir ("La derivada está demasiado cerca de cero.") retornar fin si xNuevox - f ( x ) / f′ ( x ) si | xNuevo - x | < TOL entonces retornar xNuevo fin si xxNuevo fin para imprimir ("No se encontró solución.")

Véase también

Notas

  1. Fowler, David; Robson, Eleanor (1998). "Aproximaciones de raíz cuadrada en las matemáticas babilónicas antiguas: YBC 7289 en contexto" . Historia Mathematica . 25 (4): 366–378 . doi : 10.1006/hmat.1998.2209 .
  2. 1 2 3 Ypma, Tjalling J. (1995). "Desarrollo histórico del método Newton-Raphson" . SIAM Review . 37 (4): 531– 551. doi : 10.1137/1037125 . ISSN 0036-1445 . JSTOR 2132904 .  
  3. 1 2 Md Sarowar Morshed (2022). "Método de Newton aumentado para optimización: interpretación de la tasa lineal global y el momento". arXiv : 2205.11033 [ math.OC ].
  4. 1 2 Cajori, Florian (1911). "Nota histórica sobre el método de aproximación de Newton-Raphson" . The American Mathematical Monthly . 18 (2): 29– 32. doi : 10.2307/2973939 . ISSN 0002-9890 . JSTOR 2973939 .  
  5. Guicciardini, Niccolò (2009). Isaac Newton sobre la certeza matemática y el método . Transformaciones. Cambridge, Mass: MIT Press . pp. 158–159 . ISBN  978-0-262-01317-8OCLC 282968643 
  6. Ypma, Tjalling J. (1995). "Desarrollo histórico del método Newton-Raphson" . SIAM Review . 37 (4): 531– 551. doi : 10.1137/1037125 . ISSN 0036-1445 . JSTOR 2132904 .  
  7. "Takakazu Seki - Biografía" . Historia de las Matemáticas . Consultado el 27 de noviembre de 2024 .
  8. Wallis, John (1685). Un tratado de álgebra, tanto histórico como práctico . Oxford: Richard Davis. doi : 10.3931/e-rara-8842 .
  9. ^ Raphson, José (1697). Análisis Æequationum Universalis (en latín) (2ª ed.). Londres: Thomas Bradyll. doi : 10.3931/e-rara-13516 . 
  10. "Métodos Newton acelerados y modificados" . Archivado del original el 24 de mayo de 2019. Consultado el 4 de marzo de 2016 .
  11. 1 2 J. E. Dennis, Jr. y Robert B. Schnabel. Métodos numéricos para optimización sin restricciones y ecuaciones no lineales. SIAM
  12. Anthony Ralston y Philip Rabinowitz. Un primer curso de análisis numérico, segunda edición.
  13. Yuri Nesterov. Lecciones sobre optimización convexa, segunda edición. Springer Optimization and its Applications, Volumen 137.
  14. Süli y Mayers 2003 .
  15. 1 2 3 Kenneth L. Judd. Métodos numéricos en economía. MIT Press
  16. Ryaben'kii, Victor S.; Tsynkov, Semyon V. (2006), A Theoretical Introduction to Numerical Analysis , CRC Press, p. 243, ISBN  9781584886075.
  17. Süli & Mayers 2003 , Ejercicio 1.6
  18. 1 2 3 Ostrowski, AM (1973). Solución de ecuaciones en espacios euclidianos y de Banach . Matemáticas puras y aplicadas. Vol. 9 (Tercera edición de la edición original de 1960 ). Nueva York-Londres: Academic Press . MR 0359306. Zbl 0304.65002 .    
  19. Ortega y Rheinboldt, Sección 13.3
  20. Traub, JF (1964). Métodos iterativos para la solución de ecuaciones . Prentice-Hall Series in Automatic Computation. Englewood Cliffs, NJ: Prentice-Hall, Inc. MR 0169356 . Zbl 0121.11204 .  
  21. Johnson, Steven G. (4 de febrero de 2015). "Raíces cuadradas mediante el método de Newton" (PDF) . Curso 18.335 del MIT – Métodos numéricos . Instituto Tecnológico de Massachusetts . Consultado el 5 de noviembre de 2025 .
  22. Burden, Burton; Fairs, J. Douglas; Reunolds, Albert C (julio de 1981). Análisis numérico (2.ª ed.). Boston, MA, Estados Unidos: Prindle, Weber & Schmidt. págs. 448–452 . ISBN   0-87150-314-XOCLC 1036752194 
  23. Evans, Gwynne A. (1995). Análisis numérico práctico . Chichester: John Wiley & Sons. págs. 30–33 . ISBN  0471955353OCLC 1319419671 
  24. Demidovich, Boris Pavlovich; Marón, Isaac Abramovich (1981). Matemática Computacional (Tercera ed.). Moscú: Editores MIR. págs. 460–478 . ISBN   9780828507042.
  25. Kiusalaas, Jaan (marzo de 2013). Métodos numéricos en ingeniería con Python 3 (3.ª ed.). Nueva York: Cambridge University Press. págs. 175–176 . ISBN   978-1-107-03385-6.
  26. James, Glyn (1993). Matemáticas avanzadas para ingeniería moderna . Wokingham, Inglaterra: Addison-Wesley. ISBN 0201565196.
  27. Henrici, Peter (1974). Análisis complejo aplicado y computacional . Vol. 1. Wiley. ISBN  9780471598923.
  28. Strang, Gilbert (enero de 1991). "Una búsqueda caótica de i ". The College Mathematics Journal . 22 (1): 3– 12. doi : 10.2307/2686733 . JSTOR 2686733 . 
  29. McMullen, Curt (1987). "Familias de mapas racionales y algoritmos iterativos de búsqueda de raíces" (PDF) . Annals of Mathematics . Segunda serie. 125 (3): 467– 493. doi : 10.2307/1971408 . JSTOR 1971408 . 
  30. Hubbard, John; Schleicher, Dierk; Sutherland, Scott (2001). "Cómo encontrar todas las raíces de polinomios complejos mediante el método de Newton". Inventiones Mathematicae . 146 (1): 1– 33. doi : 10.1007/s002220100149 .
  31. Hubbard, John; Schleicher, Dierk; Sutherland, Scott (octubre de 2001). "Cómo encontrar todas las raíces de polinomios complejos mediante el método de Newton" . Inventiones Mathematicae . 146 (1): 1– 33. Bibcode : 2001InMat.146....1H . doi : 10.1007/s002220100149 . ISSN 0020-9910 . S2CID 12603806 .  
  32. Yamamoto, Tetsuro (2001). «Desarrollos históricos en el análisis de convergencia para los métodos de Newton y similares». En Brezinski, C.; Wuytack, L. (eds.). Análisis numérico: desarrollos históricos en el siglo XX . North-Holland. pp. 241–263 . ISBN  0-444-50617-9.
  33. Hamilton, Richard S. (1982). " El teorema de la función inversa de Nash y Moser" . Boletín de la Sociedad Matemática Americana . Nueva Serie. 7 (1): 65–222 . doi : 10.1090/s0273-0979-1982-15004-2 . MR 0656198. Zbl 0499.58003 .  
  34. ^ Gromov, Mikhael (1986). Relaciones diferenciales parciales . Ergebnisse der Mathematik und ihrer Grenzgebiete (3). vol. 9. Berlín: Springer-Verlag . doi : 10.1007/978-3-662-02267-2 . ISBN  3-540-12177-3. SR 0864505 . 
  35. ^ Chebyshev, Pafnutii L'vovich; Bernshtein, Sergei Natanovich (1947). Polnoe sobranie sochinenii . Izd-vo Akademii nauk SSSR.
  36. Ahmadi, Amir Ali; Chaudhry, Abraar; Zhang, Jeffrey (2024). "Métodos de Newton de orden superior con trabajo polinomial por iteración" . Advances in Mathematics . 452 109808. arXiv : 2311.06374 . doi : 10.1016/j.aim.2024.109808 .
  37. Hartnett, Kevin (24 de marzo de 2025). "Trescientos años después, una herramienta de Isaac Newton se actualiza" . Quanta Magazine . Consultado el 3 de abril de 2025 .
  38. Rajković, Predrag M.; Stanković, Miomir S.; Marinković, Slađana D. (2002). "Teoremas del valor medio en $ q$ -cálculo" . Matematicki Vesnik . 54 ( 3-4 ): 171-178 .
  39. Prensa y otros, 2007
  40. Stoer, Josef; Bulirsch, Roland (1980). Introducción al análisis numérico . pág. 279. OCLC 1244842246 .  
  41. ^ Zhang, Shanjie; Jin, Jianming (1996). Computación de Funciones Especiales . Wiley. ISBN 9780471119630.
  42. Murota, Kazuo (1982). "Convergencia global de una iteración de Newton modificada para ecuaciones algebraicas". SIAM Journal on Numerical Analysis . 19 (4): 793– 799. Bibcode : 1982SJNA...19..793M . doi : 10.1137/0719055 .
  43. Moore, RE (1979). Métodos y aplicaciones del análisis de intervalos (Vol. 2). Siam.
  44. Hansen, E. (1978). Formas de intervalo del método de Newton. Computing , 20(2), 153–163.
  45. Boyd, Stephen ; Vandenberghe, Lieven (2004). Optimización convexa . Cambridge: Cambridge University Press . doi : 10.1017/CBO9780511804441 . ISBN 0-521-83378-7. SEÑOR 2061575 . Zbl 1058.90049 .  

Referencias

  • Gil, A.; Segura, J.; Temme, NM (2007). Métodos numéricos para funciones especiales . Society for Industrial and Applied Mathematics. ISBN 978-0-89871-634-4.
  • Süli, Endre ; Mayers, David (2003). Introducción al análisis numérico . Cambridge University Press. ISBN 0-521-00794-1.

Lecturas adicionales

  • Kendall E. Atkinson: Introducción al análisis numérico , John Wiley & Sons Inc., ISBN 0-471-62489-6(1989).
  • Tjalling J. Ypma: "Desarrollo histórico del método Newton-Raphson", SIAM Review, vol. 37, n.º 4, (1995), págs.  531-551. doi : 10.1137/1037125 .
  • Bonnans, J.  Frédéric; Gilbert, J.  Charles; Lemaréchal, Claude ; Sagastizábal, Claudia  A. (2006). Optimización numérica: aspectos teóricos y prácticos . Universitext (Segunda edición revisada de la traducción de  la edición francesa de 1997). Berlín: Springer-Verlag. pp.  xiv+490. doi : 10.1007/978-3-540-35447-5 . ISBN 3-540-35445-XMR 2265882 .​ 
  • P. Deuflhard: Métodos de Newton para problemas no lineales: invariancia afín y algoritmos adaptativos , Springer Berlin (Serie de Matemáticas Computacionales, vol. 35) (2004). ISBN 3-540-21099-7.
  • CT Kelley: Resolución de ecuaciones no lineales con el método de Newton , SIAM (Fundamentos de algoritmos, 1) (2003). ISBN 0-89871-546-6.
  • JM Ortega y WC Rheinboldt: Solución iterativa de ecuaciones no lineales en varias variables , SIAM (Classics in Applied Mathematics) (2000). ISBN 0-89871-461-3.
  • Press, WH; Teukolsky, SA; Vetterling, WT; Flannery, BP (2007). «Capítulo 9. Búsqueda de raíces y muestreo de importancia de conjuntos de ecuaciones no lineales» . Numerical Recipes: The Art of Scientific Computing (3.ª  ed.). Nueva York: Cambridge Univ. Press. ISBN 978-0-521-88068-8.. Véanse especialmente las Secciones 9.4 , 9.6 y 9.7 .
  • Avriel, Mordecai (1976).Programación no lineal: análisis y métodosPrentice Hall. págs. 216–221 . ISBN  0-13-623603-0.