M etodo de Newton-Raphson

Departamento de Matem aticas, CSI/ITESM 13 de noviembre de 2008

Indice
18.1. Introducci on . . . . . . . . . . 18.2. M etodo de Newton-Raphson . 18.3. Ejemplo . . . . . . . . . . . . 18.4. Tarea . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1 2 2

18.1.

Introducci on

El m etodo de Newton-Raphson es un m etodo de optimizaci on iterativo que se basa en aproximar la funci on a optimizar por medio de la serie de Taylor hasta orden 2. Tiene la ventaja sobre el m etodo de ascenso m as r apido que no requiere un proceso iterativo para determinar hasta donde moverse.

18.2.

M etodo de Newton-Raphson

Suponga que se desea minimizar la funci on f (x) con n variables y que esta se aproxima utilizando el desarrollo de Taylor hasta orden. As 1 f (x) (x) = f (xo ) + (x xo ) f (xo ) + (x xo ) Hf (xo ) (x xo ) 2 Si la aproximaxi on de f (x) por (x) es buena, un m nimo relativo f (x) se podr a aproximar por un m nimo relativo de por (x). Supongamos que x1 es un m nimo relativo de (x), entonces x1 es un punto estacionario para (x), as (x1 ) = 0. Desarrollando el gradiente de (x), sustituyendo x1 por x e igualando a 0 tenemos: f (xo ) + Hf (xo )(x1 x0 ) = 0 Si la matriz hessiana Hf (xo ) es invertible tenemos que x1 = xo Hf 1 (xo )f (xo ) (1)

La expresi on anterior se usa como una ecuaci on de recurrencia para dado un punto inicial generar una suceci on de puntos que deben converger al m nimo local de f (x). Como calcular la inversa de una matriz tiene una mayor complejidad (8/3 n3 ) que resolver un sistema de ecuaciones (2/3 n3 ), la expresi on Hf 1 (xo )f (xo ) se obtiene resolviendo el sistema [Hf (xo )|f (xo )]

18.3.

Ejemplo

Ejecute dos iteraciones del m etodo de Newton-Raphson con la funci on: f (x, y ) = x + y + x2 y + x y 2 partiendo del punto P (0.3, 0.6). Soluci on Como f (x, y ) = x + y + x2 y + x y 2 tenemos fx = 1 + 2 x y + y 2 fy = 1 + x2 + 2 x y fxx = 2 y fxy = 2 x + 2 y fyy = 2 x Por tanto, f (x) = 1 + 2 x y + y2 1 + x2 + 2 x y y Hf (x) = 2y 2x + 2y 2x + 2y 2x

Con estos c alculos procedemos a hacer la siguiente tabla: (en ella, la coma se usa para indicar que los puntos deben considerarse como vector columna) i 0 xi (0.3,0.6) f (xi ) (1.72,1.45) Hf (xi )1 0.238 0.714 0.714 0.476 1.8113 1.4676 1.4676 0.3437 0.0932 0.2457 0.2457 0.3390 xi+1 (-0.326, 0.0619)

(-0.326, 0.0619)

(0.9634, 1.0660)

(-0.5068, 1.8423)

(-0.5068, 1.8423)

(2.5265, -0.6106)

(-0.5924, 1.0144)

18.4.

Tarea

Aplique el m etodo de ascenso m as r apido y el m etodo de Newton Raphson (modic andolo para obtener m aximos en lugar de m nimos) para las funciones: 1. f (x, y ) = 2 + x + 2 y x2 3 y 2 iniciando en x = 1 y y = 3 2. f (x, y, z ) = 2 + x 2 y z 2 x2 y 2 3 z 2 iniciando en x = 1,y = 0 y z = 1.