Álgebra Lineal

Ma1010

Métodos Iterativos para Resolver Sistemas Lineales

Departamento de Matemáticas

ITESM

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 1/30

 Introducción

En esta lectura veremos procedimientos iterativos Introducción

Objetivos
para resolver un sistema de ecuaciones lineales. Generalidades
Un ejemplo
El primero de ellos conocido como el Ventajas y
procedimiento de Jacobi basado en la idea de Desventajas
Iterativo General
punto fijo y un segundo procedimiento conocido Método Jacobi
Ejemplo 1
como método de Gauss-Seidel el cual es una Convergencia
modificación simple del procedimiento de Jacobi. Diagonalmente
Dominante
Introduciremos el concepto de matriz Ejemplo 2
Reordenamiento
diagonalmente dominante el cual se relaciona con Gauss-Seidel
la garantía de convergencia en la aplicación de los Ejemplos
Costo
métodos vistos. Veremos que en algunos casos es Computacional
posible replantear el sistema para garantizar la
convergencia. Asimismo se comentará en qué
situaciones los métodos iterativos son más
convenientes a los métodos directos.

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 2/30

 Se recomienda utilizar el archivo de excel que se Introducción
Objetivos
provee para ilustrar la convergencia de los Generalidades
Un ejemplo
métodos, sobre todo los siguientes hechos: Ventajas y
■ Que la convergencia se tiene siempre que la Desventajas
Iterativo General
matriz es diagonalmente dominante, sin importar Método Jacobi
Ejemplo 1
cual sea la semilla o el vector de constantes. Convergencia
Diagonalmente
■ Que cuando la matriz de coeficientes no es
Dominante
diagonalmente dominante, se puede tener Ejemplo 2
Reordenamiento
convergencia ya sea por que la semilla es la Gauss-Seidel
Ejemplos
adecuada ya sea por el vector de constantes. Costo
En términos formales, que la condicional Si la Computacional

matriz de coeficientes es DD, entonces Jacobi

converge es cierta, mientras que su recíproca no
lo es.

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 3/30

 Objetivos

Será importante que usted Introducción

Objetivos
■ Entienda los conceptos: Generalidades
Un ejemplo
◆ método iterativo,
Ventajas y
◆ ecuación de recurrencia, Desventajas
Iterativo General
◆ convergencia, Método Jacobi
Ejemplo 1
◆ matriz diagonalmente dominante
Convergencia
Diagonalmente
■ En términos cualitativos
Dominante
◆ Entienda la diferencia entre un método directo Ejemplo 2
Reordenamiento
y uno iterativo. Gauss-Seidel
Ejemplos
◆ Entienda la conveniencia de usar un método
Costo
iterativo y uno directo. Computacional

■ Entienda y mecanice los procedimientos de

◆ Método de Jacobi, y

◆ Método de Gauss-Seidel.

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 4/30

 Generalidades

Un método iterativo es un método que Introducción

Objetivos
progresivamente va calculando aproximaciones a la Generalidades
Un ejemplo
solución de un problema. En Matemáticas, en un Ventajas y
método iterativo se repite un mismo proceso de Desventajas
Iterativo General
mejora sobre una solución aproximada: se espera Método Jacobi
Ejemplo 1
que lo obtenido sea una solución más aproximada Convergencia
que la inicial. El proceso se repite sobre esta Diagonalmente
Dominante
nueva solución hasta que el resultado más Ejemplo 2
Reordenamiento
reciente satisfaga ciertos requisitos. A diferencia Gauss-Seidel
de los métodos directos, en los cuales se debe Ejemplos
Costo
terminar el proceso para tener la respuesta, en los Computacional

métodos iterativos se puede suspender el proceso

al termino de una iteración y se obtiene una
aproximación a la solución.

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 5/30

 Método Iterativo: Un ejemplo

Considere el problema de encontrar una raíz a una Introducción

Objetivos
ecuación cuadrática, por ejemplo: Generalidades
Un ejemplo
f (x) = x2 − x − 2 = 0 Ventajas y
Desventajas
Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 6/30

 Método Iterativo: Un ejemplo

Considere el problema de encontrar una raíz a una Introducción

Objetivos
ecuación cuadrática, por ejemplo: Generalidades
Un ejemplo
f (x) = x2 − x − 2 = 0 Ventajas y
Desventajas
Iterativo General
Un método directo para resolverlo es aplicar la Método Jacobi
Ejemplo 1
fórmula general Convergencia
q Diagonalmente
Dominante
−(−1) ± (−1)2 − 4(1)(−2) Ejemplo 2
x= = −1, 2 Reordenamiento
2(1) Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 6/30

 Método Iterativo: Un ejemplo

Considere el problema de encontrar una raíz a una Introducción

Objetivos
ecuación cuadrática, por ejemplo: Generalidades
Un ejemplo
f (x) = x2 − x − 2 = 0 Ventajas y
Desventajas
Iterativo General
Un método directo para resolverlo es aplicar la Método Jacobi
Ejemplo 1
fórmula general Convergencia
q Diagonalmente
Dominante
−(−1) ± (−1)2 − 4(1)(−2) Ejemplo 2
x= = −1, 2 Reordenamiento
2(1) Gauss-Seidel
Ejemplos
Costo
Un método iterativo para resolver ecuaciones es Computacional
el método de Newton que consiste en usar la
fórmula de mejora:
f (xi ) xi 2 − xi − 2
xi+1 = xi − ′ = xi −
f (xi ) 2 xi − 1

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 6/30

 Si tomamos como primera aproximación x0 = 3 Introducción
Objetivos
(para i = 0), tendremos Generalidades
Un ejemplo
x0 2 − x0 − 2 32 − 3 − 2 Ventajas y
x1 = x0 − =3− ≈ 2.2 Desventajas
2 x0 − 1 2·3−1 Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 7/30

 Si tomamos como primera aproximación x0 = 3 Introducción
Objetivos
(para i = 0), tendremos Generalidades
Un ejemplo
x0 2 − x0 − 2 32 − 3 − 2 Ventajas y
x1 = x0 − =3− ≈ 2.2 Desventajas
2 x0 − 1 2·3−1 Iterativo General
Método Jacobi
Ejemplo 1
Si ahora tomamos como aproximación x1 = 2.2 y Convergencia
aplicamos de nuevo la fórmula tendremos: Diagonalmente
Dominante
Ejemplo 2
x1 2 − x1 − 2 2.22 − 2.2 − 2 Reordenamiento
x2 = x1 − = 2.2− ≈ 2.011 Gauss-Seidel
2 x1 − 1 2 · 2.2 − 1 Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 7/30

 Si tomamos como primera aproximación x0 = 3 Introducción
Objetivos
(para i = 0), tendremos Generalidades
Un ejemplo
x0 2 − x0 − 2 32 − 3 − 2 Ventajas y
x1 = x0 − =3− ≈ 2.2 Desventajas
2 x0 − 1 2·3−1 Iterativo General
Método Jacobi
Ejemplo 1
Si ahora tomamos como aproximación x1 = 2.2 y Convergencia
aplicamos de nuevo la fórmula tendremos: Diagonalmente
Dominante
Ejemplo 2
x1 2 − x1 − 2 2.22 − 2.2 − 2 Reordenamiento
x2 = x1 − = 2.2− ≈ 2.011 Gauss-Seidel
2 x1 − 1 2 · 2.2 − 1 Ejemplos
Costo
Si ahora tomamos como aproximación x2 = 2.011 Computacional

y aplicamos de nuevo la fórmula tendremos:

x2 2 − x2 − 2 2.0112 − 2.011 − 2
x3 = x2 − = 2.011− ≈ 2.00004
2 x2 − 1 2 · 2.011 − 1
Etceterá.
Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 7/30
 Ventajas y Desventajas

Un elemento en contra que tienen los métodos Introducción

Objetivos
iterativos sobre los métodos directos es que Generalidades
Un ejemplo
calculan aproximaciones a la solución. Ventajas y
Desventajas
Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 8/30

 Ventajas y Desventajas

Un elemento en contra que tienen los métodos Introducción

Objetivos
iterativos sobre los métodos directos es que Generalidades
Un ejemplo
calculan aproximaciones a la solución. Los Ventajas y
métodos iterativos se usan cuando no se conoce Desventajas
Iterativo General
un método para obtener la solución en forma Método Jacobi
Ejemplo 1
exacta. Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 8/30

 Ventajas y Desventajas

Un elemento en contra que tienen los métodos Introducción

Objetivos
iterativos sobre los métodos directos es que Generalidades
Un ejemplo
calculan aproximaciones a la solución. Los Ventajas y
métodos iterativos se usan cuando no se conoce Desventajas
Iterativo General
un método para obtener la solución en forma Método Jacobi
Ejemplo 1
exacta. También se utilizan cuando el método Convergencia
para determinar la solución exacta requiere mucho Diagonalmente
Dominante
tiempo de cálculo, cuando una respuesta Ejemplo 2
Reordenamiento
aproximada es adecuada, y cuando el número de Gauss-Seidel
iteraciones es relativamente reducido. Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 8/30

 Método Iterativo General

Un método iterativo consta de los siguientes Introducción

Objetivos
pasos. Generalidades
Un ejemplo
Ventajas y
Desventajas
Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 9/30

 Método Iterativo General

Un método iterativo consta de los siguientes Introducción

Objetivos
pasos. Generalidades
Un ejemplo
1. inicia con una solución aproximada (Semilla), Ventajas y
Desventajas
Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 9/30

 Método Iterativo General

Un método iterativo consta de los siguientes Introducción

Objetivos
pasos. Generalidades
Un ejemplo
1. inicia con una solución aproximada (Semilla), Ventajas y
2. ejecuta una serie de cálculos para obtener o construir una mejor aproximaciónDesventajas
Iterativo General
partiendo de la aproximación semilla. La fórmula que permite construir la Método Jacobi
aproximación usando otra se conoce como ecuación de recurrencia. Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 9/30

 Método Iterativo General

Un método iterativo consta de los siguientes Introducción

Objetivos
pasos. Generalidades
Un ejemplo
1. inicia con una solución aproximada (Semilla), Ventajas y
2. ejecuta una serie de cálculos para obtener o construir una mejor aproximaciónDesventajas
Iterativo General
partiendo de la aproximación semilla. La fórmula que permite construir la Método Jacobi
aproximación usando otra se conoce como ecuación de recurrencia. Ejemplo 1
Convergencia
3. se repite el paso anterior pero usando como semilla la aproximación obtenida.Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 9/30

 Metodo de Jacobi: Idea

El método Jacobi es un método iterativo para Introducción

Objetivos
resolver sistemas de ecuaciones lineales más Generalidades
Un ejemplo
simple y se aplica sólo a sistemas cuadrados, es Ventajas y
decir a sistemas con tantas incógnitas como Desventajas
Iterativo General
ecuaciones. Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 10/30

 1. Primero se determina la ecuación de Introducción
Objetivos
recurrencia. Para ello se ordenan las Generalidades
Un ejemplo
ecuaciones y las incógnitas. De la ecuación i se Ventajas y
despeja la incógnita i. En notación matricial se Desventajas
Iterativo General
escribirse como: Método Jacobi
Ejemplo 1
x = c + Bx Convergencia
Diagonalmente
Dominante
donde x es el vector de incógnitas. Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 11/30

 1. Primero se determina la ecuación de Introducción
Objetivos
recurrencia. Para ello se ordenan las Generalidades
Un ejemplo
ecuaciones y las incógnitas. De la ecuación i se Ventajas y
despeja la incógnita i. En notación matricial se Desventajas
Iterativo General
escribirse como: Método Jacobi
Ejemplo 1
x = c + Bx Convergencia
Diagonalmente
Dominante
donde x es el vector de incógnitas. Ejemplo 2
Reordenamiento
2. Se toma una aproximación para las soluciones Gauss-Seidel
Ejemplos
y a ésta se le designa por xo Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 11/30

 1. Primero se determina la ecuación de Introducción
Objetivos
recurrencia. Para ello se ordenan las Generalidades
Un ejemplo
ecuaciones y las incógnitas. De la ecuación i se Ventajas y
despeja la incógnita i. En notación matricial se Desventajas
Iterativo General
escribirse como: Método Jacobi
Ejemplo 1
x = c + Bx Convergencia
Diagonalmente
Dominante
donde x es el vector de incógnitas. Ejemplo 2
Reordenamiento
2. Se toma una aproximación para las soluciones Gauss-Seidel
Ejemplos
y a ésta se le designa por xo Costo
Computacional
3. Se itera en el ciclo que cambia la aproximación

xi+1 = c + Bxi

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 11/30

 Ejemplo Introducción
Objetivos
Partiendo de (x = 1, y = 2) aplique dos iteraciones Generalidades
del método de Jacobi para resolver el sistema: Un ejemplo
Ventajas y
Desventajas
" # Iterativo General
5x + 2y = 1 Método Jacobi
Ejemplo 1
x − 4y = 0 Convergencia
Diagonalmente
Dominante
Solución Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 12/30

 Ejemplo Introducción
Objetivos
Partiendo de (x = 1, y = 2) aplique dos iteraciones Generalidades
del método de Jacobi para resolver el sistema: Un ejemplo
Ventajas y
Desventajas
" # Iterativo General
5x + 2y = 1 Método Jacobi
Ejemplo 1
x − 4y = 0 Convergencia
Diagonalmente
Dominante
Solución Ejemplo 2
Reordenamiento
Gauss-Seidel
x = 0.20 + 0.00 x − 0.40 y Ejemplos
Costo
y = 0.00 + 0.25 x + 0.00 y Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 12/30

 Ejemplo Introducción
Objetivos
Partiendo de (x = 1, y = 2) aplique dos iteraciones Generalidades
del método de Jacobi para resolver el sistema: Un ejemplo
Ventajas y
Desventajas
" # Iterativo General
5x + 2y = 1 Método Jacobi
Ejemplo 1
x − 4y = 0 Convergencia
Diagonalmente
Dominante
Solución Ejemplo 2
Reordenamiento
Gauss-Seidel
x = 0.20 + 0.00 x − 0.40 y Ejemplos
Costo
y = 0.00 + 0.25 x + 0.00 y Computacional

" # " # " #" #

x 0.20 0.00 −0.40 x
= +
y 0.00 0.25 0.00 y

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 12/30

 Aplicamos la primera iteración partiendo de x0 = 1.00 y
y0 = 2.00:
x1 = 0.20 + 0.00 (1.00) − 0.40 (2.00) = −0.60
y1 = 0.00 + 0.25 (1.00) + 0.00 (2.00) = 0.25

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 13/30

 Aplicamos la primera iteración partiendo de x0 = 1.00 y
y0 = 2.00:
x1 = 0.20 + 0.00 (1.00) − 0.40 (2.00) = −0.60
y1 = 0.00 + 0.25 (1.00) + 0.00 (2.00) = 0.25
Aplicamos la segunda iteración partiendo de x1 = −0.60 y
y1 = 0.25:
x2 = 0.20 + 0.00 (−0.60) − 0.40 (0.25) = 0.10
y2 = 0.00 + 0.25 (−0.60) + 0.00 (0.25) = −0.15

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 13/30

 Aplicamos la primera iteración partiendo de x0 = 1.00 y
y0 = 2.00:
x1 = 0.20 + 0.00 (1.00) − 0.40 (2.00) = −0.60
y1 = 0.00 + 0.25 (1.00) + 0.00 (2.00) = 0.25
Aplicamos la segunda iteración partiendo de x1 = −0.60 y
y1 = 0.25:
x2 = 0.20 + 0.00 (−0.60) − 0.40 (0.25) = 0.10
y2 = 0.00 + 0.25 (−0.60) + 0.00 (0.25) = −0.15
Aplicamos la siguiente iteración partiendo de x2 = 0.10 y
y1 = −0.15:
x3 = 0.20 + 0.00 (0.10) − 0.40 (−0.15) = 0.26
y3 = 0.00 + 0.25 (0.10) + 0.00 (−0.15) = 0.025
Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 13/30
 Aplicamos la siguiente iteración partiendo de x3 = 0.26 y
y3 = 0.025:
x4 = 0.20 + 0.00 (0.26) − 0.40 (0.025) = 0.190
y4 = 0.00 + 0.25 (0.26) + 0.00 (0.025) = 0.065

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 14/30

 Aplicamos la siguiente iteración partiendo de x3 = 0.26 y
y3 = 0.025:
x4 = 0.20 + 0.00 (0.26) − 0.40 (0.025) = 0.190
y4 = 0.00 + 0.25 (0.26) + 0.00 (0.025) = 0.065
Aplicamos la siguiente iteración partiendo de x4 = 0.190 y
y4 = 0.065:
x5 = 0.20 + 0.00 (0.19) − 0.40 (0.065) = 0.174
y5 = 0.00 + 0.25 (0.19) + 0.00 (0.065) = 0.0475

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 14/30

 Aplicamos la siguiente iteración partiendo de x3 = 0.26 y
y3 = 0.025:
x4 = 0.20 + 0.00 (0.26) − 0.40 (0.025) = 0.190
y4 = 0.00 + 0.25 (0.26) + 0.00 (0.025) = 0.065
Aplicamos la siguiente iteración partiendo de x4 = 0.190 y
y4 = 0.065:
x5 = 0.20 + 0.00 (0.19) − 0.40 (0.065) = 0.174
y5 = 0.00 + 0.25 (0.19) + 0.00 (0.065) = 0.0475
Aplicamos la siguiente iteración partiendo de x5 = 0.174 y
y5 = 0.0475:
x6 = 0.20 + 0.00 (0.174) − 0.40 (0.0475) = 0.181
y6 = 0.00 + 0.25 (0.174) + 0.00 (0.0475) = 0.0435
Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 14/30
 Si uno dispone de una hoja de cálculo como Introducción
Objetivos
EXCEL es fácil realizar los cálculos anteriores: Generalidades
Un ejemplo
i xi yi xi+1 yi+1 Di Ventajas y
Desventajas
Iterativo General
0 1.000 2.000 -0.600 0.250 1.750 Método Jacobi
Ejemplo 1
1 -0.600 0.250 0.100 -0.150 0.700 Convergencia
Diagonalmente
2 0.100 -0.150 0.260 0.025 0.175 Dominante
Ejemplo 2
3 0.260 0.025 0.190 0.065 0.070 Reordenamiento
Gauss-Seidel
4 0.190 0.065 0.174 0.047 0.017 Ejemplos
Costo
5 0.174 0.047 0.181 0.043 0.007 Computacional

6 0.181 0.043 0.182 0.045 0.001

donde
Di = máx (|xi − xi+1 |, |yi − yi+1 |)

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 15/30

 Si se grafica las aproximaciones obtenidas en el Introducción
Objetivos
plano x − y se obtendrá algo como: Generalidades
Un ejemplo
Ventajas y
Desventajas
Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 16/30

 Convergencia y convergencia en Jacobi

Uno de los principales problemas de los métodos Introducción

Objetivos
iterativos es la garantía de que el método va a Generalidades
Un ejemplo
converger, es decir, va a producir una sucesión de Ventajas y
aproximaciones cada vez efectivamente más Desventajas
Iterativo General
próximas a la solución. Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 17/30

 Convergencia y convergencia en Jacobi

Uno de los principales problemas de los métodos Introducción

Objetivos
iterativos es la garantía de que el método va a Generalidades
Un ejemplo
converger, es decir, va a producir una sucesión de Ventajas y
aproximaciones cada vez efectivamente más Desventajas
Iterativo General
próximas a la solución. En el caso del método de Método Jacobi
Ejemplo 1
Jacobi no existe una condición exacta para la Convergencia
convergencia. Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 17/30

 Convergencia y convergencia en Jacobi

Uno de los principales problemas de los métodos Introducción

Objetivos
iterativos es la garantía de que el método va a Generalidades
Un ejemplo
converger, es decir, va a producir una sucesión de Ventajas y
aproximaciones cada vez efectivamente más Desventajas
Iterativo General
próximas a la solución. En el caso del método de Método Jacobi
Ejemplo 1
Jacobi no existe una condición exacta para la Convergencia
convergencia. Lo mejor es una condición que Diagonalmente
Dominante
garantiza la convergencia, pero en caso de no Ejemplo 2
Reordenamiento
cumplirse puede o no haberla es la siguiente: Gauss-Seidel
Ejemplos
Si la matriz de coeficientes original del Costo
Computacional
sistema de ecuaciones es diagonalmente
dominante, el método de Jacobi seguro
converge.

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 17/30

 Matriz Diagonalmente Dominante

Una matriz se dice matriz diagonalmente Introducción

Objetivos
dominante, si en cada uno de los renglones, el Generalidades
Un ejemplo
valor absoluto del elemento de la diagonal Ventajas y
principal es mayor que la suma de los valores Desventajas
Iterativo General
abslutos de los elementos restantes del mismo Método Jacobi
Ejemplo 1
renglón. Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 18/30

 Matriz Diagonalmente Dominante

Una matriz se dice matriz diagonalmente Introducción

Objetivos
dominante, si en cada uno de los renglones, el Generalidades
Un ejemplo
valor absoluto del elemento de la diagonal Ventajas y
principal es mayor que la suma de los valores Desventajas
Iterativo General
abslutos de los elementos restantes del mismo Método Jacobi
Ejemplo 1
renglón. A veces la matriz de un sistema de Convergencia
ecuaciones no es diagonalmente dominante pero Diagonalmente
Dominante
cuando se cambian el orden de las ecuaciones y Ejemplo 2
Reordenamiento
las incógnitas el nuevo sistema puede tener matriz Gauss-Seidel
de coeficientes diagonalmente dominante. Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 18/30

 Ejemplo Introducción
Objetivos
Son matrices diagonalmente dominantes: Generalidades
    Un ejemplo
Ventajas y
" # 4 1 1 −6 1 2 Desventajas
4 1 Iterativo General
,  2 8 −3  ,  1 3 0 
   
Método Jacobi
3 8 Ejemplo 1
3 2 9 3 2 −9 Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 19/30

 Ejemplo Introducción
Objetivos
No son matrices diagonalmente dominantes: Generalidades
    Un ejemplo
Ventajas y
" # 4 1 3 4 1 1 Desventajas
4 4 Iterativo General
, 2 8 1 , 2 8 −7 
   
Método Jacobi
3 8 Ejemplo 1
3 −10 2 3 −10 20 Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 19/30

 Orden conveniente para Jacobi

En ciertas ocasiones al aplicar Jacobi la matriz no Introducción

Objetivos
es diagonalmente dominante y por tanto no Generalidades
Un ejemplo
existirá garantía de convergencia. Sin embargo, en Ventajas y
algunos casos será posible reordenar las Desventajas
Iterativo General
incógnitas en otra manera de forma que la nueva Método Jacobi
Ejemplo 1
matriz de coeficientes sea diagonalmente Convergencia
dominante. Esto se puede detectar revisando Diagonalmente
Dominante
todos los posibles ordenamientos de las incógnitas Ejemplo 2
Reordenamiento
y ver cómo es la matriz resultante. Claro que esto Gauss-Seidel
conlleva un bueno número de pruebas pues el Ejemplos
Costo
número posible de ordenamientos en n variables Computacional
es (n − 1)! pero cuando n es reducido es sencillo.
Veamos algunos ejemplos.

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 20/30

 Ejemplo Introducción
Objetivos
Indique cuál es el orden conveniente para aplicar Generalidades
Jacobi al sistema: Un ejemplo
Ventajas y
Desventajas
3 x + 12 y − z = −2 Iterativo General
Método Jacobi
11 x − 4 y + 3 z = −3 Ejemplo 1
Convergencia
−3 x − 2 y − 12 z = −2 Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 21/30

 Ejemplo Introducción
Objetivos
Indique cuál es el orden conveniente para aplicar Generalidades
Jacobi al sistema: Un ejemplo
Ventajas y
  Desventajas
3 x + 12 y − z = −2 3 12 −1 Iterativo General
Método Jacobi
11 x − 4 y + 3 z = −3 →  11 −4 3 
 
Ejemplo 1
Convergencia
−3 x − 2 y − 12 z = −2 −3 −2 −12 Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 21/30

 Ejemplo Introducción
Objetivos
Indique cuál es el orden conveniente para aplicar Generalidades
Jacobi al sistema: Un ejemplo
Ventajas y
Desventajas
3 x + 12 y − z = −2 Iterativo General
Método Jacobi
11 x − 4 y + 3 z = −3 Ejemplo 1
Convergencia
−3 x − 2 y − 12 z = −2 Diagonalmente
Dominante
Ejemplo 2
Solución Reordenamiento
Con el orden y → x → z el sistema y su matriz de Gauss-Seidel
Ejemplos
coeficientes quedan: Costo
  Computacional

12 y + 3 x − z = −2 12 3 −1
− 4 y + 11 x + 3 z = −3 →  −4 11 3 
 
− 2 y − 3 x − 12 z = −2 −2 −3 −12
la matriz de coeficientes es diagonalmente
dominante
Métodos  Resolver Sistemas Lineales
Iterativos para Álgebra Lineal - p. 21/30
 El Método de Gauss-Seidel: Idea

El método de Gauss-Seidel es muy semejante al Introducción

Objetivos
método de Jacobi. Generalidades
Un ejemplo
Ventajas y
Desventajas
Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 22/30

 El Método de Gauss-Seidel: Idea

El método de Gauss-Seidel es muy semejante al Introducción

Objetivos
método de Jacobi. Mientras que en el de Jacobi Generalidades
Un ejemplo
se utiliza el valor de las incógnitas para determinar Ventajas y
una nueva aproximación, en el de Gauss-Seidel se Desventajas
Iterativo General
va utilizando los valores de las incógnitas recien Método Jacobi
Ejemplo 1
calculados en la misma iteración, y no en la Convergencia
siguiente. Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 22/30

 Por ejemplo, en el método de Jacobi se obtiene en Introducción
Objetivos
el primer cálculo xi+1 , pero este valor de x no se Generalidades
Un ejemplo
utiliza sino hasta la siguiente iteración. Ventajas y
Desventajas
Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 23/30

 Por ejemplo, en el método de Jacobi se obtiene en Introducción
Objetivos
el primer cálculo xi+1 , pero este valor de x no se Generalidades
Un ejemplo
utiliza sino hasta la siguiente iteración. En el Ventajas y
método de Gauss-Seidel en lugar de eso se utiliza Desventajas
Iterativo General
de xi+1 en lugar de xi en forma inmediata para Método Jacobi
Ejemplo 1
calcular el valor de yi+1 de igual manera procede Convergencia
con las siguientes variables; Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 23/30

 Por ejemplo, en el método de Jacobi se obtiene en Introducción
Objetivos
el primer cálculo xi+1 , pero este valor de x no se Generalidades
Un ejemplo
utiliza sino hasta la siguiente iteración. En el Ventajas y
método de Gauss-Seidel en lugar de eso se utiliza Desventajas
Iterativo General
de xi+1 en lugar de xi en forma inmediata para Método Jacobi
Ejemplo 1
calcular el valor de yi+1 de igual manera procede Convergencia
con las siguientes variables; siempre se utilizan las Diagonalmente
Dominante
variables recien calculadas. Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 23/30

 Método de Gauss-Seidel: Ejemplos

Ejemplo Introducción
Objetivos
Partiendo de (x = 1, y = 2) aplique dos iteraciones Generalidades
del método de Gauss-Seidel para resolver el Un ejemplo
Ventajas y
sistema: Desventajas
Iterativo General
" #
5x + 2y = 1 Método Jacobi
Ejemplo 1
x − 4y = 0 Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 24/30

 Método de Gauss-Seidel: Ejemplos

Ejemplo Introducción
Objetivos
Partiendo de (x = 1, y = 2) aplique dos iteraciones Generalidades
del método de Gauss-Seidel para resolver el Un ejemplo
Ventajas y
sistema: Desventajas
Iterativo General
" #
5x + 2y = 1 Método Jacobi
Ejemplo 1
x − 4y = 0 Convergencia
Diagonalmente
Solución Dominante
Ejemplo 2
Debemos primeramente despejar de la ecuación Reordenamiento
Gauss-Seidel
la incógnita correspondiente. Ejemplos
Costo
x = 0.20 + 0.00 x − 0.40 y Computacional

y = 0.00 + 0.25 x + 0.00 y

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 24/30

 Aplicamos la primera iteración partiendo de x0 = 1.00 y
y0 = 2.00:
x1 = 0.20 + 0.00 (+1.000) − 0.40 (2.00) = −0.600
y1 = 0.00 + 0.25 (−0.600) + 0.00 (2.00) = −0.15

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 25/30

 Aplicamos la primera iteración partiendo de x0 = 1.00 y
y0 = 2.00:
x1 = 0.20 + 0.00 (+1.000) − 0.40 (2.00) = −0.600
y1 = 0.00 + 0.25 (−0.600) + 0.00 (2.00) = −0.15
Aplicamos la segunda iteración partiendo de x1 = −0.600 y
y1 = −0.15:
x2 = 0.20 + 0.00 (−0.600) − 0.40 (−0.15) = 0.26
y2 = 0.00 + 0.25 (0.26) + 0.00 (−0.15) = 0.065

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 25/30

 Ejemplo Introducción
Objetivos
Partiendo de (x = 1, y = 2, z = 0) aplique dos Generalidades
iteraciones del método de Gauss-Seidel para Un ejemplo
Ventajas y
resolver el sistema: Desventajas
  Iterativo General
Método Jacobi
10 x + 0 y − z = −1 Ejemplo 1
Convergencia
4 x + 12 y − 4 z = 8
 
  Diagonalmente
Dominante
4 x + 4 y + 10 z = 4 Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 26/30

 Ejemplo Introducción
Objetivos
Partiendo de (x = 1, y = 2, z = 0) aplique dos Generalidades
iteraciones del método de Gauss-Seidel para Un ejemplo
Ventajas y
resolver el sistema: Desventajas
  Iterativo General
Método Jacobi
10 x + 0 y − z = −1 Ejemplo 1
Convergencia
4 x + 12 y − 4 z = 8
 
  Diagonalmente
Dominante
4 x + 4 y + 10 z = 4 Ejemplo 2
Reordenamiento
Solución Gauss-Seidel
Ejemplos
Debemos primeramente despejar de la ecuación Costo
Computacional
la incógnita correspondiente.
x = −0.10 + 0.00 x + 0.00 y + 0.10 z
y = 0.66 − 0.33 x + 0.00 y + 0.33 z
z = 0.40 − 0.40 x − 0.40 y + 0.00 z

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 26/30

 Aplicamos la primera iteración partiendo de x0 = 1.00,
y0 = 2.00, y z = 0.00:
x1 = −0.10 + 0.00(1.00) + 0.00 (2.00) + 0.10 (0.00) = −0.1
y1 = 0.66 − 0.33(−0.10) + 0.00 (2.00) + 0.33 (0.00) = 0.70
z1 = 0.40 − 0.40(−0.10) − 0.40 (0.70) + 0.00 (0.00) = 0.16

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 27/30

 Aplicamos la primera iteración partiendo de x0 = 1.00,
y0 = 2.00, y z = 0.00:
x1 = −0.10 + 0.00(1.00) + 0.00 (2.00) + 0.10 (0.00) = −0.1
y1 = 0.66 − 0.33(−0.10) + 0.00 (2.00) + 0.33 (0.00) = 0.70
z1 = 0.40 − 0.40(−0.10) − 0.40 (0.70) + 0.00 (0.00) = 0.16

Aplicamos la segunda iteración partiendo de x1 = −0.10 y

y1 = 0.70 y z1 = 0.16:
x1 = −0.10 + 0.00(−0.10) + 0.00 (0.70) + 0.10 (0.16) = −0.084
y1 = 0.66 − 0.33(−0.084) + 0.00 (0.70) + 0.33 (0.16) = 0.748
z1 = 0.40 − 0.40(−0.084) − 0.40 (0.748) + 0.00 (0.16) = 0.134

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 27/30

 Costo computacional

Es difícil estimar el costo computacional de un Introducción

Objetivos
método iterativo, pues de antemano se desconoce Generalidades
Un ejemplo
cuántas iteraciones requerira para obtener una Ventajas y
respuestas que satisfaga al usuario. Desventajas
Iterativo General
Generalmente, se procede a calcular el costo Método Jacobi
Ejemplo 1
computacional por iteración. Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 28/30

 En el caso del método de Jacobi la relación de Introducción
Objetivos
recurrencia utilizada es: Generalidades
Un ejemplo
xi+1 = c + B xi Ventajas y
Desventajas
Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 29/30

 Utilizando esta información podemos concluir que Introducción
Objetivos
si el algoritmo toma m iteraciones entonces el total Generalidades
Un ejemplo
de FLOPs será de: Ventajas y
Desventajas
2 m n2 Iterativo General
Método Jacobi
Ejemplo 1
Convergencia
Diagonalmente
Dominante
Ejemplo 2
Reordenamiento
Gauss-Seidel
Ejemplos
Costo
Computacional

Métodos Iterativos para Resolver Sistemas Lineales Álgebra Lineal - p. 30/30