Sistemas lineales

Sistemas lineales

Objetivo
Dada una matriz A ∈ Rn×n y un vector b ∈ Rn , calcular x ∈ Rn tal que

Ax = b

Observación
En este capítulo trabajaremos con matrices invertibles, con lo cual x = A−1 b. Ahora bien,
una regla general de Análisis Numérico es:
No se calcula la inversa de una matriz, si no es absolutamente necesario.
En problemas reales el tamaño n suele ser muy grande (n ≈ 106 ).
(1) Costo de almacenamiento: Una matriz A ∈ Rn×n en doble precisión necesita 64 · n2
bytes de memoria para almacenarse (64000 Gygabytes para un tamaño de
n = 106 ).
(2) Costo operacional: La unidad de operación aritmética se llama flop (floating point
operation), y corresponde a un polinomio en n.
Para invertir una matriz mediante la Regla de Cramer se requiere calcular, para
cada componente j de x, el determinante de A y de sus menores Aj , con lo cual
xj = det(Aj )/det(A). Al utilizar la fórmula recursiva para calcular determinantes, el
costo operacional para calcular x es asintóticamente (n + 1)!. En cambio, la
eliminación de Gauss tiene un costo asintótico de n3 .
Condición de una matriz

Teorema
Sea A ∈ Rn×n una matriz invertible y x, ∆x, b, ∆b ∈ Rn tales que

Ax = b y A∆x = ∆b.

Entonces,
k∆xkRn k∆bkRn
≤ kAk · kA−1 k ·
kxkRn kbkRn

Dem: Notemos que

kbkRn = kAxkRn ≤ kAk · kxkRn
A su vez,
kbkRn
∆x = A−1 ∆b =⇒ k∆xkRn = kA−1 ∆bkRn ≤ kA−1 k · k∆bkRn = kA−1 k · k∆bkRn ·
kbkRn
k∆bkRn
≤ kA−1 k · · kAk · kxkRn
kbkRn
k∆xkRn k∆bkRn
=⇒ ≤ kAk · kA−1 k ·
kxkRn kbkRn
Condición de una matriz

Definición
En vista del resultado anterior, se define la condición de A (o número de
condicionamiento de A) como

κ(A) = kAk · kA−1 k

Condición de una matriz

Definición
En vista del resultado anterior, se define la condición de A (o número de
condicionamiento de A) como

κ(A) = kAk · kA−1 k

Observación
1 = kIn k = kAA−1 k ≤ kAk · kA−1 k ≤ κ(A).
Si una matriz es singular (no nula) entonces κ(A) = ∞.
Supongamos que A es ortogonal, i.e: A−1 = AT . Entonces

kAk2 = ρ(AT A)1/2 = ρ(In )1/2 = 1 = ρ((A−1 )T AT ) = kA−1 k2

Luego κ2 (A) = kAk2 kA−1 k2 = 1.

Matrices triangulares

Definición
Una matriz L ∈ Rn×n es triangular inferior si ljk = 0 para k > j.
Una matriz U ∈ Rn×n es triangular superior si ujk = 0 para k > j.
En ese caso las matrices tienen la forma
l11 0 0 ··· ··· 0 u11 u12 u13 ··· ··· u1n
   
l21 l22 0 · · · · · · 0   0 u22 u23 ··· ··· u2n 
   
 . . . . . . .. .. .. .. .. ..
 . . . . . .
  
L= . . . . . . 

; U=

. . . . . .


 .. .. .. .. .. .. .. ..
   
  
 . . . . 0  . . . . un−1,n 
ln1 ln2 ln3 ··· ln−1,n lnn 0 0 0 ··· 0 unn
Teorema
El producto de dos matrices triangulares inferiores (superiores) es triangular inferior
(superior).
La inversa de una matriz triangular inferior (superior) es inferior (superior).
El determinante de una matriz triangular es el producto de los elementos en la
diagonal. Concretamente:
n
Y n
Y
det(L) = ljj ; det(U) = ujj
j=1 j=1

En consecuencia, una matriz triangular es invertible si y solo si todos los elementos de

la diagonal no son ceros

En adelante asumamos que lii , uii 6= 0 para cada i ∈ {1, . . . , n}.

Un sistema lineal Ux = b, con U triangular superior, se lee como

u11 x1 + u12 x2 + u13 x3 + · · · + u1,n−1 xn−1 + u1n xn = b1



u22 x2 + u23 x3 + · · · + u2,n−1 xn−1 + u2n xn = b2




..


 .



 un−1,n−1 xn−1 + un−1,n xn = bn−1
unn xn = bn
Un sistema lineal Ux = b, con U triangular superior, se lee como

u11 x1 + u12 x2 + u13 x3 + · · · + u1,n−1 xn−1 + u1n xn = b1



u22 x2 + u23 x3 + · · · + u2,n−1 xn−1 + u2n xn = b2




..


 .



 un−1,n−1 xn−1 + un−1,n xn = bn−1
unn xn = bn

De la última ecuación obtenemos

bn
xn =
unn
Un sistema lineal Ux = b, con U triangular superior, se lee como

u11 x1 + u12 x2 + u13 x3 + · · · + u1,n−1 xn−1 + u1n xn = b1



u22 x2 + u23 x3 + · · · + u2,n−1 xn−1 + u2n xn = b2




..


 .



 un−1,n−1 xn−1 + un−1,n xn = bn−1
unn xn = bn

De la última ecuación obtenemos

bn
xn =
unn
Conociendo xn podemos reemplazar en la penúltima ecuación y obtener

bn−1 − un−1,n xn
xn−1 =
un−1,n

..
.
Un sistema lineal Ux = b, con U triangular superior, se lee como

u11 x1 + u12 x2 + u13 x3 + · · · + u1,n−1 xn−1 + u1n xn = b1



u22 x2 + u23 x3 + · · · + u2,n−1 xn−1 + u2n xn = b2




..


 .



 un−1,n−1 xn−1 + un−1,n xn = bn−1
unn xn = bn

De la última ecuación obtenemos

bn
xn =
unn
Conociendo xn podemos reemplazar en la penúltima ecuación y obtener

bn−1 − un−1,n xn
xn−1 =
un−1,n

..
.
Conociendo xn , xn−1 , . . . , xj+1 podemos reemplazar en la ecuación j–ésima y obtener
Pn
bj − k=j+1 ujk xk
xj = (j = 1, . . . n − 1)
ujj
Un sistema lineal Ux = b, con U triangular superior, se lee como

u11 x1 + u12 x2 + u13 x3 + · · · + u1,n−1 xn−1 + u1n xn = b1



u22 x2 + u23 x3 + · · · + u2,n−1 xn−1 + u2n xn = b2




..


 .



 un−1,n−1 xn−1 + un−1,n xn = bn−1
unn xn = bn

De la última ecuación obtenemos

bn
xn =
unn
Conociendo xn podemos reemplazar en la penúltima ecuación y obtener

bn−1 − un−1,n xn
xn−1 =
un−1,n

..
.
Conociendo xn , xn−1 , . . . , xj+1 podemos reemplazar en la ecuación j–ésima y obtener
Pn
bj − k=j+1 ujk xk
xj = (j = 1, . . . n − 1)
ujj

Este procedimiento se denomina sustitución ascendente. En el caso de sistemas lineales

Lx = b, con L triangular inferior, se genera una sustitución descendente.
Ejemplo

Resolvamos el sistema 

 4x1 − x2 + 2x3 + 3x4 = 20
−2x2 + 7x3 − 4x4 = −7


 6x3 + 5x4 = 4
3x4 = 6

Ejemplo

Resolvamos el sistema 

 4x1 − x2 + 2x3 + 3x4 = 20
−2x2 + 7x3 − 4x4 = −7


 6x3 + 5x4 = 4
3x4 = 6


De la última ecuación
6
x4 = =2
3
Ejemplo

Resolvamos el sistema 

 4x1 − x2 + 2x3 + 3x4 = 20
−2x2 + 7x3 − 4x4 = −7


 6x3 + 5x4 = 4
3x4 = 6


De la última ecuación
6
x4 = =2
3
Usando este resultado en la penúltima ecuación obtenemos

4−5·2
x3 = = −1
6
Ejemplo

Resolvamos el sistema 

 4x1 − x2 + 2x3 + 3x4 = 20
−2x2 + 7x3 − 4x4 = −7


 6x3 + 5x4 = 4
3x4 = 6


De la última ecuación
6
x4 = =2
3
Usando este resultado en la penúltima ecuación obtenemos

4−5·2
x3 = = −1
6
Usando los dos resultados anteriores obtenemos
−7 + 4 · 2 − 7 · (−1)
x2 = = −4
−2
Ejemplo

Resolvamos el sistema 

 4x1 − x2 + 2x3 + 3x4 = 20
−2x2 + 7x3 − 4x4 = −7


 6x3 + 5x4 = 4
3x4 = 6


De la última ecuación
6
x4 = =2
3
Usando este resultado en la penúltima ecuación obtenemos

4−5·2
x3 = = −1
6
Usando los dos resultados anteriores obtenemos
−7 + 4 · 2 − 7 · (−1)
x2 = = −4
−2
Finalmente
20 − 3 · 2 − 2 · (−1) + 1 · (−4)
x1 = =3
4
Teorema
La sustitución ascendente calcula la solución del sistema Ux = b, con U triangular
superior, en exáctamente n2 flops.
Teorema
La sustitución ascendente calcula la solución del sistema Ux = b, con U triangular
superior, en exáctamente n2 flops.

Dem: Notemos que en el paso j se calculan n − j productos, n − j restas y 1 división.

Luego, el número total de operaciones es
n
X n
X
(1 + 2(n − j)) = n + 2n2 − 2 j = n + 2n2 − n(n + 1) = n2
j=1 j=1
Operaciones y matrices elementales (OEF)

Dada una matriz A ∈ Rm×n y dados α, β ∈ R, es posible realizar 3 tipos de OEF

Ejk : Intercambiar (permutar) la fila j con la fila k.
   
−3 4 −2 E13
7 −2 1
Ejemplo:  1 −4 3  −→  1 −4 3 
7 −2 1 −3 4 −2

Ek (α): Ponderar cada coeficiente de la fila k por α.

   
−3 4 −2 −3 4 −2
E2 (−2)
Ejemplo:  1 −4 3  −→ −2 8 −6
7 −2 1 7 −2 1

Ejk (β): Reemplazar la fila k por la suma entre β veces la fila k y la fila j.
   
−3 4 −2 E (2) −3 4 −2
31
Ejemplo:  1 −4 3  −→  1 −4 3 
7 −2 1 1 6 −3
Método de eliminación de Gauss

Consiste en generar ceros debajo de la diagonal de A = (aij )n×n mediante OEF. Esto nos
permite obtener una matriz triangular superior U.

Algoritmo
Para cada fila k ∈ {1, . . . , n − 1}
Defino Mk la submatriz compuesta por las filas k, k + 1, . . . , n de A.
1) Si la submatriz Mk solo contiene coef. nulos, no hacer nada.
2) Si no
2.1) Hallar el índice j0 más pequeño tal que la columna j0 tenga por lo menos 1 coef. no nulo.
2.2) Hallar el índice i0 más pequeño tal que ai0,j0 6= 0, con i0 ≥ k.
2.3) Si i0 > k, permutar filas k e i0 (i.e.: aplicar Ei k ).
0
3) Para cada i ∈ {k + 1, . . . , n}
!
aij aij
3.1) Si aij 6= 0, cambiar la fila i (fi ) por fi − a 0 fk (i.e.: aplicar Eik −a 0 ).
0 kj kj0
0

  E2,1 (2)    
1 −3 2 E3,1 (−4)
1 −3 2 E3,2 (−3)
1 −3 2
Ejemplo: A = −2 8 −1 −→ 0 2 3  −→ 0 2 3 
4 6 5 0 6 −3 0 0 −12
Método de eliminación de Gauss

Consiste en generar ceros debajo de la diagonal de A = (aij )n×n mediante OEF. Esto nos
permite obtener una matriz triangular superior U.

Algoritmo
Para cada fila k ∈ {1, . . . , n − 1}
Defino Mk la submatriz compuesta por las filas k, k + 1, . . . , n de A.
1) Si la submatriz Mk solo contiene coef. nulos, no hacer nada.
2) Si no
2.1) Hallar el índice j0 más pequeño tal que la columna j0 tenga por lo menos 1 coef. no nulo.
2.2) Hallar el índice i0 más pequeño tal que ai0,j0 6= 0, con i0 ≥ k.
2.3) Si i0 > k, permutar filas k e i0 (i.e.: aplicar Ei k ).
0
3) Para cada i ∈ {k + 1, . . . , n}
!
aij aij
3.1) Si aij 6= 0, cambiar la fila i (fi ) por fi − a 0 fk (i.e.: aplicar Eik −a 0 ).
0 kj kj0
0

  E2,1 (2)    
1 −3 2 E3,1 (−4)
1 −3 2 E3,2 (−3)
1 −3 2
Ejemplo: A = −2 8 −1 −→ 0 2 3  −→ 0 2 3 
4 6 5 0 6 −3 0 0 −12

Teorema
El método de eliminación de Gauss requiere de 2(n − 1)n(n + 1)/3 + n(n − 1) flops.
Definición
Dada una matriz A = (aij )n×n y b = (bi )n×1 , se define la matriz ampliada (A|b) como:

a11 ··· a1n b1

 

(A|b) =  .. .. .. .. 

. . . . 
an1 ··· ann bn
Definición
Dada una matriz A = (aij )n×n y b = (bi )n×1 , se define la matriz ampliada (A|b) como:

a11 ··· a1n b1

 

(A|b) =  .. .. .. .. 

. . . . 
an1 ··· ann bn

Dado un sistema lineal Ax = b, el método de elmininación de Gauss permite obtener,

mediante OEF, un sistema equivalente Ux = b̃, el cual posee las mismas soluciones que el
primer sistema y además contiene una matriz triangular superior.
Definición
Dada una matriz A = (aij )n×n y b = (bi )n×1 , se define la matriz ampliada (A|b) como:

a11 ··· a1n b1

 

(A|b) =  .. .. .. .. 

. . . . 
an1 ··· ann bn

Dado un sistema lineal Ax = b, el método de elmininación de Gauss permite obtener,

mediante OEF, un sistema equivalente Ux = b̃, el cual posee las mismas soluciones que el
primer sistema y además
 contiene una matriz
 triangular
 superior.
1 −3 2 1
Ejemplo: Sean A = −2 8 −1 y b = 4. Al generar la matriz ampliada y aplicar
4 6 5 8
el método de eliminación de Gauss sobre A se obtiene:
  E2,1 (2)  
1 −3 2 | 1 E3,1 (−4)
1 −3 2 | 1
A = −2 8 −1 | 4 −→ 0 2 3 | 6
4 6 5 | 8 0 6 −3 | 4
 
E3,2 (−3)
1 −3 2 | 1
−→ 0 2 3 | 6  = (U|b̃)
0 0 −12 | −14
Definición
Dada una matriz A = (aij )n×n y b = (bi )n×1 , se define la matriz ampliada (A|b) como:

a11 ··· a1n b1

 

(A|b) =  .. .. .. .. 

. . . . 
an1 ··· ann bn

Dado un sistema lineal Ax = b, el método de elmininación de Gauss permite obtener,

mediante OEF, un sistema equivalente Ux = b̃, el cual posee las mismas soluciones que el
primer sistema y además
 contiene una matriz
 triangular
 superior.
1 −3 2 1
Ejemplo: Sean A = −2 8 −1 y b = 4. Al generar la matriz ampliada y aplicar
4 6 5 8
el método de eliminación de Gauss sobre A se obtiene:
  E2,1 (2)  
1 −3 2 | 1 E3,1 (−4)
1 −3 2 | 1
A = −2 8 −1 | 4 −→ 0 2 3 | 6
4 6 5 | 8 0 6 −3 | 4
 
E3,2 (−3)
1 −3 2 | 1
−→ 0 2 3 | 6  = (U|b̃)
0 0 −12 | −14

El último sistema se resuelve con sustitución ascendente.