Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Alvarez
Aurea
Martinez----------------------METODOS NUMERICOS
TEMA
3: RESOLUCION
. . .
.)
xi x3
)
Si perturbamos ligeramente b:
(
.4 1 1 6 1 7 v 1 6
/ 7 .4 8
/(. 7 8(/8 8
xi x3
) )
0 2
"or tanto# $rente a pe%ue&as 'aria(iones )e A o )e b# la solu(ion x 'ar*a mu(+o. ,iremos en este (aso %ue el sistema est- mal cond c onado. ;ara medir la variaci n de la soluci n res"ecto a las variaciones de A o b .(on)i(ionamiento )el sistema) se introduce el n!me"o de cond c #n de A< (on)/.A) - ==A==>(==A?l\\ > "ara una norma matricial subordinada H . H *
-i
S@
n
]a i0.
==A==oo l 1i 1n 0 2 i
-5
3
\\A\\ - {4AAA5) Todas las normas matriciales subordinadas veri#ican$ ademas de las "ro"iedades caracterAsticas de toda norma<
l
\AH
>
4 A-4
< H A \i*
H A6
-4
\\A B 7II*
B l \7II*
8 9 . A 8/ - 5 c 5 ( % A% >
las si,uientes "ro"iedades< \\A\\/: p . A ) \\ A.7 \\/ 1 \\A\\/.\\7\\/ \\A -l\\/ : \\A\\/ -1
Como consecuencia de estas "ro"iedades % de la "ro"ia de#inicion de n mero de condicion$ este veri#ica<
.( 3( 0(
(on).A ) : .$
"iA G
Mnxn
-4
Se tienen entonces los si,uientes resultados< Teo"ema 1 . - S e (onsi)eran# para A in'ersible ; para b - 4$ los sistemas: Ax - b # A . x B < x ) 2 b B <b. Enton(es:
F SG
-
(on)A )
Teo"ema $ ( - S e (onsi)eran# para A in'ersible ; para b - 4$ los sistemas: Ax - b # !A B 6A& !) B 6)& - b. Enton(es:
<x
\\ \\ 1
Mn).A=
-
\\x B <x\\
(on) . A )
\\A\\ G
O%&e"'ac #n 1 .- "or tanto# (uanto ma;or sea el nu-mero )e (on)i(io-n peor ser-a el (on)i(ionamiento )el sistema. En el e0emplo anterior# el mal (on)i(ionamiento es )ebi)o a %ue (on) .A) - ==A==3(==A-l==3 - 38/2( ;ara resolver los sistemas mal condicionados se usan las t-e(ni(as )e pre(on)i(ionamiento: Dado un sistema Ax - b mal condicionado !es decir$ con (on).A) ,rande&$ se busca una matriz inversible " tal *ue (on)."A) sea "e*ueno( Entonces$ se resuelve el sistema e*uivalente "Ax - "b *ue %a es bien condicionado( El caso m s #avorable serAa " - A -1# "ues entonces (on)."A) - (on).> & - .( Las tecnicas de "recondicionamiento buscan una matriz " H"ro)imaH a A -1# "ero #acilmente calculable( !La estrate,ia m as #avorable consiste en calcular directamente "A % "b.) Las t ecnicas m as comunes son la #actorizaci on incom"leta de Eauss$ #actorizaci n incom"leta de CIolesJi$(((
$ METODOS DIRECTOS (ARA S.E.L. Los me)odo& d "ec)o& se caracterizan "or el IecIo de *ue$ si no Iubiera errores de redondeo$ se obtendrAa la soluci n e)acta del sistema en un nKmero #inito de o"eraciones( ;resentamos los si,uientes metodos<
$.1 Me)odo de *a+&&.Dado un S(E(L( Ax - b con A 9 M n x n
inversible$ el "rinci"io *ue ri,e el me)odo de *a+&& "ara la resolucion del sistema se "uede resumir en Hla determinaciAon de una matriz inversible M tal *ue la matriz M A sea trian,ular su"eriorH( Este es el "roceso llamado de elimina(ion. Una vez #inalizado este "roceso se resolveraA el sistema trian,ular e*uivalente M A x - M b mediante el mAetodo de sustituciAon retrAo,rada( En la "rAactica no se calcula M # sino directamente los "roductos M A % M b . El metodo de Eauss se realiza en tres blo*ues< .( ;roceso de eliminaciAon sucesiva de incAo,nitas$ *ue e*uivale a la determinaciAon de una matriz M tal *ue M A sea trian,ular su"erior(
3(
CLlculo del vector M b # *ue se suele realizar simultLneamente al blo*ue .( Resoluci n de sistema trian,ular M A x - M b "or sustituci n retro,rada(
0(
Eauss normal
Eauss con "ivote "arcial Eauss con "ivote total % un cuarto al,oritmo<
>
#actorizacion L?
*ue es la inter"retaci on matricial de la "rimera versi on( *a+&& no"mal: El "roceso de eliminacion se realiza en !n .& eta"as< en cada eta"a J- esima se obtienen ceros en la columna @ "or debaMo de la dia,onal "rinci"al( AsA$ "artiendo de Ai - A# en la eta"a J-esima se constru%e AJB. a "artir de A @ - .a @ 3 ) . ;ara "oder realizar cada eta"a J-esima se e)i,irL !% esta es la caracterAstica esencial de Eauss normal& *ue< a
@
@@
- 4$
y@ 2 1 # . . . # n .
Etapa @-Asima : Se Iacen ceros en la columna @ "or debaMo de la dia,onal "rinci"al restando a las #ilas i - @ B .$. . . # n # la #ila @
a
i @ a @@
. .
45 . ) e t . E @ & - .&(
C + i #@
a
@@
Dn@ -# @
.4
E EE A - M A - ? #
-----------------------------------'-----------------------------------,
donde ? es una matriz trian,ular su"erior$ % simultOneamente< E n- .... E E 1 b 2 M b . -ac)o" .ac #n L? : Es la inter"retaci n matricial de mPtodo Eauss normal( Teniendo en cuenta *ue todas las E @ son matrices trian,ulares in#eriores con elementos dia,onales i,uales a uno !"or tanto$ inversibles&$ se tiene *ue la matriz<
..
L - M - l 2 E -l E -1 ...EFl
Teo"ema 3 .- .Ga(toriHa(iIn L?) Sea A - . a 0 & E M n x n tal %ue las n submatri(es prin(ipales:
i
.3
an
i@
.0
@ - .$((( #n# sean in'ersibles .esto es# )et.A @ & F 4 $ D9c - .$((($ n). Enton(es# aJ @ - 4$ V @ 2 1 # ... #n# ;# por tanto# existe una matriH triangular in$erior L - !lM & (on elementos )iagonales l a - .$ V i - 1 # . . . # n # ; una matriH triangular superior ? - .u 0 & tales %ue A - L?. A)em-s# esta $a(toriHa(ion es Kni(a.
i
;or tanto$ si la eliminaci n ,aussiana es HnormalH la resoluci n del sistema Ax - b se "uede sustituir "or la resolucion de dos sistemas con matriz trian,ular !"or tanto$ #acilmente resolubles "or sustitucion& Ax 2 b <2: L ? x 2 b -$
<=> {
L b
[
# ?x
2 ;
.2
- ai0# 0 2 l#...#n. a0 1 L$
0
l0 i 2
#...#n.
uii
i0
i0
8 l i @ u @0 @ 21 i -i
i M M M #n-
0i
Q9
J u
0 @ u @i
O%&e"'ac #n $ . - A l a +ora )e implementar el meto-)o en el or)ena)or# esta estru(tura )e (al(ulo permite alma(enar (a)a u i 0 en la posi(io-n )e a i 0 ; (a)a l 0 en la (orrespon)iente posi(ion )e a 0 # (on el (onsiguiente a+orro )e memoria.
i i
Como a"licaci n directa del mPtodo L? se tiene *ue< )et.A ) - )et.L) )et.? & - )et.? & - u..u33 M M M u nn .
-
>
--------'---------------,
-i
*a+&& con p 'o)e pa"c al: No es di#Acil encontrar eMem"los de sistemas donde el metodo de Eauss normal no "uede llevarse a la "ractica$ "uesto *ue al, n elemento a @ resulta nulo( En este
@
.6
caso serL necesario$ antes del "roceso de eliminaci n$ un cambio de orden en las ecuaciones del sistema a #in de obtener un elemento dia,onal no nulo( En esto consiste en metodo de Eauss con "ivote "arcial$ *ue tambien se desarrolla en !n .& eta"as< Etapa @-Asima < Cada eta"a se realiza en dos "asos< ;ASO .< Se eli,e el pi'ote par(ial % se lleva a la dia,onal$ esto es$ se intercambia la #ila @ con la #ila i : @ tal *ue el "ivote a @ @ sea no nulo % veri#i*ue<
I @ \ i @ i
ma) =
p
@ 1p1n
Si no e)iste dicIo elemento$ se "asa a la eta"a !J B .&( Matricialmente$ este "aso e*uivale a multi"licar " @ A @ # con< > # si i - " @ @ # N @i # si i - @ # donde N @i es la matriz de "ermutaci n resultante de intercambiar en la identidad las #ilas i % J< !. 4.
N
45
@i
.)et.N @i ) - L .&( . 4
.7
.1
;or tanto<
det(p
k
.6
&-
N.$
1
&
si i - @ #
;ASO 3< Se Iacen ceros en la columna @ "or debaMo de la dia,onal "rinci"al como en el caso de Eauss normal( Matricialmente$ corres"onde a Iacer A @B1 - E @ " @ A @ . Una vez realizadas las !n .& eta"as se tiene la matriz trian,ular su"erior< A n - E n Ll " nL1 . .. E " E 1 " 1 A - M A - ?#
M -----------'
Teo"ema 0 .- Sea A M n x n (ual%uiera. Existe# al menos# una matriH M in'ersible tal %ue M A es triangular superior. A)emas: )et.M & CC !CCCCCCCCCCCCCCCCCCCC.& nKmero de cambios de #ilas CCC .
u 11 u ... u nn .
./
O%&e"'ac #n 3 .- Las estrategias )e pi'ote# a)emas )e +a(er $a(tible el pro(eso )e elimina(ion# e'itan la )i'ision por nKmeros mu; pe%ue&os (on los (onsiguientes errores )e re)on)eo. *a+&& con p 'o)e )o)al: Constitu%e una nueva estrate,ia "ara evitar en la medida de lo "osible los errores de redondeo de los metodos de Eauss normal % con "ivote "arcial( La idea consiste en ele,ir como pi'ote total el elemento de ma%or valor absoluto$ no solo en la columna @ # sino en todas las columnas 0 con @ 1 0 1 n. Esto introduce una nueva di#icultad$ %a *ue el cambio de orden en las columnas corres"onde a un cambio de orden en las inc ,nitas$ IecIo *ue debe ser tenido en cuenta a la Iora de la resolucion de sistema trian,ular( El metodo de Eauss con "ivote total se realiza en !n L .& eta"as< Etapa @-esima < Cada eta"a se realiza en dos "asos< ;ASO .< Se eli,e el pi'ote total a 0 - 4 tal
@
*ue<
I @ \
0
i @ i
@1p#% 1n
p%
.8
% se intercambian la #ila @ con la #ila i % la columna @ con la columna 0. Este "aso e*uivale a multi"licar " @ A @ O @ #
34
con< "
@
N @i # si i - J $
>#
si
- @8
O
J
3
si DJM $ si 0 - J(
1 2
- @8
;ASO 3< Se Iacen ceros en la columna @ "or debaMo de la dia,onal "rinci"al como en el caso de Eauss normal( Matricialmente$ corres"onde a Iacer AJ B i - E @ " @ A @ O @ . Una vez realizadas las !n L .& eta"as se tiene la matriz trian,ular su"erior< A n - E n L l " n L 1 ... E"E" A OO . . . O nLl - MAP - ?#
vv
M N
Teo"ema 4 .- Sea A M n x n (ual%uiera. Existen# al menos# )os matri(es M ; P in'ersibles tales %ue MAP es triangular superior. A)emas: )et.M & CC )et.P & CC !CCCCCCCCCCCCCCCCCCCC.& nKmero de cambios de #ilas .
;or tanto<
A\ .
1 5nKmero
3.
--------------' --------------,
'
? ; 2 Mb.
-------------' ------------, /
Al resol'er el sistema se obtiene ; # %ue es simplemente una reor)ena(ion )e las (oor)ena)as )e la solu(ion bus(a)a x # pues: ; 2 P L i x 2 O L i i ... O L i O L i x 2 O n Li ... O O i x.
Dentro de cada una de las versiones del mPtodo de Eauss !normal$ L?# con "ivote "arcial o total& se "ueden considerar di#erentes variantes( ;or eMem"lo< M6)odo de *a+&&-7o"dan: El metodo de E(-S( se basa en encontrar una matriz inversible M tal *ue M A sea dia,onal %$ a continuaci n$ resolver el sistema dia,onal e*uivalente M Ax - M b. !Consiste sim"lemente en dividir las com"onentes de Mb "or los corres"ondientes elementos dia,onales de M A(& Aun*ue se "uede Iablar de Eauss-Sordan normal$ con "ivote "arcial o total$ solo estudiaremos el caso de "ivote "arcial( El al,oritmo de eliminacion se desarrolla en n eta"as< en cada eta"a 9c-esima se Iacen ceros en toda la columna @ e)ce"to en el elemento dia,onal(
33
Etapa @-Asima < Cada eta"a se realiza en dos "asos< ;ASO .< Se eli,e el pi'ote par(ial# i,ual *ue en Eauss$ % se lleva a la dia,onal( Matricialmente$ este "aso e*uivale a multi"licar " @ A @ . ;ASO 3< Se Iacen ceros en toda la columna @ e)ce"to el elemento dia,onal$ restando a todas las #ilas$ e)ce"to la J $ un mKlti"lo adecuado de la #ila @ . Esto corres"onde a Iacer A @B4 - E @ " @ A @ # con<
30
.
a
!@ @
@@
32
.
Ei
l
@ + i #@ @@
)et i E#
i&-
36
@ @@
37
Una vez realizadas las n eta"as se tiene la matriz dia,onal< A nB1 - Q n " n - - - Q H " H Q p A - M 4 A - , #
*-----------------v------------------'
31
Teo"ema 8 . - Sea A * M n x n in'ersible. Existe# al menos# una matriH M in'ersible tal %ue M A es )iagonal. A)emas: )et.M) C C !CCCCCCCCCCCCCCCCCCCC.& nKmero de cambios de #ilas CCC T -=
O%&e"'ac #n 4 . - E l mAto)o )e 9.-3. esta espe(ialmente in)i(a)o para el (al(ulo )e in'ersas .aun%ue se pue)e usar (ual%uier otro mAto)o para la resolu(iIn )e S.E.L.). ,a)a una matriH A M n x n in'ersible# si )enotamos A -1 - . u i \u \ ... \ui n ) # > - !ei=e3. ... \e n ) # enton(es: AA -1 - > 12: A!ui 5 u 3 5 ... \u n ) - !ei 5 e 3 5 ... \e n ) 1 -U !Aui 5 A u 3 5 ... \Au n ) - !ei 5 e 3 5 ... \e n ) R- Au - e i # Si 2 1 # . . . # n . "or tanto# (a)a (olumna )e la matriH in'ersa A -i es la solu(ion )e un sistema lineal (on matriH A ; segun)o miembro el (orrespon)iente 'e(tor )e la base (anIoni(a.
3/
?tiliHan)o elmeto)o )e 9.-3.# para (al(ular A i basta resol'er los n sistemas )iagonales: MAu 2 M e i #
Wi 2 1 # . . . # n .
M6)odo de C"o+): Se basa en el si,uiente resultado< Teo"ema 9 .- .Ga(toriHa(ion )e Trout) Sea A - . a 0 & M n x n tal %ue las n submatri(es prin(ipales sean in'ersibles. Enton(es existe una matriH triangular in$erior L - & (on elementos )iagonales l ii - .$ W i - .$(.. #n# una matriH )iagonal , - . ) 0 & ; una matriH triangular superior ? - . u i 0 ) (on elementos )iagonales u i i - .$ W i - .$ . . . # n# tales %ue A - L,?. A)emas# esta $a(toriHa(ion es uni(a.
i i
El metodo tiene es"acial interPs cuando la matriz del sistema es simKetrica$ "ues entonces< Co"ola" o 1 .- Sea A - . a 0 & M n x n simetri(a tal %ue las n submatri(es prin(ipales sean in'ersibles. Enton(es existe una matriH triangular in$erior L - . l i 0 ) (on elementos )iagonales l i i - .$ W i - .$ . . . # n# ; una matriH )iagonal , - . ) i 0 ) tales %ue A - L,L t . A)emas# esta $a(toriHa(ion es uni(a.
i
38
;or tanto$ en el caso simPtrico$ la resoluci n del sistema Ax - b se "uede sustituir "or la resoluci n de tres sistemas sencillos !dos con matriz trian,ular % uno con matriz dia,onal&<
04
Ax 2 b
L , Lx
y
LH 2 b ,; 2 H Llx 2 ;
0.
<
U
ii
-8
;ara 0 - 8$ M M M # n < 0 -i
d
MM
MM
@)@@ @ 21
i0
z0 i @
1
0@)@@
+ 0 ----------J-.------------$ i - 0 B V # M M M # n
Como a"licacion directa del metodo de Crout se tiene *ue< det!A& - ) e t . , ) - ) 11) M M M ) nn8
03
M6)odo de C:ole&; : Si A es una matriz simetrica % de#inida "ositiva esta en las condiciones del teorema de #actorizacion L? % "or tanto admite una #actorizacion de ese ti"o( Sin embar,o$ es "osible encontrar otra #actorizacion aun mas sim"le< Teo"ema < .- .Ga(toriHa(ion )e T+oles@i) Sea A - . a W0 & E M n x n simetri(a ; )e$ini)a positi'a. Enton(es existe una matriH triangular in$erior 7 - .b i 0 & tal %ue A - 7 7 $ . A)em-s# se pue)e imponer %ue los elementos )iagonales bu : 4$ \Ji - .$... #n. En este (aso# la $a(tori-Ha(i-on es u-ni(a.
A es )e$ini)a positi'a . x l Ax : 4$ \Jx - 4&( Las submatri(es prin(ipales 'eri$i(an: )et.A @ & : 4$ JJ@ 2 l # . . . # n .
0( 2(
!4$ oo&(
00
;or tanto$ en el caso de#inido "ositivo$ la resolucion del sistema Ax - b se "uede sustituir "or la resoluci on de dos sistemas trian,ulares<
02
Ax 2 b o 7 7 $ x 2 b 18:
;
X 7
l
x %
06
;ara 0 - 8$ M M M # n <
07
0 -1
b
00 @ -.
01
0 -.
a
i@b0@
00
Como a"licacion directa del metodo de CIolesJi se tiene *ue< det!A& - ) e t . 7 & ) e t . 7 t ) - Wdet!X&Y3 - b..b33 M M M b nn.
0/
Dado un vector ' G [ n# ' - 4$ se llama ma)" . de >o+&e:olde" a una matriz de la #orma< ''8 3 \ !v& - > 3 N - > '' l E Mn n . [ ) . 'l' \\' \\
E
!;or convenio se suele considerar \!4& - > (& Se "uede com"robar *ue toda matriz de ZouseIolder es simetrica % orto,onal$ "or tanto$ ella es su "ro"ia inversa( Teo"ema ? .- .\ouse+ol)er)
n
: 4(
i2
Enton(es existen# al menos# )os matri(es )e \ouse+ol)er tal %ue las . n .& Kltimas (omponentes )el 'e(tor resultante )e multipli(arlas por a son nulos. ,e $orma mKs pre(isa: \ . a B 5 5 a 5 5 3 ei &a - N 5 5 a 5 5 3 e i $ \ .a
8a8 e 1 )a - \\a\\ e 1 .
3(
En to)os los (asos se pue)e en(ontrar una matriH )e \ouse+ol)er tal %ue la primera (omponente )el pro)u(to sea positi'a.
08
3(
En la pr-(ti(a no se (al(ula \. ' ) sino )ire(tamente \. ' )a : \ !v&a - la ## 3 '' a - a L 3 \\' \ \ \\' \ \
3
'.
2(
A la +ora )e la programa(iIn en or)ena)or# la ele((iIn )el signo )e ' - a T 5 5 a 5 5 3 e i se suele +a(er a)e(ua)a para e'itar )i'isiones por n-meros )emasia)o pe%ue&os: ' - a B 55a553ei$ ' - a L 8a8 e1# si a 1 : O$ si a 1 1 R .
El m6)odo de >o+&e:olde" "ara resolver un sistema Ax b consiste en encontrar . n L .& matrices de ZouseIolder \ 1 # \ # . . . # \ n L 1 tales *ue la matriz \nL1... \ \ 1 A - [ sea trian,ular su"erior( A continuaci n se resuelve el sistema trian,ular e*uivalente< Zn N. . . . \ \ 1 Ax - Zn N. . . . \ \ 1 b "or sustituci on retro ,rada( Entonces$ "artiendo de A 1 - A# en cada eta"a 9c-esima$ @ .$. . . # n L .$ se van calculando las matrices A @B1 - \ @ A @ de #orma *ue se Ia,an ceros en la columna @ "or debaMo de la dia,onal(
24
El "aso de la matriz A @ a la matriz A @B \ se realiza entonces de la si,uiente manera< Se toma el vector a @ [ n-@Bl #ormado "or los elementos de la columna @ de A @ a "artir del dia,onal !inclusive&( Se eli,e la matriz de ZouseIolder \ . ' @ & M .n -@ Bi )x .n- @ Bi ) . [ ) tal *ue \.N @ Z - \\ (i @ \ \ e 1 . Se constru%e entonces la nueva matriz de ZouseIolder<
2.
4 D '@
[n.
Matricialmente$ la eta"a @ -Psima e*uivale a multi"licar A @B1 \ @ A @ . Entonces la matriz A @Bi tiene ceros en la columna @ "or debaMo de la dia,onal( Una vez realizadas las !n .& eta"as se tiene la matriz trian,ular su"erior< A n - \n L M . (( \ \ # A - O/A - [ #
--------------'
\$
- Z.Z3 M M M
n L1
- Z.Z3 M M M
nL 1
O es orto,onal !"or ser "roducto de matrices orto,onales&$ esto es$ O L 1 - O 1. En consecuencia< O1A - [ A - O[.
20
Todo lo anterior "uede resumirse en el si,uiente resultado< Teo"ema 1@ . - .Ga(toriHa(iIn O[ ) ,a)a una matriH A G M n x n .[ ) in'ersible existen# al menos# una matriH ortogonal O ; una matriH triangular superior [ tales %ue A - O[. A)emas# se pue)e elegir [ (on los elementos )iagonales rii : 4$ JJi - .$... #n. En este (aso# la $a(toriHa(iIn es Ini(a.
O%&e"'ac #n 9 .- Tomo una primera (onse(uen(ia )e la $a(toriHa(iIn O[ se tiene la siguiente apli(a(iIn para el (al(ulo )e )eterminantes: )et.A) - )et.O) )et.[ ) - )et.[ ) - r 11 r ... r nn .
-A---------------'----------------,
T.
El metodo de ZouseIolder "ara la resoluci n del S(E(L( Ax b consiste entonces en calcular la #actorizacion O[ de A !mediante las matrices de ZouseIolder& %$ teniendo en cuenta las e*uivalencias< Ax - b O t Ax - O t b [x - O tb
22
3 METODOS ITERATI5OS (ARA S.E.L. En ,eneral$ los sistemas lineales de ,ran tama+o Ax - b # con A M n x n . [ ) inversible$ *ue sur,en en la "rLctica suelen tener la matriz con mucIos ceros !matriz Iueca o sparse). Los mLetodos directos de resoluciLon no suelen resultar ventaMosos en este caso %a *ue a lo lar,o del "roceso de eliminacion mucIos de los coe#icientes nulos de A deMan de serlo$ elevando notablemente el ,asto de memoria en el ordenador( La si,uiente tabla da el desarrollo a lo lar,o del tiem"o de lo *ue era considerado el tama+o lAmite Hmas ,randeH *ue "odLa ser tratado "or los mLetodos directos< a+o .86 4 .87 6 .8/ 4 .88 6 tama+o 34 344 3444 34444
En contraste con estos metodos e)isten otros *ue solo Iacen uso de la matriz ori,inal A # son los llamados m6)odo& )e"a) 'o& !o indirectos&$ % *ue se caracterizan "or construir$ a "artir de un vector inicial x ] arbitrario$ una sucesion de vectores { x @ ^ @ P destinada a conver,er a la soluciLon del sistema(
26
Los metodos iterativos *ue vamos a estudiar son los llamados me)o do& l neale& *ue constru%en la sucesion { x @ ^ mediante el si,uiente es*uema lineal<
@
x ] arbitrario$ )JBi - 7 x @ B ( # @ - 4$1 # . . . donde la matriz 7 M n x n . [ ) .matriH )el mAto)o) % el vector ( [ n .'e(tor )el mAto)o) se eli,en a "artir de los datos A % b. Un metodo lineal se dice con'e"Ben)e si cual*uiera *ue sea el vector inicial x ] [ n la sucesiLn es conver,ente$ esto es< 0 lim x @ - x .
@
Su"on,amos *ue el metodo es conver,ente$ entonces tomando lLmites en la e)"resioLn del mLetodo se tiene< x - lim x @ B 1 - lim !X)J B c& - 7 x B ( # esto es< . > L 7 ) x - (. ;or tanto$ 7 % ( deben ele,irse de tal modo *ue el sistema !I L 7 ) x - ( ten,a soluciLn !es decir$ !I L 7 & sea inversible& % los sistemas Ax - b e !I L 7) x - ( sean e*uivalentes(
27
Como consecuencia se tiene el si,uiente resultado de caracterizacioLn de la conver,encia "ara los mLetodos iterativos lineales< Teo"ema 11 .- Son e%ui'alentes:
.( 3( 0(
El mAto)o lineal es (on'ergente. p . 7 & 1 .( \ \ 7 \\ 1 .$ para# al menos# alguna norma matri-(ial subor)ina)a.
La cuestion es aIora la si,uiente< V*ue metodo iterativo !es decir$ *uLe matriz 7 ) ele,ir "ara resolver el sistema Ax - b[
21
Si la matriz 7 es normal . 7 7 $ 2 7 l 7 & entonces se tiene *ue \ 7 ==3 - p.7 &( ;or tanto< \\x @ - x \i - H7 @ !)o - )&==3 \ H7 @ \"
<
@
\"E O -
EI I
Se observa *ue en este caso el metodo conver,erL mas ra"idamente cuanto menor sea p.7 & 1 .( !La conclusion es similar "ara matrices ,enerales&(
En resumen$ en el estudio de los metodos iterativos lineales "ara la resoluciLon de un sistema Ax - b se debe<
.(
Com"robar *ue ! > L 7 ) es inversible % *ue los sistemas Ax - b e . > L 7 ) x - ( son e*uivalentes( .MAto)o bien (onstrui)o).
3(
0(
Ele,ir entre los metodos "osibles el *ue ten,a menor . Nelo(i)a) )e (on'ergen(ia alta).
2/
Los mLetodos clLasicos *ue vamos a describir son los re"resentantes mLas caracterLsticos de una clase ,eneral de mLetodos basados en una descom"osiciLon de la matriz A en la #orma A - M L P # donde M es una matriz H#acilmenteH inversible !trian,ular$ dia,onal (((& Este IecIo es #undamental a la Iora de llevar el mLetodo a la "ractica "ues$ aun*ue no calcularemos M L 1 # sA resolveremos sistemas lineales con matriz M . Se tienen las si,uientes e*uivalencias< Ax - b _ . M L P ) x - b _ M x - P x B b _ x - M L 1 P x B M L1b Com"arando con la e)"resion ,eneral< x - 7x B ( esto nos induce a ele,ir< 7 - ML1P# Ademas$ en este caso la matriz< > L 7 - > L ML1P - ML1M L ML1P - ML1.M L P & - ML1A es inversible$ "or serlo M % A. ( - M L1b.
28
tal como Iaremos en la "ractica&< QO arbitrario$ M)JBi - P x @ B b # @ - 4$1 # . . . Esto es$ "ara calcular un iterante a "artir del anterior no se calculan inversas o "roductos de matrices$ sino *ue sim"lemente se debe resolver un sistema lineal sencillo( Deamos a continuaci n los metodos de Sacobi$ de Eauss-Seidel % de RelaMaci n( ;ara ello$ descom"onemos la matriz del sistema en la #orma A - , L E L G# con< 45
64
a33
6.
nn
63
4 E
n
-a3i D
La
4 G
a
ai3 4 ai
n i#n
n1
n#n L1
Su"ondremos *ue , es inversible$ esto es$ *ue se veri#ica ) a 4$ \Ji - .$. . . # n . !Esta Ii" tesis no es e)clu%ente$ "ues siem"re se "uede encontrar una reordenaci n de las #ilas de A *ue la veri#i*ue&(
60
M6)odo de 7aco% : Se eli,e< M - ,# P - E B G. La matriz del metodo es< 3 - , L 1 . E B G & !Matriz de Sacobi& % el vector del m etodo es< ( - ,L1 b. ;or tanto$ el m etodo *uedar a< x @ B 1 - , L 1 . E B G)x @ B DN.b$ @ - 4$.$((. o e*uivalentemente< , x @ B1 - !E B ] &)J B b # @ - 4$1 # . . . Si denotamos "or )J la coordenada z-esima del iterante x @ # entonces se tiene la e)"resi n<
x
!matriz dia,onal&
@ B1
ii
8 a i0 x @ 0 21
b # i0 x @ i\ 0 2i B1
i - .$. . . # n . @ 4$1 # . . .
E#
- !D E ) L 1 G !Matriz de Eauss-Seidel& % el
vector del metodo es< ci - !D E ) L1b. ;or tanto$ el metodo *uedarL< x @ B i - !D E ) L 1 G x @ B !D E ) L1 b# @ - 4$1 # . . . o e*uivalentemente< .,
E ) x @ Bi - G x @ B b # @ - 4$1 # . . .
@ B1
ii
0 21
i 0 x @ B1
a x i0 @ 0 -iB.
B biY6
i - .$. . . # n . @ 4$1 # . . .
M6)odo de Relajac #n: Se introduce el "arLmetro real u - 4 "ara Iacer una descom"osici n A - M u P u de modo *ue la matriz del metodo ten,a el menor radio es"ectral "osible< . Mu - L , E # !matriz tria,ular in#erior& u ? P u - N , B G. u La matriz % el vector del metodo son<
11
#u
E ) L1b - !D u E ) L1 ub.
;or tanto$ el metodo *uedara< x @ B i - . , L u E &N. W!.N u ),BuG=x @ B . , L u E ) L1 ub# @ - 4$1 # . . . o e*uivalentemente< . , u E )x @B1 - W!. u ) , Bu G = x @ Bub# @ - 4$1 # . . . Se tiene entonces la e)"resion en coordenadas<
)
!.
J B. ii
u& )
WN
i 0 @ B1
6F
i0 @
b =#
0 21 0 2i B1
;or el teorema ,eneral de conver,encia$ los mPtodos clLsicos conver,en si % s lo si p . M L 1 P & 1 .$ esto es$ si todas las raAces de ) e t . M L 1 P E > & - 4 tienen modulo menor *ue uno( Teniendo en cuenta *ue ) e t . M & - 4$ esto es e*uivalente a *ue todas las raAces de ) e t . E M P & - 4 ten,an mAodulo menor *ue uno$ *ue es una condiciAon mAas sencilla de com"robar( A n asA$ esta condici n no es a"licable en la "r ctica "or sus di#icultades de calculo( Nos interesa$ "or tanto$ obtener condiciones de conver,encia mas #aciles de com"robar !% a ser "osible$ sobre la matriz A del sistema&( Teo"ema 1$ .- .Grobenius-Mises) ?na (on)i(iIn su$i(iente para la (on'ergen(ia )el mAto)o )e 3a(obi es %ue se 'eri$i%ue una )e las )os )esigual)a)es siguientes: 1. @ =F= 1 .$ .
Vi 2 1#...#n.
1 =1 a i i
123
@ =F= 1 .$
\$ 0
.(((((((((((((((n .
Teo"ema 13 .- .9eiringer) ?na (on)i(iIn su$i(iente para la (on'ergen(ia )el mAto)o )e 9auss-Sei)el es %ue se 'eri$i%ue una )e las )os )esigual)a)es siguientes: 1.
D
\ b \ 1 .$
0
Ni 2 1 # . . . # n .
.
D
i = l a ii U:23
\ 8\ 1 1#
N 0 2 1# . . . # n .
\ a i 0 \ 1 \ a u \ # Ni - .$((. # n .
3 =1 32i
es )e(ir# A es una matriH )e )iagonal estri(tamente )ominante. Enton(es# para to)a matriH A )e )iagonal estri(tamente )ominante .por tanto in'ersible) los mIeto)os )e 3a(obi ; 9auss-Sei)el son (on'ergentes.
Teo"ema 10 .- .ca+an) El ra)io espe(tral )e la matriH )el [ela0a(iIn 'eri$i(a: p ( # u & > =.
%"-
"or tanto# una (on)i(iIn ne(esaria para la (on'ergen(ia )el meto)o )e [ela0a(ion es %ue L !4$ 3&(
Teo"ema 14 .- .Rstrods@i-[ei(+) Si A es simAtri(a ; )e$ini)a positi'a# una (on)i(iIn ne(esaria ; su$i(iente para la (on'ergen(ia )el mAto)o )e [ela0a(iIn es %ue L !4$ 3&( ."or tanto# el meto)o )e 9auss-Sei)el es simpre (on'ergente para una matriH A simItri(a ; )e$ini)a positi'a).
O%&e"'ac #n ? .- Este ultimo resulta)o es (onse(uen(ia )e un resulta)o m as general segun el (ual# si (onsi)eramos la )es(omposi(ion A - M L P )e una matriH A simetri(a ; )e$ini)a positi'a# una (on)i(ion su$i(iente para la (on'ergen(ia )el mIto)o aso(ia)o es %ue la matriH . M l B P & sea tambiIn simItri(a ; )e$ini)a positi'a. ;ara #inalizar el estudio de los mPtodos iterativos$ veremos al,unos resultados "ara la com"araci n de la velocidad de conver,encia de los metodos clasicos( ;ara ello comenzaremos restrin,iendonos al caso de una matriz A tridia,onal !caso #recuente en la "ractica&$ % veremos a continuaci n otro resultado "ara matrices mas ,enerales<
Teo"ema 18 . - S i A es una matriH tri)iagonal tal %ue la matriH ) e 3a(obi 3 tiene to)os sus auto'a-lores reales# enton(es los mAto)os ) e 3a(obi ; ) e [ela0a(ion para LR E !4$3& (on'ergen o )i'ergen simultaneamente. En (aso ) e (on'ergen(ia# existe un parametro optimo ) e [ela0a(ion: 3 .F.
-
a p . 3 &Y
tal %ue:
". LR& - LLO - . 1 p . L i & - W"!S&Y3 1 p . 3 & 1 .
Teo"ema 19 .- .Stein-[osenberg) Sea A una matriH tal %ue la matriH ) e 3a(obi 3 tiene to)os sus (oe$i(ientes no negati'os. Enton(es se (umple una ) e las (uatro (on)i(iones siguientes:
.( 3( 0( 2(
p.T1) 2 p . 3 & - 4 4 1 "!L i & 1 p . 3 ) 1 . " ! S & - " !L i& - . . \ " ! S & \ " !L i&
.Esto es# los mAto)os ) e 3a(obi ; ) e 9auss-Sei)el (on'ergen o )i'ergen simultaneamente. En (aso ) e (on'ergen(ia# el mAto)o ) e 9.-S. es mas mpi)o).
0 METODOS EASADOS EN AL*ORITMOS DE DESCENSO ;ara resolver el sistema de ecuaciones lineales Ax - b con A M n x n simetrica % de#inida "ositiva$ se introduce la #unci n< 3 < ; [ n - 3. ; & - . ;eA; - ;/b [ # *ue veri#ica N3 !%& - A; L b # S; [ n . Teo"ema 1< .1. 3 es esti(tamente (on'exa en [ n .
3( 0( 2(
! &
Damos entonces a comentar brevemente los mAto)os ) e )es(enso "ara resolver el "roblema ! &< Dado ; [ n# se llama d "ecc #n de de&cen&o en ; a un vector ) [ n tal *ue 3 !% B p ) ) 1 3 !%&$ "ara un pa&o p su#icientemente "e*ueno(
Una condicion su#iciente "ara *ue ) sea una direcci n de descenso es *ue< ) $ V 3 !%& 1 ] . Los al,oritmos de descenso se caracterizan #undamentalmente "or la construcci on de una sucesi on de iterantes donde$ "ara "asar de un iterante x @ al si,uiente x @B1 # se eli,en una direcci n de descenso ) @ % un "aso p @ *ue ase,uren un decrecimiento de 3 # esto es$ tales *ue "ara x @ B 1 - x @ B p @ ) @ se veri#i*ue 3 . x @ B 1 ) 1 3 . x @ ) . E&G+ema Bene"al de lo& alBo" )mo& de de&cen&o: Ele,ir )4 [ n . @ - 4( Si V 3 . x @ & - 4< ;arar !- x - x @ &( Ele,ir una direcci n de descenso ) @ . Ele,ir un "aso p @ tal *ue 3. x @ B p @ ) @ & 1 3 . x @ ) . Actualizar x @B1 - x @ B p @ ) @ . @ Test de "arada !"or eM($ \\x @B1
!a& !b&
.( 3( 0( 2( 6( 7(
@ B .(
x @ \\ 1 s ) .
O%&e"'ac #n 1@ . - `a +emos 'isto un (riterio %ue nos permite elegir la )ire((iIn )e )es(enso. "ara la ele((iIn )el paso se tienen las reglas )e Tau(+;# )e Armi0o# )e 9ol)stein# ... fo)as ellas se basan en (al(ular p @ (omo el m*nimo )e la $un(ion real 10)@ !"& - 3 . x @ B p) @ & $ esto es# (al(ular p @ tal %ue sea solu(ion )e la e(ua(ion:
Las )istintas reglas propor(ionan )i$erentes aproxima(iones a esta solu(ion. Deamos a continuacio n las dos clases de m etodos de descenso m as sim"les<
0.1 Me)odo& de B"ad en)e.-
Los m etodos de ,radiente se caracterizan "or tomar como direcci on de descenso< ) @ - V 3 .x @ & - b "ues es ese caso< . ) @ &D S!)J& - \\V 3 . x @ ) \\ 1 ] . ;ara la eleccion del "aso p @ e)isten distintas "osibilidades( Deremos lo *ue se conoce como m#e)odo de maH mo de&cen&o *ue consiste en tomar p @ como la
Ax @ #
soluci on e)acta de la ecuaci on$ *ue en este caso es # acil de calcular< .\UJ !"& - 3 . x @ B p) @ & - 3!)J &A)J B . "!)J &AdJ 3 3 B3 "!dJ &A)J B . "3!dJ &AdJ L . x @ ) tb L p . ) @ ) tb. 3 3 !"& - -!)J &AdJB-!dJ &A)JB p . ) @ ) t A) @ L . ) @ ) tb. )p 33 Entonces< 2
!"
J&
8 3
Como A es simetrica< !)J) tA) @ - W!)J)t A) @ Yt - !dJ) tAx @ % "or tanto< .)@ ) t A)@
.
p
. ) @ ) t a A x @ b= . ) @ ) t ) @
)@ AsA "ues$ el metodo de ma)imo descenso consiste en$ "artiendo de un iterante inicial x ] [ n # construir la sucesion { x @ ^ de la #orma<
@ P
A x
- &d
t @
-b
Ax #
- !dJ&tA
dJ(
0.$ El me)odo de B"ad en)e conj+Bado.-
Los m etodos de ,radiente conver,en$ en ,eneral$ de manera mu% lenta^ "or lo cual en la "r ctica se suelen utilizar di#erentes modi#icaciones basadas en esos metodos( La mas sencilla es el me)odo de B"ad en)e conj+Bado donde$ "artiendo de un iterante inicial x ] [ n# se minimiza 3 si,uiendo n direcciones ) ] # ) 1 # . . . # ) n . linealmente inde"endientes % mutuamente A -conMu,adas$ es decir< . ) 0 ) tA) i - 4$ V 0 - i . Las direcciones ) @ se constru%en$ como veremos ma s adelante$ combinando las direcciones "revias con el ,radiente de 3 en el "unto x @ . Calculando p @ de #orma *ue se minimice la #unci n 0 0 @ # se de#inen< x @B1 - x @ B p @ ) @ # @ - 4$ .$ . . . # n .( Dado *ue las n direcciones de descenso son linealmente inde"endientes #orman una base de [ n %$ "or tanto$ si,uiendo esas n direcciones "odemos alcanzar el m nimo de 3. ;uede "robarse entonces *ue el iterante x n minimiza 3 # esto es< A x n - b. ;or tanto$ si no Iubiese errores de redondeo$ se alcan-zar a la soluci on e)acta en n iteraciones(
I r4 - b L A)4 4
d4 - r_ "4 !r4&D4 .)])tA)] W ). - ) 4 B "4d4 ;ara @ .$ . . . # n .<
^!r J
@
!rJ &t rJ
. )t W; /@ .
)@ - r B p@)@L1 p @ - !r
&t rJ
77
"
. ) @ ) t A ) @ x @B1 - x @ B p @ ) @ O%&e"'ac #n 11 .- AKn tenien)o (on'ergen(ia en n itera(iones# si n es gran)e el resulta)o no es mu; satis$a(torio.
En estos (asos el meto)o )e gra)iente (on0uga)o# sin ser estri(tamente un meto)o iterati'o .; a +emos 'isto %ue pue)e en(ua)rarse )entro )e los %ue )enominamos mAto)os )ire(tos)# pue)e (onsi)erarse (omo un m eto)o iterati'o me)iante la intro)u((ion )e un test )e para)a %ue nos permita $inaliHar el pro(eso antes )e la itera(ion n siempre %ue el error sea su$i(ientemente pe%ue&o.
0.3 El me)odo de B"ad en)e conj+Bado p"econd c onado.-
;ara acelerar la conver,encia del metodo de ,radiente conMu,ado en la resoluci n de Ax - b se "ueden utilizar t ecnicas de "recondicionamiento( ;ara ello$ tomaremos como "recondicionador una matriz S simetrica % de#inida "ositiva !"uede ser ele,ida a "artir de A "or di#erentes metodos&( Entonces$ se resuelve utilizando ,radiente conMu,ado el sistema e*uivalente< . S A S ) . S 1 x ) - Sb
71
*ue tiene tambien matriz simetrica % de#inida "ositiva( La elecci on de un buen "recondicionador "uede tener e#ectos es"ectaculares sobre la velocidad de conver,encia del al,oritmo(
7/
En la "r actica los c alculos no se Iacen con la matriz S # sino con la matriz M - S 3$ tambien de#inida "ositiva( El es*uema del m etodo ser a de la si,uiente #orma< )4 G [ n arbitrario$ r ] - b Ax ] H4 - Mr4 d4 - H 4
p
- !dFAd4
A)
H@ - M r @ p@
.
r@ ) t H@
.& t H @ .
78
)@
H@ B p @ ) @ L 1
! r &
14
.)@)tA)@ )JB. - x @ B p @
1.
En ,eneral se trata de resolver el "roblema G !)& - 4$ donde< G < , ! [n [n es una #uncion arbitraria( Esto es$ el "roblema es Iallar a G , tal *ue G !a& - 4( Ejemplo $ .- Supongamos el sistema no lineal:
! x\ 31).)3 sen.x ) - 2
).)3 B .0 log.x 1 ) Enton(es# traba0an)o (on: G < .x 1 # )3& G !4$ oo& & [
!
)3 - 4
G . x 1 # x ) - !2)# 31).)3 N sen!)3&N 2$ ).)3B.0 log.x 1 )Lx8 ) el problema se pue)e es(ribir: G !). $ ) 3& - !4$ 4&(
Se utilizan metodos *ue ,eneralizan los e)"uestos "ara el caso de una nica ecuacion( Deremos los dos metodos m as sim"les<
13
Se basan en escribir la ecuacio n G . x ) - 4 en la #orma e*uivalente x - $ !)& % considerar un al,oritmo iterativo de b s*ueda de "untos #iMos$ consistente en la construccion de una sucesi n de vectores { x @ ^ en la #orma si,uiente< x ] dado$
@9P
x nB1 - $ . x n ) # n - 4$ .$ 3$ . . . Tenemos el si,uiente resultado de conver,encia ,lobal< Teo"ema 1? .- Sea , un abierto a(ota)o )e [ n ; sea $ < , L [n 'eri$i(an)o:
.( 3(
)e$ini)a por:
10
;ara ase,urar la contractividad de 9 se tiene el si,uiente resultado< Teo"ema $@ . - Sea , un abierto a(ota)o ; (on'exo )e [ n ; sea $ : , L [n 'eri$i(an)o: 1. $ )eri'able en ,. . LL (ontinuas en , # )x 0 3. \ \ , $ ! ) & 5 5 1 L# \Jx , # sien)o el 0a(obiano: , $ !)&
12
)x n \ )x 1
d#n
!)&
16
;ara resolver la ecuaci on G . x ) - 4$ se constru%e una sucesi n de vectores { x @ ^ @ 9 P mediante< x ] dado$ )nB. - x n L a,G .x n )= L 1 G . x n ) # n - 4$1 # . . .
17
Esta e)"resio n es$ en "rinci"io$ bastante costosa desde el "unto de vista num erico$ "ues im"lica la inversi on de una matriz di#erente "ara el ca lculo de cada iterante( ;ero debemos tener en cuenta *ue no es necesario calcular la inversa del Macobiano$ "ues se "uede utilizar la si,uiente estrate,ia< A)n - )nB. L x n - L a , G . x n ) = L 1 G . x n & ,G.xn)Axn - LG.xn). Entonces$ dado x n se calcula A)n resolviendo el S(E(L( anterior !"or cual*uiera de los m etodos %a vistos en los a"artados anteriores& % a continuacio n se actualiza x nB1 mediante la e)"resi on< )nB. - x n B A)n(
;ara #inalizar$ daremos el si,uiente resultado de conver,encia local "ara el metodo de Ne'ton<
11
Si , G es (ontinua en a ; , G . a ) es in'ersible# enton(es para )4 su$i(ientemente prIximo a a se tiene %ue la su(esiIn { x @ ' (onstrui)a por el mAto)o )e Pedton (on'erge a a # ; 'eri$i(a:
@eP
( I I )nB. a\\ lim N----------N - 4( nLoo \ \ x n CC a ."or tanto# el or)en )e (on'ergen(ia es p : 1.)
3(
a\\
para to)o x en un entorno )e a # enton(es existe otra (onstante ( tal %ue: \\x nB l
a\\
<
(\\x n
a\\ #
Vn >
n].
1/
Ejemplo 3
1
). 4(0sen!).& 4(2cos!)3& - 4 )3 4(0cos!).& B 4(2sen!)3& - 4 Enton(es# para G < !).[)3& e R3 N` G !). $ ) 3 & por:
e
R3$ )a)a
G . x 1 # x ) - !). 4(0sen!).&N4(2cos!)3&$ )3N4(0cos!).&B4(2sen!)3&& el problema se pue)e es(ribir G . x .$ x 3& - !4$ 4&( 1. "ara resol'er el sistema me)iante itera(ion $un(ional# (onsi)eramos $ . x 1 # x ) - !4(0sen!).&B4(2cos!)3&$ 4(0cos!).&N4(2sen!)3&& ; expresamos el problema (omo . x 1 # )3& - $ . x 1 # x ) . Sea , - R!). $ ) 3 & enton(es
e
$ !). $ ) 3& e , #
-[
4(0sen!).& 4(2cos#e& )
. ! !*
&+
. [
<
18
Esto es# $ es (ontra(ti'a en , )e (onstante L 2 4(1 1 1. "or tanto# el meto)o )e itera(iIn $un(ional xg e , x nB1 2 $ . x n &$ n - 4$.$ 3 $ ( ( ( es globalmente (on'ergente. . "ara resol'er el sistema me)iante Pedton# se tiene en (uenta %ue Asi pues# , G . x 1 # x ) es in'ersible siempre# en parti(ular en la solu(ion. "or tanto# el m eto)o )e itera(ion $un(ional xg )a)o# x nB1 - x n
a , G . x n ) = L 1 G . x n ) # n - 4$.$ 3 . . .
(on'erge lo(almente .esto es# para xg su$i(ientemente proximo a la solu(ion) (on or)en )e (on'ergen(ia .
/4
/.