Documente Academic
Documente Profesional
Documente Cultură
http://adl.anmb.ro
Unitatea de nvare 3:
Elemente de calcul matriceal
Timp mediu de studiu: 12 ore
Obiective:
1. Recapitularea unor elemente legate de rezolvarea sistemelor de ecuaii liniare.
2. Familiarizarea studenilor cu metodele numerice de rezolvare a sistemelor de
ecuaii liniare (metode directe i metode iterative).
3. nsuirea metodelor de determinare numeric a valorilor i vectorilor proprii
corespunztori unei matrici ptrate.
4. Analizarea i testarea algoritmilor numerici pentru rezolvarea sistemului de ecuaii
liniare, respectiv pentru determinarea spectrului unei matrici.
Condiionri:
- U..1;
- Algebr liniar (cls. A XI-a);
- Analiz matematic (cls. A XI-a);
- Algebr liniar, geometrie analitic i diferenial (anul I).
Cuprins
U.S. 3.1. Metode directe pentru rezolvarea sistemelor de ecuaii liniare
U.S. 3.2. Metode iterative pentru rezolvarea sistemelor de ecuaii liniare
U.S. 3.3. Rezolvarea sistemelor de ecuaii liniare n sensul celor mai mici ptrate
U.S. 3.4. Determinarea numeric a spectrului unei matrici
U.S. 3.1. se concentreaz asupra unei succinte recapitulri a elementelor privind
rezolvarea sistemelor de ecuaii liniare (nsuite n clasa a XI-a), iar apoi asupra
prezentrii metodelor directe de rezolvare numeric a acestor sisteme.
n U.S. 3.2. sunt trecute n revist cele mai utilizate metode iterative.
U.S. 3.3. i propune abordarea rezolvrii sistemelor de ecuaii liniare sub i
supradeterminate.
Determinarea aproximativ a valorilor i vectorilor proprii constituie tema tratat n
U.S. 3.4.
Bibliografie minimal
Bibliografie auxiliar:
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
Sarcini de nvare: Prin parcurgerea acestei uniti de studiu, studentul va reui s se
familiarizeze cu metodele directe de soluionare numeric a sistemelor de ecuaii liniare
(eliminare Gauss, factorizri LU) i s aplice apoi algoritmii numerici corespunztori n
abordarea unor exemple concrete.
3.1.1. Introducere
O problem fundamental a Analizei numerice matriceale o constituie rezolvarea
sistemelor de ecuaii liniare.
Acestea apar, att direct ct i indirect, ca urmare a modelrii unor fenomene, ce
acoper ntreaga arie a tiinelor fizice, biologice i sociale. De asemenea, pot fi ntlnite
n rezolvarea unor probleme ce vizeaz: teoria optimizrii, aproximarea funciilor,
rezolvarea sistemelor de ecuaii neliniare, teoria ecuaiilor difereniale, a celor cu derivate
pariale, integrale i integro-difereniale, calculul statistic, etc.
Datorit importanei lor deosebite, de-a lungul timpului, un numr mare de
matematicieni i-au canalizat eforturile n vederea obinerii soluiei numerice a acestor
sisteme. Au fost dezvoltai algoritmi exceleni pentru cele mai multe tipuri de probleme
studiate; o parte dintre acetia fiind analizai i ilustrai n acest capitol.
Considerm sistemul de ecuaii liniare:
Ax b
(1.1)
unde A K m n s.n. matricea coeficienilor, b K m s.n. termen liber, x K n s.n.
necunoscut.
Problema de calcul numeric pentru (1.1) const n determinarea unei soluii x* (i.e.
gsirea unui vector x* K n a.i. Ax* b ).
n situaia n care (1.1) nu satisface condiiile uzuale de compatibilitate determinat, se
atribuie o nou semnificaie noiunii de soluie, introducndu-se noiunea de:
a) pseudo-soluie (dac (1.1) este incompatibil).
Definiia 1.1.1.:
x K n se va numi pseudo-soluie a sistemului (1.1) dac
r* min r
x K n
unde
r Ax b
(1.2)
(1.3)
(1.4)
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
n fapt, dac
A B iC , B,C R
m n
A C m n
b Cm ,
(1.5)
C B z b2
x*
. n aceast situaie,
x* A 1b
(1.6)
(1.6), ns, nu trebuie interpretat ca o prescripie de forma x se obine premultiplicnd
termenul liber b cu inversa matricei coeficienilor, A 1 , ci numai ca o exprimare comod
pentru x* este unica soluie a sistemului (1.1).
Pentru dimensiuni ale (1.1) mai mari sau egale cu 4, calculul lui A 1 sau metoda
lui Cramer sunt procedee ce trebuie evitate, n primul rnd pentru timpul de calcul superior
ce-l necesit. Spre exemplu, numrul operaiilor aritmetice elementare necesitate de
*
1
n 1 determinani de ordin n ; pentru
j 1! (i.e.
j 2
n
1
n!
calculul fiecruia, avnd nevoie de
nmuliri i un numr comparabil de
!
j 2
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
b) metode iterative. Aplicabile pentru dimensiuni mari ale sistemului (1.1), ce apar
mai ales n rezolvarea ecuaiilor cu derivate pariale, aceste metode constau n
aproximarea soluiei exacte x* , prin intermediul termenilor unui ir de vectori, convergent
la x* .
Triangularizarea sau factorizarea triunghiular a unei matrice se obin n urma
multiplicrii acesteia cu anumite matrice cu o structur special, generic numite
transformri elementare.
Vom prezenta n acest subcapitol, cele mai importante tipuri de transformri i
proprietile acestora.
Definiia 1.1.7
S.n. matrice inferior triughiular elementar de ordin
n; k ) o matrice M k de forma:
n i indice
k (notat ITE
M k I n mk ekT
(1.7)
2.
xR
M k x i
xi , i 1,k
(1.8)
(1.9)
xi ik xk , i k 1,n
k
l
Pkl e1 e2 ... ll ... l k ...en
(1.10)
A
a 21 a 22 ... a 2 k ... a 2l ... a 2 n
...
... ... ... ... ... ... ...
l
a
al 2 ... alk ... all ... aln
l1
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
atunci
Pkl A
k
l
iar
APkl a1
a11
...
a12
...
al 1
...
a
k1
...
a n1
...
al
... a1n
... ...
al 2
...
...
...
ak 2
...
ak
...
... a kn
...
...
an2
...
aln
... a nn
an
...
Definiia 1.1.11.:
Fie u R n a.i. u 2 1 . S.n. reflector elementar de ordin
Householder o matrice U de forma
n sau transformare
U I n 2uu T
(1.11)
Propoziia 1.1.12.:
Un reflector elementar de ordin n , U are urmtoarele proprieti:
1) U U T ;
2) U GO n .
Definiia 1.1.13.:
S.n. reflector elementar de ordin n i indice k (notat RE n; k ) o matrice de forma:
Uk In
2uu T
(1.12)
u 2
2)
xi , i 1,k - 1
2u
, unde
x R , Uk x
u
xi ui , i k,n
n
2
2
2
2
n
n particular, dac xi 0 ux , x R , atunci U k , RE n; k ) a.i.
ik
xi , i 1,k - 1
U k x i , i k
Definiia 1.1.14.:
S.n. rotaie de ordin
n; k ,l ), o matrice
19 June 2015
(1.13)
0, i k 1,n
n i indici
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
1
J kl
0
...
0
...
...
0
k
l
...
...
...
1
...
0
...
...
...
...
...
0
...
c
...
...
...
...
...
0
...
s
...
...
...
...
...
0
...
0
...
...
...
s
...
0
...
...
...
c
...
0
...
...
...
Propoziia 1.1.15.:
O matrice RO n; k ,l are urmtoarele proprieti:
1) J kl GO n .
2)
xi , i k,l
J kl x i cxk sxl , i k
cx sx , i l
l k
3) n
particular,
xi , i k,l
J kl x i r, i k .
0, i l
0
...
0
...
0
...
1
(1.14)
(1.15)
pentru
x Rn
cu
r 2 x k2 xl2 0 , J kl ,
RO n; k ,l
a.i.
l11 x1 b1
l x l x b
21 1 22 2 2
. . . . . . . . . . . . . . . . . . . . .
li1 x1 li 2 x2 ... lii 1 xi 1 lii xi bi
(1.16)
(1.17)
.....................
l n1 x1 l n2 x2 ... l nn xn bn
Atunci:
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
b1
x
l11
b2 l 21 x1
x
l 22
...........
bi
xi
i 1
lij x j
j 1
, i 1, n
lii
(1.18)
(1.18) definete algoritmul de rezolvare numeric numit substituie nainte.
b) Fie sistemul de ecuaii liniare
Ux b
n n
, u ij 0 , i j i u ii 0 , i, j 1, n .
unde U R
(1.19)
(1.19)
u ii x1 u12 x 2 . . . . . . . . . . . . . . . u1n x n b1
u 22 x 2 . . . . . . . . . . . . . . . u 2 n x n b2
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
u ii xi u i ,i 1 xi 1 ... u in x n bi
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
u nn x n bn
(1.20)
bn
xn u
nn
bn 1 u n 1,n x n
u n 1,n 1
xn 1
. . . . . . . . . . . . . . . . . .
Atunci,
bi
xi
u ij x j
j i 1
u ii
, i 1, n
(1.21)
definete algoritmul de rezolvare numeric a sistemului (1.20), numit substituie napoi.
Numrul operaiilor aritmetice elementare necesare: (1.18) i (1.21) se obin
n 1 n
n 1 n
efectund: n , mpriri, 1 2 ... n 1
nmuliri i 1 2 ... n 1
2
2
adunri.
2. Metoda lui Gauss
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
Metoda lui Gauss este cea mai cunoscut metod direct de rezolvare numeric a
unui sistem de ecuaii liniare
Ax b , unde A GL n , b R n
(1.22)
Aplicarea acesteia presupune parcurgerea urmtoarelor etape:
a) determinarea unei matrice inferior triunghiulare nesingulare, M a.i. MA s fie o
matrice superior triunghiular;
b) calcularea simultan a vectorului Mb ;
c) rezolvarea sistemului de ecuaii liniare
MAx Mb
(1.23)
conform algoritmului (1.21).
Observaia 1.2.1.:
n practic, nu se calculeaz explicit matricea M , ci doar matricea MA i vectorul
Mb . Introducerea matricei M reprezint doar o comoditate de scriere.
Fundamentarea teoretic a primei etape se realizeaz prin:
Teorema 1.2.2.:
Fie A R n n a.i.
k 1, n - 1 , submatricea lider principal, A k s fie nesingular.
Atunci, M R n n , inferior triunghiular unitate, a.i. s aib loc relaia:
MA U
(1.24)
(1.25)
n n
unde U R
este o matrice superior triunghiular.
Demonstraie:
Demonstraia este constructiv; ea derulndu-se n
A a1 a 2 ...a n R n n ce satisface (1.24), unde a k a1k a 2 k ...a nk .
n 1
pai.
Fie
Pasul 1:
1 0
Considerm A1 A . Conform (1.24), A1 1 GL 1 ( a11
). Conform propoziiei
a 1
1
(3.2.2), M 1 , ITE n;1 a.i. M 1a1 i 0 , i 2, n ( i1 i11 , i 2, n ).
a 2
11
0
...
0
Atunci, A2 M 1 A1
2
a12
2
a 22
...
a n 22
... a1 2n
... a 2 2n
.
... ...
2
... a nn
a11
Pasul k :
Dup parcurgerea a k 1 pai, obinem
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
Analiz numeric
a k
11
k
a12
a1 kk 1
..
a1 kk
0 a k .. a k
a 2 kk
22
2k 1
... ..
...
...
...
k
k
Ak M k 1 M k 2 ...M 1 A1 0
0 .. a k 1,k 1 a k 1,k
k
0
0 ..
0
a kk
... ..
...
...
...
0
k
0 ..
0
a nk
Ak k M k 1 M k 2 ...M 1 A1 k M k k 1 M k k 2 ...M 1 k A1 k .
..
a1 kn
a 2 kn
...
..
..
.. a k k 1,n
k
.. a kn
..
...
k
.. a nn
k 0 . Aplicnd propoziia
Conform (3.24), A1 k GL k , deci Ak k GL k , de unde a kk
(3.2.2).
M k ITE n;1
a k 1
11
k
a.i. M k a k
...
...
...
... a1 kk 1
... a 2 kk 1
k 1
... a kk
...
0
...
...
...
...
Ak 1 M k Ak
a1 kk 11
a2 kk11
...
k 1
akk
1
0 , i k 1 , n .
Considerm
... a1 kn 1
... a 2 kn 1
...
...
k 1
... a kn
k 1
k 1
a k 1,k 1 ... a k 1,n
...
...
...
k 1
ank
1
k 1
... a nn
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
10
Analiz numeric
Observaia 1.2.4.:
Transformarea A M k A ( 1.2) se execut eficient deoarece:
- primele k 1 coloane ale lui A nu sunt afectate;
- n coloana k , sunt anulate elementele subdiagonale;
- elementele submatricei determinat de linia k i coloana k 1 sunt modificate
conform 1.2.1.1. din (El.G).
k 0
Dac k 1, n - 1 a.i. A k GL k ( a kk
), atunci, conform propoziiei 1.1.8,
M k , ITE n; k a.i.
Ak k
0 , i k 1, n .
ik
(1.26)
ik
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
11
Analiz numeric
n
1.
2.
ai k j k max aij
i, j k
.
(
A Pi k k AQ j k k ).
(1.27)
unde am notat cu Pk Pi k k i cu Q Q j k k
Algoritmul pivotrii totale (GTP)
- Se d A R n n a.i. A k GL k , k 1, n - 1 .
- Se calculeaz matricele: M 1 , M 2 ,..., M n 1 ,ITE, P1 ,..., Pn 1 ,PE i Q1 ,Q2 ,...,Qn 1 ,PE,
U superior triunghiular a.i. (1.27) s fie adevrat.
- U se memoreaz n triunghiul superior, inclusiv diagonala, al matricei A ; ik i j k ,
k 1, n - 1 , sunt memorai pe vectorii p i q , de dimensiune n 1 .
- 1. Pentru k 1 : n 1
1. Se determin cei mai mici ntregi ik k : n i j k k : n a.i.
ai k j k max aij
2. p k ik .
3. q k j k .
4. Pentru j k : n , % interschimb liniile ik i k .
1. a kj ai k j
5. Pentru i k : n , % interschimb coloanele k i j k .
1. aik aij
i, j k
6. Pentru i k 1 : n
1. aik ik aik / a kk
7. Pentru j k 1 : n
1. Pentru i k 1 : n
1. aij aij ik a kj
Observaia 1.2.5.:
1. Dac A GL n , atunci (GPP), respectiv (GPT) se execut complet, iar U este
superior triunghiular nesingular.
2. Dac A GL n i (1.24) nu are loc, atunci (GPP), respectiv (GPT) se modific astfel:
a) (GPP): Dup 1.1. se adaug: dac ai k k 0 ( aik 0 , i k,n ) nu se execut 1.2-1.5
pentru pasul k .
n aceast situaie, U An poate avea elemente diagonale nule.
b) (GPT): Dup 1.1, se adaug: dac ai k j k 0 ( aij 0 , i, j k, n ), (GPT) se ncheie la
pasul k , deoarece U Ak este superior triunghiular, iar rangA k 1 .
Datorit erorilor de rotunjire inerente, este destul de rar gsirea unui pivot nul.
Numrul operaiilor aritmetice elementare necesare n metoda lui Gauss.
a) Eliminare.
- Ak Ak 1 : - n k - mpriri
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
12
Analiz numeric
- n k 1 n k n k 2 n k - adunri
- n k 1 n k n k 2 n k - nmuliri
3
2
2 2
n 1 ... 2 1 n 1 ... 2 1
n3 n
n 1 ... 2 1 n 1 ... 2 1
3
n 1 n 2 ... 2 1 n n 1 O
2
2
n n
b) Mb k Mb k 1 : n k ,
n n 1
-
2
n 1 n 2 ... 2 1 n n 1 -
2
n n 1
-
c) n 1 n 2 ... 2 1
2
n 1 n 2 ... 2 1 n n 1 -
2
n-O
n 1 n 2 ... 2 1
3.1.3. Factorizri LU
O manier convenabil de rezolvare direct a sistemului (1.22), se obine dac se
consider o factorizare corespunztoare a matricei sistemului.
Definiia 1.3.1
Fie A R n n . A admite o factorizare LU dac L R n n , inferior triunghiular i
U R n n , superior triunghiular, a.i.
A LU
(1.28)
A admite o factorizare LDU dac L R n n , inferior triunghiular unitate, D R n n ,
diagonal i U R n n , superior triunghiular unitate a.i.
A LDU
(1.29)
Teorema 1.3.2.:
O matrice A R n n admite o unic factorizare LDU dac i numai dac
A k GL k , k 1, n - 1 .
Demonstraie:
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
13
Analiz numeric
" " Presupunem, prin reducere la absurd, c k n a.i. A k GL k .
Cum A k L k D k U k , conform ipotezei, iar L k ,U k GL k , rezult c D k GL k i mai
k 0
mult c d kk
.
Astfel, observm c, coloana k a matricei LD este nul ( lik ,i k , poate fi ales arbitrar)
i de asemenea c, linia k a lui DU este nul ( u kj , j k , poate fi ales arbitrar); de unde,
se obine c factorizarea LDU a matricei A nu este unic, ceea ce intr n contradicie cu
ipoteza de lucru.
" " 1. Conform teoremei 1.2.2, M R n n inferior triunghiular unitate
a.i. MA U este superior triunghiular. Dac considerm D diag u11 ...u nn atunci,
obinem
A M 1 D D 1U
(1.30)
2. ! Presupunem c A este nesingular. Presupunem prin reducere la
n n
absurd c, L, L R
, inferior triunghiulare unitate,
L L
triunghiulare unitate,
D, D R n n ,
D D
U,U R n n ,
U U
superior
de
unde
L 1 L D U U 1 D 1 ,
D 1 D UU 1 L L , D D i U U .
L 1 L I n
D U U 1 D 1
L L
I n mk ekT I n mk ekT
n 1
n 1
n 1
k 1
k 1
n 1
k 1
M k 1
. Deci, L I n
k 1
l i 1 ai 1
(1.31)
i
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
14
Analiz numeric
u1 j
a1 j
(1.32)
l11
Pasul k: Coloana k a lui L i linia k a lui U .
Aek LUek aik
k 1
s 1
eT A eT LU a kj
k
k
aik
k 1
lis u sk , i k, n
s 1
(1.33)
k 1
l ks u sj l kk u kj , i k 1, n
s 1
a kj
u kj
k 1
lks u sj
s 1
l kk
(1.34)
, j k 1, n
Observaia 1.3.3.:
Dac A k GL k , k 1, n , relaiile (3.31)-(3.34) calculeaz complet factorii L i
U . n cazul pivoilor nuli sau a cror valoare absolut este foarte mic, comparativ cu a
celorlalte elemente ale matricei, se va reaciona ca i n cazul procedurii de eliminare
gaussian.
Dac matricea sistemului, A este simetric i pozitiv-definit, atunci se obine un
caz particular de factorizare triunghiular, factorizarea Cholesky.
Teorema 1.3.4.:
Dac A R n n este simetric i pozitiv-definit, atunci i numai atunci, exist i
este unic o matrice inferior triunghiular, L a.i.
(1.35)
A LLT
iar lii 0 , i 1, n .
Demonstraie:
" " Conform ipotezei, A k este simetric, k
vR
a.i.
ui , i 1,k
vi
0, i k 1,n
pozitiv-definit, rezult c
. Atunci,
v R n \ 0 i u
A k u vT Av .
u T A k u 0 , k 1, n
i cum
1, n .
Considerm
u R k \ 0
u R k \ 0
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
15
Analiz numeric
" "
Dac
(1.35)are
loc,
atunci:
2
T
v R n \ 0 , vT Av vT LLT v LT v LT v LT v 0 , adic
2
AT LLT
T LLT A
dac
A este pozitiv-definit.
Numrul
operaiilor
k 1
lki2 , k 1,n
(1.37)
i 1
j 1
l ki l ji
i 1
l jj
(1.38)
, k j, j, k 1, n
elementare
necesare
factorizrii:
n n 1
2
mpriri,
n n 1 n 1
adunri i tot attea nmuliri.
6
Presupunem c matricea sistemului (1.22), A , admite o factorizare LU. Atunci,
rezolvarea sistemului const n aplicarea algoritmilor (1.18) i (1.21), sistemelor rezultate:
Ly b i Ux y
(1.39)
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
16
Analiz numeric
3.2.1. Preliminarii
Se consider sistemul de ecuaii liniare
Ax b , A GL n i b R n
(2.1)
n,
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
17
Analiz numeric
Printre avantajele majore ale utilizrii metodelor iterative, n detrimentul celor
directe, se numr viteza de convergen considerabil i simplitatea programrii
acestora.
Presupunem, n cele ce urmeaz, c am identificat o matrice G R n n i un vector
c R n a.i. I n G GL n iar sistemul
x Gx c
(2.2)
s admit ca unic soluie pe x* .
Scrierea echivalent (2.2) a sistemului (2.1) sugereaz definirea unei metode
iterative de rezolvare a sa, pornind de la o aproximaie iniial x 0 R n a soluiei exacte
k introdus prin urmtoarea relaie de
x* . Se consider astfel, irul de vectori din R n , x
k
recuren:
x k 1 Gx k c , k 0
(2.3)
n acest context, G s.n. matrice de iterare, iar c s.n. vector de iterare, ce corespunde
sistemului (2.1).
Definiia 2.1.1.:
Vom spune c metoda iterativ este convergent dac
lim x k x* , x o
(2.4)
( unde x k
k
iv) G este convergent.
k 0
Demonstraie:
i) ii)
Considerm irul e k k , asociat irului (2.3) definit prin
e k x k x* , k 0
(i.e. e k reprezint eroarea comis prin aproximarea soluiei exacte
iterare k ).
Se observ cu uurin c:
e k Ge k ... G k e 0 , k
Atunci, metoda iterativ este convergent dac i numai dac:
lim e k 0 lim G k 0
(2.5)
, la pasul de
(2.6)
(2.7)
1.
G k x G k 1 Gx G k 1 x ... k x .
G k x 0 (cci
Conform (2.7), klim
Gk x
Gk
), dar
k x . Fals!
n conformitate cu presupunerea fcut klim
ii) iii)
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
18
Analiz numeric
Fie 0 1 G . Atunci, afirmaia se obine utiliznd urmtorul rezultat: Dac
i 0 , atunci exist cel puin o norm matriceal subordonat unei norme
GR
vectoriale din R n astfel nct: G G .
Deci, G G G 1 G 1 .
iii) iv)
k
Gk G
1, k 0 (unde
iv) i)
n n
lim G k 0
Observaia 2.1.3.:
1. Dac G 1 , atunci
1
I n G GLn
i I n G
(2.8)
1 G
2. Teorema 2.1.2 reduce analiza convergenei irului (2.3) la problema algebric a
demonstrrii c G 1 .
3. Verificarea stabilitii procesului iterativ x k k implic de regul un volum
prohibitiv de calcule; de aceea, n practic, se prefer verificarea unei condiii de tip
Cauchy:
k N a.i. x k 1 x k x k , k k
(2.9)
unde este eroarea prestabilit, n limita unui numr maxim de iteraii Maxiter.
4. Metoda iterativ definit anterior nu reprezint altceva dect metoda
aproximaiilor succesive pentru determinarea unui punct fix al funciei: f : R n R n ,
f x G x c ((iii) f contracie pe R n ).
x P 1 Nx P 1b
(2.12)
Deoarece (2.12) are o form asemntoare cu (2.2), i se asociaz o metod iterativ, ce
genereaz urmtorul proces iterativ:
x k k , unde x k 1 P 1 N x k P 1b k 0, G P -1 N i c P 1b .
(2.13)
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
19
Analiz numeric
clasice:
Jacobi,
Gauss-Seidel,
1. Descrierea metodei
a) Metoda Jacobi
Cea mai simpl descompunere (2.10) a matricei A , este: A D L U , unde
D diag a11 ,..., a nn ,
aij , i j
lij
L lij
i , j 1, n ,
0, i j
N L U
U uij
i , j 1,n ,
aij , i j
uij
0, i j
, iar P D i
(2.14)
(2.15)
(2.16)
D 1 L U
x
n
j 1
(2.17)
aij x jk
, i 1, n
j 1
aii
(2.18)
(2.19)
b) Metoda Gauss-Seidel
Procesul iterativ fundamentat de metoda Gauss-Seidel apropiat de (2.18) este
obinut astfel ca determinarea componentei i a vectorului x k 1 s foloseasc att
componentele vectorului x k , ct i pe cele ale lui x k 1 calculate anterior x1 k 1 ,..., xi k 1 1 ,
ceea ce duce , n particular i la o economisire a spaiului de memorare.
Se utilizeaz, n aceeai ipotez (2.15), urmtoarea descompunere a matricei A :
A : P D L GL n i N U
(2.20)
1
(2.12) devine: x D L Ux D L 1 b
(2.21)
Deci, matricea de iterare Gauss-Seidel este GG S D L 1U
iar vectorul de iterare cG S D L 1 b
Atunci, irul de aproximaii ale soluiei exacte x* este definit prin:
x k 1 D L 1Ux k D L 1 b
xi k 1
bi
i 1
j 1
j i 1
aij x jk 1
aii
aij x jk
, i 1, n
(2.22)
(2.23)
(2.24)
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
20
Analiz numeric
D
1 w
L i N
D U
w
w
(2.12) devine: x
L
w
1 w
w D U x w L
L
w
i vectorul de iterare c SR
L
w
1 w
w D U
(2.27)
xi k 1 1 w xik
aii
1 w
D U x k
D L
b
i 1
n
bi aij x jk 1 aij x jk , i 1, n
j 1
j i 1
D L
w
x k 1
(2.26)
k definit prin:
Se consider x k
(2.25)
(2.28)
(2.29)
2. Convergena metodei
a) Metoda Jacobi
Conform teoremei 2.1.2, metoda Jacobi este convergent dac i numai dac
GJ 1 .
O condiie suficient ca G J 1 este ca matricea A s fie strict diagonal
dominant
Definiia 2.2.1.:
A R n n s.n. strict diagonal dominant dac
aii
j 1
aij , i 1, n
(2.30)
j 1
G j G j
, obinem:
G j max
aij
i 1 j 1 aii
. n plus, s-a
j 1
A11
O
A12
A22
(2.31)
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
21
Analiz numeric
a) A R
n n
aii
j 1
aij , i 1, n
j i
k 1,..., n a.i.
n
a kk
j 1
aij
(2.32)
j k
j 1
aij , i, j 1, n
(2.33)
j i
Demonstraie:
A ireductibil i slab diagonal dominant I n D 1 A 1 . Dar I n D 1 A G j .
Deci, se aplic teorema 2.1.2.
b) Metoda Gauss-Seidel
Conform teoremei 2.1..2, metoda Gauss-Seidel este convergent dac i numai
dac GGS 1 .
Pentru ca GGS 1 , este suficient ca A s aib una din urmtoarele proprieti:
i) A este strict-diagonal dominant;
ii) A este diagonal dominant i ireductibil.
Argumentarea este analog cu cea din cazul metodei Jacobi.
Un alt rezultat interesant este:
1
1
innd cont c A i
obinem P 1 N 1 .
(n R n ).
P P T A
. De aici,
Corolar 2.2.6.:
Dac A R n n este simetric i pozitiv definit, atunci metoda Gauss-Seidel este
convergent.
Demonstraie:
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
22
Analiz numeric
cci A este simetric (i.e. LT U i
D T D ). Dar, D este pozitiv definit, cci A este pozitiv-definit. Se aplic teorema
2.2.5.
P P T A D L D T LT D L U D
Observaia 2.2.7.:
1. Se poate arta, folosind teorema 2.2.5, c au loc urmtoarele echivalene: Fie
A R n n simetric i D pozitiv-definit, metoda Jacobi converge dac i numai dac A
i 2 D A sunt pozitiv-definite.
2. Dac dorim s comparm cele dou metode, n situaii particulare (de exemplu:
A tridiagonal sau G J 0 ), se arat c, aceste metode sunt fie amndou convergente,
fie amndou divergente. n caz de convergen, metoda Gauss-Seidel converge mai
repede.
c) Metoda (SOR)
Urmtoarea teorem ofer o condiie necesar de convergen:
Teorema 2.2.8. (Kahan):
G SR w 1
(2.34)
(2.35)
Demonstraie:
i 1
Observaia 2.2.9.:
Conform propoziiei 2.2.2, metoda (SOR) converge pentru w 0 ,1 .
Teorema 2.2.10. (Ostrowski-Reich):
Dac A este simetric i pozitiv-definit, atunci metoda (SOR) converge dac i
numai dac w 0 ,2 .
Demonstraie:
2
1 D .
w
T
Se aplic teorema 2.2.5. n acest caz, P P A
Observaia 2.2.11.:
Dac A R n n este tridiagonal , simetric i pozitiv-definit, atunci exist un
*
parametru optim de relaxare w
dac G j 0 ,
w* 1
i G SR 0 .
1 1 Gj 2
x k x k 1 x k x* x k 1 x* x k x* G j x k x*
19 June 2015
I n G j x k x*
(2.36)
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
23
Analiz numeric
1
Conform teoremei 2.1.2, I n G j GL n i I n G j 1 G . Deci,
n
j
x k x*
x k x k 1 , k 0
1
1 Gj
(2.37)
Gj
1 Gj
x 0 x 1
(2.38)
unde este norma matriceal din teorema 2.1.2, pentru care are loc (iii) i , n R n
este norma vectorial corespunztoare.
(2.37) reprezint o evaluare posteriori, iar (2.38) priori a erorii de aproximare.
Pentru a obine evalurile erorilor de aproximare pentru metoda Gauss-Seidel i
(SOR), se procedeaz analog.
Algoritmul Jacobi:
1. Se dau matricele A R n n , b R n 1 i eroarea .
n
2. Se calculeaz
G j max
aij
i 1 j 1 aii
G j D1 L U
(unde
j i
5. Dac
i 1, n ,
se calculeaz:
x 1 x 0
1
bi
xi k
aij x jk 1
j 1
j 1
aii
, se trece la 7.
6. Se adun 1 la k i se trece la 4.
7. Procedura este complet. Soluia sistemului Ax b este x k .
Algoritmul Gauss-Seidel:
1. Se dau matricele A R n n , b R n 1 i eroarea .
n
s 1 a
a sj
sj
/ 1
a
j 1 a ss
j s 1 ss
Se alege o aproximaie iniial x 0 .
3. Fie k 1 .
2. Se calculeaz max
s 1
4. Pentru
5. Dac
i 1, n ,
k
bi
se calculeaz: k 1
xi
x 1 x 0
1
j 1
j i 1
aij x jk aij k k 1
aii
, se trece la 7.
6. Se adun 1 la k i se trece la 4.
7. Procedura este complet. Soluia sistemului Ax b este x k .
Algoritmul suprarelaxrii:
1. Se dau matricele A R n n ,
2. Se calculeaz
19 June 2015
G RS
b R n 1 ,
, unde G RS
eroarea
1
D L
w
i parametrul de relaxare
1 w
D U
w.
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
24
Analiz numeric
Se alege o aproximaie iniial x 0 .
3. Fie k 1 .
4. Pentru i 1, n , se calculeaz:
i 1
xi k 1
5. Dac
x 1 x 0
1
wbi w aij x jk 1 w xi k w
j 1
aij k k
j i 1
aii
, se trece la 7.
6. Se adun 1 la k i se trece la 4.
7. Procedura este complet. Soluia aproximativ a sistemului Ax b este x k .
3.2.3. Metode de relaxare i de gradient
Rezolvarea unui sistem de ecuaii liniare printr-o metod iterativ poate fi echivalent cu
problema minimizrii unei forme ptratice.
n metodele de relaxare, se pornete cu o aproximaie iniial a soluiei, x 0 , creia
i corespunde vectorul reziduu
(2.39)
r 0 Ax 0 b
n
1
1 n
Ax , x bx , x
aij xi x j bi xi
2
2 i , j 1
i 1
(2.40)
Propoziia 2.3.1.:
Dac A R n n este simetric i pozitivdefinit, iar x* este soluia exact a
sistemului de ecuaii liniare Ax b , atunci x* este punct de minim pentru forma ptratic
asociat, J , i reciproc.
Demonstraie:
Fie x* , soluie exact a sistemului de ecuaii liniare Ax b . Considerm
urmtoarea form ptratic:
1
E : R n R , E x A x x* , x x*
2
Conform ipotezei,
x x* , E x 0
E x* 0 .
Dar,
(2.41)
1
E x J x Ax* , x* .n
2
gradJ x* 0
. Dar cum,
J
aij x j bi , i 1, n , gradJ x* Ax* b . Deci, x* este soluie a sistemului dat.
xi
j 1
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
v i
25
Analiz numeric
Scopul: modificarea lui
determinarea v0 d a.i.
J v
s scad i.e.
J v0 min J v
(2.42)
v d
Fie
v d .
c2
Ap , p c r , p J v
2
J v
Atunci: J v J v cp
1
A v cp , v cp b , v cp
2
c2
Ap , p c r , p J v
2
(2.43)
cmin
p , pentru ca J v J v ). Atunci,
(i r
r, p
Ap , p
(2.44)
r Av b A v c min p b r c min A p
r , p r , p
(2.45)
r, p
Ap, p 0 . Deci, r p .
Ap , p
k
cmin
r ,ek rk
vi ,
Obinem:
(2.46)
ik
r
v v cmik nek v k ek rk
akk vk , i k
akk
(2.47)
De asemenea,
rk
rk ri aik , i k
r Av b r Aek akk
akk
ik
0,
(2.48)
Convergena acestei metode este lent, ea fiind satisfctoare doar n cazul n care
matricea sistemului este predominant dominant.
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
26
Analiz numeric
Metoda Gauss-Seidel poate fi considerat ca metod de relaxare, n care direciile
de relaxare, se aleg succesiv e1 , e2 ,..., en , n mod ciclic: p k ei , i k (mod n).
Metoda suprarelaxrii folosete aceleai direcii de relaxare ca mai sus, nlocuind
pe fiecare direcie pe c min cu wc min .
Metodele de relaxare impun ca singur restricie privind alegerea direciei de
relaxare p , ca aceasta s nu fie ortogonala vectorului reziduu, r i.e r , p 0 .
n metodele de gradient, legtura ntre cei doi vectori este mult mai strns.
1. Metoda celei mai rapide coborri
Se alege ca direcie de relaxare, opusul reziduului de la iteraia anterioar i.e.:
p k r k 1
(2.49)
Pe aceast direcie, punctul de minim se alege:
r k 1 , p k r k 1 ,r k 1 1
c k
min k k k 1 k 1 k 1
Ap , p Ar ,r R r
unde
R x
Ax , x
, x 0.
x, x
Atunci:
(2.50)
x*
. Considerm:
(2.51)
r 0 , p1 r 0 ,r 0
cmi1n
Ap1 , p1 Ar 0 ,r 0
(2.52)
0 0
x 1 x0 c1 p1 x0 r ,r r 0
min
Ar 0 ,r 0
(2.53)
Ap , p
p , Ap
p k 1
(2.54)
i.e.
p k r k 1 d k 1 p k 1
(2.55)
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
27
Analiz numeric
d k 1
Atunci,
r k 1 , Ap k 1
, k 1
k 1
k 1
p
, Ap
(2.56)
k 1 , p k
c k r
min
k k
p , Ap
k p k
x k x k 1 c min
iar,
(2.57)
(2.58)
k Ap k
r k r k 1 c min
(2.59)
Formulele (2.56)-(2.59) se pot simplifica (ca scriere) dac facem urmtoarele
observaii:
(2.60)
r k , r k 1 0
k 1
r ,p
0
(2.61)
k
k
r ,p
0
(2.62)
ce se obin prin calcul direct. Avem astfel:
r k 1 , r k 1
k
cmin
Ap k , p k
r k 1 , r k 1
d k 1
, k2
k 2 k 2
r
,r
(2.63)
(2.64)
ck pk
(2.65)
k 1
Api , p j pi , Ap j ij , i, j 1, n
ck
*
(cci Ax , p k b , p k
b, pk
, k
Ap k , p k
(2.66)
(2.67)
c j Ap j , pk b, pk .
j 1
(2.65)
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
28
Analiz numeric
n b, p
*
k
k 1 Apk , pk
pk
(2.68)
Deci, problema este rezolvat dac vom determina p1 ,..., p n o baz de vectori
A -ortogonali. n acest scop, vom utiliza o metod de ortogonalizare de tip Gram-Schmidt.
Pentru aceasta, considerm v1 ,..., v n , un sistem de vectori liniari independeni.
Fie p1 v1 , p 2 v 2 c21 p1 ,..., p n vn
Determinm
c kj , k, j 1, n , j k
n 1
cnk pk
(2.69)
k 1
a.i.
Ap k , p j p k , Ap j 0
(2.70)
ckj
Av k , p j
Ap j , p j
ckj
, k, j 1, n , j k
vi ei , i 1, n
ak , p j
Ap j , p j
, jk
(2.71)
avem:
unde a k Aek
1. Algoritmul Southwell:
1. Se dau matricele A R n n , simetric i pozitiv-definit,
2. Se alege o aproximaie iniial x 0 .
Se calculeaz reziduul r 0 Ax 0 b .
3. Fie k 1 .
b R n 1
(2.72)
i eroarea
4. Se alege rk max ri k 1 .
i 1
k
5. Se calculeaz cmin
6.
rk
.
a kk
x k 1 , i k
k
Se calculeaz pentru i 1, n , x
i
7. Se calculeaz pentru
rk
k 1 rk .
xi , i k
akk
k r k 1 rk a
ik .
i
i 1, n , ri
a kk
8. Dac
, se trece la 10.
9. Se adun 1 la k i se trece la 4.
10. Procedura este complet. Soluia aproximativ este x k .
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
29
Analiz numeric
Algoritmul celei mai rapide coborri:
1. Se dau matricele A R n n , simetric i pozitiv-definit,
2. Se alege o aproximaie iniial x 0 .
Se calculeaz reziduul r 0 Ax 0 b .
3. Fie k 1 .
4. Se alege p k r k 1 .
r k 1 , r k 1
k
5. Se calculeaz cmin k 1 k 1 .
Ar
6. Se calculeaz:
7. Se calculeaz:
,r
b R n 1
i eroarea
i eroarea
k
x k x k 1 c min r k 1 .
k
r k r k 1 c min Ar k 1 .
Ap
5. Se calculeaz:
6. Fie k 2 .
,p
b R n 1
1
x 1 x 0 c min r 0 .
7. Se calculeaz: d k 1
r k 1 , Ap k 1
p k 1 , Ap k 1
8. Se calculeaz: p k r k 1 d k 1 p k 1
k 1 , p k
k r
c
9. Se calculeaz: min
k
k .
, Ap
10. Se calculeaz: x k
k
x k 1 c min p k .
11. Se calculeaz: r k
r k 1 c min Ap k .
k
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
30
Analiz numeric
min r 2
*
(3. 2)
x R
min x 2
n
x R
Ax b
a.i.
r * Ax* b
s.n.
(3. 3)
T
T
(unde A A A A
s.n. pseudoinversa matricei A )
(3. 5)
dac i numai dac A este monic.
Demonstraie:
Considerm funcia
2
F : R n R , F x Ax b 2
(3.6)
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
31
Analiz numeric
este pseudosoluie n sensul CMMP a sistemului (3. 1)
minim al funciei F .
x* R n
F *
x x 0 , j 1,n
j
2 *
d F x 0
x*
este un punct de
(3.7)
F x Ax b 2 Ax b , Ax b Ax , Ax Ax ,b b , Ax
2
dar,
b ,b AT Ax , x 2 AT b , x b ,b . Deci, (3.6)
AT Ax* AT b
n T
A A ij dxi dx j 0
(3.8)
i , j 1
Sistemul
(3.9)
AT Ax AT b
s.n. sistemul normal Gauss asociat sistemului de ecuaii liniare (3.1).
Dac A este monic atunci i numai atunci rangA n . Dar rangA rang AT A i
prin urmare AT A GL n , de unde rezult c (3.9) are o unic soluie x* . Conform
(3.8), d 2 F x* 0 i n consecin, x * este unica pseudosoluie n sensul CMMP a (3.1).
Observaia 3.1.2.:
1) Modalitatea de calcul pentru x* este rezolvarea sistemului de ecuaii liniare (3.9).
Cum matricea sistemului este simetric i pozitiv-definit, s-ar putea apela la factorizarea
Cholesky pentru rezolvare.
Totui, aceast manier de abordare nu este indicat deoarece, se poate dovedi cu
uurin, c numrul de condiionare al matricei AT A este n general mare.
*
2) Dac min F x F x 0 , atunci r* 0 i.e. x* reprezint soluia exact a
x R n
RxQ b
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
32
Analiz numeric
x* A b
(3.11)
(3.12)
T 1
G : R n R , G x x 2
2
(3.13)
Atunci, x este unica soluie normal n sensul CMMP a sistemului de ecuaii liniare (3.1)
dac i numai dac x* este unica soluie a problemei de minim asociat aplicaiei G cu
legtura Ax b .
n acest
sens, considerm funcia lui Lagrange asociat funciei G :
*
: R n m R , x, G x 2 i ri
Astfel,
x*
(3.14)
i 1
* *
x x , 0 , i 1, n
i
2 * *
d x , 0
* *
x , 0 , j 1, m
(3.15)
*
*
*
x n a1n 1 ... a mn m 0
*
Ax b
(3.16)
x* AT *
(3.17)
Ax* b
T*
AA b
(3.18)
x* AT *
Dac A este epic atunci i numai atunci rang A m . Dar rangA rang AAT i deci
AAT GL m . n consecin, sistemul AAT b admite o unic soluie * . Astfel, exist i
1
este unic x* R a.i. x* AT * x* AT AAT b A b .
Calculul soluiei normale
x*
V GO n a.i. AV L L O .
m
nm
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
33
Analiz numeric
y m
x Vy , y
y nm
Ax b
L 0 b
y
x* V L0 b
(3.19)
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
34
Analiz numeric
C nk
j ,
j 1
(4.2)
P C n X , P x X n p1 X n 1 ... p n
atunci:
pk
1 k 1
p j s k j , unde p0 1
k j 0
ik ,
i 1
(4.3)
Demonstraie:
n
P
1
1 n
1
.
Dac P i , atunci P i 1 i i 1
1 i
i 1
Astfel, obinem:
19 June 2015
n k
s
P
i
k
, unde s0 n .
P i 1k 0 k 1 k 0 k 1
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
35
Analiz numeric
n i pi n i 1 p j n j sk k 1
i 1
k 0
j 0
n i p i n i 1
i 1
p j s k n j k 1
j ,k 0
de
n k pk
p j si
j ik
p j sk j
j 0
p k s0
k 1
p j sk j i.e. (4.3).
j 0
p1 s1
p2
1
s2 p1 s1
2
. . . . . . . . . . . . . .
1
p n s n p1 s n 1 ... p n 1 s1
n
A C n n .
1
k
B k 1 , Bk Ak pk I n .
(4.4)
1
2. Bn 0 i A p Bn 1
n
dac p n 0 .
A ,
3. Dac
(4.5)
atunci
orice
coloan
a
matricei
C
In
B1 ... Bn 2 Bn 1 este un vector propriu asociat valorii proprii .
Dac este simpl, C On .
n 1
n2
Demonstraie:
1. A1 A
A2 AB1 A A1 p1 I n A 2 p1 A
A3 AB2 A A2 p 2 I n AA2 p 2 A A 3 p1 A 2 p 2 A .
Deci, dac
Ak A k p1 A k 1 ... p k 1 A
atunci Ak 1 ABk A Ak p k I n A
19 June 2015
k 1
(4.6)
2
p1 A ... p k 1 A p k A . Astfel,
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
36
Analiz numeric
An A n p1 A n 1 ... p n 2 A 2 p n 1 A
(4.7)
c:
1
Bn 1 .
pn
Dac pn p n 1 ... p s 0 i p s 1 0 , atunci
1
A1
Bs 2
ps 1
pn 0 , A-1
n 1
k
3. A I n C A I n Bn k 1
(4.8)
n 1
A I n k An k 1 p n k 1 I n ... 0 ,
k 0
k 0
2. Se determin p k Tr Ak , k 1, n .
3. Se consider PA i se rezolv ecuaia caracteristic PA 0 .
n 1
i
4. Pentru k A , k 1, n , se determin C k Bn i 1 i de aici vectorii proprii
i 0
asociai lui k .
3. Metoda Krlov
Fie A C n n i PA , polinomul su caracteristic. PA A 0 PA n p1n 1 ... p n
.
Fie
y k A k y 0 , k 1, n ,
obinem:
y n p1 y n 1 ... p n 1 y 1 p n y 0 0 , de unde
n
n j p y n , i 1, n
j
i
yi
j 1
(4.9)
k 1
i cum A x i ik x i , k 1, i 1, n , se obine:
k
Fie
19 June 2015
y k c11k x 1 ... c kn x n , k 1, n
(4.11)
(4.12)
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
37
Analiz numeric
Conform relaiilor anterioare, se obine: y n 1 q1i y n 2 ... qn 1,i y 0
c1 i 1 x 1 ... cn i n x n
P
unde i
i
i i 0 , i j, i xi P i 0 , i, j 1,n
(4.13)
(4.14)
apoi
1. Metoda Jacobi
Aceast metod se aplic n cazul matricelor reale simetrice i este, n contextul
calculului secvenial, inferioar altor metode iterative, datorit numrului mare de operaii
elementare pe care le necesit.
Resuscitarea interesului pentru metoda Jacobi a fost determinat de dezvoltarea
mainilor de calcul de tip paralel (multi-procesor). n acest cadru, metoda devine
competitiv, ntruct posed o structur granular, bogat n aciuni de calcul, practic
independente, ce pot fi executate simultan de procesoare diferite; cu alte cuvinte, metoda
Jacobi conine un paralelism intern. Cum n calculul paralel, nu numrul operaiilor
elementare reprezint o msur semnificativ a eficienei, interesul actual pentru metoda
Jacobi devine justificat.
Fundamentul teoretic al acestei metode l constituie teorema spectral a matricelor
hermitiene.
n esen, metoda Jacobi (1846), const n construirea unui ir de matrice ortogonalechivalente cu matricea iniial A . Matricea de ortogonal-echivalen se alege de forma
unei transformri Givens-Jacobi (definiia 3.2.9) a.i. s produc anularea a dou elemente
extradiagonale simetrice ale lui A .
Transformrile succesive ce i se aplic lui A distrug de fapt zerourile create anterior,
dar, n ansamblu, determin o reducere treptat a valorii elementelor extradiagonale a.i. n
limita erorilor de rotunjire, matricea devine aproape diagonal.
Produsul matricelor de ortogonal-echivalen este o matrice, numit matricea modal
asociat lui A , ale crei coloane constituie vectorii proprii corespunztori matricei A .
a) Descrierea metodei:
- Se construiete irul de matrice Ak k 1 , ortogonal-echivalente cu A , definit prin:
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
38
Analiz numeric
A1 A, Ak 1 J kT Ak J k , k 1
unde
Jk
este
transformare
i A , i 1, n , iar lim
J j
k j 1
Givens-Jacobi
a.i.
(4.16)
lim Ak diag 1 , 2 ,..., n ,
c s a pp a pq c s
Dar, k 1
k
k 1
k
a qp
a qq
c aqp
aqq s
k cs a k s 2
a ppk 1 a ppk c 2 2a qp
qq
k 1 a k a k cs a k c 2 s 2
a pqk 1 aqp
pp qq
pq
k 1 k 2 k
k 2
a qq a pp s 2a qp cs aqq c
k 1
Din (4.17), a pq
k 1 0
a qp
Notm cu
(4.17)
k
k
c 2 s 2 a qq a pp
k
cs
a pq
k a k
a qq
pp
2a k
i cu t
pq
(4.18)
s
c
(4.19)
(
-
(4.20)
t 2 2t 1 0
sgn
,c
1
1- 2
, s ct
(4.21)
s sin k , c cos k , k , \ 0 ).
4 4
p i q se aleg astfel ca
k
k
a pq
max aij
j i
(4.22)
i1,n
(4.22) constituie principalul dezavantaj al acestei metode (i.e. la fiecare pas, trebuie cutat
elementul extradiagonal, cel mai mare n valoare absolut).
- Alegerea lui p , q i conform (4.22) i (4.20) este a.i.s se asigure minimalizarea
lui Bk F .
b) Convergena metodei:
Teorema 4.2.1.:
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
39
Analiz numeric
lim Ak diag i , S n .
Demonstraie:
Obinerea afirmaiei se bazeaz pe urmtoarea
Lema 4.2.2.:
Dac X este un spaiu liniar normat finit dimensional, xk k X , mrginit i care
xk 1 xk 0 , atunci xk k este
admite o mulime finit de puncte de aderen iar klim
convergent.
Vom aplica lema 4.2.2, pentru a obine convergena irului Dk k i de aici, concluzia
teoremei:
0 , i p,q
Dk 1 Dk 0 , deoarece:
(i) klim
ii
ii
k pq
i cum k
k
, a pq
Bk
4
tg k a pq , i q
lim Bk 0 .
a k 1 a k - tg a k , i p,
Dk F Ak F A F
Teorema 4.2.3
Presupunem c A au
max aij k
(2)
n max aij k
i j
i j
sau
sau
(3) Ak F A F
(4.23)
A
Astfel, A Ak (vom considera ca valori proprii ale lui k , elementele sale diagonale)
iar matricea modal J J 1 ...J k .
Algoritmul Jacobi:
- Se d A R n n , simetric (prin triunghiul su inferior), J GO n i tolerana tol 1 .
- Se cere: determinarea valorilor proprii ale matricei A , prin diagonalizare iterativ cu
rotaii Givens-Jacobi, ce anuleaz la fiecare pas dou elemente extradiagonale simetrice.
1. 1
2. Dac n tol
1. 0
2. Pentru i 2 : n
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
40
Analiz numeric
1. Pentru j 1 : i 1
1. Dac aij
1. aij
2. p j
3. q i
a
3. Dac qp 0
1. c 1, s 0
2. Return
4. % Determinarea parametrilor rotaiei Jacobi
1.
2.
a qq a pp
2 a pq
sgn
1 2
1
, s ct
3. c
1 t2
5.
2. Metoda Givens
Introdus n 1954, mbuntete metoda Jacobi, determinnd valorile proprii ale unei
matrice A R n n simetrice, fie situate ntr-un interval determinat anterior, fie pe cele de la
un rang dat, aproximnd-o pe fiecare cu o precizie variabil. Aceast metod nu determin
i vectorii proprii corespunztori matricei A . Pentru aflarea acestora se va folosi o alt
metod (spre exemplu, metoda puterii).
n desfurarea metodei, distingem dou etape importante:
I. Aducerea matricei A la o form tridiagonal simetric, T .
n 1 n 2
Pentru aceasta efectum
rotaii plane n scopul anulrii elementelor de
2
pe poziiile 1,3 i 3 ,1 ; 1,4 i 4 ,1 ;...; 1, n i n ,1 , obinndu-se astfel o matrice
tridiagonal simetric de forma:
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
41
Analiz numeric
a1
b1
0
Tn
...
0
b1
...
a2
b2
b2
a3
0
b3
...
...
0
0
0
0
0
0
...
0
...
0
... ...
...
0 ... bn 2
...
...
(4.24)
a n 1 bn 1
a n
Pentru obinerea matricei Tn , se pot folosi n locul rotaiilor plane, n 2 matrice
Householder.
...
bn 1
(4.25)
lim Pi , i 1, n .
a1 R .
1
2
P2 a 2 a1 b12 ; P2 1 a 2 a1 a1 a1 b1 0 .
lim P2 (conform b). Deci, 2 , 2 R a.i. P 2 P 2 0 i 2 1 2 .
2 1
2 2
1
2
1
1
2
i P b P . Atunci, P P 0 i
P 0 . Conform ipotezei de inducie: P P 0 . Deci,
P 0 , j 1,i - 1 i conform b), Pi 1 admite i 1 rdcini reale,
Pi 1 ji bi2 Pi 1 ji , j 1, i ,
Pi 1
Pi 1
i 1
i
j 1
2
i i 1
i
j 1
i 1
i
i
j 1 i 1 j 1
i
i
i 1 j 1
j
i 1
i
j
i 1
i
j
i 1
i
j
i
j 1
~
~
~ 2
Pi 1 Pi 1 bi2 1 Pi 1
0 , i 1, n - 2 .
~
~
~
(iv) Din (4.25) i c), rezult c Pn Pn 1 0 , dac Pn 0 .
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
42
Analiz numeric
Observaia 4.2.5.:
1. Aplicnd teorema lui Sturm, se obine c numrul valorilor proprii asociate
matricei tridiagonale simetrice Tn este egal cu diferena dintre numrul schimbrilor de
semn ale irului Pi i 0 ,n n
n
a min ai ri i b min ai ri
i 1
i 1
r1 b1 , rn bn 1 , ri bi 1 bi , i 2 , n 1
unde
(4.26)
2. De asemenea, folosind aceleai argumente teoretice, se observ c numrul
valorilor proprii ale matricei Tn , mai mari ca a R , este egal cu numrul schimbrilor de
semn din irul Pi a i 0 ,n .
Pornind de la aceast observaie, se poate deduce o modalitate foarte simpl pentru
determinarea spectrului unei matrice tridiagonale simetrice i anume, metoda biseciei.
Presupunem c a 1 2 ... n b . Dorim o aproximare a valorilor proprii
k , 1 k n .
Pentru a realiza acest fapt, se vor parcurge urmtoarele etape:
1. Se consider c
ab
.
2
a p bp
(4.28)
Determinarea
vectorilor
proprii
pentru
o
matrice
tridiagonal simetric
Dac x este un vector propriu corespunztor valorii proprii i matricei Tn , atunci
Tn x x
a1 x1 b1 x2
b1 x1 b2 x2 b2 x3
Cum
0
0
b2 x2 a3 x3 b3 x4
0
bn - 1 xn - 1 an xn 0
(4.29)
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
43
Analiz numeric
x2
1 j 1 P j 1
a1
,..., x j
, j 2, n
b1
j 1
b x
i 1
i 1
(4.30)
Formulele (4.30) sunt extrem de instabile numeric i astfel folosirea acestora pentru
determinarea vectorilor proprii ai lui Tn este improprie i n aceast situaie se face apel
la metoda puterii.
3. Metoda puterii
Dac A C n n este oarecare, aproape singura caracterizare a valorilor sale proprii
este aceea c ele, sunt rdcini ale ecuaiei caracteristice PA 0 .
Presupunem c A admite n valori proprii distincte i 1 2 ... n ..
Metoda puterii, atribuit lui Van Mises, permite aproximarea perechii 1 , x 1 , atunci
1 este unica valoare proprie dominant (n modul), iar x 1 este vector propriu
corespunztor.
Descrierea metodei:
Fie x 0 , o aproximaie iniial a lui v 1 . Cum matricea A admite n valori proprii
distincte, v 1 ,..., v n , mulimea vectorilor proprii corespunztori, constituie o baz n C n .
Astfel,
n
x 0 i v i , 1 0
(4.31)
i 1
Putem presupune c 1 1 .
Considerm irul de vectori x k
(4.32)
Atunci,
x k Ak x 0 Ak
i v i
i 1
i ik v i
i 1
n
1k v 1 i i v i
i 2 1
1k v 1 k
0.
k 0 .
Conform ipotezei de lucru, klim
(4.33)
Deci, x k 1k v 1 k i x k 1 1k 1 v 1 k 1 , de unde
not x
rk
k 1
x k
v 1 k 1
v 1 k
, k 0
(4.34)
, norm vectorial n C n .
Atunci, din (4.33) i (4.34), se obine cu uurin
lim rk 1 i lim x k v 1
Dac
(4.35)
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
44
Analiz numeric
Observaia 4.2.6
1. Pentru ca, n decursul derulrii algoritmului, componentele termenilor irului
k
k i utilizarea
x
k s nu devin prea mari, este recomandabil normarea vectorilor x
irului
y k k , y k
n locul irului x k k .
n acest caz,
1 rk x k 1
x k
x k
, x k 1 Ay k , k 1
, iar v 1 x k 1 .
k ,Axk xk ,xk 1
x
RA x k
x k , x k x k , x k
(4.38)
(4.39)
y k k , RA y k y k , y k 1
).
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
45
Analiz numeric
Dac se dorete aproximarea unei valori proprii m , deprtat de o valoare fixat
(adic m i i , i m ), atunci se aplic metoda puterii matricei A I n ,
variant ce poart numele de metoda puterii cu deplasare.
Observaia 4.2.7.:
Convergena acestor variante ale metodei puterii este chiar mai bun dect a metodei
iniiale. Dar ea poate fi mbuntit dac se realizeaz o alegere judicioas a deplasrii
i anume, R A x 0 sau, chiar mai eficient, putem folosi n locul lui , irul k k
definit prin:
(4.42)
k R A x k , k 0
19 June 2015
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
46
Analiz numeric
Aplicaii
0
, b= 1
4
1
2
3
4
7
3
2
2
, b= 1
3
A=
50
50
2
1
1
1
1
1
1
50
1
A=
1
1
50
47
49
, b=
50
. Analog, pentru : A= 1
3
2
5
1
7
5
5
, b= 2
.
1
19 June 2015
1
3
11
2
1
12
, b= 20
33
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
47
Analiz numeric
5. Utiliznd factorizarea Crout s se determine soluia sistemului Ax=b, unde
A= 2
4
5
, b= 7
.
15
A= 4
2
1
4
5
7
12
10
, b= 33
48
2
3
6
6
7. Folosind pivotarea parial, s se trianguleze matricea A=
3 1
2
1
1
2
1
3
6
2
4
5
10
4
7
a.) A=
4
6
; b.) A= 2
4
2
5
0
11. S se calculeze :
a) Factorul L din descompunerea Doolittle a matricei A:
6
2
1.) A=
1
4
1
1
4
0
1
; 2.) A= 1
1
1
2
1
1
2
1
1.) A=
3
2
19 June 2015
5
1
7
5
2
3
1
; 2.) A=
0
1
2
1
3
0
1
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
48
Analiz numeric
2
7
12
1
4
5
1
d) Factorul U din descompunerea Crout a matricei A, unde : A=
0
1.) A= 1
0
1
10
2
2
10
1
4,27
4
; 2.) A= 1
1
2
1
1
2
0
1
2,75
3,5
2,75
12. Se cere termenul x ( 2 ) , obinut prin aplicarea unui sistem de ecuaii liniare Ax=b, a
metodei:
20
b.) A= 4
6
1
10
1
3
11
3
19 June 2015
17
, b= 13
18
20
, b= 33 .
36
10
1
12
1
, b= 0
1
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
49
Analiz numeric
b.) A= 1
1
c.) A= 1
2
1
16
, b= 10
12
0
1
2
1
, b= 0
1
a.)
10
A= 1
1
8
c.) A= 1
1
19 June 2015
1
10
1
1
6
1
1
10
1
9
0,9
b= 0,7
2,2
3
, b= 14
28
b.)
20
; d.) A= 1
1
4
A= 2
1
1
10
1
10
2
6
1
1
5
17
, b= 13
18
9
b= 5
6
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
50
Analiz numeric
14. S se determine x ( 2 ) , utiliznd metoda celei mai rapide coborri pentru
1
2
1
, b= 0
1
4
a.) A= 1
0
1
1
1
1
4
2
, b= 6
2
14
; b.) A= 1
0
1
13
0
0
2
1
, b= 1
1
Ax=b, unde A= 1
1
1
10
2
2
5
4
, b= 9
2
a.) A= 1
1
4
1
1
4
1
, b= 0
1
10
; b.) A= 1
1
1
10
1
10
9
, b= 7
.
22
0
0
19 June 2015
1
0
2
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
51
Analiz numeric
1
2
0
1
4
20
; A= 1
1
1
10
1
10
; A= 10
8
10
5
1
1
3
Apoi s se determine : ( A) i v .
19. Aceleai cerine i dac aplicm metoda Souriau Fadeev, matricilor :
4
a.) A= 5
1
b.) A= 2
1
14
13
0
2
5
1
c.) A= 1
1
2
0
2
0
Se cere, de asemenea A 1 .
20. Se aplic metoda Jacobi, matricilor :
20
a.) A= 1
1
b.)A= 2
3
10
1
10
1
2
Se cere : A( 2 ) , 2 .
21. Se aplic metoda puterii, matricilor :
a.) A= 5
1
14
13
0
b.) A= 2
1
2
5
c.) A= 1
0
1
2
19 June 2015
0
2
0
, x 1
; Se cere : x ( 2 ) cu (M.P.D.)
; Se cere : x ( 2 ) cu (M.P.I)
1 ; Se cere : x ( 2 ) cu (M.P.I).
1
Academia Naval "Mircea cel Btrn" (ANMB). Orice form de copiere, stocare, modificare
i/sau transmitere a acestui material fr acordul prealabil i scris al ANMB este strict interzis.
52