Calcul Numeric

Cursul 8
2015

Anca Ignat

Metode iterative pentru matrici simetrice i

pozitiv definite
Considerm cazul sistemelor liniare cu matricea sistemului simetric
i pozitiv definit:

A = A matrice simetrica aij = a ji

T

a11
a
21
A = a31

a
n1

i , j = 1, 2, n

a13 a1n
a11 a21
a
a23 a2 n
a22
12

T
a33 a3 n = A = a13 a23

a
an 2 an 3 ann
1 n a2 n
A = AT A = L D LT
a12
a22
a32

a31 an1
a32 an 2

a33 an 3

a3 n ann

 a11
0
D = diag[a11 , a22 , , ann ] =

0

0
a
21
L = a31

a
n1

0
0
a32

0
0
0

an 2

an 3

0 a12
0 0

0 0
T
L =

0 0

0 0

0
0

0
0

ann

0
a22

a13 a1n
a23 a2 n

0 a3 n

0 an 1 n

0
0

Definiii
Matricea simetric A nn se numete pozitiv semidefinit
(A 0):
n
Ax
,
x

Matricea simetric A se numete pozitiv definit (A > 0) dac:

Ax , x 0x n , x 0 .
n

Propoziie
Dac matricea A nn este pozitiv definit atunci matricea A este
nesingular.
Demonstraie: Presupunem prin reducere la absurd c matricea A
este pozitiv definit i singular. Atunci, sistemul de ecuaii liniare
3

Ax=0 are pe lng soluia banal x=0 i o soluie x0 0 . Avem:

x 0 0 0 Ax 0 , x 0 0, x 0 0contradicie!
A 0 aii Aei , ei 0i 1, , n

Lem
Fie A nn o matrice simetric i B nn o matrice nesingular
astfel nct matricea P = B + BT - A este pozitiv definit. Fie
matricea M = In - B-1A. Atunci raza spectral a matricii M este
strict subunitar dac i numai dac matricea A este pozitiv definit:

(M ) < 1 A > 0

Teorem
Fie A nn o matrice simetric, nesingular, cu diagonala
pozitiv, aii > 0, i = 1, , n i b n vectorul termenilor liberi.
Atunci metoda lui Gauss-Seidel genereaz iruri convergente la
soluia x * = A1b , x(0) dac i numai dac A este pozitiv defnit.
Demonstraie: Din teorema de convergen avem:

x ( k ) x * , k ( M ) < 1
Dac matricea A se scrie sub forma:

A = L D LT
matricile B i C sunt date de:

B = L D , C = B A = LT
5

Matricea iteraiei M este:

M = B 1C = B 1 ( B A) = I n B 1 A
ncercm s

aplicm Lema de mai sus. Pentru aceasta verificm

dac matricea P este pozitiv definit:

P = B BT A = L D ( L D )T L D LT = D
n

( Px , x )n = ( Dx , x )n = ((a pp x p ) p ,( xi )i )n = aii xi2

i =1

aii > 0 i ( Px , x )n > 0 x n , x 0 P > 0

Putem aplica Lema de unde deducem convergena irului construit
cu metoda Gauss-Seidel doar n cazul n care matricea A este pozitiv
definit:
x ( k ) x * , k ( M ) < 1 Apozitivdefinit
6

Metodele relaxrii
Fie A nn o matrice real ptratic de dimensiune n, simetric,
n un vector real. Considerm
A=AT i pozitiv definit, A > 0 i b
sistemul de ecuaii liniare:

Ax = b
Deoarece matricea A este pozitiv definit sistemul de mai sus are
soluie unic, x * = A1b . Vom considera funcia f : n :

f ( y ) A( x y ), x y

Din faptul c matricea A este pozitiv definit avem:

f ( y )0,y n i f ( y ) f ( x ),y x
7

Prin urmare x* este i unica soluie a problemei de minimizare:

min f ( y ); y n 0 f ( x )

Vom cuta soluia sistemului Ax=b, x * = A1b ca fiind soluia

problemei de minimizare de mai sus folosind o metod de tip
relaxare de forma:

y (0) n dat, y ( k 1) y ( k ) ck el ,l lk k 0,1,

y (jk 1) y (jk ) , j l , yl( k 1) yl( k ) ck
Constanta ck se determin astfel nct f ( y ( k 1) ) f ( y ( k ) ) n sperana
c irul y(k) astfel construit converge la x*.
8

Notm cu :

r(k) = b - Ay(k) vectorul reziduu.

Avem:

r ( k ) b Ay ( k ) Ax Ay ( k ) A( x y ( k ) )
f ( y ( k 1) ) f ( y ( k ) )2ck rl( k ) ck2 all

Pentru ca f ( y ( k 1) ) f ( y ( k ) ) este necesar i suficient s alegem ck

astfel ca:
(k )
(k )

r
r
2
(k )
l
l
,0
ck all 2ck rl (all 0)ck 0,2
sau 2
all

all

rl( k )
,cu k 0, 2
ck k
all
9

Metoda de relaxare obinut este urmtoarea:

y (0) n dat, y ( k 1)

(k )
r
y ( k ) k l el k 0,1,, k 0, 2
all

Pentru a aproxima x* se deduce o clas de metode numite metodele

relaxrii successive. Aceste metode se obin aplicnd metodele de
relaxare de mai sus. Vom considera:

k ,k

Vom construi un ir x ( k ) n astfel:

10

 x (0) y (0) unvectordin n dat

l 1 y (1)

(0)
r
y (0) 1 e1
a11

l 2 y ( 2)

(1)
r
y (1) 2 e2
a22

l n y ( n )

( n 1)
r
y ( n1) n en
ann

x (1) y ( n )

11

Trecerea de la iteraia k la iteraia urmtoare se face astfel:

x ( k ) y ( kn )
l 1 y ( kn1)

( kn )
r
y ( kn ) 1 e1
a11

l 2 y ( kn 2)

( kn 1)
r
e2
y ( kn1) 2
a22

l n y ( kn n )

( kn n 1)
r
en
y ( kn n1) n
ann

x ( k 1) y (( k 1) n ) ,k 0,1, 2,

12

Acum putem scrie dependena vectorului x(k+1) de x(k):

x (0) n 0, 2 date,

x
x bi aij x
aij x ,i1, 2, , n,
aii
j 1
ji

i 1
n

( k 1)
(k )
( k 1)
(k )
xi ) xi bi aij x j aij x j ,i1, 2, , n,
aii
j 1
j i 1

k 0,1, 2,
( k 1)
i

(k )
i

i 1

( k 1)
j

(k )
j

Metodele de mai sus poart numele de metodele relaxrii

successive. Pentru 1 obinem metoda Gauss-Seidel.

13

o 0 1 metodele se numesc de sub-relaxare i pot fi folosite n

cazul cnd metoda Gauss-Seidel diverge.
o 1 2 metodele se numesc de supra-relaxare i pot fi folosite
pentru accelerarea convergenei n cazul cnd metoda Gauss-Seidel
converge.
Rearanjnd formulele de mai sus avem:
i 1

aij x
j 1

( k 1)
j

aii

( k 1)
i

( k 1)

B x

(1 )

aii x aij x (jk ) bi

(k )
i

j i 1

C x ( k ) b i
i

Matricea A fiind simetric, poate fi scris sub forma:

14

 000
a 00
21
T

,
A L D L cu L

a
a
a

0
nn 1
n1 n 2

D diag a11 ,a22 , ,ann

Cu aceste notaii, matricile B i C de mai sus pot fi scrise astfel:

B L D,C

D LT

Vom verific dac metodele relaxrii succesive se nscriu n clasa

general de metode iterative, adic vom verifica dac A=B-C :
15

B C L D

D LT L D LT A

Convergena irului x(k) la soluia x*=A-1b ?

Teorem
Fie o matrice A nn , simetric, A=AT cu detA 0, aii>0 ,
i 1, , n , b n un vector real i 0, 2 . Atunci irul x(k)
construit cu o metoda de relaxare successiv converge la soluia x* a
sistemului liniar Ax=b oricare ar fi iteraia iniial x(0) dac i numai
dac matricea A este pozitiv definit.

x ( k ) x ,k x (0) Ax , x )0x n , x 0

16

Demonstraie: Vom verifica dac raza spectral a matricii iteraiei

este subunitar folosind Lema. Avem:

M B 1C B 1 B A I n B 1 A
B L

D,detB

a11a22 ann 0(aii 0,i )

Matricea A este simetric iar matricea B este nesingular. Pentru a fi

ndeplinite ipotezele Lemei trebuie s verificm c matricea P este
pozitiv definit:

P B B A L
T

D L
T

17

D L D L
T

 Px , x

(2 )

aii xi2 0 x0 aii 0,i )

i 1

(2 )

0 0, 2

Toate ipotezele lemei sunt ndeplinite, prin urmare avem

convergena dorit.

18

Valori i vectori proprii

(eigenvalues, eigenvectors)
Definiie
n n
Fie A . Numrul complex se numete valoare
proprie a matricii A dac exist un vector u n ,u 0 astfel ca:
Au=u
Vectorul u se numete vector propriu asociat valorii proprii .
Pentru existena vectorului u 0 este necesar i suficient ca
matricea (In A) s fie singular , adic det(In A)=0.

19

Polinomul de grad n:

pA det I n A

se numete polinom caracteristic al matricii A.

Propoziia 1
Fie rdcinile polinomului caracteristic 1, 2, ..., n distincte,
i j pentru 1 i j n i u1 , u2 , , un vectorii proprii
corespunztori. Atunci u1 , u2 , , un sunt liniar independeni.
(demonstraia se face prin inducie)

20

Propoziia 2
n n
Fie valorile proprii i ale matricii A
distincte. Atunci
exist o matrice nesingular T astfel ca:
T 1 AT diag[1 , 2 , , n ].
Demonstraie. Fie u1 , u2 , , un vectorii proprii ai matricii A.
Considerm matricea T ale crei coloane sunt vectorii proprii ui ,
u1 u2 un ]. Deoarece vectorii proprii sunt liniar
independeni conform propoziiei 1 rezult c matricea T este
nesingular. Vom avea:
AT Au1 Au2 Aun 1u1 2 u2 n un T .diag 1 2 n
nmulind cu T-1 obinem concluzia propoziiei 2.

21

Definiie
Matricile A i B sunt asemenea (notaie AB) dac i numai dac
exist o matrice nesingular T (det T 0) astfel ca:
A=T B T -1
Propoziia 3

A B p A pB .

Demonstraie.
p A det( I n A) det I n TBT 1 det TT 1 TBT 1
det T I n B T 1 det(T )det I n B det T 1 pB
Propoziia 3 ne spune c matricile asemenea au acelai polinom
caracteristic i aceleai valori proprii.

22