Metode pentru rezolvarea sau aproximarea solutiilor

sistemelor de ecuatii liniare

Norme de vectori si norme de matrici
Fie m N . Pe spatiul Rm se consider
a normele vectoriale uzuale  1 ,  2 si
  definite prin
x1 =

m


i=1

|xi | ;


 m


x2 = 
|xi |2 ;
i=1

x = max |xi | , x = (xi )1im Rm .

1im

Fie Mm (R) spatiul matricelor cu m linii si m coloane cu elemente din R. Pe Mm (R)

se pot considera norme definite ca norme de operator liniar
A := sup Ax , A Mm (R)
x 1

unde   si   sunt norme pe Rm . n cazul n care = notam A := A

si o numim norma a matricei A (subordonata normei vectoriale   ).
Propozitia -1.1 Fie A = (aij )1i,jm Mm (R). Atunci A1 = max

1jm

Propozitia -1.2 Fie A = (aij )1i,jm Mm (R). Atunci A = max

m

1im

Propozitia -1.3 Fie A Mm (R). Atunci A2 =

cea mai mare valoare proprie a matricei At A.
Exemplul -1.1 Fie

1 2 3

A = 4 5 6

7 8 9
1

i=1

|aij |.

m


j=1

|aij |.

(At A), unde (AtA) reprezinta

Atunci
A1 = max

1j3

3

|aij | =

3

|aij | =

i=1

= max (|1| + |4| + |7| , |2| + |5| + |8| , |3| + |6| + |9|) = max (12, 15, 18) = 18
si
A = max

1i3

j=1

= max (|1| + |2| + |3| , |4| + |5| + |6| , |7| + |8| + |9|) = max (6, 15, 24) = 24.

Conditionarea unui sistem de ecuatii liniare

Fenomenul de instabilitate manifestat n diverse procese matematice este important
de studiat , dat fiind limit
arile tehnicii de calcul sau ale m
asur
atorilor de unde provin
datele de calcul. Un exemplu cum este cel care urmeaza scoate n evidenta existenta
unui astfel de fenomen si motivatia studiului sau.
Exemplul -1.2 Fie sistemul de ecuatii Ax = b unde

32
10 7 8 7

23
7 5 6 5

cu solutia
b=
A=

33
8 6 10 9

7 5 9 10
31
Consideram sistemul perturbat

10

A=
8

A(x + x) = b + b unde

7 8 7

5 6 5

b + b =

6 10 9

5 9 10

1

1

x=
1


1

32, 1

22, 9

33, 1

30, 9

9, 2

12, 6

cu solutia x + x =
4, 5

1, 1

Consideram si sistemul perturbat (A + A)(x + x) = b unde

7
8, 1 7, 2
10

7, 08 5, 04

6
5

A + A =
b=
8

5, 98 9, 89
9

6, 99 4, 99
9
9, 98

81

137

cu solutia x + x =

34

22

(1)

32

23

33

30

(2)

Sistemul (1) difera de cel initial printr-o mica variatie a coloanei termenilor liberi,

iar sistemul (2) printr-o mica variatie a elementelor matricei. Dupa cum se observ
a
aceste mici variatii antreneaza dupa sine variatii mari ale solutiei initiale.
Exemplul -1.3 Dac
a consider
am sistemul perturbat (A +A)(x +x) = b + b unde

7
8, 1 7, 2
10
32, 1

22, 9
7, 08 5, 04
6
5

A + A =

b + b =

8
5, 98 9, 89
9
33, 1

6, 99 4, 99
9
9, 98
30, 9

332, 90

550, 49

atunci acesta are solutia x + x =

(3)

143, 88

84, 58
3

n leg
atur
a cu aceast
a problem
a de stabilitate a sistemelor de ecuatii liniare sunt
cunoscute urm
atoarele rezultate:
Definitia -1.1 Fie A o matrice nesingular
a si   o norma a matricei A. Num
arul
cond(A) := A A1  se numeste indice de conditionare al matricei A relativ la
norma  .
Teorema -1.1 Fie sistemul de ecuatii liniare Ax = b si sistemul perturbat A(x+x) =
b + b. Presupunem b = 0. Atunci
x
b
cond(A)
.
x
b

(4)

si
x
1
b

x
cond(A) b

n plus exista b = 0 si b = 0 astfel nct inegalitatea (4) sa devin

a egalitate.
Teorema -1.2 Fie sistemul de ecuatii liniare Ax = b si sistemul perturbat (A +
A)(x + x) = b. Atunci
A
x
cond(A)
.
x + x
A

(5)

n plus exist
a b = 0 si A = 0 astfel nct inegalitatea (5) s
a devin
a egalitate.
Teorema -1.3 Fie sistemul de ecuatii liniare Ax = b si sistemul perturbat (A +
A)(x + x) = b + b. Dac
a A1 A < 1, atunci


x
cond(A)
b A

+
x
1 A1 A
b
A
Exemplul -1.4 Vom considera cazul sistemului (1) si vom lucra cu norma infinit.
Avem:
x = x + x x = 13, 6
4

x = 1.
Atunci

A1

x
=
x

25

41

=
10

A
Rezult
a c
a

Avem

13, 6
= 13, 6
1
41

10

68 17 10

17 5 3

10 3 2


= 33, A1  = 136.



cond(A) := A A1 = 33 136 = 4488
b = b + b b = 0, 1.

b = 33..
Atunci

si

b
0, 1
1
=
=
b
33
330
cond(A)

Deci

b
1
= 4488
= 13, 6
b
330

x
b
= cond(A)
x
b

Exemplul -1.5 Fie sistemul de ecuatii Ax = b

10 1 4 0
15

1 10 5 1
15

A=
b=

4 5 10 7
26

0 1 7 9
15
Consideram sistemul perturbat

10

A=
4

unde

cu solutia

A(x + x) = b + b unde

1 4 0

10 5 1

b + b =

5 10 7

1 7 9

832

1324

cu solutia x + x =

2407

2021

1

1

x=
1


1

16

16

25

16

Exemplul -1.6 Un alt exemplu de matrici cu un indice de conditionare mare sunt

matricele Hilbert (Hn ) de ordinul n, definite astfel:
(n)
Hn = (h(n)
ij )i,j=1,n cu hij =

1
, i, j = 1, n
i+j1

Astfel cond1 (H3 ) = 748, cond1 (H4) = 28375, cond1 (H5 ) = 943656, cond1(H6 ) =
29070279, cond1 (H7 ) = 985194886, cond1 (H8 ) = 33872791095, cond1 (H10 ) = 35357439251992 =
3.53574392519921013 , cond1 (H20) = 6.2835796843178871028 , cond1(H50 ) = 4.330343748573601
1074 , cond1 (H100 ) = 1.267220787492374 10151.
(p)
i1
Exemplul -1.7 Fie A(p) = (a(p)
ij )i,j=1,n Mn (N) cu aij = Cp+j1 , i, j = 1, n.

1
Notam cu B(p) = (b(p)
inversa matricei A(p). Avem
ij )i,j=1,n = A(p)

b(p)
ij

i+j

= (1)

nj


k=0

k
i1
Cp+k1
Ck+j1
i, j = 1, n

0
(cu conventia C1
= 1 si Crs = 0 pentru r < s sau s < 0). Pentru n = 10 norma

a matricei A(20) este 29860259, iar norma a matricei B(20) este 1514268756, deci
cond (A(20)) = 298602591514268756 4.52161016 > cond (H10 ) = 3.5357439251992
1013 .

Metode directe
Metoda lui Gauss (cu pivotare partiala)
Se dau m N si A = (aij ) Mm,m+1 (R). Fie sistemul de ecuatii liniare

a x + + a1m xm = a1,m+1

11 1

...............

am1 x1 + + amm xm = am,m+1

cu necunoscutele x1 , . . . , xm R. Metoda lui Gauss este folosit

a att pentru determinarea solutiei sistemului, ct si pentru calculul determinantului matricei sistemului..
Sistemul dat se transforma n m 1 etape astfel:
Initial se consider
a determinantul matricei sistemului det = 1
Pentru n ntre 1 si m 1 se efectueaza urmatoarele:
Se determina max = |asn | = max |ain | (s n, m reprezinta pozitia pe care s-a
nim

g
asit maximul).
Se ia piv = asn (elementul asn se numeste pivot).
Daca piv = 0, atunci metoda nu se aplica.
det = det piv.
7

 Dac
a s = n, atunci det = (1) det si se permut
a ecuatia s cu ecuatia n.
Coeficientii ecuatiei n se mpart la piv.
Pentru i n + 1, m se elimina xn din ecuatia i astfel: aij = aij ain anj ,
j m + 1, n.
Procednd astfel se obtine un sistem de forma:

m


xi +
aij xj = ai,m+1 ,
j=i+1

1im1

(6)

amm xm = am,m+1

Determinantul matricei sistemului se calculeaz

a astfel: det = det amm .
Daca amm = 0, atuci metoda nu se aplica.
Se rezolv
a sistemul (6) astfel:
xm = am,m+1 /am,m ;
xi = ai,m+1

m


j=i+1

aij xj , i m 1, 1.

Exemplul -1.8 Fie sistemul de ecuatii liniare

x + 12 y + 31 z = 1

1
x + 31 y + 14 z = 2
2

1
x + 41 y + 15 z = 3
3

Sa se calculeze determinantul matricei sistemului si sa se rezolve sistemul cu metoda

lui Gauss.
Folosind transformarile date de metoda lui Gauss, obtinem urmatorul sistem de
ecuatii:

x + 21 y + 13 z =

y + z = 18
1
z
180

7
6

Calcul
am determinantul matricei sistemului (tot cu algoritmul dat de metoda lui
Gauss) det =

1
2160

si rezolvam sistemul anterior. Obtinem z = 210, y = 192, x = 27.

Observatie: Alegerea pivotului ca cel mai mare element de pe coloana se face

pentru a minimiza erorile care apar daca pivotul are valori mici. Daca consideram
sistemul de ecuatii liniare

x + 592y = 437

592x + 4308y = 2251

si daca consideram ca lucram numai cu 4 cifre exacte, atunci prin alegerea pivotului
elementul 1,prin metoda lui Gauss se obtine solutia
x = 1, 6128, y = 0, 7409
iar prin alegera pivotului elementul 592, prin metoda lui Gauss se obtine solutia
x = 1, 5891, y = 0, 7409
pe cnd solutia exact
a a sistemului este
x = 1.58889055801431, y = 0.74085961242908.

Metoda lui Gauss (cu pivotare totala)

Se dau m N si A = (aij ) Mm,m+1 (R). Fie sistemul de ecuatii liniare

a x + + a1m xm = a1,m+1

11 1
...............

am1 x1 + + amm xm = am,m+1

cu necunoscutele x1 , . . . , xm R. La metoda lui Gauss cu pivotare totala cautarea

pivotului se face n toata matricea ramasa de transformat (reamintim ca, la pivotarea
partial
a, pivotul se caut
a numai pe prima coloana a matricei r
amase de transformat).
Sistemul dat se transforma n m 1 etape astfel:
9

Initial se consider
a determinantul matricei sistemului det = 1
Pentru n ntre 1 si m 1 se efectueaz
a urm
atoarele:
Se determina max = |aps | = max |aij | (s, p n, m reprezinta indicii de pozitie
ni,jm

ai maximului determinat).
Se ia piv = aps (elementul aps se numeste pivot)
Daca piv = 0, atunci metoda nu se aplica.
det = det piv.
Dac
a p = n sau s = n (dar nu p = s = n), atunci det = (1) det si se permut
a
coloana s cu coloana n (daca p = n) sau linia p cu linia n (daca s = n). Daca
p = n si s = n se permuta linia p cu linia n si apoi coloana s cu coloana n.
Ecuatia n se mparte la piv.
Pentru i n + 1, m se elimina xn din ecuatia i astfel: aij = aij ain anj ,
j m + 1, n.
Procednd astfel se obtine un sistem de forma:

m


xi +
aij xj = ai,m+1 ,
j=i+1

amm xm

1im1

= am,m+1

Determinantul matricei sistemului se calculeaza astfel: det = det amm .

Daca amm = 0, atuci metoda nu se aplic
a.
Se rezolva sistemul (7) astfel:
xm = am,m+1 /am,m ;
10

(7)

 xi = ai,m+1

m


j=i+1

aij xj , i m 1, 1.

unde (x1, . . . , xm ) este o permutare a solutiei (x1, . . . , xm ) sistemului initial (dup
a
cum s-au permutat coloanele matricei initiale n procesul de transformare a sistemului).
Exemplul -1.9 Folosind metoda lui Gauss cu pivotare totala, sa se rezolve sistemul
de ecuatii liniare:

5x + y + 2z = 29

3x y + z = 10

x + 2y + 4z = 31

(8)

Sa se calculeze si determinantul matricei sistemului.

Folosind transformarile date de metoda lui Gauss cu pivotare totala, obtinem urm
atorul sistem de ecuatii:

1
29
2

x+ z+ y =

5
5
5

1
z+ y = 7

y = 6
2

Calcul
am determinantul matricei sistemului (tot cu algoritmul dat de metoda lui
Gauss) det = 27 si rezolvam sistemul anterior. Obtinem z = 5, y = 4, x = 3.

Metoda lui Gauss-Jordan de calcul a inversei unei matrice

Se dau m N si matricea

A=

a11
..
.
am1

. . . a1m

..
..
.
.

. . . amm
11

Metoda lui Gauss-Jordan este folosit

a pentru determinarea inversei matricei A (dac
a
aceasta exist
a). Se consider
a ansamblul matriceal compus din matricea A si matricea
unitate Im

a
. . . a1m
11
..
..
..
.
.
.

am1 . . . amm











..
.

0 ... 1
1 ...
.. ..
. .

Ansamblul anterior se transforma (analog metodei Gauss - cu pivotare partiala sau

totala) astfel:
Pentru n ntre 1 si m se efectueaz
a urm
atoarele:
Se determina pivotul piv ca la metoda lui Gauss de rezolvare a unui sistem de
ecuatii liniare cu pivotare partiala (analog se poate descrie un algoritm folosind
metoda lui Gauss cu pivotare totala).
Daca piv = 0, atunci metoda nu se aplica.
Daca s = n, atunci se permuta ecuatia s cu ecuatia n.
Ecuatia n se mparte la piv.
Pentru i n + 1, m se elimina xn din ecuatia i astfel: aij = aij ain anj ,
j 2m, n.
Procednd astfel se obtine un ansamblu matricial de forma:

1 a12 . . . a1m
0
..
.

1
..
.

. . . a2m
..
...
.

...



 a1,m+1 a1,m+2


 a2,m+1 a2,m+2


..
..

.
.



 am,m+1 am,m+2

. . . a1,2m

. . . a2,2m

..
...

. . . am,2m

(matricea din partea dreapta are cel putin n(n 1)/2 zerouri).
12

Pentru n ntre m si 2 se efectueaz

a urm
atoarele:
Pentru i n 1, 1 se recalculeaza elementele aij astfel: aij = aij ain anj ,
j 2m, n.
Precednd astfel se obtine un ansamblu matricial de forma:

Matricea



 b11 b12


 b21 b22

 .
..
 ..
.



 bm1 bm2

1 0 ... 0
0
..
.

1 ...
.. . .
.
.

0
..
.

0 0 ... 1

b11 b12

b21 b22

B= .
..
..
.

bm1 bm2

. . . b1m

. . . b2m

.
..
..
.
.

. . . bmm

. . . b1m

. . . b2m

..
..
.
.

. . . bmm

are liniile matricei inverse A1 modulo permutarea liniilor descrisa n algoritm.

Rezolvarea unui sistem de ecuatii liniare Ax = b este echivalenta, dupa ce s-a
calculat inversa matricei A, cu egalitatea x = A1 b.
Exemplul -1.10 Folosind metoda Gauss-Jordan

1 21 13

A = 12 13 14

1
3

Formam ansamblul matriceal

1
2

1
3

1
2

1
3

1
4

1
3

1
4

1
5

1
4

1
5

sa se calculeze inversa matricei



 1 0 0


 0 1 0


 0 0 1

13

Cu transform
arile din algoritm obtinem:



0
0
1 21 13  1




0 1 1  6 12
0



0 0 1  30 180 180

iar, n final,

Deci


1 0 0  9
36
30


0 1 0  36 192 180



0 0 1
30 180 180

36

30

A1 = 36 192 180

30 180 180

Factorizarea LU
Se numeste factorizare LU a unei matrice A descompunerea matricei ca produs de
doua matrici, una inferior triunghiulara (notata L), alta superior triunghiulara (notata
U), adic
a A = LU. Descompunerea, dac
a este posibila, nu este unic
a.
Teorema -1.4 Fie A = (aij )1i,jm o matrice astfel nct determinantii "de colt"
k := det((aij )1i,jk ) s
a fie nenuli, pentru orice k = 1, m. Atunci A se descompune
unic sub forma A = LU cu L = (lij )1i,jm inferior triunghiulara si U = (uij )1i,jm
superior triunghiulara cu elementele diagole egale cu 1.

Calculul elementelor matricelor L si U se face dup

a formulele:
li1 = ai1 , i = 1, m, u11 = 1, u1j =

14

a1j
, j = 2, m.
l11

(9)

iar, pentru k = 2, m,

lik = aik

k1

akj
lip upk , i = k, m, ukk = 1, ukj =

k1

lkp upj

p=1

lkk

p=1

, j = k + 1, m. (10)

Fie un sistem de ecuatii liniare Ax = b, pentru care A admite factorizare LU. Atunci
solutia y a sistemului Ly = b se determina astfel:

yi =

bi

i1


lik yk

k=1

i = 1, m

lii

Solutia x a sistemului initial se determina astfel:

x i = yi

m


uik xk

k=i+1

i = m, 1

Exemplul -1.11 S
a se factorizeze sub forma LU matricea

4 2 0
2

1 1 2

A=

4
5 2 9

0
1
3
4

Se verific
a mai nti c
a determinantii de colt ai matricei A sunt nenuli. Cu formulele

(9) si (10) se obtine:

l11 = 2, l21 = 1, l31 = 4, l41 = 0
u11 = 1, u12 = 2, u13 = 1, u14 = 0
l22 = 1, l32 = 3, l42 = 1
u22 = 1, u23 = 1, u24 = 3
l33 = 5, l43 = 2
u33 = 1, u34 = 0
15

l44 = 1
u44 = 1
Deci

0 0
2

1 1 0

L=
4 3 5

0
1 2

,
0

1 2 1 0

0 1 1 3

U =

0 0 1 0

0 0 0 1

Metoda radacinii patrate (Cholesky)

Definitia -1.2 O matrice A = (aij )1i,jm se numeste simetric
a dac
a A = At . Matricea A este pozitiv definita daca determinantii "de colt" k := det((aij )1i,jk ) sunt
strict pozitivi pentru orice k = 1, m.
Teorema -1.5 Fie A simetric
a si pozitiv definit
a. Atunci A se descompune unic sub
forma A = L Lt cu L = (lij )1i,jm inferior triunghiular
a.
Fie sistemul de ecuatii liniare Ax = b, cu A = (aij ) Mm (R) simetrica si pozitiv
definita, iar b = (bi ) Rm .
Descompunem A = L Lt cu L = (lij ) Mn (R) matrice superior triunghiular
a. Se
determina mai nti y = (yi ) Rn solutia sistemului de ecuatii Ly = b si apoi solutia
x = (xi ) Rn a sistemului initial se determina prin rezolvarea sistemului Ltx = y.
Se calculeaz
a elementele matricei L astfel:

ljj =

ajj

j1


k=1

2
ljk

si

lij =

aij

j1


k=1

ljj

lik ljk
,

i = j + 1, m, j = 1, m
(11)

16

Solutia y a sistemului Ly = b se determina astfel:

yi =

bi

i1


lik yk

k=1

i = 1, m

lii

(12)

Solutia x a sistemului initial se determina astfel:

xi =

yi

m


lki xk

k=i+1

i = m, 1

lii

(13)

Daca matricea A nu este simetrica si pozitiv definita, dar este inversabila, atunci
sistemul de ecuatii liniare Ax = b se transforma n sistemul echivalent At Ax = At b, a
c
arui matrice este simetric
a si pozitiv definit
a.
Exemplul -1.12 Folosind metoda radacinii patrate, sa se rezolve sistemul de ecuatii
liniare Ax = b cu

4 2 2

A = 2 10 4

2 4 6

, b = 16

12

Se verifica imediat ca matricea A este simetrica si pozitiv definita. Cu formulele

(11) se obtine
l11 = 2, l12 = 1, l13 = 1
l22 = 3, l23 = 1
l33 = 2
Din (12) rezult
a ca
y1 = 4, y2 = 4, y3 = 2
iar din (13) rezulta ca
x3 = 1, x2 = 1, x3 = 1.

Descompunerea QR
17

Se consider
a date m N , A = (aij )i,j=1,m Mm (R) si b = (bi )i=1,m Rm . Vom
calcula solutia x = (x1 , . . . , xm ) Rm a sistemului Ax = b si determinantul matricei
sistemului folosind factorizarea QR.
Factorizarea QR a matricei A nsemna descompunerea A = QR cu Q matrice
ortogonala, adic
a QQt = Qt Q = Im si R matricea superior triunghiular
a.
m
m




Daca notam Q = (qij ) cu
qik qjk = ij si
qki qkj = ij pentru i, j = 1, m si
k=1

k=1

R = (rij ) cu rij = 0 pentru 1 j < i m, atunci din identificarea A = QR se obtin

relatiile urm
atoare:

r11 = a211 + + a2m1 ,

qi1 = i1 ,
r11

pentru i = 1, m

si pentru k = 2, m avem:

m

rjk =
aik qij , pentru j = 1, k 1

i=1

 m

k1





2
rkk = 
a2ik
rik
,

i=1
i=1




k1

aik
rjk qij , pentru i = 1, m .
qik = r
kk

(14)

j=1

Rezolvarea sistemului dup

a descompunerea matricei A n produs QR se face astfel:
- rezolv
am nti sistemul Qy = b a c
arui solutie este
y = Qt b,

sau pe componente:
yi =

m

qji bj ,

j=1

18

i = 1, m.

- apoi, rezolv
am sistemul triunghiular Rx = y, si obtinem:
ym
,
rmm


m


1
xi =
yi
rij xj
rii
j=i+1

xm =

(15)
, i = m 1, 1 .

Observatie. Descompunerea QR nu exista daca exista un k 1, m astfel nct

rkk = 0 n (14) sau (15).

23

Exemplul -1.13 Pentru m = 3 , matricea A = 1 2 3 si vectorul b = 14 ,

0
0
1
3
rezolvati sistemul Ax = b folosind o descompunere QR.
Folosind relatiile de mai sus

Q = 1

iar pentru solutie

obtinem:

1 2 3
1 0

0 0 si R = 0 4 5

0 0 1
0 1
0 1 0

y = Qt b = 1

iar din Rx = y rezulta:

23

14

0 0
14
23 ,

0 1
3
3

1


x= 2 .

3

Metode iterative de rezolvare a sistemelor de ecuatii liniare

Metoda lui Jacobi
19

Fie m N , A Mm (R), b Rm .
Consider
am sistemul de ecuatii liniare Ax = b. Not
am cu I matricea unitate din
Mm (R) si cu B := I A. Sistemul de ecuatii Ax = b se transforma echivalent astfel:
Ax = b (I B)x = b x = Bx + b.
Pentru orice x(0) Rm definim sirul (numit sir Jacobi) (x(n) )nN prin relatia de recurenta
x(n+1) = Bx(n) + b, n N
Fie   o norma pe Mm (R). Daca B = q < 1 atunci avem evaluarile:
x(n) x

q
qn
x(n) x(n1) 
x(1) x(0) , n N
1q
1q

(n particular lim x(n) = x).

n

(n)

Algoritm: Dac
a A = (aij )1i,jm , b = (bi )1im , B = (bij )1i,jm , x(n) = (xi )1im ,
n N, atunci bij = aij daca i = j, bii = 1 aii , 1 i, j m. Daca pe Rm considm

eram norma  1 , atunci q := B1 = max
|bij |, iar daca consideram norma  
atunci q := B = max

m


1im j=1

1jm i=1

|bij |. Se testeaz
a conditia de aplicabilitate a metodei

q < 1. n caz de aplicabilitate se atribuie iteratei initiale x(0) o valoare oarecare din
Rm , iar calculul celorlalte iterate se face dupa formula:
x(n+1)
i

m


j=1

bij x(n)
j + bi , 1 i m, n N.

Se opreste calculul recursiv la iterata x(n+1) pentru care

q
x(n+1) x(n) p ,
1q
unde p = 1 sau p = , iar este eroarea de aproximatie dorita.
Exemplul -1.14 Sa
se arate ca se poate aplica metoda lui Jacobi (relativa la normele
20

1 si ) pentru sistemul de ecuatii liniare Ax = b cu

0, 1
0, 2
0, 3
0, 9

0, 2 0, 8

0,
1
0,
4

A=
; b =
0, 1 0, 3 0, 7 0, 1

0, 3 0, 2 0, 1 0, 9

3, 6

.
2, 4

1, 5

0

0

arul de iteratii necesar pentru a aproxima
Lund x(0) = sa se determine num
0


0
solutia sistemului cu o eroare mai mic
a de 1010 .
Avem

Atunci

0, 1 0, 1 0, 2 0, 3

0, 2
0, 2 0, 1 0, 4

B =I A=

0, 1 0, 3
0,
3
0,
1

0, 3
0, 2
0, 1
0, 1
B1 = max

1j4

si

4

B = max

i=1

1i4

|bij | = 0, 9 < 1.,

4


j=1

|bij | = 0, 9 < 1

Deci metoda lui Jacobi se aplic

a. Din formula de evaluare a erorii avem:
x(n) xp

qn
x(1) x(0) p , n N
1q

unde p = 1 sau p = , q = 0, 9, x(1) = Bx(0) + b = b. Deci, pentru a aproxima x cu

x(n) cu eroarea = 1010 este suficient ca

qn
x(1)
1q

x(0) p < . Avem

x(1) x(0) 1 = b1 = 9, 5

21

si
x(1) x(0)  = b = 3, 6
Atunci



qn
x(1) x(0) 1 < n = log0,9
+1
1q
95

si


qn

x(1) x(0)  < n = log0,9
+1
1q
36

Metoda lui Jacobi pentru matrice diagonal dominante pe linii

Fie m N , A Mm (R), a Rm .
Consider
am sistemul de ecuatii liniare Ax = a. Not
am cu I matricea unitate din
Mm (R) si cu

0
a11 0

0 a22
0

D = diag(A) =

0
0 amm

Spunem c
a A este diagonal dominant
a pe linii dac
a
|aii | >

j=1,m j =i

|aij | , i 1, m

Atunci aii = 0, i 1, m, deci D este inversabil

a. Notam cu B = I D1 A si cu
b = D1a. Sistemul de ecuatii Ax = a se transforma echivalent astfel:
Ax = aD1Ax = D1a(I B)x = bx = Bx + b.
Pentru orice x(0) Rm definimm sirul (x(n) )nN prin relatia de recurenta
x(n+1) = Bx(n) + b, n N.

22

Teorema -1.6 Fie A o matrice diagonal dominant

a pe linii, B = ID1 A, q := B
si (x(n) )nN definit ca mai sus. Atunci q < 1 si avem evaluarile:
q
qn
x(n) x(n1) 
x(1) x(0)  , n N
1q
1q

x(n) x

(n particular lim x(n) = x).

n

Metoda lui Jacobi pentru matrice diagonal dominante pe coloane

Spunem c
a matricea A este diagonal dominant
a pe coloane dac
a
|ajj | >

i=1,m i =j

|aij | , j 1, m

Atunci aii = 0, i 1, m, deci D este inversabila. Not

am cu y = Dx (deci x = D1 y),
si cu B = I AD1 . Sistemul de ecuatii Ax = a se transforma echivalent astfel:
Ax = aAD1 y = a(I B)y = ay = By + a.
Pentru orice y (0) Rm definimm sirul (y (n) )nN prin relatia de recurenta
y (n+1) = By (n) + a, n N.
Teorema -1.7 Fie A o matrice diagonal dominanta pe coloane, B = I AD1 , q :=
B1 si (y(n) )nN definit ca mai sus. Atunci q < 1 si avem evaluarile:
y(n) y1

q
qn
y(n) y (n1) 1
y (1) y (0) 1 , n N
1q
1q

(n particular lim y (n) = y). Deci solutia x a sistemului Ax = a este aproximata de

1 (n)

D y

n
1 (n)

( lim D y
n

= x).

Metoda Gauss-Seidel

23

Fie m N , A Mm (R), b Rm .
Consider
am sistemul de ecuatii liniare Ax = b. Not
am cu I matricea unitate din
Mm (R) si cu B := I A. Daca elementele matricei B sunt (bij )1i,jm , descompunem
B sub forma B = L + R, cu L = (lij )1i,jm , unde lij := bij , 1 j < i m si lij := 0
altfel. Atunci det(I L) = 1 si deci exist
a (I L)1 .
Sistemul de ecuatii Ax = b se transforma echivalent astfel:
Ax = b(I B)x = b(I L R)x = b
(I L)1(I L R)x = (I L)1 b(I (I L)1 R)x = (I L)1b
x (I L)1 Rx = (I L)1b.
Dac
a not
am C := (I L)1 R si c := (I L)1b atunci
Ax = bx = Cx + c.
Pentru orice x(0) C m definim sirul Jacobi (x(n) )nN prin relatia de recurenta
x(n+1) = Cx(n) + cx(n+1) = Lx(n+1) + Rx(n) + b, n N
Deci
x(n+1)
1

m


j=1

x(n+1)
i

i1

bij xj(n+1)

j=1

b1j x(n)
si
j + b1 , n N

m


j=i

bij x(n)
j + bi , 2 i m, n N.

Teorema -1.8 Dac

a q := max qi cu q1 =
1im

si q < 1 atunci avem evaluarile:

x(n) x

m


j=1

|b1j |, qi =

i1


j=1

|bij |qj +

m


j=i

|bij |, 2 i m

qn
q
x(n) x(n1) 
x(1) x(0)  , n N
1q
1q

(n particular lim x(n) = x).

n

24

Algoritm: Daca A = (aij )1i,jm , b = (bi )1im , x(n) = (x(n)

i )1im , n N,
atunci bij = aij daca i = j, bii = 1 aii , 1 i, j m. Se calculeaza q. Se
testeaza conditia de aplicabilitate a metodei q < 1. n caz de aplicabilitate se atribuie
iteratei initiale x(0) o valoare oarecare din Cm , iar calculul celorlalte iterate se face
dupa formula:
x(n+1)
=
i

i1

bij x(n+1)
+
j

j=1

m


j=i

bij x(n)
j + bi , 1 i m, n N.

Se opreste calculul recursiv la iterata x(n+1) pentru care

q
x(n+1) x(n)  .
1q
Exemplul -1.15 Fie sistemul de ecuatii liniare

x + 1x + 1x = 1

1 2 2 3 3

1
x
5 1

1
x
10 1

+ x2 + 16 x3 = 2
+

1
x
20 2

+ x3 = 3

Sa se arate ca se aplica
metoda Gauss-Seidel.

si

Solutie Not
am cu A matricea ceoficientilor sistemului. Avem

1
1
0
2 3

B = I A = 5
0 16

1
1
10 20 0
5
1
1
q1 = , q2 = , q3 = .
6
3
10
Deci
q = max(q1 , q2 , q3 ) =

Rezult
a c
a metoda Gauss-Seidel se aplic
a.
25

5
<1
6

Metoda relaxarii simultane

Fie m N , A Mm (R) simetrica si pozitiv definit
a, a Rm .
Consider
am sistemul de ecuatii liniare Ax = a. Not
am cu I matricea unitate din
Mm (R) si cu D = diag(A). Atunci D inversabila. Fie > 0 un numar real. Notam
cu C := I D1A si cu c := D1 a. Sistemul de ecuatii Ax = a se transforma
echivalent astfel:
Ax = a D1 Ax = D1a (I C )x = c x = C x + c .
Pentru orice x(0) Rm definim sirul Jacobi (x(n) )nN prin relatia de recurenta
x(n+1) = C x(n) + c , n N
Fie 1 2 . . . m valorile proprii ale matricei D1 A. Daca alegem astfel nct
0 < < 2/1 , si not
am q := max |1 i |, atunci q < 1 si avem evalu
arile:
1im

q
qn
(n)
(n1)
x xD
x x
D
x(1) x(0) D , n N
1q
1q

(n particular lim x(n) = x), unde xD := Dx, x, x Rm , cu ,  produsul
(n)

scalar uzual pe Rm .

Parametrul optim de relaxare (pentru care q corespunz

ator este minim) este
=

2
,
1 + m

q=

1 m
1 + m

iar valoarea lui q n acest caz este

n practica, de obicei, nu se calculeaza valoarea lui 1 , ci se alege (0, 2/D1 A )

(deoarece 1 D1 A ), parcurgnd intervalul cu un pas echidistant. Valoarea optim
a a lui se stabileste atunci cnd num
arul de iteratii n, necesar pentru a aproxima
solutia sistemului de ecuatii cu o eroare data este minim.
26

Dac
a matricea A a sistemului de ecuatii liniare Ax = a nu este simetriic
a si pozitiv
definita, sistemul se transform
a echivalent
Ax = a At Ax = At a
(unde At = (aji )1i,jm este transpusa matricei A), pentru care matricea At A este
simetrica si pozitiv definita.
Se va lua (0, t) cu t = 2/D1 A parcurgnd intervalul cu pasul h = t/p,
unde p N este dat.
Algoritm: Daca A = (aij )1i,jm , a = (ai )1im , B = D1 A = (bij )1i,jm ,
(n)

b = D1 a = (bi )1im , C = (cij )1i,jm , c = (ci )1im , x(n) = (xi )1im , n N,

m

atunci bij = aij /aii , bi = ai /aii , 1 i, j m, t = 2/( max
|bij |). Se va lua
1im j=1

(0, t) cu t = 2/D A parcurgnd intervalul cu pasul h = t/p, unde p N

1

este dat:
Pentru 1 k p 1 se ia = k h, se calculeaz
a cij = bij dac
a i = j,
cii = 1 bii , ci = bi , 1 i, j m. Se atribuie iteratei initiale x(0) o valoare
oarecare din Rm , iar calculul celorlalte iterate se face dupa formula:
(n+1)
xi

m


j=1

(n)

cij xj + ci , 1 i m, n N.

Se opreste calculul recursiv la iterata x(n+1) pentru care


 m


2
x(n+1) x(n) D = 
aii |x(n+1)
x(n)
i
i | .
i=1

La fiecare pas se retine n num

arul de iterate efectuat.

Se determina parametrul optim de relaxare (este acela pentru care numarul de

iteratii este minim).

27

Exemplul -1.16 Fie sistemul de ecuatii liniare:

5x + 3x2 + 2x3 = 1

3x1 + 6x2 + 3x3 = 2

2x1 + 3x2 + 5x3 = 3

Sa se arate ca
se poate aplica metoda relaxarii simultane. Sa
se determine parametrul
optim de relaxare. Lund x(0) = (0, 0, 0) sa se evalueze eroarea x x(n) .
Solutie: Notam cu A matricea sistemului. Se verifica ca A este simetrica si pozitiv
definita.
Fie D = diag(A). Atunci

1 3/5 2/5

D1A = 1/2 1 1/2

2/5 3/5 1

si det(D1A I) = 0 (1 )3

19
(1
25

) +

6
25

= 0, de unde rezult
a c
a valorile

proprii ale matricei D1 A sunt 1 = 2 > 2 = 3/5 > 3 = 2/5. Parametrul optim de
relaxare este
=

2
5
=
1 + 3
6

q=

1 3
2
= .
1 + 3
3

caruia i corespunde

Avem x(1) = C x(0) + c = c = D1 b = 5/6 (1/5; 2/6; 3/5)t unde b = (1; 2; 3)t este
vectorul termenilor liberi din sistem. Atunci

 2 25
x(1)2D = Dx(1) , x(1) =
3 9

si
x

(n)

qn
xD
x(1) x(0) D = 5
1q
28

 n+ 12
2
.
3

Metode relaxarii succesive

Fie m N , A Mm (R) simetrica si pozitiv definit
a si b Rm .
Consideram sistemul de ecuatii liniare Ax = b si > 0 un numar real numit
parametru de relaxare. Notam cu I matricea unitate din Mm (R) si cu D = diag(A).
Atunci D inversabil
a. Dac
a elementele matricei A sunt (aij )1i,jm , descompunem A
sub forma B = L + D + R, cu L = (lij )1i,jm , unde lij := aij , 1 j < i m si
lij := 0 altfel. Atunci matricea 1 D +L este inversabila,iar sistemul de ecuatii Ax = b
se transform
a echivalent astfel:
Ax = b ( 1 D + L)1(L + D + R)x = ( 1 D + L)1 b
(I (1D + L)1(( 1 1)D R))x = (1 D + L)1 b
Notnd cu C := (1D + L)1 (( 1 1)D R) si cu c := (1 D + L)1 b rezulta ca
Ax = b x = C x + c .
Pentru orice x(0) Rm definim sirul Jacobi (x(n) )nN prin relatia de recurenta
x(n+1) = C x(n) + c , n N
Atunci
x(n+1) = C x(n) + c
x(n+1) = ( 1 D + L)1(( 1 1)D R)x(n) + b)
1Dx(n+1) = Lx(n+1) + (( 1 1) R)x(n) + b
x(n+1) = (1 )x(n) D1 (Lx(n+1) + Rx(n) b)
(n+1)
xi

= (1

(n)
)xi

i1
m

(n+1)
(n)
(bi +
aij xj
+
aij xj ), 1 i m
aii
j=1
j=i+1

29

(16)

Dac
a alegem astfel nct 0 < < 2, si not
am q := C A atunci q < 1 si avem
evalu
arile:
x(n) xA

q
qn
x(n) x(n1)A
x(1) x(0) A , n N
1q
1q

(n particular lim x(n) = x), unde xA := Ax, x , x Rm , cu ,  produsul scalar

n

uzual pe R .
m

n practic
a, se alege (0, 2) parcurgnd intervalul cu un pas echidistant. Valoarea
optima a lui se stabileste atunci cnd numarul de iteratii n, necesar pentru a aproxima
solutia sistemului de ecuatii cu o eroare dat
a, este minim.
Daca matricea A a sistemului de ecuatii liniare Ax = b nu este simetric
a si pozitiv
definita, sistemul se transforma echivalent
Ax = b At Ax = Atb
(unde At este transpusa matricei A) pentru care matricea At A este simetric
a si pozitiv
definita.
Algoritm: Daca A = (aij )1i,jm , b = (ai )1im , x(n) = (x(n)
i )1im , n N,
atunci:
Se va lua (0, 2) parcurgnd intervalul cu pasul h = 2/p, unde p N este dat.
Pentru 1 k p 1 se ia = k h. Se atribuie iteratei initiale x(0) o valoare
oarecare din Rm , iar calculul celorlalte iterate se face dupa formula (16). Se opreste
calculul recursiv la iterata x(n+1) pentru care



 m
(n+1)
(n+1)
(n)
x
x A = 
aij (x(n+1)
x(n)
x(n)
i
i )(xj
j ) .
i,j=1

La fiecare pas se retine n numarul de iterate efectuat.

Se determina parametrul optim de relaxare )acela pentru care numarul de iteratii

este minim)
.
30

Metoda lui Ritz

Este o metoda de calcul a inversei unei matrice simetrice si poyitiv definite. Fie A
Mm (R) o matrice simetrica si pozitiv definita. Notam cu operatia de transpunere (a
m
m
m
unui vector sau a unei matrice). Definim succesiv vectorii (wk )m
k=0 R , (vk )k=1 R
m
si matricele (Ck )m
k=1 , (Dk )k=1 Mm (R) astfel:

w0 = 0, C1 =

w0 w0
, D1 = Im C1 A
w0 Aw0

iar pentru k = 1, m 1:
Se alege vk astfel ca Dk vk = 0,
wk = Dk vk .
Ck+1 := Ck +

wk wk
,
wk Awk

Dk+1 := Im Ck+1 A,
Atunci Cm = A1 (inversa matricei A) si Dm = 0m .

1 2 3 4

2 5 1 10

Exemplul -1.17 Fie A =

. Folosind metoda lui Ritz sa se cal 3 1 35 5

4 10 5 30
1
culeze A .
Se verifica mai nti ca matricea A este simetrica si pozitiv definita. Luam w0 =
(1, 0, 0, 0) . Atunci w0Aw0 = 1 si

1 0 0

0 0 0

C1 =
0 0 0

0 0 0

0
0 2 3 4

0 1
0
0
0

, D1 =
.
0 0

0
1
0

0
0 0
0
1
31

Luam v1 = (0, 1, 0, 0) . Rezult

a c
a w1 = (2, 1, 0, 0) si w1 Aw1 = 1, de unde

5 2 0 0
0 0 13 0

2 1 0 0
0 0 5 2

C2 =
, D2 =
.
0

0 0 1

0
0
0
0

0
0 0 0
0 0 0
1
Luam v2 = (0, 0, 1, 0) . Rezulta ca w2 = (13, 5, 1, 0) si w2Aw2

0 0 0
174 67 13 0

0 0 0
67 26
5 0

C3 =
, D3 =
0 0 0
13 5
1 0

0 0 0
0
0
0 0
Luam v3 = (0, 0, 0, 1) . Rezulta ca w3 = (39, 17, 3, 1) si

1695 730 130 39

730 315

56
17

,
D
=
C4 =

130 56

10
3

39
17
3
1

Pseudoinversa unei matrice

= 1, de unde

39

17

.
3

w3 Aw3 = 1, de unde

0 0 0 0

0 0 0 0

.
0 0 0 0

0 0 0 0

Pseudoinversa unei matrice este o extensie naturala a notiunii de matrice inversabila.

Se poate defini pseudoinversa att pentru matrici patratice (singulare sau nesingulare - caz n care pseudoinversa coincide cu inversa) ct si pentru matrici dreptunghiulre (n care numarul de linii difera de numarul de coloane). Pentru o matrice T
Mm,n (R),notam cu T Mn,m (R) transpusa matricei T si cu T + Mn,m (R) pseudoinversa matricei matricei T.
Prin definitie T + este singura solutie U Mn,m (R) a sistemului de ecuatii matriceale:
T UT = T, UT U = U,

(T U) = T U,
32

(UT ) = UT.

(17)

Teorema -1.9 Fie T Mm,n (R) si b Rm .

a) x0 din Rn verific
a egalitatea
T x0 b = infn T x b
xR

(18)

daca si numai daca

T T x0 = T b.
b) Elementul x0 := T + b verifica egalitatea (18) si, pentru orice alt element x0 ce

verifica aceeasi egalitate, avem x0 x0 .

Reciproc, T + este unica solutie U Mn,m (R)a problemei: Ub satisface egalitatea

(18) pentru orice b Rm , iar pentru orice alt element x0 , care verifica aceeasi egalitate,
avem Ub x0 .
Prin aceast
a teorem
a, n cazul unui sistem de ecuatii liniare T x = b compatibil
nedeterminat, rezulta ca T + b este o solutie a acestui sistem (anume cea mai mica solutie
n norma), iar, n cazul unui sistem incompatibil, T + b este acel element x, minim n
norm
a, pentru care T x b este cel mai aproape de 0.
n continuare presupunem ca rang T = l min(m, n). Cu R(A) am notam imaginea
matricei A Mm,n (R), adica multimea {Ax | x Rn }.
Determinarea pseudoinversei unei matrice se poate face cu algoritmi cu un num
ar
de pasi mai mic sau egal cu l. n aceasta categorie intra urmatorii algoritmi
(Grigore) Definim succesiv vectorii (yk )lk=1 X, (wk )lk=1 Rn si matricele
(Hk )lk=0 Mn,m (R) astfel:
H0 = 0.
yk R(T ) (adica n imaginea transpusei), astfel ca yk Hk1 T yk = 0,
wk := yk Hk1 T yk si

wk (T wk )
Hk := Hk1 +
, k = 1, l.
T wk 2
33

Atunci Hl = T + (pseudoinversa matricei T ).

Exemplul -1.18 Fie

1 0 1

0 1 0

T =
cu rang(T ) = 2 si H0 = 0.
1 1 1

1 2 1

y1

1
1

Luam y1 = T = 0 (avem y1 H0T y1 = y1 = 0. Atunci w1 =

0

1
0

2

0

a c
a T w1 2 = 12, iar w1 (T w1 ) =
H0 T y1 = y1 si T w1 = . Rezult
2


2

2 0 2
2

0 0 0
0 . Deci

2 0 2 2

w1(T w1)

H1 = H0 +
2 =

T w1 

0
0

1

Luam y2 = T = 1
0

0
0

1/6

1/6

1/6

1/6 0 1/6 1/6

(avem y2 H1 T y2 =

34

1/2
1
1/2

= 0. Atunci

w2 = y2 H1T y2

1/2 1/2 0

1
1
0

1/2 1/2 0

n concluzie

2
si T w2 =
. Rezulta ca T w2 = 3, iar w2(T w2 ) =
0

1/2

1 . Deci

1/2

1/3 1/6 1/6

0

w2 (T w2 )

=
H2 = H1 +

1/3 1/3
0
1/3
2

T w2 
1/3 1/6 1/6 0

T+

1/3 1/6 1/6

0

= H2 = 1/3 1/3
0
1/3

1/3 1/6 1/6 0

(Gramm-Schmidt) Fie o baz

a e1 , e2 , . . . , el n R(T ) si fie fi = T ei , i = 1, l.
Definim, succesiv, elementele (ei )li=1 , (xi )li=1 Rn , (fi )li=1 (yi )li=1 Rm , astfel:
x1 =

1
e1 si y1 = T x1 ,
f1

iar pentru i = 2, l
ei

= ei

i1


j=1

fi , yj  xj , fi = T ei si xi =

Definim matricea U Mn,m (R) prin

U :=

l


i=1

Atunci U = T + .

35

xi yi

1 
e , yi = T x i
fi  i

Exemplul -1.19 Fie

1 0 1

0 1 0

T =
cu dim R(T ) = 2
1 1 1

1 2 1

Lund e1 = (1; 0; 1) , e2 = (0; 1; 0) (baza n R(T )) obtinem f1 = (2; 0; 2; 2) , f2 =

(0; 1; 1; 2) . Atunci
1
1
x1 = (1; 0; 1) , y1 = (1; 0; 1; 1)
2 3
3
n continuare
1
e2 = e2 f2 , y1  x1 = (1; 2; 1) si f2 = T e2 = (1; 1; 0; 1)
2
Atunci
1
1
x2 = (1; 2; 1) , y2 = (1; 1; 0; 1)
2 3
3
Rezulta ca
T + = x1 y1 + x2y2 =

2
6
2

1
2
1

0 2

1 0

l1
l1
m
n
m
(Stanica) Definim, succesiv, vectorii (uk )l1
k=0 R , (vk )k=0 R , (wk )k=0 R

si matricele (Hk )lk=1 Mn,m (R) astfel:

H0 = T .
vk R((I T Hk ) T ), wk R(Hk ) astfel nct vk , T wk  = 0,
uk :=

1
(I Hk T )wk si
vk , T wk 

Hk+1 := Hk + uk vk , k = 0, l 1.
36

Atunci Hl = T + .

Exemplul -1.20 Fie

1 0 1

0 1 0

T =
cu rang(T ) = 2 si H0 = T
1 1 1

1 2 1

5
1

3

0

Lund a1 = 0 , b1 = obtinem v0 := (I T H0) T a1 =
,
8
0

0
11
0

1
5/48

w0 = H0b1 = 0 , u0 :=
(I H0 T )w0 = 1/8 ,

v0 , T w0

1
5/48
1

23/48

H1 := H0 + u0 v0 = 5/8

23/48

Lund a2 =

5/16 1/6 7/48

5/8

5/8

5/16

1/6

7/48

0
7/8

7/8

obtinem v1 := (I T H1 ) T a2 =
1 , b2 =
0
0

0
7/8
0
0

37

, w1 =

H1 b2 =

5/16

1/6

(I H1 T )w1 = 1/3 , deci

5/8 , u1 :=

v1 , T w1

5/16
1/6
T+

1/3 1/6 1/6

0

= H2 := H1 + u1 v1 = 1/3 1/3
0
1/3 .

1/3 1/6 1/6 0

Exemplul -1.21 Fie sistemul

1 0

0 1

T =
1 1

1 2

de ecuatii liniare T x = b, unde

cu rang(T ) = 2 si b =

(acest sistem este compatibil nedetreminat). Atunci

1/3

z = T b = 1/3

1/3
+

1/6
1/3
1/6

0
0

1

= 1
0
1/3
1


0
1/6 0
2
1/6

este o solutie a sistemului (compatibil nedeterminat) de ecuatii liniare T x = b.

Exemplul -1.22 Fie sistemul

1 0

0 1

T =
1 1

1 2

de ecuatii liniare T x = b, unde

cu rang(T ) = 2 si b =

38

(acest sistem este incompatibil). Atunci

1/3

z = T b = 1/3

1/3
+

are proprietatea c
a

1/6
1/3
1/6

1
1/3

0

0
1/3 = 1/3
0


1/6 0
1/3
0
1/6

T z b = infn T x b
xR

39