Documente Academic
Documente Profesional
Documente Cultură
An02 PDF
An02 PDF
13
....................
an1 x1 + an 2 x2 + K + ann xn = bn
Dac notm cu A matricea coeficienilor, cu x vectorul coloan format cu
necunoscutele sistemului i cu b coloana termenilor liberi, sistemul (1) se scrie
sub form matriceal :
Ax=b,
(2)
unde:
a11 a12 K a1n
x1
b1
a21 a22 L a2n
x2
b
A=
x= ,
b= 2
,
M
M
M
M
M
n1 an 2 K ann
xn
bn
Metodele numerice de rezolvare a sistemelor algebrice de ecuaii liniare
sunt de dou tipuri: metode directe i metode indirecte (sau iterative).
Metodele directe constau n transformarea sistemului (1) ntrun sistem
triunghiular echivalent, care se rezolv uor. Cele mai cunoscute metode directe
sunt: metoda Gauss, metoda Cholesky (utilizat pentru sistemele n care matricea A
este simetric i pozitiv definit) i metoda Householder.
Metodele directe permit determinarea soluiei exacte a sistemului n cazul
ideal, cnd nu avem erori de rotunjire. Numrul operaiilor aritmetice efectuate este
de ordinul n3. Pentru sisteme cu un numr de ecuaii mai mare de 100, metodele
directe devin inutilizabile datorit acumulrii erorilor de rotunjire care altereaz
soluia.
Metodele indirecte (sau iterative) constau n construcia unui ir {x(k)} de
vectori ndimensionali, care converge la soluia exact a sistemului. Se alege ca
14
0
0
M
M
0
i e = 1
mr =
r
mr +1,r
0
M
M
0
mn , r
0
1
0 L
Mr =
0 L mr +1,r 1 L 0
0 L m
0
L
1
nr
0 1 0 0 0 0 0 0
0 1 0 0 0
(0 1 0 0) =
=
M2 =
0 0 1 0 0 m32 0 0
0 0 1 0 m32
0 0 0 1 0 m
0 0 0 1 m
42 0 0
42
0
0 0
1
1
0 0
0
=
0 m32 1 0
0 m
0
1
42
15
M 0 pentru orice r = 1, n 1 .
(*)
det M
a
r1 K arr
Atunci exist o matrice inferior triunghiular MM n(R) astfel nct matricea
= MA este superior triunghiular.
Demonstraie. Deoarece a110 , putem considera matricea Frobenius
0 K
0
1
a
21 1 0 K 0
a
.
M 1 = 11
M
M
a
n1 0 K
1
a
11
unde, notnd cu
j = 1, n ;
aij( 2)
aij(1) = aij,
= aij(1)
ai(11) a1(1j)
(1)
a11
pentru i, j = 1, n ,
,
avem:
pentru orice i, j = 2, n .
Observm c
( 2)
a22
= a22
Dac notm
a21a12
a11
1
a11
a11 a12
0.
a21 a22
a1( 2j ) = a1(1j)
pentru
16
0
1
1
0
( 2)
a32
0 ( 2)
a22
M2 =
M
M
an( 22)
( 2)
a22
0 K 0
0 K 0
1 K 0
,
M
M
0 K 1
atunci
a (3)
11
0
A3 = M 2 A2 = 0
M
0
unde
aij(3)
= aij( 2)
(3)
a12
(3)
a22
0
M
0
pentru i=1, 2, j = 1, n i
(3)
K a1(n3)
a13
(3)
K a2(3n)
a23
(3)
K a3(3n) ,
a33
M
M
(3)
0 K ann
ai(3j )
ai( 2j )
a11 a12
=
a
a22
(1) ( 2) 21
a11
a22
a31 a32
1
a13
a23 0 .
a33
(r )
n general, arr
0 i se poate considera matricea Frobenius:
0
0 L 0
1
O
0
1
0 L
(r )
ar +1,r
Mr = 0 L
1 L 0 .
(r )
arr
(r )
0 L anr
0 L 1
(r )
arr
, i, j = 3, n .
M
M
0
Ar +1 = 0
0
0
M
M
0
0
unde
ai(rj +1)
= ai( rj ) ,
17
K a1(rr +1)
K a2(rr+1)
M
a1(nr +1)
K
a2(rn+1)
M
K ar(rr+1)
K
ar(rn+1) ,
K
0
ar(r++11, r)+1 K ar(r++1,1n)
.
M
M
M
K
0
an(r, +r1+)1 K an(rn+1)
( r + 1)
pentru i=1,r , j = 1, n , ai j
= ai( rj )
i, j = r + 1, n .
n final se obine matricea superior triunghiular
a ( n) a ( n) K a ( n)
11
12
1n
0 a ( n) K a ( n)
22
2n .
U = An = M n1...M 2 M1 A =
.M
M
M
0
( n)
0 K ann
1 0 0
M1 = 1 1 0 ,
4
0 1
5
5 2 1
A2 = 0 8 1 ,
18 9
0
5 5
0 0
2 1
1 0 0
1
5
M 2 = 0 1 0 , U = A3 = 0 8 1 , M = M 2 M 1 = 1 1 0 .
9
9
9
0
1
1
0
4
20
20 20
Considerm sistemul
5 x1 + 2 x2 + x3 = 12
5 x1 6 x2 + 2 x3 = 1 ,
4x + 2x + x = 3
1
2
3
2 1
5
A1 = A = 5 6 2 ,
4
2 1
18
a crui soluie este x1=1, x2=2, x3=3. Sub form matriceal sistemul se scrie:
12
Ax=b , unde b = 1 . Acest sistem este echivalent cu urmtorul sistem:
3
(M2M1A)x=(M2M1)b . Efectund calculele obinem
5 x1 + 2 x2 + x3 = 12
8 x2 + x3 = 13 .
9
27
x3 =
4
4
a (r )
Pentru o linie fixat i se calculeaz ir , apoi se fac nmulirile cu
(r )
arr
arj( r ) , r + 1 j n , i se adun
aij( r ) , r + 1 j n . La fel i cu
[2(n r )2 + 3(n r )] = 3 n3 + 2 n 2 6 n
n
r =1
M
M
M O
0
1
0
K
ar( r+)1,r
Lr = 0
0 .
L
(r )
arr
M
M
M
(r )
0 K anr
0 K 1
(r )
arr
19
0
1
1
l
L = 21
M
M
l
n1 l n 2
0 K 0
.0 K 0
.
M
M
l n3 K 1
20
1
L1 = 1
4
1
A = LU = 1
4
0 0
1 0 0
1 0 , L2 = 0 1 0 ,
9
0
1
0 1
20
0 0 5 2 1 5 2 1
1 0 0 8 1 = 5 6 2
9
9
4 2 1
1 0 0
20
4
foarte mic
, adic
(r )
arr
<< 1 ,
atunci
mpririle la acest pivot produc erori de rotunjire foarte mari, care altereaz
soluia. n acest caz se recomand schimbarea pivotului. Se poate alege un nou
pivot
{a
= max { a
r = a ir( r ) = max
sau
r = a (jrr )
(r )
ij
(r )
kl
; r jn
; r k, l n
}
}
Aceasta presupune schimbarea ntre ele a dou linii i eventual i a dou coloane.
Algoritmul Gauss pentru rezolvarea sistemelor de ecuaii liniare
Pentru r:=1,n1 execut
Pentru i:=r+1,n execut
Pentru j:=r+1,n execut
gsete pivotul conform cu () ;
schimb linia i cu linia pivotului i coloana j cu coloana
pivotului dac este cazul ;
sfrit pentru j
sfrit pentru i
Pentru i:=r+1,n execut
a b
bi = bi ir i
arr
Pentru j:=r+1,n execut
air arj
; ;
aij = aij
arr
sfrit pentru j ;
sfrit pentru i ;
sfrit pentru r ;
b
xn := n ;
ann
21
M .
r = det M
a
r1 K arr
n practic aceste condiii sunt greu de verificat pentru matrice de dimensiuni mari.
De aceea, n continuare vom prezenta unele condiii necesare, respectiv i
suficiente, pentru ca o matrice simetric s fie pozitiv definit.
Propoziia 1. Dac A este o matrice simetric pozitiv definit, atunci:
pentru orice i = 1, n ,
(a)
aii > 0
(b)
aiiajj>aij2
Demonstraie.
pentru orice i, j = 1, n .
(x ) = x Ax = (x1 ,..., xn )
M
= (a11x1 + a12 x2 + ... + a1n xn )x1 +
a x + ... + a x
nn n
n1 1
T
+ (a21x1 + a22 x2 + ... + a2n xn )x2 + ... + (an1x1 + an 2 x2 + ... + ann xn )xn
innd seama c aij = aji , n continuare avem
22
(x ) =
n n
aij xi x j =
i =1 j =1
0
M
n particular, pentru x = ei = 1 avem (ei) = aii . Cum este pozitiv definit i
M
0
ei 0 , rezult c aii = (ei) > 0 , adic (a).
Pentru un numr real oarecare avem
(ei+ej)=aii2+2aij+ajj > 0 .
(1)
Pentru ca inegalitatea (1) s fie adevrat pentru orice R, trebuie ca
= 4 aij2 aii a jj < 0 .
3 2 2
pozitiv definit.
ntradevr,
(x ) = 3 x12 + x22 + x32 + 4(x1 x2 x1 x3 + x2 x3 ) .
1
Dac x = 1 , atunci (x)=912=3<0, deci nu este pozitiv definit.
1
(d)
23
Dac inegalitile (d) devin egaliti pentru anumii indici, dar nu pentru toi,
matricea se numete slab diagonal dominant.
Teorema 1. Fie A o matrice simetric cu urmtoarele proprieti:
(i)
A este tare diagonal dominant,
(ii)
aii > 0 pentru i = 1, n .
Atunci A este pozitiv definit.
Demonstraie.
Din condiia (i) rezult c dac x0 , atunci:
n
n n
n n
n n
i =1
i =1 j =1
j i
i =1 j =1
j i
i =1 j =1
j i
n n
= aij xi xi x j
i =1 j =1
j i
n n
(x ) > aij x j x j xi .
i =1 j =1
j i
2 ( x ) > aij xi x j
i =1 j =1
j i
0.
24
( x)
1 n n
aij xi x j
2 i =1 j =1
0.
j i
Vom arta c situaia (x)=0 pentru x0 nu poate avea loc. ntradevr, (x) se
anuleaz n urmtoarele cazuri:
1) aij = 0 pentru orice ij . Atunci matricea A are forma diagonal i este
reductibil.
2) xi = x j = 0 pentru orice i i j.
n
n n
i =1
i =1 j =1
j i
i =1
j =1
j i
j =1
j i0
(i,j)
pentru care
xi x j i
Exemplu.
Fie
2 1 0 0
1 2 1 0
.
A=
0 1 2 1
0 0 1 2
25
(x ) = xT Ax = aij xi x j
i =1 j =1
n a
1j
xj +
(x ) = a11x12 + 2a12 x1x2 +...+ 2a1n x1xn + aij xi x j = a11 x1 +
i =2 j =2
j =2 a11
n n
a1i a1 j
+ aij(1) xi x j , unde aij(1) = aij
, i, j = 2, n
a11
i =2 j =2
n
Dac notm cu
1 (x ) = aij(1) xi x j ,
i =2 j =2
1(z) 0.
z1
a1 j
z
z j i z = 2 .
Fie z1 =
.
j= 2 a11
z
n
n continuare avem
n
n a
1j
( z ) = a11 z1 +
z j + 1 (z ) = 0 + 1 (z ) 0 ,
j = 2 a11
26
(1)
1 (x ) = a22
x2 +
j =3
x j + 2 (x )
(1)
a22
a2( 1j)
unde
n
2 (x ) = aij( 2) xi x j
i =3 j = 3
este pozitiv definit. n final (x) se reprezint ca o sum de ptrate. Mai precis
(x) admite urmtoarea scriere:
2
n
aij(i 1)
(i 1)
(x ) = aii xi +
xj ,
(i 1)
i =1
j =i +1 aii
unde
aij(0)
= aij i
aij( p )
= aij( p 1)
a (pip 1) a (pjp 1)
a (ppp 1)
, p = 1, n 1 .
Introducem notaiile:
rii = aii(i 1) , i = 1, n
rij =
aij(i 1)
rii
, i< j
rij = 0,
(1)
j<i
i =1 j =i
+ ... + (rnn xn )2
Dac notm cu R urmtoarea matrice superior triunghiular
r11 r12 K r1n
0 r22 K r2 n
R=
,
M
M
M
0
0 K rnn
27
A = 2 3 2
2 2 3
r11 = 3 , r12 =
2
3
, r13 =
(1)
a23
= a23 r12 r13 =
5
5
(1)
2
= a22 r12
= , r22 =
, a22
,
3
3
3
2
, r23 =
3
(1)
a23
r22
2
15
(1)
2
= a33 r13
=
, a33
5
,
3
7
7
( 2)
(1)
2
a33
= a33
r23
= , r33 =
5
5
2
2
3
3
5
2
R= 0
.
3
15
7
0
0
Rx = y
Algoritmul Cholesky pentru rezolvarea sistemelor de ecuaii liniare
Pentru p:=1,n1 execut
28
rpp: = a pp ;
Pentru k:=p+1,n1 execut
a pk
rpk :=
;
rpp
sfrit pentru k ;
Pentru i:=p+1,n execut
Pentru j:=i,n execut
aij:=aijrpirpj ;
sfrit pentru j ;
sfrit pentru i ;
sfrit pentru p ;
{ Rezolvarea sistemului RTy=b }
b
y1 = 1 ;
r11
Pentru i:=2,n execut
s:=0 ;
Pentru j:=1,i execut
s:=s+rijyj ;
sfrit pentru j ;
b s
yi := i
;
rii
sfrit pentru i ;
{ Rezolvarea sistemului Rx=y }
y
xn = n ;
rnn
Pentru i:=n1,1 execut
s:=0 ;
Pentru j:=i+1,n execut
s:=s+rijxj ;
sfrit pentru j ;
y s
xi := i
;
rii
sfrit pentru i .
Algoritmul se afl programat i n MATLAB i se apeleaz cu secvena:
R=chol(A);
x=R\R'\b { pentru afiarea soluiei }
29
H =
1 2hi2 2hi hi +1 K 2hi hn
0
M
M
M
x e1
.
x e1 2
Pe de alt parte, H fiind ortogonal avem
x 2 = Hx 2 = e1 = .
h=
(1)
30
x1 + sgn( x1 ) x 2 x1 + x 2 sgn( x1 )
x2
x2
x e1 =
=
i
M
M
xn
xn
x e1 2 = 2 x 2 + 2 x1 x 2 = 2 x 2 x 2 + x1
nlocuind n (1) obinem
x1 + x 2 sgn x1
x2
1
h=
.
M
2 x 2 x 2 + x1
x
n
(2)
( 2 ( x 2 + x1 ))1
T
u = (( x1 + x 2 )sgn( x1 ), x2 , ..., xn )
= x
(3)
sgn(x1) = 1 dac x1 = 0.
Teorema 1. Pentru orice matrice AM n(R) nesingular exist o matrice
ortogonal H astfel nct matricea R = HA este superior triunghiular.
Demonstraie.
a11
a21
Fie a1 =
, prima coloan a matricei A. Din cele artate mai nainte rezult
M
a
n1
c exist o matrice Householder H1 astfel nct H1a1=e1. Matricea H1 se
determin astfel:
1/ 2
s = a 2j1
j =1
, = (s (s + a11 ))
(1)
0
K a2(1n)
a22
A1 =
M
M
M
(1)
0
an(12) K ann
(4)
31
a (1)
22
n continuare considerm vectorul a2(1) = M i determinm o matrice
(1)
an 2
~
ortogonal H 2 Mn1(R) astfel nct
~
H a (1) = e~ ,
unde ~
e1T = (1, 0 , ..., 0) Rn1.
2 2
1 0
Notm cu H 2 =
~ M n(R) i cu A2 = H2A1.
0 H2
a ( 2) a ( 2) a ( 2) K a ( 2)
12
13
1n
11
( 2)
( 2)
0
a22
a23
K a2( 2n)
( 2)
A2 = 0
0
a33
K a3( 2n) , unde
M
M
M
M
( 2)
0
0
an( 23) K ann
n continuare se determin o
~
~
proprietatea c H 2 a 3( 2) = e~1 , unde
a1( 2j ) = a1(1j) , j = 1, n .
~
matrice Householder H 3 Mn2(R) cu
~
e~1T = (1, 0, ..., 0) Mn2(R). Vom nota cu
0
I
H 3 = 2 ~ M n(R) i cu A3=H3A2. Matricea A3 va avea toate elementele de
0 H3
sub diagonala principal, din primele trei coloane, zero. Procedeul continu ntr-un
mod evident. n final, obinem o matrice superior triunghiular An1 = Hn1An2 =
=Hn1...H2H1A. Dac notm H=Hn1...H2H1 i cu R=HA, atunci H este
ortogonal i R superior triunghiular.
Corolar. Pentru orice matrice nesingular AM n(R) exist o matrice ortogonal
Q i o matrice superior triunghiular R astfel nct A= QR.
s :=
c 2j i
j =i
32
sfrit pentru i ;
5 x1 6 x2 + 2 x3 = 1
4 x + 2 x + x = 3
1
2
3
A = 5 6 2 ; b = 1 , C = 5 6 2 1 ;
4 2 1 3
3
4 2 1
Iteraia I
5
a1 = 5 ; c11 = 5 ; s = 66 = 8.124038405 ;
4
13.124038405
1
-3
= 9.379086466 10
=
;u =
5
;
8.124038405 13.124038405
0
A1 = H1 A =
5.44888848 1.10316995 ;
0
1.55911078 1.71746403
5.292934112
Iteraia a IIa
5.448888481
2
2
; s = c22
+ c32
= 5.667557862 ;
a2(1) =
1
.
559110785
33
0
0
1
H 2 = 0 0.961417354 0.275093933 ;
0 0.275093933 0.961417354
0
5.667557862 0.588142797 ;
A2 = H 2 A1 =
0
0
1.954675092
5.292934112
R= H A=
0
5.667557862 0.588142797 ;
0
0
1.954675092
1
R =
0
0.176442839 0.053089941 .
0
0
0.511593975
Se obine soluia
x1=1
n
p
2)
x p = xi
i =1
, 1 p <
cu proprietile:
34
(i)
(ii)
A+ B M A M + B M ,
AB M A M B M , A, BM n(R).
(iv)
Un exemplu de norm de matrice este norma euclidian de matrice, care se
definete astfel
(iii)
1/ 2
n n
A E = aij2
.
(1)
1
1
i
=
j
=
Proprietile (i) i (ii) sunt evidente. Pentru a demonstra proprietile (iii) i (iv) se
folosete inegalitatea CauchyBuniakovskiSchwarz pe Rn. Pentru exemplificare
demonstrm (iv). Fie C = AB. Atunci
2
cij2
n
n 2 n 2
bkj
= aik bkj aik
k =1
k =1 k =1
n continuare avem
n n
n n
n n
2
2
2
2
bkj2 = A E B E ,
AB E = cij2 aik
i =1 j =1
i =1 k =1
j =1 k =1
de unde rezult AB E A E B E .
vectorial
p dac
Observaia 1.
ntradevr,
Ax p A M
Ax 2 A E x 2 , () x.
n
n n
n
2
2
2
Ax 2 = (ai1x1 + ... + ain xn )2 aij2 x 2j = A E x 2 .
i =1
i =1 j =1 j =1
deci
35
AM.
= sup
unde cu
{ U (x ) ;
xT = 1
(2)
Se tie de asemenea c:
U
( ) c xT
= inf c > 0 ; U x T
, () x T R n
(3)
(5)
Ax A x , x R n , deci norma
Din relaia (5) rezult n particular c
matriceal definit de (4) este compatibil cu norma vectorial creia i este
subordonat.
Este evident c aplicaia A A definit de (4) satisface proprietile (i)(iii)
din definiia 1. De asemenea avem
ABx A Bx A B x ,
de unde rezult A B A B .
Aadar, formula (4) definete ntradevr o norm de matrice.
Definiia 4. Dac 1, ..., n sunt valorile proprii ale matricei A , atunci se noteaz
cu (A)= max i i (A) se numete raza spectral a matricei A (n aceast
1i n
(1)
A = max aij ,
1i n j =1
36
A 1= max aij ,
(2)
1 j n i =1
((
A 2= A A ,
A p am notat norma matricei A subordonat normei vectoriale x p .
(3)
unde cu
))
1
2
Demonstraie.
n
aij x j 1max
aij x j x 1max
aij
1i n j =1
i n j =1
i n j =1
Ax = max
n
Rezult
astfel nct
A~
x = max aij . Pentru aceasta, fie k astfel nct s avem
akj
j =1
1i n j =1
n
= max aij
i fie ~
x j = akj
a
kj
(6)
1i j =1
dac
akj = 0
dac
akj 0
x = 1 i
Evident c ~
.
n
A~
x = akj = max aij . Aadar, am demonstrat
j =1
1i n j =1
i =1
i =1
max aij
1 j n
i =1
de unde rezult
1 j n i =1
A 1 max aij .
1 j n i =1
x
1
37
unde rezult
e j = 1 i
1
j = 1, n . Aadar,
i =1
Ae j = aij , de
1
i =1
A 1 max
aij
1 j n i = 1
{
}
2
Evident 1 = sup{( Ax )T Ax ; x 2 = 1 }= A 2 , deci
1 = sup xT Bx ; x 2 = 1
Deoarece mulimea S = x ; x 2 = 1
proprietile: 1=vTBv i v 2 = 1 .
(7)
A 2 = 1
z z
B
i deci
ntr-adevr, pentru orice z0 avem:
z z 1
2 2
2
z T Bz 1 z 2 = 1z T z
(8)
Pe de alt parte este evident c relaia (8) este verificat i pentru z=0. Deci relaia
(8) are loc pentru orice z. De asemenea avem:
(9)
vTBv=1vTv
Dac notm cu C=B1In , atunci avem:
(8')
zTCz0 , () z i
(9')
vTCv=0
Fie z=v+ty , unde tR este oarecare i y este un vector oarecare. Din (8') i din
faptul c C este simetric rezult
vTCv+2tyT(Cv)+t2yTCy0 .
innd seama de (9') avem
(10)
t 2 y T Cy + 2ty T (Cv ) 0 .
T
Pentru ca (10) s fie adevrat pentru orice tR trebuie ca y Cv = 0. Cum y a
fost arbitrar rezult 0=Cv=(B1In)v=Bv1v.
2
1 = A 2 Au
2
2
= u T Bu = u T u = .
Aadar, 1 este cea mai mare valoare proprie a matricei B, deci am demonstrat i
afirmaia (3).
38
i>0
rezult
+
+
+
x
x
x
x
8
6
10
9
2
3
4 = 33
1
7 x1 + 5 x2 + 9 x3 + 10 x4 = 31
a crui soluie exact este x1=x2=x3=x4=1.
S considerm acum sistemul (1') n care am modificat puin termenii liberi
10 x1 + 7 x2 + 8 x3 + 7 x4 = 32.1
7 x + 5 x + 6 x + 5 x = 22.9
1
2
3
4
.
(1')
8 x1 + 6 x2 + 10 x3 + 9 x4 = 33.1
7 x1 + 5 x2 + 9 x3 + 10 x4 = 30.9
Soluia sistemului (1') este x1= 9.2 ; x2= 12.6 ; x3= 4.5 ; x4= 1.1 . Aadar, o
eroare mic, de ordinul 0.1, a termenilor liberi, produce o eroare mare, de ordinul
10, a soluiei sistemului.
Fie acum sistemul (1") n care modificm puin coeficienii sistemului
10 x1 + 7 x2 + 8.1x3 + 7.2 x4 = 32
7.08 x + 5.04 x + 6 x + 5 x = 23
1
2
3
4
.
(1")
+
+
+
x
x
x
x
8
5
.
98
9
.
89
9
2
3
4 = 33
1
6.99 x1 + 4.99 x2 + 9 x3 + 9.98 x4 = 31
Soluia sistemului (1") este: x1= 81 ; x2= 137 ; x3= 34 ; x4= 22 .
S analizm acum efectul perturbrii membrului drept asupra soluiei unui sistem
liniar Ax=b, n care matricea A este nesingular.
39
x A1 b
(2)
A
1
x
b
(3)
A A1
b
b
(4)
68 17 10
7 5 6 5
1 41
, A =
A=
10 17
5 3
8 6 10 9
7 5 9 10
6
10 3
2
40
(v)
max i
min i
A < 1.
de unde rezult
1
( A + I n )1 .
A +1
Pe de alt parte avem
In=(In+A)1+A(In+A)1 ,
de unde rezult
(I n + A)1
i mai departe
(I n + A)1
1
.
1 A
(i)
A 1
(ii)
A 1 ( B A ) k < 1 .
B 1
1 k
Demonstraie.
Din Lema 1 rezult c In+A1(BA)=A1B este nesingular.
41
1 A 1 (B A) 1 k
B 1 = B 1 A A1 B 1 A A1
1 k
cond( A)
1 cond( A)
Demonstraie.
Din egalitile Ax=b i (A+A)(x+x)=b rezult Ax+Ax+Ax=0. n continuare
avem x = (A+A)1A x i mai departe
x
( A + A)1 A
(6)
x
i B=A+A, atunci
A 1 (B A) = A1A < 1
i va rezulta
B
= ( A + A )
A1
1 A1A
A1
1 A1 A
(7)
x
x
A 1 A
1 A
A 1 A
1 A
A
A
.
A A
x
1 cond( A)
A
42
x
x
A
b
.
+
A A
b
1 cond ( A)
A
cond ( A)
(LU )1
A1 .
A1
, deoarece
A1
.
1 k
ntradevr, s alegem n Lema 2 matricea LU n loc de A i matricea A n loc
de B. Avem
k
A1 ( A LU ) A1 A LU = k < 1 .
Atunci rezult
A1
1 k
i deci cond ( A)
A
1 k
43
e ( m ) = B m e ( 0)
(5)
Demonstraie.
Deoarece
lim B
e (m ) B m e (0 ) B
m
= 0 , rezult
e (0 )
lim e (m ) = 0 .
44
Demonstraie.
( B ) < 1 . Din
Algebra liniar se tie c matricea B se poate aduce la forma canonic Jordan, deci
c exist o matrice nesingular C astfel nct
J p (1 )
0
L
1
1
,
M
M
C B C = J =
J p2 ( 2 )
J pr ( r )
0
unde
1 0 L 0
1
M
J p ( ) =
M
O 1
C 1 B m C = J m , rezult c
lim J m = 0 . Pe
0
1
D=
O
0
0
r
este o matrice diagonal de ordinul n, iar N este o matrice nilpotent de ordinul
n, adic Nn = 0 .
m
k m k k
n continuare avem J m = C m
D
N . Deoarece Nk=0 pentru kn, vom
k =0
avea
n
k m k k
J m = Cm
D
N .
k =0
Observm c
Jm
n mk
m(m 1)...(m k + 1) mk
k
k
D N <
N ( ( B ) )m k
k!
k =0
k =0 k!
n
(6)
Cum
45
lim m k ( ( B)) mk = 0 ,
rezult c
lim J m = 0 ,
deci c
lim J m = 0 .
Reciproc, s presupunem c
(7)
1
1
, rezult c
, ...,
Cum D -1 = diag
a
a
11
nn
D 1 E = max
aij
1i n j =1 a ii
j i
n
1
bi aij x j , i = 1,n .
xi =
aii
j =1
j i
{ x (m ) }
(7)
unde
n
1
bi aij x (jm ) , i = 1,n .
xi(m+1) =
aii
(8)
x . Aadar, metoda Jacobi
(0)
j =1
j i
(8)
46
1 10 1 1 x 2 12
1 1 5 1 x = 8
3
1 1 1 10 x 34
4
Soluia exact este x1 = 1, x2 = 2, x3 = 3,
5 0 0 0
0 1 1
0 10 0 0
1 0 1
, E=
D=
0 0 5 0
1 1 0
0 0 0 10
1 1 1
x4 = 4.
1
0 0,2 0,2 0,2
1
0,1 0 0,1 0,1
-1
, D E =
,
1
0,2 0,2 0 0,2
0,8
1,2
-1
, D -1 E = 0.6 < 1 .
D b=
1,6
3,4
iteraii obinem
a
L = 21
...
a
n1
0
0
...
an2
...
...
...
...
0
0 a12
0
0 0
, iar U =
...
... ...
0 0
0
... a1n
... a 2n
.
... ...
... 0
i care
47
j =i +1
(10)
( m+1)
, este imediat
Din algoritmul (10) se observ c fiecare nou component, x j
utilizat la calculul urmtoarei componente.
Se poate arta c procesul iterativ GaussSeidel este convergent dac
matricea A este tare diagonal dominant.
n cazul exemplului precedent obinem
(m+1)
(m )
0
0 0 x1
5
0 1 1 1 x1 4
(m+1)
(m )
1 10 0 0 x 2
0 0 1 1 x2
12
1 1 5 0 (m+1) = 0 0 0 1 (m ) + 8
x3
x3
1 1 1 10 (m+1) 0 0 0 0 (m ) 34
x4
x4
(m+1 )
x1
x (m+1 )
2
x (m+1 )
3
x (m+1 )
4
sau
Pentru x1(0)
x1(5)
1 (m)
(m)
(m)
= x 2 + x3 + x 4 4
5
1 ( m+1)
m
m
( )
( )
= x1
+ x3 + x 4 + 12
10
.
1 ( m+1)
m+1)
m)
(
(
= x1
+ x2
+ x4 + 8
5
1 ( m+1)
1
1
m+
m+
( ) + x ( ) + 34
= x1
+ x2
10
x 2(5)
= 1.998 ;
x3(5)
= 2.998 ;
x 4(5)
= 3.999
48
v1
v2
unde matricea A este simetric i pozitiv definit. Dac v = este un vector de
M
v
n
prob oarecare, atunci notm cu
r= Av b .
(2)
Vectorul r se numete vectorul rezidual.
Scopul oricrei metode de relaxare este ca prin schimbarea sistematic a
vectorului v, vectorul rezidual corespunztor r s se micoreze, eventual s se
anuleze.
n cele ce urmeaz, pentru orice doi vectori
u1
v1
u2
v
u = i v = 2
M
M
u
v
n
n
vom nota produsul lor scalar cu
u,v = v T u = u1v1 + u 2 v 2 + ... + u n v n
(3)
Asociem sistemului (1) funcia ptratic
n
1 n n
1
F (v) = aij vi v j bi vi = Av,v b,v
(4)
2 i =1 j =1
2
i =1
Deoarece A este pozitiv definit, rezult Q(v)>0 pentru orice v0, unde
Q(v) = Av,v . Observm de asemenea c pentru orice i = 1,n avem
F n
= aij v j bi ,
vi j=1
deci vectorul rezidual
r = gradF .
(5)
49
0
aij v j bi = 0, i=1,n , deci v=v0 este soluie pentru (1).
j =1
1
A(v + tp) ,v + tp b,v + tp =
2
1
t
t2
t
Av,v b,v + Av,p +
Ap,p + Ap,v t b,p =
2
2
2
2
= F (v ) +
t2
t2
Ap,p + t Av,p t b,p = F (v) +
Ap,p + t Av b,p =
2
2
= F (v ) +
t2
Ap,p + t r,p .
2
Folosim notaia
t2
Ap,p + t r,p
(6)
2
Determinm pe t astfel nct f (t ) = F (v ) s fie minim. Pentru aceasta trebuie
s avem f (t ) = 0 , de unde rezult t Ap,p + r,p = 0 . Aadar, obinem:
f (t ) = F (v ) = F (v + tp ) = F (v) +
t min =
r,p
(7)
Ap,p
= v + t min p
este un punct de
1 r,p
f (t min ) = F (v0 ) = F (v)
2 Ap,p
de unde rezult
2
1 r,p
0 .
F = F(v0 ) F(v) =
2 Ap,p
r,p 0 . Rezult c direcia
Pentru ca F<0, trebuie ca
astfel nct p s nu fie perpendicular pe r.
p se alege
50
ntradevr,
r,p
Ap,p
Ap,p = 0 .
51
r, p
t min =
Ap,p
v = v + t min p = v
Pe componente avem:
vi
rj
vi =
vj
a jj
rj
a jj
rj
a jj
ej
(1)
daca
i j
daca
i= j
(2)
rj
a jj
Ae j i mai departe
rj
r1 = r1
a1 j
a jj
.................
r j = 0
...................
rj
rn = rn
a nj
a jj
(3)
F = F (v) F (v ) =
2
1 rj
<0,
2 a jj
0.2 x1
0.2 x
1
Dac alegem v
+ 0.2 x 2
x2
+ 0.2 x 2
(1)
+ 0.2 x3
+ 0.2 x3
x3
0
= 0 , atunci
0
+ 0.6
+ 0.5
+ 0,4
=0
=0
=0
52
0.6
1
(
)
= 0.5 i max(r1(1) , r2(1) , r3(1) ) = r1(1) = 0.6 .
r
0.4
Aadar
1
r1(1)
r1(1)
(2)
(2)
(1)
(1)
e1 i r = r
Ae1 .
p1 = e1 = 0 , v = v
a11
a11
0
Pe componente avem
v ( 2)
1
( 2)
v 2
( 2)
v3
r (2)
1
(2)
r2
(2)
r3
= 0.6
=0
=0
=0
= 0.62 ,
= 0.52
Rezult
0
(2)
(3)
(2) r2
e2
p 2 = e2 = 1 , v = v
a 22
0
v (3)
1
(3)
v 2
(3)
v3
(3)
r3
r (3)
1
(3)
r2
(3)
r3
= 0 .6
= 0.62 ,
=0
(3)
i r
(3)
= max r1 , r2
(3)
, r3
(3)
=r
(2)
r2(2)
a 22
Ae2 ;
= 0.124
=0
= 0.644
) = 0.644 .
n continuare
0
r (3)
p3 = e3 = 0 , v (4) = v (3) 3 e3
a33
1
v ( 4)
1
( 4)
v 2
( 4)
v3
= 0.6
= 0.62
= 0.644
r (4)
1
(4)
r2
(4)
r
3
(3)
r
i r (4) = r (3) 3 Ae3 .
a33
= 0.2528
= 0.1288 , etc.
=0
53
a 21 x1 + a 22 x 2 + a 23 x3 b2 = 0
a x + a x +a x b
= 0
32 2 33 3
3
31 1
(0)
Fie v
1
vectorul de prob iniial i fie p = e1 = 0 . Conform formulei (1) din 9
0
(0)
( 0 ) r1
rezult v = v
e1 , iar pe componente
a11
(0)
(0)
(0)
(0)
v1 = v1 a a11v1 + a12 v2 + a13v3 b1
11
(0)
v
v
=
2
2
(0)
v3 = v3
(0)
(a v + a v + a23v3 b2 ) .
v2 = v2
a22 21 1 22 2
(0)
v3 = v3
n sfrit, pentru direcia de relaxare
0
p = e3 = 0 ,
1
)
.
54
v = v
1 1
.
v2 = v2
1
v3 = v3( 0 )
(a31v1 + a32v2 + a33v3 b3 )
a33
+
v1 = v1 =
a11 2
a11 3
a11
a21 ( 1 ) a23 ( 0 ) b2
( 1 )
(1)
v
v
+
v2 = v2 =
a22 1
a22 3
a22
(1)
a
b
(1 ) a
(1 )
v3 = v3 = 31 v1 32 v2 + 3
a33
a33
a33
Efectund calculele obinem:
a v (1) + a v (0) + a v (0) = b
1
13 3
12 2
11 1
( 0)
(1)
(1)
a 21v1 + a 22 v 2 + a 23 v3 = b2 .
(1)
(1)
(1)
a31v1 + a32 v 2 + a33 v3 = b3
..........................................................................
(m+1 )
+ an 2v2(m+1 )+an3v3(m+1 ) + ... + ann vn(m+1 ) = bn
an1v1
(2)
a11 0 L 0
0 0... 0
a 21
0 a22 L 0
T
,
E = a31 a32 0... 0 , F = E i D =
M
M
M
0
...
0 L ann
...
a n1 a n 2 ... 0
55
1
1 3 1 0
A=
,
b= .
0 1 3 1
1
1
0 0 1 2
Rezolvare
18 0 0 0
0 -1 0 0
1 6 12 0 0
0 0 -1 0
-1
F=
( D+E ) =
0 0 0 -1
36 2 4 12 0
1 2 6 18
0 0 0 0
0 18 0 0
1 0 6 12 0
1
M = ( D + E ) F =
36 0 2 4 12
0 1 2 6
4
1
det ( M I ) = 2 2 + .
9
36
3 = 0 ; 4 = 0 .
56
Iteraia I
1
(1)
( 0)
( 0)
x1 = a (b a12 x2 a1 3x 3
11
x (1) = 1 (b a x ( 1) a x (0)
21 1
23 3
2
a22
1
x3(1) =
(b a 31x (11) a 32x (21)
a33
(1)
1
(b a 41x (11) a 42x (21)
x4 =
a
44
a1 4x (40) )
0.5
(1) 0.5
rezult x =
0.5
a 34x (40) )
0.75
a 24x (40) )
a 43x (31) )
Iteraia a II a
1
( 2)
( 1)
( 1)
( 1)
x1 = a (b a12 x2 a1 3x 3 a1 4x 4 )
11
0.75
x ( 2) = 1 (b a x ( 2) a x ( 1) a x ( 1) )
21
23
24
2
1
3
4
a22
( 2) 0.75
rezult x =
1
0.83333
x3( 2) =
(b a 31x (1 2) a 32x (22) a 34x (41) )
0.91667
a33
( 2)
1
( 2)
( 2)
( 2)
(
)
=
x
b
a
x
a
x
a
x
4
41 1
42 2
43 3
a44
Iteraia a III a
1
(3)
( 2)
x1 = a (b a12 x2
11
x (3) = 1 (b a x ( 3)
21 1
2
a22
1
x3(3) =
(b a 31x (13)
a33
(3)
1
(b a 41x (13)
x4 =
a
44
Iteraia a IV a
1
( 4)
( 3)
x1 = a (b a12 x2
11
x ( 4) = 1 (b a x ( 4)
21 1
2
a22
1
x3( 4) =
(b a 31x (1 4)
a33
( 4)
1
(b a 41x (1 4)
x4 =
a
44
Iteraia a V a
a1 3x (32) a1 4x (42) )
0.875
(3) 0.90278
rezult x =
0.93981
a 32x (23) a 34x (42) )
0.96991
0.95139
( 4) 0.96373
rezult x =
0.97788
a 32x (24) a 34x (43) )
0.98894
1
( 5)
( 4)
x1 = a (b a12 x2
11
1
(
5
)
x =
(b a 21x (15)
2
a22
1
x3(5) =
(b a 31x (15)
a33
(5)
1
(b a 41x (15)
x4 =
a
44
57
a1 3x (34) a1 4x (44) )
0.98187
(5) 0.98658
rezult x =
.
( 5)
( 4)
0.99184
a 32x 2 a 34x 4 )
0.99592
(0)
a11v1( 0 ) + a12 v2( 0 ) + a13v3( 0 ) b1
v1 = v1
a11
( 1 )
(0)
(1)
a21v1( 1 ) + a22 v2( 0 ) + a23v3( 0 ) b2
v2 = v2
a22
(1)
(0)
a31v1( 1 ) + a32 v2( 1 ) + a33v3( 0 ) b3
v3 = v3
a33
(
(
(
)
)
Dac = 1, obinem din nou formulele (1) din 10. Dup efectuarea calculelor
rezult:
58
-1a v( 1 ) + ( 1 1 )a v( 0 ) + a v( 0 ) + a v( 0 ) = b
11 1
11 1
12 2
13 3
1
(1 )
(0)
(0)
1
-1 ( 1 )
(2)
a21v1 + a22 v2 + ( 1 )a22 v2 + a23v3 = b2
(1)
(1 )
(0)
1
-1 ( 1 )
a31v1 + a32v2 +a33 v3 + ( 1 )a33v3 = b3
E = a 21 0 0 , D = 0 a 22
0 i F=ET ,
a
0
0 a33
31 a32 0
.
(5)
1
C () = E + 1 D b
59
0 L
0
D1 F1 0
0
E1 D2 F2 0 L
0 E
0
2 D3 F3 L
,
A =
O
M
M
L Em 2 Dm1 Fm1
0
0
L
0
Em1 Dm
1 3 1 0
1 0 1 0
, E+F =
A=
,
0 1 0 1
0 1 3 1
0 0 1 2
0 1 0
0
1
0 0
0
2
2 0 0 0
1 0 1 0
0 3 0 0
3
, D 1 ( E + F ) = 3
D=
.
1
1
0 0 3 0
0
0
0 0 0 2
3
3
0 0 1 0
2
60
1
2
1
1
0
3
3
=0,
1
1
0
3
3
1
0
0
i =
4 7
18
1 =0.60763 .
2
1+
1 12
=1.11469 .
0.0924 0.37156
0
0.04261
0.57865
, C ( ) =
,
M ( ) =
0.01583
0.58657
0.03433 0.02337 0.37156
conduce la urmtoarele valori ale vectorului soluiilor pentru primele cinci iteraii:
0.55734
0.81593
0.92431
0.99166
(1) 0.57865
( 2) 0.82631
(3) 0.96946
( 4) 0.99595
, x =
, x =
, x =
,
x =
0.58657
0.93988
0.98803
0.99825
0.88426
0.97976
0.99565
0.99953
(m+1)
(m)
0.9987
(5) 0.99933
.
x =
0.99978
0.99993
61
unde
r ( 0 ) ,p (1)
Ap (1) ,p (1)
r (0) ,r (0)
Ap (1) ,p (1)
(1)
q1 = t min =
(2)
r (0) ,p (1)
(3)
Ap (1) ,p (1)
Fie
r(1)=gradF(v(1))=Av(1) b.
Din Observaia 1 din 8 rezult c
r (1) ,p (1) = r (1) ,r (0) = 0 .
(4)
de unde rezult
c1 =
Avem de asemenea
(5)
62
(2)
=v
(1)
+ t min p
(2)
=v
(1)
r (1) ,p (2)
Ap
(2)
,p
(2)
p (2) .
(6)
ck-1 =
Ap ( k 1) ,p ( k 1)
(7)
p ( k ) = r ( k 1) + ck 1 p ( k 1) ,
r ( k 1) ,p ( k )
qk =
Ap ( k ) ,p ( k)
(8)
(9)
vk = v ( k 1) + qk p ( k ) .
(10)
Metoda gradienilor conjugai este definit de formulele (7) (10).
n continuare prezentm unele simplificri i proprieti suplimentare.
Deoarece r(k 1) este ortogonal pe direcia p(k 1) rezult
r ( k 1) , p ( k ) = r ( k 1) , r ( k 1) + c k 1 p ( k 1) = r ( k 1) , r ( k 1)
i deci
qk =
r ( k 1) ,r ( k 1)
Ap ( k ) ,p ( k )
>0.
(9)
(12)
(13)
(k 1 )
,Ap
(k)
= r
( k 1)
,r
r ( k 1) , Ap ( k )
( k 1)
Ap
(k )
.
Din (13) i (14) rezult acum (12) .
, r
( k 1)
+ c k 1 p
( k 1)
63
r ( k 1) ,Ap ( k 1) = r (k 1) ,
1
qk 1
(r
( k 1)
r ( k 2) =
1
qk 1
r ( k 1) ,r ( k 1) .
r (k 1 ) ,Ap(k 1 )
Ap(k 1 ) ,p(k 1 )
r (k 1 ) ,r (k 1 )
r (k 2 ) ,r (k 2 )
r ( 0 ) = Av( 0 ) b ; p ( 1 ) = r ( 0 ) ;
q1 =
r ( 0 ) ,r ( 0 )
Ap
(1) (1)
,p
; v( 1 ) = v( 0 ) + q1 p( 1 ) ; r ( 1 ) = r ( 0 ) + q1 Ap( 1 ) ;
qk =
r (k 1 ) ,r (k 1 )
r
(k 2 ) (k 2 )
,r
r (k 1 ) ,r (k 1 )
(k) (k)
Ap ,p
; p(k) = r (k 1 ) + ck 1 p(k 1 ) ;
sfrit pentru k .
n Mathcad algoritmul de mai sus este aplicat unui exempu.
64
1 1
1 2
2 1
6
b
Vectorul de proba
0
0
0
GrCon( A , b , x, n )
< 0>
r
A .x b
< 0>
r
x x q .p
< 1>
r
< 0>
r
q .A .p
for k 2 .. n
c
<k
r
<k
r
p
q
1>
. r< k
1>
2>
. r< k
2>
<k
r
<k
r
1>
1>
c .p
. r< k
1>
A .p .p
x x q .p
< k>
r
<k
r
1>
q .A .p
1
GrCon( A , b , x, n ) =
1
1
1
65
Demonstraia se face prin inducie relativ la k . Pentru k=1 avem r (1) , r (0) = 0
din (4), iar pentru prima afirmaie nu avem ce arta. Ipoteza de inducie este:
r (i ) , r ( j ) = 0
pentru ij , 0i,
p (i ) , Ap ( j ) = 0
pentru ij ,
jk ,
(15)
1ijk .
(16)
Va trebui s artm c
r (k +1 ) ,r (j) = 0 ,
pentru j = 0 ,k
p ( k +1) , Ap ( j ) = 0 , pentru
(17)
j = 1,k .
(18)
deoarece
(k)
(j)
= r (k),Ap(j)
Pe de alt parte,
Ap(j) =
1 (j) (j-1 )
r -r
qj
r (k) ,Ap(j) = 0 .
r (k +1 ) ,r (j) = 0 i
Din Teorema 1 rezult c vectorii reziduali r(k) sunt ortogonali doi cte
doi i deci sunt liniar independeni (dac sunt nenuli). Aadar, nu pot exista (n+1)
vectori reziduali nenuli. Rezult c n metoda gradienilor conjugai soluia exact
66
se gsete n cel mult n pai. Teoretic ar trebui ca vectorul rezidual r(n) s fie zero
i deci v=v(n) s fie soluia exact a sistemului.
n practic acest lucru nu se ntmpl, deoarece n determinarea vectorilor
r(k) intervin erori de calcul, care fac ca acetia s nu formeze un sistem ortogonal.
Deoarece n general r(n)0, continum s calculm r(k), k>n pn obinem un
vector rezidual nul sau foarte mic r (k) <<1 . Aceast atitudine se justific
prin faptul c metoda gradienilor conjugai este o metod de relaxare prin care
valoarea funciei ptratice F=F(v) se micoreaz la fiecare pas.
Metoda gradienilor conjugai se dovedete foarte util pentru sistemele n
care matricea A are multe zerouri i fiecare ecuaie are o anumit regularitate
intern.
Astfel de sisteme apar n procesul de discretizare a problemei la limit a
ecuaiilor cu derivate pariale de tip eliptic.
(1)
, m>n .
..........................
a x +...+ a x = b
mn n
m
m1 1
Evident, un asemenea sistem poate s nu aib soluie. Fie
r = Ax b = (r1, r2 , ..., rm )T
vectorul rezidual , unde
ri = ai1 x1 +...+ ain xn bi , i = 1, m .
(2)
(3)
Definiia 1. Se numete soluie n sensul celor mai mici ptrate a sistemului (1),
acel vector x* , pentru care funcia (2) are valoarea minim.
Dac:
xR n
67
xR
x=x*
este un substitut pentru soluia sistemului i anume soluia n sensul celor mai
mici ptrate.
Funcia f se poate pune sub forma
f(x)= r,r = Ax-b,Ax-b = Ax,Ax 2 Ax,b + b,b
i mai departe
f(x)= AT Ax,x 2 AT b,x + b,b
(4)
AT Ax=AT b
(5)
(Sistemul (5) se numete sistemul normal al lui Gauss).
Demonstraie.
Punctele de extrem ale funciei ptratice f dat de (4), se caut printre
punctele sale critice, iar acestea, se afl rezolvnd sistemul:
grad f = 0
Cum grad f=ATAx ATb, obinem sistemul ATAx=ATb. Pe de alt parte se tie c:
rang A=rang AT =rang AT A =rang AAT .
Matricea B=ATA este o matrice ptratic de ordinul n i rangB=n,
conform celor de mai sus. Rezult c sistemul (5) admite o soluie unic, x=x*,
care este punct critic pentru f.
Matricea B este evident simetric i semipozitiv definit. Mai mult, n
ipoteza noastr, matricea B este pozitiv definit. ntr adevr, dac presupunem c
Bx,x = 0 , atunci rezult Ax,Ax = 0 i deci Ax=0. Cum rang A=n<m
rezult x=0.
Pe de alt parte avem
( )
( )
68
cond(B) = 1 .
(6)
n
Cum
Bx,x
Bx,x
min Bei ,ei = minbii ,
1 = sup
max Bei ,ei = maxbii i n = inf
x0 x,x
i
i
i
i
x0 x,x
rezult
cond( B)
maxbii
.
minbii
(7)
.
(8)
5 m+n=3
8 m+n=5
10 m+n=6
Evident, sistemul (8) este supradimensionat i incompatibil. Avem:
0 1
0
2 1
1
193 25
117
; AT b =
.
A = 5 1 ; b = 3 ; B = AT A =
25 5
15
8 1
5
10 1
6
Ecuaiile normale ale lui Gauss sunt
193m + 25n = 117
.
25m + 5n = 15
21
3
,n =
, iar valorile proprii sunt 1 = 196.268 i
34
34
2 = 1.732 . Rezult cond( B ) 113 . Dac folosim estimarea (7) obinem
m=
69
maxbii 193
=
= 38,6 .
minbii
5
21
3
x . Aceast dreapt nu trece
34
34
prin punctele Mi, dar este acea dreapt din plan care trece cel mai aproape de
aceste puncte.
S presupunem c vrem s determinm dreapta de regresie corespunztoare
punctelor M i ( xi ,yi ) , i = 1,n .
Matricele
1 1
n(n + 1)(2n + 1) n(n + 1)
2 1
T
6
2
i
B
=
A
A
=
A=
n(n + 1)
M M
n 1
conduc la
max bii (n + 1)(2n + 1) n 2
=
>
.
min bii
6
3
Pentru n=100, cond(B)>13333, deci sistemul normal al lui Gauss este prost
condiionat.
y=
(9)
, m<n .
........................
a x + ... + a x = b
mn n
m
m1 1
Datorit lipsei de acuratee a msurtorilor se pune condiia ca suma
ptratelor coreciilor
2
(li xi ) s fie minim. Se obine astfel o problem de
i =1
extrem cu legturi.
Exemplul 2.
S presupunem c msurnd unghiurile x1, x2, x3 ale unui triunghi gsim
valorile l1, l2, l3. Evident avem legtura
x1+ x2+ x3 = 180 .
Impunem condiia ca abaterile datorate impreciziei msurtorilor s fie ct mai
mici, deci ca expresia
(x1 l1 )2 + (x2 l2 )2 + (x3 l3 )2
s fie minim.
70
............................................
xn ln (a1n 1 + ... + amn m ) = 0
.
(10)
x = AT + l
Ax = b
nlocuind (10) n (10) obinem sistemul
AAT = b Al .
(10)
(10)
(11)
Dac rang A = m , atunci rang ( AA ) = m i sistemul (11) are soluie unic. Mai
mult, matricea AAT este ptratic, simetric i pozitiv definit, deci rezolvarea
sistemului (11) se poate face cu metoda Cholesky sau una din metodele de relaxare.
Rezolvnd sistemul (11) gsim multiplicatorii lui Lagrange 1 ,..., m , iar din
relaia x = AT + l determinm punctul de minim condiionat al funciei f.
(Cum d 2 = 2(dx12 + ... + dxn2 ) > 0 rezult c avem ntr adevr un punct de
minim).
Exerciii
71
x1 + 2 x2 + 8 x3 + x4 = 12
x1 x2 + x3 + 9 x4
= 5
1.0 0.1667 0.1667 0.1667
1.0
0.3171 0.1707
~ 0
R. Matricea triunghiular A =
,
0
0
1.0
0.2150
0
0
0
1.0
0 .333
~ 0 .1951
.
vectorul termenilor liberi transformat b =
1 .7850
1 .0
1
1
Soluia sistemului x =
2
1
4 x1 + x2 x3 + x4
x + 8x + x + x
1
2
3
4
2.
x1 + x2 + 6 x3 + x4
x1 + x2 + x3 + 7 x4
=1
=7
= 10
= 12
1 .0
0.1613
~ 0
R. Matricea triunghiular A =
0
0
1 .0
0
0
0
0.2500
~ 0.8710
vectorul termenilor liberi transformat b =
1.7789
2 .0
0.2500
0.0968
,
0.1105
1.0
72
3.
5 x1 + x2 + x3 + x4
x + 8x + 2 x + x
1
2
3
4
x
x
6
x
x
+
+
3
4
1 2
x1 + x2 + x3 + x4
= 14
= 127
= 15
= 10
1 .0
0.2308
0.1026
~ 0
,
R. Matricea triunghiular A =
0
0
1 .0
0.1558
0
0
0
1.0
2.8000
~ 3.1026
vectorul termenilor liberi transformat b =
.
2.3766
4 .0
x1 + x2 + 11x3 + x4 = 8
x1 x2 + x3 + 8 x4 = 7
0
0
0
3.1623
2.9833
0
0
T 0.3162
R.
.
Soluia
sistemului
R =
0
0.3162 0.3687 0.32809
2.846
2.3129
T
R y=b este y =
, iar cea a sistemului Rx=y , i deci soluia
2.9726
2.7774
1
1
sistemului iniial este x = .
1
1
73
5.
8 x1 x2 x3 + x4
x + 6 x + x 2 x
1
2
3
4
x
x
7
x
x
+
+
+
3
4
1 2
x1 2 x2 + x3 + 9 x4
=7
=6
= 8
= 11
R.
0
0
0
2.82843
2.42384
0
0
T 0.35355
.
R =
0.361
2.59705
0
0.35355
2.47487
2.83641
T
Soluia sistemului R y=b este y =
iar cea a sistemului Rx=y , i
3.13776
2.82564
1
1
deci soluia sistemului iniial este x = .
1
1
6.
6 x1 + x2 2 x3 x4
x + 5x + x x
1
2
3
4
+
+
2
x
x
11
x
1
2
3 x4
x1 x2 x3 + 4 x4
= 19
= 15
=8
= 10
R.
0
0
0
2.44949
2.19848
0
0
T 0.40825
.
R =
3.15682
0
0.8165 0.60648
7.75672
5.3825
T
Soluia sistemului R y=b este y =
, iar cea a sistemului Rx=y , i
3.50636
1.88878
74
7.
R.
9
x
8
x
7
x
6
x
2
3
4 = 30
1
x1 + x2 x3 x4
=0
det(A)= 1112; descompunerea A=QR este dat de
0.3607 0.3882 0.7877 0.3143
0
0
0
1.58889
29.9354
8.2430
Soluia sistemului Qy=b este y =
,
11.5498
1.5888
9 x1 + 8 x2 + 7 x3 + 6 x4 = 6
4 x1 3 x2 + 2 x3 x4 = 2
R.
0.541
11.09054 2.88534 9.2872
10.23107 2.42367
8.7419
0
R =
0
0
4.3444 2.79972
0
0
0
5.69631
75
6.49202
5.40201
Soluia sistemului Qy=b este y =
,
9.94384
11.39263
1
2
iar cea sistemului Rx=y este x = .
1
2
4 x1 + 3x2 + 2 x3 + x4 = 2
x + 2 x + 3x + 4 x
= 2
1
2
3
4
9.
.
9 x1 8 x2 + 6 x3 7 x4 = 30
x1 x2 + x3 x4
=4
R.
6.5451 0.3565
0
R=
0
0
2.42341
0
0
0
28.14106
11.47901
,
y=
0.23702
0.50691
1
1
x = .
1
1
5.62821
5.29041
.
2.66043
0.50691
76
1 1
1 2
1 1 3
2
10. Pentru matricea A =
, s se calculeze:
2
1 1 1
1 1 1 1
a)
det(A) , A1, det(A1);
b)
A 1,
A 2,
A;
A1 ,
1
A1 ,
2
A1
0
0.6667 1
1 0.3333
R.
a)
det(A)=6, A =
,
1
0 .5
1
1.5
0
0 .5
0
0.5
det(A1)=0.1667;
A 1 = 6, A 2 = 5.7446, A = 7 ;
b)
A1 = 3, A1 = 2.848, A1 = 4 .
1
2
c)
cond1(A)=18, cond2(A)=12.7511, cond(A)=28 .
c)
11. S se calculeze:
a)
det(A) , A1, det(A1);
b)
A 1,
A 2,
A;
A1 ,
1
A1 ,
2
A1
c)
pentru matricea A = 3 2 2 .
6
1
3
R.
a)
det(A)=8, A
1
1
1
A 1 = 6, A 2 = 5.7446, A = 7 ;
b)
A1 = 3, A1 = 2.848, A1 = 4 .
1
2
c)
cond1(A)=68.25, cond2(A)=48.28525, cond (A)=77.5 .
Folosind metoda Iacobi s se gseasc soluia aproximativ pentru
urmtoarele sisteme de ecuaii liniare :
12.
5 x1 x2 x3
x1 + 6 x2 + x3
x x + 7 x
3
1 2
77
=5
= 4
=9
0 6 0 , E = DA = 1
1
0 0 7
0 1 ,
1 0
0
0.2
0.2
0.16667 , c = D1 b =
B = 0.16667
0
0.14286 0.14286
0.66667 , B 2 =0.41997,
1.28571
( 0)
0
= 0 , este:
0
1.12381
( 2)
x = 0.66667 , x = 1.04762 ,
1.28571
1.04762
0.98939
(3)
( 4)
x = 1.02857 , x = 0.99592 .
0.97551
0199592
(1)
1
Soluia exact fiind x* = 1
1
aproximativ x(4) , este
13.
x* x ( 4) = 0.01208 .
6 x1 + x2 x3 + x4
x + 7x + x x
1
2
3
4
x
2
x
8
x
x
+
+
+
2
3
4
1
x1 + x2 + x3 + 9 x4
=2
= 4
=6
8
iteraii).
R. Se poate pune sistemul sub forma x = Bx+c, unde B = D1 E , iar
6 0 0 0
0 1 1 2
0 1 1
0 7 0 0
1
D=
, E = DA =
,
0 0 8 0
1 2 0 1
0 0 0 9
1
1 1 0
78
0.14286 0.14286
0
0.14286
B=
0.125
0.25
0.125
0
0.33333
0.57143
1
c=D b =
, B 2 =0.5989, (B)= 0.27926. Soluia pentru primele
0.75
0.88889
0
0.33333
(0) 0
(1) 0.57143
4 iteraii, pornind cu x = , este: x =
,
0
0.75
0
0.88889
0.84987
0.95117
0.9886
(2) 0.85317
(3) 0.96542
( 4) 0.98884
, x =
, x =
.
x =
0.9623
0.97528
0.99689
0.94577
0.99544
0.99567
1
1
Soluia exact fiind x* = , eroarea care se face dac se reine ca soluie
1
1
14.
x* x ( 4) = 0.01682 .
4 x1 x2 x3 + x4 = 3
x + 7 x + x x = 14
1
2
3
4
+
+
x
x
6
x
x
3
4 = 21
1 2
x1 x2 x3 + 9 x4 = 38
R. Se poate pune sistemul sub forma x=Bx+c, unde B=D1E , iar
4 0 0 0
0 1 1 1
0 7 0 0
1 0 1 1
D=
, E = DA =
,
0 0 6 0
1 1 0 1
0 0 0 9
1 1 1 0
79
0.25
0
0.25
0.25
0.14286 0.14286
0
0.14286
B=
,
0.16667 0.16667
0.16667
0
0.75
2
1
c=D b =
, B 2 =0.60753, (B)= 0.22758. Pentru primele 4 iteraii,
3.5
4.22222
0
0.75
2
(0) 0
(1)
pornind cu x = , soluia este: x =
,
0
3 .5
0
4.22222
1.06944
1.00711
0.99663
( 2) 1.99603
(3) 1.98545
( 4) 1.99883
, x =
, x =
.
x =
3.00463
2.99239
2.99784
3.97222
3.99133
3.99844
1
2
Soluia exact fiind x* =
, eroarea care se face dac se reine ca soluie
3
4
15.
x1 + 6 x2 x3 = 2
x 3 x + 4 x = 8
2
3
1
5 2 2
L = 1
0 1 , D = 0 6 0 .
0 0 , U = 0
0 0 4
0
1 3 0
0
0
Atunci
80
( D + L)
0
0
0.2
= 0.03333 0.16667
0 ,
0.075
0.125 0.25
0 .4
0 .4
0
0.6
(D+L) b = 0.23333
2.025
16.
(1)
. Se obin pornind cu x
( 0)
0
= 0 , vectorii:
0
0.6
0.30333
0.73531
( 2)
(3)
= 0.23333 , x = 0.72139 , x = 0.89203 ,
2.025
2.61687
2.85285
0.89795
( 4)
x = 0.95847 .
2.94334
6 x1 x2 2 x3 + x4
2x + 6x x x
1
2
3
4
x
3
x
8
x
2
x4
+
+
2
3
1
x1 + x2 + x3 + 4 x4
=2
=8
=2
= 1
6 1 1
2
A=
1 3
8 2
1
1
4
0 0 0
2
0 0 1 1
, U =
,
L=
1 3 0 0
0 0
0 2
1
0 0
1 1 0
0 0
81
0
D=
0
0
6
0
0
0
0
8
0
0
0
0
0
0
0.16667
0.16667
0
0
1 0.05556
Atunci ( D + L) =
0
0.0625
0.125
0
0.33333 0.16667
0 0.16667
0.22222
0 0.05556 0.05556
1
(D+L) U =
,
0.1875
0
0
0.0625
0.33333
1.22222
1
(D+L) b =
.
0.75
0.82639
0
0.5
0.95573
(0) 0
(1)
( 2) 1.02778
Alegnd x = , obinem: x =
, x =
,
0
0.9375
0.96973
0
0.85938
0.98831
0.99259
0.99803
0.99971
(3) 0.99937
( 4) 1.00048
(5) 1.00006
, x =
, x =
.
x =
0.99592
0.99918
0.99984
0.99697
0.99942
0.9999
=7
10 x1 x2 x3 + x4
x + 11x x x
= 10
1
2
3
4
17.
x1 x2 + 12 x3 + x4 = 22
x1 + x2 + x3 + 13x4
= 24
R. Se observ c matricea coeficienilor sistemului
10 1 1 1
1 11 1 1
A=
1
1 1 12
1 1 1 13
82
1 0 0
L=
1 1 0
1 1 1
0
0 0 1 1
, U =
,
0
0 0 0
1
0 0 0
0
0
10 0 0 0
0 11 0 0
D=
0 0 12 0
0 0 0 13
Atunci
0 .1
0
0
0
0.09091
0
0
1 0.00909
,
( D + L) =
0.00758
0.00758
0.08333
0
0.1
0 .1
0.1
0
0.1
0 0.00909 0.08182
1
(D+L) U =
,
0 0.00758
0.01515 0.08333
0 .7
0.97273
1
(D+L) b =
1.81061
1.96445
0
0 .7
(0) 0
(1) 0.97273
Alegnd x = , obinem: x =
,
0
1.81061
0
1.96445
0.98023
0.99793
0.99993
( 2) 1.01219
(3) 1.00001
( 4) 1.00001
, x =
, x =
,
x =
1.99437
1.99958
1.99998
1.99711
1.99999
1.99999
1
( 5 ) 1
x = .
2
2
83
18.
x1 + 6 x2 x3 = 14
x x + 9x
= 28
3
1 2
8 1 1
0
3
(1)
(1)
Lund vectorul de prob x = 0 se obine r = 14 , deci prima direcie
0
28
0
0
(1)
( 2)
0
de relaxare este p = e3 = 0 . Rezult x =
.
1
3.11111
Analog :
0
6.11111
0
( 2)
(3)
r = 10.88889 , p = e2 = 1 , x = 1.81481 ;
0
3.11111
0
7.92593
1
0.99074
(3)
(3)
0
r (3) =
, p = e1 = 0 , x = 1.81481 ;
1.81481
0
3.11111
( 2)
( 4)
0
0.99074
( 4)
( 4)
= 0.99074 , p = e2 = 1 , x = 1.91994 .
0.824070
0
3.11111
. a. m. d.
10 x1 + x2 x3 x4
x + 9x x + x
1
2
3
4
19.
+
+
x
x
11
x
3 x4
1 2
x1 + x2 + x3 + 8 x4
=9
= 24
= 30
= 32
1 1 1
10
1 9 1 1
R. Matricea sistemului este A =
.
1 1 11 1
1 1 1 8
84
0
(1) 0
Alegnd x =
0
0
(1) 24
se obine r =
.
30
32
0
5
( 2) 0
( 2) 20
, x = r =
.
0
34
4
0
0
0
(1)
Deci p = e4 =
0
1
Mai departe obinem :
0
8.09091
0
(3)
(3) 16.90909
( 2)
; r =
p = e3 = , x =
,
1
3.090901
0
0
4
3.09091
1
0.99697
0
( 4) 1.87879
(5) 1.87879
( 4)
; p = e1 = , x =
;
x =
3.09091
0
3.09091
4
0
4
0
0.99697
1
(6) 1.98956
( 5)
, p = e1 =
x =
0
3.09091
0
4
20.
4 x1 2 x2 + x3
2 x1 + 6 x2 x3
x x + 5x
3
1 2
0
1
(3)
p = e2 = ,
0
0
0
(5) 0.99697
r =
0.88182
0.21515
=9
=5
=6
1
4 2
R. Matricea A = 2
6 1 este simetric, tare diagonal dominant:
1 1 5
85
0
9
1
2.25
(1)
(1)
( 2)
x = 0 se obin: r = 5 , p = e1 = 0 , x = 0 ;
0
6
0
0
0
0
2.25
3.16667
( 2)
( 2)
(3)
(3)
r = 9.5 , este p = e2 = 1 , x = 1.58333 ; r =
0
3.75
0
0
5.33333
(1)
, p
(3)
0
2.25
2.1
1
( 4)
(3)
( 4)
= e3 = 0 , x = 1.5833 ; r = 1.06667 , p = e1 = 0 ,
1
1.06667
0
0
2.775
( 4)
x = 1.58333 .
1.06667
21.
x1 + 3 x2 x3 = 5
x2 + 4 x3 = 5
m0, unde: M = E + D
2
0 0 0
1
C = E + b , E = 1 0 0 , D = 0
0
0 1 0
x(m+1)=Mx(m)+C,
2
1+
1 12
F + 1 D ,
0 0
3 0 , F=ET ,
0 4
86
(1)
1.28719
1.64605
1.03385
( 2)
(3)
= 0.10088 , x = 0.85027 , x = 0.98314 ,
0.95373
1.04344
1.0014
1.00661
( 4)
x = 0.99835 .
1.00034
= 13
14 x1 + x2
x
+ 5 x2 x3
= 3
1
22.
x2
+ 14 x3 2 x4 = 15
2 x3 + 5 x4 = 7
R. Matricea coeficienilor sistemului este bloc tridiagonal, simetric i pozitiv
definit, deci metoda suprarelaxrii este convergent. Sistemul se poate pune sub
forma
(m+1)
=Mx +C,
C = E +
(m)
2
1+
1 12
m0,
unde
0
0 0
0
1 0
b , E =
0 1 0
0 0 2
, 1
M
0
0
0
1
1
= E + D F + 1 D
,
14 0 0 0
0 5 0 0
, D=
, F=ET ,
0 0 14 0
0 0 0 5
x(0) = b, rezult:
0.91242
1.20542
0.98111
(1) 3.79769
( 2) 0.79542
(3) 0.99288
, x =
, x =
,
x =
0.05784
0.96444
0.99882
1.26758
1.0093
1.0003
0.99985
0.99999
( 4) 0.99987
(5) 0.99999
, x =
.
x =
0.99997
1
1.00001
87
= 13
14 x1 + x2
x
+ 5 x2 x3
= 3
1
23.
x2
+ 14 x3 2 x4 = 15
2 x3 + 5 x4 = 7
S se precizeze numrul de iteraii necesare pentru ca eroarea s se micoreze de
10 ori.
R. Matricea A fiind simetric i pozitiv definit procedeul iterativ
GaussSeidel este convergent. Sistemul se poate pune sub forma
x(m+1)=Mx(m)+C , m0,
unde
0 0
0 0
0 0
1 0
1
1
M = (D+E) F , C = (D+E) b , E =
, F = ET,
0 1
0 0
0 0 2 0
0 0 0
5 0 0
.
0 14 0
0 0 5
0
0
0 0.07143
0.92857
0 .2
0
0 0.01429
0.78571
Deci M =
, C =
.
0 0.00102
0.01429 0.14286
1.12755
0
0.94898
0.0004
0.000571 0.05714
(1) 3.82857
( 2) 0.90939
(3) 0.98992
, v =
, v =
,
v =
0.3449
0.95609
0.99677
1.26204
1.01756
1.00129
14
0
D=
0
0.99928
0.99994
( 4) 0.99921
(5) 0.99994
, v =
.
v =
0.99976
0.99998
1.0001
1.00001
Raza
spectral
este
(M)=0.0748,
rata
de
convergen
este
R(M)= lg((M))=1.12609 i numrul de iteraii dup care eroarea scade de 10 ori
1
=0.88803, adic la fiecare iteraie eroarea scade de 10 ori.
este K
R(M )
88
=5
5 x1 + x2 x3
= 10
24.
x1 + 8 x2 + x3
x + x + 15 x = 15
3
1 2
S se precizeze numrul de iteraii necesare pentru ca eroarea s se micoreze de
10 ori.
R. Matricea A fiind simetric i pozitiv definit procedeul iterativ
GaussSeidel este convergent. Sistemul se poate pune sub forma
x(m+1)=Mx(m)+C , m0,
unde
0 0 0
5 0 0
1
1
T
M = (D+E) F , C = (D+E) b , E = 1 0 0 , F = E , D = 0 8 0
1 1 0
0 0 15
.
0.2
0.2
1
0
M = 0
0.12 , C = 0.9 .
Deci
0.02
1.0067
0 0.01467 0.02133
(1)
( 2)
(3)
( 4)
v = - 0.7 , v = 0.7444 , v = 0.78984 , v = 0.79364 ,
1.18
1.04211
1.01798
1.0168
1.04463
( 5)
v = 0.79386 .
1.01672
Raza
spectral
este
(M)=0.06262,
rata
de
convergen
este
R(M)= lg((M))=1.20326 i numrul de iteraii dup care eroarea scade de 10 ori
1
=0.83108, adic la fiecare iteraie eroarea scade de 10 ori.
este K
R(M )
S se scrie soluia aproximativ
sistemelor de ecuaii liniare:
x3
6 x1 + x2
+ 8 x2 + x3
25.
x1
x + x
+ 10 x3
2
1
89
0.60797
r (0) , p (1)
(1)
(0)
(1)
Iteraia a II-a .
r
(1)
=r
( 0)
+ q1 Ap
(1)
1.94684
r (1) , r (1)
= 0.90698 , c1 =
= 0.02911
r ( 0) , r ( 0)
1.57807
2.12151
r (1) , p ( 2)
= 0.17916 ,
p = r +c1p = 1.13987 , q2 =
Ap ( 2) , p ( 2)
1.22874
(2)
(1)
(1)
0.98807
x =x + q2p = 1.01485 .
0.9958
(2)
(1)
(2)
Iteraia a III-a.
r
( 2)
=r
(1)
+ q2 Ap
( 2)
0.09062
r ( 2 ) , r ( 2)
= 0.12656 , c2 =
= 3.62608 10 3
(1) (1)
r ,r
0.03906
0.09832
r ( 2) , p (3)
= 0.12133 ,
p = r +c2p = 0.12243 , q3 =
Ap (3) , p (3)
0.03461
1
(3)
(2)
(3)
x =x + q3p = 1 .
1
(3)
(2)
(2)
90
26. S se determine traseul optim pentru o conduct de gaze naturale care s treac
prin "apropierea" localitilor Li , i=1,...,10 , care raportate la un sistem cartezian
de referin au coordonatele urmtoare:
L1(1,2), L2(2,2), L3(5,3), L4(7,4), L5(10,2), L6(11,3), L7(15,4), L8(16,5), L9(18,1),
L10(20,4).
R. Lund traseul dup o dreapt, se obine sistemul:
a+b =2
2a + b = 2
5a + b = 3
7a + b = 4
10a + b = 2
11a + b = 3
15a + b = 4
16a + b = 5
18a + b = 1
20a + b = 4
care este supradimensionat. Se formeaz sistemul normal al lui Gauss Bu=c, unde
1505 105
340
, c =