Sunteți pe pagina 1din 31

3.

1 Formularea problemei 83

Capitolul 3
REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI
MICI PĂTRATE

3.1 Formularea problemei


Se consideră sistemul cu m ecuaţii algebrice liniare cu n necunoscute:
A  x  b, A   mn , b   m1 , x   n1 .
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
Problema generală de calcul este determinarea unei soluţii x care să satisfacă
la relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0).
Dacă m  n , atunci se spune că sistemul de ecuaţii este supradeterminat, iar
dacă m  n , atunci se spune că sistemul de ecuaţii este subdeterminat.
În cele ce urmează, discuţia se referă la sisteme supradeterminate de ecuaţii.
În final, este tratat şi cazul sistemelor subdeterminate de ecuaţii algebrice
liniare.
Exemplul 3.1:
Se reia Exemplul 2.1 referitor la identificarea modelului de regim staţionar
al unui proces dinamic. De această dată, funcţia care descrie comportarea
procesului este:
p p 1 p p
y  f (u 1 ,  , u p )  c 0   c i  u i    c i, j  u i  u j   c i,i  u i2 .
i 1 i 1 j i 1 i 1

Pentru intrările şi ieşirea procesului se consideră m valori experimentale


prezentate în tabelul următor:

nr. experiment u1  up y
1 a11  a1p b1
    
84 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

m am1  amp bm

În continuare se realizează următoarele notaţii:


b  [b1  b m ]T ;
x  [c 0  cp c1, 2  c1, p c 2, 3  c 2, p  c p 1, p c1,1  c p ,p ] T
1 a 11  a 1p a 11  a 12  a 1,p 1  a 1, p 2
a 11  a 12p 
 
A            ,
1 a m1  a mp a m1  a m 2  a m ,p 1  a m ,p a 2m1  a 2mp 

unde se numesc: A – matricea de date, vectorul b - vectorul măsurătorilor
(observaţiilor) care, în general, este afectat de eroare şi x - vectorul
coeficienţilor care trebuie determinat. Rezultă aşadar o problemă de tipul
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0), numărul de necunoscute fiind, în
acest caz, n  1  p  p  (p  1) / 2  p .
Se rescrie matricea de date A, din ecuaţia ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0), sub o altă formă punând în evidenţă vectorii coloană ai săi:
A  [a 1  a j  a n ], a j   m1 , j  1,  n .

Definiţii:
 Matricea A   mn se spune că are coloanele liniar independente sau că
este monică, dacă vectorii colană ai săi sunt liniar independenţi:
n
  j  a j  0m   j  0, j  1,  , n .
j1

 Se numeşte subspaţiu imagine al matricei A, notat cu Im(A), mulţimea:


Im(A )  {y   m1 / y  A  x , x   n1 }   m1 .
 Se numeşte subspaţiu nul (nucleu) al matricei A şi se notează cu nul(A) sau
N(A), mulţimea:
N ( A )  {x   n1 / A  x  0 m }   n1 .

Pornind de la aceste definiţii, se poate scrie următoarea relaţie:


dim( N( A))  rang( A)  n ,

unde dim(.) reprezintă dimensiunea spaţiului implicat, iar rang(.) semnifică


rangul matricei considerate.
Propoziţie:
3.1 Formularea problemei 85

Pentru orice matrice A   mn , m  n , următoarele afirmaţii sunt


echivalente:
i.) A este o matrice monică;
ii.) rang( A)  n ;
iii.) N (A )  {0 n } ;
iv.) matricea A T  A este pozitiv definită, deci inversabilă (nesingulară).
Concluzia care se desprinde este aceea că problema ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0) va avea o soluţie unică dacă vectorul b  0 m aparţine
subspaţiului imagine al matricei A, b  Im(A ) , sau, altfel spus, vectorul b
este o combinaţie liniară a coloanelor matricei A, acesta în ipoteza că
rang( A )  n .

Este posibil, însă, ca vectorul b să fie (uşor) perturbat, deci să nu mai


aparţină subspaţiului imagine al matricei A. Şi în astfel de cazuri se doreşte
determinarea unei soluţii pentru problema de calcul ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0). De aceea, pentru rezolvarea în orice condiţii a
problemei ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0), este nevoie de un
criteriu pentru determinarea unei soluţii unice. Principiul folosit este
minimizarea unei funcţii criteriu de tipul:
V ( x ) || b  A  x ||  . ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Astfel, se consideră că vectorul x * este o pseudosoluţie a problemei
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0) dacă acesta minimizează funcţia
criteriu dată de relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0):
*
V ( x )  minim.

Mărimea b  A  x se notează cu r şi se numeşte reziduu asociat vectorului


x.
Pentru funcţia criteriu aleasă, cele mai utilizate sunt normele 1, infinit şi
norma euclidiană. În funcţie de norma folosită, va rezulta o pseudosoluţie
diferită.
Problema determinării unei pseudosoluţii care minimizează criteriul dat prin
relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE
86 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

ÎN SENSUL CELOR MAI MICI PĂTRATE.0) este în fond o problemă de


optimizare. Astfel, pentru o funcţie criteriu scalară, minimul se obţine pentru
acel argument care anulează derivata de ordinul întâi a funcţiei (criteriu), iar
derivata de ordinul al doilea este pozitivă.
În cazul de faţă, argumentul fiind un vector, se vor lua în discuţie gradientul
şi hesianul funcţiei criteriu V , în raport cu argumentul său x , şi anume:
T
 V ( x ) V ( x )  n1
gradient:  x {V ( x )}       ,
 x 1 x n 
hesian:
not
 x x {V ( x )}   x {V ( x )}   x { Tx {V ( x )}}   nn .
Din cele enunţate, rezultă condiţia esenţială ca funcţia criteriu V să fie
diferenţiabilă în raport cu vectorul x . Astfel, dacă se foloseşte norma 1 sau
infinit în definirea funcţiei criteriu, atunci aceasta nu satisface condiţia de
diferenţiabilitate, deoarece normele respective se exprimă în raport cu funcţia
modul, la rândul ei nediferenţiabilă:
m
V1 ( x )   | ri | , V ( x )  max
1 i  n
{| ri |} , ri  b i  (A  x ) i , i  1,  , m .
i 1
Ca urmare, se foloseşte norma 2 (euclidiană), rezultând următoarea funcţie
criteriu de minimizat:
1 1 1 T 1 m
V( x )   || b  A  x || 22   || r || 22   r  r    ri2 .
2 2 2 2 i 1
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
Ca urmare, problema de calcul este determinarea unei pseudosoluţii x * a
sistemului ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0), care să aibă
proprietatea:
*
| b  A  x | 22  minn1{|| b  A  x | 22} . ( REZOLVAREA
x
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Pseudosoluţia care îndeplineşte condiţia ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0) se numeşte pseudosoluţie în sensul celor mai mici pătrate,
3.1 Formularea problemei 87

deoarece ea determină producerea unui reziduu cu norma euclidiană minimă.


Cu alte cuvinte, se minimizează suma pătratelor componentelor reziduului sau
suma pătratelor diferenţelor dintre observaţiile b i şi estimaţiile ( A  x ) i .
Determinarea vectorului x * care minimizează funcţia criteriu V ( x )
implică satisfacerea următoarelor condiţii:
* *
 x {V ( x )}  0 n şi  x {V ( x )}  0 . ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
În continuare se folosesc următoarele rezultate. Considerând matricea
n 1 m1
C   nm şi vectorii w   , z   , atunci se poate scrie relaţia:
T
 w {w  C  z}  C  z . ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Considerând matricea C   nn şi vectorul w   n1 , atunci se poate
scrie relaţia:
T
 w {w  C  w}  (C  C T )  w . ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Ca urmare, condiţiile de minim ( REZOLVAREA SISTEMELOR DE
ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0) se rescriu, folosind relaţiile ( REZOLVAREA SISTEMELOR DE
ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0) şi ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0), sub forma:
 x {V( x )}  (1 / 2)  2  ( A T  A  x  A T  b)  0 n
.
 x {V( x )}  (1 / 2)  2  ( A T  A )  0
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
Din relaţiile ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) rezultă:
A T  A  x  A T  b şi A T  A - matrice pozitiv definită.

Definiţie:
Sistemul de ecuaţii algebrice liniare:
AT  A  x  AT  b
( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
88 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

se numeşte sistem de ecuaţii normale asociat problemei ( REZOLVAREA


SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI
MICI PĂTRATE.0).
Sistemul ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) este un sistem
determinat, de ordinul n. În cele ce urmează se enunţă şi se demonstrează
următorul rezultat.
Teoremă de existenţă şi unicitate:
Dacă matricea A   mn , m  n , este monică, atunci oricare ar fi vectorul
b   m1 există şi este unică o pseudosoluţie x   n1 a sistemului
*

( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN


SENSUL CELOR MAI MICI PĂTRATE.0), numită şi soluţie generalizată în
sensul celor mai mici pătrate. Aceasta se scrie sub forma:
x  A  b ,
*

unde matricea A    nm este numită pseudoinversă sau inversă


generalizată şi este teoretic egală cu:
A   ( A T  A ) 1  A T .

Demonstraţia teoremei se bazează pe propoziţia precedentă şi cele enunţate


anterior, materializate în relaţiile ( REZOLVAREA SISTEMELOR DE
ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0). În plus, pentru suportul intuitiv, se poate apela la reprezentarea
geometrică din Figura 3.1.

r
bx
A * *
r 
bx
A Im(
A
)


yAx * *
yx
A
I
m (
A )
3.1 Formularea problemei 89

Fig. 3.1. Interpretarea geometrică a soluţiei în sensul celor mai mici pătrate
(lema proiecţiei ortogonale)

Astfel, conform Lemei proiecţiei ortogonale, reziduul asociat pseudosoluţiei


x , r  b  A  x , trebuie să fie ortogonal pe subspaţiul Im(A) pentru ca el să
* * *

fie de normă euclidiană minimă. Aceasta conduce la relaţia:


x   n1 ,
*
( A  x ) T  r  0,

ceea ce implică:
x   n1 .
T *
x  A T  (b  A  x )  0,

De aici rezultă:
*
(A T  A)  x  A T  b ,
*
ceea ce pune în evidenţă existenţa soluţiei în sensul celor mai mici pătrate, x
.
Observaţie:
Conform celor prezentate în capitolul 2, pentru sistemul determinat de
ecuaţii normale ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0), pseudosoluţia x *
este unic determinată dacă matricea acestui sistem, A T  A , este inversabilă.
Această condiţie este îndeplinită dacă matricea A T  A este pozitiv definită.
În practică, însă, nu se recomandă rezolvarea sistemului de ecuaţii normale
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0) deoarece matricea A T  A , deşi
teoretic este pozitiv definită, prin calcul, datorită erorilor de rotunjire, ea poate
deveni pozitiv semidefinită, deci neinversabilă. Astfel, în general, matricea
A T  A este prost condiţionată deoarece calculul său este afectat de erori de
rotunjire deseori cu caracter catastrofal.
Exemplul 3.2:
Fie o matrice A de forma:

1 1   
A  1 1  , cu  2   m   , fl(1   m )  1 , fl(1   2 )  1 .
1 1 
90 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

Matricea A are, evident, coloanele liniar independente, la precizia maşinii  m .


În schimb, efectuând calculele în virgulă mobilă, matricea fl(A T  A ) nu este
pozitiv definită, ci pozitiv semidefinită, deci neinversabilă:
 3 3   3 3 
AT  A   2,
fl(A T  A)   .
3   3  2      3   3  2   
T
Există un vector x  [1  1] T  [0 0] T , astfel încât fl( x  A T  A  x )  0 .

Calculul numeric automat pentru rezolvarea problemei ( REZOLVAREA


SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0), în sensul celor mai mici pătrate, foloseşte alte
proceduri care sunt descrise în continuare. Ele apelează la triangularizarea
ortogonală a matricei sistemului ( REZOLVAREA SISTEMELOR DE
ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0).

3.2 Triangularizarea ortogonală a matricelor

3.2.1 Matrice ortogonale

Definiţie:
Fie o matrice Q   mm . Matricea Q se numeşte ortogonală dacă este
îndeplinită una din relaţiile:
Q T  Q  I m sau Q T  Q 1 .

Se consideră matricea ortogonlă Q scrisă pe coloane:


Q  [q 1  qi  qj  q m ], q i   m1 , i  1,..., m .

Conform definiţiei, coloanele matricei Q sunt vectori ortogonali şi de normă


unitară:
T
q i  q j  0, i  j, i, j  1,..., m; || q i || 22  1 ,

sau altfel spus, aceştia sunt vectori ortonormali.


În contimuare se enunţă următoarele proprietăţi ale matricelor ortogonale:
1. o matrice ortogonală păstrază norma vectorială euclidiană:
z   m1 , || Q  z || 22 || z || 22 ;
2. matricele ortogonale păstrează norma matricială euclidiană, precum şi
norma Frobenius:
3.1 Formularea problemei 91

A   mn , Q   mm ortogonală, Z   nn ortogonală,


|| Q  A  Z || 22 || A || 22 , || Q  A  Z || 2F || A || 2F .

De o deosebită aplicabilitate se bucură un anumit tip de matrice ortogonale şi


anume matricele Householder, definite prin relaţia:
u  uT
U  Im  , ( REZOLVAREA

SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
1 T 1
în care u   m1 şi    u  u   || u || 22 . Vectorul u se numeşte vector
2 2
Houseolder.
Matricea U astfel definită este ortogonală şi, în plus, este şi simetrică:
U T  U  U 1 .
Acest tip de matrice se mai numesc şi reflectori Householder, deoarece,
considerând un vector real x   m1 , atunci se poate spune că prin
transformarea y  U  x , y   m1 , vectorul x este reflectat (proiectat) într-
un hiperplan ce trece prin origine şi este ortogonal pe hiperplanul care conţine
vectorul u .
Matricele otogonale Householder pot fi folosite în scopul zerorizării unor
elemente ale unui vector, impunând o anumită structură pentru vectorul u din
definiţia ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0).
Revenind la problema găsirii pseudosoluţiei în sensul celor mai mici pătrate,
criteriul V( x ) , precizat în relaţia ( REZOLVAREA SISTEMELOR DE
ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0), rămâne invariant la transformările ortogonale deoarece, conform
proprietăţii 1 enunţate anterior, se poate scrie:
1 1
V ( x )   || r || 22   || U  r || 22 ,
2 2
unde U este o matrice ortogonală. În concluzie, problema de calcul nu se
modifică dacă se aplică sistemului de ecuaţii ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0) o transformare ortogonală. În felul acesta, utilizând reflectori
Householder, sistemul ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) poate
fi adus la o formă simplă, determinând apoi pseudosoluţia prin mijloace
elementare cum ar fi substituţia inversă. Nu se folosesc transformările
92 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

elementare gaussiene deoarece acestea, nefiind matrice ortogonale, nu păstrează


norma vectorială euclidiană şi modifică funcţia criteriu de minimizat.

3.2.2 Procedura de triangularizare ortogonală a unei matrice de


rang complet

Se enunţă şi demonstrează următorul rezultat:


Propoziţie:
Fie   [1   k 1 k  k 1   m ] T   m1 . Dacă mărimea
m
 2k    i2 este nenulă, atunci există un reflector Householder U k   mm
ik
astfel încât:
U k    [1   k 1 k 0  0] T ,
în care  2k   2k .

Matricea U k din enunţul propoziţiei se numeşte reflector Householder de


ordin m şi indice k.
Demonstraţia este constructivă şi implică determinarea vectorului Householder
u k pentru care U k  I m  u k  u Tk /  k , în care  k || u k || 22 / 2 .
Astfel, se consideră vectorul u k de forma:
u k  [0  0 u k ,k u k 1, k  u m,k ]T ,
care este complet determinat prin următoarele relaţii de calcul:
m
 k  sign ( k )    i2 , u k ,k   k   k , u i,k   i , i  k  1,..., m,
ik

 k   k  u k , k ,  k   k .
Funcţia semn, sign(.), este folosită pentru a evita fenomenul de neutralizare a
termenilor la sinteza termenului u k , k .
m
Dacă  k    i  0 , aceasta este echivalentă cu  i  0, i  k ,..., m ,
2 2

ik
de unde rezultă că  k  0 , u k  0 m ,  k  0 , ceea ce înseamnă că
transformarea U k nu există. 
Se enunţă, în continuare, următoarea proprietate.
3.1 Formularea problemei 93

Fie    m1 un vector oarecare de forma   [1   m ] T   , unde


 este vectorul pentru care s-a determinat reflectorul U k (propoziţia
anterioară). Atunci se poate scrie:
 u u 
T
u u
T
U k     I m  k k       k k   . ( REZOLVAREA
  k  k

SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
T
uk 
Se introduce mărimea:   şi, înlocuind în ( REZOLVAREA
k
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0), se obţine:
i , i  1,..., k  1
 
U k        u k sau U k     ,
i    u i ,k , i  k ,..., m
i

j, k   j
m u
în care    .
j k k
În particular, dacă vectorul este de forma
m1
cu j  1,..., k  1 , atunci:
T
[ j]  [1  j 0  0]  
U k   [ j]   [ j] ,

deoarece, în acest caz   0 .


Cu aceste elemente precizate, se enunţă şi se demonstrează următorul
rezultat.
Propoziţie:
Oricare ar fi matricea A   mn , m  n , de rang complet pe coloane n,
există o matrice Q   mm ortogonală, astfel încât matricea A se poate scrie:
A  Q  R , ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0)
unde matricea R   mn are următoarea structură:
 R1 
 
R   ,
0 ( m  n )n 
 
unde matricea R 1   nn este superior triunghiulară nesingulară (
rii  0, i  1,..., n ).
94 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

Demonstraţia este constructivă şi constituie însuşi algoritmul de triangularizare


ortogonală a matricei A, descompunerea din relaţia ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0) numindu-se descompunere QR. Descrierea principială
în limbaj pseudocod a acestui algoritm este următoarea:
atribuie A 1  A
pentru k  1, n execută
 * determinare reflector U k astfel încât:
 ( U k  A k ) i ,k  0, i  k  1,..., m ;
 atribuie A k 1  U k  A k

atribuie R  A n 1 
Pentru determinarea reflectorilor U k la fiecare iteraţie k, se va considera
drept vector  , coloana numărul k a matricei A k transformate. Astfel, se vor
zeroriza, coloană cu coloană, elementele de sub pseudo-diagonala principală a
matricei A. În urma calculului matricei A k 1 , primele k  1 coloane din
matricea A k se păstrează, iar coloanele de la k  1 la n se modifică în liniile
de la k la m.
Algoritmul eşuează dacă matricea A este deficientă de rang. În acest caz, la
calculul reflectorului U k , mărimea  k ar fi nulă, ceea ce va conduce la
 k  0 în aritmetica reală ( |  k |  impus în virgulă mobilă). Ca o consecinţă a
acestui fapt, elementul rk , k de pe diagonala principală a matricei R 1 va
rezulta nul, dacă algoritmul eşuează la iteraţia k. Pentru continuarea procesului
de triangularizare (condiţia de executarea a unei iteraţii), testul uzual care ţine
cont de erorile în virgulă mobilă este: |  k |  impus .
În urma aplicării acestui algoritm se obţine:
U n  U n 1    U 1  A  R .
Notând cu U matricea obţinută prin multiplicarea reflectorilor Householder:
U  U n  U n 1    U 1
se obţine:
UA  R .
Multiplicând ultima relaţie la stânga cu U 1 , se obţine:
A  Q  R , unde Q  U 1  U T  U 1  U 2    U n .
Matricea Q rezultată este ortogonală, fiind rezultatul unui produs de matrice
ortogonale.
3.1 Formularea problemei 95

3.3 Rezolvarea sistemelor supradeterminate de ecuaţii


algebrice liniare

3.3.1 Cazul sistemelor cu matrice de rang complet

Se consideră sistemul supradeterminat de ecuaţii algebrice liniare


( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0), unde matricea sistemului este de
rang complet pe coloane: A   mn , rang( A)  n , m  n . Se multiplică la
stânga ecuaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) cu secvenţa de
reflectori Householder care realizează triangularizarea ortogonală a matricei
sistemului şi “acumulate” în matricea U. Se obţine:
UAx  Ub. ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Conform ultimei propoziţii din paragraful 3.2.2anterior, relaţia
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0) devine:
R  x  d; R  U  A, d  U  b , ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
unde matricea R este (quasi-)superior triunghiulară. Sistemul ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0) se numeşte sistem ortogonal echivalent cu sistemul
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0). Ecuaţia ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0) se poate scrie sub forma:
 R1   d1 
    n 1 ( m  n )1
    x    , d 1   , d 2   ,
0 ( m  n )n  d 2 
 
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
unde matricea pătratică R 1 , de ordin n, este superior triunghiulară şi
nesingulară. În general d 2  0 ( m  n ) , caz în care se spune că sistemele de
ecuaţii ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
96 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

SENSUL CELOR MAI MICI PĂTRATE.0) şi ( REZOLVAREA SISTEMELOR


DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0) sunt incompatibile. Dar, ceea ce interesează este determinarea
unui vector x * care minimizează norma euclidiană a reziduului:
r bAx. ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Multiplicând la stânga relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) cu
matricea ortogonală U, se obţine conform relaţiilor ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0) - ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0):
d 1  R 1  x 
U  r  U  b  U  A  x  d  R  x    
.
 d2 
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
Matricea U fiind ortogonală, aceasta păstrează norma vectorială euclidiană. Ca
urmare, din relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0)
rezultă:
V ( x ) || r || 22 || U  r || 22 || d 1  R 1  x || 22  || d 2 || 22 .
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
Cum în general d 2  0 ( m  n ) , deci || d 2 || 22  0 , rezultă că singura minimizare
care se poate realiza, în ceea ce priveşte funcţia criteriu din relaţia
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0), este:
!
|| d1  R 1  x || 22  0 ,
ceea ce conduce, în corpul numerelor reale, la:
R 1  x *  d 1 . ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0)
3.1 Formularea problemei 97

Cum matricea R 1 este superior triunghiulară şi nesingulară, pseudosoluţia x *


se obţine prin rezolvarea sistemului ( REZOLVAREA SISTEMELOR DE
ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0), prin substituţie inversă.
Concluzie:
Triangularizarea bazată pe transformări ortogonale prezervă norma
euclidiană matricială. Aşadar, se păstrează condiţionarea numerică a matricei
sistemului în raport cu norma euclidiană, fiind singura metodă adecvată pentru
calculul pseudosoluţiei în sensul celor mai mici pătrate.
Probleme conexe
 Calculul reziduului de normă minimă asociat pseudosoluţiei în sensul celor
mai mici pătrate, se realizeată considerând relaţia ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0) în care se ţine cont de ecuaţia ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0). Se obţine:
0 n 
U  r     .
*

d 2 
Rezultă:
0 n  0 n 
r  U      U1  U 2    U n    
* T

d 2  d 2 

 Calculul pseudoinversei matricei A se realizează plecând de la


descompunerea QR a acesteia:
 In 
T  
A  Q  R  U  R  U1  U 2    U n      R 1 .
0 ( m  n )n 
 
Rezultă, aşadar:
T
 In 
 T 1 T 1  
A  (A  A)  A  (R 1 )      U n    U 1 .
 0 ( m  n ) n 
 
Exemplul 3.3:
98 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

Fie sistemul ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE


LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) cu următoarele valori
numerice:
1 1 2
1 2  3
  
A  0 1  , b  1  .
   
1 0 1 
1  1 0 
În urma rezolvării în sensul celor mai mici pătrate a sistemului considerat,
rezultă:
 2 1   3  *  1  1
R1    , d1    , x   ,
 0  2.44949   2.44949 0.99999 1

unde 1 1
T
reprezintă pseudosoluţia exactă a sistemului.

3.3.2 Cazul sistemelor cu matrice deficientă de rang

Cazul în care matricea sistemului ( REZOLVAREA SISTEMELOR DE


ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0) este de rang complet este, în general, un caz particular. Ca
urmare, este luat în discuţie cazul sistemului cu matrice deficientă de rang:
rang( A)  n , m  n .

A. Procedura de triangularizare ortogonală a matricelor deficiente de rang

Propoziţie:
Pentru orice matrice A   mn , m  n , există o matrice ortogonală
Q   mm şi o matrice    nn , numită matrice generală de permutare de
coloane, astfel încât:
A  QR ,
unde matricea R are structura:
 R1 
 
a) dacă rang( A)  n , atunci R     , unde R 1   nn este superior
0 ( m  n )n 
 
triunghiulară, cu elementele de pe diagonala principală ordonate descrescător
în modul:
| 11 ||  22 |  |  nn | 0 ;
3.1 Formularea problemei 99

 R 11  R 12 
 
b) dacă rang (A )  r  n atunci R       , unde
0 ( m  r )r  0 ( m  r )( n  r ) 
 
rr
R 11   este superior triunghiulară, nesingulară şi cu elementele de pe
diagonala principală ordonate descrescător în modul, iar R 12   r( n  r ) .

Observaţie:
Este posibil ca, datorită erorilor de rotunjire, elementele  ii , i  r  1,..., n
să nu rezulte nule ci foarte mici. Practic, pentru corectarea eventualelor erori de
rotunjire, se aplică următoarea procedură:
1. se calculează o mărime:
tol  max{m, n}   m  | 11 | ;
2. se determină rangul efectiv r ca fiind egal cu numărul de elemente de pe
diagonala principală care satisfac la relaţia:
|  ii | tol, i  1,..., r ;
3. restul de valori  ii , i  r  1,..., n se setează forţat pe zero.
În acest fel, se corectează eventualele erori de rotunjire.
Matricea Q este un produs de matrice ortogonale Householder, iar matricea
 este un produs de matrice de permutare de coloane. Deoarece matricele de
permutare sunt matrice ortogonale, rezultă că şi matricea  este ortogonală.
Demonstraţia propoziţiei mai sus menţionată este constructivă. Se presupune că
pasul k  {1,..., n} este fixat. În cei k  1 paşi anteriori s-a produs
triangularizarea ortogonală în primele k  1 coloane, asupra matricei A
aplicându-se transformările:
U k 1    U 1  A   1     k 1  R [ k ] ,
m m
unde U j   , j  1,..., k  1 sunt reflectori Householder, iar  j   nn
, j  1,..., k  1 sunt matrice de permutare de coloane. R [ k ] este o matrice de
forma:
 R 11[k ] [k]
 R 12 
 
R [k ]     ,
0  R [22k ] 
 ( m  k 1)( k 1)
[k ]
în care R 11   ( k 1)( k 1) şi este superior triunghiulară, nesingulară, iar
celelalte matrice au dimensiunile [k ]
R 12   ( k 1)( n  k 1) ,
R [22k ]   ( m  k 1)( n  k 1) , R [22
k]
fiind scrisă pe coloane astfel:
100 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

R [22k ]  z k [k ] [k ]
z k 1  zj
[k ]
 zn ,
[k]
 z j   ( m  k 1)1 , j  k,..., n .
[k ]

Se determină cel mai mic index de coloană p  {k , k  1,..., n} , pentru


care:
[k ] [k ]
|| z p || 2  max{|| z j || 2 } ,
k  j n

şi anume indexul coloanei matricei R [22


k]
care are cea mai mare normă
euclidiană.
Dacă p  k , se permută coloana p a matricei R [ k ] cu coloana k a acesteia.
Pot apare următoarele situaţii:
[k ]
a. || z p || 2  0 , ceea ce înseamnă rang ( R [ k ] )  rang ( A )  k  1 şi
algoritmul se opreşte. Este posibil ca, datorită erorilor de rotunjire,
|| z [pk ] || 2  0 , dar foarte mic. Testul care se face în acest caz este:
[k]
|| z p || 2  tol .
În urma triangularizării, în coloana k, elementul din poziţia (k,k) se
înlocuieşte cu :
m
 k ,k   k  sign ( rk[ k, k] )   (ri[,kk] ) 2 ,
ik

de unde rezultă ordonarea descrescătoare în modul a elementelor diagonalei


[k]
principale a matricei R 11 .
b. || z p || 2  0 , ceea ce înseamnă rang(A )  k  1 şi re loc permutarea de
[k ]

coloane R [ k ]   k . Rezultatului i se aplică U k , un reflector Householder


care zerorizează elementele de sub pseudo-diagonala principală a matricei
R [ k ]   k , situate în coloana k:
R [ k 1]  U k  ( R [ k ]   k ), (R [ k 1] ) i ,k  0, i  k  1,..., m .

Tabloul general al transformărilor este:


U r    U 2  U1  A  1   2     r  R .
Notând: Q T  U r    U 2  U 1 ,    1   2     r , rezultă: A    Q  R . 

Dacă matricea A este de rang complet, atunci rezultă rn.


B. Rezolvarea sistemelor supradeterminate de ecuaţii algebrice liniare cu
matrice deficientă de rang
Revenind la rezolvarea sistemului supradeterminat de ecuaţii algebrice
liniare în sensul celor mai mici pătrate, înmulţind la stânga relaţia
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
3.1 Formularea problemei 101

SENSUL CELOR MAI MICI PĂTRATE.0) cu U, se obţine: U  A  x  U  b şi


ţinând cont de faptul că    T  I n (  este matrice ortogonală), atunci:
U  A    T  x  U  b . ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Conform propoziţiei enunţate anterior, rezultă că matricea U  A   este de
forma:
 R 11  R 12 
 
R    .
0 ( m  r )r  0 ( m  r )( n  r ) 
 
T
Vectorul   x se poate scrie sub forma:
y
 T  x  , y   r1 , z   ( n  r )1 ,
 z 
iar produsul U  b se poate scrie sub forma:
c
U  b  , c   r1 , d   ( m  r )1 .
 d 
Făcând aceste înlocuiri în relaţia ( REZOLVAREA SISTEMELOR DE
ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0), se obţine:
 R 11  R 12  y c
     
         ,
0 ( m  r )r  0 ( m  r )( n  r )   z   d 
 
de unde, efectuând calculele, rezultă:
R 11  y  R 12  z   c 
   
     . ( REZOLVAREA
 0 ( m  r )1  d
   
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Dar:
y y
  x   
T
x     . ( REZOLVAREA
 z   z 
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
102 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

Se doreşte determinarea unei pseudosoluţii care să minimizeze norma


euclidiană a reziduului:
|| r || 22 || b  A  x || 22 || U  r || 22 || U  b  U  A     T  x || 22 
minim .
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
Din relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0), folosind rezultatul
din ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0), rezultă că:
2
c  R 11  y  R 12  z 
   || c  R 11  y  R 12  z || 22  || d || 22 .
 
 d 
2

Dar, în general, || d || 22  0 , ceea ce înseamnă că singura minimizare posibilă


este:
!
*
c  R 11  y  R 12 z *  0 r1 ,
de unde rezultă că:
* *
. R 11  y  c  R 12  z
( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Folosind relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0), se obţine:
y* 
*  
x     . ( REZOLVAREA
z* 
 
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Dacă matricea A are rangul r  n , atunci există o infinitate de pseudosoluţii
care minimizează norma euclidiană a reziduului. În această situaţie, se
calculează aşa-numita pseudosoluţie de bază, impunând ca:
!
*
zB  0 ( n r )1 , ( REZOLVAREA

SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR


MAI MICI PĂTRATE.0)
3.1 Formularea problemei 103

de unde, folosind relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII


ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0),
rezultă ecuaţia:
*
R 11  y B  c .( REZOLVAREA SISTEMELOR

DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI


PĂTRATE.0)
* 1
Acest sistem se rezolvă prin substituţie inversă, rezultând y B  R 11  c .
Ca urmare, din relaţiile ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) -
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0) rezultă:
 R 11
1
 c
*  
xB       .
0 
 ( n  r )1 
 R1 
 
Dacă rang( A)  n , atunci R     , iar pseudosoluţia în sensul
0 ( m  n )n 
 
celor mai mici pătrate este unică, fiind egală cu:
* *
x    y , ( REZOLVAREA SISTEMELOR

DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI


PĂTRATE.0)
*
unde y este soluţia sistemului determinat, de ordinul n: R 1  y  c .
*

Observaţie:
*
Vectorul y reprezintă pseudosoluţia x * din relaţia ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0), cu deosebirea că liniile acesteia sunt permutate, în
absenţa erorilor de rotunjire. Teoretic, în această ultimă ipoteză, pseudosoluţia
x
*
dată de relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) va
coincide cu pseudosoluţia ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0). În
practică, însă, intervin corecţii de tipul celor implicate la triangularizarea
ortogonală cu permutare de coloane, aşa cum s-a prezentat anterior.
104 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

3.4 Rezolvarea sistemelor subdeterminate de ecuaţii


algebrice liniare
Problema în discuţie este determinarea vectorului z   m1 , ca soluţie a
sistemului:
C  z  d , ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0)
unde C   nm , n  m, d   n1 .
Un astfel de sistem poate să nu aibă soluţie sau poate avea o infinitate de
soluţii. Când sistemul are o infinitate de soluţii, de regulă se calculează
pseudosoluţia normală. Aceasta este pseudosoluţia cu norma euclidiană
minimă. Aşadar, se doreşte determinarea unui vector z * , astfel încât:

* 2
z  mimn1{| z| 2}.
z
Czd
Caracterizarea problemei este realizată prin următoarele.
Definiţie:
Matricea C   nm , n  m , se spune că are liniile liniar independente sau
că este epică dacă matricea A  C T   mn , m  n , are coloanele liniar
independente (este monică).
Propoziţie:
Pentru orice matrice C   nm , n  m , următoarele afirmaţii sunt
echivalente:
i.) C este epică;
ii.) rang(C)  n , adică matricea C este de rang complet pe linii;
iii.) Im(C)  {w   n1 / w  C  z, z   m1 }   n1 ;
iv.) C  C T este matrice pozitiv definită, deci nesingulară.
În cele ce urmează se enunţă următorul rezultat referitor la pseudosoluţia
normală.
Teoremă de existenţă şi unicitate:
3.1 Formularea problemei 105

Dacă matricea C   nm , n  m , este epică, atunci oricare ar fi vectorul


d   n 1 , există şi este unică o pseudosoluţie normală z   m1 a
*

sistemului ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE


LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0). Aceasta se scrie:
z  C   d , unde C    mn se numeşte pseudoinversa normală şi este
*

teoretic egală cu C   C T  (C  C T ) 1 .
Problema rezolvării unui sistem subdeterminat, cu matrice de rang complet
pe linii, este duală problemei rezolvării unui sistem supradeterminat, cu matrice
de rang complet pe coloane. Dualitatea constă în faptul că prin corespondenţa
A  C T , respectiv C  A T , condiţiile de rezolvabilitate a celor două tipuri de
sisteme coincid.
În practică se realizează triangularizarea ortogonală pe linii a matricei C şi
anume se înmulţeşte matricea C, la dreapta, cu o matrice ortogonală
V   mm , astfel încât:
C  V  L , ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0)
unde L este o matrice de forma: L  [ L1  0 n( m  n ) ] cu L1   nn
inferior triunghiulară, nesingulară.
Algoritmul triangularizării ortogonale pe linii este următorul:
atribuie C1  C
pentru k  1, n execută
 * determină matrice ortogonală Vk , astfel ca:
 (C k  Vk ) k , j  0, j  k  1,..., m
 atribuie C k 1  C k  Vk

Considerând vectorul   [1   k 1  k  k 1   m ] ca fiind
linia k a matricei C k  C  V1    Vk 1 şi matricea ortogonală Vk definită
prin:
T
v v 1
Vk  I m  k k ,  k   || v k || 22 ,
k 2
unde v k   m1 este un vector Householder sintetizat după regulile generale,
dar pe baza vectorului linie  , atunci:
m
  Vk  [1   k 1 k 0  0],  2k   2k    2j  0 .
j k
106 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

Sistemul ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE


LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) se poate scrie şi sub
forma:
C  V  V T  z  d, V  V1    Vk    Vn , Vk   mm .
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
Se introduc notaţiile:
y 
 1
y  VT  z  z  V  y, y    , y 1   n1 , y 2   ( m  n )1 .
y 
 2
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
Ţinând cont de relaţiile ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) -
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0), sistemul ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0) se reduce la:
y 
 1
Ly d  [ L1  0 n( m  n ) ]      d .( REZOLVAREA
y 
 2
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0) arată că y 2 poate fi
orice vector din  ( m  n )1 , iar y 1 rezultă rezolvând sistemul:
y1  L11  d ,
* *
L1  y1  d 
( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
prin substituţie înainte, matricea L1 fiind nesingulară şi inferior triunghiulară.
Dar, ceea ce se urmăreşte este obţinerea unei pseudosoluţii normale pentru
sistemul din relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0).
Norma euclidiană a vectorului z este:
3.1 Formularea problemei 107

|| z || 22 || V  z || 22 || y || 22 || y1 || 22  || y 2 || 22 . ( REZOLVAREA


SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
Din relaţia ( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE
LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0), folosind relaţiile
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0) - ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
2
PĂTRATE.0), se observă că mărimea || y1 || 2 este nenulă în general, deci
singura minimizare posibilă este alegerea lui y 2   ( m  n )1 astfel ca
*
|| y 2 || 22  0 , deci y 2  0 ( m  n )1 .
Astfel, pseudosoluţia normală a sistemului ( REZOLVAREA SISTEMELOR
DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI
PĂTRATE.0) este dată de:
 y* 
* *  1 
z Vy V   .
0 
 ( m  n )1 
Exemplul 3.4:
Se consideră sistemul ( REZOLVAREA SISTEMELOR DE ECUAŢII
ALGEBRICE LINIARE ÎN SENSUL CELOR MAI MICI PĂTRATE.0), în
care:
1 1 0 1 1 6 
C , d .
1 2 1 0  1 9
În urma rezolvării acestui sistem, se obţine:
 2 0   3 
z  2 3 1 1 0 .
* T
L1   , y1   ,
1  2.44949   2.44949

3.5 Exerciţii propuse

E3.1 Să se realizeze, în mediul de programare MATLAB, un program pentru


rezolvarea unui sistem supradeterminat de ecuaţii liniare, în sensul celor
mai mici pătrate (CMMP), folosind transformări ortogonale de
echivalenţă. Programul va compara soluţia găsită cu cea furnizată de
mediul MATLAB, aplicând o funcţie similară procedurii studiate.
108 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

În realizarea programului, se vor parcurge următoarele etape descrise


parţial în limbajul pseudocod.
1. Introducere parametru de control al execuţiei procedurii de
triangularizare ortogonală, în variabila EPS.
2. Introducere dimensiuni matrice sistem, în variabilele m (număr
ecuaţii) şi n (număr necunoscute). Condiţie de îndeplinit: m  n .
3. Alocare spaţiu de memorie pentru matricea sistemului, în variabila
a, prin iniţializarea acesteia cu o matrice nulă de dimensiuni m x n.
Introducerea elementelor matricei sistemului se face pe linii.
Reluare introducere, în caz de eroare. Salvarea valorilor introduse
pentru matricea a, în matricea de lucru aa:
atribuie aa a
4. Triangularizare ortogonală matrice sistem (descompunere QR):
atribuie u  zeros (m,n)
atribuie beta  zeros (n,1)
pentru k = 1,n execută
 atribuie sum  sqrt ( ( a(k:m,k) )’ * a(k:m,k) )
 dacă ( a(k,k) >= 0 ) atunci
  atribuie semn  1
  altfel
  atribuie semn  -1
 
 atribuie sigma  semn * sum
 atribuie u(k,k)  a(k,k) + sigma
 atribuie u(k+1:m,k)  a(k+1:m,k)
 atribuie beta(k)  sigma * u(k,k)
 dacă ( abs ( beta(k) ) < EPS ) atunci
  scrie ‘algoritmul va eşua: beta < EPS’
 
 atribuie a(k,k)  - sigma
 atribuie a(k+1:m,k)  zeros (m-k,1)
 pentru j = k+1,n execută
  atribuie sum  u(k:m,k) * a(k:m,j)
  atribuie tau  sum / beta(k)
  atribuie a(k:m,j)  a(k:m,j) – tau * u(k:m,k)
 
 scrie ‘* k = ’, k
3.1 Formularea problemei 109

 scrie ‘a = ’, a

atribuie flag  0
atribuie i  1
cât timp ( (i <= n) şi (flag = 0) ) execută
 dacă ( abs ( a(i,i) ) < EPS ) atunci
  atribuie flag  1
 
 atribuie i  i + 1

dacă ( flag = 1 ) atunci
 scrie ‘matrice deficientă de rang’
 atribuie rang  rank (a)
 scrie ‘rang (a) = ’, rang

5. Alocare spaţiu de memorie pentru termenul liber al sistemului, în
variabila b, prin iniţializarea acesteia cu un vector coloană nul, cu
m componente. Introducerea elementelor termenului liber se
realizează pe linii. Reluare introducere, în caz de eroare. Salvarea
valorilor din vectorul b, în vectorul de lucru bb:
atribuie bb b
6. Transformare ortogonală termen liber sistem:
pentru k = 1,n execută
 atribuie sum  u(k:m,k)’ * b(k:m)
 atribuie taub  sum / beta(k)
 atribuie b(k:m)  b(k:m) – taub * u(k:m,k)

scrie ‘b = ’, b
7. Calcul soluţie sistem prin substituţie înapoi:
atribuie x  zeros (n,1)
atribuie x(n)  b(n) / a(n,n)
pentru i = n-1,(pas = -1),1 execută
 atribuie sum  a(i,i+1:n) * x(i+1:n)
 atribuie x(i)  ( b(i) – sum ) / a(i,i)

8. Calcul reziduu asociat soluţiei x:
110 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

atribuie b(1:n)  zeros (n,1)


pentru k = n,(pas = -1),1 execută
 atribuie sum  ( u(k:m,k) )’ * b(k:m)
 atribuie taud  sum / beta(k)
 atribuie b(k:m)  b(k:m) – taud * u(k:m,k)

atribuie nr  norm (b,2)
9. Calcul soluţie şi reziduu asociat, folosinf funcţia MATLAB \ :
atribuie x_bs  aa \ bb
atribuie r_bs  bb – aa * x_bs
atribuie nr_bs  norm (r_bs,2)
10. Afişare rezultate: x, b (reziduu asociat lui x), nr; x_bs, r_bs, nr_bs.
11. Reluare program, dacă se doreşte, cu alt termen liber b (punctul 5).
12. Reluare program, dacă se doreşte, cu alt sistem de aceleaşi
dimensiuni m şi n (punctul 3).
13. Reluare program, dacă se doreşte, cu alt sistem cu alte dimensiuni
m şi n (punctul 2).
14. Reluare program, dacă se doreşte, cu alt parametru EPS (punctul 1).
Observaţii:
1.) Descrierea anterioară a programului foloseşte următoarele funcţii
MATLAB: zeros (iniţializare tablou cu elemente nule), sqrt (calcul
radical), abs (calcul valoare absolută), rank (calcul rang matrice), \
(împărţire matricială la stânga, rezolvată prin triangularizarea
ortogonală a matricei deîmpărţit), norm (calcul normă vectorială sau
matricială).
2.) Programul se va rula pentru următoarele date de intrare, rezulatele
analizându-se:
EPS = 1.e-16
I. m = 5; n = 2;
1 6  11 1 
2 7  12 0 
     
a  3 8 , I.1 b  13; I.2 b  0 ;
     
4 9  14 0 
5 10 15 0
3.1 Formularea problemei 111

II. m = 5; n = 3;
1 6 11  4
2 7 12 5
  
a  3 8 13, b  5 .
   
4 9 14 5
5 10 15 5

3.6 Probleme propuse


P3.1. Se consideră programul descris în cadrul exerciţiului E3.1, pentru
calculul pseudosoluţiei în sensul celor mai mici pătrate (CMMP) a unui
sistem supradeterminat de ecuaţii algebrice liniare, prin triangularizarea
ortogonală a matricei sistemului, fără pivotare de coloane, cazul matricei
sistemului de rang complet.
Ce se poate afirma despre apartenenţa vectorului termen liber b la
subspaţiul imagine Im(A) pentru cele două exemple din cazul I?
P3.2. Să se execute programul realizat pentru rezolvarea exerciţiului E3.1, cu
datele de intrare pentru cazul II.
Ce se poate afirma despre matricea sistemului?
P3.3. Să se realizeze un program pentru calculul pseudosoluţiei în sensul
CMMP a unui sistem supradeterminat de ecuaţii algebrice liniare, prin
triangularizarea ortogonală a matricei sistemului, cu pivotare de coloane,
cazul general, când matricea sistemului poate fi şi deficientă de rang.
Programul va calcula şi reziduul asociat pseudosoluţiei.
Exemple numerice: exerciţiul E3.1.
Să se compare rezultatele cu cele obţinute la rezolvarea exerciţiului E3.1.
P3.4. Să se aplice programele realizate pentru rezolvarea exerciţiului E3.1 şi
problemei P3.3. pentru determinarea coeficienţilor funcţiei:
y( t )  c1  c 2  t  c 3  t 2  c 4  e t , c1 , c 2 , c 3 , c 4  ? .
( REZOLVAREA SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN
SENSUL CELOR MAI MICI PĂTRATE.0)
care aproximează, în sensul CMMP, şirul de date experimentale:
( t i , y i ) i 1,..., m ; y i  y( t i ) .
Programele vor fi adaptate pentru a sintetiza matricea A şi termenul liber
b pentru un sistem supradeterminat de ecuaţii, de dimensiune
m  n  4 , vectorul necunoscutelor fiind x  [c1 c 2 c 3 c 4 ]T .
112 3. Rezolvarea sistemelor de ecuaţii algebrice liniare în sensul celor
mai mici pătrate

Exemple numerice:

ti yi (primul exemplu) yi (al doilea exemplu)


0.00 20.00 20.00
0.25 51.58 24.13
0.50 68.73 26.50
0.75 75.46 27.13
1.00 74.36 26.00
1.25 67.09 23.13
1.50 54.73 18.50
1.75 37.98 12.13
2.00 17.28 4.00
Să se extindă programul realizat prin includerea reprezentării grafice, în
acelaşi ecran, a următoarelor: perechile de date de intrare
( t i , y i ) i 1,..., m reprezentate prin cercuri şi perechile de date rezultate în
urma identificării coeficienţilor funcţiei: ( t i , y( t i )) i 1,...,m ,
reprezentate prin linie continuă, unde valorile y( t i ), i  1,..., m se
obţin prin evaluarea relaţiei (3.36) în punctele t i precizate în cadrul
exemplelor numerice.
P3.5. Să se aplice programele realizate pentru rezolvarea exerciţiului E3.1 şi
P3.3. pentru determinarea coeficienţilor funcţiei:

y( x )  k 1  e k 2 x , k 1 , k 2  ? . ( REZOLVAREA
SISTEMELOR DE ECUAŢII ALGEBRICE LINIARE ÎN SENSUL CELOR
MAI MICI PĂTRATE.0)
care aproximează, în sensul CMMP, şirul de date experimentale:
( x i , y i ) i 1,...,m ; y i  y( x i ) .
Folosind faptul că ln( y( x ))  ln(k 1 )  k 2  x , programele vor fi
adaptate pentru a sintetiza matricea A şi termenul liber b pentru un
sistem supradeterminat de ecuaţii algebrice liniare, de dimensiune
mn2, vectorul necunoscutelor fiind:
T T
x  [ x 1 x 2 ]  [ln(k 1 ) k 2 ] . Pe baza soluţiei calculate, x , se vor
calcula, apoi, necunoscutele k 1 şi k 2 .
Exemple numerice:
I.
xi yi
3.1 Formularea problemei 113

77 2.4
100 3.4
185 7.0
239 11.1
285 19.6
II.
xi yi
94 10
118 16
147 25
180 40
230 60
Să se extindă programul realizat prin includerea reprezentării grafice, în
acelaşi ecran, a următoarelor: perechile de date de intrare
( x i , y i ) i 1,..., m reprezentate prin cercuri şi perechile de date rezultate în
urma identificării coeficienţilor funcţiei: ( x i , y( x i )) i 1,..., m ,
reprezentate prin linie continuă, unde valorile y( x i ), i  1,..., m se
obţin prin evaluarea relaţiei (3.37) în punctele x i precizate în cadrul
exemplelor numerice.

P3.6. Să se realizeze un program pentru calculul pseudosoluţiei normale a unui


sistem subdeterminat de ecuaţii algebrice liniare, prin triangularizarea
ortogonală pe linii a matricei sistemului. Programul va calcula şi reziduul
asociat pseudosoluţiei.
Exemplu numeric: Exemplul 3.4.

S-ar putea să vă placă și