Metoda celor mai mici p

atrate
Nicolae D
anet
Departamentul de Matematic
a si Informatic
a
Universitatea Tehnic
a de Constructii Bucuresti

Decembrie 2015

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

1 / 29

Avertisment!
Aceste note de curs sunt distribuite gratuit numai studentilor de la Master,
anul I, Facultatea C
ai Ferate, Drumuri si Poduri din Universitatea
Tehnic
a de Constructii Bucuresti pentru utilizare personal
a.
Este interzis
a comercializarea sub orice form
a sau asarea pe orice site ori
retea de socializare a acestui text.
c Nicolae D
anet 2015
Bibliograe
D
anet, N.: Metode numerice. Note de curs si probleme rezolvate n
Mathcad, 2013 (trimise prin e-mail),
D
anet, N.: Analiza numerica. Cu aplica
tii rezolvate n Mathcad.,
Editura MatrixRom, Bucuresti, 2002 (la biblioteca CFDP).
D
anet, N.: Analiza numerica. Probleme rezolvate cu Mathcad, Carte
electornic
a n Mathcad, Editura MatrixRom, Bucuresti, 2005 (la
editur
a, pe CD).
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

2 / 29

Metoda celor mai mici p

atrate. Cazul discret
Fie dat un set de date f(xi , yi ) j i = 0, 1, . . . , m g.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

3 / 29

Metoda celor mai mici p

atrate. Cazul discret
Fie dat un set de date f(xi , yi ) j i = 0, 1, . . . , m g.
Problema aproxim
arii polinomiale a setului de date
f(xi , yi ) j i = 0, 1, . . . , mg consta n a determina un polinom de grad
1 n < m,
P n ( x ) = a0 + a1 x + a2 x 2 +

+ an x n ,

astfel ca valoarea expresiei erorii p

atratice totale
m

E =

(yi

Pn (xi ))

i =0

s
a e minim
a.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

3 / 29

Metoda celor mai mici p

atrate. Cazul discret
Fie dat un set de date f(xi , yi ) j i = 0, 1, . . . , m g.
Problema aproxim
arii polinomiale a setului de date
f(xi , yi ) j i = 0, 1, . . . , mg consta n a determina un polinom de grad
1 n < m,
P n ( x ) = a0 + a1 x + a2 x 2 +

+ an x n ,

astfel ca valoarea expresiei erorii p

atratice totale
m

E =

(yi

Pn (xi ))

i =0

s
a e minim
a.
Valoarea erorii n fiecare punct este
ei = yi

Pn (xi ),
m

iar E este suma p

atratelor lor, adic
aE =

ei2 .

i =0
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

3 / 29

Regresia liniar
a
Aproximare cu un polinom de gradul unu P1 (x ) = a0 + a1 x.
m

E =

(yi

P1 (xi )) =

i =0

i =0

i =0

2 P1 (xi )yi + P1 (xi )2 .

yi2

i =0

Deoarece P1 (xi ) = a0 + a1 xi avem

m

E =
m

E =

yi2

i =0
m

yi2

2a0 yi

| {z }

| {z }

i =0

i =0

2 (a0 + a1 xi )yi + (a0 + a1 xi )2 .

i =0

i =0

i =0

i =0

i =0

i =0

S0

S1

2a1 xi yi + a02 1 + 2a0 a1 xi + a12 xi2

| {z }

b0

b1

unde am folosit notatiile

m

Sk : =

xik ,

i =0

Nicolae D
anet (UTCB)

|{z}

| {z }

k = 0, 1, 2;

bk : =

xik yi ,

i =0

Metoda celor mai mici p

atrate

| {z }
S2

k = 0, 1;

c :=

yi2 .

i =0
Decembrie 2015

4 / 29

Expresia erorii devine

E (a0 , a1 ) = a02 S0 + 2a0 a1 S1 + a12 S2

2a0 b0

2a1 b1 + c

Pentru ca E (a0 , a1 ) s
a e minim
a este necesar ca
E (a0 , a1 )
= 0,
a0

E (a0 , a1 )
= 0.
a1

Derivnd obtinem,
E (a0 , a1 )
a0
E (a0 , a1 )
a1

= 2a0 S0 + 2a1 S1

2b0 = 0,

= 2a0 S1 + 2a1 S2

2b1 = 0,

sau
S 0 a 0 + S1 a 1 = b 0 ,
S1 a 0 + S2 a 1 = b 1 .

(1)

Pentru a putea scrie sistemul (1) sub form

a matriceal
a, not
am
m0,0 := S0 ,
Nicolae D
anet (UTCB)

m0,1 = m1,0 =: S1 ,
Metoda celor mai mici p
atrate

m1,1 := S2 .
Decembrie 2015

5 / 29

Se observ
a c
a
mi ,j := Si +j ,

i, j = 0, 1.

Cu aceste notatii sistemul (1) devine

m0,0 a0 + m0,1 a1 = b0 ,
m1,0 a0 + m1,1 a1 = b1 .

(2)

Folosind notatiile matriceale

M=

m0,0 m0,1
m1,0 m1,1

a=

a0
a1

b=

b0
b1

sistemul (2) se scrie sub forma

Ma = b.

(3)

Determinantul matricei M este nenul dac

a punctele xi , i = 0, 1, . . . , m,
sunt distincte. (Demonstrati acest fapt pentru m = 2.)
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

6 / 29

Solutia sistemului (3) este:

!
m

xi2

a0 =

i =0

yi

i =0

xi

i =0

(m + 1) xi2

xi

i =0

(m + 1) xi yi
a1 =

i =0

(m + 1) xi2
i =0

i =0
m

xi

i =0

xi

i =0

xi yi

i =0
!2
m

yi

i =0
!2

Pentru determinarea coecientilor a0 si a1 nu vom folosi aceste formule.

Vom rezolva sistemul liniar Ma = b.
Formulele de mai sus se folosesc n statistica matematic
a pentru
determinarea dreptei de regresie liniar
a.
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

7 / 29

Acuratetea regresiei liniare

Valoarea medie a valorilor yi , i = 0, 1, . . . , m este:
vm =

Nicolae D
anet (UTCB)

m
1
yi .

m + 1 i =0

Metoda celor mai mici p

atrate

Decembrie 2015

8 / 29

Acuratetea regresiei liniare

Valoarea medie a valorilor yi , i = 0, 1, . . . , m este:
vm =

m
1
yi .

m + 1 i =0

Abaterea patratic
a de la valoarea medie:
m

E0 =

( yi

vm )2

i =0

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

8 / 29

Acuratetea regresiei liniare

Valoarea medie a valorilor yi , i = 0, 1, . . . , m este:
m
1
yi .

m + 1 i =0

vm =

Abaterea patratic
a de la valoarea medie:
m

E0 =

( yi

vm )2

i =0

Coecientul de corelare:
r=

Nicolae D
anet (UTCB)

E0

E
E0

Metoda celor mai mici p

atrate

Decembrie 2015

8 / 29

Acuratetea regresiei liniare

Valoarea medie a valorilor yi , i = 0, 1, . . . , m este:
m
1
yi .

m + 1 i =0

vm =

Abaterea patratic
a de la valoarea medie:
m

E0 =

( yi

vm )2

i =0

Coecientul de corelare:
r=

E0

E
E0

Dac
a setul de date este situat pe o dreapt
a, atunci E = 0 si r = 1.n
general, r 2 [0, 1].

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

8 / 29

Acuratetea regresiei liniare

Valoarea medie a valorilor yi , i = 0, 1, . . . , m este:
m
1
yi .

m + 1 i =0

vm =

Abaterea patratic
a de la valoarea medie:
m

E0 =

( yi

vm )2

i =0

Coecientul de corelare:
r=

E0

E
E0

Dac
a setul de date este situat pe o dreapt
a, atunci E = 0 si r = 1.n
general, r 2 [0, 1].
Valori ale lui r apropiate de unu arat
a o bun
a aproximare liniar
a.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

8 / 29

Acuratetea regresiei liniare

Valoarea medie a valorilor yi , i = 0, 1, . . . , m este:
m
1
yi .

m + 1 i =0

vm =

Abaterea patratic
a de la valoarea medie:
m

E0 =

( yi

vm )2

i =0

Coecientul de corelare:
r=

E0

E
E0

Dac
a setul de date este situat pe o dreapt
a, atunci E = 0 si r = 1.n
general, r 2 [0, 1].
Valori ale lui r apropiate de unu arat
a o bun
a aproximare liniar
a.
Valori ale lui r apropiate de zero arat
a c
a aproximarea liniar
a nu
este potrivit
a n acel caz.
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

8 / 29

Regresia parabolic
a
Aproximare cu un polinom de gradul doi
P 2 ( x ) = a0 + a1 x + a2 x 2
n acest caz eroarea este
m

E =

(yi

P2 (xi ))2 =

i =0

yi2

i =0

Nicolae D
anet (UTCB)

yi2

i =0

Deoarece P2 (xi ) =
E =

a0 + a1 xi + a2 xi2 ,

i =0

i =0

2 P2 (xi )yi + P2 (xi )2 .

avem

i =0

i =0

2 (a0 + a1 xi + a2 xi2 )yi + (a0 + a1 xi + a2 xi2 )2 ,

Metoda celor mai mici p

atrate

Decembrie 2015

9 / 29

yi2

2a0 yi

2a1 xi yi

| {z }

| {z }

| {z }

i =0

i =0

b0
m

i =0

b1
m

2a2 xi2 yi +
i =0

| {z }
b2
m

+a02 1 + a12 xi2 + a22 xi4 + 2a0 a1 xi +

i =0
i =0
i =0
i =0
|{z}
| {z }
| {z }
| {z }
S0

S2

S4

S1

+2a0 a2 xi2 + 2a1 a2 xi3 ,

i =0
i =0
| {z }
| {z }
S2

S3

unde am folosit notatiile

m

Sk =

xik ,

k = 0, 1, 2, 3, 4;

i =0

Nicolae D
anet (UTCB)

bk =

xik yi ,

k = 0, 1, 2;

c=

i =0

Metoda celor mai mici p

atrate

yi2 .

i =0

Decembrie 2015

10 / 29

Expresia erorii devine

E (a0 , a1 , a2 ) = a02 S0 + a12 S2 + a22 S4 + 2a0 a1 S1 + 2a0 a2 S2 + 2a1 a2 S3
2a0 b0

2a1 b1

2a2 b2 + c

Pentru ca E (a0 , a1 , a2 ) s
a e minim
a este necesar ca
E (a0 , a1 , a2 )
= 0,
a0

E (a0 , a1 , a2 )
= 0,
a1

E (a0 , a1 , a2 )
= 0.
a2

Avem
E (a0 , a1 , a2 )
a0
E (a0 , a1 , a2 )
a1
E (a0 , a1 , a2 )
a2
Nicolae D
anet (UTCB)

= 2a0 S0 + 2a1 S1 + 2a2 S2

2b0 = 0,

= 2a0 S1 + 2a1 S2 + 2a2 S3

2b1 = 0,

= 2a0 S2 + 2a1 S3 + 2a2 S4

2b2 = 0.

Metoda celor mai mici p

atrate

Decembrie 2015

11 / 29

sau

8
< S0 a 0 + S1 a 1 + S2 a 2 = b 0 ,
S1 a 0 + S2 a 1 + S3 a 2 = b 1 ,
:
S2 a 0 + S3 a 1 + S4 a 2 = b 2 .

Not
am

m0,0 = S0 ,
m0,1 = m1,0 = S1 ,

m1,1 = S2

(4)

m2,2 = S4 ,

m0,2 = m2,0 = S2 ,

m1,2 = m2,1 = S3 ,

sau
mi ,j = Si +j ,

i, j = 0, 1, 2.

Sistemul (4) devine

8
< m0,0 a0 + m0,1 a1 + m0,2 a2 = b0 ,
m1,0 a0 + m1,1 a1 + m1,2 a2 = b1 ,
:
m2,0 a0 + m2,1 a1 + m2,2 a2 = b2 .
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

(5)

Decembrie 2015

12 / 29

Folosind notatile matriceale

2
3
m0,0 m0,1 m0,2
M = 4 m1,0 m1,1 m1,2 5 ,
m2,0 m2,1 m2,2
sistemul (5) se scrie sub forma

3
a0
a = 4 a1 5 ,
a2

3
b0
b = 4 b1 5 ,
b2

Ma = b.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

(6)

Decembrie 2015

13 / 29

Regresie neliniar
a (cu o functie exponential
a)
n unele cazuri reprezentarea grac
a a datelor ne sugereaz
a c
a acestea
sunt legate exponential.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

14 / 29

Regresie neliniar
a (cu o functie exponential
a)
n unele cazuri reprezentarea grac
a a datelor ne sugereaz
a c
a acestea
sunt legate exponential.
n acest caz functia de aproximare trebuie s
a e de forma
y = e x .

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

14 / 29

Regresie neliniar
a (cu o functie exponential
a)
n unele cazuri reprezentarea grac
a a datelor ne sugereaz
a c
a acestea
sunt legate exponential.
n acest caz functia de aproximare trebuie s
a e de forma
y = e x .
Metoda liniariz
arii pentru cazul y = e x , > 0.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

14 / 29

Regresie neliniar
a (cu o functie exponential
a)
n unele cazuri reprezentarea grac
a a datelor ne sugereaz
a c
a acestea
sunt legate exponential.
n acest caz functia de aproximare trebuie s
a e de forma
y = e x .
Metoda liniariz
arii pentru cazul y = e x , > 0.
Ecuatia y = e x , poate liniarizat
a prin logaritmarea ambilor
membri:
ln y = ln + x.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

(7)

14 / 29

Regresie neliniar
a (cu o functie exponential
a)
n unele cazuri reprezentarea grac
a a datelor ne sugereaz
a c
a acestea
sunt legate exponential.
n acest caz functia de aproximare trebuie s
a e de forma
y = e x .
Metoda liniariz
arii pentru cazul y = e x , > 0.
Ecuatia y = e x , poate liniarizat
a prin logaritmarea ambilor
membri:
ln y = ln + x.

(7)

Setul de date initial f(xi , yi ) j yi > 0, i = 0, 1, . . . , m g, se nlocuieste

cu f(xi , Yi ) j i = 0, 1, . . . , m g, unde Yi = ln yi .

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

14 / 29

Regresie neliniar
a (cu o functie exponential
a)
n unele cazuri reprezentarea grac
a a datelor ne sugereaz
a c
a acestea
sunt legate exponential.
n acest caz functia de aproximare trebuie s
a e de forma
y = e x .
Metoda liniariz
arii pentru cazul y = e x , > 0.
Ecuatia y = e x , poate liniarizat
a prin logaritmarea ambilor
membri:
ln y = ln + x.

(7)

Setul de date initial f(xi , yi ) j yi > 0, i = 0, 1, . . . , m g, se nlocuieste

cu f(xi , Yi ) j i = 0, 1, . . . , m g, unde Yi = ln yi .
Aplicnd metoda regresiei liniare pentru setul de date astfel
transformat
f(xi , Yi ) j i = 0, 1, . . . , mg
se determin
a polinomul

P1 (x ) = a0 + a1 x.
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

(8)
Decembrie 2015

14 / 29

Regresie neliniar
a (cu o functie exponential
a)
Prin identicarea coecientilor lui x si a termenilor liberi din relatiile
(7) si (8),
ln y = ln + x

si P1 (x ) = a0 + a1 x,

obtinem
a0 = ln ,

Nicolae D
anet (UTCB)

a1 = .

Metoda celor mai mici p

atrate

Decembrie 2015

15 / 29

Regresie neliniar
a (cu o functie exponential
a)
Prin identicarea coecientilor lui x si a termenilor liberi din relatiile
(7) si (8),
ln y = ln + x

si P1 (x ) = a0 + a1 x,

obtinem
a0 = ln ,

a1 = .

Deci,
= e a0

Nicolae D
anet (UTCB)

si

= a1 .

Metoda celor mai mici p

atrate

Decembrie 2015

15 / 29

Regresie neliniar
a (cu o functie exponential
a)
Prin identicarea coecientilor lui x si a termenilor liberi din relatiile
(7) si (8),
ln y = ln + x

si P1 (x ) = a0 + a1 x,

obtinem
a0 = ln ,

a1 = .

Deci,
= e a0

si

= a1 .

Atunci curba exponential

a y = e x devine
y = e x = e a0 e a1 x = e a0 +a1 x .

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

15 / 29

Regresie neliniar
a (cu o functie putere)
Metoda liniariz
arii pentru cazul x , > 0.
Ecuatia y = x poate liniarizat
a prin logaritmarea ambilor membri:
ln y = ln + ln x.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

16 / 29

Regresie neliniar
a (cu o functie putere)
Metoda liniariz
arii pentru cazul x , > 0.
Ecuatia y = x poate liniarizat
a prin logaritmarea ambilor membri:
ln y = ln + ln x.
Setul de date initial f(xi , yi ) j xi > 0, yi > 0, i = 0, 1, . . . , m g se
nlocuieste cu f(Xi , Yi ) j i = 0, 1, . . . , m g, unde
Xi = ln xi ,

Nicolae D
anet (UTCB)

Yi = ln yi .

Metoda celor mai mici p

atrate

Decembrie 2015

16 / 29

Regresie neliniar
a (cu o functie putere)
Metoda liniariz
arii pentru cazul x , > 0.
Ecuatia y = x poate liniarizat
a prin logaritmarea ambilor membri:
ln y = ln + ln x.
Setul de date initial f(xi , yi ) j xi > 0, yi > 0, i = 0, 1, . . . , m g se
nlocuieste cu f(Xi , Yi ) j i = 0, 1, . . . , m g, unde
Xi = ln xi ,

Yi = ln yi .

Aplicnd metoda regresiei liniare pentru setul de date

f(Xi , Yi ) j i = 0, 1, . . . , mg se determina polinomul
P 1 ( X ) = a0 + a1 X .

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

16 / 29

Regresie neliniar
a (cu o functie putere)
Metoda liniariz
arii pentru cazul x , > 0.
Ecuatia y = x poate liniarizat
a prin logaritmarea ambilor membri:
ln y = ln + ln x.
Setul de date initial f(xi , yi ) j xi > 0, yi > 0, i = 0, 1, . . . , m g se
nlocuieste cu f(Xi , Yi ) j i = 0, 1, . . . , m g, unde
Xi = ln xi ,

Yi = ln yi .

Aplicnd metoda regresiei liniare pentru setul de date

f(Xi , Yi ) j i = 0, 1, . . . , mg se determina polinomul
P 1 ( X ) = a0 + a1 X .
Prin identicare, avem a0 = ln si a1 = . Deci, = e a0 si = a1 .

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

16 / 29

Regresie neliniar
a (cu o functie putere)
Metoda liniariz
arii pentru cazul x , > 0.
Ecuatia y = x poate liniarizat
a prin logaritmarea ambilor membri:
ln y = ln + ln x.
Setul de date initial f(xi , yi ) j xi > 0, yi > 0, i = 0, 1, . . . , m g se
nlocuieste cu f(Xi , Yi ) j i = 0, 1, . . . , m g, unde
Xi = ln xi ,

Yi = ln yi .

Aplicnd metoda regresiei liniare pentru setul de date

f(Xi , Yi ) j i = 0, 1, . . . , mg se determina polinomul
P 1 ( X ) = a0 + a1 X .
Prin identicare, avem a0 = ln si a1 = . Deci, = e a0 si = a1 .
Atunci curba initial
a y = x devine
y = x = e a0 x a1 .
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

16 / 29

Regresie neliniar
a (cu alte tipuri de functii)
Fie functia y =

Nicolae D
anet (UTCB)

1
1
. Inversnd relatia, avem = + x.
+x
y

Metoda celor mai mici p

atrate

Decembrie 2015

17 / 29

Regresie neliniar
a (cu alte tipuri de functii)

1
1
. Inversnd relatia, avem = + x.
+x
y

1
Dac
a not
am Y = , obtinem dreapta
y
Fie functia y =

Y =

Nicolae D
anet (UTCB)

1
+ x.

Metoda celor mai mici p

atrate

(9)

Decembrie 2015

17 / 29

Regresie neliniar
a (cu alte tipuri de functii)

1
1
. Inversnd relatia, avem = + x.
+x
y

1
Dac
a not
am Y = , obtinem dreapta
y
Fie functia y =

Y =

1
+ x.

(9)

Pentru setul de date f(xi , Yi ) j i = 0, 1, . . . , m g se construiesze

polinomul de aproximare de gradul unu
P1 (x ) = a0 + a1 x.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

(10)

Decembrie 2015

17 / 29

Regresie neliniar
a (cu alte tipuri de functii)

1
1
. Inversnd relatia, avem = + x.
+x
y

1
Dac
a not
am Y = , obtinem dreapta
y
Fie functia y =

Y =

1
+ x.

(9)

Pentru setul de date f(xi , Yi ) j i = 0, 1, . . . , m g se construiesze

polinomul de aproximare de gradul unu
P1 (x ) = a0 + a1 x.

(10)

Prin identicarea coecientilor ntre ecuatiile (9) si (10), obtinem:

= a0 ,

Nicolae D
anet (UTCB)

1
= a1 .

Metoda celor mai mici p

atrate

Decembrie 2015

17 / 29

Regresie neliniar
a (cu alte tipuri de functii)

1
1
. Inversnd relatia, avem = + x.
+x
y

1
Dac
a not
am Y = , obtinem dreapta
y
Fie functia y =

Y =

1
+ x.

(9)

Pentru setul de date f(xi , Yi ) j i = 0, 1, . . . , m g se construiesze

polinomul de aproximare de gradul unu
P1 (x ) = a0 + a1 x.

(10)

Prin identicarea coecientilor ntre ecuatiile (9) si (10), obtinem:

= a0 ,

Deci =

1
= a1 .

1
a0
1
si = . Curba c
autat
a este: y =
.
a1
a1
a0 + a1 x

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

17 / 29

Regresie neliniar
a (cu alte tipuri de functii)

x
.
+x
Procednd ca n exemplul anterior, determinati curba de aceast
a form
a
care aproximeaz
a setul de date f(xi , yi ) j i = 0, 1, . . . , m g.
Fie functia y =

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

18 / 29

Metoda celor mai mici p

atrate. Cazul continuu
Dat
a functia f 2 C [a, b ], s
a se determine un polinom de grad cel mult n,
P n ( x ) = a0 + a1 x + a2 x 2 +

ak x k ,

+ an x n =

k =0

astfel ca

Zb

Pn (x ))2 dx = minim
a.

(f (x )

E ( a0 , a1 , . . . , an ) =

Zb

ak x

f (x )

k =0

E ( a0 , a1 , . . . , an ) =

Zb
a

Nicolae D
anet (UTCB)

(f (x )) dx

ak

k =0

Zb

!2

dx.

f (x )x k dx +

Metoda celor mai mici p

atrate

Zb
a

ak x k

k =0

Decembrie 2015

!2

dx

19 / 29

Conditiile necesare pentru existenta minimului sunt

E
0=
=
aj

2aj

Zb

f (x )x dx + 2

ak

k =0

Zb

x k +j dx,

j = 0, 1, . . . , n.

Pentru determinarea coecientilor a0 , a1 , . . . , an se obtine sistemul liniar de

n + 1 ecuatii
n

ak

k =0

Nicolae D
anet (UTCB)

Zb
a

k +j

dx =

Zb

f (x )x j dx,

j = 0, 1, . . . , n.

Metoda celor mai mici p

atrate

Decembrie 2015

20 / 29

Dezavantajele acestei metode:

1

Coecientii matricei sistemului sunt de forma

Zb
a

x k +j dx =

b j +k +1 aj +k +1
.
j +k +1

Aceast
a matrice este matricea Hilbert, cunoscut
a ca ind prost
conditionat
a (la mici variatii ale termenilor liberi corespund mari
variatii ale necunoscutelor).
2

La fel ca la determinarea polinomului Lagrange, dac

a a fost
determinat polinomul Pn (x ), pentru determinarea polinomului
Pn +1 (x ) calculele se reiau n totalitate.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

21 / 29

Functii ortogonale
Se numeste pondere pe intervalul [a, b ] o functie integrabil
a w (x ) 0 pe
[a, b ], dar w (x ) 6= 0 pe orice subinterval al lui [a, b ]. Cu ajutorul ponderii
w (x ) se deneste produsul scalar si norma functiilor din C ([a, b ]) :
v
u b
uZ
Zb
q
u
hf , g i = f (x ) g (x ) w (x ) dx,
kf k = hf , f i = t f 2 (x ) w (x ) dx.
a

Sistem ortonormat de functii

Se spune c
a multimea fg0 (x ), g1 (x ), . . . , gn (x )g formeaz
a un sistem
ortogonal de functii pe intervalul [a, b ] cu ponderea w (x ) dac
a

hgj , gk i =

Zb

gj (x )gk (x )w (x )dx =

0,
j 6= k,
,
2
kgj k j = k,

j, k = 0, 1, . . . , n.

Sistemul se numeste ortonormat dac

a este ortogonal si kgj k = 1,
j = 0, 1, . . . , n.
Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

22 / 29

Problema de aproximare
Fie fg0 (x ), g1 (x ), . . . , gn (x )g un sistem ortogonal pe intervalul [a, b ] cu
ponderea w (x ), format din functii continue pe [a, b ]. Dat
a functia
f 2 C [a, b ], s
a se determine o combinatie liniar
a a functiilor
g0 (x ), g1 (x ), . . . , gn (x ), notat
a
n

Pn (x ) = a0 g0 (x ) + a1 g1 (x ) +

+ an gn (x ) =

ak gk (x ),

k =0

astfel ca

kf

Pn k =

E ( a0 , a1 , . . . , a n ) = k f
Nicolae D
anet (UTCB)

Zb

Pn (x ))2 w (x )dx = minim

a.

(f (x )

Pn k =

Zb
a

f (x )

ak gk (x )

k =0

Metoda celor mai mici p

atrate

!2

w (x )dx = min

Decembrie 2015

23 / 29

Problema de aproximare
Conditiile necesare pentru existenta minimului sunt
E
0=
=2
aj
n

ak

k =0

Zb

|a

Zb

k =0

gk (x )gj (x )w (x )dx =
{z

=kgj k k ,j
2

aj kgj k =

Nicolae D
anet (UTCB)

ak gk (x )

f (x )

Zb

Zb

gj (x )w (x )dx,

f (x )gj (x )w (x )dx,

f (x )gj (x )w (x )dx

Metoda celor mai mici p

atrate

Decembrie 2015

24 / 29

Problema de aproximare
Concluzie.
Dac
a multimea fg0 (x ), g1 (x ), . . . , gn (x )g este ortogonal
a, atunci
coecientii aj se determin
a pe baza formulelor
aj =

Zb

kgj k2 a

f (x )gj (x )w (x )dx,

j = 0, 1, . . . , n.

Dac
a multimea fg0 (x ), g1 (x ), . . . , gn (x )g este ortonormat
a, atunci
aj =

Zb

f (x )gj (x )w (x )dx,

j = 0, 1, . . . , n.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

25 / 29

Polinoamele Legendre
Polinoamele Legendre fPn (x )g formeaz
a un sistem ortogonal pe
[ 1, 1] n raport cu ponderea w (x ) = 1.
Polinomul Legendre de gradul n este denit de relatia
Pn ( x ) =

1 dn
(x 2
2n n! dx n

1)n .

Primele cinci polinoame Legendre sunt

P0 (x ) = 1,
P3 ( x ) =

5 3
x
2

Nicolae D
anet (UTCB)

3
x
2

P1 (x ) = x,

P2 ( x ) =

3 2
x
2

si

P4 ( x ) =

35 4
x
8

Metoda celor mai mici p

atrate

1
,
2
15 2 3
x + .
4
8

Decembrie 2015

26 / 29

Polinoamele Legendre

Polinoamele Legendre Pn (x ) au urm

atoarele propriet
ati:
a) Pentru ecare n, polinomul Pn (x ) este un polinom de gradul n.
b) Pn (x ) are n r
ad
acini reale, distincte, simetrice fat
a de origine, situate n
intervalul ( 1, 1).
c)

Z1

Qk (x )Pn (x )dx = 0, pentru orice polinom Qk (x ) de grad k < n.

Aceasta nseamn
a c
a polinomul Legendre de grad n este ortogonal pe orice
polinom de grad strict mai mic dect n.

Nicolae D
anet (UTCB)

Metoda celor mai mici p

atrate

Decembrie 2015

27 / 29

Polinoamele Cebsev
Polinoamele Cebsev fTn (x )g sunt ortogonale pe ( 1, 1) n raport cu
1
ponderea w (x ) = p
.
1 x2
Polinomul Cebsev de gradul n este denit prin formula
Tn (x ) = cos[n arccos x ],

0.

Primele cinci polinoame Cebsev sunt:

T0 (x ) = cos[0 arccos x ] = 1,
T2 (x ) = 2x

1,

T3 (x ) = 4x

3x,

T4 (x ) = 8x

8x 2 + 1.

T1 (x ) = cos[arccos x ] = x,

Conditia de ortogonalitate este:

Z1
1

Nicolae D
anet (UTCB)

Tk (x )Tj (x )
p
=
1 x2

0, k 6= j,

, k = j.
2

Metoda celor mai mici p

atrate

Decembrie 2015

28 / 29

Polinoamele Cebsev
1
Fie T n (x ) = n 1 Tn (x ), n
2
lui x n egal cu 1.

0, polinoamele Cebsev care au coecientul

1
= max T n (x )
2n 1
x 2[ 1,1 ]

max jPn (x )j ,

x 2[ 1,1 ]

oricare ar polinomul Pn (x ) cu coecientul lui x n egal cu 1.

Polinoamele Cebsev T n (x ) au zerourile
xk = cos

si iau valorile extreme

2k 1
,
2n

( 1)k
n punctele
2n 1

xk0 = cos
Nicolae D
anet (UTCB)

k = 1, 2, . . . , n,

k
n

k = 1, 2, . . . , n

Metoda celor mai mici p

atrate

Decembrie 2015

29 / 29