Curs 6

Modelul de regresie clasic

1
 Etapele modelrii econometrice
1. Specificarea modelului
- precizarea variabilei endogene Y i a variabilei exogene X
y=f(x)+e
2. Identificarea modelului
- alegerea unei funcii care descrie valorile vb. endogene n funcie de variaia vb. exogene
- se realizeaz cu ajutorul procedeului grafic sau a calculelor algebrice (analiza de varian)

yi =b0 + b1xi + ei , i=1,n

yi b0 b1 xi
yi = componenta predictibil (deterministic) + eroarea aleatoare

3. Estimarea parametrilor modelului

- metoda minimizrii sumei ptratelor erorilor (MCMMP)

S (b0, b1) min ei2 min ( yi b0 b1 xi )2

i i

2
 Etapele modelrii econometrice
- se obine sistemul
de ecuaiin normale:n
nb0 b1 xi yi
i 1 i 1
n n n
b0

i 1
xi b1 xi xi yi
i 1
2

i 1

prin rezolvarea sistemului avem:
n
n
-
yi b1 xi
b0 yi xi xi xi yi i 1
2
b 0 y b1 x i 1
b0

n
i i
2
n x 2
x
x y
n
x y

b1 b1 n xi yi xi yi
i i

xi yi n x y i 1
n s xy
b1 i

n i i
x 2
x 2
xi n x
2 2

x
n
x
2 s x2
i
i 1
i

3
 Etapele modelrii econometrice
- dup determinarea coeficienilor b0 i b1 se calculeaz valorile ajustate:

yi b0 b1 xi
- se obine astfel:
n n

y
i 1
i y
i 1
i

- n cazul legturii simple liniare o msur relativ a dependenei dintre dou variabile o constituie
coeficientul de corelaie liniar Pearson (semnul arat direcia legturii, iar valoarea intensitatea
legturii)
n

cov( x , y ) s xy ( x i x )( y i y )
rxy i 1

sx s y sx s y n 2
n
2
i ( x x ) i ( y y )
i 1 i 1

4
 Etapele modelrii econometrice
- coeficientul de corelaie liniar Pearson se poate determina:
n n n
n xi yi xi yi
b1
rxy i 1 i 1 i 1

n 2 n 2 n 2 n 2 *
n xi xi n yi yi
i 1 i 1 i 1 i 1

2
n
n
* n yi2 yi
i 1 i 1
s xy sx
b1 r b1
s x2 sy

5
 Ipotezele modelului de regresie liniar

Pentru a obine proprietile dorite ale estimatorilor regresiei, se

fac, de obicei, cinci presupuneri (ipoteze) standard pentru modelul
din populaia general:

Ipotezele ce trebuie verificate:

Forma funcional: yi = 0 + 1xi + i, i=1,,n;

Normalitatea erorilor: i N(0, );
2

Media zero a erorilor: (i)=0 I;

Homoscedasticitatea: 2(i)= 2 constant, i;

Non autocorelarea erorilor: Cov(i,j)=0 , ij;
Necorelarea ntre regresor i erori: Cov(xi,j)=0 , i i j.

6
 Ipoteza 1: Forma funcional

y=0+1x Y
1000

y=0+1z, z=ex
1 x
a b a be
x
800

y=0+1r, r=1/x
y=0+1q, q=ln(x)
600

a bx
400

Sau 200

a b ln x

y=Ax ln(y)= y=0+1ln(x) 0

-1 0.003 0.008 0.013 0.018 0.023 0.028 0.033 0.038 0.043 0.048 0.053 0.058 0.063 0.068
X

Forma general: -200

f(yi)= y=0+1g(xi)+i
1 -400

Contra exemplu: y 0
1 x
Modele ce pot fi linearizate
nu poate fi transformat n model liniar.

7
 Erorile
Ipoteza de linearitate a modelului include i aditivitatea
erorilor.
Forma modelului:
y = 0 + 1x + ,

De exemplu modelul y Ax e se transform prin
logaritmare n modelul liniar: ln(y)=ln(A)+ln(x)+ .
ns modelul y Ax nu mai poate fi transformat n
model liniar.
Dac ipoteza de linearitate este verificat, variabila
dependent observat este suma a dou elemente:
un termen nestochastic, determinist: = 0 + 1x
o variabil aleatoare

8
 Ipoteza 2: normalitatea erorilor
Se presupune c variabila aleatoare i este normal
distribuit :

Distribuia de probabilitate pentru i

9
 Ipoteza 3: media erorilor este zero: (i)=0 i

Este natural atta timp ct este vzut ca suma efectelor

individuale, cu semne diferite.
Dac media erorilor este diferit de zero exist posibilitatea
ca variabile exogene cu influen semnificativ asupra
variabilei Y s fie omise din model.
Dac media valorilor Y, condiionat de X, este
(Y/X = Xi) = 0 + 1Xi, atunci nu exist variabile omise
asociate cu regresia n populaie.

10
 Ipoteza 4 (de homoscedasticitate):
Var(i)= constant i
2

a) b)
Dispersia reziduurilor a) constant; b) variabil

Dispersia reziduurilor n populaie este constant peste toate valorile Xi

11
 Ipoteza 5: Non autocorelarea erorilor: (ij)=0 ij

Aceast ipotez nu implic faptul c yi i yj sunt necorelate, ci faptul c

deviaiile observaiilor de la valorile lor ateptate sunt necorelate.
Variabilele aleatoare i sunt statistic independente una de alta, adic
i j = 0, pentru i j.

Acest lucru nseamn c eroarea asociat cu o valoare a variabilei Y nu

are nici un efect asupra erorilor asociate cu alte valori ale lui Y;
Nu exist deci corelaie ntre reziduuri;
OBSERVAIE: Este convenabil a considera c erorile sunt
independente i normal distribuite cu medie zero i variaie
constant pentru obinerea de rezultate statistice exacte.

12
 Estimarea parametrilor modelului de regresie clasic

Parametrii necunoscui ai modelului din colectivitatea general sunt cei ce trebuie

estimai:
yi = 0 + 1xi + i, i=1,n

Modelul estimat va fi scris:

y i b0 b1 xi , i 1, n
Eroarea asociat unui punct i este:
i = yi - 0 - 1xi

Pentru orice valori estimate b0 i b1, erorile estimate vor fi:

ei = yi - b0 - b1xi

13
 Estimarea parametrilor modelului de
regresie clasic

Metoda celor mai mici ptrate:

Pentru estimarea parametrilor 0 i 1 pe baza datelor observate, un
criteriu natural este cel de maximizare a potrivirii modelului cu datele
observate, deci de minimizare a erorilor observate:

min ei2 min ( yi b0 b1 xi )2

i i

14
 Estimarea parametrilor modelului de
regresie clasic

Condiiile de ordin 1: determinarea soluiei

( ei2 )

yi nb0 ( xi )b1

i
b 0
0 i i


xi yi ( xi )b0 ( xi )b1
2 2
( e i )


i
b1
0 i i i

Condiia de ordin 2: soluia gsit este un punct de minim.

Matricea derivatelor pariale de ordin doi trebuie s fie pozitiv
definit.

15
 Estimarea parametrilor modelului de
regresie clasic

Condiiile de ordin 1:

y x i i

b0 y b1 x
i i

x y x i i
2
i y x x x
i
2
i i i yi

b0
i yi
i i i i i i

n x n x x 2 2
n
i i

i

i i i

x x i
2
i

xi xi yi x y i i nx y

i i

b1 n
i i i
n y i
i xi i nx
x 2 2
i
x x y n xi yi xi yi

i
i i i 2
b1 i i
i i i
xi xi
n x n x x 2
i
2
i i i

i
i i i

x i
i x i
2
i

16
 Estimarea parametrilor
modelului de regresie clasic

x y xy xy
i i i i nx y ( x x) y i i
b1 i i i
i

i xi x xi x n x
x 2 2
x ( x x)
i
i i
i i i

( x x) y ( x x) y ( x x)( y y )
i i i i i
i
i i

x ( x x) ( x x) x
i
i i ( x x) i
i
i
i
2

s xy
Deci: b1
s x2

17
 Estimarea parametrilor modelului de regresie clasic

sxy este covariana ntre x i y.

Linii de regresie cu a) pant pozitiv b) pant negativ c) pant egal cu zero

Estimatorul b0 (intercepia) poate lua valori negative sau pozitive.

Estimatorul b1 (panta liniei drepte) numit i coeficient de regresie are
ntotdeauna semnul indicatorului sxy,
18