Sunteți pe pagina 1din 5

1

Curs 5 ECONOMETRIE 30oct.2013



Modelul unifactorial de regresie liniar. Metoda verosimilitii maxime
n condiiile satisfacerii ipotezelor I1...I5 (fr I6), teorema Gauss-Markov arat c estimatorii
obinui prin metoda celor mai mici ptrate sunt BLUE.
OLS
a o = este estimatorul pentru parametrul de interceptare iar
OLS
b |

= este estimatorul pentru


parametrul pant.
Estimarea parametrilor prin metoda verosimilitii maxime
Metoda verosimilitii maxime este o metod de estimare punctual a parametrilor modelului de
regresie, cu proprieti teoretice mai puternice dect MCMMP (OLS). Dac modelul de regresie
liniar satisface ipotezele I1-I6, atunci estimatorii obinui prin MCMMP sunt estimatori de maxim
verosimilitate. Ipoteza esenial este I6, care afirm c variabilele de perturbaie
i
c sunt distribuite
normal, avnd media zero i variana constant
2
o . Dac este ndeplinit i ipoteza de normalitate a
erorilor aleatoare, estimatorii obinui prin MCMMP sunt nu numai cei mai buni estimatori
nedeplasai, dar urmeaz i o distribuie normal.
Metoda verosimilitii maxime (Maximum Likelihood-ML) maximizeaz funcia de
verosimilitate a variabilei Y (distribuia comun a celor n observaii). Aceasta depinde de parametrii
modelului o i | dar i de variana
2
o .
Dorim s determinm valorile lui o i | care sunt mai probabile a fi generat selecia considerat.
Funcia densitate de probabilitate a fiecrei variabile poate fi scris ca fiind:
2
2
) (
2
1
2
1
) (
i i
x y
i
e y f
| o
o
t o

= .
Avnd o selecie de dimensiune n, funcia densitate de probabilitate comun este produsul funciilor
densitate individuale ) ( ) ( ) (
2 1 n
y f y f y f . Cnd valorile ) , (
i i
x y sunt cunoscute dar parametrii o ,
| i
2
o sunt necunoscui, aceast funcie se numete funcie de verosimilitate i se noteaz
) , | , , (
2
x y L o | o sau ) , , (
2
o | o L . Atunci


|
|
.
|

\
|
= =
2
2
2
2
2
1 1
2
) (
2
1
) (
2
1
) (
2
1
2
2
1
2
1
2
1
) , , (
i i n n
x y
n
x y x y
e e e L
| o
o
| o
o
| o
o
t o t o t o
o | o .
Metoda verosimilitii maxime const n estimarea parametrilor necunoscui astfel nct
probabilitatea de a obine datele observate s fie maxim. Pentru a determina maximul funciei de
verosimilitate este mai convenabil s se considere logaritmul natural al acestei funcii. Avem:
2
2
2
) (
2
1
) 2 ln(
2
ln
2
ln
o
| o
t o

=
i i
x y n n
L
Scriind condiiile de ordinul nti pentru aceast funcie obinem estimatorii de maxim
verosimilitate (numii uneori i estimatori ML)
ML ML
| o
~
,
~
i
2 ~
ML
o pentru parametrii o , | i
2
o .
Difereniem aceast funcie n raport cu parametrii necunoscui. Observm c doar termenul final
conine o i | , astfel c, prin difereniere, ceilali termeni dispar. Gsirea estimaiilor de maxim
verosimilitate pentru o i | este aceeai cu maximizarea termenului final sau minimizarea
termenului
2
) (
i i
x y | o . Prin metoda verosimilitii maxime obinem aceeai estimatori ca cei
din MCMMP.
Concluzie: Sub ipoteza de normalitate a erorilor aleatoare, estimatorii parametrilor modelului liniar
de regresie, obinui prin OLS i prin ML sunt identici, adic
ML OLS
a o o
~
= = iar
ML OLS
b | |
~

= = .
Acest rezultat este mai puternic dect cel din teorema Gauss-Markov, deoarece include toi
estimatorii nedeplasai nu numai pe cei liniari.
2

Totui, estimatorul lui
2
o obinut prin ML nu este acelai cu estimatorul obinut prin OLS. Pentru a
vedea acest lucru difereniem L ln n raport cu acest parametru i egalm cu zero. Avem:
n
e
i

=
2
2 ~
o care este diferit de
2

2
2 2

= =
n
e
s
i
e
o
2 ~
o este un estimator deplasat pentru
2
o , n selecii finite, dar este asimptotic nedeplasat, deci este
un estimator consistent pentru parametrul
2
o .
Comparat cu metoda verosimilitii maxime, MCMMP este mai uor de aplicat.
Metoda verosimilitii maxime poate fi aplicat i n cazul modelelor de regresie neliniare.

Forme funcionale ale modelelor de regresie unifactoriale
Fenomenele economice, cuantificate prin intermediul variabilelor economice, evolueaz dup
traiectorii liniare sau neliniare.
n general, teoria economic nu precizeazdespre forma funciei care trebuie s defineasc modelul
de regresie. n analiza statistic standard, relaia dintre variabila dependent i variabilele
independente este considerat liniar. Aceasta nseamn c rata de modificare a variabilei
dependente, determinat de modificarea variabilei independente nu variaz n funcie de valorile
variabilei independente. Se utilizeaz o form funcional liniar pentru simplitatea estimrii i
pentru simplitatea interpretrii coeficienilor. Pentru modelul
i i i
x y c | o + + = , cnd x crete cu o
unitate, y va crete, n medie, cu | uniti. Ipoteza de liniaritate n variabile nu este una restrictiv
deoarece variabila dependent i variabilele independente pot fi transformri ale variabilelor ce nu
respect condiia de liniaritate. Dezavantajul utilizrii unei forme funcionale liniare este tot
simplitatea, pentru c cele mai multe relaii economice nu sunt liniare.
Modelul liniar este preferat datorit simplitii sale, chiar dac ar fi mai potrivit o funcie neliniar.
Deoarece teoria economic nu precizeaz forma funciei care trebuie s defineasc modelul de
regresie, se consider c este potrivit alegerea unei forme liniare ntre variabilele economice dac
raportul | =
dX
dY
= constant. | este numit parametru pant (slope).
n cazul modelului de regresie liniar putem calcula elasticitatea lui Y n raport cu variabila X:
Y
X
Y
X
dX
dY
X dX
Y dY
E
X Y
= = = |
/
/
|

Ipoteza care ne permite estimarea parametrilor unui model prin MCMMP este liniaritatea n raport cu
parametrii modelului, nu liniaritatea n variabile.

Modelele de regresie neliniare pot fi:


- modele neliniare n variabilele explicative, dar liniare n parametri;
- modele neliniare n parametri.
Modelele neliniare n parametrii modelului se estimeaz prin metode speciale, bazate pe aproximaii
succesive. Deoarece aceste metode sunt complicate, ncercm s gsim o cale de a transforma astfel
de relaii neliniare pentru a le face liniare n parametri.
Transformrile liniare nu afecteaz forma distribuiei. Transformarea
i i
x x | o + =
-
va produce
observaiile
- - -
n
x x x ,..., ,
2 1
. n contextul analizei de regresie, aceasta nseamn c se vor schimba
coeficienii pant i de interceptare, dar coeficientul de determinaie, erorile standard i rapoartele t
vor rmne aceleai.
Pentru a schimba forma unei distribuii se folosesc transformrile neliniare. De exemplu,
folosim funcia putere, sau logaritm sau rdcina ptrat. Unul din motivele utilizrii transformrilor
neliniare este c poate fi redus asimetria. Numrul de valori aberante (puncte care se afl la distan
mare de curba ajustat) poate fi redus printr-o transformare neliniar. Un alt motiv ar fi faptul c
3

aproximarea funciei de regresie a populaiei printr-o funcie liniar poate fi bun pentru unele
variabile i eronat pentru altele.

Exemple de modele unifactoriale neliniare n variabilele iniiale, care pot fi transformate n
modele liniare

1) Modelul log-log sau dublu logaritmic sau log-liniar ( estimeaz elasticitatea)
Modelul log-log presupune c elasticitatea lui Y n raport cu X rmne constant i este folosit
atunci cnd suntem interesai de estimarea unei elasticiti. Forma funcional logaritmic se
folosete pentru a descrie funcii de cerere, funcii de cost, funcii de producie sau alte funcii
descrise cu funcia Cobb-Douglas.
Considerm modelul exponenial
i
e x A y
i i
c |
= , unde Y este cantitatea cerut i X este preul.
Calculm
) 1 (
=
|
|
i
x A
dx
dy
... Se vede c rata de modificare a lui Y n raport cu X nu este independent
de X, deci nu este constant. Modelul este neliniar n variabila X.
Prin logaritmare obinem modelul dublu logaritmic:
i i i
x y c | o + + = ln ln . Notm A ln = o ,
i i
y y ln =
-
i
i i
x x ln =
-
.
i i i
x y c | o + + =
- -
.
Dup crearea noilor variabile
i i
y y ln =
-
,
i i
x x ln =
-
, regresia este liniar. Dac sunt ndeplinite
ipotezele modelului clasic, modelul transformat poate fi estimat prin MCMMP, iar estimatorii astfel
obinui sunt BLUE. Coeficientul are interpretarea unei elasticiti:
X regresorul in relativa modificare
Y l regresantu in relativa modificare
= | = elasticitatea lui Y n raport cu X
dX/X
dY/Y
ln
ln
= =
X d
Y d
| = elasticitatea lui Y n raport cu X

Y
X
panta
Y
X
slope
Y
X
dX
dY
E
X Y
= = = = ) ( ) (
|
|
Observaie: Interpretm logaritmii ca schimbri proporionale sau procentaje.
(Fie
1 t
y i
t
y dou valori ale lui Y la momentele 1 t i t . Diferena dintre
t
y i
1 t
y este f. mic.
1

t t
y y este modificarea absolut n Y;
1
1

t
t t
y
y y
este modificarea relativ sau proportional, iar 100
1
1

t
t t
y
y y
modificarea procentual.)
Interpretarea coeficientul pant | , din modelul log-log: atunci cnd X crete cu 1%, Y crete sau
scade, n medie, cu | %, meninnd celelalte condiii nemodificate.
n general, elasticitatea i coeficientul pant sunt concepte diferite. Numai pentru modelul log-log
cele dou concepte sunt identice.
Deoarece funcia de regresie pentru modelul log-log este o dreapt, panta sa ( | ) este constant.
Deoarece coef. pant =coef. de elasticitate, pentru acest model, elasticitatea este constant. Nu are
importan pentru ce valori ale lui X este calculat aceast elasticitate.
Modelul log-log sau log-liniar se numete i model cu elasticitate constant.

2) Modelul lin-log are forma:
i i i
x y c | o + + = ln .
X regresorul in relativa modificare
Y l regresantu in absoluta modificare
= | sau
dX/X
dY
ln
= =
X d
dY
| .
|
4

Interpretarea coeficientului pant din modelul lin-log: Atunci cnd X crete cu 1%, Y crete sau
scade, n medie, cu 100 / | uniti ( | 01 , 0 uniti), meninnd celelalte condiii nemodificate.
Modelul lin-log se folosete cnd dorim s determinm modificarea absolut n Y pentru o
modificare de 1% n X. De exemplu, atunci cnd dorim s rspundem la ntrebarea: Ct de mult
crete PNB dac oferta de bani crete cu 1% ?

3) Modelul log-lin are forma
i i i
x y c | o + + = ln .
Coeficientul pant msoar modificarea relativ n Y, pentru o modificare absolut n valoarea
regresorului X.
X regresorul in absoluta modificare
Y l regresantu in relativa modificare
= | , sau
Y dX
dY
dX
Y d 1 ) (ln
= = | .
Interpretarea coeficientul pant | din modelul log-lin: atunci cnd X crete cu o unitate, Y crete
sau scade, n medie, cu 100 | %, meninnd celelalte condiii nemodificate.
n cazul n care variabila X este timpul, modelul descrie rata de cretere (dac 0 > | ) sau de
descretere (dac 0 < | ). Aceast proprietate este aplicabil relaiei dintre salarii i anii de educaie,
care este aproape totdeauna exprimat n forma c | o + + = Ed Sal ln . Aceasta nseamn c, n caz
c la anii de educaie ai unei persoane se adaug un an, salariul va crete, n medie, cu % 100| .
Modelul log-lin este util pentru a determina rata de cretere a unei variabile economice precum PNB,
oferta de bani, fora de munc sau productivitatea.

4. Modelul reciproc sau hiperbolic
Modelul hiperbolic are forma
i
i
i
x
y c | o + + =
1
, este neliniar n variabile i liniar n parametrii si.
Acest model poate fi estimat aplicnd MCMMP unei regresii a variabilei Y n raport cu o constant i
o variabil x x / 1 =
-
. Transformarea invers face din numerele foarte mici, numere foarte mari, iar
din numerele foarte mari, numere foarte mici. ntr-un model reciproc, cnd X crete spre infinit,
termenul x / | se apropie de zero, iar y tinde asimptotic ctre o .
Pentru interpretarea coeficientului pant , calculm
2
i i
i
x x
y |
=
c
c
. Dac 0 > | , caracteristica Y este
descresctoare, iar dac | este negativ, caracteristica Y este cresctoare. Indiferent de semnul lui | ,
avem o =

) ( lim x y
x
.
Modelul hiperbolic se recomand n situaiile cnd o caracteristic Y scade sau crete asimptotic spre
o anumit valoare real.
Modelul reciproc de regresie este utilizat pentru a cerceta legtura dintre rata omajului i rata
inflaiei.
Pentru a studia dependena dintre consumul unui produs i veniturile disponibile, se folosete un
model reciproc cu panta curbei de regresie negativ. Punctul de intersecie a curbei cu axa absciselor
este o | / = x i arat venitul minim care permite achiziionarea produsului de consum respectiv.

5. Modelul parabolic
Modelul parabolic este folosit n situaiile n care ritmul de evoluie n cazul unei caracteristici este
reprezentat de o funcie liniar cu panta egal cu constanta a . Acest model poate fi descris printr-o
relaie de forma:
i i i i
x a x b c y c + + + =
2
, unde constantele R c b a e , , . Efectul lui X asupra lui Y
depinde de valoarea lui X. Cnd X crete cu o unitate, Y crete cu x a b 2 + uniti.
|
5

Modelele cu funcii ptratice sunt potrivite pentru a capta efectele marginale de cretere sau
descretere. Exist totdeauna o valoare pozitiv a lui X, unde efectul lui asupra lui Y este zero.
nainte de acest punct, X are efect pozitiv asupra lui Y, iar dup acest punct, X are efect negativ
asupra lui Y. n practic poate fi important s se cunoasc care este acest punct de ntoarcere.
Modelul parabolic este utilizat pentru a descrie relaia dintre veniturile guvernamentale i rata de
impozitare.

Forma matriceal a modelului de regresie liniar simpl
Considerm modelul de regresie liniar simpl, asociat variabilelor X i Y, variabile observate prin
selecia sau eantionul n i y x
i i
,..., 2 , 1 , ) , ( = .
n i x y
i i i
,..., 2 , 1 ,
1 0
= + + = c | | .
Aceste relaii se pot scrie sub forma:
|
|
|
|
|
.
|

\
|
+
|
|
.
|

\
|
|
|
|
|
|
.
|

\
|
=
|
|
|
|
|
.
|

\
|
n n n
x
x
x
y
y
y
c
c
c
|
|

2
1
1
0 2
1
2
1
1
1
1
. Notnd
|
|
.
|

\
|
=
|
|
|
|
|
.
|

\
|
=
|
|
.
|

\
|
=
|
|
|
|
|
.
|

\
|
=
|
|
|
|
|
.
|

\
|
=
b
a
x
x
x
X
y
y
y
y
n n n
|
c
c
c
c
|
|
|

; ; ;
1
1
1
;
2
1
1
0 2
1
2
1


Putem scrie modelul n expresie matriceal: c | + = X y
Estimarea parametrilor.
Parametrii se obin din sistemul de ecuaii normale ale lui Gauss, pe care le putem scrie ntr-o form
echivalent i n form matriceal:

= +
= +
i i i i
i i
y x x b x a
y x b an
2

|
|
.
|

\
|

=
|
|
.
|

\
|
|
|
.
|

\
|


i i
i
i i
i
y x
y
b
a
x x
x n
2
y X X X
T T
= |

) (
Obs: Vom nota transpusa matricii X prin
T
X sau X' .
Soluia sistemului se poate obine dac exist inversa matricii ) ( X X
T
. Rezult:
y X X X
T T 1
) (


= |
tim c

=
2
2 2
) (
) (
x x n
x
a Var
i
i
o
;

=
2
2
) (
) (
x x
b Var
i
o
,

=
2
2
) (
) , cov(
x x
x
b a
i
o ;
Atunci, matricea de variane-covariane a vectorului |

este:
1 2
2
2
2
2
2
2
2
2 2

) (
) ( ) (
) ( ) (

=
|
|
|
|
|
.
|

\
|

= O X X
x x x x
x
x x
x
x x n
x
T
i i
i i
i
o
o
o
o
o
|