7

Metode de estimare a parametrilor

7.1

Metoda momentelor

Reamintim ca daca

momentul de ordin
)=
momentul de ordin

este o selectie de volum

dintr-o populatie

, am definit:

a populatiei (al variabilei aleatoare ) prin

P

( = )
daca
v.a. discreta (ce ia valori 1 2
R 1
=
( )
daca
v.a. continua cu densitatea ( )

al selectiei prin

1X

=1

Metoda momentelor (introdusa de K. Pearson, 1928) presupune estimarea parametrului necunoscut (sau a
parametrilor necunoscuti) ai distributiei populatiei
prin egalarea momentelor teoretice cu cele de selectie: 1 =
,
=
)
se
scriu
attea
ecua
t
ii
cte
sunt
necesare
pentru determinarea parametrilor necunoscuti).
2
1
2
Estimatorii astfel obtinuti se numesc estimatori de moment / estimatori ai momentelor.
Exemplul 7.1 Presupunem ca 1
reprezinta o selectie dintr-o populatie
cu parametru necunoscut
0. Sa se estimeze prin metoda momentelor.
Densitatea populatiei
este n acest caz

0
( )=
0
0
Momentul de ordin nti al populatiei este deci
Z
Z
Z

=
(
)
=
( )=
1 =

avnd o distributie exponentiala

Z
+
0

= 1

iar momentul de ordin nti al selectiei este

1

Pentru a determina parametrul necunoscut

avem nevoie de o singura ecuatie, si egalnd

1

obtinem

de unde se obtine
=
Estimatorul de moment al lui

este deci
(

)=

1 +

= ).

si se poate arata ca este un estimator corect (adica

Metoda verosimilita
tii maxime

7.2
Fie
(

valorile observate ale unei selectii

) ce depinde de parametrul necunoscut .
Definim functia de verosimilitate ca fiind
1

( )=

de volum

dintr-o populatie

avnd densitatea

(54)

Metoda verosimilitatii maxime (introdusa de R. A. Fischer, 1912) presupune ca estimatorul al lui este egal
cu valoarea cu acea valoare ce maximizeaza functia de verosimilitate ( ). Estimatorul astfel obtinut se numeste
estiomator de verosimilitate maxima.

51

Observatia 7.2 n cazul n care variabila aleatoare

este discreta, n formula anterioara densitatea (
) se
nlocuieste prin probabilitatea ( = ) ca variabila aleatoare
sa ia valoarea , si deci n acest caz functia de
verosimilitate devine
( )

1)

1)

datorita independentei variabilelor aleatoare 1

.
Interpretarea metodei verosimilitatii maxime este deci ca estimatorul al lui este egal cu acea valoare ce
maximizeaza probabilitatea de aparitie a valorilor observate 1
.
Exemplul 7.3 O urna contine un numar necunoscut de bile albe si negre. Sa se estimeze probabilitatea
a
extragerii unei bile albe din urna.
Consideram o selectie de volum din urna (cu ntoarcerea n urna a bilei extrase nainte de urmatoarea extragere). Notam cu 1 extragerea unei bile albe din urna si cu 0 extragerea unei bile negre, si deci populatia este n
acest
caz
descrisa
de
variabila
aleatoare
avnd
functia
de
probabilitate

=1
1
=0 1
(1 )
(
)=
= )=
1
=0 =
0
n rest

0
n rest
Daca 1
verosimilitate este

sunt valorile observate ale variabilelor aleatoare

Y
( )=

(1 )

(1 )

=1

ale selectiei, atunci functia de

=1

=1

Sa observam ca deoarece functia logaritm este o functie strict crescatoare, functia ( ) si atinge maximul n
acelasi punct cu functia ln ( ), si determinam n continuare punctul n care functia ln ( ) si atinge valoarea
maxima.
Punctele critice ale functiei ln ( ) sunt date de ecuatia

!
!
X
X
ln ( )
= 0

ln (1 ) = 0
ln +
=1

1X
=1

(1 )
P

=1

1

1

=1

!
=0

=1

X
+

=0
=1

=1

Este usor de observat ca aceasta valoare a lui este un punct de maxim al functiei ln
de verosimilitate ( )), si deci estimatorul de verosimilitate maxima este dat de
P
( 1
) = =1
=

( ) (si deci si al functiei

n mod similar calculului din exemplul anterior, n general functiile ( ) si ln ( ) si ating maximul n acelasi
punct . Pentru a determina deci punctul de maxim al functiei de verosimilitate ( ) determinam punctul de
maxim al functiei ln ( ). Daca aceasta functie este derivabila, atunci punctul de maxim este un punct critic, si
deci verifica ecuatia
ln ( ) = 0 X ln (
)
=0
(55)
=1

numita ecuatia verosimilita

tii maxime.

52

Exemplul 7.4 Sa se determine parametrul al distributiei Poisson a unei populatii

folosind o selectie de volum
din aceasta populatie.
Fie 1
sunt valorile observate ale unei selectii 1
din populatia . Deoarece functia de probabilitate este n acest caz
(
)= ( = )=
{0 1 2
}
!
ecuatia verosimilitatii maxime devine
ln

( ) = 0

ln (

=0

=1

( +

ln

ln ( !)) = 0

=1

1 +

=0

=1

1X

=0

=1
=1

=1

Obtinem deci estimatorul de verosimilitate maxima

P
(

)=

Are loc urmatoarea:

Teorema 7.5 Daca exista o estimatie eficienta
de verosimilitate maxima .

a parametrului necunoscut , atunci ea coincide cu cu estimatia

Demonstratie. Conform Teoremei 6.5, exista un estimator eficient al lui

a populatiei se poate scrie sub forma
ln (
si n acest caz un estimator eficient al lui

)=

( ) )+

( )

( )+

daca si numai daca densitatea

( )

este dat de
P
(

=1

)=

Ecuatia verosimilitatii maxime devine n acest caz

ln

( )

ln (

=0

=1

(
=1

00

( ) )

( )

P
=1

( )

si deci estimatorul de verosimilitate maxima

P
(
coincide cu estimatorul eficient
1
Se poate demonstra urmatoarea:

)=

).

53

=1

( )

( )+

( )) = 0

Teorema 7.6 Daca exista o estimatie suficienta a parametrului necunoscut

, atunci orice estimatie de verosimil
itate maxima este o anumita functie de (adica ( 1
)=
( 1
) ).
Ca o alta
aplicatie a metodei verosimilitatii maxime, consideram urmatorul exemplu.

2
Exemplul 7.7 Sa se estimeze parametrii distributiei normale N
folosind metoda verosimilitatii maxime.
n general,pentru valori mari ale volumului selectiei, metoda verosimilitatii maxime produce un estimator aproximativ corect si eficient, ce are o distributie aproximativ
normala. Exemplul anterior arata
ca estimatorul de

c2 = 1 2 2 , si deci este un estimator aproximativ corect.
verosimilitate maxima a lui c2 este 2 verifica
O alta proprietate a metodei verosimilitatii maxime este ca daca b1

b sunt estimatori de verosimilitate max

b1
b .
ima a parametrilor 1
, atunci estimatorul de verosimilitate maxima pentru ( 1
) este
2
P
P

, si deci un estimator de verosimilitate

n exemplul anterior am obtinut = 1
si c2 = 1
=1
=1
q P
p

2
1
c2 =
2 este dat de b =

maxima pentru abaterea pa

.
tratica
medie =
=1

54