7 Metode de estimare a parametrilor

7.1 Metoda momentelor

Reamintim c
a dac
a 1 este o selectie de volum dintr-o populatie , am definit:

momentul de ordin a populatiei (al variabilei aleatoare ) prin

P

() = = R 1 ( = ) dac
a v.a. discret
a (ce ia valori 1 2 )

() dac
a v.a. continu
a cu densitatea ()

momentul de ordin al selectiei prin

1X
=
=1

Metoda momentelor (introdus a de K. Pearson, 1928) presupune estimarea parametrului necunoscut (sau a
parametrilor necunoscuti) ai distributiei populatiei prin egalarea momentelor teoretice cu cele de selectie: 1 =
1 , 2 = 2 ) se scriu attea ecuatii cte sunt necesare pentru determinarea parametrilor necunoscuti).
Estimatorii astfel obtinuti se numesc estimatori de moment / estimatori ai momentelor.

Exemplul 7.1 Presupunem ca 1 reprezinta o selectie dintr-o populatie avnd o distributie exponentiala
cu parametru necunoscut 0. Sa se estimeze prin metoda momentelor.
Densitatea populatiei este n acest caz

0
() =
0 0
Momentul de ordin nti al populatiei este deci
Z Z Z Z

0


1 1
1 = () = () = = = 0
+ = =
0 0 0 0

iar momentul de ordin nti al selectiei este

1 + +
1 =

Pentru a determina parametrul necunoscut avem nevoie de o singura ecuatie, si egalnd 1 = 1 obtinem
1 1 + +
=

de unde se obtine

=
1 + +
Estimatorul de moment al lui este deci
(1 ) =

1 + +

= ).
si se poate arata ca este un estimator corect (adica

7.2 Metoda verosimilit

atii maxime
Fie 1 valorile observate ale unei selectii 1 de volum dintr-o populatie avnd densitatea
( ) ce depinde de parametrul necunoscut .
Definim functia de verosimilitate ca fiind

() = (1 ) ( ) (54)

Metoda verosimilitatii maxime (introdus

a de R. A. Fischer, 1912) presupune c a estimatorul al lui este egal
cu valoarea cu acea valoare ce maximizeaza functia de verosimilitate (). Estimatorul astfel obtinut se numeste
estiomator de verosimilitate maxim a.

51
Observatia 7.2 n cazul n care variabila aleatoare este discreta, n formula anterioara densitatea ( ) se
nlocuieste prin probabilitatea ( = ) ca variabila aleatoare sa ia valoarea , si deci n acest caz functia de
verosimilitate devine

() = ( = 1 ) ( = )
= (1 = 1 ) ( = )
= (1 = 1 = )

datorita independentei variabilelor aleatoare 1 .

Interpretarea metodei verosimilitatii maxime este deci ca estimatorul al lui este egal cu acea valoare ce
maximizeaza probabilitatea de aparitie a valorilor observate 1 .

Exemplul 7.3 O urna contine un numar necunoscut de bile albe si negre. Sa se estimeze probabilitatea a
extragerii unei bile albe din urna.
Consideram o selectie de volum din urna (cu ntoarcerea n urna a bilei extrase nainte de urmatoarea ex-
tragere). Notam cu 1 extragerea unei bile albe din urna si cu 0 extragerea unei bile negre, si deci populatia este n
acest caz descrisa de variabila aleatoare avnd functia de probabilitate

=1
(1 )1 = 0 1
( ) = ( = ) = 1 = 0 =
0 n rest
0 n rest

Daca 1 sunt valorile observate ale variabilelor aleatoare 1 ale selectiei, atunci functia de
verosimilitate este
Y 1



=1
() = (1 ) = =1 (1 )
=1

Sa observam ca deoarece functia logaritm este o functie strict crescatoare, functia () si atinge maximul n
acelasi punct cu functia ln (), si determinam n continuare punctul n care functia ln () si atinge valoarea
maxima.
Punctele critice ale functiei ln () sunt date de ecuatia

! !
ln () X X
= 0 ln + ln (1 ) = 0
=1 =1


!
1X 1 X
= 0
=1 1 =1

X
X
(1 ) + = 0
=1 =1
P
=1
= =

Este usor de observat ca aceasta valoare a lui este un punct de maxim al functiei ln () (si deci si al functiei
de verosimilitate ()), si deci estimatorul de verosimilitate maxima este dat de
P

(1 ) = =1 =

n mod similar calculului din exemplul anterior, n general functiile () si ln () si ating maximul n acelasi
punct . Pentru a determina deci punctul de maxim al functiei de verosimilitate () determin am punctul de
maxim al functiei ln (). Dac
a aceast
a functie este derivabil
a, atunci punctul de maxim este un punct critic, si
deci verific
a ecuatia
X
ln () ln ( )
= 0 = 0 (55)
=1

numit
a ecuatia verosimilit
atii maxime.

52
Exemplul 7.4 Sa se determine parametrul al distributiei Poisson a unei populatii folosind o selectie de volum
din aceasta populatie.
Fie 1 sunt valorile observate ale unei selectii 1 din populatia . Deoarece functia de proba-
bilitate este n acest caz

( ) = ( = ) = {0 1 2 }
!
ecuatia verosimilitatii maxime devine

X
ln () ln ( )
= 0 =0
=1

X

( + ln ln ( !)) = 0
=1


X
1 + =0
=1


1X
+ = 0
=1
P

= =1 =

Obtinem deci estimatorul de verosimilitate maxima
P
(1 ) = =1
=

Are loc urm
atoarea:

Teorema 7.5 Daca exista o estimatie eficienta a parametrului necunoscut , atunci ea coincide cu cu estimatia
de verosimilitate maxima .

Demonstratie. Conform Teoremei 6.5, exist

a un estimator eficient al lui dac
a si numai dac
a densitatea ( )
a populatiei se poate scrie sub forma

ln ( ) = 0 () ( () ) + () + ()

si n acest caz un estimator eficient al lui este dat de

P
=1 ( )
(1 ) =

Ecuatia verosimilit
atii maxime devine n acest caz

X
ln () ln ( )
= 0 =0
=1


X
(00 () ( ( ) ) 0 () + 0 ()) = 0
=1
P
=1 ( )
=

si deci estimatorul de verosimilitate maxim
a
P
(1 ) = =1 ( )

coincide cu estimatorul eficient (1 ).
Se poate demonstra urm atoarea:

53
Teorema 7.6 Daca exista o estimatie suficienta a parametrului necunoscut , atunciorice estimatie de verosimil-
itate maxima
este o anumita functie de (adica (1 ) = (1 ) ).

Ca o alt
a aplicatie a metodei verosimilit
atii maxime, consider
am urmatorul exemplu.

Exemplul 7.7 Sa se estimeze parametrii distributiei normale N 2 folosind metoda verosimilitatii maxime.

n general,pentru valori mari ale volumului selectiei, metoda verosimilit atii maxime produce un estimator aprox-
imativ corect si eficient, ce are o distributie aproximativ
normal a . Exemplul anterior arat a c
a estimatorul de
verosimilitate maxim c 2 2
a a lui este verific c2 1 2 2
a = , si deci este un estimator aproximativ corect.
O alta proprietate a metodei verosimilit atii maxime este c
a daca b1 b sunt estimatori de verosimilitate
max-
ima a parametrilor 1 , atunci estimatorul de verosimilitate maxim a pentru (1 ) este b1 b .
n exemplul anterior am obtinut
P
= 1 =1 si c2 = 1 P 2 , si deci un estimator de verosimilitate

=1
p q
c P 2
maxim a pentru abaterea p atratic 2
a medie = este dat de b = = 1 =1 .
2

54