DEPI, Curs 13.

Estimarea parametrilor unui semnal 2018, III C

Capitolul 6. Teoria estimării

6.5. Estimarea parametrilor unui semnal aleator

Fie semnalul transmis:

x(t ) A cos(2 f0 t ), 0 t T ,
ce poate fi considerat ca fiind un semnal QPSK, unde fazele φi sunt purtătoare de informaţie.

Emiţător x(t) y(t)

Bloc decalaj decalaj intarziere
modulaţie fază Δφ frecvenţă Δf in timp Δt

Canal real n(t)

Figura 6.1. Schema generală a unui canal de comunicaţie real.

Pe lângă zgomotul aditiv n(t ) şi/sau filtrare, canalele de comunicații reale mai adaugă
semnalului util şi parametri nedoriţi, precum (vezi figura 6.1):
➢ un decalaj de fază Δφ,
➢ un decalaj de fecvenţă Δf,
➢ o întârziere în timp Δt.
Astfel, semnalul recepţionat se poate scrie:
y(t ) A cos 2 ( f 0 f )(t t) ( ) n(t ) .

Scopul estimării: Majoritatea receptoarelor încearcă mai întâi să îndepărteze efectele

decalajelor, pentru a rămâne cu semnalul original afectat doar de zgomotul aditiv.
Scopul deciziei: Folosind demodulatoare, se detectează semnalul în prezenţa zgomotului şi se
ia decizia asupra mesajului transmis.
Modul în care receptorul estimează parametrii introduşi de canal, Δφ, Δf, Δt şi orice alţi
parametri necunoscuţi, pentru a-i elimina din semnalul recepţionat, reprezintă o problemă de
estimare.

6.6. Estimarea unui parametru pe baza observaţiilor discrete

Fie semnalul recepţionat y (t ) , care conţine un parametru aleator θ, modelat ca o variabilă

aleatoare cu f.d.p. p(θ):
y (t ) x(t , ) n(t ), 0 t T.
Se doreşte găsirea unui mod de estimare a parametrului θ din semnalul cunoscut y(t).
Orice semnal poate fi reprezentat într-o bază ortonormată, adică poate fi descris printr-un
vector semnal folosind un set de N funcţii de bază ortonormate {1 (t ), 2 (t ),..., N (t )} . Astfel,
relatia canalului se scrie
y = x+n

1
DEPI, Curs 13. Estimarea parametrilor unui semnal 2018, III C

unde
• y ( y1 , y2 ,..., yN )
yi y (t ) i (t )dt ,
• vectorul n (n1 , n2 ,..., nN ) reprezintă semnalul zgomot n(t),
Dat fiind y, se doreşte estimarea variabilei aleatoare θ nu doar pentru exemplul de ecuaţii de
mai sus, ci pentru orice vector y care conţine o variabilă aleatoare θ.
Pentru a soluţiona această problemă, presupunem cunoscute:
➢ p(y ) : valorile componentelor vectorului observaţie y depinzând de:
• valoarea variabilei aleatoare θ,
• valoarea semnalului transmis,
• valoarea aleatoare a zgomotului.
Pentru o valoare dată a variabilei θ, y devine un vector aleator dependent doar de semnal şi
zgomot, printr-o funcţie densitate de probabilitate notată cu p(y ) , funcţie necesară a fi
cunoscută sau evaluată în prealabil.
➢ p(θ): f.d.p. a v.a. θ, necesară de asemenea în procesul de estimare.
➢ p(y): f.d.p. a vectorului aleator observat y. Cunoaşterea acestei funcţii este necesară numai
în anumite situaţii.

6.6.1. Estimarea parametrului aleator θ folosind criteriul minimizării erorii medii

pătratice (EMPM)

2
Pentru funcţia de cost eroare pătratică, CEP ( ) , valoarea riscului este definită ca:

REP E CEP ( ) E( ˆ )2 ( ˆ ) 2 p( , y) dyd ,

unde Δ este domeniul în care vectorul observat y ia valori. Expresia riscului se mai poate scrie:

REP ( ˆ )2 p( | y ) p(y ) dyd p(y ) ( ˆ ) 2 p( | y )d dy ,

Valoarea minimă a riscului se obţine minimizând în funcţie de ˆ cea de a doua integrală notată:

I ( ˆ, y) ( ˆ ) 2 p( | y ) d .

Minimul se obţine în punctul de anulare a derivatei:

I ( ˆ, y) 0,
ˆ
de unde:

I ( ˆ, y) 2ˆ p( | y ) d 2 p( | y ) d 0.
ˆ
Deoarece prima integrală este unitară:

p( | y ) d 1,

estimatorul Eroare Medie Pătratică Minimă (EMPM) poate fi scris ca:

ˆ p( | y ) d .
EMPM

2
DEPI, Curs 13. Estimarea parametrilor unui semnal 2018, III C

Deci, în cazul criteriului erorii medii pătratice minime, estimatul este media condiţionată de
vectorul semnal observat y.
În unele cazuri practice, când p( | y ) este greu de calculat, se poate aplica relaţia lui Bayes şi
apoi descompunerea f.d.p. p(y) funcţie de f.d.p. marginală p(y | ) , obţinând:

p(y | ) p( ) d p( y | ) p( ) d
ˆ p( | y ) d
EMPM
p(y )
p(y | ) p( ) d

6.6.2. Estimarea parametrului aleator θ folosind criteriul maximizării probabilităţii

aposteriori (MAP)

Funcţia de cost uniformă asociata erorii de estimare ˆ este:

0, | |
CUNIF ( ) ,
1, | |
Riscul asociat functiei este:
RUNIF E CUNIF ( , ˆ ) p(y ) p( | y)d dy ,
| ˆ|

sau modificând domeniul de integrare pentru a doua integrală:

ˆ

RUNIF p(y ) 1 p( | y )d dy .
ˆ

Pentru a minimiza riscul, trebuie să se maximizează integrala:

ˆ

I ( ˆ, y) p( | y )d .
ˆ

Considerând δ arbitrar de mic, integrala poate fi scrisă aproximativ:

I ( ˆ, y) p( | y ) ,
iar maximul lui I ( ˆ, y) este dat de maximul probabilităţii aposteriori p( | y ) .

Valoarea care maximizează p( | y ) se numeşte estimatorul Maxim A Posteriori (MAP) şi se

notează:
MAP arg max p( | y ) .
Valoarea lui θ pentru care se obţine maximul lui p( | y ) este dată de ecuaţia:

p( | y ) 0.
ˆ
MAP

Deoarece în practică p( | y ) are o formă exponenţială, este mai convenabil să găsim maximul
funcţiei ln p( | y ) care are loc pentru aceeaşi valoare a parametrului MAP ca şi pentru
funcţia p( | y ) .

ln p( | y ) 0
ˆ
MAP

3
DEPI, Curs 13. Estimarea parametrilor unui semnal 2018, III C

Deoarece f.d.p. p( | y ) este greu de calculat, facem transformarea conform relaţiilor Bayes:
p(y | ) p( )
MAP arg max p( | y) arg max ,
p(y )
şi deoarece f.d.p. p(y) este independentă de parametrul θ, aceasta poate fi neglijată:
MAP arg max p(y | ) p( ) ,
sau
p(y ) p( ) 0. (*)
MAP

Analog, putem logaritma şi relaţia (*), obţinând:

ln p(y ) p( ) 0
MAP

Această ultimă ecuaţie se poate descompune în:

ln p(y ) ln p( ) 0
MAP MAP

În cazul gaussian, f.d.p. condiţionată p( | y ) este simetrică în jurul valorii maxime pentru care

MAP . În acest caz, media condiţionată p( | y ) d este tocmai valoarea cea mai probabilă,

respectiv ˆ EMPM ˆ MAP , adică estimatorul pe baza regulii maxim aposteriori este egal cu
estimatorul pe baza criteriului erorii medii pătratice minime.

6.6.3. Estimarea parametrului determinist θ folosind criteriul maximizării funcţiei de

plauzibilitate (MP)

Anterior am estimat unul sau mai mulţi parametri care erau v.a. În realitate, mai sunt cazuri
când variabilele pe care dorim să le estimăm nu sunt v.a. ci valori deterministe sau parametri. În
acest caz, nu mai putem vorbi de f.d.p. şi metodele anterioare nu mai pot fi aplicate.
Să presupunem că estimăm parametrul θ ca o funcţie g(y), unde y este vectorul de observaţii.
Observaţiile y pot fi aleatoare şi oarecum legate de θ; atunci putem scrie că
g (y ) .
Estimatorul este o variabilă aleatoare deoarece depinde de vectorul aleator y, care la rândul
lui depinde de vectorul zgomot n.
Regula Maxim Plauzibil (MP) descrie un estimator, dar nu zice nimic despre deplasarea sau
varianţa acestuia. Oricum, dacă estimatorul MP este nedeplasat el va avea cea mai mică varianţă
dintre toţi estimatorii, ceea ce afirmă alegerea noastră pentru acest estimat.
Estimatorul maxim plauzibil MP al unui parametru nealeator θ în funcţie de v.a.
observată Y este definit ca valoarea lui θ care maximizează funcţia de plauzibilitate p(Y | ) .
Funcţia de plauzibilitate p(Y | ) este definită ca o f.d.p. pentru observaţia Y în funcţie de
parametrul nealeator θ, ce poate fi şi un vector. Matematic, putem scrie:
MP arg max p Y | .
Extinzând acest concept asupra observaţiilor multiple, estimatorul maxim plauzibil pentru
un parametru nealeator în funcţie de vectorul de observaţii y este definit ca valoarea θ ce
maximizează funcţia de plauzibilitate p y | :

4
DEPI, Curs 13. Estimarea parametrilor unui semnal 2018, III C

MP arg max p y | .
Mai mult, dacă avem observaţii multiple şi dacă estimăm un vector de parametri,
 =  1 , 2 ,..., M  , atunci estimatorul maxim plauzibil al lui  este dat de:
ˆ arg max p y | .
MP

Valoarea lui θ pentru care se obţine maximul lui p(y | ) este dată de ecuaţia:

p(y | ) 0.
ˆ
MP

6.7. Estimarea unui parametru pe baza observaţiilor continue

Fie semnalul aleator y (t ) de la ieşirea canalului de comunicaţie, observat continuu în timp:

y (t ) = x(t , ) + n(t ), 0  t  T ,
unde:
• semnalul transmis x(t,θ) are durată T şi energie E;
• n(t) este un zgomot gaussian de medie 0 şi dispersie 2N .
Pe baza semnalului observat y (t ) vrem să estimăm parametrul θ, astfel:
• dacă θ este un parametru aleator cu f.d.p. cunoscută, atunci putem utiliza regulile MAP şi
EMPM;
• dacă θ este un parametru determinist necunoscut, atunci vom utiliza regula MP.
În continuare, vom considera un alt semnal s(t), de energie unitară, pentru care există relaţia:
x(t , ) E s(t , ) .
Pentru modulaţia în amplitudine semnalul devine s(t ) iar semnalul recepţionat şi observat
este:
y t E s t n t , 0 t T.
Dacă reprezentăm semnalele sub formă vectorială într-un spaţiu N-dimensional, atunci
semnalul recepţionat poate fi scris în funcţie de sistemul ortonormat de funcţii de bază {φi(t)}:
N
y (t ) l.i.m. yi i (t ) ,
N
i 1
unde:
T

yi y (t ) i (t )dt .
0
reprezintă coordonata semnalului recepţionat y(t) pe direcţia φi(t) şi în intervalul [0,T].
Dacă alegem coordonata φ1(t) astfel încât semnalul y(t) să poată fi descompus numai pe această
direcţie, adică 1 (t ) s(t ) , atunci coordonatele φ2(t), φ3(t), …, φN(t) nu mai intervin în
reprezentarea semnalului y(t), iar relaţia anterioară devine:
T

y1 y (t ) s (t )dt .
0
Este uşor de verificat că coeficienţii semnalului reprezentat în funcţie de o altă bază
ortonormată, nu depind de θ.
Astfel, problema estimării unui semnal observat continuu în timp se reduce la problema clasică
de estimare printr-un număr finit de observaţii.

5
DEPI, Curs 13. Estimarea parametrilor unui semnal 2018, III C

6.7.1. Estimarea parametrului aleator θ, folosind regula MAP şi observaţii continue

Dacă estimarea se face pe baza funcţiei de cost eroare uniformă, CUNIF, valoarea estimatorului
MAP pentru v.a. θ se poate determina din relația:

ln p( y1 | ) ln p( ) 0. (**)
ˆ ˆ
MAP MAP

Dacă zgomotul n(t) de pe canalul de comunicație este cu distribuție gaussiană de medie 0 şi

dispersie  2n , atunci coordonata y1 se poate scrie:
T T T T
2
y1 y (t )s(t )dt E s (t ) n(t ) s (t )dt E s (t )dt n(t )s (t )dt .
0 0 0 0
Prima integrală reprezintă chiar energia semnalului s(t), ce este unitară. Astfel, scriem:
T

y1 E , unde am notat n(t ) s(t )dt .

0

Pentru a determina funcţia densitate de probabilitate p ( y1 |  ) , trebuie să precizăm:

a) media componentei y1:
y1 =  E ,
în condiţiile în care parametrul aleator are o valoare θ, iar media lui ρ este nulă deoarece
zgomotul n(t) este necorelat cu semnalul;
b) dispersia componentei y1:

( ) = ( )
2 2
2y1 = y1 − y1 E +− E = 2 = 2n .
Astfel, datorită zgomotului cu distribuţie gaussiană, componenta y1 va fi caracterizat tot de o
distribuţie gaussiană de medie y1 şi dispersie  2y1 :
 y −y 2
(  y − E
) ( ) 
2
1 1
p ( y1 |  ) =   exp  − .
1 1 1
exp − =
22y1  2 y1 
2
22n  2n2 
 
   
2
Dacă parametrul aleator θ are o distribuţie gaussiană de medie 0 şi dispersie , atunci:
2
1
p exp 2
.
2 2 2
Astfel, relaţia (**) se poate scrie:
2
1 y1 E 1 2
ln 2
ln 2
0.
2 2
n
2 n 2 2 2
ˆ
ˆ MAP
MAP

Derivând în raport cu θ și înlocuind pe θ cu ˆ MAP , obţinem:

E y1 E ˆ MAP ˆ MAP
2 2
0.
n

În final, obţinem estimatorul MAP pentru parametrul aleator θ:

T
ˆ E E
MAP 2
y1 2
y (t ) s(t )dt .
E n
2
E n
2
0

6
DEPI, Curs 13. Estimarea parametrilor unui semnal 2018, III C

6.7.2. Estimarea parametrului determinist necunoscut θ, folosind regula MP şi

observaţii continue

În acest caz, estimatul este egal cu valoarea parametrului θ care maximizează funcţia de
plauzibilitate p( y1 | ) :

p y1 | 0 , respectiv ln p y1 | 0.
ˆ ˆ
MP MP

Din cauza zgomotului gaussian cu valoare medie nulă şi dispersie  2n , funcţia de plauzibilitate
are distribuţie gaussiană:
2
1 y1 E
p y1 | exp 2 .
2 2
n
2 n

Logaritmând funcţia de plauzibilitate şi egalând derivata cu zero, obţinem:

E y1 E ˆ MP
2
0
n

de unde rezultă estimatorul maxim plauzibil (MP) pentru parametrul θ:

T
ˆ 1 1
MP y1 y (t )s(t )dt .
E E 0

T
ˆ E E
MAP 2
y1 2
y (t ) s(t )dt
E n
2
E n
2
0

Schema receptorului care efectuează estimarea parametrului θ este ilustrată în Fig. 6.4 pentru
cele două cazuri, MAP și MP. Se observă că diferenţa constă doar în valoarea amplificării etajului
final.

1
MP E ˆ
MP
y(t) T y1
 0
dt K

E
s(t) MAP 2
E n
2
ˆ
MAP

Figura 6.4. Schema receptorului care realizează estimarea liniară.