Cap3 Procese Aleatoare

Capitolul 3.
Procese aleatoare
Thursday, October 28, 2010 1

Cuprins
 Proprietăţi ale proceselor aleatoare
 Răspunsul SDLIT la procese aleatoare
 Modelarea proceselor aleatoare
2 Capitolul 3. Procese aleatoare

Procese aleatoare
x : → 
 x(n) sunt variabile aleatoare din cadrul procesului
Realizări diferite ale

procesului aleator X(n)

Densitatea de probabilitate
 Densitatea de probabilitate a lui x(n): wx(n)(x)
 Densitatea de probabilitate a unei perechi de variabile

Densitatea de probabilitate (2)
 Procese independente:
 Pentru o funcţie de x(n): f(x(n))
 E{f(x(n))} este valoarea medie statistică a lui f(x(n))

 Valoarea medie a procesului x(n):

Funcţia de intercorelaţie
 Cât de bine “seamănă” x(n) şi y(m)?
 Produsul de intercorelaţie:
 Procese independente:

Funcţia de corelaţie / covarianţă
 Funcţia de covarianţă = funcţia de intercorelaţie a
proceselor centrate
 Dacă => procese necorelate

 Procese independente => procese necorelate
 Reciproca nu este valabilă întotdeauna!

Procese necorelate - exemplu
 Fie z(n) şi s(n) două procese aleatoare necorelate
 Definim alte două procese:
 Procesele x şi y sunt tot necorelate!!

 Funcţia de intercorelaţie:
 Funcţia de covarianţă:
 Funcţia de covarianţă (nu cea de intercorelaţie) măsoară
de fapt corelaţia între două procese aleatoare
 Dacă => procese ortogonale

Funcţia de autocorelaţie
 Pentru cazul x = y => funcţia de autocorelaţie
 Funcţia de autocovarianţă:
 Cele două funcţii ne arată cât de bine “seamănă” porţiuni

diferite în timp ale aceluiaşi proces aleator.
 Procese ortogonale =>
 Procese necorelate =>

Procese aleatoare staţionare
 Proces nestaţionar
 Nestaţionar => proprietăţile statistice variază în timp

 Staţionar => proprietăţile statistice sunt independente în
timp

Procese aleatoare staţionare (2)
 Procese staţionare de ordinul 1:
 Procese staţionare de ordinul II:
 La un proces staţionar de ordin II, funcţia de autocorelaţie

depinde doar de diferenţa dintre momentele de timp
 Staţionaritate în sens larg (SSL): momentele de ordin I şi II

 Staţionaritate în sens strict (SSS): momentele de orice ordin

 Funcţia de intercorelaţie:
 Funcţia de autocorelaţie:
 Funcţia de autocorelaţie este conjugat-simetrică

 Funcţia de covarianţă:
 Funcţia de autocovarianţă:
 Valoarea medie pătratică a semnalului:
 Varianţa semnalului: = dispersia

Semnificaţia funcţiei de autocovarianţă
 arată cât de bine seamănă cu
seamănă cel mai bine cu

seamănă bine cu
este puţin corelat cu

este necorelat cu

Funcţia de autocovarianţă - exemplu
Semnal aleator lent variabil în timp
Semnal aleator rapid variabil în timp
Semnal aleator necorelat

=> Zgomot alb

Procese aleatoare ergodice
=> ergodic în medie

Procese aleatoare ergodice (2)
 Variaţia erorii cu N:
Media
Eroarea
temporală
Eroarea în dB

Estimatorul funcţiei de autocorelaţie
 Dacă
 Procesul este ergodic în autocorelaţie
 În acest caz, valoarea medie pătratică = puterea medie:
Puterea componentelor variabile / aleatoare Puterea componentei fixe / deterministe

Densitatea spectrală de putere
 Definiţie:
 Domeniul de convergenţă:
Tema
 Pentru semnale reale:
 Dacă
 Dacă

Densitatea spectrală de putere (2)
 Dacă
Relaţiile Wiener
- Hincin
 Puterea medie:
Puterea semnalului se obţine integrând peste

densitatea spectrală de putere în toată banda

Exemplu: Zgomotul alb de medie nulă
 Oricare două eşantioane diferite sunt necorelate
 Densitatea spectrală de putere:
 Puterea medie:

Exemplu: Zgomotul alb de medie nenulă
Tema
 Puterea medie:

Densitatea spectrală a proceselor aleatoare
de medie nenulă
 În acest caz:
 În frecvenţă, apar impulsuri Dirac

Exemplu (2)
Tema
dacă

Matricea de autocorelaţie
 Introducem seria trunchiată a unui proces SSL:
 Operatorul hermitic:
 Matricea de autocorelaţie:
 Elementul de pe linia i, coloana j
 Elementele de pe diagonala principală:

Matricea de autocorelaţie (2)
Matrice Toeplitz
Matrice hermitică

 Pozitiv semidefinită:
 Matricea vectorului inversat:
 Matricea extinsă:

 Reprezentarea cu ajutorul valorilor şi vectorilor proprii
Pozitiv semidefinită: Tema
Vectorii proprii corespunzători valorilor Tema

proprii diferite formează o bază.

 Matricele vectorilor şi valorilor proprii
Tema
 Numărul condiţional al matricei de autocorelaţie
Valori mari => rău condiţionată
 Valorile proprii sunt mărginite de d.s.p:

Exemplu
 Zgomot alb
 Sinusoidă complexă Bandă largă
Bandă infinit
îngustă

Exemplu (2)
 Sinusoidă complexă însumată cu zgomot
Semnale independente
Cu cât partea aleatoare este mai

puternică, numărul condiţionat
este mai aproape de 1

Răspunsul SDLIT la procese aleatoare
Încă valabilă, dar...
1. Nu suntem siguri că
există X(z)
2. Analiza spectrală se face
acum cu d.s.p.
3. Nu ne foloseşte la
nimic...

Răspunsul SDLIT la procese aleatoare (2)

Puterea medie la ieşirea SDLIT
(medie nulă)
 Exemplu: Zgomot alb filtrat

Exemplu
 Zgomot alb filtrat de FTJ – simulare pe 216 eşantioane
Nefiltrat ft=0.25 ft=0.125
Un sfert de bandă, un
Jumătate de bandă, sfert de energie
jumătate de energie
Eşantioane Eşantioane mai

corelate corelate

Exemplu (2)
 Estimarea valorilor proprii pentru R10
Nefiltrat ft=0.25 ft=0.125
Erori de
măsură
0.9934 0.0000 0.0000
0.9967 0.0001 0.0000
0.9978 0.0024 0.0000
0.9989 0.0313 0.0000
0.9996 0.2072 0.0004
1.0010 0.6132 0.0069
1.0026 0.9155 0.0737
1.0059 0.9954 0.3765
1.0076 0.9983 0.8130
1.0085 1.0003 0.9879

Filtrarea FIR – scriere matriceală

Factorizarea spectrală
 Proces regulat – proces de medie nulă pentru care ln(Pxx(z))
este convergentă într-o coroană circulară
 Densitatea spectrală de putere se poate scrie:
 Orice proces regulat poate fi obţinut prin trecerea unui

zgomot alb printr-un filtru cu funcţia de transfer Q(z)
Filtru de albire

Procese predictibile
 Procese aleatoare ale căror eşantioane pot fi perfect
determinate din eşantioanele anterioare, prin intermediul
unei filtrări
 Densitatea spectrală de putere este formată din impulsuri

Dirac
 Orice proces aleator SSL este compus dintr-un proces

regulat şi unul predictibil (Teorema Wold)
 Orice proces SSL poate fi determinat din eşantioanele
anterioare în limita unui proces regulat (zgomot)

Estimatori statistici
 Nevoia de a estima parametri ai un proces aleator (medie,
varianţă, autocorelaţie etc.)
 Parametrii statistici necesită medierea peste toate realizările
posibile ale procesului
 În practică, deţinem o singură realizare, cea aflată în desfăşurare
 Dacă procesul este ergodic => putem înlocui media statistică cu
cea temporală
 Pentru media temporală, este nevoie de o prelucrare a tuturor
eşantioanelor realizării
 În realitate se utilizează un set finit de eşantioane în vederea
prelucrării în timp real (estimatori pe termen scurt)
 Erori de estimare

Estimatori statistici pe termen scurt
 Setul de observaţii:
 Densitatea de probabilitate:
 Parametrul de estimat:
 Parametrul estimat:

Performanţele estimatorilor
 Deplasarea:
 Estimator nedeplasat:
 Estimator asimptotic nedeplasat:
 Eroarea medie pătratică: =>estimator MMSE
 Varianţa:
 Funcţia de plauzibilitate (likelihood function):
 Funcţia de plauzibilitate în domeniu logaritmic (loglikelihood

function):

Performanţele estimatorilor (2)
 Estimatorul de maximă plauzibilitate (ML – Maximum
Likelihood):
 Informaţia parametrului în sens Fischer:
 Marginea Cramer-Rao pentru estimatori nedeplasaţi:
 Dacă marginea este atinsă => estimator de varianţă minimă

(estimator eficient)
 Estimator MMSE:

Estimarea ML a mediei
 Proces aleator Gaussian
 Set de valori independente:

 Densitatea de probabilitate a vectorului de valori:
 Funcţia de plauzibilitate:
 Estimatul ML:

Estimarea ML a mediei (2)
 Deplasare:
 Estimator nedeplasat
 Varianţa:
 Informaţia în sens Fischer:
 Estimator de varianţă minimă (atinge marginea Cramer-

Rao)

Estimarea ML a varianţei
 Funcţia de plauzibilitate:
 Estimatul ML:
 Estimator deplasat, dar asimptotic nedeplasat:

Tema
 Varianta nedeplasată: Ce dezavantaj are?

Estimatori pe termen scurt
 Setul de observaţii:
 Densitatea de probabilitate este irelevantă
 Parametrul de estimat:
 Parametrul estimat:
 Estimarea parametrilor se poate extinde şi la mărimi
statistice
 Estimarea parametrilor nu se bazează numai pe estimarea

exclusivă a operatorului de mediere statistică
 ...dar este cea mai simplă formă de estimare

Estimatori pe termen scurt
 Estimarea nu se face pe considerente statistice
 Se decupează din semnal un cadru de lungime N

Estimatori pe termen scurt (2)
 Metoda 1: trunchiere + aplicarea operatorului
 Metoda 2: aplicarea operatorului + trunchiere

Estimarea funcţiei de autocorelaţie
 Estimatorul 1: metoda 1
 Hint: calculăm numai pentru k>=0:
Mediere pe N termeni Nu există mediere!

 Estimator deplasat, dar asimptotic nedeplasat Normare incorectă
 Ineficient la valori mari ale lui k

Estimarea funcţiei de autocorelaţie (2)
 Eliminarea decalajului:
 Estimatorul 2 este nedeplasat

 Estimatorul 2 are probleme mai mari pentru valori mari
ale lui k decât estimatorul 1
 Varianţa estimatorului este mare pentru k mare
 În plus, la aceste valori împărţirea se face cu o valoare mică,N-k
 La valori mici ale lui k
 Performanţele sunt identice cu ale estimatorului 1
 Volumul de calcul este mai mare (împărţirea cu N-k)

Estimarea funcţiei de autocorelaţie (3)
 Estimatorul 3: metoda 2
 Estimator nedeplasat
 La valori mici ale lui k => performanţe identice cu estimatorii
1,2
 La valori mari => performanţe net superioare
 Prelucrările nu se fac mereu în acelaşi cadru
 Complexitate mai ridicată
 Capacitatea de stocare mai mare

Utilizarea estimatorilor
 => estimatorul 1
 Complexitate minimă, performanţe identice
 Estimator nedeplasat cu utilizarea eşantioanelor din cadrul
curent
 Varianţa cea mai mică

Modelarea proceselor aleatoare
 Conform factorizării spectrale, procesele regulate pot
rezulta ca ieşire a unui sistem, la intrarea căruia se aplică
zgomot alb
 Procese ARMA(M,N) – autoregresive cu mediere mobilă
Dacă filtrul este stabil


Modelarea proceselor aleatoare (2)
 Forme particulare
 AR(N)
 MA(M)
 În practică se doreşte de multe ori estimarea parametrilor

de model
 Dat fiind procesul x(n) => cât sunt ?
 Pentru aceasta trebuie mai întâi ştiut modelul: AR, MA, ARMA şi
ordinele acestora, M, N

Estimarea modelului
 Dacă d.s.p. are maxime ascuţite
 Poli apropiaţi de cercul unitate => AR(N)
 N este cu atât mai mare cu cât panta maximului este mai mare
 Dacă d.s.p. are minime pronunţate
 Zerouri apropiate de cercul unitate => MA(M)
 M este cu atât mai mare cu cât panta minimului este mai mare
 Dacă are şi minime, şi maxime
 ARMA (M, N)

Estimarea parametrilor de model
 Dacă se cunoaşte funcţia de autocorelaţie, se pot afla
parametrii de model

Estimarea parametrilor de model (2)
 Se formează sistemul de ecuaţii Yule-Walker:
 În practică, se folosesc estimatori pentru rxx

Neliniaritate
MA(M)
AR(N)

Cap3 Procese Aleatoare

Încărcat de

Informații document

Titlu original

Drepturi de autor

Formate disponibile

Partajați acest document

Partajați sau inserați document

Opțiuni de partajare

Vi se pare util acest document?

Este necorespunzător acest conținut?

Drepturi de autor:

Formate disponibile

Cap3 Procese Aleatoare

Încărcat de

Drepturi de autor:

Formate disponibile

Capitolul 3.

Thursday, October 28, 2010 1

2 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 2

Realizări diferite ale

3 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 3

 Densitatea de probabilitate a unei perechi de variabile

4 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 4

 Pentru o funcţie de x(n): f(x(n))

 E{f(x(n))} este valoarea medie statistică a lui f(x(n))

5 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 5

6 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 6

 Dacă => procese necorelate

7 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 7

 Definim alte două procese:

 Procesele x şi y sunt tot necorelate!!

8 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 8

 Cele două funcţii ne arată cât de bine “seamănă” porţiuni

9 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 9

 Nestaţionar => proprietăţile statistice variază în timp

Thursday, October 28, 2010 10

 Procese staţionare de ordinul II:

 La un proces staţionar de ordin II, funcţia de autocorelaţie

 Staţionaritate în sens larg (SSL): momentele de ordin I şi II

11 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 11

 Funcţia de autocorelaţie este conjugat-simetrică

12 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 12

 Valoarea medie pătratică a semnalului:

 Varianţa semnalului: = dispersia

13 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 13

seamănă cel mai bine cu

este puţin corelat cu

14 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 14

Semnal aleator lent variabil în timp

Semnal aleator rapid variabil în timp

Semnal aleator necorelat

15 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 15

=> ergodic în medie

16 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 16

17 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 17

Puterea componentelor variabile / aleatoare Puterea componentei fixe / deterministe

18 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 18

 Pentru semnale reale:

19 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 19

Puterea semnalului se obţine integrând peste

20 Capitolul 3. Procese aleatoare

Thursday, October 28, 2010 20