Sunteți pe pagina 1din 179

Mihai Ciuc

Constantin Vertan

˘

PRELUCRAREA STATISTIC A A

SEMNALELOR

4

3

2

1

0

−1

−2

−3

4

3

2

1

0

−1

−2

−3

3

2

1

0

−1

−2

0 −1 −2 −3 4 3 2 1 0 −1 −2 −3 3 2 1 0
0 20 40 60 80 100 120 140 160 180 200 0 20 40 60
0
20
40
60
80
100
120
140
160
180
200
0
20
40
60
80
100
120
140
160
180
200
0 20 40 60 80 100 120 140 160 180 200
0
20
40
60
80
100
120
140
160
180
200

Editura MatrixRom

2005

Cuvˆant ˆınainte

Aceast˘a lucrare reprezint˘a baza cursului de Teoria transmisiunii informat¸iei 2, curs de

tradit¸ie al Facult˘at¸ii de Electronic˘a, Telecomunicat¸ii ¸si Tehnologia Informat¸iei din Uni- versitatea “Politehnica” Bucure¸sti, obligatoriu pentru tot¸i student¸ii anului III, indiferent de specializarea pe care o urmeaz˘a. Structura prezent˘arii urm˘are¸ste, deci, fidel structura cursului, ale c˘arui baze au fost puse de domnul profesor Alexandru Sp˘ataru ¸si sunt expuse ˆın lucrarea [2].

ˆ

In plus, se presupune c˘a cititorii sunt deja familiarizat¸i cu o serie de not¸iuni (precum al- gebr˘a liniar˘a, integrale multidimensionale, analiz˘a Fourier, teoria sistemelor liniare, teoria informat¸iei) care sunt dobˆandite la cursurile urmate ˆın primii doi ani de studiu (Algebr˘a liniar˘a, Analiz˘a, Matematici speciale, Semnale, circuite ¸si sisteme, Teoria Transmisiunii Informat¸iei 1). De asemenea, se presupune c˘a cititorii sunt familiarizat¸i cu not¸iunea de probabilitate, (not¸iune esent¸ial˘a pentru aceast˘a lucrare) despre care sunt doar reamintite pe scurt elementele de baz˘a. Dorim s˘a mult¸umim D-lui Vasile Buzuloiu, profesor la Catedra de Electronic˘a Apli- cat˘a ¸si Ingineria Informat¸iei a Facult˘at¸ii de Electronic˘a, Telecomunicat¸ii ¸si Tehnologia Informat¸iei. Prezent¸a continu˘a a Domniei Sale al˘aturi de noi de-a lungul ultimilor zece ani a contribuit esent¸ial la formarea noastr˘a (¸stiint¸ific˘a ¸si uman˘a) astfel ˆıncˆat contribut¸ia Domniei Sale la aceast˘a lucrare este cu mult mai important˘a decˆat ajutorul direct dat la redactarea ¸si revizuirea ei. De asemenea, dorim s˘a mult¸umim D-rei Lavinia Dˆarlea ¸si D-lui Bogdan Ionescu, doc- toranzi la Laboratorul de Analiza ¸si Prelucrarea Imaginilor, care au avut bun˘avoint¸a ¸si

r˘abdarea de a parcurge minut¸ios materialul, ajutˆand, astfel, substant¸ial la ˆımbun˘at˘at¸irea formei lui.

Aprilie 2005,

i

Autorii

ii

Cuprins

1 Introducere

1

2 Not¸iuni de teoria probabilit˘at¸ii

 

3

2.1 Introducere

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

3

2.2 Axiomele probabilit˘at¸ii

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

4

2.3 Cˆamp de evenimente

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

6

2.4 Probabilit˘at¸i condit¸ionate. Evenimente independente

.

.

.

.

.

.

.

.

.

.

.

.

7

3 Variabile aleatoare

 

9

3.1 Introducere

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

9

3.2 Evenimente generate de variabile aleatoare

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

10

3.3 Funct¸ia de repartit¸ie

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

11

3.4 Densitatea de probabilitate .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

12

3.5 Distribut¸ii condit¸ionate .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

15

3.6 Momente .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

16

3.7 Tipuri de distribut¸ii .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

18

3.7.1 Distribut¸ia uniform˘a

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

19

3.7.2 Distribut¸ia gaussian˘a (normal˘a)

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

20

3.7.3 Distribut¸ia Rayleigh

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

20

3.8 Funct¸ii de o variabil˘a aleatoare

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

20

3.9 Teorema de medie .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

29

4 Perechi de variabile aleatoare

 

31

4.1 Introducere

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

31

4.2 Funct¸ia de repartit¸ie de ordinul doi

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

31

4.3 Densitatea de probabilitate de ordinul doi

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

33

4.4 Distribut¸ii condit¸ionate .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

36

4.5 Variabile aleatoare independente .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

37

4.6 O funct¸ie de dou˘a variabile aleatoare. Teorema limit˘a

 

37

4.7 Teorema de medie .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

41

4.8 Momente .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

41

4.9 Dreapta de regresie

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

43

4.9.1

Coeficientul de corelat¸ie

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

46

 

iii

iv

CUPRINS

4.10

Distribut¸ia gaussian˘a de ordinul doi .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

47

5 Semnale aleatoare

 

49

5.1 Introducere

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

49

5.2 Caracterizarea statistic˘a a semnalelor aleatoare

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

49

 

5.2.1 Caracterizarea de ordinul unu a semnalelor aleatoare

.

.

.

.

.

.

.

.

50

5.2.2 Caracterizarea de ordinul doi a semnalelor aleatoare .

.

.

.

.

.

.

.

.

50

5.3 Semnale stat¸ionare

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

51

 

5.3.1 Stat¸ionaritate ˆın sens strict

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

51

5.3.2 Stat¸ionaritate ˆın sens larg

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

53

5.4 Propriet˘at¸ile funct¸iei de autocorelat¸ie

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

53

5.5 Funct¸ia de intercorelat¸ie

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

55

5.6 Semnale ergodice

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

55

 

5.6.1 Medii temporale ale semnalului

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

55

5.6.2 Ergodicitate ˆın sensul mediei ¸si ˆın sensul autocorelat¸iei

.

.

.

.

.

.

.

56

5.6.3 Teorema ergodicit˘at¸ii mediei .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

56

5.7 Densitatea spectral˘a de putere .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

60

5.8 Teorema Wiener–Hincin

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

63

5.9 Densitatea spectral˘a de putere de interact¸iune

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

66

5.10 Zgomotul alb

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

66

5.11 Trecerea semnalelor aleatoare prin filtre liniare

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

67

 

5.11.1 Sisteme liniare invariante ˆın timp

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

68

5.11.2 Relat¸ii ˆıntre m˘arimile statistice la trecerea prin filtre liniare

 

70

5.11.3 Trecerea semnalelor aleatoare prin FTJ ideal .

.

.

.

.

.

.

.

.

.

.

.

.

71

5.11.4 Trecerea semnalelor aleatoare prin FTB ideal

 

.

.

.

.

.

.

.

.

.

.

.

.

74

5.12 Filtrul adaptat la semnal .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

78

 

5.12.1

Maximizarea RSZ prin filtrare liniar˘a

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

80

6 Detect¸ia semnalelor

 

83

6.1 Introducere

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

83

6.2 Criteriul de decizie Bayes: cazul observat¸iilor discrete

.

.

.

.

.

.

.

.

.

.

.

.

85

 

6.2.1 Statistica suficient˘a .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

90

6.2.2 Criteriul Bayes pentru zgomot alb gaussian .

.

.

.

.

.

.

.

.

.

.

.

.

.

90

6.3 Criteriul Bayes: cazul observat¸iilor continue

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

93

 

6.3.1

Cazul zgomotului alb gaussian .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

95

7 Estimarea parametrilor

 

99

7.1 Introducere

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

99

7.2 Estimarea ˆın sensul costului mediu minim

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

100

 

7.2.1 Estimarea ˆın sensul funct¸iei de cost p˘atratul erorii .

.

.

.

.

.

.

.

.

.

101

7.2.2 Estimarea ˆın sensul funct¸iei de cost uniforme .

.

.

.

.

.

.

.

.

.

.

.

.

102

7.2.3 Estimarea unui parametru gaussian ˆın zgomot alb, gaussian

.

.

.

.

104

CUPRINS

v

7.2.4

Estimarea ˆın absent¸a unui model statistic a priori

 

.

.

.

.

.

.

.

.

.

.

109

7.3

Evaluarea calit˘at¸ii unui estimator

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

109

8 Semnale aleatoare ˆın timp discret

 

111

8.1 Introducere

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

111

8.2 Matricea de autocorelat¸ie .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

112

8.3 Modele stochastice

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

114

8.3.1 Modelul AR

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

115

8.3.2 Modelul MA

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

117

8.3.3 Modelul ARMA .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

117

8.3.4 Ecuat¸iile Yule–Walker

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

118

9 Filtrarea optimal˘a a semnalelor

 

123

9.1 Introducere

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

123

9.2 Principiul ortogonalit˘at¸ii

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

124

9.3 Ecuat¸iile Wiener–Hopf

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

125

9.3.1

Ecuat¸iile Wiener–Hopf pentru filtru de tip FIR

.

.

.

.

.

.

.

.

.

.

.

126

9.4 Aplicat¸ii ale filtr˘arii optimale a semnalelor

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

127

9.4.1 Atenuarea zgomotului

 

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

128

9.4.2 Predict¸ia .

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

.

129

10 Transformate unitare

 

133

10.1 Introducere

.

.

.