Curs 7

SEMNALE ALEATOARE
1 Noiunea de semnal aleator
Un semnal (proces) aleator este un semnal a crei evoluie n timp este supus hazardului.
Pentru a caracteriza proprietile statistice ale semnalelor aleatoare trebuie s introducem
noiunile de funcie de repartiie i densitate de probabilitate.
Fie N realizri ale unui semnal aleator (fig. 1). Presupunem c, printre acestea, sunt un
numr de n1 realizri care au la momentul t1 valori inferioare sau egale cu x1. Funcia repartiie
de ordinul nti se definete ca:
n1
N N

F1 x1 , t1 prob x t1 x1 lim

(1)

t1

t2

Fig.1 Realizarea unui semnal aleator

Cu ajutorul acestei funcii se definete densitatea de probabilitate de ordinul nti:

(2)

1 x1 , t1

F1 x1 , t1
x1

Funcia de repartiie de ordinul doi, considerat la momentele t1 i t2, este:

(3)

F2 x1 , t1; x2 , t2 prob x t1 x1; x t2 x2

Densitatea de probabilitate de ordinul doi este:

(4)

2 x1 , t1; x2 , t2

2 F2 x1 , t1; x2 , t2

x1x2

n acelai mod se definesc funcia repartiie de ordinul n i funcia densitate de probabilitate

de ordinul n:
Fn x1 , t1;...xn , tn prob x t1 x1;...x tn xn

(5)
(6)

n x1 , t1;...xn , tn

2 Clasificarea semnalelor aleatoare

n Fn x1, t1;...xn , tn
x1...xn

Putem clasifica semnalele aleatoare considernd trei criterii, enumerate n continuare.

1. Ordinul densitii de probabilitate, care descrie semnalul.
A. Semnal aleator pur, caracterizat de relaia:

n xn ; tn x1 , t1; x2 , t2 ;...xn 1, tn1 1 xn , tn , unde: t1 t2 K tn ,

(7)

adic realizarea xn la tn este independent de realizrile anterioare. Deoarece fiecare realizare este
independent, rezult:
n

n x1 , t1; x2 , t2 ;...xn , tn 1 xi , ti ,

(8)

i 1

ceea ce nseamn c densitatea de probabilitate de ordinul n poate fi calculat plecnd de la

densitatea de probabilitate de ordinul nti.
B. Proces Markov simplu, care este descris complet de densitatea de probabilitate de ordinul
doi. n acest caz:

n xn , tn x1, t1; x2 , t2 ;...xn 1, tn1 2 xn , tn xn1, tn 1

(9)

O bs er vaii :
Procesele aleatoare pure nu se ntlnesc niciodat n realitate. Semnalele aleatoare reale pot
fi considerate ca fiind procese Markov simple.
Parametrii unui proces aleator pur se calculeaz plecnd de la densitatea de probabilitate de
ordinul nti. Acetia sunt:
Valoarea medie (moment de ordinul nti)
(10)

x% t1 E x t1
x11 x1 , t1 dx1

Variana (momentul centrat de ordinul doi)

(11)

x2 t1 E

x t x% t E x t x% t
2

Procesele Markov simple sunt definite, de asemenea, de funcia de autocorelaie (momentul

de ordin doi):
(12)

Rxx t1, t2 E x t1 x t2 x1x2 2 x1, t1; x2 , t2 dx1dx2

Pentru dou procese aleatoare, x(t) i y(t), considerate ca fiind procese Markov simple,
putem defini funcia de intercorelaie:
(13)

Rxy t1 , t2 x1 y2 2 x1, t1; y2 , t2 dx1dy2

2. Dependena de timp a caracteristicilor statistice

A. Procese aleatoare nestaionare, ale cror caracteristici statistice depind de timp:
1 x1 , t1 ; 2 x1 , t1; x2 , t2 , etc.
B. Procese aleatoare staionare, ale cror caracteristici nu depind de timp:

1 x1 , t1 1 x1

(14)

iar densitatea de probabilitate de ordinul doi nu depinde dect de diferena ( t2 t1 ):

2 x1 , t1; x2 , t2 2 x1, x2 , , t2 t1

(15)

n acest caz, relaiile (10)...(13) devin:

(16)
(17)

x% x 1 x dx

2
x2 x 2 x%

Rxx x1 x2 2 x1 , x2 , dx1dx2

(18)

(19)

Rxy xy 2 x, y, dxdy

O bs er vaie :
Semnalele ale cror proprieti sunt complet descrise de momentele de ordinul unu i doi se
numesc staionare n sens larg, sau staionare pn la ordinul doi. Relaiile (14) i (15)
definesc procesele aleatoare staionare n sens strict. Procesele staionare n sens strict sunt i
staionare n sens larg.
3. Modalitatea de calcul a valorii medii
Dup acest criteriu de clasificare putem considera:
A. Procese aleatoare generale, pentru care valorile medii sunt determinate pe ntregul set
de date, utiliznd relaiile date mai sus.
B. Procese ergodice, atunci cnd valorile medii statistice sunt egale cu valorile medii
temporale.
n cazul proceselor ergodice sunt valabile relaiile:

1 T

x t d t
T 2T T

(20)

x% x 1 x dx x lim

(21)

2
x2 x 2 x%
x2 x

ergodice
staionare n
sens strict
staonare n
sens larg
stochastice

Fig. 2 Clasificarea proceselor aleatoare

1 T

x t x t d t
t 2T T

(22)

Rxx
x t x t x t x t lim

(23)

Rxy
x t y t x t y t lim

Clasificarea proceselor aleatoare este reprezentat n fig. 2.

1 T

T x t y t d t
t 2T

Caracterizarea statistic a semnalelor

Considerm n continuare cazul semnalelor ergodice. Caracteristicile statistice pot fi

descrise fie n domeniul timp, fie n domeniul frecven.
A. Caracteristica temporal a unui semnal aleator este funcia de autocorelaie (numit
mai simplu funcia de corelaie):
(24)

1 T

x t x t d t
T 2T T

Rxx lim

Proprietile acestei funcii (fig. 3) sunt urmtoarele:

1) Funcia de autocorelaie este par: Rxx Rxx ;
2) Este valabil relaia:
lim Rxx 0

(25)

3) Funcia de corelaie are un maxim n origine, unde:

Rxx 0 x 2 x2 x 2

(26)
R xx

Fig. 3 Funcia de corelaie

Observaie:

Dac x 0 , atunci Rxx() este numit funcie de autocovarian, sau funcie de covarian.
B. Caracteristica n domeniul frecven a unui semnal aleator este funcia de densitate
spectral a puterii, Sxx(), definit prin relaia:
(27)

2
1
XT ,
T 2T

S xx lim

unde XT() este transformata Fourier a semnalului xT(t). Acesta este o parte din procesul
aleator, vzut prin fereastra de timp [-T,T] (fig. 4).
xT t

x t

fereastr de timp

Fig. 4 Definiia semnalului xT t

Funcia Sxx() este o funcie real, par i, n plus:

(28)

lim S xx 0 ,

Ea desemneaz densitatea de putere a semnalului pe axa frecvenelor, ().

O bs er vaie :
Pentru dou procese aleatoare, x(t) i y(t), se poate defini densitatea spectral mutual
(densitatea interspectral), prin relaia:
(29)

X T YT ,
T 2T

S xy lim

unde XT() i YT() sunt transformatele Fourier ale semnalelor xT(t) i yT(t). Densitatea
interspectral este o funcie complex.
Teorema Wiener Hincin
Aceast teorem stabilete legtura ntre caracteristica temporal, Rxx(), i caracteristica
frecvenial, Sxx(), a unui semnal aleator:
(30) S xx F Rxx
(31)

Rxx F1 S xx

innd cont c funciile Rxx() i Sxx() sunt funcii pare, rezult:

jt
Rxx cos jsin d 2 Rxx cos d
(32) S xx Rxx e

(33) Rxx

1
1
j
S xx e d S xx cos d
2
0
S xx

R xx

a)

b)

Fig. 5 Caracteristicile unui zgomot alb

Fie x(t) un semnal aleator pur. Funcia de corelaie are forma unui impuls delta (fig. 5, a)) i
densitatea spectral de putere este constant, deci ea conine componente pentru toate frecvenele
(fig. 5, b)). Acest semnal, care nu este ntlnit n natur (este de putere infit), se numete
zgomot alb.
Semnalele reale se numesc colorate i au forme diferite pentru funciile de corelaie i cea
de densitate spectral de putere (fig. 6 i 7). Ct timp un semnal are o funcie de corelaie
ngust, banda de densitate spectral a puterii este larg (fig. 6) i n acest caz semnalul este mai
apropiat de zgomotul alb. Dac funcia de corelaie este larg, banda spectral a semnalului este
ngust (fig. 7) i semnalul este mai apropiat de un semnal periodic (determinist).
R xx
S xx
F

Fig. 6 Caracteristicile unui zgomot de band larg

R xx

S xx

Fig. 7 Caracteristicile unui zgomot de band ngust

Relaii fundamentale n dinamica statistic a sistemelor

Fie un sistem cu funcia de transfer H(s), la intrarea cruia se aplic un semnal aleator avnd
funcia densitii spectrale de putere Suu(). La ieirea sistemului se obine un semnal aleator cu
funcia densitii spectrale de putere Syy(). Relaia intrare-ieire a sistemului este
(34)

S yy ( ) H ( j ) H ( j ) Suu ( ) H ( j ) Suu ( )

Aplicaii ale relaiei (34)

1. Dac la intrarea unui sistem se aplic un zgomot alb avnd Suu()=S0 i se determin
densitatea spectral Syy() la ieire, atunci putem determina caracteristica de frecven a
sistemului
S yy ( )
A( )
(35)
S0
Dac sistemul este de faz minim, atunci A() descrie complet dinamica sistemului i
procedura prezentat este o metod de identificare a sistemului.
2.

Dac dorim s generm un proces aleator cu o caracteristic spectral dat, fie aceasta
Syy(), atunci se aplic un zgomot alb avnd Szz()=S0 la intrarea unui sistem avnd
caracteristica de frecven (35). La ieirea sistemului se obine procesul aleator cu
caracteristica spectral impus. Sistemul se numete filtru de formare.

PREDICIA SERIILOR DE TIMP UTILIZND FILTRAREA ADAPTIV

1. Formularea problemei

Predicia pe un pas : s se determine x(k) pe baza datelor x(k-N : k-1) v. fig. 1.

Predicia pe M pai : s se determine x(k+M-1) pe baza datelor x(k-N : k-1) v. fig. 2.a
Alt formulare : s se determine x(k) be baza datelor x(k-N-1 : k-M) v. fig. 2b.
Pr
Predicie
k-N

k-1

Fig. 1
Predicie
a)
k-N

k-1

k .

k+(M-1)
Predicie

b)
k-N-1

k-M

Fig. 2
Observaie :
Predicia este realizat strict pe baz de date. La un predictor recursiv se face, la pasul k-1,
predicia pentru momentul k+(M-1) (v. Fig. 2a). Apoi, se ateapt pn la momentul (k+(M-1))
pentru a afla valoarea adevrat x(k+(M-1)), care determin corecia parametrilor predictorului.
In consecin, nu este vorba de o succesiune de predicii pe un pas, care utilizeaz predicia
pasului anterior (predicie pe baza prediciilor).
1.

Clasificri
a.

Dup tipul de model parametric al seriei de timp (AR, ARMA, )

b.

Dup metoda de sintez :

b1 Analitic
b2 Prin prelucrarea numeric a datelor.

c.

Dup natura procesului de estimare a parametrilor predictorului (pentru b2)

c1 Estimare recursiv (cu filtru adaptiv)
c2 Estimare prin prelucrarea pe mulime a datelor

2.

Noiuni teoretice

Un proces aleator ARMA este generat prin schema din fig. 3, unde :

B q 1
H q
A q 1
1

(1)

i e(k) este un zgomot alb de varian e2 . Polinoamele A(q-1) i B(q-1) sunt :

B q 1 b1q 1 b2 q 2 L am q m

A q 1 1 a1q 1 a2 q 2 L an q n

e(k)

H(q-1)

(2)
(3)

x(k)

Fig. 3
Acest sistem este numit filtru de formare. Ecuaia n diferene intrare-ieire a acestuia este :
x k a1x k 1 a2 x k 2 L an x k n b1e k 1 L bme k m

(4)

Pentru analiza n frecven a filtrului de formare, vom nlocui q-1 prin z-1, deci se utilizeaz
funcia de transfer n z :
H z

A z 1

B z 1

(5)

Dac B(z-1)=1, atunci modelul este de tip autoregresiv (AR).

Dac A(z-1)=1, atunci modelul este de tip medie alunectoare (MA)-(Moving Average).
In cazul general, modelul este autoregresiv i de medie alunectoare (ARMA)

Aa cum se va arta n continuare, modelul AR are o importan particular pentru problema

prediciei seriilor de timp. Pentru a arta esena operaiei de predicie, se admite o serie de timp
x(t), al crui model AR are forma cea mai simpl, dat n fig. 4. Funcia de transfer a filtrului de
formare este:
1
H z
(6)
1 az 1
i rspunsul la frecven:
1
H e j
(7)
1 ae j
cu = Te i a (0,1) .

e(k)
+
x(k-1)

a.x(k-1)

z-1
a

Fig. 4
Densitatea spectral de putere a seriei de timp x(t) este :

x(k)=
a.x(k-1)+e(k)

S x e j H e j H e j e2
Iar funcia de autocorelaie este :

TF 1 S x a 0

e2

1 a 2 2a cos
0

e2

1 a2

(8)

(9)

In fig. 5a i 5b sunt date, calitativ, formele funciilor et S x .

Dac parametrul a este foarte apropiat de 1 (ex. a=a1), atunci 1 este apropiat de 0 ,
avnd semnificaia c x(k) este foarte corelat cu x(k-1). In acest caz, x(k) poate fi prezis cu
uurin. Din contr, dac a este mic, (ex. a=a2), 1 este mic, adic x(k) este slab corelat cu
x(k-1), i deci este greu de prezis. Dac a 0, atunci x(k) e(k) care este un zgomot alb
acesta fiind prin definiie nepredictibil.
()

S()

a1 a a
1

a2 a a
2

1 2

-4 -3 -2 -1

11

a)

b)
Fig. 5

3.

Metode analitice de sinteza a predictoarelor

Se face ipoteza c modelul procesului aleator staionar care trebuie prezis este cunoscut sub
forma densitii spectrale de putere, S x , cu = Te .
In conformitate cu teorema factorizrii spectrale, avem

S x H e j H e j e2

(10)

sau
S x z

z e j

H z H z

z e j

e2

(11)

Se deduce funcia de transfer a filtrului de formare, H(z).

Rezultatul cel mai important privitor la predicia seriilor de timp este obinut tratnd
predicia ca o problem de filtrare optimal (filtru Wiener). Acest rezultat const n
urmtoarea funcie de transfer a unui filtru de predicie optimal (pentru predicia pe un
pas):

1
H p z z 1
(12)

H z

Vom analiza acest rezultat:

1. Predicia (vezi ecuaia. 12) implic inversarea unui sistem : filtrul de formare H(z).
2. Dac procesul este modelat printr-un model de tip ARMA, adic H z

, atunci
A z 1

B z 1

B z 1 vine la numitorul lui Hp(z). In cadrul iteraiilor de ajustare ciclic a parametrilor,

1
conform algoritmului recursiv de estimare a parametrilor polinoamelor A z i
B z 1 , este posibil ca zerourile lui B z s ias din cercul unitar. In acest caz,
predictorul devine instabil.

3. Ca o consecin, modelele ARMA trebuie utilizate cu precauie (pentru m mic).

4. Modelele MA (H(z)=B(z)) sunt improprii pentru construcia predictoarelor, pentru c ele
genereaz muli poli care devin cu uurin poli instabili..
5. Cel mai utilizat model al seriei de timp, pentru construcia predictoarelor este modelul
AR, unde :
H z

(13)

1 a1z 1 a2 z 2 L an z n

Prin inversarea acestui model se obine un predictor sub forma unui filtru FIR.
Deci, toate predictoarele pentru procese AR sunt filtre FIR (numite i filtre
transversale). Schema bloc a acestui predictor este dat n fig. 6.
x(k)

a1

z-1

..

a2

..

z-1
an
x (k)

x(k)
_

r(k)

Fig. 6
Dac cu adevrat x(k) este de tip AR, atunci r(k) este un zgomot alb, deci schema din
figura 6 realizeaz albirea lui x(t) (de fapt, inversarea operaiei de formare a lui x(k)
pornind de la un zgomot alb).

clear all;close all;

% PREDICTOR ADAPTIV AL UNEI SERII DE TIMP AR
% ************** PARTEA I
% se genereaza o serie de timp formata din N date
N=1000;
% Lungimea secventei
% se determina raspunsul (y) al filtrului de formare "sys"
% (discretizat "syad") care coloreaza zgomotul alb u
Te=0.5;
num=[2];
den=conv([9 0.6 1],[4 1 1]);
%den=[1 0.7 1];
sys=tf(num,den);
t=0:Te:N;
u=randn(1,N/Te+1);
sysd=c2d(sys,Te,'tustin');
[nu,de]=tfdata(sysd,'v');
sysd=tf([1],de,Te);
%sysd=tf([1],[1 -1.982 0.9868],Te);
y=lsim(sysd,u,t);
% seria de timp este formata din raspunsul y
% la care se aditioneaza un zgomot alb
%load ytest
%y=ytest;
b=0.2*randn(1,N);
%
for i=1:N,
xr(1,i)=y(i)+0.025*b(i);
end
% functia de autocorelatie a seriei de timp
corx=xcorr(xr,N);
figure(10);
stem(N-20:N+20,corx(N-20:N+20)/corx(N+1));hold on;
title(' functia de autocorelatie ');
% ***************** PARTEA A II-a
%Initializari
% odrinul filtrului AR
m=4;
% dimensiunea vectorilor regresorilor
n=m;
% orizontul de predictie
M=2;
% factorul de uitare
lambda=1;
% Initializari
Cxx=10000*eye(n);
g=zeros(N,n);
p=zeros(N,n);
e=zeros(1,N);
y=zeros(1,N);
yf=zeros(1,N);
y1=zeros(1,N);
tr=zeros(1,N);
z=zeros(1,N);
er(1:N)=z(1,:);

% *********** PARTEA A III-a ITERATII DE PREDICTIE

% limita superioara a iteratiilor
imax=N-max(n,M);
% iteratii
for i=n+1:imax,
% se formeaza vectorul regresorilor
x(i-n+1:i)=[xr(i-(1:n))] ;
% calculul predictiei
y(1,i)=p(i-1,:)*x(i-n+1:i)';
% eroarea de predictie
e(1,i)=xr(i+M-1)-y(1,i);%
% amplificarea de adaptare
g(i,:)=(1/lambda)*(Cxx*x(i-n+1:i)'/(1+(1/lambda)*x(i-n+1:i)*Cxx*x(in+1:i)'))';
% adaptarea coeficientilor
p(i,:)=p(i-1,:)+e(1,i)*g(i,:);
% ajustarea inversei matricii de autocorelatie
Cxx=(1/lambda)*Cxx-(1/lambda)*g(i,:)'*x(i-n+1:i)*Cxx;
% iesirea filtrului dupa adaptare
yp(1,i)=p(i,:)*x(i-n+1:i)';
% eroarea aposteriori
er(i)=xr(1,i+M-1)-yp(1,i);
% urma matricii
tr(1,i)=trace(Cxx);
end;
% ****************** PARTEA A IV-a REZULTATE
% seria de timp, predictia si eroarea
figure(1);
plot(n+1:imax,xr(n+1:imax)),hold on;
plot(n+1:imax,y(1,n+1:imax),'r');
title('seria de timp (bleu); predictia (rosu)');
%axis([n+1 imax -3 3]);
grid;hold off;
%subplot(212),plot(n+1:imax,e(n+1:imax),'k');
%title(' eroarea ');
%axis([n+1 imax -3 3]);
%hold off;grid;
% evolutia parametrilor filtrului
figure(2);
for j=1:n,
plot(n+1:imax,p(n+1:imax,j)),hold on;
end;
axis([n+1 imax -25 25]);
hold off;
grid;
title('Evolutia coeficientilor a(j), j=1:n');
% Calculul functiei de transfer a filtrului predictor
figure(3);

num=[1 zeros(1,m-1)];
den=[-p(imax,m:-1:1)];
sys1=tf(den,num,Te);
bode(sys1),hold on;
bode(sysd,'r');grid;hold off;
title('Caracteristica Bode a filtrului de formare (rosu) si a filtrului
predictor');
axis([0.01 5 -60 60]);
axis([0.01 5 -360 1000]);
% convergenta de adaptare
figure(4);
semilogy(0:N-n,tr(n:N)),grid;
title('Urma matricii Cxx');
% ddeviatia standard a erorii
ind=std(e(30:imax))
cory=xcorr(e,N);
figure(10);
stem(N-20:N+20,cory(N-20:N+20)/cory(N+1),'r');grid;