Documente Academic
Documente Profesional
Documente Cultură
Filtrare Adaptiva
Filtrare Adaptiva
Filtrare Adaptiva
Filtrare adaptiv
3.1 Introducere
3.2 Algoritmi de filtrare adaptiv
3.3 Algoritmi adaptivi n domeniul frecven
3.4 Discuie asupra algoritmilor adaptivi
3.5 Aplicaii ale filtrelor adaptive
100
3.1 Introducere
101
102
E{X} = pi xi
i =1
E{X} =
(3.1)
xf
( x) dx
3.1 Introducere
103
eantionrii unor semnale analogice. Dup cum s-a menionat anterior valorile
exacte ale unor variabile aleatoare (i, n consecin, ale unor procese aleatoare la
un moment dat) nu pot fi precizate cu exactitate. n schimb, pot fi determinate
mrimi statistice care ofer o caracterizare parial a procesului considerat. Astfel,
pentru un proces aleator oarecare notat u[n] se definesc urmtoarele mrimi [4]:
[n] = E{u[n]}
Valoarea medie:
Funcia de autocorelaie:
Funcia de autocovarian:
(3.2)
[ n] = , n
(3.5)
Funcia de autocorelaie:
r[n, n - k ] = r[k ], n
(3.6)
Funcia de autocovarian:
c[n, n - k ] = c[k ], n
(3.7)
r[1]
r[ M -1]
r[0]
r[1]
r[ M - 2]
r[0]
R = E{u[n]u H [n]} =
#
#
#
(3.8)
104
3.1
Introducere
Cuvntul care ilustreaz intuitiv noiunea de semnal aleator este zgomotul. De regul,
acest cuvnt este asociat cu senzaia de disconfort, care trebuie nlturat sau mcar
atenuat. Deseori, zgomotul se suprapune peste ceea ce denumim de regul informaie
util, iar efortul de a le separa poate fi uneori extrem de anevoios.
3.1 Introducere
105
R w opt = p w opt = R 1p
(3.9)
n care wopt desemneaz valorile optime ale coeficienilor filtrului (denumit n acest
context filtru Wiener), R este matricea de autocorelaie a procesului aleator aplicat
la intrare, iar p este vectorul de intercorelaie dintre intrare i ieirea dorit:
p = E{u[ n] d *[n]}
(3.10)
106
3.1 Introducere
107
108
(3.11)
J ( w , n) = e[i ] = d [i ] w H u[i ]
2
i =1
(3.12)
i =1
Este important de observat c n acest caz expresia funciei de cost depinde n mod
explicit i de intervalul de timp considerat, astfel nct valorile optime ale
vectorului de coeficieni se vor modifica ele nsele n timp.
Avantajul major al unei astfel de funcii de cost rezid n caracterul convex al
acesteia, manifestat prin prezena unei valori minime unice care va conduce la
determinarea unui set de asemenea unic de valori optime ale coeficienilor filtrului
adaptiv considerat. Merit menionat n acest context faptul c aceast
caracteristic nu este prezent n cazul unor filtre adaptive discrete cu rspuns
infinit la impuls (Infinite Impulse Response - IIR) i nici al celor neliniare
(implementate sub forma reelelor neurale), situaii n care sunt prezente numeroase
valori minime locale, corespunztoare unor soluii suboptimale. n aceste condiii,
alegerea judicioas a valorilor iniiale ale setului de coeficieni ai filtrului este
determinant pentru obinerea unor performane acceptabile1.
n Fig. 3.3 sunt ilustrate modalitile tipice de reprezentare ale funciei de cost sub
forma unei suprafee de eroare, respectiv prin curbe de nivel constant (de forma
unor elipse). Valoarea minim a funciei de eroare (atins pentru w = wopt) este:
J min = 2 d p H Wopt
(3.13)
Acesta este motivul pentru care, n practic, n astfel de situaii se vor efectua experimente
3.1 Introducere
109
w2
w1
a)
b)
Fig. 3.3 Eroarea ptratic medie: a) hipersuprafa parabolic; b) curbe de nivel constant
Parametri specifici
Exist o serie de parametri care caracterizeaz modul de operare al unui filtru
adaptiv, utili n a aprecia comparativ performanele numeroaselor soluii propuse n
literatur [4]:
- viteza de convergen: reprezint numrul de iteraii necesar unui algoritm
adaptiv care opereaz cu semnale provenind din procese aleatoare staionare pentru
a ajunge suficient de aproape de (ideal, s coincid cu) soluia corespunztoare
ecuaiilor Wiener-Hopf. Dei este de dorit ca viteza de convergen s fie ct mai
mare, n realitate optimizarea acestui parametru se poate face doar n detrimentul
altor caracteristici.
- misadjustment: vom vedea pe parcursul urmtorului paragraf c nu este
ntotdeauna posibil ca valorile finale ale setului de coeficieni ai filtrului s
coincid cu cele furnizate de soluia ecuaiilor Wiener-Hopf, notate wopt. Ca
urmare, nici valoarea final a funciei de eroare nu va fi optim, ci va fi mai mare
dect cea corespunztoare utilizrii setului wopt (acesta este unul dintre preurile
pltite pentru imposibilitatea practic de a preciza cu exactitate mrimile statistice
de interes, adic matricea de autocorelaie R i vectorul p). Parametrul denumit
misadjustment msoar (printr-o mrime relativ, exprimat n procente) tocmai
aceast ndeprtare a erorii finale fa de cea ideal.
- proprieti numerice: n implementarea oricrui algoritm de prelucrare numeric
de semnal sunt fundamentale aspectele legate de efectul utilizrii unei rezoluii
110
3.1 Introducere
111
112
funcional (n cazul cel mai simplu, liniar) bazat pe un numr limitat de parametri,
ale cror valori pot fi estimate folosind un algoritm adaptiv adecvat. n cazul liniar,
modelele considerate se aleg de regul dintre urmtoarele 3 variante: autoregresiv
(AR), cu medie alunectoare (MA), respectiv combinaia acestora (ARMA) [7].
Numrul de parametri care descriu modelul (i care definesc ordinul acestuia) se
estimeaz folosind criterii statistice consacrate. n unele situaii informaia de ieire
este dependent nu numai de valorile anterioare ale semnalului analizat, ci i ale altor
semnale. n plus, natura acestei dependene poate varia n timp, sistemul adaptiv fiind
forat s asigure pe de o parte convergena rapid a valorilor parametrilor i pe de alt
parte urmrirea modificrilor aprute n procesul fizic analizat. Exemple practice de
aplicaii sunt tehnica LPC (Linear Predictive Coding) utilizat n prelucrarea
semnalelor vocale, metoda ADPCM (Adaptive Differential Pulse Code Modulation)
folosit n transmisiuni de date, predicia seriilor financiare.
filtrare de zgomot: spre deosebire de cazurile anterioare, n acest gen de aplicaii
apar 2 intrri. Intrarea primar este constituit dintr-un semnal util peste care este
suprapus zgomot. La cea de a doua intrare se aplic numai un semnal de tip zgomot
prelevat dintr-un punct foarte apropiat sursei de semnal primar, astfel nct acesta s
fie puternic corelat cu cel prezent n semnalul primar. Rolul filtrului adaptiv este de a
furniza la ieire un semnal ct mai apropiat de componenta de zgomot prezent n
semnalul primar, astfel nct prin scdere s obinem un semnal mai curat. Exemple
concrete sunt oferite de aplicaiile de tip ANC (Active Noise Control) folosite pentru
diminuarea nivelelor de zgomot n instalaii industriale (spre exemplu, n sistemele de
ventilaie sau estorii), dar i n spaii nchise de mici dimensiuni (habitaclul
autoturismului, cti audio), eliminarea ecourilor pe liniile de comunicaii (echo
cancelling), mbuntirea calitii recepiei n medii afectate de nivele mari de
zgomot (cabine de tancuri sau elicoptere). n unele situaii componenta util din
semnalul primar poate fi de amplitudine mult mai mic dect cea datorat zgomotului.
3.1 Introducere
113
Ieire
Sistem
necunoscut
d[n]
Intrare
Filtru adaptiv
y[n] - +
e[n]
a)
Z-D
Ieire
Intrare
Sistem
necunoscut
Filtru adaptiv
y[n]
d[n]
-
e[n]
b)
Ieire
Intrare
Z-D
Filtru adaptiv
y[n]
d[n]
-
e[n]
c)
Semnal primar
Intrare
de referin
Filtru adaptiv
y[n] - +
d[n]
Ieire
e[n]
d)
Fig. 3.4 Aplicaii ale filtrelor adaptive:
a) identificare de sistem; b) filtrare invers; c) predicie; d) filtrarea zgomotului
114
(3.14)
115
unde Jmin este valoarea minim a erorii descris prin relaia (3.13).
Se observ imediat c vectorul de coeficieni corespunztor acestei valori minime
este chiar setul optim definit de ecuaiile Wiener-Hopf! n principiu, rezolvarea
acestui sistem de ecuaii s-ar putea efectua dintr-un singur foc printr-un calcul
pur algebric indicat n ecuaia (3.9), ns n multe situaii practice apar dificulti
datorate dimensiunilor mari ale matricilor implicate sau probleme de stabilitate ale
metodelor numerice folosite n inversarea matricii de autocorelaie R.
Determinarea valorilor extreme ale unei funcii de mai multe variabile poate fi
asigurat printr-o palet larg de metode, expuse cu acuratee n textele referitoare
la tehnicile de optimizare. Una dintre cele mai des folosite soluii o reprezint
scderea dup gradient (gradient descent), care n esen se bazeaz pe
modificarea succesiv a variabilelor pe direcia i n sens invers gradientului
funciei supuse procesului de optimizare. n cazul particular al erorii ptratice
medii expresia gradientului se poate scrie compact sub forma [4]:
J
W J =
= 2p + 2Rw
wi
(3.15)
(3.16)
(3.17)
116
J [n] = J min +
M -1
2n
k (1- k ) vk [0]
(3.18)
k =0
n care vectorul v[n] se definete prin relaia v[n] = Q H ( w opt w[n]) (matricea Q
are drept coloane vectorii proprii ai matricii de autocorelaie R).
Este uor de observat c relaia recursiv care exprim modul de operare al
algoritmului include matricile R i p. n multe situaii practice, datorit
imposibilitii de a caracteriza corect din punct de vedere statistic procesele
aleatoare implicate, aceste mrimi nu sunt disponibile, astfel nct suntem nevoii
s utilizm valori estimate ale acestora. Cea mai simpl metod de estimare const
n nlocuirea valorilor exacte ale matricilor menionate anterior calculate prin
aciunea operatorului de mediere E{.} pe un ansamblu de realizri individuale ale
proceselor aleatoare considerate prin valorile lor instantanee. Procedeul st la
baza formulrii algoritmului denumit Least Mean-Squares (LMS) i este prezentat
n Tabelul 3.2.
Tabelul 3.1: Algoritmul de tip scdere dup gradient (gradient descent)
Variabile i parametri:
Vectorul de coeficieni la iteraia n:
Vectorul de intrare la iteraia n:
Rspunsul dorit la iteraia n:
R = E{u[n]uH[n]}
p = E{u[n]d*[n]}
JW [n] = 2p + 2Rw[n]
01
Iniializare:
Valoarea inial a coeficienilor:
w[0] (tipic = 0)
117
Variabile i parametri:
Vectorul de coeficieni la iteraia n:
Vectorul de intrare la iteraia n:
Rspunsul dorit la iteraia n:
y[n] = wH[n]u[n]
p [n] = u[n]d*[n]
J [n] = 2u[n]d*[n] + 2u[n]u H [n]w[n]
W
01
Iniializare:
Valoarea inial a coeficienilor:
w[0] (tipic = 0)
118
E{w[n]} w opt
(3.19)
0 < <
max
i
<1
2 i
i =1
(3.21)
J min
M
1
i =1
(3.22)
i
2 i
i
2 i
M mediu
M
= i =1M
i =
i
2 i =1
2
1
i =1 2 i
M
A =
J () J min
J min
(3.23)
1
2mediu
, unde mediu =
1
M
(3.24)
i =1
119
u[n]e*[n]
u[n]
LMS cu semn
for k=1:K
X = [u(k); X(1:M-1)];
y = W'*X;
e = d(k)-y;
W = W+2*mu*e*X;
MSE(k)=e^2;
end
120
M 1
w *[k ] u[n - k ]
(3.25)
k =0
n2
(3.26)
n = n1
[t , k ] =
u[n - k ] u *[n - t ] , 0 t , k M 1
(3.27)
n=M
w =
(3.29)
121
[0, M 1]
Matricea de
autocorelaie
temporal:
Vectorul de
intercorelaie
temporal:
[1, 0] "
[1,1] "
[ M 1, 0]
[ M 1,1]
(3.30)
#
%
#
[1, M 1] " [ M 1, M 1]
(3.31)
Valorile optime ale setului de ponderi ale filtrului rezult sub forma:
w opt = 1
(3.32)
(3.33)
n -i
i =1
122
dect algoritmul LMS, ns este mult mai laborios. n plus, dup cum se va arta n
paragraful urmtor, acest algoritm este sensibil la aspectele de natur numeric
datorate utilizrii unei rezoluii finite n implementarea hardware.
Tabelul 3.4 Algoritmul RLS
Variabile i parametri:
Vectorul de coeficieni la iteraia n:
Vectorul de intrare la iteraia n:
d[n]
[n] = d[n] wH[n-1]u[n]
k[n]
P[n] = 1[n]
Iniializare:
Valoarea iniial a matricii P:
P[0] = -1I
w[0] (tipic = 0)
k[ n ] =
1P[n 1]u[n]
1 + 1u H [n]P[n 1]u[n]
123
124
(3.34)
(3.35)
(3.36)
unde factorul G[n] este denumit ctig Kalman (Kalman gain) i se determin n
aa fel nct valoarea estimat x [n] s fie optim conform unui criteriu statistic
precizat. n literatur este folosit eroarea ptratic medie drept criteriu de
apreciere a optimalitii soluiei i n acest caz se demonstreaz c valoarea optim
a factorului G[n] se poate scrie sub forma:
125
(3.37)
(3.38)
(3.39)
126
Variabile i parametri:
Vector de stare la iteraia n:
x[n]
[n+1,n]
y[n]
C[n]
Matrice de autocorelaie a
zgomotului asociat procesului:
Q1[n]
G[n]
[n]
Q2[n]
Iniializare:
Stare iniial:
X[0]
P[0]
127
convergen este necesar ca valorile proprii s fie ct mai mari. Pe de alt parte, din
considerente legate de stabilitatea algoritmului, valoarea proprie maxim limiteaz
amplitudinea constantei de adaptare, care la rndul ei influeneaz performanele de
vitez ale sistemului. Rezult din aceste observaii c este de dorit ca
mprtierea acestor valori s fie ct mai mic, situaia ideal corespunznd
condiiei ca toate valorile proprii s fie identice, caz n care matricea de
autocorelaie R devine proporional cu o matrice unitate. Ca urmare, variabilele de
intrare ale filtrului adaptiv devin necorelate (ortogonale) i au puteri identice. Una
dintre posibilitile cele mai simple de a asigura atingerea acestui obiectiv l
constituie aplicarea unei transformri liniare adecvate, iar candidatul cel mai la
ndemn este Transformata Fourier Discret (DFT).
Schema-bloc a unui filtru adaptiv bazat pe utilizarea unei transformate liniare cu
efect de decorelare (ortogonalizare) a intrrilor se prezint n Fig. 3.6 [1]. Relaiile
care descriu modul de operare al algoritmului LMS pentru un filtru care utilizeaz
pentru ortogonalizare varianta DFT (denumit intuitiv filtru adaptiv n domeniul
128
Observaii:
x[n]
Z-1
...
Z-1
Z-1
Transformare unitar
w0
w1
wM-1
...
y[n]
LMS
+
d[n]
129
Variabile i parametri:
Vectorul de coeficieni la
iteraia n:
U[k,n] =
M 1
u[n] e
2 nk
M
, k = 0...M-1
n=0
U norm [k,n] =
Normalizarea puterii*:
Eroarea de estimare:
U[k,n]
, k = 0...M-1
P[k,n]
X[k ] = x[n] e
-j
2 nk
N
, k = 1 N
(3.40)
n =1
Un punct de vedere interesant este cel potrivit cruia oricare dintre eantioanele
X[k] se obine ca rezultat al produsului de convoluie dintre semnalul x[n] i un
semnal de forma h k [n] = e
j 2kn
H k ( ) = hk [n] e j n
n =1
(3.41)
130
n Fig. 3.7 este reprezentat grafic modulul acestei funcii, care corespunde unui
filtru trece-band avnd frecvena central 2k/N. Rezult de aici c obinerea
tuturor celor N eantioane care definesc DFT presupune de fapt trecerea semnalului
de intrare printr-un ansamblu de filtre trece-band, ale cror frecvene centrale sunt
rspndite echidistant pe intervalul [0, 2]. Interpretarea acestei observaii n
contextul discuiei anterioare referitoare la decorelarea unui filtru adaptiv este
imediat: dac filtrele trece-band ar fi fost ideale (adic ar fi avut rspunsuri n
131
132
133
134
Acest aspect impune ca, n practic, s fie necesare experimente repetate folosind
aceeai valoare a constantei de adaptare i pornind din aceleai valori iniiale ale
coeficienilor filtrului, iar datele de intrare i de ieire dorit s fie extrase ca
realizri individuale ale unor acelorai procese aleatoare. Se obine astfel un
135
(3.42)
(3.43)
Excepie fcnd de factorul care pondereaz primul termen, relaia anterioar este
identic practic cu versiunea standard. Se poate arta c includerea acestui factor
136
137
b[ j ]u[n - j ]
(3.44)
j =0
unde a[k] i b[j] sunt coeficieni numere reale. Au fost formulate 2 metode de
adaptare a valorilor acestor coeficieni [10]:
- metoda output-error aplic o procedur de tip scdere dup gradient asupra unei
funcii de cost de tip eroare ptratic medie. Dezavantajele acestei soluii sunt
legate pe de o parte de instabilitatea potenial (nu putem garanta c, n decursul
procesului de adaptare, polii filtrului vor rmne ntotdeauna n domeniul de
stabilitate, astfel nct sunt necesare msuri speciale de garantare a stabilitii), iar
pe de alt parte de faptul c funcia de cost nu mai prezint o valoare minim unic,
aa cum se ntmpla n cazul filtrelor FIR, ci va avea o multitudine de valori
minime locale, astfel nct iniializarea coeficienilor va avea o importan
hotrtoare n fixarea performanelor acestuia.
- metoda equation-error elimin acest ultim neajuns, nlocuind n membrul drept
al ecuaiei anterioare valorile propriu-zise ale ieirii filtrului cu valorile ntrziate
ale semnalului dorit:
N
b[ j ] d [n - j ]
(3.45)
j =0
n acest fel ns filtrul obinut nu mai este identic cu cel iniial, motiv pentru care
ecuaia anterioar, nsoit de un algoritm de tip scdere dup gradient pentru
138
z 1
1 2
;
L
(
z
,
)
=
0
1 z 1
1 z 1
(3.46)
Se observ astfel c operatorul de ntrziere z-1 este nlocuit printr-un filtru de tip
trece-tot de ordinul I (excepie face funcia de transfer L0(z, ), care corespunde
unui filtru trece-jos), al crui unic pol este plasat n domeniul de stabilitate dac
este ndeplinit condiia <1 .
Un alt caz particular l reprezint aa-numitele filtre gamma [8], la care operatorul
de ntrziere este nlocuit prin funcia de transfer:
( z ) =
(3.47)
z (1 )
x[n]
L0(z, )
L(z, )
...
L(z, )
139
140
privind mrimile statistice de interes sau pentru care rezolvarea direct, de regul
prin metode algebrice, presupune un volum mare de calcul i sensibilitate la
aspectele de natur numeric. Exist ns i posibilitatea de a extinde aceste
principii de operare i la sisteme cu carecter neliniar, exemplul cel mai elocvent
fiind oferit de aa-numitele reele neurale artificiale. Dei nu exist o definiie
general acceptat, majoritatea cercettorilor sunt de acord c acestea reprezint
ansambluri de elemente de procesare simple, interconectate prin canale de
comunicaii prin care se propag informaie numeric. Din perspectiv istoric,
multe dintre ideile vehiculate n acest context sunt motivate de dorina de a construi
sisteme capabile s rezolve cu succes sarcini uzuale pentru creierul uman precum
nelegerea vorbirii sau recunoaterea formelor. n fapt, aceast abordare s-a
dovedit util n special pentru probleme dificil de formalizat sub forma unui
algoritm (adic a unei reete care s garanteze rezultatul), situaie care presupune
o nelegere profund a aplicaiei considerate. Majoritatea reelelor neurale
utilizeaz mecanisme pe baza crora intensitatea legturilor dintre neuroni sunt
ajustate n funcie de calitatea rspunsului la stimuli externi. Ajungem astfel la
principala trstur a acestor sisteme, anume capacitatea de a nva pe baz de
exemple, folosind experiena anterioar pentru a-i mbunti permanent
performanele, dar i de a oferi un anumit grad de generalizare, care se traduce
printr-un rspuns adecvat la informaii de intrare care nu au fost folosite n faza de
antrenare.
Se pot identifica dou direcii distincte nspre care este canalizat atenia
cercettorilor din domeniul reelelor neurale. Prima o reprezint identificarea unor
modele plauzibile din punct de vedere biologic pentru neuronii elementari i structura
de interconexiuni dintre acetia. Interesul este justificat de preocuprile pentru
studierea creierelor naturale i de nivelul tehnologic actual, n sperana c ntr-o zi
vom putea reproduce artificial performanele remarcabile ale acestora. Cea de-a doua,
pe care am putea-o denumi "inginereasc", i propune un scop mai puin ambiios dar
la fel de necesar, anume identificarea unor principii de procesare suficient de
simple i robuste, dependente de un numr relativ restrns de parametri i care
s poat fi folosite pentru rezolvarea unor probleme concrete.
141
Gama aplicaiilor n care se utilizeaz reelele neurale artificiale este extrem de vast,
extinzndu-se mult n afara preocuprilor legate de tehnic n general i de electronic
n particular. n ultimii ani au fost raportate rezultate foarte ncurajatoare privind
folosirea acestora n medicin, finane sau construcia de automobile i viitorul va
demonstra cu siguran nmulirea i diversificarea acestor exemple. Aceast abordare
s-a dovedit util i n cazul unor probleme "clasice", ca de exemplu conversia analognumeric sau calculul de transformate liniare.
Reelele neurale artificiale sunt caracterizate de 3 elemente: modelul adoptat pentru
elementul de procesare individual (neuronul), structura particular de interconexiuni
(arhitectura) i mecanismul de ajustare a legturilor dintre neuroni (algoritmul de
nvare). Aspectul neliniar intervine n mod nemijlocit n descrierea neuronului
elementar, pentru care aa-numitul model aditiv, reprezentat n Fig. 3.10, este de
departe cea mai frecvent opiune. Caracterul adaptiv se manifest prin aciunea
algoritmului de nvare, pentru care au fost formulate numeroase clase de metode,
unele dintre cele mai cunoscute fiind bazate, de exemplu, din nou pe mecanismul de
scdere dup gradient.
Tipul de reea neural care se apropie cel mai mult de categoria filtrelor liniare
analizate anterior l reprezint cele denumite Radial Basis Functions (RBF) [3], a
cror arhitectur se prezint n Fig. 3.11.
142
(3.48)
n care: ||.|| reprezint distana (n general, Euclidian) ntre doi vectori aparinnd unui
spaiu multidimensional, i reprezint funcii neliniare alese dintr-un set de funcii
tipice, vectorii Ci (avnd aceeai dimensiune cu cei de intrare) se numesc centri, iar wi
sunt coeficieni scalari. Mecanismul de selectare a centrilor este ghidat de principiul
ca numrul i poziiile acestora s ofere o aproximare ct mai fidel a densitii de
repartiie a datelor de intrare. Odat alese aceti parametri, valorile setului de
coeficieni wi rezult n urma aplicrii unui algoritm adaptiv din arsenalul celor
specifici filtrelor liniare, de regul chiar algoritmul LMS. De altfel, n raport cu
semnalele de la ieirea neuronilor avnd funciile de activare I, ne putem imagina o
reea neural de tip RBF ca fiind un simplu filtru FIR, cu aceleeai avantaje privind
viteza sporit de convergen i unicitatea soluiei finale (se poate arta c n cazul
altor modele de reele neurale, neliniaritatea funciei de activare implic un aspect
puternic neregulat al erorii ptratice medii, caracterizat de prezena a numeroase valori
minime locale). O posibilitate de generalizare a arhitecturii o reprezint nlocuirea
valorilor scalare ale setului de coeficieni wi prin filtre discrete, de regul de tip FIR.
143
(3.49)
unde v[n] este un zgomot alb cu valoare medie nul i dispersie v2, iar i
reprezint paremetri scalari reali, alei astfel nct rdcinile ecuaiei caracteristice
asociate acestei ecuaii cu diferene s fie plasate n interiorul cercului de raz
144
P( z )
. Din punct de
145
1.4
=0.01
=0.05
=0.75
1.35
1.3
=5
=10
=30
=50
200
1.25
MSE
MSE
150
1.2
1.15
100
1.1
1.05
50
0.95
0
0
10
20
30
40
50
60
70
10
20
30
40
50
Iteratii
Iteratii
a)
b)
60
70
80
90
100
w(2)
2
0
-2
-3
-2
-1
w(1)
w(2)
2
0
-2
-3
-2
-1
w(1)
w(2)
2
0
-2
-3
-2
-1
w(1)
c)
Fig. 3.12 Predicie liniar: a) evoluia erorii ptratice medii n funcie de constanta de
adaptare; b) evoluia erorii ptratice medii n funcie de mprtierea valorilor proprii ale
matricii R (=max/min); c) curbe de contur constant ale erorii ptratice medii i evoluia
setului de coeficieni ai filtrului adaptiv
146
0 , n rest
(3.50)
147
10
MSE
10
-1
10
W=3.5
W=3.3
-2
10
W=3.1
W=2.9
-3
10
50
100
150
200
250
300
350
400
450
500
Iteratii
a)
1
10
MSE
10
eta = 0.0075
-1
10
eta = 0.025
-2
10
eta = 0.075
-3
10
500
1000
1500
Iteratii
b)
Fig. 3.14 Evoluia erorii ptratice medii: a) n raport cu mprtierea valorilor proprii ale
matricii de autocorelaie a intrrii; b) n raport cu valoarea constantei de adaptare
148
Bibliografie
[1] Beaufays, F., Orthogonalizing adaptive algorithms: RLS, DFT/LMS, and
DCT/LMS, in Adaptive Inverse Control, NJ: Prentice Hall, 1995
[2] Ciocoiu, I.B., Reele neurale artificiale, Iai: Cantes, 2001
[3] Haykin, S., Neural Networks - A Comprehensive Foundation, IEEE Press, 1994
[4] Haykin, S., Adaptive Filter Theory, 4th ed., New Jersey: Prentice-Hall, 2002
[5] Hosur, S., Tewfik, A.H., Wavelet Transform Domain Adaptive FIR Filtering,
IEEE Trans. on Signal Processing, vol. 45, no. 3, pp. 617-629, 1997
[6] Nascimento, V.H., Sayed, A.H., On the learning mechanism of adaptive filters,
IEEE Trans. on Signal Processing, vol. 48, no. 6., pp. 1609-1625, 2000
[7] Papoulis, A., Probability, Random Variables, and Stochastic Processes, New
York: McGraw-Hill, 1984
[8] Principe, J.C., B. de Vries, P.G. de Oliveira, "The Gamma Filter-A New Class of
Adaptive IIR Filters with Restricted Feedback", IEEE Trans. Sign. Process., vol. 41,
1993
[9] Sayed, A.H., Fundamentals of adaptive filtering, New Jersey: Wiley, 2003
[10] Shynk, J.J., "Adaptive IIR filtering", IEEE ASSP Mag., pp. 4-21, 1989
[11] Strang. G., Introduction to linear algebra, Wellesley: Cambridge Press, 1993
[12] Yang, B., A note on the error propagation analysis of recursive least squares
algorithms, IEEE Trans. on Signal Processing, vol. 42, pp. 3523-3525, 1994