Documente Academic
Documente Profesional
Documente Cultură
T
Ipotez
Ipotez = lim E [ n] [ n] E {[ n] y[ n]}
n
** PParametrii
arametrii adevra
i se
adevrai
se
stabilizeaz
constante..
stabilizeaz la
la valori
valori constante
Se va arta c parametrii estimai folosind MCMMP-R tind, la rndul lor, la valorile constante,
indiferent de iniializarea utilizat.
Se pleac de la urmtoarea identitate evident: k = k
k N
Apoi, se deduc relaii recurente
pentru fiecare din cei 2 factori.
1
1
1
k = ( kPk ) Pk1 k
k
k N
1 1 k
= " = P0 + [ n]T [ n] , k N .
n =1
(
1 1
1
Pk k = Pk1 k 1 + Pk [ k ] y[ k ] T [ k ] k 1 =
Pk1 = Pk11 + [ k ]T [ k ]
k
k
1
1
= ( Pk11 + [ k ]T [ k ] ) k 1 + [ k ] y[ k ] [ k ]T [ k ] k 1 = Pk11 k 1 + [ k ] y[ k ] =
k
k
k
1 1
= " = P0 0 + [ n] y[ n] , k N .
k
n =1
k = k 1 + Pk [ k ] y[ k ] T [ k ] k 1
180
2/18
k
k
1
1
=
+
+
n
P
n
y
n
[
]
[
]
[
]
[
]
Aadar
Aadar k 0
k 0 0
k
n =1
n =1
** Contribu
ia ini
ializrii se
Contribuia
iniializrii
se atenueaz
atenueaz dup
dup oo lege
lege hiperbolic
hiperbolic..
k N
Algoritmul
Algoritmul recursiv
recursiv de
de baz
baz funcioneaz
funcioneaz ii n
n cazul
cazul unei
unei iniializri
iniializri necorespunztoare
necorespunztoare
), dar
(de
nu este
este pozitiv
pozitiv definit
definit),
dar viteza
viteza de
de convergen
convergen scade
scade..
(de exemplu
exemplu,, dac
dac matricea
matricea PP00 nu
Rezult
Rezult
1
k
k
1
1 1
1
T
P01
P01 0
1 k
1 k
T
= lim
+ lim [ n ] [ n ] lim
+ lim [ n ] y[ n ] =
k k
k k
n =1
n =1
k k
k k
0
0
= lim E {[ n ]T [ n ]} E {[ n ] y[ n]} = .
n
1
IE
IE
** n
n general,
ns, sunt
general, ns,
sunt dificil
dificil de
de cuantificat
cuantificat
at
t precizia
t ii mai
att
precizia,, cct
mai ales
ales adaptabilitatea
adaptabilitatea
((capacitatea
capacitatea de
iei
de urmrire
urmrire a)
a) estima
estimaiei
parametrilor
i.
parametrilor necunoscu
necunoscui.
Exerciiu
Exerciiu
S se refac raionamentele anterioare pentru a proiecta i
analiza Algoritmul recursiv al Variabilelor Instrumentale.
181
3/18
Exist situaii (n special n cazul proceselor rapid variabile) n care contribuia datelor anterioare
n =1
182
4/18
Deponderarea prea drastic a datelor implic deteriorarea sensibil a preciziei modelului de identificare,
Ferestre
Ferestre de
de culisare
culisare frecvent
frecvent utilizate
utilizate n
n aplicaiile
aplicaiile de
de IS
IS
Exponenial
Dreptunghiular
M
Fereastr
exponenial
N-n
Orizont de
msur
Factor
Factor de
de
def
uitare
uitare
wN [ n] = N n
n N
Exerciii
Exerciii
Fereastr
dreptunghiular
w M,N
** De
De regul
regul
[0.95 , 1]
MCMMP
-R (relaii recursive,
MCMMP-R
MVI
-R
MVI-R
algoritm eficient,
iniializare, consisten)
Orizont de
msur
1 , n N M + 1, N
wM , N [ n] =
0 , n 1, N M
def
183
5/18
Dac apare problema nlturrii complete a datelor nvechite, mai util este fereastra dreptunghiular,
care permite aplicarea unui factor de uitare total asupra datelor situate n afara deschiderii sale.
1 , n N M + 1, N
wM , N [ n] =
0 , n 1, N M
def
def
V ( ) = w M , N [ n ] [ n , ] =
2
n =1
2 [ n , ]
n = N M +1
MCMMP
MCMMP
off
-line
off-line
Pentru a deduce
k
k
= [ n]T [ n] [ n] y[ n]
k
n = k M +1
n = k M +1
expresia coreciei, se
adopt aceeai strategie
ca n cazul MCMMP-R.
k M
def
n = k M +1
[ n ] [ n ] =
T
k 1
[ n]T [ n] [ k M ]T [ k M ] + [ k ]T [ k ] =
n=k M
Pk11
= Pk11 [ k M ]T [ k M ] + [ k ]T [ k ] , k M + 1.
184
6/18
k 1
= P
=
n
y
n
P
[
n
]
y
[
n
]
[
k
M
]
y
[
k
M
]
[
k
]
y
[
k
]
[
]
[
]
k
k
k
=
n = k M +1
n=k M
Pk11 k 1
Pk11 = Pk1 + [ k M ]T [ k M ] [ k ]T [ k ]
= Pk Pk11 k 1 [ k M ] y[ k M ] + [ k ] y[ k ] =
= Pk ( Pk1 + [ k M ]T [ k M ] [ k ]T [ k ] ) k 1 [ k M ] y[ k M ] + [ k ] y[ k ]] =
= k 1 Pk [ k M ] y[ k M ] T [ k M ] k 1 + Pk [ k ] y[ k ] T [ k ] k 1 , k M + 1.
T
T
Aadar
Aadar k = k 1 Pk [ k M ] y[ k M ] [ k M ] k 1 + Pk [ k ] y[ k ] [ k ] k 1
** Corec
ia este
Corecia
este format
format din
din 22 termeni
termeni..
b ,k
Corecie
Corecie
aa priori
priori
backward
Corecie
Corecie
aa posteriori
posteriori
f ,k
k M +1
forward
def
Eroarea
de
predic
ie
a
posteriori
[ k ] = y[ k ] [ k ]
f
k 1
(prognoz n viitor).
dreptunghiular
dreptunghiular..
185
7/18
T
= P [ k M ] y[ k M ] T [ k M ]
[
]
[
]
[ k ] k 1
+
P
k
y
k
k 1
k
k k 1 k
k M +1
k = k 1 b ,k M b [ k M ] + f ,k f [ k ]
Cum poate fi optimizat
relaia recursiv?
k M +1
Prin
Prin aplicarea
aplicarea succesiv
succesiv,, de
de dou
dou ori
ori,,
P = P [ k M ] [ k M ] + [ k ] [ k ] aa lemei
lemei de
de inversare
inversare matricial
matricial..
k M +1
Pb,1k M (notaie natural)
** Acela
i rezultat
def
Acelai
rezultat se
se
T
1
1
P
ob
ine
plec
nd
de
la:
f , k = Pk 1 + [ k ] [ k ]
obine
plecnd
de
la:
Lema
Lema 4.8
4.8
c
a priori.
= Pk [ k ] Ctig de senzitivitate
a posteriori.
def
1
k
1
k 1
Pb ,k M = ( P
def
1
k 1
[ k M ] [ k M ] )
T
Pk 1[ k M ]T [ k M ]Pk 1
= Pk 1 +
1 T [ k M ]Pk 1[ k M ]
k M +1
d Lema
Lema 4.8
4.8
Pk = ( Pb,1k M + [ k ]T [ k ] ) = Pb ,k M
1
Pb ,k M [ k ]T [ k ]Pb ,k M
1 + T [ k ]Pb ,k M [ k ]
k M +1
186
8/18
Mai
Mai mult
mult
def
f ,k = Pk [ k ] = Pb ,k M [ k ]
Pb ,k M [ k ]T [ k ]Pb ,k M [ k ]
1 + T [ k ]Pb ,k M [ k ]
Lema
Lema 4.8
4.8
Pk = Pb ,k M
=
=
Pb ,k M [ k ]T [ k ]Pb ,k M
1 + T [ k ]Pb ,k M [ k ]
Pb ,k M [ k ] + Pb ,k M [ k ]T [ k ]Pb ,k M [ k ] Pb ,k M [ k ]T [ k ]Pb ,k M [ k ]
1 + T [ k ]Pb ,k M [ k ]
Pb ,k M [ k ]
1 + [ k ]Pb ,k M [ k ]
T
, k M + 1.
** Pentru
-al doilea
tig, ar
Pentru cel
cel de
de-al
doilea cctig,
ar trebui
trebui evaluat
evaluat::
Pf ,k = ( Pk11 + [ k ]T [ k ])
def
Algoritmul
Algoritmul adaptiv
adaptiv al
al Celor
Celor Mai
Mai Mici
Mici Ptrate
Ptrate cu
cu fereastr
fereastr dreptunghiular
dreptunghiular
0
Ini
ializare
Iniializare
M
M
MCMMP
-line M = [ n] [ n] [ n] y[ n]
MCMMP off
off-line
n =1
n =1
PM
187
9/18
Algoritmul
Algoritmul adaptiv
adaptiv al
al Celor
Celor Mai
Mai Mici
Mici Ptrate
Ptrate cu
cu fereastr
fereastr dreptunghiular
dreptunghiular
(final)
(final)
Bucl
Bucl iterativ
iterativ
T
T Pentru
Pentru k M + 1
b [ k M ] = y[ k M ] T [ k M ] k 1 (a priori)
c
ie curente
c Se
Se evalueaz
evalueaz erorile
erorile de
de predic
predicie
curente::
[ k ] = y[ k ] T [ k ] (a posteriori)
k 1
d
d Se
Se evalueaz
evalueaz vectorul
vectorul auxiliar
auxiliar:: k = Pk 1[ k M ]
e
matricea:: Pb ,k M = Pk 1 +
e Se
Se evalueaz
evalueaz matricea
1 T [ k M ] k
T
k k
f
f Se
Se reactualizeaz
reactualizeaz vectorul
vectorul auxiliar
auxiliar:: k = Pb ,k M [ k ]
Exerciiu
-R
MVI-R
Exerciiu MVI
(deducerea relaiilor
recursive, algoritmul
eficient, iniializare)
k
=
g
tigul de
g Se
Se evalueaz
evalueaz cctigul
de senzitivitate
senzitivitate aa posteriori:
posteriori: f ,k
1 + T [ k ]
T
h
-covarian aa erorii
h Se
Se reactualizeaz
reactualizeaz matricea
matricea de
de auto
auto-covarian
erorii de
de estimare
estimare:: Pk = Pb ,k M f ,k k
i
tigul de
i Se
Se evalueaz
evalueaz cctigul
de senzitivitate
senzitivitate aa priori:
priori: b ,k M = Pk [ k M ]
j
i: k = k 1 b ,k M f [ k M ] + f ,k f [ k ]
j Se
Se reactualizeaz
reactualizeaz vectorul
vectorul parametrilor
parametrilor estima
estimai:
k
k Se
Se incrementeaz
incrementeaz indicele
indicele curent
curent:: k k + 1
Date
ire
Date de
de ie
ieire
{ }
k
kN
Parametrii
i
Parametrii modelului
modelului reactualiza
reactualizai
la
la fiecare
fiecare pas
pas de
de adaptare
adaptare..
** Complexitatea
Complexitatea
algoritmului
algoritmului aa
crescut
crescut..
188
10/18
bogat (m{1,2,,M):
se determin parametrii modelului ales, m;
se evalueaz precizia modelului (V (m) sau P(m)).
Organizarea
experimentului
econometric
Achiziia i
prelucrarea
primar a datelor
U
Y
Alegerea clasei
de modele de
identificare
M ()
Alegerea
metodei de
identificare
Alegerea
modelului de
identificare
M ()
indicele structural al
modelului (parametric)
m = n
Alegerea modelului
adecvat datelor
achiziionate
Alegerea modelului
adecvat datelor
achiziionate
M (o)
NU
Criteriul aplatizrii
erorii ptratice
Criteriul descreterii
relative normalizate
DA
Model valid
M (o)
** Acesta
Acesta constituie
constituie nucleul
nucleul experimentului
experimentului de
de identificare
identificare..
Teste ((criterii)
criterii)
de adecvan
adecvan
Validarea
modelului
Experiment de
identificare
Modele de identificare de acelai tip, dar de diferite structuri sunt mai nti
determinate i apoi comparate ntre ele, n vederea alegerii celui adecvat.
Criteriul de
penalizare FPE
Criteriile lui
Akaike-Rissanen
Criteriul gradului
de potrivire
** Supra
-parametrizarea
Supra-parametrizarea
este
i preferabil
este totu
totui
preferabil
sub
-parametrizrii.
sub-parametrizrii.
Criteriul reprezentrii
poli-zerouri
Nici
perfect. Unele
Nici unul
unul dintre
dintre aceste
aceste criterii
criterii nu
nu este
este perfect.
Unele criterii
criterii tind
tind s
s
sub
-parametrizeze modelele
-parametrizeze.
sub-parametrizeze
modelele,, iar
iar altele
altele s
s le
le supra
supra-parametrizeze.
189
11/18
Criteriul
Criteriul aplatizrii
aplatizrii erorii
erorii ptratice
ptratice
VN ( ) = ( y [ n] [ n] )
def N
AN
** Datorit
Datorit Principiului
Principiului parsimoniei
parsimoniei,,
modelul
n mod
modelul adecvat
adecvat nu
nu are
are n
mod necesar
necesar
structura
a cum
structura cea
cea mai
mai complex
complex,, aaa
cum
sugereaz
.
sugereaz ii criteriul
criteriul de
de adecvan
adecvan.
n =1
y y y
(date staionarizate)
( )
def
mo
A N [ n] = VN N = N 2N [ n]
Criteriul
Criteriul descreterii
descreterii relative
relative normalizate
normalizate
2N [ n] 2N [ n + 1]
F N [ n] =
2 [ n + 1]
def
Testul de
adecvan
F N [ n] 4 / N
(
( Testul
Testul FF din
din
Statistic
Statistic..
** Adaptiv
n func
ie de
Adaptiv,, n
funcie
de
dimensiunea
dimensiunea
orizontului
orizontului de
de msur
msur..
190
12/18
Criteriul
Criteriul de
de penalizare
penalizare FPE
FPE
def
N + n
FPE N [ n] = 2N [ n]
N n
Criteriile
-Rissanen
Criteriile lui
lui Akaike
Akaike-Rissanen
FPEN
2 n
2
AIC
n
n
+
[
]
ln
[
]
Akaike
Akaike
N
N
N
def
mo
** Penalizare
Penalizare compus
compus..
AICN
nN
** Palierul
are dimensiune
dimensiune mai
mai mic
mic,, dar
dar diminuarea
diminuarea
Palierul are
sa
nc posibil
n vederea
terii vitezei
vitezei de
sa este
este nc
posibil,, n
vederea cre
creterii
de
convergen
aa algoritmului
convergen
algoritmului de
de optimizare
optimizare..
mo
* Diminuare sensibil a
dimensiunii palierului.
palierului.
Hirotugu Akaike
(1967)
191
13/18
Criteriile
-Rissanen (final)
Criteriile lui
lui Akaike
Akaike-Rissanen
(final)
def
2 n
Akaike
Akaike
GAICN [ n] = ln 2N [ n] +
N
generalizat
generalizat
N
* Criterii cu tendin
tendin de
supra-parametrizare.
supra-parametrizare.
N = ln N Rissanen
Generalizare
Generalizare care
care conduce
conduce la
la un
un
model
model de
de complexitate
complexitate minimal
minimal
(conform
).
parsimoniei).
(conform Principiului
Principiului parsimoniei
Jorma Rissanen (1978)
nN
Criteriul
) cu
Criteriul gradului
gradului de
de potrivire
potrivire (al
(al concordanei
concordanei)
cu procesul
procesul
def
Grad
Grad de
de E [ n] = 100 1
N
potrivire
potrivire
(fitness)
nopt = argmax E N [ n]
nN
]
[
,
(teoretic)
n =1
[%]
(
n
procente
.
( n procente.
2
1 N
y[ n] y[ n]
Indicele
Indicele structural
structural optim
optim se
se
N n =1
alege
n palier
alege la
la intrarea
intrarea n
palier..
N
n =1
(practic)
192
14/18
Criteriul
-zerouri
Criteriul reprezentrii
reprezentrii poli
poli-zerouri
n cazul modelelor de identificare de tip raional, polii i zerorurile funciilor de sistem (transfer)
** Poate
testat ii stabilitatea
stabilitatea modelului
modelului..
Poate fifi testat
193
15/18
Organizarea
experimentului
econometric
Validarea
modelului
Achiziia i
prelucrarea
primar a datelor
U
Y
Alegerea clasei
de modele de
identificare
M ()
Alegerea
metodei de
identificare
Alegerea
modelului de
identificare
M ()
Alegerea modelului
adecvat datelor
achiziionate
M (o)
NU
Validarea
modelului
DA
Model valid
M (o)
P ((
**)
u [n]
+
-
M ((
oo)
** Metodele
testele) de
Metodele ((testele)
de validare
validare
depind
depind de
de metodele
metodele de
de
identificare
identificare utilizate
utilizate..
y [n]
[n,o]
yM [n,o]
def
[ n, o ] = y[ n] yM [ n, o ]
eroarea dintre proces i model
Metodele
Metodele abordate
abordate n
n acest
acest curs
curs
Testul de albire pentru
modelele determinate
cu ajutorul MCMMP
Extrem
Extrem de
de important
important
Validarea
Validarea unui
unui model
model de
de identificare
identificare trebuie
trebuie s
s se
se efectueze
efectueze pe
pe un
un
alt
t cel
alt set
set de
de date
date dec
dect
cel utilizat
utilizat pentru
pentru determinarea
determinarea modelului
modelului..
194
16/18
Teste de albire?
Tehnic
n cazul
Tehnic prin
prin care
care se
se poate
poate detecta
detecta dac
dac un
un semnal
semnal (care,
(care, n
cazul validrii
validrii,, depinde
depinde de
de
eroarea
) are
eroarea dintre
are caracteristicile
caracteristicile unui
unui zgomot
zgomot alb
alb normal
normal distribuit
distribuit..
dintre model
model ii proces
proces)
Testul
Testul de
de albire
albire pentru
pentru modelele
modelele identificate
identificate
cu
cu ajutorul
ajutorul MCMMP
MCMMP
Se
Se aplic
aplic direct
direct erorii
erorii dintre
dintre model
model ii proces
proces,,
folosind
folosind setul
setul de
de date
date de
de validare
validare..
Testul
Testulideal
idealde
dealbire
albire
def
N =
lim E [ n, N ] [ n k , N ] = 0
-3
k N
+3 [n,]
0
N
parametru precizat
ulterior
** Deschidere
Deschidere adaptat
adaptat la
la dimensiunea
dimensiunea
orizontului
orizontului de
de msur
msur..
Etapele
Etapele testului
testului practic
practic de
de albire
albire
N
1
[ n, N ] [ n k , N ]
c Se calculeaz secvena de auto-covarian a erorii de predicie: r [ k ] =
N k n = k +1
def
r [k ]
N
k 0,
d Se calculeaz secvena de auto-corelaie a erorii de predicie: [ k ] =
r [0]
4
def
** Limitat
Limitat la
la un
un sfert
sfert din
din dimensiunea
dimensiunea orizontului
orizontului de
de msur
msur..
195
17/18
Testul
Testul de
de albire
albire pentru
pentru modelele
modelele identificate
identificate cu
cu ajutorul
ajutorul MCMMP
MCMMP (final)
(final)
Etapele
continuare)
Etapele testului
testului practic
practic de
de albire
albire ((continuare)
e Se evaluleaz numrul de valori ale lui n fiecare din intervalele de ncredere de mai jos:
Intervale i nivele de ncredere tipice pentru validarea modelelor.
[ ,+ ]
2.17 2.17
N ,+ N
1.96 1.96
,+
N
N
1.808 1.808
,+
N
N
N ( )
97%
95%
93%
3
3
3
N ( ) N ( )
Nivel 0: nici unul din cele 3 Teste de albire nu este pozitiv (model i/sau
metod de identificare invalide).
Nivel 1: doar unul din cele 3 Teste de albire este pozitiv (model i/sau metod
de identificare la limita de validitate).
Nivel 2: dou din cele 3 Teste de albire sunt pozitive (model i/sau metod de
identificare valide, dar cu validitate limitat; pentru anumite tipuri de
intrri, modelul s-ar putea s nu funcioneze corect).
Nivel 3: toate cele 3 Teste de albire sunt pozitive (model i/sau metod de
identificare valide, cu validitate extins la majoritatea covritoare a
tipurilor de intrri).
196
18/18
Testul
Testul de
de albire
albire pentru
pentru modelele
modelele identificate
identificate cu
cu ajutorul
ajutorul MVI
MVI
Eroarea
ire sta
ionarizate.
Eroarea dintre
dintre model
model ii proces
proces nu
nu trebuie
trebuie s
s fie
fie corelat
corelat cu
cu datele
datele de
de ie
ieire
staionarizate.
Testul
Testul ideal
ideal de
de albire
albire
k N
def
lim E [ n, N ] y N [ n k ] = 0
y N [ n] = T [ n] N E T [ n] N
Etapele
Etapele testului
testului practic
practic de
de albire
albire
N
1
[ n, N ] y N [ n k ]
c Se calculeaz secvena de covarian ncruciat : r, y N [ k ] =
N k n = k +1
def
def
r , y N [ k ]
N
k 0,
r [0] ry N [0]
4
e Se evaluleaz numrul de valori ale lui n fiecare din intervalele de ncredere definite de
acelai tabel ca n testul de albire pentru modelele determinate cu ajutorul MVMMP.
197