Documente Academic
Documente Profesional
Documente Cultură
Exemplu
Exemplu
ARMAX[na,nb,nc
]
ARMAX[na,nb,nc]
T def
u[ n 1] u[ n 2] " u[ n nb]
...
[ n] = y[ n 1] y[ n 2] " y[ n na ]
3 componente,
... e[ n 1] e[ n 2] " e[ n nc ]]
ca i vectorul parametrilor
T def
Ultima
Ultima component
component
b1 b2 " bnb
c1 c2 " cnc
= a1 a2 " ana
nu
nu este
este msurabil
msurabil.. n N
161
2/19
Cazul
Cazul modelelor
modelelor ARMAX
ARMAX
P ((
**)
y[ n] = T [ n] + v[ n]
n N
n N
n = na + nb + nc DN = {( u[ n], y[ n])}n1, N
date msurate
Vectorul
Vectorul regresorilor
regresorilor fiind
fiind nemsurabil
nemsurabil,, se
se apeleaz
apeleaz la
la
strategia
n dou
strategia n
dou etape
etape care
care fundamenteaz
fundamenteaz MCMMPE
MCMMPE..
N = argmin V ( ) = ?
R n
= q
( q 1 )
k q k = A
)
min{n, n} max{na, nb, nc}
B (q )
(q )
= q q = B
y[ n] = T [ n] + v[ n]
C (q )
n N
~ ~** A q 1 y[n] = B q 1 u[n] + v[n]
P ((
)
( )
( )
162
n N
k 0
k 0
k =0
k =0
3/19
Aadar
Aadar
~ ~**
P ((
) y[ n] = T [ n] + v[ n]
(proces ARX aproximant)
n N
T def
[ n] = y[ n 1] y[ n 2] " y[ n n]
T def
b1 b2 " bn
= a1 a2 " a n
MCMMP
MCMMP sau
sau MVI
MVI
1
N =
N
1
[
]
[
]
n =1
N
N
u[ n 1] u[ n 2] " u[ n n]
n N
N
n =1
[ n] y[ n]
notaie unificatoare:
[ n]
[ n]
vectorul regresorilor
vectorul instrumentelor
( q 1 ) y[n] B
( q 1 ) u[n] = n,
v[n] y[n] T [n] N = A
N
N
N
def
def
[ n] = [ y[ n 1] y[ n 2] " y[ n na ]
T
...
...
eroare de predicie
cu un pas
(diferena dintre datele
utile msurate i cele
prognozate folosind
modelul de identificare)
163
4/19
MCMMPE
MCMMPE
1
N =
N
1
T
n
[
]
[
]
n =1
N
N
V ( N ) = y[ n] T [ n] N
N
n =1
N 2N
n
y
n
[
]
[
]
(parametri estimai)
n =1
(1/precizie)
Dac
ia este
Dac perturba
perturbaia
este un
un zgomot
zgomot alb
alb cu
cu dispersie
dispersie necunoscut
necunoscut..
N {N , N na nb nc}
Polinoamele necunoscute
necunoscute A
A,, B
B ii C
C
)
sugereaz
ar
ar trebui
trebui s
s rezulte
rezulte prin
prin
sugereaz
1
1
1
) = q q = B q
B
q
=
C
q
B
q
(
)
(
)
(
)
(
)
)
identificarea
ilor.
identificarea coeficien
coeficienilor.
A ( q 1
C (q
B ( q 1
C (q
k 0
k 0
k =0
k =0
Ce se poate face?
Se
-soluie,
Se caut
caut oo pseudo
pseudo-soluie,
folosind
folosind tot
tot MCMMP
MCMMP..
T
=
=
monic
monic
R ( n+ n+ 2 nc )( na + nb + nc )
n+ n+ 2 nc
T (parametri
estimai)
i (1/precizie)
V ( ) = T Q
Teorema
Teorema 4.1
4.1
164
5/19
165
6/19
Aceasta este una dintre cele mai generale metode de identificare fundamental.
Ca i MCMMPE, ea se adreseaz modelelor din clasele ARMAX i RSISO care au
vectorul regresorilor nemsurabil, dar este mult mai precis (i mai complex).
Strategia general de identificare cu ajutorul MMEP const (tot) n dou etape:
Iniializarea algoritmului iterativ de la etapa urmtoare (eventual folosind MCMMPE).
Determinarea iterativ a parametrilor originali ai modelului cu ajutorul unei metode
bazate pe TO (de exemplu: MGN sau, mai general, MNR).
nlocuit de
Dac MGN
MGN este
este nlocuit
de MNR
MNR
n acest curs, vor fi utilizate metodele: MCMMPE i MGN. Dac
Minimizarea Erorii de Predicie?
Metoda
Metoda de
de Regresie
Regresie
Pseudo
-Liniar ((MRPL)
MRPL)
Pseudo-Liniar
def
Numele
1
Numele provine
provine de
de la
la criteriul
criteriul de
de optimizare
optimizare,, care
care este
este exprimat
exprimat
V
=
(
)
N
prin
prin dispersia
dispersia erorii
erorii dintre
dintre model
model ii proces
proces pe
pe orizontul
orizontul de
de msur
msur..
N
Aadar
Minimizarea criteriului
criteriului ptratic
ptratic revine
revine
Aadar Minimizarea
la
la minimizarea
minimizarea dispersiei
dispersiei erorii
erorii de
de
predic
ie pe
predicie
pe orizontul
orizontul de
de msur
msur..
[ n, ]
2
n =1
R n
Eroare
Eroare de
de predicie
predicie [ n, ] = y[ n] T [ n]
(cu
(cu un
un pas)
pas)
n N
valoare prognozat
n
n cazul
cazul modelelor
modelelor
(predictat) folosind
de
de regresie
regresie liniar
liniar..
modelul de identificare
Pentru
Pentru aa genera
genera prin
prin simulare
simulare valoarea
valoarea curent
curent
A
A se
se vedea
vedea cum
cum arat
arat
aa ie
irii procesului
ieirii
procesului,, sunt
sunt utilizate
utilizate numai
numai date
date
vectorul
vectorul regresorilor
regresorilor..
msurate
166
msurate la
la momente
momente anterioare
anterioare celui
celui curent
curent..
7/19
Algoritmul
ie
Algoritmul generic
generic al
al Minimizrii
Minimizrii Erorii
Erorii de
de Predic
Predicie
Ini
ializare
Iniializare
N ,0 R n
0 R
k =0
Bucl
Bucl iterativ
iterativ
Se
ia specific
Se utilizeaz
utilizeaz itera
iteraia
specific
din
din cadrul
cadrul MGN
MGN..
Se
ia optimului
Se reactualizeaz
reactualizeaz aproxima
aproximaia
optimului
1
N ,k +1 = N ,k
T
N
N
k [ n, N ,k ] [ n, N ,k ] [ n, N ,k ][ n, N ,k ]
n =1
n =1
R N1,k
k k +1
rN ,k
Se
Se reactualizeaz
reactualizeaz pasul
pasul variabil
variabil k +1 = k +
NU
k R
1
N ,k
rN ,k <
DA
rNT ,k +1 R N1,k rN ,k
rNT ,k R N1,k R N ,k +1 R N1,k rN ,k
Date
ire
Date de
de ie
ieire
N ,k +1
aproximaia de precizie
k +1
numrul de
iteraii efectuate
167
8/19
MMEP
MMEP aplicat
aplicat modelului
modelului general
general de
de tip
tip ARMAX
ARMAX [[z{{{
z{{{]]
P ((
**)
y[ n] = T [ n] + v[ n]
n N
n N
M (()
)
y[ n] = T [ n] + [ n, ]
n N
n N
Algoritmul
rii Erorii
ie
Minimiz
Predic
Algoritmul generic
generic al
al Minimiz
Minimizrii
Erorii de
de Predic
Predicie
def N
Problema
Problema este
este de
de aa determina
determina R N ,k = [ n, N ,k ] [ n, N ,k ]
n =1
valorile
ie ii
valorile erorii
erorii de
de predic
predicie
def N
ale
ale gradientului
gradientului acesteia
acesteia pentru
pentru
rN ,k = [ n, N ,k ][ n, N ,k ]
itera
ia
curent
.
iteraia curent.
n =1
predicie,
ie, cel pu
puin derivabile)
derivabile)
= f [ n, ] (expresia erorii de predic
T
Ini
ializare
Ini
Iniializare
N ,0 R n
0 R
k =0
Bucl?
? iterativ?
?
Bucl
iterativ
Bucl?
iterativ?
1
N , k +1 = N , k k [ n, N ,k ] [ n, N ,k ] [ n, N ,k ][ n, N ,k ]
n =1
n =1
NU
R N1,k
k k +1
Se
? pasul
reactualizeaz
Se reactualizeaz?
reactualizeaz?
pasul variabil
variabil k +1 = k +
Ar
Ar putea
putea fifi utilizat
utilizat ecuaia
ecuaia
modelului
modelului de
de identificare
identificare,, cu
cu
parametrii
parametrii curent
curent estimai
estimai..
Se
? itera
ia specific?
?
utilizeaz
itera
specific
Se utilizeaz?
utilizeaz?
iteraia
specific?
din
MGN
din cadrul
cadrul MGN.
MGN..
Se
? aproxima
ia optimului
reactualizeaz
aproxima
Se reactualizeaz?
reactualizeaz?
aproximaia
optimului
k R N1, k rN , k <
DA
rN ,k
rNT ,k +1 R N1, k rN ,k
rNT ,k R N1,k R N , k +1 R N1,k rN ,k
Date
ire
ie
Date de
de ie
ieire
N ,k +1
aproxima
aproximaia de precizie
k +1
num?
num?rul de
itera
iteraii efectuate
N
N
[ n, N ,k ] = y[ n] + a1,k y[ n 1] + " + a na ,k y[ n na ]
( q 1 ) y[n] = B
( q 1 ) n,
( q 1 ) u[n] + C
A
N ,k
N ,k
N ,k
N ,k
n N
Ini
ializare
Iniializare
] = u[ n] = y[ n] = 0
[
,
N ,k
cauzal
cauzal
n 0
n N
168
9/19
MMEP
MMEP aplicat
aplicat modelului
modelului general
general de
de tip
tip ARMAX
ARMAX [[zz{{
zz{{]]
Nimic
mpiedic derivarea
iei care
Nimic nu
nu mpiedic
derivarea ecua
ecuaiei
care
produce
ia recursiv
ie.
produce rela
relaia
recursiv aa erorii
erorii de
de predic
predicie.
Dar gradientul?
n, N ,k
y[n i ] = C N ,k ( q )
ai
1
( q 1 ) y[n] = B
( q 1 ) u[n] + C ( q 1 ) n,
A
N ,k
N ,k
N ,k
N ,k
n N
i 1, na
n, N ,k = y[ n i ] c1,Nk
n 1, N ,k " cncN ,k
n nc, N ,k
ai
ai
ai
0 = u[n j ] + C N ,k ( q 1 )
n, N ,k
b j
j 1, nb
i 1, na
Ecua
ii recurente
Ecuaii
recurente pentru
pentru determinarea
determinarea
componentelor
componentelor gradientului
gradientului..
n N
n, N ,k = u[ n j ] c1,Nk
n 1, N ,k " cncN ,k
n nc, N ,k
b j
b j
b j
0 = n l , N ,k + C N ,k ( q 1 )
n, N ,k
cl
l 1, nc
j 1, nb
Ini
ializare
Iniializare
n, N ,k = n, N ,k = u[n] = y[n] = 0
cauzal
cauzal
n 0
l 1, nc
n, N ,k = n l , N ,k c1,Nk
n 1, N ,k " cncN ,k
n nc, N ,k
cl
cl
cl
169
10/19
MMEP
MMEP aplicat
aplicat modelului
modelului general
general de
de tip
tip ARMAX
ARMAX [[zzz{
zzz{]]
Exemplu
Exemplu
k N
Primele
Primele 33 iteraii
iteraii ale
ale relaiilor
relaiilor recursive
recursive la
la pasul
pasul curent
curent de
de aproximare
aproximare
1, N ,k = y[1]
1, N ,k = 0
1, N ,k = 0
1, N ,k = 0
b j
cl
ai
2, N ,k = u[2 j ] c1,Nk
1, N ,k = u[2 j ]
b j
b j
3, N ,k = y[3] + a1,Nk y[2] + a 2,N k y[1] b1,Nk u[2] b2,Nk u[1]
c1,Nk 2, N ,k c2,N k 1, N ,k
2, N ,k = y[2 i ] c1,Nk
1, N ,k = y[2 i ]
ai
ai
2, N ,k = 2 l , N ,k c1,Nk
1, N ,k =
cl
cl
n=2
= 2 l , N ,k
3, N ,k = y[3 i ] c1,Nk
2, N ,k
ai
ai
3, N ,k = u[3 j ] c1,Nk
2, N ,k c2,N k
1, N ,k =
b j
b j
b j
c2,N k
3, N ,k = 3 l , N ,k c1,Nk
2, N ,k c2,N k
1, N ,k =
cl
cl
cl
n=3
= 3 l , N ,k + c1,Nk 2 l , N ,k
n =1
1/precizie
1/precizie
1
V N ,k =
N
n =1
N 2N ,k v za (0, 2 )
n, N ,k
170
11/19
MMEP
MMEP aplicat
aplicat modelului
modelului general
general de
de tip
tip ARMAX
ARMAX [[zzzz
zzzz]]
Ct de precis este aceast metod?
Precizia
Precizia este
este ridicat
ridicat,, dar
dar afectat
afectat de
de 22 surse
surse importante
importante de
de eroare
eroare::
Iniializrile parametrilor i ale relaiilor recursive prin intermediul crora
se estimeaz eroarea de predicie i gradientul.
Aproximarea matricii Hessiene operat n cadrul MGN.
Consistena estimaiilor?
Teorema
Cosnsistena estima
iei oferite
)
Teorema 4.7
4.7 ((Cosnsistena
estimaiei
oferite de
de MMEP
MMEP pentru
pentru modelele
modelele ARMAX
ARMAX)
Se consider c modelul ARMAX[na,nb,nc] verific urmtoarele ipoteze:
lim lim N ,k =
separat
).
separat pentru
pentru acestea
acestea (de
(de exemplu
exemplu ARMA
ARMA).
N k
171
12/19
Paradigma
-precizie n
n IS
Paradigma adaptabilitate
adaptabilitate-precizie
IS
Majoritatea proceselor furnizoare de date sunt neliniare i/sau posed parametri variabili n timp.
Identificarea proceselor cu parametri variabili n timp se realizeaz cu ajutorul
modelelor i metodelor adaptive (recursive).
Prin identificarea adaptiv, se urmrete asigurarea
unui compromis ntre dou caracteristici opuse ale
estimaiei parametrilor necunoscui
(variabili pe orizontul de msur):
Adaptabilitate
Precizie
Principiul
Principiul metodelor
metodelor adaptive
adaptive
Estima
ia vectorului
Estimaia
vectorului parametrilor
parametrilor
necunoscu
i se
necunoscui
se reactualizeaz
reactualizeaz folosind
folosind
datele
datele msurate
msurate pe
pe orizontul
orizontul de
de adaptare
adaptare..
Caracteristici
model adaptiv
k
K
K
k 1
K
K
k
K
K
k N
Corecie
Corecie
Ko
Dimensiune
Optim orizont de adaptare
Adaptabilitatea
n timp
Adaptabilitatea scade
scade,, n
timp ce
ce
precizia
te odat
precizia cre
crete
odat cu
cu dimensiunea
dimensiunea
orizontului
orizontului de
de adaptare.
adaptare.
Cu
t se
ioneaz mai
ntre momentele
t adaptarea
Cu cct
se achizi
achiziioneaz
mai multe
multe date
date ntre
momentele de
de reactualizare,
reactualizare, cu
cu at
att
adaptarea se
se efectueaz
efectueaz
mai
odelul fiind
iile caracteristicilor
ntre aceste
mai rar
rar,, m
modelul
fiind incapabil
incapabil s
s surprind
surprind varia
variaiile
caracteristicilor procesului
procesului ntre
aceste momente.
momente.
n
n schimb,
te, ddeoarece
eoarece parametrii
schimb, precizia
precizia modelului
modelului cre
crete,
parametrii si
si
sunt
i cu
sunt determina
determinai
cu ajutorul
ajutorul unui
unui set
set mai
mai bogat
bogat de
de date.
date.
172
13/19
Paradigma adaptabilitate-precizie n IS
Exemplu
Cazul parametrului
parametrului scalar,
scalar, variabil
variabil n
n timp
timp..
Exemplu Cazul
Tub de varian larg
2K
3K
K =?
Se
n
Se sacrific
sacrific precizia
precizia n
favoarea
ii.
favoarea adaptabilit
adaptabilitii.
*
^
0 K 2K3K
K =1
k = k 1 + k
k N
173
14/19
Paradigma adaptabilitate-precizie n IS
Metodele
Metodele abordate
abordate n
n acest
acest curs
curs
Metoda Celor Mai Mici Ptrate
Recursiv (MCMMP-R)
MCMMP-R cu fereastr
exponenial (MCMMP-R)
MCMMP-R cu fereastr
dreptunghiular (MCMMP-R )
MVI-R cu fereastr
dreptunghiular (MVI-R )
Alte
)
Alte metode
metode adaptive
adaptive (de
(de precizie
precizie i
i complexitate
complexitate ridicate
ridicate)
Metode de Gradient
Recursive (M-R)
MMEP Recursiv
(MMEP-R)
MCMMPE Recursiv
(MCMMPE-R)
MRPL Recursiv
(MRPL-R)
Metoda Kalman-Bucy
(MKB)
Strategia
Strategia
general
general
Expresia
iei pentru
on-line) va
Expresia general
general aa corec
coreciei
pentru metoda
metoda recursiv
recursiv ((on-line)
va fifi dedus
dedus
plec
nd de
iei din
off-line).
plecnd
de la
la expresia
expresia final
final aa estima
estimaiei
din metoda
metoda nerecursiv
nerecursiv ((off-line).
174
15/19
Paradigma adaptabilitate-precizie n IS
k = k 1 + k
Acest
Acest rezultat
rezultat remarcabil
remarcabil se
se datoreaz
datoreaz n
n realitate
realitate IE
IE,, care
care
permite
permite aproximarea
aproximarea mediei
mediei statistice
statistice cu
cu oo medie
medie temporal
temporal
exprimat
exprimat prin
prin intermediul
intermediul unei
unei sume
sume..
k N
De
De asemenea
asemenea
Eficien
a crescut
Eficiena
crescut aa algoritmilor
algoritmilor adaptivi
adaptivi de
de identificare
identificare se
se datoreaz
datoreaz unui
unui rezultat
rezultat din
din Teoria
Teoria Matricilor
Matricilor..
Lema
Inversarea matricilor
-Morrison)
Lema 4.8
4.8 ((Inversarea
matricilor modificate
modificate aditiv
aditiv de
de un
un produs
produs exterior)
exterior) (Sherman
(Sherman-Morrison)
Fie A R nn o matrice inversabil i b R , c R doi vectori cu dimensiunile egale
n
Demonstra
ie
Demonstraie
Exerciiu
Exerciiu
(prin verificare
direct)
Caz
Caz
particular
particular
b=c
( A + bb )
T
1
T
1
A
bb
A
= A 1
1 + bT A 1b
Dac
Dac inversa
inversa unei
unei matrici
matrici este
este deja
deja evaluat
evaluat,, prin
prin adugarea
adugarea unui
unui produs
produs exterior
exterior la
la
matricea
matricea original
original,, rezult
rezult oo nou
nou matrice
matrice aa crei
crei invers
invers poate
poate fifi evaluat
evaluat
fr
).
fr aa efectua
efectua inversarea
inversarea explicit
explicit aa acesteia
acesteia (se
(se efectueaz
efectueaz doar
doar inversarea
inversarea unui
unui scalar
scalar).
175
16/19
MCMMP/MVI
-line)
MCMMP/MVI recursiv
recursiv (on
(on-line)
MCMMP
off-line)
MCMMP nerecursiv
nerecursiv ((off-line)
Pentru
Pentru orice
orice model
model de
de regresie
regresie liniar
liniar..
k
k
T
k = [ n] [ n] [ n] y[ n]
n =1
n =1
P( N ) = 2 [ n]T [ n]
n =1
k N
Pk
def
k 1
n =1
1
k 1
[ k ] , k N .
n =1
P0 R nn
k 1
k
= P [ n] y[ n] = Pk [ n] y[ n] + [ k ] y[ k ] = Pk Pk11 k 1 + [ k ] y[ k ] =
k
k
n =1
n =1
P 1
k 1 k 1
= Pk ( Pk1 [ k ]T [ k ] ) k 1 + [ k ] y[ k ] = k 1 + Pk [ k ] y[ k ] T [ k ] k 1 ,
k N .
0 R n
iniializare
prestabilit
176
T
Aadar
Aadar k = k 1 + Pk [ k ] y[ k ] [ k ] k 1
O
ie recursiv
O prim
prim rela
relaie
recursiv..
Ineficient, deoarece la fiecare pas
k N
Corecie
trebuie inversat o matrice.
k Corecie
[ k ] = y[ k ] [ k ] k 1
T
def
k = Pk [ k ]
17/19
k = k 1 + k [ k ]
k N
Pk = ( P
1
k 1
+ [ k ] [ k ] )
T
Pk 1[ k ]T [ k ]Pk 1
= Pk 1
1 + T [ k ]Pk 1[ k ]
k N
Efortul
Efortul de
de calcul
calcul efectuat
efectuat iniial
iniial
pentru
pentru inversare
inversare este
este conservat
conservat
de
-a lungul
de-a
lungul procesului
procesului recursiv
recursiv,,
adaptarea
adaptarea inverselor
inverselor necesitnd
necesitnd
numai
numai mprirea
mprirea la
la un
un scalar
scalar..
177
18/19
Mai
-o organizare
Mai mult
mult,, eficiena
eficiena metodei
metodei poate
poate crete
crete ii printr
printr-o
organizare judicioas
judicioas aa memoriei
memoriei..
Pk 1[ k ]
Pk 1[ k ] + Pk 1[ k ]T [ k ]Pk 1[ k ] Pk 1[ k ]T [ k ]Pk 1[ k ]
,
=
=
1 + T [ k ]Pk 1[ k ]
1 + T [ k ]Pk 1[ k ]
k N .
Iniializare?
Sumarul
iilor MCMMP
-R ((on
on line
)
Sumarul rela
relaiilor
MCMMP-R
line)
Eroarea
Eroarea de
de predicie
predicie
[ k ] = y[ k ] T [ k ] k 1
CCtigul
tigul de
de senzitivitate
senzitivitate
Pk 1[ k ]
k =
1 + T [ k ]Pk 1[ k ]
Matricea
-covarian aa
Matricea de
de auto
auto-covarian
erorii
erorii de
de estimare
estimare
Pk = Pk 1 k T [ k ]Pk 1
Vectorul
i
Vectorul parametrilor
parametrilor estima
estimai
k = k 1 + k [ k ]
k N
N0
N0
= [ n]T [ n] [ n] y[ n]
0
n =1
n =1
MCMMP
-line P
MCMMP off
off-line
0
178
19/19
Algoritmul
Algoritmul adaptiv
adaptiv al
al Celor
Celor Mai
Mai Mici
Mici Ptrate
Ptrate
Date
Date de
de intrare
intrare
Ini
ializare
Iniializare
DN0 = {[ n]}n1, N { y[ n]}n1, N (un set redus de date msurate, dac este posibil)
0
0
P0 R nn 0 R n
k =0
Bucl
Bucl iterativ
iterativ
T
T Pentru
Pentru k 1
T
Se
ie curent
Se evalueaz
evalueaz eroarea
eroarea de
de predic
predicie
curent:: [ k ] = y[ k ] [ k ] k 1
Se
Se evalueaz
evalueaz vectorul
vectorul auxiliar
auxiliar:: k = Pk 1[ k ]
=
Se
tigul de
k
Se evalueaz
evalueaz cctigul
de senzitivitate
senzitivitate::
1 + T [ k ] k
T
Se
-covarian aa erorii
Se reactualizeaz
reactualizeaz matricea
matricea de
de auto
auto-covarian
erorii de
de estimare
estimare:: Pk = Pk 1 k k
Se
i: k = k 1 + k [ k ]
Se reactualizeaz
reactualizeaz vectorul
vectorul parametrilor
parametrilor estima
estimai:
Se
Se incrementeaz
incrementeaz indicele
indicele curent
curent:: k k + 1
Date
ire
Date de
de ie
ieire
{ }
k
kN
Parametrii
i
Parametrii modelului
modelului reactualiza
reactualizai
la
la fiecare
fiecare pas
pas de
de adaptare
adaptare..
179