Metode de identificare i validare

.. Scurt
Scurt clasificare
clasificare

Metode

Bazate pe Teoria Optimizrilor

Metode care conduc la diferii algoritmi numerici
de identificare, de regul, eficieni i accesibili
implementrii pe un mijloc automat de calcul.
Metode specifice modelelor de complexitate i
precizie limitate, de preferat liniare n parametri.

1/20

Metode
Metode de
de
identificare
identificare

IS
Semnale
Semnale
de
destimul
stimul
Modele
Modele de
de
identificare
identificare

Bazate pe Toria Estimaiei

Metode dificil de implementat, n general
nealgoritmice, cu caracter mai mult teoretic.
Metode specifice modelelor de complexitate i
precizie ridicate, nu neaprat liniare n parametri,
cu performane statistice determinate.

Aceste
Aceste dou
dou categorii
categorii nu
nu sunt
sunt disjuncte
disjuncte,, deoarece
deoarece parametrii
parametrii nu
nu numai
numai c
c se
se pot
pot determina
determina
cu
i ii din
cu ajutorul
ajutorul unor
unor proceduri
proceduri numerice
numerice,, dar
dar pot
pot fifi caracteriza
caracterizai
din punct
punct de
de vedre
vedre statistic.
statistic.

Metode
Neadaptive (de tip off-line)
Folosite ori de cte ori parametrii modelului
matematic asociat sunt constani pe durata
orizontului de msur, adic nu necesit adaptri
succesive dictate de variaiile datelor
achiziionate.

Adaptive (de tip on-line)

Conduc, de regul, la algoritmi de timp real i se
adreseaz proceselor/sistemelor cu caracteristici
variabile n timp, crora trebuie s li se asocieze
modele cu parametri variabili, adaptai la
variaiile datelor achiziionate.

106

2/20

Metode de identificare i validare

.. Metoda
MCMMP)
Metoda Celor
Celor Mai
Mai Mici
Mici Ptrate
Ptrate ((MCMMP)

MCMMP se bazeaz pe Teoria regresiei liniare iniiat de Carl Gauss.

Beneficiind de un telescop destul de performant pentru acea epoc, Carl Gauss a observat i

notat timp de civa ani poziiile mai multor planete fa de Pamnt, calculnd apoi coordonatele
acestor poziii fa de Soare.
Planet
(Saturn)
Johannes Kepler
(1571-1630)

Carl Gauss
(1777-1855)
n
n pofida
pofida modelului
modelului de
de
sistem
sistem solar
solar propus
propus
intuitiv
intuitiv de
de Nicolaus
Nicolaus
Copernicus
Copernicus ii aa Teoriei
Teoriei
lui
lui Johannes
Johannes Kepler
Kepler
pozi
iile ob
inute nu
poziiile
obinute
nu se
se
situau
situau pe
pe oo elips
elips..

Poziie
observat
y[n]

Poziie
estimat
yKC[n,]

Nicolaus Copernicus
(1473(1473-1543)

Soare

Eroare
[n,]
parametrii elipsei (semiaxele sale)

107

Metode de identificare i validare

.

3/20

Metoda Celor Mai Mici Ptrate

Verificarea legilor lui Kepler-Copernicus impune ca toate poziiile observate ale planetei
(n numr de N) s se situeze pe o anumit elips.

y[ n] = y KC [ n, ]

Sistem de ecuaii din care ar trebui

n 1, N s rezulte parametrii elipsei.
Ce se poate face?
Sistemul
Sistemul este
este de
de regul
regul incompatibil
incompatibil,,
deoarece
ii este
deoarece numrul
numrul de
de ecua
ecuaii
este sensibil
sensibil
Se
ncearc
determinarea
Se ncearc determinarea
mai
t numrul
mai mare
mare dec
dect
numrul de
de parametri
parametri iar
iar
elipsei
care
trece
cel
mai
bine
elipsei care trece cel mai bine
pozi
iile rezultate
ii ii
poziiile
rezultate din
din observa
observaii
printre
toate
poziiile
observate
.
printre toate poziiile observate.
calcule
calcule sunt
sunt afectate
afectate de
de erori
erori..
Adic
Adic elipsa
elipsa ai
ai crei
crei parametri
parametri
minimizeaz
minimizeaz un
un criteriu
criteriu ptratic
ptratic..
def N

V ( ) = [ n, ] = ( y[ n] y KC [ n, ])
n =1

n =1

(eroarea ptratic total)

= argmin V ( )
R n

De
De aici
aici rezult
rezult numele
numele metodei
metodei..

Pentru rezolvarea problemei ptratice de optimizare, se poate apela la gradient (dac funcia

criteriu este derivabil i gradientul ei se exprim printr-o relaie explicit sau cel puin implicit)
sau la alte mijloace (dac, dintr-un motiv sau altul, aceasta nu permite evaluarea gradientului).

Aceast tehnic (propus de Gauss) se poate extinde i pentru gsirea altor modele optimale n
raport cu criteriul ptratic, plecnd de la un set de date msurate.
108

4/20

Metode de identificare i validare

.

Metoda Celor Mai Mici Ptrate

Exemplu
Evaluarea dreptei
dreptei de
de regresie
regresie liniar
liniar prin
prin metoda
metoda gradientului
gradientului
Exemplu Evaluarea
y

yN

an+b

C N = {( n, yn )}n1, N

Prin
Prin minimizarea
minimizarea erorii
erorii
ptratice
ptratice totale
totale..

yn

y1

N
= argmin V ( ) = argmin 2 [ n, a, b] =
aR , bR n =1
R 2

Eroare de
poziie
[n,a,b]
0

Cum pot fi determinai cei 2

parametri ai dreptei?

a V ( a, b) = 0
V ( a , b ) = 0
V ( a, b) = 0
b

N
2 n( yn an b) = 0
n =1
N
2 ( y an b) = 0
n

n =1

= argmin ( yn an b)2
aR , bR n =1

paraboloid de rotaie
Soluia
Soluia problemei
problemei de
de optimizare
optimizare se
se
gse
te anulnd
gsete
anulnd valorile
valorile gradientului
gradientului..
N

6
N

2
(
1)
=

+
a
ny
N
y
n

n
N ( N 2 1) n =1
n =1

N
N
2

b =
+

(2
1)
3
y
ny
N

n
n

(
1)
N
N
n =1
n =1

109

5/20

Metode de identificare i validare

.

Metoda Celor Mai Mici Ptrate

def

T
Soluia
Soluia general
general aa MCMMP
MCMMP n
n cazul
cazul modelelor
modelelor de
de regresie
regresie liniar
liniar yM [ n, ] = [ n ]
n N
def
[[z{{{{
z{{{{]]
T

yM [ n, ] = [ n]
n N
model
DN = {( [ n], y[ n])}n1, N
date

Criteriul ptratic

V ( ) = [ n, ] = ( y[ n] yM [ n, ]) = ( y[ n] T [ n] )
def N

def N

n =1

Y = [ y[1] y[2] " y[ N ]]T R N

n =1

Minim
Minim unic
unic..

Metoda ptratelor perfecte

Exerciiu
Exerciiu

Exerciiu
Exerciiu

Vectorul global al datelor de ieire msurate.

T [1] linii
T

def [2]
= " R N n
=
n ]
# [ 1 2
T

[
]
coloane

( ) = [ [1, ] [2, ] " [ N , ]] R N

T

Matricea regresorilor.

De
De regul
regul,, oo
matrice
matrice monic
monic..

rank() = n < N
coloane liniar independente

Vectorul erorilor de msur fa de model.

R n

Metoda gradientului
Metoda matricial
def

n =1

Metode
Metode de
de minimizare
minimizare

def

Tot
ie,
Tot un
un paraboloid
paraboloid de
de rota
rotaie,
dar
dar generalizat
generalizat..

110

6/20

Metode de identificare i validare

.

Metoda Celor Mai Mici Ptrate

Soluia
Soluia general
general aa MCMMP
MCMMP n
n cazul
cazul modelelor
modelelor de
de regresie
regresie liniar
liniar [[zz{{{
zz{{{]]
De ce matricea regresorilor este de regul monic?
Mul
imea matricilor
Mulimea
matricilor neinversabile
neinversabile
este
este mai
mai parsimonioas
parsimonioas..

Metoda
Metoda matricial
matricial

Completai la ntmplare o matrice de ordin 3.

Test
Test

Este aceast matrice inversabil?

Ce anse sunt ca ea s nu fie inversabil?
Paradoxal, tocmai perturbaiile stocastice care afecteaz datele msurate aduc matricea regresorilor
n stare de rang maxim.
Ecua
ii matriciale
Ecuaii
matriciale
def

def

YM = R N

yM [ n, ] = [ n]
T

n 1, N

def

Ecuaia global a modelului de regresie liniar.

def

( ) = Y R N

[ n, ] = y[ n] [ n ]
T

Eroarea global de model.

n 1, N
def N

V ( ) = [ n, ]
2

n =1

def

V ( ) = T ( )( ) = ( ) = ( Y )T ( Y ) = Y )
2

Criteriul
ptratic.

Teorema
Soluia general
)
Teorema 4.1
4.1 ((Soluia
general aa MCMMP
MCMMP)
Soluia problemei ptratice de optimizare este exprimat de urmtoarele ecuaii:
1
= ( T ) T Y ;
def

estimaie MCMMP

1
T
T
T

V ( ) = Y Y Y ( ) T Y .

1/precizie

111

7/20

Metode de identificare i validare

.

Metoda Celor Mai Mici Ptrate

Soluia
Soluia general
general aa MCMMP
MCMMP n
n cazul
cazul modelelor
modelelor de
de regresie
regresie liniar
liniar [[zzz{{
zzz{{]]
1
= ( T ) T Y
def

Aadar
Aadar

Pseudo
-inversa Moore
-Penrose
Pseudo-inversa
Moore-Penrose

V ( ) = YT Y YT ( T ) T Y
1

Practic, orice sistem liniar incompatibil:

Y =
cu matricea monic admite o
unic pseudo-soluie:
T Y = ( T )
T Y =
Inversabil
Inversabil..

V ( ) = Y T I N ( T ) T Y
1

Q R N N

Operator
Operator de
de deparazitare
deparazitare

Propriet
i elementare
Proprieti
elementare ale
ale operatorului
operatorului de
de deparazitare
deparazitare
Simetrie

Q = IN ( ) = Q
T

= ( T )1 T Y
Pozitiv (semi-definire)

Q = Q 2 = QT Q 0

De
i valoarea
Dei
valoarea optim
optim aa criteriului
criteriului
ptratic
-o diferen
, ea
ptratic se
se exprim
exprim printr
printr-o
diferen,
ea
este
teptat).
este nenegativ
nenegativ (cum
(cum era
era de
de aateptat).

Ortogonalitate fa de matricea regresorilor

Q = ( T )

( ) = 0 = Q
T

Operatorul este i proiector

Q = I N 2 ( ) + ( )
2

= I N ( T ) T = Q .
1

Metoda
Metoda matricial
matricial

( )( )
T

V ( ) = YT QY 0
T =

112

8/20

Metode de identificare i validare

.

Metoda Celor Mai Mici Ptrate

Soluia
Soluia general
general aa MCMMP
MCMMP n
n cazul
cazul modelelor
modelelor de
de regresie
regresie liniar
liniar [[zzzz{
zzzz{]]

Problema optimizrii folosind criteriul ptratic

Spa
iul Euclidian
Spaiul
Euclidian
al
al datelor
datelor
RN

se reformuleaz n termeni geometrici.

Este
Este practic
practic imposibil
imposibil ca
ca vectorul
vectorul
global
global al
al datelor
datelor s
s fie
fie generat
generat numai
numai
de
de coloanele
coloanele matricii
matricii regresorilor
regresorilor..

vectorul global
al datelor Y

Se
Se caut
caut vectorul
vectorul din
din hiperplanul
hiperplanul modelului
modelului de
de regresie
regresie
care
care este
este cel
cel mai
mai apropiat
apropiat de
de vectorul
vectorul datelor
datelor..
Adic
ia acestuia
Adic proiec
proiecia
acestuia pe
pe
hiperplanul
hiperplanul modelului
modelului de
de regresie
regresie..

Aadar
Aadar
Problema
iei
Problema revine
revine la
la determinarea
determinarea proiec
proieciei
vectorului
vectorului datelor
datelor pe
pe hiperplanul
hiperplanul modelului
modelului de
de
regresie
regresie,, adic
adic la
la minimizarea
minimizarea normei
normei erorii
erorii
dintre
iei sale.
dintre vectorul
vectorul de
de date
date ii al
al proiec
proieciei
sale.

<>

hiperplanul parazit
(imaginea operatorului
de deparazitare)

Metoda
Metoda matricial
matricial

Demonstra
ie geometric
Demonstraie
geometric aa Teoremei
Teoremei 4.1
4.1

R n
<>

^
Y

hiperplanul modelului de regresie

(generat de coloanele matricii regresorilor)

= QY
= Y Y

= T = YT QT QY = YT Q 2 Y = YT QY
(datorit
Eroarea
Eroarea minim
minim dintre
dintre cei
cei doi
doi vectori
vectori este
este un
un element
element al
al
proprietilor
hiperplanului
hiperplanului parazit
parazit,, ortogonal
ortogonal pe
pe hiperplanul
hiperplanul modelului
modelului de
de regresie
regresie..
113
operatorului Q)
2

9/20

Metode de identificare i validare

.

Metoda Celor Mai Mici Ptrate

Soluia
Soluia general
general aa MCMMP
MCMMP n
n cazul
cazul modelelor
modelelor de
de regresie
regresie liniar
liniar [[zzzzz
zzzzz]]
Metoda
Metoda matricial
matricial

Demonstra
ie ((Teorema
Teorema 4.1)
Demonstraie
4.1)

Urmeaz determinarea proieciei vectorului datelor.

Acesta este un element al hiperplanului modelului de regresie:

= = + + " + (combinaie liniar a coloanelor

Y
1 1
2 2
n n
matricii de regresie liniar)
coeficieni necunoscui
Pentru a determina coeficienii necunoscui, este suficient exprimarea condiiei de
ortogonalitate pe hiperplanul modelului de regresie, adic pe fiecare vector care l
genereaz:

) = 0, i 1, n
Ti = 0 Ti ( Y Y

1Ti 1 + 2 Ti 2 + " + n Ti n = Ti Y, i 1, n .

Matricial, sistemul rezultat se exprim astfel:

T1 1
T
21
#
T
n 1

T1 2
T2 2
#
Tn 2

1 T1
T1
" T1 n 1 T1 Y
T
T

" T2 n 2 T2 Y
2 2
2

1 2 " n =

=
Y
# 
#
%
# # #
 

#
T
T
T
T

" n n n Y
n
n
n
n
N
N
N
T

A
ceste interpretri
n condi
iile n
n
Aceste
interpretri de
de natur
natur geometric
geometric sunt
sunt valabile
valabile n
condiiile
care
n forma
care modelele
modelele matematice
matematice pot
pot fifi exprimate
exprimate n
forma de
de regresie
regresie liniar
liniar..

1
= ( T ) T Y

114

10/20

Metode de identificare i validare

.. Teorema
Teorema fundamental
fundamental aa MCMMP
MCMMP
Contextul
Contextul de
de lucru
lucru

P ((
**)

y[ n] = T [ n] + v[ n]
perturbaie stocastic
(zgomot de msur)

Modelul
Modelul este
este conform
conform cu
cu procesul
procesul

M (()
)

n N

y[ n] = T [ n] + [ n, ]
eroarea dintre
proces i model

[ n, ] = v[ n]

n N

n N

Modelul
perfect difer
Modelul perfect
difer de
de proces
proces
numai
numai prin
prin zgomotul
zgomotul de
de msur
msur..

Problema
n minimizarea
Problema const
const n
minimizarea erorii
erorii ptratice
ptratice globale
globale dintre
dintre proces
proces ii model
model pe
pe durata
durata orizontului
orizontului de
de
msur
ii aa vectorului
i din
msur,, pentru
pentru determinarea
determinarea unei
unei estima
estimaii
vectorului parametrilor
parametrilor necunoscu
necunoscui
din date
date experimentale
experimentale..
DN = {([ n], y[ n])}n1, N
N
N
2

= argmin V ( ) = argmin 2 [ n, ] = argmin ( y[ n] T [ n] )

R n
R n n =1
R n n =1

Teorema
Teorema 4.1
4.1

Cum pot fi totui implementate aceste relaii?

= ( T )1 T Y

V ( ) = YT Y YT ( T ) T Y
1

Rela
ii care
Relaii
care pot
pot fifi neimplementabile
neimplementabile dac
dac
dimensiunea
dimensiunea orizontului
orizontului de
de msur
msur este
este prea
prea mare.
mare.

Prin
Prin gruparea
gruparea convenabil
convenabil aa factorilor
factorilor,, astfel
astfel
nct
nct s
nd
s se
se opereze
opereze cu
cu vectori
vectori ii matrici
matrici av
avnd
dimensiunea
dimensiunea vectorului
vectorului parametrilor
parametrilor..

n < N

115

11/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

1
= ( T ) T Y

V ( ) = YT Y YT ( T ) T Y
1

T [1]
T
N
N
def
def

[2]
T
T
n n

2
2
T
R = = [ [1] [2] " [ N ]]
= [ n] [ n] R
N

=
Y
Y
=
y
[ n]

,
N
y
# n =1
n =1
T

[ N ] produsul exterior
dispersie estimat
y[1]
y[2] N
Matricea
Matricea i
i vectorul
vectorul de
de
def
= [ n] y[ n] R n
covarian
r = T Y = [ [1] [2] " [ N ]]
covarian aa datelor
datelor
#
n =1
def

1 T
1 N
T
T
R N = = [ n ] [ n] E {[ n] [ n]}
y[ N ]
N
N
n =1

def

rN =

1 T
1
Y=
N
N

[ n]

[ n] y[ n] E {[ n] y[ n]}

y[ n] = T [ n] + v[ n]

= ( E{[ n]T [ n]})

n =1

( E{[ n] y[ n]} E{[ n]v[ n]})

Formulele
Formulele de
de implementare
implementare ale
ale MCMMP
MCMMP
1

N
N

1
T
= R r = [ n] [ n] [ n] y[ n]
N = R N1rN =
n =1
n =1

N
V ( ) = N 2 rT R 1r

N,y

1
T

n
[
]
[
]

n =1
N
N

n
y
n
[
]
[
]

n =1

116

Metode de identificare i validare

.

12/20

Teorema fundamental a MCMMP

Teorema
Teorema fundamental
)
Teorema 4.2
4.2 ((Teorema
fundamental aa MCMMP
MCMMP)
Urmtoarele 3 ipoteze se consider verificate:
a. matricea este perfect determinist;
b. matricea R (sau RN) este strict pozitiv definit (adic inversabil) pentru toate
dimensiunile orizontului de msur suficient de mari;
c. perturbaia v aparine clasei za(0,2) (adic este un zgomot alb de medie nul i
dispersie necunoscut 2).
MCMMP ofer 3 estimaii remarcabile:
def
1 N 2
1 N
def
T
2

= T 1 T Y
T

[
]
[
]
[ n] N

=
v
n
=
y
n

N
v[ n] = y[ n] [ n] N
N
N n =1
N n =1

vectorul
zgomotul n N
dispersia zgomotului perturbator
parametrilor
perturbator
N {N n, N }

Acestea verific urmtoarele proprieti:

1. Estimaia vectorului parametrilor adevrai este nedeviat.
2. Matricea de auto-covarian a erorii de estimare pentru vectorul parametrilor
adevrai este egal cu:
1
P( N ) = 2 R 1 = 2 T

3. Estimaia vectorului parametrilor adevrai este consistent.

117

13/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

Teorema
Teorema fundamental
Teorema 4.2
4.2 ((Teorema
fundamental aa MCMMP
MCMMP final)
final)
4. Fie clasa estimaiilor nedeviate ale lui * care se pot exprima ca transformri liniare
deterministe ale vectorului de date de ieire msurate Y. Atunci, estimaia vectorului
parametrilor adevrai aparine lui i, n plus, face parte dintre cele mai eficiente
estimaii din aceast clas.
5. Ambele estimaii ale dispersiei zgomotului alb sunt consistente
(deci i asimptotic nedeviate).
6. Pentru N = N, estimaia dispersiei zgomotului alb este deviat, dar, pentru N = N-n,
ea este nedeviat.
Demonstra
ie
Demonstraie

nainte de a demonstra concluziile teoremei, sunt necesare cteva calcule preliminare.

Va fi dedus relaia care exist ntre vectorul parametrilor adevrai i
cel al parametrilor estimai.

def

V = [ v[1] v[2] " v[ N ]]T R N

P ((
**)

Vectorul global al perturbaiilor.

y[ n] = T [ n] + v[ n]
n 1, N

Y = + V
N = ( ) Y
T

1
N = ( T ) T ( + V ) =

= + ( ) T V

118

14/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

Demonstra
ie ((Teorema
Teorema 4.2)
Demonstraie
4.2)

n continuare, va fi exprimat estimaia vectorului perturbaiei, n vederea determinrii

unei expresii adecvate i pentru dispersia estimat a zgomotului alb.
def

l = [ v[1] v[2] " v[ N ]]T R N

V

Vectorul global estimat al perturbaiilor.

= Y = Y ( T )1 T Y = QY
V

Vectorul
iei se
nd
Vectorul perturba
perturbaiei
se poate
poate estima
estima proiect
proiectnd
vectorul
ire pe
vectorul datelor
datelor de
de ie
ieire
pe hiperplanul
hiperplanul parazit
parazit..

Operatorul de deparazitare fiind ortogonal pe cel reprezentat de matricea regresorilor,

estimaia perturbaiei se poate obine prin proiecia perturbaiei necunoscute pe
hiperplanul parazit.

= QY = Q( + V ) = QV
V

Y = + V
1 T
1 T T
1 T 2
1 T
2

=
V
V
=
V
Q
QV
=
V
Q
V
=
V QV
Rezult
imediat
c
:

N
N
N
N
N

(datorit
proprietilor
operatorului Q)

Acum, se pot demonstra concluziile teoremei.

1. Nedevierea estimaiilor parametrilor necunoscui

E{ N } = + E

( T ) T V = + ( T ) T E{V} = .

= + ( T )1 T V
N

a.
a.

c.
c.

119

15/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

Demonstra
ie ((Teorema
Teorema 4.2)
Demonstraie
4.2)
2. Matricea de auto-covarian a erorii de estimare
def

P( N ) = E ( N )( N )T

} = E{ ( )
T

T VV T ( T )

1
N = + ( T ) T V

= ( T ) T E { VV T } ( T ) = 2 ( T )
1

2IN

}=
a.
a.

( T )( T ) = 2 ( T ) .
1

c.
c.

3. Consistena estimaiilor parametrilor necunoscui

lim N = + lim
N
N
N

1
N = + ( T ) T V

= + T

1
T
[
]
[
]

n =1
N
N

[ n ]E{v[ n]} = .
c.
c.

Consisten
a este
Consistena
este cea
cea mai
mai important
important
proprietate
proprietate statistic
statistic..

[
]
[
]

n
v
n

n =1

N

E{[ n]v[ n]} =

a.
a.&b
a.
a.&b..
media aritmetic
T
ideal a produselor [ n] [ n]
Demonstra
ia ss-a
-a bazat
irului
Demonstraia
bazat pe
pe faptul
faptul c
c limita
limita irului
in
matricilor
RNN continu
continu s
s fie
fie inversabil
inversabil cel
cel pu
puin
matricilor R
pentru
pentru oo realizare
realizare infinit
infinit aa procesului
procesului furnizor
furnizor de
de date
date..

120

16/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

Demonstra
ie ((Teorema
Teorema 4.2)
Demonstraie
4.2)

1
4. Eficiena estimaiilor parametrilor necunoscui

= AY
= T T Y
Pentru simplitate, indicele N va fi omis din
notaia vectorului parametrilor necunoscui.
a.
a.
R n N
A


Fie = AY o alt estimaie nedeviat Estimaia oferit de MCMMP face parte din
Estimaia oferit de MCMMP face parte din
din clasa , eventual diferit de cea
clasa
ii definit
n enun
ul teoremei
clasa de
de estima
estimaii
definit n
enunul
teoremei..
oferit de MCMMP.

Nedeviere
Nedeviere


 ( + V ) = A
 ( + E{V}) = A
E{ } = E A
=

 =I
a.
c.
A
a.
c.
n
Conform definiiei, estimaia este cel puin tot att de eficient ca estimaia  dac:
P( ) P( ) P( ) P( ) 0 .
def
Pentru a demonstra aceast inegalitate, se pleac de la operatorul liniar = A A ,
care verific proprietatea remarcabil de a fi ortogonal pe operatorul reprezentat
de matricea regresorilor (ca i operatorul Q):

 A
= I I = 0.
= A
n
n

Cu ajutorul operatorului , se poate determina o relaie ntre cele dou estimaii:

 = ( + A
)Y = Y + = ( + V ) + = + V .
 = AY
Y = + V

121

17/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

Demonstra
ie ((Teorema
Teorema 4.2)
Demonstraie
4.2)
4. Eficiena estimaiilor parametrilor necunoscui (continuare)

Aadar
Aadar  = + V

P (  ) = E (  )(  )
def

} = E { ( + V)( + V) } =

} {

} {

= P( ) + E ( ) V T T + E V ( )T + E VV T T

Termenii ncruciai (transpui unul altuia) se anuleaz:

E ( )V T T

= E ( T ) T VVT T = ( T ) T E{VV T }T =
1

1
= + ( T ) T V

= 2 T

c.
c.

a.
a.
1

T T = 0 .
0

Rezult atunci c:

P( ) = P( ) + E {VVT T } = P( ) + 2 T

O
ie alternativ
ei
O demonstra
demonstraie
alternativ aa eficien
eficienei
utilizeaz
ionament bazat
utilizeaz un
un ra
raionament
bazat pe
pe un
un
rezultat
rezultat din
din Teoria
Teoria Matricilor
Matricilor..

c.
c. & determinist

P( ) P( ) = 2 T 0

122

18/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

Demonstra
ie ((Teorema
Teorema 4.2)
Demonstraie
4.2)
5. Consistena estimaiilor dispersiei zgomotului alb

1 T
2 N =
V QV
N

Exerciiu
Exerciiu
Proprietatea
teva calcule
Proprietatea rezult
rezult dup
dup ccteva
calcule
elementare
innd cont
elementare,, innd
cont de
de ipotezele
ipotezele teoremei
teoremei..

6. Proprieti de nedeviere ale estimaiilor dispersiei zgomotului alb

def
2 = 1
N
N

(
N

n =1

y[ n] [ n] N
T

def

Deviat

2N n =

N
1
y[ n] T [ n] N

N n n =1

Ambele aseriuni vor fi demonstrate simultan, folosind

def

Tr ( A ) =

operatorul numit urm a unei matrici (trace).

PProprietate
roprietate care
care se
se verific
verific
indiferent
indiferent dac
dac produsul
produsul celor
celor dou
dou
matrici
matrici este
este sau
sau nu
nu comutativ
comutativ..

ii

suma elementelor
de pe diagonal
n N

Invarian la comutarea matricilor

Tr( AB ) = Tr( BA )

Nedeviat

i =1

Propriet
i elementare
Proprieti
elementare ale
ale operatorului
operatorului Tr
Tr
Liniaritate

Tr( A + B ) = Tr ( A ) + Tr( B )

{ }

E 2 N

1 T
2 N =
V QV
N
1
1
=
E V T QV =
E Tr( VT QV )
N
N

1
E { Tr(QVV T )}
N

123

19/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

Demonstra
ie ((Teorema
Teorema 4.2)
Demonstraie
4.2)
6. Proprieti de nedeviere ale estimaiilor dispersiei zgomotului alb (continuare)

{ }

2 = 1 E { Tr(QVVT )}
E

Aadar
N
Aadar
N

{ }

2
N

1
2
2
1
T
T
=
Tr
(
)
Q
=
Tr I N ( ) T =
=
Tr QE { VV }

N
N
N

a.
a.

c.
c.

} {

1
1
2
2
T
T

=
=
N Tr ( )
N Tr ( T ) T =

N
N

2
N n 2
=
N Tr ( I n ) =

N
N

Egalitatea obinut demonstreaz proprietatea de deviere/nedeviere a estimaiilor

dispersiei zgomotului alb i justific alegerea constantei N.
IIpotezele
potezele teoremei
teoremei au
au fost
fost alese
alese
cu
nct at
t
cu grij
grij,, astfel
astfel nct
att
consisten
a cct
t ii nedevierea
consistena
nedevierea
estima
iilor s
estimaiilor
s fie
fie verificate
verificate..

Dac
ul Teoremei
Dac ipoteza
ipoteza b.
b. din
din enun
enunul
Teoremei
este
este necesar
necesar pentru
pentru buna
buna definire
definire aa
estima
iei parametrilor
i,
estimaiei
parametrilor necunoscu
necunoscui,
ipotezele
ipotezele a.
a. ii c.
c. sunt
sunt destul
destul de
de restrictive.
restrictive.

124

20/20

Metode de identificare i validare

.

Teorema fundamental a MCMMP

Sumarul
Sumarul relaiilor
relaiilor matriciale
matriciale din
din contextul
contextul MCMMP
MCMMP
Contextul
Contextul de
de lucru
lucru

P ((
**)

Y = + V
E{V} = 0

ia datelor
Extracia
datelor utile
utile din
din date
date
Y = + ( ) Extrac

M (()
)

( ) = V

E{VV } = I N
T

afectate
ns
afectate de
de zgomot
zgomot nu
nu este
este ns
perfect
nd
perfect,, calitatea
calitatea ei
ei depinz
depinznd
de
de matricea
matricea regresorilor
regresorilor..
SNR ( ) SNR ( Y )

Criteriul
Criteriul ptratic
ptratic
def

V ( ) = ( ) = Y
2

MCMMP
MCMMP induce
induce oo tehnic
tehnic de
de
extragere
extragere aa datelor
datelor utile
utile din
din datele
datele msurate
msurate,,
cu
iilor ortogonale
cu ajutorul
ajutorul proiec
proieciilor
ortogonale,, adic
adic
neredundante
neredundante..

Estima
iile oferite
Estimaiile
oferite de
de MCMMP
MCMMP
1
1
N = ( T ) T Y = + ( T ) T V

= Y = QY = QV
V
N
2 N

ZZgomotul
gomotul estimat
ine prin
estimat se
se ob
obine
prin
proiectarea
ire
proiectarea datelor
datelor de
de ie
ieire
msurate
msurate pe
pe hiperplanu
hiperplanull parazit
parazit..

1 T
1 T
=
V V=
V QV
N
N

V ( N ) = Y QY = V QV = V V = N
T

2
N

<>

RN

< >

R n
^
Y

125