Documente Academic
Documente Profesional
Documente Cultură
Un proces autoregresiv (AR) este un proces unde valoarea curentă a lui y este influenţată de propriile valori din
trecut şi de o perturbaţie t . Variabila aleatoare t este numită şi inovaţie, deoarece reprezintă partea nepredictibilă
a valorilor variabilei y t , date fiind valorile anterioare yt −1 , y t − 2 , .
Un proces de medie mobilă (MA) este un proces unde valoarea curentă (contemporană) a lui y este influenţată atât
de valoarea curentă cât şi de valorile din trecut ale termenului inovaţie t .
AR(1): y t = y t −1 + t
MA(1): yt = t + t −1
AR(p): yt = 1 yt −1 + 2 yt −2 + + p yt − p + t
MA(q): yt = t + 1 t −1 + 2 t −2 + q t −q
Aşa cum se poate observa, fiecare caz reprezintă un mod prin care putem construi o serie y t , dată fiind o mulţime
de realizări ale unui proces zgomot alb şi o valoare de start pentru y. Vom folosi modele de medie zero. Acestea
reprezintă abateri ale seriei de la medie. De exemplu, dacă o serie are media şi urmează un proces AR(1), atunci
relaţia
( yt − ) = ( yt −1 − ) + t este echivalentă cu relaţia yt = (1 − ) + yt −1 + t
Astfel, constantele pot include mediile. În general, vom lucra cu modele de medie zero, deoarece este uşor să se
adauge mediile sau trendurile deterministe.
Procese liniare
Considerăm un model simplu, modelul autoregresiv definit prin:
yt = yt −1 + t , t = 2,3, , n ,
unde parametrul este o constantă cu proprietatea că | | 1 , iar t reprezintă un şir de variabile aleatoare
necorelate, fiecare cu media 0 şi varianţa 2 .
Pentru a vedea dacă există o serie y t care verifică relaţia de mai sus, vom scrie modelul cu ajutorul operatorului
lag. Vom avea y t − y t −1 = t , deci (1 − L) y t = t .
Inversând formal această relaţie obţinem soluţia:
y t = (1 − L) −1 t = (1 + L + 2 L2 + ) t = t + t −1 + 2 t −2 + = k t −k
k =0
Procesul cauzal este un proces liniar care depinde numai de valoarea curentă şi de valorile din trecut ale lui t .
Procesele cauzale sunt preferate pentru efectuarea de predicţii deoarece ele reflectă modul în care credem că
funcţionează lumea reală. Multe serii de timp pot fi reprezentate ca procese liniare. Totuşi, interesul practic pentru
aceste procese este limitat din cauza numărului mare de parametri de determinat.
1
Varianţa lui y t este:
Var ( yt ) = 0 = E ( t + t −1 ) 2 = E ( t2 + 2 t t −1 + 2 t2 ) = (1 + 2 ) 2 .
Autocovarianţa la lag-ul 1 este:
1 = cov( y t , y t −1 ) = E ( y t y t −1 ) = E ( t + t −1 )( t −1 + t − 2 ) =
= E ( t t −1 + t2−1 + t t −2 + 2 t −1 t −2 ) = 2
Autocovarianţa la lag-ul 2 este:
2 = cov( y t , y t − 2 ) = E ( y t y t − 2 ) = E ( t + t −1 )( t −2 + t −3 ) =
E ( t t −2 + t −1 t −2 + t t −3 + 2 t −1 t −3 ) = 0 .
Rezultă că autocovarianţele de lag k 1 sunt zero: k = 0 .
Un proces MA(1) este staţionar, indiferent de valoarea lui , deoarece media şi autocovarianţele nu sunt
funcţii de timp.
Funcţia de autocorelaţie (ACF) a unui proces MA(1) este:
2
0 = 1 ; 1 = 1 = = ; k = 0 , k 1.
0 (1 + )
2 2
1+ 2
(1 + 2 ) 2 , k = 0 1, k =0
k = 2 , k =1 k = ,k =1
0, 1 + 2
k 1
0, k 1
Observaţie: Un şoc într-un proces MA(1) afectează y t numai în două momente de timp.
Memoria procesului MA(1) este doar de o perioadă. Procesul MA se numeşte de memorie scurtă.
Autocorelaţia de ordin k poate fi reprezentată grafic ca o funcţie de k, rezultând corelograma procesului. Pentru
valori diferite ale lui se obţin valori diferite ale lui 1 .
Dacă este pozitiv, rezultă 1 pozitiv. Dacă este negativ, rezultă 1 negativ.
Cea mai mare valoare pentru 1 este 0,5 şi apare când = 1 .
Cea mai mică valoare a lui 1 este − 0,5 . Această valoare apare dacă = −1 . Pentru orice valoare a lui 1 între
− 0,5 şi 0,5 , există două valori ale lui care ar putea produce acea autocorelaţie. Aceasta se întâmplă deoarece
valoarea 1 = rămâne neschimbată dacă se înlocuieşte prin 1 / . În acest mod rezultă că întotdeauna se
1+ 2
pot găsi două procese MA(1) care au aceeaşi funcţie de autocorelaţie. Se impune condiţia de inversabilitate pentru
a ne asigura că există un model MA unic, pentru o ACF dată.
Inversabilitatea procesului MA(1)
Dacă folosim operatorul de întârziere, sau operatorul lag, L, vom putea scrie modelul MA(1):
yt = t + t −1 sub forma yt = (1 + L) t .
Procesul MA este inversabil când rădăcina polinomului de medie mobilă ( L) = 1 + L = 0 se află în afara cercului
unitate, adică avem | 1/ | 1 . Aceasta implică condiţia pentru parametru: − 1 1 .
Procesul este inversabil dacă rădăcina ecuaţiei ( z) = 1 + z = 0 este în afara cercului unitate, adică avem | z | 1
sau echivalent, | | 1 .
Reprezentarea MA este convenabilă pentru a calcula varianţele şi covarianţele seriei. Reprezentarea AR este
convenabilă pentru a face previziuni cu privire la serie.
Problema2: Să se determine ACF pentru fiecare model MA(1) şi să se reprezinte grafic.
a) = 0,9 yt = t + 0,9 * t −1
0,9
ACF: 0 = 1 ; 1 = = 0,497 ; k = 0 pentru k 1 . Reprezentaţi grafic!
1 + (0,9) 2
2
b) = −0,9 yt = t − 0,9 * t −1
− 0,9
0 = 1 ; 1 = = −0,497 ; k = 0 pentru k 1 . Reprezentaţi grafic!
1 + (−0,9) 2
c) = 0,5 yt = t + 0,5 * t −1
0,5
0 = 1 ; 1 = = ?; 1 = 0,4; k = 0 pentru k 1 . Reprezentaţi grafic!
1 + (0,5) 2
d) = −0,5 yt = t − 0,5 * t −1
− 0,5
0 = 1 ; 1 = = ?; 1 = −0,4; k = 0 pentru k 1 . Reprezentaţi grafic!
1 + (−0,5) 2
Modelul de medie mobilă de ordinul doi, MA(2) sau ARMA(0,2) sau ARIMA(0,0,2)
Fie 1 , 2 R, cu 2 0 şi fie t ~ WN (0, 2 ) , zgomot alb. Atunci procesul
yt = t + 1 t −1 + 2 t −2
se spune că este un proces de medie mobilă de ordinul 2 şi se notează MA(2).
Problema3: Să se determine media, varianţa, autocovarianţele, funcţia de autocorelaţie ale lui y t .
Pentru un proces MA(2), se obţin următoarele valori:
E ( yt ) = E ( t + 1 t −1 + 2 t −2 ) = E ( t ) + 1 E ( t −1 ) + 2 E ( t −2 ) = 0
0 = Var ( yt ) = E ( yt2 ) = E ( t + 1 t −1 + 2 t −2 ) 2 = = (1 + 12 + 22 ) 2
1 = Cov( yt , yt −1 ) = E ( yt yt −1 ) = E ( t + 1 t −1 + 2 t −2 )( t −1 + 1 t −2 + 2 t −3 ) = (1 + 1 2 ) 2
2 = Cov( yt , yt −2 ) = E ( yt yt −2 ) = E ( t + 1 t −1 + 2 t −2 )( t −2 + 1 t −3 + 2 t −4 ) = 2 2
3 = Cov ( yt , yt −3 ) = E ( yt yt −3 ) = 0
(1 + 12 + 22 ) 2 , k = 0 1, k =0
(1 + 1 2 ) , k = 1 ( + ) /(1 + 1 + 2 ), k = 1
2 2 2
k = k = 1 1 22
2 , k =2 2 /(1 + 1 + 2 ), k =2
2 2
0, k 2 0, k 2
Cu ajutorul operatorului lag L, vom scrie modelul sub forma yt = (1 + 1 L + 2 L2 ) t = ( L) t , unde
( L) = (1 + 1 L + 2 L2 ) este polinomul de medie mobilă de ordinul doi.
Notăm cu 1 , 2 rădăcinile ecuaţiei P( ) = (2 + 1 + 2 ) = 0 . Polinomul de medie mobilă poate fi factorizat,
astfel încât obţinem ecuaţia ( z ) = (1 + 1 z + 2 z 2 ) = (1 − 1 z )(1 − 2 z ) = 0 .
3
Condiţia de inversabilitate este îndeplinită dacă rădăcinile 1 , 2 satisfac condiţiile | 1 | 1 şi | 2 | 1 , ceea ce este
echivalent cu | z1 | 1 şi | z 2 | 1 .
Un proces MA(q) cu coeficienţi finiţi este totdeauna staţionar.
k =0
, deoarece | | 2k
. Limita seriei este staţionară şi satisface relaţia yt = yt −1 + t . Astfel, dacă | | 1 , atunci
există o soluţie staţionară a ecuaţiei yt = yt −1 + t .
Reţinem: Un proces AR(1) este staţionar dacă | | 1 şi nestaţionar dacă = 1 .
Folosim operatorul de întârziere L pentru a scrie polinomul autoregresiv al lui y t :
( L) = (1 − L) .
4
Modelul AR(1) poate fi scris ca (1 − L ) yt = t .
Dacă | | 1 şi (1 − L) este inversabil, procesul y t se poate scrie sub forma:
yt = (1 − L) −1 t = (1 + L + 2 L2 + ) t = t + t −1 + 2 t −2 + = k t −k
k =0
Deoarece ultima serie converge când | | 1 , aceasta este condiţia de staţionaritate a procesului. Un proces AR(1)
este totdeauna inversabil când parametrul modelului îndeplineşte condiţia | | 1 . Spunem că rădăcina polinomului
este 1 / deoarece ( z ) = 0 când z = 1/ .
Din reprezentarea lui y t prin filtu liniar, se pot calcula momentele lui y t folosind sumele infinite.
Media este: E ( yt ) = k E ( t −k ) = 0 ,
k =0
2
Varianţa este Var ( yt ) = 2k Var ( t −k ) = dacă | | 1 .
k =0 1− 2
Deci, dacă | | 1 , media şi varianţa sunt constante, condiţii necesare pentru staţionaritate.
Un proces AR(1) este staţionar dacă rădăcina polinomului autoregresiv ( z) = (1 − z) este mai mare decât 1, în
modul. Această condiţie este echivalentă cu condiţia că rădăcina ecuaţiei ( − ) = 0 este | | 1 .
• Varianţa procesului AR(1) este dată de egalitatea Var ( yt ) = D( yt ) = 2 /(1 − 2 ) . Se poate calcula şi din relaţia
yt = yt −1 + t , aplicând operatorul de dispersie sau varianţă.
Deoarece y t −1 şi t sunt necorelate, obţinem Var ( yt ) = Var ( yt −1 ) + Var ( t ) = 2Var ( yt −1 ) + 2 .
Dacă seria de timp este staţionară, atunci Var ( yt ) = Var ( yt −1 ) = Y2 şi astfel
Var( yt ) = 2Var( yt ) + 2 , deci (1 − 2 )Var( yt ) = 2 .
Penultima relaţie implică faptul că Var ( yt ) 2Var ( yt ) , deci şi inegalitatea 1 2 .
Condiţia 2 1 rezultă din faptul că varianţa unei v.a. este mărginită şi nenegativă.
Condiţia necesară şi suficientă pentru ca modelul y t = y t −1 + t să fie slab staţionar este | | 1 .
• Funcţia de Autocovarianţă
Autocovarianţele, k = Cov( yt , yt −k ) depind numai de lag-ul k.
Cov ( t , yt −1 ) = 0 , Cov ( y t , y t −k ) = 0 , k 1 , Cov( t , yt ) = 2
1 = Cov ( yt , yt −1 ) = E ( yt yt −1 ) = 0 , 2 = Cov( yt , yt −2 ) = E ( yt yt −2 ) = 2 0
k = Cov( yt , yt −k ) = E ( yt yt −k ) = k 0 , k 0
Problema5: Să se calculeze ACF si PACF pentru un proces AR(1)
• Funcţia de Autocorelaţie pentru un proces AR(1):
Înmulţim ambii membri ai relaţiei yt − yt −1 = t cu yt −k şi apoi aplicăm operatorul de medie.
yt yt −k − yt −1 yt −k = t yt −k
E ( yt yt −k ) − E ( yt −1 yt −k ) = E ( t yt −k )
k − k −1 = E ( t yt −k )
Pentru k = 0 obţinem:
E ( t yt ) = E ( t ( t + t −1 + 2 t −2 + )) = E ( t2 ) = 2 .
Pentru k 0 obţinem:
E ( t yt −k ) = E ( t ( t −k + t −k −1 + 2 t −k −2 + )) = 0 .
Rezultă că avem:
0 − −1 = 2 = 0 − 1
k − k −1 = 0 pentru k = 1,2,
5
Pentru k = 1 obţinem 1 = 0 şi înlocuim în penultima ecuaţie. Rezultă 0 = 2 /(1 − 2 ) .
Avem relaţia de recurenţă k = k −1 , iar prin împărţitea la 0 rezultă că ACF este:
k = k −1 = 2 k −2 = = k , k ACF descreşte geometric cu k.
Funcţia de autocorelaţie a unui proces AR(1) slab staţionar începe de la 1 şi se diminuează în progresie
geometrică, cu rata . Valoarea lui y t depinde de valorile din trecut şi intensitatea acestei dependenţe scade
cu timpul. În consecinţă, un şoc într-un proces AR(1) afectează toate observaţiile viitoare cu un efect
descrescător. Coeficienţii de autocorelaţie converg la zero dacă seria este staţionară. Corelograma va arăta
o descreştere exponenţială cu valori pozitive dacă este pozitiv şi o descreştere sinusoidală (cu oscilaţii
negativ-pozitiv) dacă este negativ. Dacă este pozitiv, valorile adiacente sunt pozitiv corelate, iar dacă
este negativ, valorile adiacente sunt negativ corelate. Ambele descreşteri sunt lente dacă valoarea lui este
apropiată de 1 sau de -1. Cu cât este mai mare valoarea lui , cu atât este mai puternică corelaţia din proces.
Observaţie: Situaţia | | 1 (comportament exploziv) este considerată foarte rar în economie.
• Funcţia de Autocorelaţie parţială pentru un proces AR(1)
Reamintim că PACF satisface
11 = 1 şi 22 = ( 2 − 12 ) /(1 − 12 ) .
Aici avem: 11 = şi 22 = ( 2 − 2 ) /(1 − 2 ) = 0 , kk = 0 pentru k 1 .
Pentru un model AR(1):
• ACF scade treptat la zero
• PACF se anulează după lag-ul 1
a) = 0,8 yt = 0,8 * yt −1 + t .
ACF: 0 = 1 ; 1 = = 0,8 ; 2 = 2 = (0,8) 2 = 0,64 ; 3 = (0,8) 3 = 0,512 ; 4 = (0,8) 4 = 0,4096 .
PACF este: 11 = 1 = = 0,8 şi kk = 0 pentru k 1 .
Procesul este staţionar deoarece 1 .
b) = −0,8 yt = −0,8 * yt −1 + t .
ACF: 0 = 1 ; 1 = = −0,8 ; 2 = (−0,8) 2 = 0,64 ; 3 = (−0,8) 3 = −0,512 ;. 4 = (−0,8) 4 = 0,4096 .
PACF este: 11 = 1 = = −0,8 şi kk = 0 pentru k 1 .
6
(1 − 1 L − 2 L2 ) yt = t
( L) yt = t , unde ( L) = (1 − 1 L − 2 L2 ) este polinomul autoregresiv al procesului AR(2).
Problema7::
1) Spuneţi în ce condiţii procesul AR(2) este staţionar.
2) Să se calculeze media şi varianţa procesului AR(2) (exerciţiu).
3) Să se determine ACF şi PACF pentru un proces AR(2).
4) Să se scrie şi să se rezolve sistemul de ecuaţii Yule-Walker.
Procesul AR(2) este staţionar iar polinomul ( L) = (1 − 1 L − 2 L2 ) este inversabil dacă rădăcinile ecuaţiei
( z ) = (1 − 1 z − 2 z 2 ) = (1 − 1 z )(1 − 2 z ) = 0 se află în afara cercului unitate, adică z1 1 şi z 2 1 sau
rădăcinile ecuaţiei P( ) = − 1 − 2 = 0 se află în interiorul cercului unitate, adică 1 1 şi 2 1 .
2
Dacă rădăcinile ecuaţiei caracteristice sunt reale, ele se obţin prin relaţiile: 1, 2 = (1 12 + 42 ) / 2 .
Dacă rădăcinile ecuaţiei caracteristice sunt numere complexe conjugate, ele se obţin prin relaţiile:
1 = a + bi , 2 = a − bi , a = 1 / 2 , b = ( − 12 − 42 ) / 2 , deci 1, 2 = (1 i − 12 − 4 2 ) / 2 .
Calcularea autocorelaţiilor unui proces AR(2)
Înmulţim ecuaţia yt − 1 yt −1 − 2 yt −2 = t prin y t − k , după care aplicăm operatorul de medie şi împărţim prin
varianţa 0 , a lui y t . Rezultă următoarele relaţii:
yt yt −k − 1 yt −1 yt −k − 2 yt −2 yt −k = t yt −k
E ( yt yt −k ) − 1 E ( yt −1 yt −k ) − 2 E ( yt −2 yt −k ) = E ( t yt −k )
E ( yt yt − k ) E ( yt −1 yt −k ) E ( yt −2 yt −k ) E ( t yt −k )
− 1 − 2 = .
0 0 0 0
Pentru k = 0 obţinem: E ( t yt ) = 2 . Avem 0 − 1 1 − 2 2 = 2 0 (1 − 1 1 − 2 2 ) = 2 .
Pentru k 0 obţinem: E ( t yt − k ) = 0 .
Deoarece E ( t yt −k ) = E ( yt ) = 0 pentru toţi t şi k 0 , obţinem ecuaţiile Yule-Walker:
k − 1 k −1 − 2 k −2 = 0 pentru k 0 .
Determinarea funcţiei ACF a unui model AR(2):
1
k = 1 1 − 1 0 − 2 1 = 0 1 (1 − 2 ) = 1 1 =
1 − 2
12
k = 2 2 − 1 1 − 2 0 = 0 2 = 1 1 + 2 2 = + 2
1 − 2
k 2 k = 1 k −1 + 2 k −2 .
7
( L) = (1 − 1 L − 2 L2 ) ( z ) = (1 − 1 z − 2 z 2 ) = (1 − 1 z )(1 − 2 z ) = 0
P( ) = 2 − 1 − 2 = 0 P( ) = 2 − 0,6 + 0,08 = 0
1 = 0,4 şi 2 = 0,2 1 1 şi 2 1 .
Rezultă z1 = 1 / 1 = 1 / 0,4 = 2,5 şi z 2 = 1 / 2 = 1 / 0,2 = 5 , deci z1 1 şi z 2 1 .
Condiţia de staţionaritate este îndeplinită.