Documente Academic
Documente Profesional
Documente Cultură
1. Emailuri. În căsuţa poştală electronică sosesc zilnic emailuri, la momente de timp aleatoare. Un număr
aleator dintre aceste emailuri sunt "junk emails", şi sunt filtrate corespunzător de către filtrul antispam.
2. Cumpărături. Clienţii intră într-un anumit magazin la diverse momente de timp aleatoare, şi fac un număr
de cumpărături ce reprezintă o variabilă aleatoare.
3. Cabluri. Cablurile (sau alte produse, cum ar fi franghia, sfoara, filamentul), au un număr aleator de defecte
de fabricaţie, ce au loc la poziţii aleatoare de-a lungul lungimii totale a produsului.
4. Pişcături. Albinele, furnicile, tânţarii şi alte asemenea insecte înţeapă de un număr aleator de ori, în locuri
ce pot fi reprezentate de asemenea de variabile aleatoare.
Putem modela astfel de şiruri de variabile aleatoare folosind un proces de numărare (), 0 ≤ ∞, unde
() are în general următoarele proprietăţi:
5. Procesul de numărare. (), ≥ 0, este un proces de numărare dacă este ne-negativ, cu valori numere
întregi, şi nedescrescător în . În acest caz, valoarea () − () este numărul de evenimente observat în
intervalul ( ].
Dintre cele mai importante procese de numărare este următorul.
6. Procesul Poisson. Procesul de numărare () este un proces Poisson cu intensitate dacă (0) = 0, şi
Gândim ca timpul la care este observat al -lea eveniment, iar () ca reprezentând numărul de evenimente
observate până la momentul de timp ≥ 0 .
Evident, astfel definit () este un proces de numărare. Se poate demonstra că are loc următoarea.
Teorema 13.1 Procesul () definit de relaţia (70) este un proces Poisson cu intensitate în sensul definiţiei din
exemplul 6 de mai sus..
61
Observaţia 13.2 Reciproc, se poate arăta că dacă () este un proces Poisson cu intensitate , atunci timpii
între salturi consecutive ale lui () sunt variabile aleatoare expeonenţiale cu parametrul . Aceasta arată că cele
două definiţii ale procesului Poisson sunt echivalente.
Se poate da şi o a treia definiţie echivalentă a procesului Poisson, după cum urmează.
Fie () este un proces de numărare, mai precis () reprezintă numărul de sosiri în intervalul [0 ]. Pre-
supunem că sunt verificate următoarele.
i) Independenţă. Sosirile în intervalul ( + ) sunt independente de sosirile în intervalul (0 ).
ii) Intensitate constantă. Probabilitatea unei sosiri în orice interval de lungime este
( ( + ) − () = 1) = + () (71)
()
(reamintim că funcţia () are proprietatea de a converge la 0 mai repede decât , adică lim&0 = 0).
iii) Raritate. Sosirile multiple într-un interval de lungime sunt improbabile, adică
62
r
1−s 1 2 1−r
Figure 11: Graful corespunzător stării computerului (starea 1 - funcţional, starea 2 - stricat).
Pentru un lanţ Markov pentru care cunoaştem probabilităţile de tranziţie , putem calcula probabilitatea
oricărei “traiectorii” a lanţului, adică date fiind stările 0 ∈ , putem calcula probabilitatea ca lanţul să
treacă exact prin aceste stări astfel
Observaţia 13.6 Formula anterioară rezultă folosind proprietatea Markov (74) şi regula de înmulţire a probabil-
ităţilor (a se vedea formula (16) din Teorema 2.3).
Inductiv, putem calcula probabilităţile () de trecere in paşi a lanţului din starea în starea , adică
Pentru aceasta, putem folosi formula de recurenţă (numită şi ecuaţiile Chapman-Kolmogorov)
X
() = ( − 1) 1 şi ∈ (76)
∈
şi folosind (1) = ( 1 = | 0 = ) = . Ideea demonstraţiei acestor formule este conţinută în Figura 12.
Notând cu () = ( ())∈ matricea de trecere în paşi, relaţiile Chapman-Kolmogorov de mai sus se pot
scrie sub formă matricială astfel
() = ( − 1)
şi cum (1) = ( ) = , obţinem
() =
adică matricea () a probabilităţilor de trecere în paşi este chiar puterea a matricii = ( ) a probabilităţilor
de tranziţie a lanţului.
În continuare, vom clasifica stările unui lanţ Markov după cum urmează.
63
Date fiind stările ∈ , spunem că starea este accesibilă din starea dacă există ≥ 1 astfel încât
probabilitatea () de a trece din în paşi starea în starea este strict pozitivă
starea este accesibilă din starea ⇐⇒ există ≥ 1 astfel încât () 0
Observaţia 13.7 Dacă ∈ este o stare recurentă, conform definiţiei mulţimii (), lanţul vizitează numai stări
∈ (). Cum ∈ () pentru aceste stări (conform definiţiei stării recurente ), există o probabilitate pozitivă
ca lanţul să se intoarcă la starea . Inductiv, se poate observa că dacă starea este recurentă, atunci lanţul se va
întoarce în această stare de o infinitate de ori, la diverse momente de timp.
Observaţia 13.8 Dacă ∈ este o stare tranzientă, atunci există o stare ∈ () cu proprietatea că starea nu
este accesibilă din starea După fiecare vizită a stării , există o probabilitate pozitivă ca lanţul să viziteze starea
. Când aceasta se întâmplă (probabilitatea ca lanţul să viziteze starea la un moment dat este 1), starea nu mai
poate fi vizitată, deoarece conform definiţiei ∈
(). Aceasta arată că dacă starea este tranzientă, lanţul poate
vizita starea numai de un număr finit de ori.
1 2 3 4
recurentă tranzientă recurentă recurentă
Figure 13: Stări recurente şi tranziente ale unui lanţ Markov.
Dacă ∈ este o stare recurentă, mulţimea stărilor () ce sunt accesibile pornind din starea formează o
clasă recurentă (sau simplu o clasă), însemnând că toate stările din () sunt accesibile una din cealaltă, şi că
nici o altă stare din afara lui () nu este accesibilă din acestea. În mod echivalent, pentru o stare recurentă ∈
avem () = (), oricare ar fi ∈ ().
Spre exemplu, pentru lanţul Markov din Figura 13 starea 1 formează o clasă recurentă, iar stările 3 şi 4 formează o
altă stare recurentă. De asemenea, se poate demonstra că cel puţin o clasă recurentă este accesibilă pornind din orice
stare tranzientă (în exemplul din Figura 13, ambele clase recurente sunt accesibile pornind din starea tranzientă
2). Aceasta demonstrează existenţa unei stări recurente, şi în consecinţă a unei clase recurente, conducând la
următoarea.
Propoziţia 13.9 (Descompunerea lanţurilor Markov) Un lanţ Markov poate fi descompus în una sau mai
multe clase recurente şi eventual stări tranziente (posibil 0 stări tranziente).
O stare recurentă este accesibilă din toate stările din clasa ei, dar nu este accesibilă din stări recurente din alte
clase.
O stare tranzientă nu este accesibilă din nici o stare recurentă.
Cel puţin o stare recurentă este accesibilă dintr-o stare tranzientă dată.
Această teoremă de descompunere arată următorul tip de comportament al unui lanţ Markov:
a) Dacă lanţul începe (sau intră) într-o clasă recurentă, el rămâne pentru totdeauna în aceasta clasă, şi vizitează
fiecare stare din clasă de o infinitate de ori.
b) Dacă lanţul începe dintr-o stare tranzientă, traiectoria lanţului constă în două părţi: în prima lanţul vizitează
doar stări tranziente, iar apoi lanţul intră (şi rămâne într-o stare recurentă).
64
O altă noţiune importantă este cea de periodicitate a unei clase recurente (a se vedea Figura 14). O clasă
recurentă se numeşte periodică dacă ea poate fi partiţionată în 1 submulţimi disjuncte 1 , astfel
încât pornind dintr-o stare din 1 lanţul trece într-o stare din 2 , apoi într-o stare din 3 , şamd, şi în final dintr-o
stare din se reîntoarce într-o stare din 1 , adică
½
+1 ∈ {1 − 1}
∈ şi 0 =⇒ ∈
1 =
c) Are loc
= 0 dacă este o stare tranzientă
.
0 dacă este o stare recurentă
Probabilităţile = ( )∈ formează o distribuţie de probabilitate numită distribuţia staţionară a lanţului
, deoarece dacă starea iniţială a lanţului este aleasă conform acestei distribuţii, atunci probabilităţile de trecere
şi probabilităţile dePtrecere în paşi sunt de asemenea egale cu . P
Ecuaţiile = ∈ se numesc ecuaţiile de echilibru, iar ecuaţia ∈ = 1 se numeşte ecuaţia
de normalizare.
Exemplul 13.11 (Musca şi păianjenii) De scris.
Exemplul 13.12 (Profesorul distrat) De scris.
Exemplul 13.13 (Profesorul superstiţios) De scris.
65
13.3 Coada de aşteptare M/M/1
Problema: considerăm o companie care oferă un anumit serviciu (pagină web, bază de date, linie telefonică de
consultanţă, etc), în care sosirile clienţilor sunt descrise de un proces Poisson cu intensitate . Dacă un client
găseşte serviciul ocupat atunci când soseşte, el se aşază în coada de aşteptare (listă FIFO) şi îşi aşteaptă rândul să fie
servit. Când un client din lista de aşteptare părăseşte lista şi este servit, timpul necesar pentru a fi servit este descris
de o variabilă aleatoare exponenţială cu parametrul (pentru clienţi diferiţi, variabilele aleatoare reprezentând timpul
de servire sunt presupuse a fi şi independente).
Să se determine comportamentul asimptotic (probabilităţile de echilibru) şi valoarea aşteptată a numărului total
de clienţi (aflaţi în coada de aşteptare sau în curs de servire).
Observaţia 13.14 Acronimul M/M/1 a cozii de aşteptare din această problemă se referă la faptul că sosirile în
sistem sunt descrise de un proces Markov (primul M), ieşirile din sistem formează de asemenea un proces Markov
(al doilea M), iar numărul de unităţi de servire este 1. Există şi alte modele ale cozilor de aşteptare, spre exemplu
M/M/n (intrări şi ieşiri Markov cu unităţi de servire), sau M/G/1 (intrări Markov, ieşiri descrise de o distribuţie
generală, o unitate de servire), G/G/1, etc.
Figure 16: Tranziţii în lanţul Markov corespunzător cozii de aşteptare într-un interval de timp de lungime ∆.
Problema enunţată poate fi modelată cu ajutorul unui lanţ Markov având mulţimea stărilor 0 1 2 (numărul
de persoane aflate în coada de aşteptare) în timp continuu. Vom nota prin ∈ = {0 1 2 } starea lanţului la
momentul de timp ≥ 0, adică numărul de persoane din coada de aşteptare.
Similar cazului discret, să notăm cu () = ( = ) probabilitatea ca la momentul de timp să avem
persoane în lista de aşteptare.
Observaţia 13.15 Conform definiţiei procesului Poisson (formulele (71) şi (72)), probabilitatea ca într-un interval
de timp de lungime ∆ să sosească mai mult de o persoană este de ordinul (∆). Deoarece plecările din sistem
sunt date de variabile aleatoare exponenţiale cu parametrul independente, se poate arăta că acelaşi lucru este
valabil pentru probabilitatea ca mai mult de o persoană să părăsească coada de aşteptare. Aceasta arată că pentru
tranziţiile lanţului ne putem concentra numai asupra tranziţiilor între stări adiacente.
Observaţia anterioară arată că într-un interval de timp fixat ( + ∆) lanţul se află în starea dacă şi numai
dacă are loc una din următoarele trei posibilităţi distincte:
a) la momentul de timp au fost persoane în coada de aşteptare şi nu au avut loc modificări (nici nu au sosit,
nici nu au plecat persoane din coada de aşteptare);
b) la momentul de timp au fost − 1 persoane în coada de aşteptare şi a mai sosit o persoană în intervalul de
timp ( + ∆);
c) la momentul de timp au fost + 1 persoane în coada de aşteptare, şi în intervalul de timp o persoană a fost
servită şi a părăsit coada de aşteptare.
66
Cele trei tranziţii posibile de mai sus se reflectă în următoarea ecuaţie
( + ∆) = () (1 − ∆ − (∆)) (1 − ∆ − (∆)) + −1 () · ∆ + +1 () · ∆
relaţie ce poate fi rescrisă sub forma echivalentă
()
= − ( + ) () + −1 () + +1 () = 1 2 (77)
pentru = 1 2 , şi în mod similar obţinem în cazul = 0 ecuaţia diferenţială
0 ()
= −0 () + 1 () (78)
Acest sistem de ecuaţii diferenţiale poate fi rezolvat explicit, însă nu dăm aici soluţia (este destul de labo-
rioasă). Suntem interesaţi de comportamentul asimptotic al lanţului, adică pentru → ∞. Presupunând că limitele
lim→∞ () = există pentru toţi = 0 1 2 , putem determina valorile probabilităţilor de echilibru astfel.
Deoarece lim→∞ () = graficul funcţiei () are asimptota orizontală = pentru → ∞, şi deci
graficul este tangent acesteia atunci când → ∞. Aceasta arată că lim→∞ ()
= 0, oricare ar fi = 0 1 2
Egalând cu zero derivatele din sistemul anterior obţinut obţinem următorul sistem pentru probabilităţile de
echilibru :
0 = − ( + ) + −1 + +1 = 1 2
şi
0 = −0 + 1
Din a doua ecuaţie obţinem
1 = 0
şi din prima ecuaţie pentru = 1 obţinem
µ ¶
− 0 + ( + ) 1 1 2
2 = = − + ( + ) 0 = 2 0
Având distribuţia de echilibru, putem acum calcula2 media numărului de persoane în coada de aşteptare:
∞
X X∞ µ ¶ ∞ µ ¶−1
− − X − 1
= = = = ³ ´2 =
−
=0 =0 =0 1 −
67
Figure 17: Graficul numărului mediu = () în lista de aşteptare.
1 1
Figure 18: Graficul timpului mediu de aşteptare = 1− ca funcţie de = ∈ (0 1).
O altă cantitate de interes este probabilitatea de a găsi cel puţin persoane în lista aşteptare, şi este dată de
X∞ X∞ µ ¶ µ ¶ X ∞ µ ¶ µ ¶ µ ¶
− − − 1
= = =
=
=0
1−
= =
Se mai poate arăta că funcţia de distribuţie a timpului pentrecut de un client în lista de aşteptare este dată de
½
( − ) −(−) ≥ 0
() = (timpul de aşteptare este ≤ ) =
0 0
adică o distribuţie exponenţială cu parametrul − = (1 − ).
2 Reamintim că suma unei serii geometrice de raţie (cu || 1) este dată de
∞ 1
=0 = 1−
, de unde prin derivare se obţine
∞ −1 = 1
=0 (1−)2
.
68