Sunteți pe pagina 1din 208

MIHAELA-HANAKO MATCOVSCHI

LANURI I
SISTEME DE ATEPTARE
MARKOVIENE

Editura GH. ASACHI


IAI, 2003

MIHAELA-HANAKO MATCOVSCHI

LANURI I
SISTEME DE ATEPTARE
MARKOVIENE

Editura GH. ASACHI


IAI, 2003

Editura GH. ASACHI


Universitatea Tehnic Iai
Bd. D. Mangeron nr. 67
6600, Iai, Romania
Tel: 0232 23.13.43
Fax: 0232 21.42.90
Director editur:
Prof. univ. dr. ing. Mihail VOICU
Redactor:
Prof. Georgeta ANICULESEI
Refereni tiinifici:
Prof. univ. dr. doc. ing. Alfred BRAIER
Prof. univ. dr. ing. Teohari GANCIU
Prof. univ. dr. ing. Octavian PSTRVANU

Colecia: Automatic i informatic industrial


Descrierea CIP a Bibliotecii Naionale a Romniei
MATCOVSCHI, MIHAELA-HANAKO
Lanuri i sisteme de ateptare markoviene /
Matcovschi Mihaela-Hanako Iai: Editura Gheorghe
Asachi, 2003.
Bibliogr.
ISBN: 973-621-025-1
518.217

Mihaela-Hanako MATCOVSCHI
Universitatea Tehnic Gh. Asachi Iai
Facultatea de Automatic i Calculatoare
Bd. D. Mangeron 53A, 6600 Iai
E-mail: mhanako@delta.ac.tuiasi.ro

Cuvnt nainte
n instruirea specialitilor din ingineria sistemelor i calculatoarelor i din
domenii conexe (telecomunicaii, inginerie industrial, biotehnologie) ultimul deceniu s-a
caracterizat printr-o deplasare a centrului de interes ctre noi tipuri de dinamic,
necesitnd o extindere adecvat a fundamentelor teoretice care s permit desfurarea
activitilor de modelare, analiz i sintez. Respectiva extindere a inclus n principal
construcii bazate pe capitole moderne de matematic cu aplicabilitate larg, deja
consacrat n practic.
Lanurile Markov i sistemele de ateptare markoviene sunt dou dintre aceste
capitole care n prezent se regsesc n coninutul a numeroase monografii i manuale cu
orientare inginereasc publicate recent de diverse edituri internaionale. Existena n
literatura tehnico-inginereasc din Romnia a foarte puine materiale viznd noile arii
de investigaie din automatic a motivat autoarea acestor rnduri s elaboreze o carte
concentrat asupra elementelor de baz ale teoriei ateptrii.Spiritul crii este specific
antrenrii studenilor pe principii didactice moderne, restrngnd latura pur matematic
la strictul necesar i complementnd-o prin exemple i studii demonstrative care
ilustreaz modul de aplicare a rezultatelor teoretice. Mai mult, o parte din aceste
aplicaii ofer comparativ soluii analitice i asistate de calculator, iar sub form de
anexe sunt prezentate elementele eseniale pentru utilizarea software-ului la care se face
apel (Statistics Toolbox for MATLAB i ARENA). Maniera de dozare i structurare
a informaiilor furnizate cititorului faciliteaz parcurgerea textului, crend o relativ
independen de consultarea altor resurse bibliografice. Cititorul interesat n detalii
gsete ns n lista bibliografic numeroase recomandri pentru studii ulterioare i/sau
aprofundarea unor tematici.
n dimensionarea lucrrii i fixarea principalelor repere de coninut s-a inut cont
de corelarea cu disciplinele de studiu proprii specializrilor de Automatic, Informatic
Aplicat, Tehnologia Informaiei, consultnd planuri de nvmnt i programe
analitice disponibile de la alte universiti din ar i din strintate. Prin acest demers
cartea i definete o sfer de poteniali cititori nu numai n rndul studenilor Facultii

ii

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

de Automatic i Calculatoare din Iai, pentru care este recomandat drept suport
pentru cursul de Sisteme de Ateptare i Aplicaii, ci are n vedere studeni, absolveni i
doctoranzi din specializri nrudite, care o pot utiliza drept material pentru studiu
individual. Nivelul introductiv spre mediu pentru care a fost proiectat lucrarea a obligat
la o selectare foarte atent a subiectelor nepermind abordarea unor problematici
importante din punctul de vedere al cercetrilor actuale, dar depind cadrul
informaional pe care ni l-am propus. Din aceast categorie fac parte sistemele de
ateptare nemarkoviene, reelele de ateptare i algoritmi de planificare a servirii.
Acest Cuvnt nainte nu poate fi ncheiat fr ca autoarea s i exprime
gratitudinea fa de o serie de persoane care, ntr-o manier direct sau indirect, au
contribuit la definitivarea i apariia acestei lucrrii. Acetia sunt cei trei refereni care
au avut generozitatea de a parcurge manuscrisul i de a formula sugestii pentru
amendarea acestuia, precum i membrii colectivului Editurii "Gh. Asachi" care au
druit acestui manuscris lumina tiparului.
Cititorii sunt rugai ca n urma lecturii s aduc la cunotina autoarei inerentele
imperfeciuni ale materialului, i totodat, n msura posibilului, s propun eventuale
soluii pentru ndeprtarea acestora. Tuturor celor care vor avea bunvoina de a
rspunde acestei invitaii, le sunt adresate anticipat mulumirile cuvenite.

Aprilie 2003

Autoarea

Cuprins
Cuvnt nainte .................................................................................................................. i
Cuprins........................................................................................................................... iii
Simboluri i notaii......................................................................................................... vi
Cap. 1. Introducere n teoria sistemelor de ateptare .................................................... 1
Cap. 2. Elemente de teoria probabilitilor i statistic matematic ............................ 7
2.1. Cmp de probabilitate................................................................................................... 8
2.2. Variabile aleatoare i distribuii de probabilitate........................................................ 10
2.2.1. Variabile aleatoare unidimensionale................................................................. 10
2.2.2. Variabile aleatoare multidimensionale.............................................................. 13
2.2.3. Funcii de variabile aleatoare ............................................................................ 15
2.3. Caracteristici ale distribuiilor de probabilitate .......................................................... 17
2.3.1. Valoare medie ................................................................................................... 17
2.3.2. Dispersie (varian) ........................................................................................... 18
2.3.3. Moment de ordin k ............................................................................................ 19
2.3.4. Covarian ......................................................................................................... 20
2.4. Distribuii de probabilitate utilizate n modelarea sistemelor de ateptare................. 21
2.4.1. Distribuii discrete de probabilitate................................................................... 21
2.4.1.1. Distribuia uniform discret................................................................... 21
2.4.1.2. Distribuia Bernoulli................................................................................ 22
2.4.1.3. Distribuia binomial............................................................................... 22
2.4.1.4. Distribuia binomial cu exponent negativ.............................................. 23
2.4.1.5. Distribuia geometric ............................................................................. 24
2.4.1.6. Distribuia Poisson .................................................................................. 25
2.4.2. Distribuii continue de probabilitate ................................................................. 27
2.4.2.1. Distribuia uniform continu ................................................................. 27
2.4.2.2. Distribuia exponenial .......................................................................... 27
2.4.2.3. Distribuia gamma ................................................................................... 30
2.4.2.4. Distribuia Erlang .................................................................................... 31
2.4.2.5. Distribuia hiperexponenial .................................................................. 32
2.4.2.6. Distribuia Cox ........................................................................................ 34
2.4.2.7. Distribuia 2 .......................................................................................... 35

iv

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


2.4.2.8. Distribuia normal.................................................................................. 36
2.4.2.9. Distribuia lognormal............................................................................. 37
2.4.2.10. Distribuia beta ...................................................................................... 37
2.4.2.11. Distribuia Weibull ................................................................................ 38
2.5. Generarea numerelor aleatoare ................................................................................... 41
2.6. Funcii generatoare ..................................................................................................... 42
2.7. Legea numerelor mari. Legi limit ............................................................................. 50
2.8. Elemente de statistic matematic .............................................................................. 51
2.8.1. Estimarea parametrilor...................................................................................... 52
2.8.1.1. Estimatori statistici .................................................................................. 52
2.8.1.2. Intervale de ncredere .............................................................................. 56
2.8.2. Verificarea ipotezelor statistice......................................................................... 57

Cap. 3. Lanuri Markov................................................................................................. 63


3.1. Procese stohastice ....................................................................................................... 63
3.1.1. Noiuni generale................................................................................................ 63
3.1.2. Procese Markov ................................................................................................ 65
3.1.3. Fluxuri de evenimente....................................................................................... 67
3.1.3.1. Fluxuri de tip Bernoulli ........................................................................... 68
3.1.3.2. Fluxuri de tip Poisson.............................................................................. 72
3.2. Lanuri Markov n timp discret, omogene .................................................................. 76
3.2.1. Tranziii de stare................................................................................................ 76
3.2.1.1. Ecuaia Chapman-Kolmogorov ............................................................... 76
3.2.1.2. Durata de meninere a unei stri.............................................................. 80
3.2.2. Analiza regimului tranzitoriu ............................................................................ 81
3.2.3. Clasificarea strilor ........................................................................................... 85
3.2.3.1. Stri accesibile......................................................................................... 85
3.2.3.2. Stri recurente i stri tranzitorii ............................................................. 86
3.2.3.3. Stri nul recurente i stri pozitiv recurente ............................................ 87
3.2.3.4. Stri periodice i stri aperiodice ............................................................ 88
3.2.4. Analiza regimului staionar (permanent) .......................................................... 91
3.2.4.1. Lanuri Markov ireductibile .................................................................... 91
3.2.4.2. Lanuri Markov reductibile.................................................................... 100
3.2.4.3. Lanuri Markov absorbante ................................................................... 102
3.3. Lanuri Markov n timp continuu, omogene............................................................. 105
3.3.1. Tranziii de stare.............................................................................................. 105
3.3.1.1. Ecuaia Chapman-Kolmogorov ............................................................. 105
3.3.1.2. Durata de meninere a unei stri............................................................ 108
3.3.1.3. Probabilitile tranziiilor de stare ......................................................... 110
3.3.2. Analiza regimului tranzitoriu .......................................................................... 113
3.3.3. Clasificarea strilor ......................................................................................... 115
3.3.4. Analiza regimului staionar............................................................................. 116
3.3.5. Lanuri birth-death n timp continuu............................................................... 118

Cuprins

3.4. Lanuri Markov asociate reelelor Petri stohastice ................................................... 120


3.4.1. Concepte de baz n teoria reelelor Petri ....................................................... 120
3.4.2. Reele Petri stohastice ..................................................................................... 123
3.4.3. Proprieti de conservare................................................................................. 123
3.4.4. Construcia lanului Markov asociat unei reele Petri stohastice .................... 124
3.4.5. Evaluarea performanelor unei reele Petri stohastice..................................... 125
3.4.6. Reele Petri stohastice generalizate................................................................. 130

Cap. 4. Sisteme de ateptare markoviene ................................................................... 137


4.1. Modelarea matematic a sistemelor de ateptare...................................................... 137
4.1.1. Notaia lui Kendall .......................................................................................... 137
4.1.2. Dinamica unui sistem de ateptare.................................................................. 139
4.1.3. Performanele sistemelor de ateptare............................................................. 141
4.1.4. Legea lui Little ................................................................................................ 142
4.1.5. Sisteme simple de ateptare de tip markovian ................................................ 144
4.2. Sisteme de ateptare M/M/1 ..................................................................................... 144
4.3. Sisteme de ateptare M/M/m .................................................................................... 156
4.4. Sisteme de ateptare M/M/ .................................................................................... 166
4.5. Sisteme de ateptare M/M/1/K ................................................................................. 167
4.6. Sisteme de ateptare M/M/m/m ................................................................................ 173
4.7. Sisteme de ateptare M/M/1/ /N ............................................................................... 175
4.8. Sisteme de ateptare M/M/m/K/N ............................................................................ 177

Anexa 1. Simularea i analiza sistemelor de ateptare n MATLAB.......................... 183


Anexa 2. Simularea i analiza sistemelor de ateptare n ARENA ............................ 187
A2.1. Mediul de modelare ARENA 5.0 .......................................................................... 187
A2.2. Crearea modelului unui sistem de tip M/M/1 ........................................................ 190

Bibliografie ................................................................................................................. 197

Simboluri i notaii
\ mulimea numerelor reale
` mulimea numerelor naturale (inclusiv 0)
] mulimea numerelor ntregi
^ mulimea numerelor complexe
apartenen
incluziune strict
incluziune cu posibilitate de egal
spaiul eantioanelor (mulimea tuturor
realizrilor posibile ale unui experiment)
E spaiul evenimentelor
P funcia de probabilitate
( , E, P ) cmp de probabilitate
A B uniunea evenimentelor, A sau B
A B intersecia evenimentelor, A i B
A complementul evenimentului A, non A
P[ A | B ] probabilitate de apariie a evenimentului
A condiionat de producerea evenimentului B
X variabil aleatoare
FX funcia de repartiie a variabilei aleatoare X
p X densitatea de repartiie a variabilei aleatoare
discrete X
f X densitatea de repartiie a variabilei aleatoare
continue X
M[ X ] valoarea medie a variabilei X
Var[ X ] dispersia variabilei X
X deviaia standard a variabilei X
k [ X ] momentul de ordin k al variabilei X

kD [ X ] momentul centrat de ordin k al lui X


MX ( ) funcia generatoare de moment a
variabilei aleatoare X
GX ( z ) funcia generatoare de probabilitate a
variabilei discrete X
N X ( ) funcia caracteristic a variabilei X
LX ( s ) transformata Laplace a densitii de
probabilitate a variabilei continue X
T spaiul parametrilor unui lan Markov

S spaiul strilor unui lan Markov


X k starea unui lan Markov n timp discret la
pasul k
X (t ) starea unui lan Markov n timp continuu
la momentul t
pij probabilitatea de tranziie din starea i n

starea j a unui lan Markov discret i omogen


P = pij matricea probabilitilor de tranziie
ntr-un pas a unui lan Markov discret omogen
P (n) = pij( n ) matricea probabilitilor de
tranziie n n pai pentru un lan Markov
discret i omogen
j ( k ) probabilitatea ca un lan Markov s se
gseasc n starea j la pasul k
(k ) vectorul probabilitilor de stare la pasul k
vectorul probabilitilor de regim staionar
Q = qij matricea ratelor tranziiilor de stare
pentru un lan Markov continuu omogen
P (t ) matricea funciilor de tranziie de stare
pentru un lan Markov continuu omogen
e
P matricea probabilitilor tranziiilor de stare
pentru un lan Markov continuu omogen
s gradul de utilizare a serverului
M[ S ] durata medie petrecut de un client ntrun sistem de ateptare
M[ X ] lungimea medie a cozii
M[ X Q ] numrul mediu de clieni din coad
M[ Z ] durata medie de servire a unui client
M[W ] durata medie de ateptare a unui client
CTMC lan Markov n timp continuu
DTMC lan Markov n timp discret
EDTMC lanul Markov n timp discret
subordonat unui lan continuu
SPN reea Petri stohastic
GSPN reea Petri stohastic generalizat

Capitolul 1
Introducere

Sistemele de ateptare (eng. queueing systems) constituie un tip de sisteme din ce n ce mai
des ntlnit n ansamblul activitilor socio-economice ale societii moderne, n particular
viznd i progresul tehnologic din diverse domenii. Sistemele de ateptare constituie o
submulime a unei clase mai largi de sisteme dinamice, i anume sistemele de tip flux (eng.
flow systems), care efectueaz procesarea (sau servirea) unor entiti (sau clieni); clienii se
deplaseaz sau sunt transferai prin mai multe canale de dimensiuni finite dintr-un punct ntraltul al sistemului, ateapt (dac este nevoie) i prsesc sistemul dup ce au fost servii
complet. Termenul generic de client nu presupune existena unei fiine umane, ci are un sens
generic, putnd fi un automobil (dac ne referim, de exemplu, la fluxul de automobile ntr-o
reea de osele), un apel telefonic (n cazul transmisiei mesajelor telefonice), un asiu de
automobil (pentru fluxul de fabricaie pe o linie de asamblare a autovehiculelor), o
instruciune (cu referire la fluxul de execuie a unui program pe computer) i evident o
persoan (de exemplu, pentru fluxul clienilor dintr-un supermagazin).
Teoria sistemelor de ateptare (eng. queueing theory) a aprut
din necesitatea de a modela matematic i de a putea formula o
predicie asupra comportrii sistemelor de acest tip, n care sosirea
i servirea clienii au caracter aleator. Unul dintre pionierii
domeniului a fost Agner Krarup Erlang (18781929), un
matematician danez care a publicat, n anul 1909, lucrarea The
Theory of Probabilities and Telephone Conversations, pe baza unui
studiu pe care l-a efectuat pentru Compania Danez de Telefoane
din Copenhaga. n onoarea sa, Comitetul Consultativ Internaional
din Telefonie (CCIT) a decis n anul 1946 ca unitatea de msur
pentru intensitatea traficului s fie denumit Erlang, dei, din punct
Agner K. Erlang
de vedere strict fizic aceast mrime este adimensional.
Dintre cercettorii de prestigiu ai acestui domeniu mai trebuie amintii Felix Pollaczek
(1892-1981), Andrei Kolmogorov (1903-1987) i Alexandr Hincin (1894-1959).

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Progresele nregistrate n teoria sistemelor de ateptare au fost destul de lente pn


dup cel de-al doilea rzboi mondial, viznd n special aplicaii ale teoriei comunicaiilor.
Perioada sa de avnt a nceput n 1951 cnd David G. Kendall (n. 1918) a introdus
terminologia de baz utilizat n acest domeniu n articolul Some Problems in the Theory of
Queues, publicat n Jurnalul Societii Regale de Statistic din Londra. Pentru prima dat, n
aceast lucrare, Kendall utilizeaz termenul de queueing system i sugereaz folosirea
conceptului de lan Markov pentru modelarea sistemelor de acest tip. n 1953 Kendall a
introdus sistemul de clasificare a sistemelor de ateptare care astzi este unanim acceptat. La
notaia iniial a lui Kendall au mai fost adugate dou simboluri n anul 1968 de ctre Alec
M. Lee. Teorema lui John Little, fundamental n teoria sistemelor de ateptare, a fost
demonstrat n 1961, dei fusese utilizat n mod empiric timp de aproape dou decenii.
n paralel cu dezvoltarea teoriei, aria de aplicaii a acesteia a cunoscut o extindere
considerabil n organizarea prestrii de servicii pentru clieni umani (oficii potale, bnci,
instituii cu profil medical, supermagazine, rezervri de bilete), n dirijarea traficului (aerian,
terestru i maritim), n managementul resurselor sistemelor de producie i, nu n ultimul rnd,
n controlul automat al unor sisteme tehnice de mare complexitate (calculatoare i reele de
calculatoare, sisteme flexibile de fabricaie).
Plecare
clieni

Sosire
clieni
Fir de ateptare
(Q)

Server
(S)

Fig. 1.1. Structura de baz a unui sistem de ateptare.


Structura de baz a unui sistem de ateptare este prezentat n fig. 1.1. Clienii sosesc
n sistem cu obiectivul de a fi procesai (de a beneficia de un anumit serviciu), dup care vor
prsi sistemul. n general, un client nu este servit imediat ce a sosit, el fiind nevoit s atepte
n subsistemul Q, denumit fir de ateptare sau coad de ateptare. Astfel, ntotdeauna serverul
(staia de servire) S va prelua clienii din Q (i nu direct din exteriorul sistemului). Este uor
de observat c prezentarea la nivel descriptiv a modului de operare a unui sistem de ateptare
schiat anterior transpune ntr-un cadru teoretic riguros activiti ce se desfoar n
numeroase sisteme reale din activitatea social-economic (incluznd i principiile de
funcionare a unor echipamente tehnice).
n acest capitol considerm necesar expunerea noiunilor de baz din teoria
sistemelor, fr a face apel la instrumentul matematic specific acestei discipline. Civa dintre
factorii care definesc comportarea unui sistem de ateptare sunt prezentai sumar n
continuare:
Procesul de sosire a clienilor
O importan deosebit o au frecvena i modul de sosire a clienilor. De regul, se
presupune c duratele de timp dintre sosirile clienilor (eng. interarrival times) sunt

Cap. 1. Introducere

variabile aleatoare independente, identic distribuite, aceast ipotez simplificnd studiul


analitic. n multe situaii practice, fluxul de sosire a clienilor este de tip Poisson, adic
duratele dintre sosiri au distribuie exponenial. Clienii pot sosi unul cte unul, sau n
grup (de exemplu, la serviciul de control al paapoartelor de pe un aeroport).
De asemenea are importan comportamentul clienilor. Odat intrai n sistem, clienii
pot atepta "cu rbdare" (adic toat durata necesar) pn n momentul n care sunt
servii. Uneori, clienii pot "s-i piard rbdarea" (adic ateapt doar o anumit durat de
timp) i prsesc sistemul nainte de servire.
Durata de timp dintre sosirea unui client n sistem i nceperea servirii este denumit
timp de ateptare (eng. waiting time).

Duratele de servire a clienilor


Intervalul de timp dintre momentul n care clientul ncepe s fie servit i momentul n
care servirea sa este terminat este cunoscut sub numele de timp de servire (eng. service
time). De regul, se presupune c timpii de servire sunt variabile aleatoare independente,
identic distribuite i, n plus, sunt independeni de duratele dintre sosirile clienilor. De
exemplu, timpii de servire pot fi constani (determiniti) sau cu distribuie exponenial. n
unele cazuri, timpii de servire pot s depind de lungimea cozii sau de "importana"
clientului servit.
O alt situaie ce poate aprea este cea n care timpul de servire a unui client este
diferit de timpul de blocare (eng. blocking time) al staiei de servire, care reprezint durata
de timp dintre momentul la care ncepe servirea unui client i cel la care poate ncepe
servirea urmtorului client, n cazul c acest al doilea client a stat la coad pentru a fi
servit. Aceasta se explic prin faptul c activitatea serverului legat de primul client nu se
ncheie neaparat n momentul plecrii acestuia, ci poate necesita un interval de timp
suplimentar (consumat n diverse scopuri) pn va prelua urmtorul client din firul de
ateptare. De exemplu, dac serverul este un bra de robot care efectueaz un anumit tip de
transport, dup transportarea primului client robotul va trebui ca mai nti s revin n
poziia prevzut pentru preluarea clienilor i abia dup aceea va putea ncepe transportul
celui de-al doilea client.

Regulile de servire a clienilor


Cea mai des utilizat disciplin de servire a clienilor este n ordinea sosirii (eng. First
In, First Out FIFO), dar aplicarea acesteia este frecvent nclcat n cazul clienilor
umani. n sistemele de ateptare se ntlnesc situaii n care clienii sunt servii n ordine
invers celei de sosire (eng. Last In, First Out LIFO) sau n ordine aleatoare (eng. Random
Service). Pentru disciplina de servire LIFO un exemplu elocvent l constituie secvena de
executare a instruciunilor pe baza adresei ncrcate n Program Counter (care joac rolul
serverului pentru clieni de tip adres), n cazul unor apeluri succesive dintr-o rutin ntralta. Adresele sunt depozitate n stiv (care joac rolul cozii de ateptare) ncepnd cu
apelul primei rutine pn la apelul ultimei rutine i sunt extrase n ordine invers, prima
adres de revenire fiind ultima adres introdus n stiv.
O alt situaie ntlnit n practic este cea n care servirea clienilor se face prin
partajarea staiei de servire, fiecare client fiind servit o anumit durat de timp dup care

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


se trece la clientul urmtor (eng. Round Robin). Un exemplu n acest sens l constituie
funcionarea unui sistem de operare multitasking care afecteaz procesorul fiecrui client
(task) pentru o anumit cuant de timp, baleind totodat toi clienii din firul de ateptare
i lsnd impresia unui progres simultan n servirea acestora.
Alte tipuri de discipline de servire sunt asociate unor reguli de prioritate stabilite ntre
mai multe categorii (clase) de clieni. Clienii din aceeai clas sunt servii dup regula
FIFO, dar clienii de prioritate mai mare (i) sunt servii naintea celor de prioritate mai
redus (i+1). n cazul n care regula de servire se bazeaz pe prioritate absolut (eng. preemptive priority), dac n cursul servirii clientului de prioritate i+1 apare un client de
prioritate i, servirea clientului curent este ntrerupt, acesta fiind trimis din nou n firul de
ateptare, i ncepe servirea clientului nou sosit. Cu privire la reluarea servirii clientului de
prioritate i+1 exist dou posibiliti: din punctul n care a fost ntrerupt servirea la
sosirea noului client (eng. pre-emptive resume), sau de la nceputul serviciului (eng. preemptive restart). Dac n cursul servirii clientului de prioritate i+1 apare un client de
prioritate i i servirea clientului curent este continuat, clientul de prioritate i fiind servit
abia dup terminarea servirii clientului curent, se spune c serviciul funcioneaz cu
prioritate relativ (eng. non pre-emptive priority). Exemple n acest sens pot fi considerate
modurile de tratare a taskurilor n condiiile exploatrii mecanismelor de servire prioritar
specifice diverselor sisteme de operare. Din punct de vedere matematic, tratarea
sistemelor cu prioriti este dificil, n afar de cazul modelelor simple (a se vedea n
seciunea 4.2 un exemplu de tratare a unui sistem de ateptare de tip M/M/1 cu dou clase
de clieni). Pentru modelele complicate studiul se poate face prin simulare.
O alt clasificare a sistemelor de ateptare se poate face dup cum clienii sunt servii
unul cte unul sau n grup (eng. batch processing). De exemplu, un ncasator, opernd drept
server pentru coada de la intrarea ntr-un muzeu, poate servi cte un singur client
(ncasnd aceeai sum de la fiecare turist singur) sau poate servi un lot de clieni
(ncasnd de la un turist nsoit de familie suma corespunztoare numrului de membri ai
familiei).
Comportamentul clienilor este, de asemenea, important. Se poate ntmpla ca unii
clieni s prseasc sistemul fr a fi servii dup ce au ateptat o vreme la coad (eng.
reneging). n situaia n care exist mai multe fire de ateptare, clienii pot trece de la o
coad mai lung la alta mai scurt (eng. jockeying). O alt situaie ntlnit este atunci cnd
la sosirea n sistemul de ateptare, un client vede coada (cunoate numrul de clieni din
firul de ateptare) i renun s mai intre (eng. balking).

Numrul staiilor de servire


n cazul sistemelor cu mai multe servere exist dou tipuri de organizare a servirii: n
paralel sau n serie. De regul, n cazul organizrii staiilor de servire n paralel se
presupune c staiile au faciliti de servire identice, astfel c un client poate fi servit la fel
de bine de oricare dintre servere. Dac un client poate selecta sau poate fi ndrumat ctre
oricare dintre staii, se spune c acestea sunt complet abordabile. Exist posibilitatea de a
avea mai multe servere, dar care sunt complet abordabile numai pentru o parte din clieni
(abordare restrictiv). De exemplu, n incinta unei agenii de voiaj, la trei ghiee se

Cap. 1. Introducere

elibereaz bilete pentru orice categorie de tren, n timp ce la un ghieu se elibereaz bilete
numai pentru trenurile cu rezervare de loc. Cele trei ghiee sunt complet abordabile de
ctre toi clienii, iar cel de-al patrulea ghieu este abordabil numai de ctre anumii
clieni.
Staiile de servire n serie se ntlnesc n cazul n care sistemul este compus din mai
multe subsisteme de ateptare. Clientul trece pe rnd pe la toate staiile, ateptnd a fi
servit de fiecare dintre ele.

Capacitatea sistemului de ateptare


n multe situaii practice, capacitatea sistemului de ateptare, adic numrul total de
clieni care se pot afla simultan n sistem (n firul de ateptare sau n curs de servire), este
finit. Dac la sosirea unui client sistemul este complet ocupat, atunci clientului nu i este
permis intrarea n sistem. O problem care se pune frecvent este cea de determinare a
capacitii sistemului, astfel nct servirea clienilor sa fie optimizat n raport cu un
anumit criteriu.

Dimensiunea populaiei din care provin clienii


Populaia din care provin clienii (eng. calling population) poate fi infinit, caz n care
se spune c sistemul este deschis (eng. open queueing system). Dac populaia din care
provin clienii este finit se spune c sistemul este nchis (eng. closed queueing system)

n analiza performanelor unui sistem de ateptare ne intereseaz s determinm


numrul de clieni din firul de ateptare sau din ntregul sistem (n curs de servire sau
ateptnd la coad), durata de ateptare a unui client, durata petrecut de un client n sistem,
gradul de utilizare a fiecrui server, rata de plecare a clienilor din sistem. Aceste mrimi sunt
variabile aleatoare i se urmrete caracterizarea lor complet din punct de vedere
probabilistic (de exemplu, funcie de repartiie, valoare medie, dispersie, etc.). De asemenea
pot fi evaluate performane specifice fiecrui sistem n parte ca de exemplu, probabilitatea ca
un client s trebuiasc s atepte la coad ntr-un sistem de tip M/M/1 sau probabilitatea ca un
client care sosete s gseasc sistemul ocupat i s fie rejectat pentru un sistem de tip
M/M/1/K. Asemenea performane sunt puse n eviden pentru diverse sisteme simple de
ateptare n capitolul 4 al lucrrii.
n ultimul deceniu, teoria sistemelor de ateptare a ptruns ca disciplin de studiu n
numeroase instituii de nvmnt universitar din Europa Occidental, Statele Unite ale
Americii, Canada, Japonia, etc. n acest context, ncepnd cu anul universitar 2001-2002, n
planul de nvmnt al Facultii de Automatic i Calculatoare din Iai a fost introdus
disciplina Sisteme de ateptare i aplicaii pentru care lucrarea de fa poate constitui un
foarte util suport de curs. n acest scop i, totodat, pentru a facilita studiul individual bazat pe
cartea de fa, am dorit s asigurm o ct mai mare autonomie a coninutului informaional de
aa manier nct lectura s nu necesite apelarea la alte texte. Drept urmare am considerat
oportun crearea unui fundament solid pentru abordarea cunoaterii de tip probabilistic care
s precead tratarea problematicii propriu-zise a lanurilor i sistemelor de ateptare

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

markoviene. De asemenea, am gsit de cuviin s sprijinim nelegerea suportului matematic


specific domeniului prin accentuarea aspectelor intuitive puse n eviden de un numr mare
de exemple bogat ilustrate grafic.
Din aceleai raiuni, de a pune la dispoziia cititorului o lucrare uor de parcurs, cartea
nu a fost conceput ca un material exhaustiv asupra domeniului sistemelor de ateptare, ci s-a
preferat aprofundarea numai anumitor subiecte cotate ca eseniale pentru a oferi un punct de
start unor posibile investigaii viitoare. Astfel, cunotinele furnizate prin aceast lucrare
permit abordarea facil a unor tematici avansate cum ar fi reelele de ateptare, politici de
rutare i dispecerizare, care nu fac obiectul prezentei tratri.
n elaborarea textului am inut cont de modul de organizare i gradul de complexitate a
informaiilor puse la dispoziie de manuale i studii monografice din literatura angloamerican i ruseasc dedicate unei tematici similare. Deopotriv de util am considerat i
consultarea mai multor site-uri web cu orientare didactic pe problematica sistemelor de
ateptare. Toate aceste demersuri au contribuit la o selectare ct mai judicioas a noiunilor i
rezultatelor discutate, precum i la realizarea unui mod ct mai flexibil de articulare a acestor
elemente.

Capitolul 2
Elemente de teoria probabilitilor
i statistic matematic

How dare we speak of the laws of chance?


Is not chance the antithesis of all law?
Bertrand Russell

n modelarea sistemelor de ateptare fenomenele aleatoare joac un rol determinant. Practic


toate sistemele de ateptare din lumea real sunt influenate de mrimi de intrare aleatoare,
necontrolabile, astfel nct ieirile lor au, de asemenea, caracter aleator. Din acest motiv,
teoria probabilitilor reprezint instrumentul matematic fundamental n studiul sistemelor de
ateptare.
Bazele teoriei probabilitilor au fost puse in secolul al XVII-lea, prin corespondena
purtat de doi mari matematicieni francezi, Blaise Pascal (1632-1662) i Pierre de Fermat
(1601-1662), asupra unor probleme pe care cavalerul de Mr om de spirit i amator de
jocuri de noroc i le-a prezentat lui Pascal n 1654. Lor li s-a alturat curnd Christiaan
Huygens (1629-1695) care s-a deplasat la Paris special pentru a discuta aceste probleme. Odat
strnit interesul de lucrrile lui Pascal, Fermat i Huygens, teoria probabilitilor a cunoscut o
dezvoltare vertiginoas. Jacques Bernoulli (1654-1705) A fost cel care a dat prima form a legii
numerelor mari. Abraham de Moivre (1665-1754) a fcut primele observaii asupra legii
normale, care va fi studiat apoi temeinic de Johann Carl Friedrich Gauss (1777-1855).
Prin lucrrile lui Pierre Simon Laplace (1749-1827) teoria probabilitilor a luat o
mare rspndire. n secolul XIX, Pafnuty L. Cebev (1821.1894), Alexandr M. Lyapunov
(1857-1918) i Andrei A. Markov (1856-1922) au adus contribuii importante inaugurnd
studiul variabilelor aleatoare dependente. n aceast perioad, sfera aplicaiilor teoriei
probabilitilor s-a extins considerabil, cuprinznd i tiinele naturale, n special fizica.
Perioada modern ncepe cu axiomatizarea acestei discipline de ctre A. N.
Kolmogorov (1903-1987) n deceniul al treilea al secolului XX din considerente de ordin
practic; aplicaiile din ce n ce mai importante ale teoriei probabilitilor n fizic, biologie,
economie, inginerie i alte domenii variate ale tiinei, aveau nevoie de un instrument

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

matematic abstract, general, cu noiuni de baz bine precizate. n afar de puternica dezvoltare
teoretic, s-au extins continuu i domeniile de aplicabilitate ale teoriei probabilitilor i
statisticii matematice, unele dintre acestea conturndu-se ca teorii de sine-stttoare, cum ar fi
teoria informaiei, teoria fiabilitii i teoria sistemelor de ateptare (Mihoc i Mihu, 1980).

2.1. Cmp de probabilitate


Un concept de baz n teoria probabilitilor l reprezint cel de experiment. Atunci cnd se
creeaz un model matematic care descrie (probabilistic) un experiment din lumea real, se
pun n eviden urmtoarele trei elemente: (i) mulimea tuturor rezultatelor (realizrilor)
posibile ale experimentului, (ii) o grupare a acestor rezultate n clase (evenimente) i (iii)
frecvena relativ de apariie a claselor atunci cnd experimentul este reluat (n mod
independent) de mai multe ori.
Mulimea a tuturor realizrilor posibile ale unui experiment se numete spaiul
eantioanelor acelui experiment (eng. sample space). Un eveniment reprezint o submulime a
spaiului . Mulimea reprezint evenimentul sigur, iar mulimea vid corespunde
evenimentului imposibil. Operaiile elementare cu evenimente corespund operaiilor cu
mulimi, i anume (fig. 2.1.1.a c):
uniunea evenimentelor, A sau B:
A B = { A sau B} ;
(2.1.1)

intersecia evenimentelor, A i B:
A B = { A i B} ;

(2.1.2)

complementul evenimentului A, non A:


A = { A} = A .

(2.1.3)

a.

b.

c.

d.

Fig. 2.1.1. Ilustrare grafic a operaiilor elementare cu evenimente.


Dac A B = se spune c evenimentele A i B sunt mutual exclusive (disjuncte) (nu
pot aprea simultan). O mulime de evenimente { A1 , A2 , , An } (fig. 2.1.1.d) formeaz un
sistem complet de evenimente dac sunt disjuncte, Ai A j = , i j , i acoper spaiul ,
Ai = (se realizeaz cu certitudine unul i numai unul dintre acestea).
i

Fiecrui eveniment i se poate asocia probabilitatea sa de apariie n urma unui


experiment, care reprezint valoarea limitei frecvenei relative de apariie a acestuia:

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

NA
,
(2.1.4)
N N
este numrul de apariii a evenimentului A n urma efecturii unui numr N de
P[ A] = lim

unde N A

experimente.
Pe baza noiunilor introduse mai sus se poate enuna urmtoarea definiie.
Tripletul ( , E, P ) se numete cmp de probabilitate dac:

E este o familie nevid de submulimi ale spaiului eantioanelor , numit spaiul


evenimentelor, cu proprietile:
- dac A E , atunci i A E ;
- dac A1 , A2 ,... E , atunci i Ai E .
i

P este o funcie P : E , numit probabilitate, astfel nct:


- P[ A] 0, A E ;
- P[] = 1 ;
- dac A1 , A2 E sunt evenimente disjuncte, atunci P [ A1 A2 ] = P[ A1 ] + P[ A2 ] .

Cele trei condiii pe care le satisface funcia de probabilitate poart denumirea de


axiomele lui Kolmogorov (Mihoc i Mihu, 1980). Pe baza acestora se pot demonstra
urmtoarele proprieti ale probabilitii:
- 0 P[ A] 1 ; P[] = 1 ; P[] = 0 ;
- P[ A] = 1 P[ A] ;
-

dac A1 , A2 ,... E sunt evenimente disjuncte, atunci P Ai = P[ Ai ] ;


i i
P[ A B ] = P[ A] + P[ B] P[ A B] ;
dac A B atunci P[ A] P[ B ] .

Probabilitatea de apariie a evenimentului A n ipoteza c s-a produs evenimentul B


(fig. 2.1.2), denumit probabilitate condiional, este dat de:
P[ A B]
P[ A | B] =
,
(2.1.5)
P[ B]
de unde se obine
P[ A B ] = P[ A | B] P[ B] .

(2.1.6)

Se spune c dou evenimente A i B sunt independente dac i numai dac


P[ A B ] = P[ A] P[ B] (ceea ce nseamn c P[ A | B ] = P[ A] , adic probabilitatea de apariie
a evenimentului A nu este influenat de apariia evenimentului B).
Legea probabilitii totale. Dac

{ A1 , A2 , , An } este un sistem complet de

evenimente atunci
n

P[ B] = P[ B | Ai ]P[ Ai ] .
i =1

(2.1.7)

10

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Importana legii probabilitii totale const n posibilitatea rezolvrii unei probleme


complexe prin divizarea acesteia n mai multe probleme simple (fig. 2.1.3).

Fig. 2.1.3. Ilustrarea grafic a legii probabilitii totale.


Formula lui Bayes. Dac { A1 , A2 , , An } este un sistem complet de evenimente i B
un eveniment pentru care P[ B ] 0 , atunci

P[ Ak | B] =

P[ Ak B]
P[ B | Ak ] P[ Ak ]
= n
.
P[ B]
P[ B | Ai ]P[ Ai ]

(2.1.8)

i =1

2.2. Variabile aleatoare i distribuii de probabilitate


2.2.1. Variabile aleatoare unidimensionale
O variabil aleatoare (eng. random variable) (real) X asociaz un numr real X ( ) fiecrei
realizri posibile a unui experiment. Astfel, o variabil aleatoare X reprezint o funcie
definit pe spaiul eantioanelor cu valori n mulimea numerelor reale , X : .
Pentru consistena definiiei se impune ca mulimea { X ( ) x} , notat i [ X x] , s
reprezinte un eveniment (s aparin spaiului evenimentelor E ) pentru orice x .
Mulimea valorilor pe care le poate lua variabila aleatoare X,
X () = { x X ( ) = x, } , poate fi finit sau numrabil, caz n care se spune c
variabila aleatoare este discret. O variabil aleatoare pentru care mulimea valorilor posibile
este un interval al dreptei reale (nu neaprat mrginit) este numit continu.
Se numete funcia de repartiie (sau de distribuie) (eng. cumulative distribution
function - cdf) a variabilei aleatoare X (oarecare) aplicaia definit prin relaia:
F : [0, 1] , F ( x) = P[ X x] .
(2.2.1)
Funcia de repartiie a unei variabile aleatoare X are urmtoarele proprieti:
F ( ) = lim F ( x ) = 0,
F (+) = lim F ( x) = 1 ;
x

x +

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

este monoton cresctoare pe : x1 x2 F ( x1 ) F ( x2 ) ;


este continu la dreapta n orice punct x , lim F ( ) = F ( x) ;

P[ x1 < X x2 ] = F ( x2 ) F ( x1 ), P[ X > x] = 1 F ( x) .

11

Pentru o variabil aleatoare discret, care ia valoarea xi cu probabilitatea pi ,


x x2 xn
i = 1, 2, , notat X = 1
, se definete densitatea de probabilitate, (eng.
p1 p2 pn
probability density function pdf) prin relaia:
pi , dac x = xi ,
p : [0, 1] , p( x) = P[ X = x] =
(2.2.2)
0, dac x xi .
Relaia de legtur dintre funcia de repartiie i densitatea sa de probabilitate este:
F ( x) = p( y ) .
(2.2.3)
y x

Dac numrul de valori pe care le poate lua X este finit (n), expresia funciei sale de repartiie
este:
, x (, x1 ),
0

, x [ x1 , x2 ),
p1

, x [ x2 , x3 ),
p1 + p2
(2.2.4)
F ( x) =

p1 + p2 + + pn 1 , x [ xn 1 , xn ),

, x [ xn , ).
1

Din punct de vedere grafic, F(x) este o funcie scar, cu n+1 trepte cresctoare, dintre care
prima are valoarea 0, iar ultima valoarea 1.
Exemplul 2.2.1. Pentru ilustrarea celor afirmate anterior, considerm cazul unei
variabile aleatoare care ia trei valori distincte, adic particularizarea n = 3 n formula
funciei de repartiie. n reprezentarea grafic din fig. 2.2.1(b) se observ efectul
cumulativ al funciei de repartiie, care este o funcie scar cu 4 valori: 0, p1 , p1 + p2 i
p1 + p2 + p3 = 1 (prezentnd salturile p1 , p2 , p3 , corespunztoare probabilitilor
reprezentate grafic n fig. 2.2.1(a)). Avnd n vedere definiia funciei F, sunt evidente
urmtoarele trei proprieti ale acesteia:
1. F este monoton cresctoare - deoarece cu ct valoarea x considerat este mai mare,
cu att este mai mare i valoarea funciei.
2. lim F ( x) = 0 - deoarece pentru valori extrem de mici ale lui x, ne plasm cu
x

3.

certitudine n intervalul (, x1 ) .
lim F ( x) = 1 - deoarece pentru valori extrem de mari ale lui x, ne plasm cu
x

certitudine n intervalul [ x3 , ) .

12

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

(a)

(b)

Fig. 2.2.1. Reprezentarea grafic a (a) densitii de probabilitate i a


(b) funciei de repartiie pentru o variabil aleatoare discret.
Exemple de variabile aleatoare discrete: starea la un moment dat a unui server cu
posibiliti de defectare (I idle, W working, D down); numrul X de clieni dintr-un
fir de ateptare de capacitate 10 ( X {0,1, 2, ,10} ); numrul Y de clieni care au intrat
ntr-un sistem de ateptare ntr-un interval de timp de lungime t ( Y ).
Dac pentru o variabil aleatoare continu X exist o funcie f :

, cu un

numr finit de puncte de discontinuitate de prima spe, ce satisface relaia (fig. 2.2.2):
x

F ( x) =

f ( )d , x

(2.2.5)

atunci funcia f se numete densitate de probabilitate a variabilei X. Dac funcia f este


continu ntr-un punct x , atunci funcia de repartiie F este derivabil n x i
dF ( x)
.
(2.2.6)
f ( x) =
dx

(a)

(b)

Fig. 2.2.2. Reprezentarea grafic a (a) densitii de probabilitate i a (b) funciei de repartiie
pentru o variabil aleatoare continu.

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

13

Proprietile densitii de probabilitate rezult din cele ale funciei de repartiie:


+

f ( x) 0, x

f ( x)dx = 1 ;

P[a < X b] = F (b) F (a ) = f ( )d .


a

Exemple de variabile aleatoare continue: timpul ct un server se gsete n starea


D (defect); timpul dintre sosirile a doi clieni consecutivi ntr-un fir de ateptare, timpul
de servire a unui client de ctre sever, momentul sosirii ntr-un magazin a primului
client dintr-o anumit zi.
Observaie. Din modul de definire a funciei de repartiie F a variabilei aleatoare X
reiese c F are un caracter cumulativ, care se exprim n mod diferit pentru X de tip discret (de
tip sum) i pentru X de tip continuu (de tip integral).

2.2.2. Variabile aleatoare multidimensionale


n practic, unui anumit experiment i pot fi asociate foarte multe variabile aleatoare, se aleg
ns numai acelea care au relevan din punctul de vedere al aspectelor studiate. suntem
adeseori pui n situaia de a lua n considerare simultan dou sau mai multe variabile
aleatoare. Dac X i Y sunt dou variabile aleatoare reale definite peste acelai cmp de
probabilitate, atunci perechea Z = ( X , Y ) este un vector aleator bidimensional, fiind definit
prin Z :

, Z ( ) = ( X ( ), Y ( ) ) . n general, dac X 1 , X 2 ,..., X m sunt variabile

aleatoare reale, Z = ( X 1 , X 2 ,..., X m ) se numete vector aleator m-dimensional.

Exemplu de variabil aleatoare bidimensional: Pentru o linie de fabricaie cu


dou maini, variabilele unidimensionale X1 i X2 desemneaz numrul de piese din
depozitul care precede fiecare dintre maini. Starea liniei de fabricaie poate fi
caracterizat de variabila bidimensional Z = ( X 1 , X 2 ) .
Se numete funcia de repartiie a vectorului aleator bidimensional Z = ( X , Y )
aplicaia
FX ,Y :

[0, 1] , FX ,Y ( x, y ) = P[ X x, Y y ] , x, y

(2.2.7)

unde [ X x, Y y ] = [ X x] [Y y ] (fig. 2.2.3).


Densitatea de probabilitate (eng. joint density distribution function) a vectorului aleator
bidimensional Z = ( X , Y ) este derivata a doua parial mixt (dac exist) a funciei sale de
repartiie:

14

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


f X ,Y ( x, y ) =

2 FX ,Y ( x, y )
xy

(2.2.8)

Relaia de legtur dintre funcia de


repartiie i densitatea de probabilitate ale unei
variabile aleatoare bidimensionale continue este:
x

FX ,Y ( x, y ) =

f X ,Y ( , )d d .

Fig. 2.2.3. Ilustrare a definiiei


funciei de repartiie pentru
un vector aleator bidimensional.

(2.2.9)

Densitatea de probabilitate bidimensional


f X ,Y ( x, y ) are proprietile:
+ +

f X ,Y ( x, y ) 0,

x, y

f X ,Y ( x, y ) dx dy = 1 .

Densitile (marginale) de probabilitate ale variabilelor aleatoare unidimensionale X


i Y sunt date de:
+

f X ( x) =

f ( x, )d , respectiv, fY ( y ) =

f ( , y )d .

(2.2.10)

Dou variabile aleatoare X i Y sunt independente dac i numai dac evenimentele


[ X x] i [Y y ] sunt independente pentru orice x, y , deci dac i numai dac
FX ,Y ( x, y ) = FX ( x) FY ( y )

f X ,Y ( x, y ) = f X ( x) fY ( y ) .

(2.2.11)

Exemplul 2.2.2. Se realizeaz un experiment ce const n a msura momentul sosirii


primului client ntr-un magazin n dou zile consecutive (considernd drept moment 0
momentul deschiderii magazinului). Se consider variabila aleatoare bidimensional
Z = ( X , Y ) i presupunem c densitatea sa de probabilitate este de forma
2 e ( x + y ) , pentru x 0 i y 0
f X ,Y ( x, y ) =
0
, n rest

cu > 0 . Densitile marginale de probabilitate ale variabilelor X i Y sunt:


2 ( x + )
d = e x , pentru x 0
e
f X ( x) = 0

0
, pentru x < 0

respectiv,
2 ( + y )
d = e y , pentru y 0
e
fY ( y ) = 0

0
, pentru y < 0

Se observ c f X ,Y ( x, y ) = f X ( x) fY ( y ) , deci variabilele aleatoare X i Y sunt


independente (adic momentul de timp la care intr primul client n magazin ntr-o

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

15

anumit zi nu depinde de momentul la care a intrat primul client n acelai magazin n


ziua precedent).
Considernd funciile marginale de repartiie FX ( x) = 1 e x , pentru x 0 , i
FY ( y ) = 1 e y , pentru y 0 , funcia de repartiie a variabilei Z rezult de forma

)(

FX ,Y ( x, y ) = FX ( x) FY ( y ) = 1 e x 1 e y , pentru x 0 i y 0 .
Considerm dou variabile aleatoare X i Y. tiind c Y = y , se poate determina
repartiia condiional de probabilitate a variabilei X de forma:
F ( x, y + y ) FX ,Y ( x, y )
P[ X x, y Y y + y ]
FX ( x | Y = y ) = lim
= lim X ,Y
=
y 0
y 0
P[ y Y y + y ]
FY ( y + y ) FY ( y )

FX ,Y ( x, y )
FX ,Y ( x, y + y ) FX ,Y ( x, y )
y
y
= lim

y 0
FY ( y + y ) FY ( y )
fY ( y )
y

(2.2.12)

2
F ( x, y )
f ( x, y )

xy X ,Y
= X ,Y
.
f X ( x | Y = y ) = FX ( x | Y = y ) =
fY ( y )
fY ( y )
x
Trecerea de la cazul bidimensional la cel multidimensional se face n mod natural.

2.2.3. Funcii de variabile aleatoare


Presupunem c X este o variabil aleatoare (cu valori reale) pentru care funcia de repartiie i
este o
densitatea de probabilitate sunt notate FX ( x) , respectiv f X ( x) . Dac g :
funcie cunoscut, atunci Y = g ( X ) (fig. 2.2.4) este o variabil aleatoare a crei funcie de
repartiie, notat FY ( y ) , este dat de
FY ( y ) = P[Y y ] = P[ g ( X ) y ] , y

Fig. 2.2.4. Ilustrarea grafic a unei funcii de o variabil aleatoare.

(2.2.13)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

16

Exemplul 2.2.3. Fie X o variabil aleatoare continu pentru care densitatea de


probabilitate i funcia de repartiie, notate f X , respectiv FX , sunt continue pe
.
Considernd variabila Y = g ( X ) = X 2 , se observ c Y poate lua numai valori pozitive,
astfel c funcia sa de repartiie are proprietatea FY ( y ) = 0 pentru y 0 . Dac y > 0 ,
atunci
FY ( y ) = P[Y y ] = P[ X 2 y ] = P[ y X

y ] = FX

( y ) FX ( y ) .

Prin derivare, se obine densitatea de probabilitate a lui Y sub forma


0
, pentru y 0,

fY ( y ) = 1
2 y [ f X ( y ) f X ( y )] , pentru y > 0.
De exemplu, X ar putea reprezenta eroarea de msur ntr-un anumit experiment
fizic, iar Y ar reprezenta, n acest caz, eroarea ptratic de msur.
n mod asemntor se pot introduce funciile de mai multe variabile aleatoare.
Exemplul 2.2.4. Fie variabilele aleatoare independente X1 , X 2 , , X n ; funcia de
repartiie a variabilei X i este notat Fi , i = 1, n . Considernd variabilele aleatoare
Y = max { X1 , X 2 , , X n } i Z = min { X 1 , X 2 , , X n } , funciile lor de repartiie sunt
date de:
FY ( y ) = P [ max { X 1 , X 2 , , X n } y ] = P [ X1 y, X 2 y, , X n y ] =
= P [ X1 y ] P [ X 2 y ] P [ X n y ] = F1 ( y ) F2 ( y ) Fn ( y ), y ,
respectiv,
FZ ( z ) = P [ min { X 1 , X 2 , , X n } z ] = 1 P [ min { X1 , X 2 , , X n } > z ] =
= 1 P [ X 1 > z , X 2 > z , , X n > z ] = 1 P [ X1 > z ] P [ X 2 > z ] P [ X n > y ] =
= 1 [1 F1 ( z ) ][1 F2 ( z )][1 Fn ( z ) ] , z .
Fie Y = g ( X ) . Natura funciei g determin modul de calcul efectiv al funciei de
atunci
repartiie FY ( y ) . De exemplu, dac g este funcie strict cresctoare i surjectiv pe

FY ( y ) = FX g 1 ( y ) ,

(2.2.14)

deoarece g ( X ) y X g 1 ( y ) .
Dac funcia g este derivabil, densitatea de probabilitate a variabilei Y, fY ( y ) , poate
fi calculat cu ajutorul formulei:
fY ( y ) =
i

f X ( xi )
,
| g ( xi ) |

(2.2.15)

unde x1 , x2 ,... reprezint rdcinile ecuaiei y = g ( x) i g ( xi ) noteaz valoarea derivatei


dg ( x) dx n punctul x = xi (presupunnd c g ( xi ) 0 pentru toi xi ).

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

17

n general, funcia de repartiie FY ( y ) poate fi determinat prin evaluarea integralei:


FY ( y ) =

f X ( x) dx ,

S ( y)

(2.2.16)

unde S ( y ) este mulimea punctelor { x | g ( x) y} . Complexitatea calculului acestei integrale


depinde de complexitatea domeniului S ( y ) , care, la rndul su, depinde de complexitatea
funciei g () .
Relaiile de mai sus se pot extinde n mod natural la cazul funciilor care depind de
mai multe variabile aleatoare. n particular, dac Z = g ( X , Y ) este o funcie de dou variabile
aleatoare, atunci
FZ ( z ) =

S (z)

f X ,Y ( x, y ) dx dy ,

(2.2.17)

unde f X ,Y ( x, y ) este densitatea de probabilitate a vectorului aleator bidimensional ( X , Y ) i


S ( z ) = {( x, y ) | g ( x, y ) z} .
Exemplul 2.2.5. Dac X i Y sunt variabile aleatoare independente
( f X ,Y ( x, y ) = f X ( x) fY ( y ) ) i Z = X + Y , densitatea de probabilitate f Z ( z ) = dFZ ( z ) dz
este dat de:

fZ ( z) =

f X ( ) fY ( z ) d .

Acest rezultat se poate extinde la suma a n variabile aleatoare independente.

2.3. Caracteristici ale distribuiilor de probabilitate


2.3.1. Valoare medie
x x2
Pentru variabila aleatoare discret X = 1
, care ia valorile x1 , x2 ,... , cu
p1 p2
probabilitile p1 , p2 ,... , se definete valoarea medie (eng. mean value sau mathematical
expectation) prin relaia:
not

M[ X ] = xi pi = mX ,

(2.3.1)

dac seria de mai sus este absolut convergent,

| xi | pi < + .
i

Analog, valoarea medie a unei variabile aleatoare continue X avnd densitatea de


probabilitate f, este definit prin relaia:
+

M[ X ] =

not

x f ( x) dx = mX ,

dac integrala din membrul doi este convergent.

(2.3.2)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

18

Valoarea medie caracterizeaz variabila aleatoare X cu privire la modul de grupare a


valorilor pe care le poate lua X.
Dac X i Y sunt variabile aleatoare avnd valori medii finite, atunci
M[cX ] = c M[ X ], c ,
M[ X + Y ] = M[ X ] + M[Y ],
M[ X Y ] = M[ X ] M[Y ], dac X i Y sunt independente.

(2.3.3)

z z
x x2
este o variabil discret, i Z = g ( X ) = 1 2
Dac X = 1
, unde

q1 q2
p1 p2
zi = g ( xi ) , i = 1, 2, , atunci valoarea medie a variabilei aleatoare Z este dat de:
M[ Z ] = z j q j = g ( xi ) pi .
j

(2.3.4)

n cazul n care X este o variabil aleatoare continu avnd densitatea de probabilitate


f ( x) , valoarea medie a variabilei aleatoare Z = g ( X ) (cu densitatea de probabilitate h) este
dat de relaia:

M[ Z ] =

zh( z )dz =

g ( x) f ( x)dx .

(2.3.5)

O relaie similar se poate demonstra i n cazul n care Z = g ( X , Y ) (cu densitatea de


probabilitate h), depinde de variabila aleatoare bidimensional ( X , Y ) a crei densitate de
probabilitate este f X ,Y ( x, y )
M[ Z ] =

zh( z )dz = g ( x, y) f X ,Y ( x, y)dxdy .

(2.3.6)

Rezultatele prezentate mai sus pentru cazul funciilor de o variabil aleatoare uni- sau
bidimensional pot fi extinse i la cazul n funciilor de variabile aleatoare multidimensionale
(continue sau discrete). Deci, media unei variabile aleatoare Z care depinde de una sau mai
multe variabile aleatoare poate fi determinat n funcie de densitatea sa de probabilitate h sau
utiliznd funcia de definiie i densitatea de probabilitate a variabilei uni- sau
multidimensionale de care depinde Z.
Prin particularizarea dependenei Z = g ( X ) se introduc noi caracteristici ale
variabilelor aleatoare, dup cum urmeaz.

2.3.2. Dispersie (varian)


Dispersia (variana) (eng. variance) variabilei aleatoare X care are valoarea medie mX este
dat de:
not

Var[ X ] = M ( X mX ) 2 = X2 ,

(2.3.7)

dac exist valoarea medie a variabilei ( X mX ) 2 . Se observ c Var[ X ] 0 . De asemenea,


Var[ X ] = 0 dac i numai dac X m (sau mai exact P[ X = m] = 1 ). Dispersia

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

19

caracterizeaz o variabil aleatoare X cu privire la modul de mprtiere a valorilor pe care le


poate lua aceasta.
Numrul X = Var[ X ] se numete deviaie standard (eng. standard deviation),
avnd aceeai unitate de msur ca i valorile individuale ale variabilei X. Coeficientul de
variaie (eng. coefficient of variation) al unei variabile X pentru care mX 0 este definit prin
C X = X mX , fiind adimensional.
x x2 xn
Dispersia unei variabile aleatoare discrete X = 1
este:
p1 p2 pn
Var[ X ] = ( xi mX ) pi .
2

(2.3.8)

Dispersia unei variabile aleatoare continue X avnd densitatea de probabilitate f este:


+

Var[ X ] =

( x mX )

f ( x)dx .

(2.3.9)

Se pot demonstra urmtoarele proprieti:


Var[ X ] = M[ X 2 ] ( M[ X ]) ,
2

Var[cX ] = c 2 Var[ X ], c ,
Var[c + X ] = Var[ X ], c ,

(2.3.10)

Var[ X + Y ] = Var[ X ] + Var[Y ], dac X i Y sunt independente.


1
, k , k > 0 (inegaltatea lui Cebev).
k2
Observaie. Calculul mediei i al dispersiei pune i el n eviden trecerea de la
exprimarea cumulativ de tip sum specific pentru cazul discret la exprimarea
cumulativ de tip integral specific pentru cazul continuu.
P [| X mX | k X ]

2.3.3. Moment de ordin k


Se numete moment de ordin k (eng. k-th moment) al variabilei aleatoare X media variabilei X k ,

k [ X ] = M[ X k ] , pentru k = 1, 2, ,

(2.3.11)

dac aceast valoare medie exist.


Pentru o variabil aleatoare discret X care ia valorile x1 , x2 ,... , cu probabilitile
p1 , p2 ,... , se obine

k [ X ] = xik pi ,

(2.3.12)

iar pentru o variabil aleatoare continu X cu densitatea de probabilitate f ,

k [ X ] =

f ( x)dx .

(2.3.13)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

20

Se numete moment centrat de ordin k (eng. k-th centered moment) al variabilei


k
aleatoare X care are valoarea medie mX , media variabilei ( X mX ) (dac aceast valoare
medie exist)
k
k [ X ] = M ( X mX ) , k = 1, 2, .

(2.3.14)

Pentru o variabil aleatoare discret X se obine:

k [ X ] = ( xi mX ) pi .
k

(2.3.15)

iar pentru o variabil aleatoare continu X:

k [ X ] =

( x mX )

f ( x)dx .

(2.3.16)

Se observ c 1 [ X ] = 0 i c 2 [ X ] = Var[ X ] .

2.3.4. Covarian
Se numete covarian (eng. covariance) a variabilelor aleatoare X i Y (peste acelai cmp de
probabilitate), ale cror valori medii sunt mX , respectiv mY , numrul (dac acesta exist)
Cov[ X , Y ] = M [ ( X mX )(Y mY )] .
Sunt satisfcute urmtoarele proprieti:
Cov[ X , Y ] = Cov[Y , X ], Cov[ X , X ] = Var[ X ],
Cov[ X , Y ] = M[ XY ] M[ X ]M[Y ],
Cov[ X , Y ] = 0, dac X i Y sunt independente,
Cov[ X + Y , Z ] = Cov[ X , Z ] + Cov[Y , Z ],
Var[ X + Y ] = Var[ X ] + Var[Y ] + 2 Cov[ X , Y ].

(2.3.17)

(2.3.18)

Se spune c variabilele aleatoare X i Y sunt necorelate dac Cov[ X , Y ] = 0 . O


definiie echivalent o reprezint condiia M[ XY ] = M[ X ]M[Y ] . n consecin, dac dou
variabile aleatoare sunt independente, atunci sunt i necorelate. Reciproca acestei afirmaii nu
este ntotdeauna adevrat.
Dac ntre variabilele X i Y exist o relaie liniar, de forma Y = aX unde a 0 este
o constant, atunci
1
(2.3.19)
Cov[ X , Y ] = a Var[ X ] = Var[Y ] Cov 2 [ X , Y ] = Var[ X ]Var[Y ] .
a
Pe baza inegalitii

( M[ XY ])2 M[ X 2 ]M[Y 2 ] rezult c, pentru dou variabile

aleatoare oarecare are loc


0 Cov 2 [ X , Y ] Var[ X ]Var[Y ] .

(2.3.20)

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

21

Coeficientul de corelaie (eng. correlation coefficient) a dou variabile aleatoare X i Y


ale cror deviaii standard sunt X = Var[ X ] 0 , respectiv Y = Var[Y ] 0 , este definit

prin:

X ,Y =

Cov[ X , Y ]

XY

(2.3.21)

Coeficientul de corelaie a dou variabile aleatoare este subunitar, 1 X ,Y 1 . De


asemenea

X ,Y

1, dac Y= aX cu a < 0,

= 0 , dac Y i X sunt necorelate,


1 , dac Y= aX cu a > 0.

(2.3.22)

O valoare pozitiv a lui X ,Y nseamn c variabilele aleatoare X i Y prezint variaii


n acelai sens. O valoare negativ a lui X ,Y nseamn c variabilele aleatoare X i Y prezint
variaii n sensuri contrare.
Dac modulul coeficientului de corelaie | X ,Y | are o valoare apropiat de 1, nseamn
c ntre variabilele aleatoare X i Y exist a puternic dependen de factur liniar. Dac
modulul coeficientului de corelaie | X ,Y | are o valoare apropiat de 0, nseamn c
dependena de factur liniar ntre variabilele aleatoare X i Y este redus (fr ca aceasta s
exclud posibilitatea unei dependene de factur neliniar). Dac modulul coeficientului de
corelaie | X ,Y | are exact valoarea 1, nseamn c ntre variabilele aleatoare X i Y exist o
dependen liniar strict.

2.4. Distribuii de probabilitate utilizate n modelarea


sistemelor de ateptare
2.4.1. Distribuii discrete de probabilitate
2.4.1.1. Distribuia uniform discret
Variabila aleatoare X definit pe un spaiu cu n elemente = {1 , 2 , , n } , astfel nct

X (i ) = i , i = 1, n , este uniform distribuit, X U d (n) , dac are densitatea de repartiie:


1
p (k ) = P[ X = k ] = , k {1, 2,..., n} .
(2.4.1)
n
Funcia de repartiie corespunztoare este (vezi fig. 2.4.1 pentru n = 5 ):
, x (,1),
0
1n
, x [1, 2),

2n
, x [2,3),
(2.4.2)
F ( x) =

(n 1) n , x [n 1, n),

, x [n, ).
1

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

22

Media i dispersia unei variabile X U d (n) sunt egale cu M[ X ] = (n + 1) 2 ,

respectiv Var[ X ] = (n2 1) 12 .


Densitatea de probabilitate X Unifd(5)

Functia de repartitie X Unifd(5)

0.25
1

0.2
0.8

cdfX = P[Xn]

pdfX = P[X=n]

0.15

0.6

0.1

0.4

0.05

0.2

0
-1

3
n

0
-1

(a)

3
n

(b)

Fig. 2.4.1. Reprezentarea grafic (a) a densitii de probabilitate i


(b) a funciei de repartiie corespunztoare distribuiei uniforme U d (5) .
2.4.1.2. Distribuia Bernoulli
Distribuia Bernoulli este asociat unui experiment de extragere a unui element dintr-o
populaie infinit n ipoteza c exist numai dou rezultate posibile n urma unei ncercri:
succes (reprezentat simbolic prin numrul 1), cu probabilitatea p, 0 < p < 1 , sau eec
(reprezentat simbolic prin numrul 0), cu probabilitatea q = 1 p . Un asemenea experiment
poart numele de experiment Bernoulli.
O variabil aleatoare de tip Bernoulli ia numai dou valori, X {0, 1} , cu densitatea
de probabilitate:
1 p, k = 0,
(2.4.3)
p(k ) = P[ X = k ] =
p , k = 1.

Media i dispersia variabilei X sunt egale cu M[ X ] = p , respectiv Var[ X ] = p (1 p ) .


2.4.1.3. Distribuia binomial
Considerm variabila aleatoare X ce reprezint numrul de succese obinute n urma efecturii
a n experimente de tip Bernoulli, mutual independente, n cazul n care probabilitatea de
succes este aceeai n fiecare ncercare ( 0 < p < 1 ). Densitatea de repartiie a variabilei
aleatoare discrete X {0,1, 2,..., n} este
p (k ) = P[ X = k ] = Cnk p k (1 p ) n k ,

k {0,1, 2,..., n} ,

(2.4.4)

n!
, pentru 0 k n , reprezint numrul combinrilor de n elemente luate
k !(n k )!
cte k. Se verific uor c

unde Cnk =

Cap. 2. Elemente de teoria probabilitilor i statistic matematic


n

p(k ) = Cnk p k (1 p)nk = [ p + (1 p)] = 1,

k =0

23

(2.4.5)

k =0

ceea ce arat c relaia (2.4.4.) definete o densitate de probabilitate.


Media i variana unei variabile aleatoare cu distribuie binomial cu parametrii n i p,
X Bin(n, p ) , sunt egale cu M[ X ] = np , respectiv Var[ X ] = np (1 p ) .
Jacques Bernoulli a introdus aceasta distribuie n anul 1713 (Ars Conjectandi).
naintea sa, Blaise Pascal considerase cazul particular p = 1/ 2 .
Exemplul 2.4.1. Dac se inspecteaz loturi de cte n = 30 piese asamblate pe o linie
de fabricaie, variabila aleatoare X ce reprezint numrul de piese defecte gsite n lot
are distribuie binomial. Considerm c probabilitatea ca o pies oarecare s fie defect
este p = 0, 05 . Probabilitatea ca n lot s fie mai puin de 3 piese defecte este:
2

k =0

k =0

k
P[ X 2] = p (k ) = C30
p k (1 p )30 k =

30!
30!
30!
(0, 05)0 (0,95)30 +
(0, 05)1 (0, 95) 29 +
(0, 05) 2 (0,95) 28 =
0!30!
1!29!
2!28!
= 0, 2146 + 0, 3389 + 0, 2586 = 0,8122.
Numrul mediu de piese defecte dintr-un lot este
M[ X ] = np = 30 0, 05 = 1, 5 ,
iar dispersia variabilei X:
Var[ X ] = np (1 p ) = 30 0, 05 0,95 = 1, 425 .
=

Exemplul 2.4.2. ntr-un canal de comunicaii, probabilitate de transmisie corect a


unui bit este p (0,1) . Se utilizeaz un cod care poate tolera pn la un numr de e bii
eronai ntr-un cuvnt de n bii. Notnd cu X numrul de erori dintr-un cuvnt,
probabilitatea de transmisie corect a unui cuvnt este dat de
e

P[ X e] = Cnk p n k (1 p) k .
k =0

Dac e = 0 , atunci erorile nu sunt tolerate.


2.4.1.4. Distribuia binomial cu exponent negativ
Se efectueaz experimente de tip Bernoulli, mutual independente, pn la cea de-a n-a
obinere a unui succes. Dac probabilitatea de succes este aceeai n fiecare ncercare
( 0 < p < 1 ), atunci numrul X {n, n + 1,} de ncercri efectuate n total are distribuie
binomial cu exponent negativ cu parametrii n i p, X NBin(n, p ) , densitatea sa de
probabilitate fiind:
p (k ) = P[ X = k ] = Ckn11 p n (1 p) k n , k n .
(2.4.6)

24

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Media i variana unei variabilei aleatoare X NBin(n, p ) sunt M[ X ] = n p ,


respectiv Var[ X ] = n(1 p) p 2 .
2.4.1.5. Distribuia geometric
Considerm variabila aleatoare discret X ce reprezint numrul de experimente de tip
Bernoulli efectuate pn la obinerea primului succes (inclusiv). Dac probabilitatea de succes
este aceeai n fiecare ncercare ( 0 < p < 1 ), atunci numrul X {1, 2,} de ncercri
efectuate n total are distribuie geometric de parametru p, X Gd ( p) , densitatea sa de

probabilitate fiind:
p(k ) = P[ X = k ] = p(1 p)k 1 ,

k {1, 2,} .

(2.4.7)

Probabilitatea ca pn la primul succes s fie necesare mai mult de n ncercri este


P[ X > n] =

k = n +1

P[ X = k ] =

p(1 p) k 1 = (1 p) n ,

n {1, 2,} ,

(2.4.8)

k = n +1

astfel c funcia de repartiie a variabilei X este


F (n) = P[ X n] = 1 (1 p ) n ,

n {1, 2,} .

(2.4.9)

Media i variana unei variabile aleatoare X Gd ( p) cu sunt egale cu M[ X ] = 1 p ,


respectiv Var[ X ] = 1 p 2 .
Exemplul 2.4.3. n exemplul 2.4.1, numrul Y de piese inspectate pn cnd se
gsete prima pies defect dintr-un lot are distribuie geometric de parametru
p = 0, 05 . Valoarea medie a lui Y este
M[Y ] = 1 p = 1 0, 05 = 20 .

Exemplul 2.4.4. Considerm un procesor care funcioneaz dup urmtorul


principiu: fiecrui task sosit i se aloc un interval de timp constant T pentru servire.
Probabilitatea ca servirea unui task s fie terminat ntr-un interval de timp T este p,
astfel c probabilitatea ca s mai fie necesare alte calcule este q = 1 p . Dac dup
trecerea duratei T servirea unui anumit task nu a fost terminat, atunci acesta este trimis
din nou n bufferul care precede procesorul (fig. 2.4.2). Taskurile sunt servite n ordinea
sosirii (a intrrii n buffer).

task servit
complet

sosire
task
buffer

procesor

Fig. 2.4.2. Reprezentare schematic a sistemului de calcul din Exemplul 2.4.4.

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

25

n aceste ipoteze, numrul X de intervale de timp necesare pentru servirea complet


a unui task are o distribuie geometric, avnd densitatea de probabilitate
p(k ) = P[ X = k ] = p(1 p)k 1 , k {1, 2,} .
n multe situaii se dorete contorizarea numrului de experimente (independente, de
tip Bernoulli) euate care au fost efectuate naintea obinerii primului succes. Notnd cu Y
acest numr, se observ c Y {0,1, 2,...} i c variabila X = Y + 1 are o distribuie
geometric. Se spune c Y are o distribuie geometric modificat, Y Gm ( p) , fiind
specificat prin densitatea de probabilitate:
pY (k ) = P[Y = k ] = p (1 p ) k ,

k {0,1, 2,} ,

(2.4.10)

i funcia de repartiie:
F (n) = P[Y n] = 1 (1 p ) n +1 ,

Media

variana

unei

variabile

n {0,1, 2,} .

aleatoare

X Gm ( p)

(2.4.11)
sunt

egale

cu

M[ X ] = (1 p) p , respectiv Var[ X ] = (1 p) p .
2

Distribuia geometric este singura distribuie discret de probabilitate care are


proprietatea de lips a memoriei (eng. memoryless property):
P[ X > n + m X > m]
P[ X > n + m | X > m] =
=
P[ X > m]
(2.4.12)
P[ X > n + m] (1 p) n + m
n
=
=
= (1 p) = P[ X > n].
P[ X > m]
(1 p) m
Interpretarea acestei relaii este urmtoarea: dac au avut loc m experimente n care nu
s-a obinut succesul, atunci probabilitatea ca pn la primul succes s mai fie nevoie de cel
puin nc n experimente este egal cu probabilitatea ca ntr-o secven nou de experimente
s fie nevoie de mai mult de n ncercri pn la primul succes. Explicaia const n faptul c
experimente efectuate n trecut nu au nici o influen asupra experimentelor viitoare, acestea
fiind mutual independente.
2.4.1.6. Distribuia Poisson
O distribuie discret de probabilitate frecvent ntlnit n teoria sistemelor de ateptare este
distribuia Poisson. Aceasta caracterizeaz o variabil aleatoare discret X ce poate lua valori
cu probabilitatea
n mulimea numerelor naturale

e , k , > 0 .
k!
Relaia (2.4.13) definete ntr-adevr o densitate de probabilitate deoarece
p(k ) = P[ X = k ] =

k =0

k!

p(k ) = e
k =0

= e e = 1 .

(2.4.13)

(2.4.14)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

26

Att media ct i variana unei variabile aleatoare X cu distribuie Poisson de


parametru > 0 , X P ( ) , sunt egale cu , M[ X ] = , Var[ X ] = .
Una dintre cele mai importante proprieti ale distribuiei Poisson este urmtoarea.
Suma a dou sau mai multe variabile aleatoare independente cu distribuii Poisson este
distribuit Poisson, cu parametrul egal cu suma parametrilor individuali ai distribuiilor
sumate (vezi i seciunea 2.6.1):
X 1 P (1 ), X 2 P (2 ), X 1 i X 2 independente Z = X 1 + X 2 P (1 + 2 ) , (2.4.15)
deoarece
n

1k

k =0

k!

P[ X1 + X 2 = n] = P[ X1 = k ]P[ X 2 = n k ] =
k =0

e 1

2n k
(n k )!

e 2 =
(2.4.16)

1
( + ) n
= e ( 1 + 2 ) Cnk 1k 2n k = 1 2 e ( 1 +2 ) .
n!
n!
k =0
n

Dac Y Bin(n, p ) este o variabil binomial de parametri p i n, atunci, pentru


n 20 i p 0, 05 , densitatea de distribuie i funcia de repartiie a lui Y pot fi aproximate
prin cele corespunztoare distribuiei Poisson de parametru = np (fig. 2.4.3).
Densitatea de probabilitate

Functia de repartitie

0.45
X Bin(20, 0.05)
X Poiss(1)

0.4

0.35
0.8

cdfX = P[Xn]

pdfX = P[X=n]

0.3
0.25

0.6

0.2

0.4

0.15
0.1

0.2

0.05
0

X Bin(20, 0.05)
X Poiss(1)
0

3
n

(a)

3
n

(b)

Fig. 2.4.3. Reprezentarea grafic comparativ (a) a densitilor de probabilitate


i (b) a funciilor de repartiie corespunztoare distribuiilor Bin(20, 0.05) i P (1) .
Distribuia Poisson este utilizat pentru a modela rezultatul unui experiment ce implic
numrarea apariiilor unor evenimente aleatoare intr-un interval de timp (de exemplu numrul
de persoane care intr ntr-un magazin ntr-o or). Dac duratele de timp dintre apariiile a
dou evenimente aleatoare independente consecutive are o distribuie exponenial, atunci
numrul de evenimente dintr-un interval de timp fixat are o repartiie Poisson (i reciproc).

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

27

2.4.2. Distribuii continue de probabilitate


2.4.2.1. Distribuia uniform continu
Funcia de densitate de probabilitate a unei variabile aleatoare continue X uniform distribuite
n intervalul [a, b] , a, b , a < b , este
0 , pentru t (, a) (b, +),

(2.4.17)
f (t ) = 1
b a , pentru t [a, b].
Funcia de repartiie corespunztoare are forma (vezi fig. 2.4.4. pentru a = 1 i b = 6 ):
0 , t<a
t a
(2.4.18)
F (t ) =
, at b
b a
1 , t > b

Valoarea medie a unei variabile aleatoare continue cu distribuie uniform de


parametri a i b, X U (a, b) , este M[ X ] = (a + b) 2 , iar dispersia Var[ X ] = (b a) 2 12 .
PDF - distr. uniforma U(1, 6)

CDF - distr. uniforma U(1, 6)

0.25

1.2

0.2

0.8

f(t)

F(t)

0.15

0.6

0.1
0.4
0.05

0.2

4
t

(a)

4
t

(b)

Fig. 2.4.4. Reprezentarea grafic (a) a densitii de probabilitate i (b) a funciei


de repartiie pentru o variabil cu distribuie uniform continu, X U (1, 6) .
2.4.2.2. Distribuia exponenial
Legea de distribuie exponenial cu parametrul > 0 caracterizeaz o variabil aleatoare X
(ce poate lua numai valori reale nenegative, X + ) a crei densitate de probabilitate este de

forma:

0 , pentru t < 0,
f (t ) = t
e , pentru t 0,
funcia sa de repartiie fiind vezi fig. 2.4.5:
0 , pentru t < 0,
F (t ) = P[ X t ] =
t
1 e , pentru t 0.

(2.4.19)

(2.4.20)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

28

Deoarece valoarea medie a unei variabile aleatoare cu distribuie exponenial de


parametru , X E ( ) , este M[ X ] = 1 , parametrul poart denumirea de rat a
distribuiei exponeniale. Dispersia variabilei aleatoare X este Var[ X ] = 1 2 . Coeficientul de
variaie a unei variabile aleatoare cu distribuie exponenial este 1, astfel nct acest
coeficient este o msur a deviaiei fa de o distribuie exponenial.
Importana distribuiei exponeniale const n faptul c aceasta posed proprietatea de
lips de memorie (eng. memoryless property), denumit i proprietate Markov, exprimat
matematic prin relaia (fig. 2.4.6)
P[ X s + t | X > s ] = P[ X t ], t , s 0 ,
(2.4.21)
care rezult din
P[ X s + t | X > s ] = 1 P[ X > s + t | X > s ] = 1

P[ X > s + t , X > s ]
=
P[ X > s ]

(2.4.22)

P[ X > s + t ]
e (t + s )
= 1
= 1 s = 1 e t = P[ X t ], t , s 0.
P[ X > s ]
e
PDF - distr. exponentiala E()

CDF - distr. exponentiala E()


1.2

1 = 1
2 = 1.5
3 = 0.5

1.6
1.4

1 = 1
2 = 1.5
3 = 0.5

1.2
0.8
F(t)

f(t)

1
0.8
0.6

0.6

0.4

0.4
0.2
0.2
0

4
t

(a)

4
t

(b)

Fig. 2.4.5. Reprezentarea grafic a (a) densitii de probabilitate i a (b) funciei de


repartiie pentru o variabil cu distribuie exponenial, X E ( ) .
Interpretarea acestei proprieti este urmtoarea: fie X o variabil aleatoare distribuit
exponenial care reprezint, de exemplu, timpul de servire a unui client de ctre un server.
Presupunem c servirea clientului ncepe la momentul t0 = 0 . Dac la momentul s > 0 nu a
fost terminat servirea clientului, atunci probabilitatea ca servirea clientului s fie terminat
pn la momentul s + t este egal cu probabilitatea ca timpul total de servire sa fie mai mic
dect t. Altfel spus, timpul de servire rezidual are distribuie exponenial cu aceeai rat ca i
timpul de servire total.
Se poate demonstra c distribuia exponenial este singura distribuie continu de
probabilitate care are proprietatea Markov. Dac X este o variabil aleatoare continu cu
valori nenegative (ceea ce implic F ( x) = 0, x 0 ) a crei distribuie are proprietatea de lips
a memoriei, atunci funcia sa de repartiie F este de tip exponenial. Pentru t , t > 0 , rezult

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

29

P[t < X t + t ]
= P[ X t ]
P[ X > t ]
F (t + t ) F (t ) F (t )
F (t + t ) F (t ) = F (t ) [1 F (t ) ]
=
[1 F (t )] (2.4.23)
t
t
F (t + t ) F (t )
F ( t )
lim
= [1 F (t ) ] lim
F (t ) = F (0) [1 F (t ) ] .
t 0
t 0 t
t
Considernd R(t ) = 1 F (t ) i notnd = F (0) = f (0) , din (2.4.23) rezult c funcia R
satisface ecuaia diferenial
R(t ) = R(t ) , t > 0 .
(2.4.24)
P[ X t + t | X > t ] = P[ X t ]

Deoarece R(0) = 1 F (0) = 1 , din (2.4.24) se obine R(t ) = e t , t > 0 , astfel c funcia de
repartiie a variabilei X este de form exponenial, F (t ) = 1 e t , t > 0 .
1.2

P[ X t]
P[ X t | X > 2]

F(t)

0.8

= 0.5

0.6

0.4

0.2

5
t

10

Fig. 2.4.6. Ilustrarea grafic a proprietii de lips a memoriei


pentru o variabil distribuit exponenial, X E (0.5) .
O alt proprietate fundamental a distribuiei exponeniale este reprezentat de
legtura cu distribuia discret Poisson. Dac duratele dintre dou apariii consecutive ale unui
acelai tip de eveniment sunt variabile independente cu distribuie exponenial de rat ,
atunci numrul de evenimente care apar ntr-un intr-un interval de timp [0, t), t > 0 , are
distribuie Poisson de parametru t , i reciproc. Aceast proprietate va fi detaliat n
capitolul 3.
Dac X1 , X 2 ,..., X n E ( ) sunt variabile aleatoare independente distribuite
exponenial cu aceeai rat , atunci variabila Z = min { X 1 , X 2 ,..., X n } este distribuit
exponenial cu rata n , Z E (n ) , deoarece
FZ (t ) = P [ min { X 1 , X 2 , , X n } t ] =
= 1 [1 F1 (t )][1 F2 (t ) ][1 Fn (t )] = 1 e nt , t 0.

(2.4.25)

Funcia de repartiie a variabilei Y = max { X1 , X 2 , , X n } este dat de

FY (t ) = P [ max { X1 , X 2 , , X n } t ] = F1 (t ) F2 (t ) Fn (t ) = 1 e t

, t 0 .

(2.4.26)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

30

Distribuia exponenial este utilizat pentru a modela procese care nu au memorie,


de exemplu duratele dintre sosirile clienilor ntr-un sistem (eng. interarrival times), timpii de
ateptare (dac probabilitatea de a mai atepta nc un interval de timp este independent de
timpul de ateptare scurs deja), duratele convorbirilor telefonice, timpul de via al
componentelor electronice.
Exemplul 2.4.5. Se consider un sistem de msur constnd din trei senzori ce
funcioneaz n paralel, duratele lor de via (exprimate n zile), notate X i , i {1, 2, 3} ,
avnd distribuie exponenial de parametru = 0, 001 . Notnd cu Z durata de via a
sistemului de msur, probabilitatea ca acesta s funcioneze cel puin 1000 zile este

P[ Z > 1000] = P [ max { X 1 , X 2 , X 3 } > 1000] = 1 FZ (1000) = 1 1 e1000

= 0, 74742 .

2.4.2.3. Distribuia gamma


Legea de distribuie gamma cu parametrii , , , > 0 , caracterizeaz o variabil
aleatoare X (ce poate lua numai valori reale nenegative, X + ) a crei densitate de

probabilitate este de forma:


0
, pentru t 0,

t
f (t ) = 1

( ) t e , pentru t > 0,

unde funcia special Gamma este definit prin relaia

cu , , , > 0 ,

(2.4.27)

( ) = x 1 e x dx , > 0 .

(2.4.28)

Parametrul reprezint parametrul de form (eng. shape parameter) al distribuiei gama, iar
este parametrul de scalare (eng. scale parameter) al acesteia. Influena valorilor acestor
parametri asupra graficului densitii de probabilitate este ilustrat n fig. 2.4.7. Distribuia
gamma reprezint corespondentul continuu al distribuiei binomiale cu exponent negativ.
PDF - distributia Gamma ( , )

CDF - distributia Gamma ( , )

1.8
1.6

=0.75, =0.5
=1, =1
=1.5, =1
=2, =1
=2, =2

0.8

1.4

F(x)

f(x)

1.2
1
0.8

0.6

0.4

0.6
0.4

0.2

0.2
0

0.5

1.5

2.5
x

(a)

3.5

4.5

0.5

1.5

2.5
x

3.5

=0.75, =0.5
=1, =1
=1.5, =1
=2, =1
=2, =2
4

4.5

(b)

Fig. 2.4.7. Reprezentarea grafic a (a) densitii de probabilitate i a (b) funciei de


repartiie pentru o variabil cu distribuie gamma, X G ( , ) .

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

31

O variabil aleatoare cu distribuie gamma de parametri i , X G ( , ) are


media M[ X ] = i dispersia Var[ X ] = 2 .
Pentru = 1 i = 1 se obine distribuia exponenial, astfel nct are loc relaia
E ( ) = G (1,1 ) .
Distribuia gamma este utilizat deseori pentru a modela duratele de timp necesare
pentru a ndeplini un anumit serviciu (durate de prelucrare sau durate de reparare a unui
server) ca i duratele de via ale unor resurse.
2.4.2.4. Distribuia Erlang

Pentru = n, n {1, 2,3,} , i notnd = 1 > 0 , se obine distribuia Erlang de ordin n i


parametru , notat Er (n, ) . Deoarece (n) = ( n 1) ! pentru n
probabilitate a unei variabile aleatoare X Er (n, ) este

0
, pentru t 0

n
f (t ) =
cu n
n 1 t
t
e
,
pentru
t
0
>
( n 1) !

PDF - distributia Erlang (n, )

=1
=1
=1
=1
=1

0.4

0.2

0.2

6
x

10

n =0.5, =1
n =2, =2
n =2, =1
n =2, =0.5
n =4, =1

0.6

0.4

12

0.8

0.8

0.6

0.6

0.4

5
x

10

0.4
n =1,
n =2,
n =3,
n =4,
n =5,

0.2

CDF - distributia Erlang (n, )

F(x)

F(x)

CDF - distributia Erlang (n, )

(b)

(2.4.29)

0.8

0.6

, > 0.

f(x)

(a)

f(x)

0.8

, densitatea de

PDF - distributia Erlang (n, )


n =1,
n =2,
n =3,
n =4,
n =5,

6
x

10

=1
=1
=1
=1
=1

n =0.5, =1
n =2, =2
n =2, =1
n =2, =0.5
n =4, =1

0.2

12

5
x

10

Fig. 2.4.8. Reprezentarea grafic (a) a densitii de probabilitate i (b) a funciei de


repartiie pentru o variabil cu distribuie Erlang, X Er (n, ) .

32

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Funcia de repartiie corespunztoare este vezi fig. 2.4.8:


0
, pentru t 0

n 1
k
(2.4.30)
F (t ) =
( t ) t
1 k ! e , pentru t > 0.
k =0
Valoarea medie a unei variabile aleatoare X Er (n, ) este M[ X ] = n , iar
dispersia Var[ X ] = n 2 .
Distribuia exponenial se obine drept un caz particular al distribuiei Erlang
(corespunztoare rangului n = 1 ), E ( ) = Er (1, ) . Legtura dintre cele dou distribuii este
mai profund, datorit faptului c, dac X1 , X 2 ,..., X n E ( ) sunt variabile aleatoare
independente distribuite exponenial cu aceeai rat , atunci variabila Z = X1 + X 2 + ... + X n
are distribuie Erlang de ordin n i parametru , Z Er (n, ) , fapt ce va fi demonstrat n
seciunea 2.6.2.
Exemplul 2.4.6. Pentru testarea calitii pieselor produse pe o linie de fabricaie se
aplic consecutiv trei teste, durata fiecrui test (Ti, i = 1, 2, 3) avnd distribuie
exponenial de medie = 5 s. O pies este supus la cele trei teste, fiind eliberat dup
terminarea celui de-al treilea. Timpul total de verificare a unei piese, T = T1 + T2 + T3 ,
are distribuie Erlang de ordin n = 3 i parametru (rat) = 1 = 0, 2 s-1. Media i
dispersia lui T sunt M[ X ] = n = n = 15 s, respectiv Var[ X ] = n 2 = n 2 = 75 s2.
T = T1 + T2+ T3
T1

T2

Ti E ( ), i = 1,3
T3

T Er (3, )

Fig. 2.4.9. Ilustrare grafic a duratelor corespunztoare testelor din Exemplul 2.4.6.
Exemplul 2.4.7. Durata de execuie X a unui program de ctre CPU, msurat n
minute, are o distribuie Erlang de ordin n = 4 i parametru = 0,5 . Probabilitatea ca
execuia unui program s dureze mai mult de 1 minut este
3

k
2 3
+ e = 0,99824 .
P[ X > 1] = 1 F (1) = 1
e = 1 1 + +
2
6
k =0 k !

2.4.2.5. Distribuia hiperexponenial


O variabil aleatoare X are distribuie hiperexponenial dac X este, cu probabilitatea pi ,
i = 1, 2, , n ( p1 , p2 , , pn (0,1) , p1 + p2 + + pn = 1 ), o variabil aleatoare X i cu

distribuie exponenial de rat i , i > 0 , P[ X = X i ] = pi (fig. 2.4.10). Utiliznd


proprietile probabilitilor condiionate, se obine densitatea de probabilitate a unei variabile

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

33

aleatoare X cu distribuie hiperexponenial de parametri p1 , p2 , , pn , i 1 , 2 , , n ,


X H ( p1 , p2 , , pn ; 1 , 2 , , n ) , avnd expresia:
0
, pentru t < 0,

n
f (t ) =
i t
pi i e , pentru t 0.
i =1

(2.4.31)

Valoarea medie i momentul de ordinul 2 corespunztoare unei variabile aleatoare


n
n
p
p
X H ( p1 , p2 , , pn ; 1 , 2 , , n ) sunt M[ X ] = i , respectiv 2 [ X ] = M[ X 2 ] = 2 2i ,
i =1

i =1

n pi

.
2
i =1 i
i =1 i
n

astfel nct dispersia sa are expresia Var[ X ] = 2

pi

1
1

p1

p2

pn
n
(a)

(b)

Fig. 2.4.10. Reprezentarea grafic a unui proces cu n faze: (a) secveniale (distribuie
Erlang) i (b) alternante (distribuie hiperexponenial).
Comparatie PDF

Comparatie CDF

1.4
Hiper(p1,p2; 1,2)
Expo(1)
Expo(2)

1.2

0.8

p1 = 0.7; p2= 0.3

1 = 0.8; 2= 1.25

p1 = 0.7; p2= 0.3


f(x)

f(x)

0.8

1 = 0.8; 2= 1.25

0.6

0.6
0.4
0.4

Hiper(p1,p2; 1,2)
Expo(1)
Expo(2)

0.2

0.2

4
x

(a)

(b)

Fig. 2.4.11. Reprezentarea grafic (a) a densitii de probabilitate i (b) a funciei de


repartiie corespunztoare distribuiei hiperexponeniale H ( p1 , p2 ; 1 , 2 ) ,
comparativ cu cele ale distribuiilor exponeniale E (1 ) i E (2 ) .

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

34

Exemplul 2.4.8. Se consider instruciunea (I)


if B then S1 else S2
Fie X1 i X 2 variabilele ce reprezint timpii de execuie a secvenei de instruciuni
S1, respectiv S2, avnd distribuie exponenial de medie 20 s (1 s = 10-6 s), respectiv
40 s. Probabilitatea ca variabila boolean B s aib valoarea 1 (TRUE) este p = 0, 70 .
Variabila aleatoare X care reprezint timpul de execuie al instruciunii (I), cu
proprietatea P[ X = X 1 ] = p i P[ X = X 2 ] = 1 p , are distribuie hiperexponenial de
parametri p1 = p , p2 = 1 p , i 1 = 1 20 s-1, 2 = 1 40 s-1. Timpul mediu de
execuie a instruciunii (I) este
M[ X ] = p M[ X1 ] + (1 p) M[ X 2 ] = 0, 7 20 + 0,3 40 = 26 s .
2.4.2.6. Distribuia Cox
O variabil aleatoare X are o distribuie Cox de ordinul n dac trece prin cel mult n faze
exponeniale (fig. 2.4.12). Rata fazei k este k , k = 1, n . Dup terminarea fazei k, cu
probabilitatea pk , ncepe faza urmtoare, k + 1 . Evident, pn = 0 (fig. 2.4.12). Parametrii

distribuiei Cox sunt ratele fazelor exponeniale k > 0 , k = 1, n , i probabilitile pk (0,1) ,


k = 1, n 1 .

1
1

2
p1
1-p1

n-1
p2
1-p2

n-1

pn-1

n
n

1-pn-1

Fig. 2.4.12. Reprezentarea grafic a unui proces de tip Cox cu n faze.


Importana distribuiei Cox const n faptul c orice distribuie arbitrar poate fi
aproximat orict de bine printr-o distribuie Cox.
Exemplul 2.4.9. Se consider secvena de program (SP)
S1
if B then S2
Fie X1 i X 2 variabilele aleatoare independente ce reprezint timpii de execuie a
secvenei de instruciuni S1, respectiv S2 (fig. 2.4.13), ambele avnd
exponeniale de rat = 1 20 s-1. Probabilitatea ca variabila boolean
valoarea 1 (TRUE) este p = 0, 70 . Variabila aleatoare X care reprezint
execuie a secvenei (SP) are o distribuie de tip Cox cu 2 faze, ale crei
dorim s le studiem.

distribuii
B s aib
timpul de
proprieti

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

X1

35

X2

S1

S2
1

1-p
X

Fig. 2.4.13. Reprezentarea grafic a variabilei de tip Cox cu 2 faze


din Exemplul 2.4.9.
Fie Y variabila aleatoare ce reprezint valoarea de adevr a condiiei B, avnd
densitatea de probabilitate specificat prin P[Y = 1] = p i P[Y = 0] = 1 p . Utiliznd
formula probabilitii totale, funcia de repartiie a variabilei X (timpul de execuie a
secvenei (SP)) este dat de
FX (t ) = P[ X t ] = P[ X t | Y = 0] P[Y = 0] + P[ X t | Y = 1] P[Y = 1] .
Se observ c, dac Y = 0 , atunci X = X 1 , avnd o distribuie exponenial de rat
. Dac Y = 1 , atunci X = X1 + X 2 , avnd o distribuie Erlang de ordinul n = 2 i rat
. innd cont de aceste observaii, rezult c
FX (t ) = (1 p) FX1 (t ) + pFX1 + X 2 (t ) = (1 p) 1 e t + p 1 (1 + t ) e t , pentru t 0 .

Densitatea de probabilitate a variabilei X este


f X (t ) = (1 p ) f X1 (t ) + pf X1 + X 2 (t ) = (1 p) e t + p 2t e t , pentru t 0 .
n mod analog se poate determina valoarea medie a lui X. Deoarece
M[ X | Y = 0] = 1 i M[ X | Y = 1] = 2 , se obine n final
M[ X ] = M[ X | Y = 0] P[Y = 0] + M[ X | Y = 1] P[Y = 1] =
1 p 2 p 1+ p
=
+
=
= (1 + 0, 7 ) 20 = 34 s.

2.4.2.7. Distribuia 2

Distribuia 2 se obine din distribuia gamma prin fixarea parametrilor = n 2 , cu n


i = 2 , astfel nct densitatea de probabilitate corespunztoare are expresia
0
, pentru t 0

n 2
t

2 e 2 , pentru t > 0
f (t ) = 1
cu n
t
n
22 n

()

(2.4.32)

Parametrul ntreg n reprezint numrul gradelor de libertate ale distribuiei.


Valoarea medie a unei variabile aleatoare X 2 (n) este M[ X ] = n , iar dispersia
acesteia este Var[ X ] = 2n .

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

36

2.4.2.8. Distribuia normal


Funcia de densitate de probabilitate a unei variabile aleatoare continue ce are o distribuie
normal de parametri i , X N ( , ) , cu , > 0 , este

( t )2
1
f (t ) =
exp
,
2 2
2

(2.4.33)

Expresia analitic a funciei de repartiie corespunztoare, F (t ) =

f (t )dt , t

, nu

poate fi determinat, astfel c valorile numerice ale acesteia sunt tabelate, pentru diferite
perechi de parametri (Mihoc i Micu, 1980).
Valoarea medie a unei variabile aleatoare X N ( , ) este M[ X ] = , iar dispersia
acesteia este Var[ X ] = 2 (deviaia standard fiind egal cu ) (fig. 2.4.14).
PDF - distributia Normala (, )

0.9

CDF - distributia Normala (, )

=0, =1
=-2, =1
=2, =1
=0, =0.5
=0, =2

0.8
0.7

0.8

0.6

f(x)

F(x)

0.5
0.4

0.6

0.4

0.3
0.2

=0, =1
=-2, =1
=2, =1
=0, =0.5
=0, =2

0.2

0.1
0
-5

-4

-3

-2

-1

0
x

0
-5

(a)

-4

-3

-2

-1

0
x

(b)

Fig. 2.4.14. Reprezentarea grafic (a) a densitii de probabilitate i (b) a funciei de


repartiie pentru o variabil cu distribuie normal, X N ( , ) .
Aceast distribuie este utilizat n mod empiric n cazul n care graficul densitii de
probabilitate a unei variabile aleatoare pare a fi simetric fa de valoarea medie a variabilei.
Deoarece o variabil cu aceast distribuie poate lua ca valoare orice numr real, NU se
recomand a utiliza aceast distribuie pentru a modela variabile aleatoare pozitive, de tipul
timpilor de ateptare sau de servire n sistemele de ateptare.
Distribuia normal standard are parametrii = 0 i = 1 . Dac variabila X este
standard normal distribuit, X N (0,1) , atunci Z = X + are media i abaterea medie
ptratic , Z N ( , ) . Invers, dac Z este variabil aleatoare normal distribuit de medie
1
i deviaie standard , atunci variabila X = ( Z ) este standard normal distribuit,

X N (0,1) (vezi Exemplul 2.6.1).


Dac X1 , X 2 , , X n sunt variabile aleatoare independente, normal distribuite,

X i N ( i , i ) , i = 1, n , atunci Y = X1 + X 2 + + X n are, de asemenea, distribuie normal,


Y N ( , ) , de medie = 1 + 2 + + n i dispersie 2 = 12 + 22 + + n2 (vezi

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

37

paragraful 2.6). De asemenea, dac X 1 , X 2 , , X n N (0,1) sunt n variabile aleatoare


independente, atunci Z = X12 + X 22 + + X n2 are distribuie 2 cu n grade de libertate,
Z 2 (n) (vezi Exemplul 2.6.1).

Deoarece numeroase experimente fizice au drept rezultat variabile aleatoare ce iau


numai valori pozitive (n timp ce o variabil normal distribuit poate lua i valori negative),
pentru modelarea acestora a fost introdus distribuia normal trunchiat (eng. truncated
normal density) a crei densitate de probabilitate este de forma:
0
, pentru t < 0,

( t )2
f (t ) = 1
(2.4.34)
exp
, pentru t 0,

2
2
2

unde parametrul , definit prin

( t )2
1
exp
dt ,
2 2

0 2

(2.4.35)

are rolul de a asigura ndeplinirea condiiei

f (t )dt = 1 , necesar pentru ca funcia f s

reprezinte o densitate de probabilitate pentru o variabil aleatoare. Se observ c = 1 F (0) ,


unde F reprezint funcia de repartiie corespunztoare distribuiei normale N ( , ) , a crei
densitate de probabilitate este (2.4.33) (ceea ce implic 0 < < 1 ).
2.4.2.9. Distribuia lognormal
Funcia de densitate de probabilitate a unei variabile aleatoare continue X cu distribuie
lognormal este
0
, pentru t 0,

f (t ) = 1
cu , , > 0 . (2.4.36)
( ln t )2
t
exp
,
pentru
0,

>

x 2
2 2

2
, respectiv
Media i dispersia variabilei aleatoare X sunt M[ X ] = exp +
2

Var[ X ] = exp ( 2 + 2 2 ) exp ( 2 + 2 ) .


2.4.2.10. Distribuia beta
Densitatea de probabilitate a unei variabile aleatoare continue X (care ia valori n intervalul
[0, 1]) avnd o distribuie de tip beta este
1
1
1
( , ) t (1 t ) , pentru 0 t 1,
f (t ) =
cu , , , > 0 , (2.4.37)

0
, n rest,

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

38

unde
1

( , ) = t 1 (1 t )

dt

(2.4.38)

este funcia special Beta.


Media i dispersia unei variabile cu distribuie beta de parametri i ,
X B ( , ) , sunt M[ X ] =

, respectiv Var[ X ] =

.
( + ) ( + + 1)
2

Deoarece graficul densitii sale de probabilitate are diferite forme (fig. 2.4.15) funcie
de valorile parametrilor reali pozitivi i , aceast distribuie este deseori utilizat pentru a
modela diferite fenomene aleatoare pe baza unor date incomplete. Pentru c o variabil
aleatoare cu distribuie beta poate lua valori numai in intervalul [0, 1] , setul de date X
cuprinse ntr-un interval [a, b] este mai nti scalat prin transformarea Y = a + (b a ) X .
Distribuia beta este deseori utilizat pentru a modela proporii aleatoare, cum ar fi proporia
de piese defecte dintr-un lot.
Pentru = = 1 se obine distribuia uniform pe intervalul [0,1] .
PDF - distributia Beta( , )

CDF - distributia Beta( , )

2.5

=0.5, =0.5
=0.75, =0.75
=1, =1
=1.5, =1.5
=4, =4

0.8

2
0.6
1.5
0.4
1

0.2

0.5

0.2

0.4

0.6

(a)

0.8

0.2

0.4

0.6

=0.5, =0.5
=0.75, =0.75
=1, =1
=1.5, =1.5
=4, =4

0.8

(b)

Fig. 2.4.15. Reprezentarea grafic (a) a densitii de probabilitate i (b) a funciei de


repartiie pentru o variabil cu distribuie beta, X B ( , ) .
2.4.2.11. Distribuia Weibull
O variabil aleatoare continu cu distribuie Weibull are funcia densitate de probabilitate dat
de
0
, pentru t 0,

cu , , , > 0 ,
(2.4.39)
f (t ) =

1 t
, pentru t > 0,
t e
i funcia de repartiie
, pentru t 0,
0
F (t ) =
(2.4.40)
t
, pentru t > 0.
1 e

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

39

Media i dispersia unei variabile aleatoare X cu distribuie Weibull, X W ( , ) ,

1
2
1
sunt egale cu M[ X ] = 1 + , respectiv Var[ X ] = 1 + 2 1 + , unde



este funcia special Gamma (2.4.28).
Distribuia Weibull (fig. 2.4.16) este deseori utilizat pentru a modela timpii de via
ai unor resurse. Dac un sistem este compus din mai multe subsisteme care se pot defecta n
mod independent, atunci timpii dintre dou defectri consecutive n sistem poate fi aproximat
printr-o distribuie Weibull. Aceast distribuie este de asemenea utilizat pentru a modela
timpi de servire care sunt centrai spre stnga (n apropiere de 0).

PDF - distributia Weibull ( , )

1.5

CDF - distributia Weibull ( , )

=1, =0.5
=1, =1
=1, =2
=1.5, =1
=1.5, =2

0.8

f(x)

F(x)

1
0.6

0.4

0.5

0.2

0.5

1.5

2.5
x

(a)

3.5

4.5

0.5

1.5

2.5
x

3.5

=1, =0.5
=1, =1
=1, =2
=1.5, =1
=1.5, =2

4.5

(b)

Fig. 2.4.16. Reprezentarea grafic (a) a densitii de probabilitate i (b) a funciei de


repartiie pentru o variabil cu distribuie Weibull, X W ( , ) .
Exemplul 2.4.10. Timpul de via X, exprimat n ore, al unei componente
electronice are o distribuie Weibull pentru care = 2 . Se observ c 15% dintre
componentele care au funcionat 90 h se defecteaz n urmtoarele 10 h. Pe baza acestor
informaii se dorete determinarea parametrului al distribuiei variabilei X i valoarea
medie a timpului de via al componentelor.
Formalizarea matematic a enunului anterior conduce la relaia
P[ X 100 | X > 90] = 0,15 .
2

Funcia de repartiie corespunztoare lui X fiind F (t ) = 1 e t , t > 0 , rezult


2

P[90 < X 100] F (100) F (90) e (90) e (100)


=
=
.
P[ X 100 | X > 90] =
2
P[ X > 90]
1 F (90)
e (90)
Rezolvnd ecuaia satisfcut de parametrul se obine
e 8100 e 10000
ln 0,85
= 0,15 e1900 = 0,85 =
= 0, 00008554 .
8100
1900
e
Timpul mediu de via este M[ X ] = (1,5 ) = 95,823 h.

Numele
Simbol
distribuiei
Uniform
Ud (N )
discret

Tabel 2.4.1. Distribuii uzuale de probabilitate


Valoare
Densitate de probabilitate
Parametri
medie
1
N +1
f (n) = , n {1, 2,..., N }
N `
N
2
1 p
n 1
p (0,1)
f (n) = p (1 p ) , n `
p

Geometric

Gd ( p )

Poisson

P ( )

f ( n) =

Binomial

Bin( N , p )

f (k ) = CNk p k (1 p ) N k , k {0,1, 2,..., N }

Uniform
continu

U ( a, b)

f ( x) =

Exponenial

E ( )

f ( x) = e x , x 0

N ( , )

1
e
f ( x) =
2

Normal
Gamma

G ( , )

n
n!

e , n `

1
, x [ a, b]
ba

2 2

x\

,
x

1
f ( x) =
x 1 e , x 0
( )
x

Erlang

Er (k , )

1
f ( x) = k
x k 1 e , x 0
( k 1) !

2 ( )

f ( x) =

2
x

1
2
2
x
, x0
e
2 2 ( 2 )

B ( , )

f ( x) =

1
1
x 1 (1 x ) , x [0,1]
( , )

Beta

Domeniul valorilor
variabilei aleatoare

N 2 1
12
1 p
p2

X {1, 2,..., N }
X `

>0

X `

p (0,1) ,

N
p
a+b
2
1

Np
1 p

X {0,1, 2,..., N }

(b a) 2
12
1

\ ,
>0

X \

, > 0

X [0, +)

k ` ,
>0

k 2

X [0, +)

X [0, +)

( + )
( + + 1)

N `
a, b \ ,
a<b

>0

( x )2

Varian

, > 0

X [a, b]
X [0, + )

X [0,1]

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

41

Tabelul 2.4.1 prezint sumar cteva dintre distribuiile de probabilitate frecvent


ntlnite n problemele de modelare a sistemelor dinamice cu evenimente discrete, mpreun
cu caracteristicile numerice ale acestora.

2.5. Generarea numerelor aleatoare


O importan deosebit n studiul prin simulare al sistemelor n care intervin variabile
aleatoare o are generarea de numere aleatoare care s respecte o distribuie de probabilitate
impus. La baza generatoarelor de numere aleatoare implementate n diverse medii de
simulare (Sinclair, 2002) st metoda transformatei inverse (eng. inverse transform method) ce
utilizeaz urmtorul rezultat.
Teorema 2.5.1. Fie X o variabil aleatoare continu a crei densitate de probabilitate
f X are valori nenule pe o submulime I (adic f X ( x) > 0 pentru x I i f X ( x) = 0
pentru x I ). Dac g : I
este o funcie monoton i difereniabil pe I , atunci
Y = g ( X ) este o variabil aleatoare continu a crei densitate de probabilitate este dat de
1
1
f g ( y ) ( g )( y ) ,
fY ( y ) = X
0
,

pentru y g ( I ),
n rest,

(2.5.1)

unde g 1 este inversa, unic determinat, a funciei g, iar ( g 1 ) este derivata acesteia.
Pentru a demonstra aceast teorem, considerm c g este monoton cresctoare pe I .
Funcia de repartiie a variabilei Y = g ( X ) este
FY ( y ) = P[Y y ] = P[ g ( X ) y ] = P[ X g 1 ( y )] = FX g 1 ( y )
(2.5.2)
pentru y g ( I ) . Prin derivare n raport cu y se obine densitatea de probabilitate fY .

Exemplul 2.5.1. Considerm g ca fiind funcia de repartiie F : [0,1] a unei


variabile aleatoare continue X cu densitatea de probabilitate f ( x) = F ( x), x .
Aplicnd teorema 2.5.1 pentru variabila Y = F ( X ) , se obine funcia de repartiie

FY ( y ) = F F 1 ( y ) = y , pentru y F ( ) = [0,1] . Densitatea de probabilitate a lui Y


este
1 , pentru y [0,1],
fY ( y ) =
0 , n rest.
Rezult astfel c Y este uniform distribuit n intervalul [0, 1].
Pentru generarea numerelor aleatoare care s respecte o distribuie de probabilitate
impus, teorema precedent se aplic n sensul urmtor: dac X este o variabil uniform
distribuit n intervalul [0, 1], F reprezint o funcie de repartiie de tip continuu,
(densitatea de probabilitate corespunztoare fiind f = F ) i g = F 1 ,
difereniabil pe
atunci densitatea de probabilitate a variabilei Y = F 1 ( X ) este

42

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

fY ( y ) = f X [ F ( y )] F ( y ) = F ( y ) = f ( y ), pentru y .
(2.5.3)

Aceast metod poate fi aplicat pentru acele distribuii de probabilitate pentru care
funcia invers de repartiie F 1 poate fi exprimat n form analitic (de exemplu, pentru
distribuia exponenial sau Weibull). n cazul distribuiilor pentru care acest lucru nu este
posibil (de exemplu, distribuia normal) se aplic alte metode de generare (Sinclair, 2002).

Exemplul 2.5.2. Fie X o variabil uniform distribuit n intervalul [0, 1] i


g :[0,1) , g ( x) = 1 ln (1 x ) , cu > 0 . Variabila Y = g ( X ) ia numai valori
strict pozitive, astfel c FY ( y ) = 0 , pentru y 0 . Pentru y > 0 , se obine

FY ( y ) = P[Y y ] = P[ 1 ln (1 X ) y ] = P[ln (1 X ) y ] =
= P[(1 X ) e y ] = P[ X 1 e y ] = FX (1 e y ).
Deoarece X U (0,1) , FX ( x) = x pentru 0 x 1 . Funcia de repartiie a lui Y este
FY ( y ) = 1 e y , pentru y > 0 .
Deci variabila Y = g ( X ) are distribuie exponenial de parametru , Y E ( ) .
Un caz particular de aplicare a teoremei 2.5.1 este cel al funciilor liniare,
g ( x) = ax + b , cu a , b . Densitatea de probabilitate a variabilei Y = aX + b este
1
y b
fX

, pentru y a I + b,
fY ( y ) = | a | a

0
, n rest,

unde I reprezint intervalul pe care f ( x) 0 .

(2.5.4)

Exemplul 2.5.3. Fie X E ( ) i Y = rX , cu r > 0 . Deoarece f X ( x) = 0 pentru


x < 0 i f X ( x) = e x pentru x 0 , densitatea de probabilitate a lui Y este

0 , pentru y < 0,

fY ( y ) = y
e r , pentru y 0.
r
Rezult astfel c Y are distribuie exponenial de parametru r .

2.6. Funcii generatoare


Fiind dat o variabil aleatoare cu valori reale X, e X ( ) reprezint o alt variabil
aleatoare a crei valoare medie, M e X , dac exist, este o funcie de parametrul real .

Funcia generatoare de moment (eng. moment generating function MGF)


corespunztoare unei variabile aleatoare X este definit prin
MX ( ) = M e X .
(2.6.1)

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

43

Pentru o anumit variabil aleatoare X se poate ntmpla ca media M e X s nu

existe pentru orice valoare a parametrului real , dar, n general, exist un interval de numere
reale pentru care funcia MX ( ) este definit. Definiia MGF poate fi extins i la cazul
variabilelor aleatoare multidimensionale.
x
Dac variabila aleatoare X este discret, X = 1
p1
MX ( ) = e

x j

x2
p2

xn
, atunci
pn

pj ,

(2.6.2)

iar dac X este variabil aleatoare continu avnd densitatea de probabilitate f, se obine
MX ( ) =

f ( x)dx .

(2.6.3)

Utilitatea funciei generatoare de moment rezult din urmtoarele proprieti:


Teorema 2.6.1. Dac pentru dou variabile aleatoare X i Y, MX ( ) = MY ( ) pentru
toate valorile parametrului , atunci variabilele X i Y au aceeai repartiie de probabilitate,
FX (t ) = FY (t ), t .
Teorema 2.6.2. Dac ntre variabilele X i Y exist o relaie liniar de forma
Y = aX + b , a, b , a 0 , atunci
MY ( ) = eb MX (a ) .

(2.6.4)

Demonstraia acestei teoreme se bazeaz pe proprietatea de liniaritate a valorii medii:


MY ( ) = M eY = M e( aX +b) = M eb eaX = eb M e Xa = eb MX (a ) . (2.6.5)
Teorema 2.6.3. Fie X1 , X 2 , , X n variabile aleatoare mutual independente i

Z = X1 + X 2 + + X n . Dac MX i ( ) exist pentru orice i = 1, n , atunci exist MZ ( ) i


MZ ( ) = MX1 ( )MX 2 ( ) MX n ( ) .

(2.6.6)

Relaia (2.6.6) rezult din:


n
n
n
MZ ( ) = M e( X1 + X 2 ++ X n ) = M e X i = M e X i = MX i ( ) .
i =1
i =1
i =1

(2.6.7)

Pentru a justifica denumirea de funcie generatoare de moment dat lui MX ( ) , s


observm c prin dezvoltarea n serie de puteri a exponenialei e X se obine
X 2 2
X k k
e X = 1 + X +
+ +
+ ,
k!
2!
astfel nct
X 2 2
X k k

++
+ =
MX ( ) = M e X = M 1 + X +
k
2!
!

M [ X 2 ] 2
M [ X k ] k
k
= 1 + M [ X ] +
++
+ = M[ X k ] .
k!
k!
2!
k =0

(2.6.8)

(2.6.9)

44

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


Rezult c, n dezvoltarea n serie de puteri a funciei MX ( ) , coeficientul lui k k !

reprezint momentul de ordinul k al variabilei X. n consecin, acest moment poate fi calculat


prin derivarea de k ori a funciei MX ( )

k [ X ] = M [ X k ] =

d k MX
d k

k = 1, 2, .

(2.6.10)

=0

Se observ c M [ X 0 ] = MX (0) = 1 .
Exemplul 2.6.1. Ilustrm n continuare modul de utilizare a funciei generatoare de
moment pentru studierea proprietilor distribuiei normale. Pentru o variabil continu
cu distribuie normal standard X N (0,1) , aplicarea relaiei (2.6.3) conduce la:

( x )2

1 x2
1 2
e dx =
e e 2 dx = e 2 .
MX ( ) = e f ( x)dx = e
2
2

Momentul de ordinul k al lui X poate fi calculat cu ajutorul relaiei (2.6.10), i anume:


(2m)! , dac k = 2m,
d k MX

cu m .
k [ X ] =
= 2m m !
k
d =0
0 , dac k = 2m + 1,
O variabil aleatoare Y cu distribuie normal de medie i deviaie standard ,
Y N ( , ) , poate fi scris sub forma Y = X + , cu X N (0,1) . Aplicnd
teorema 2.6.2 se obine funcia generatoare de moment a lui Y sub forma:
2 2

.
MY ( ) = e MX ( ) = exp +
2

Considernd X1 i X 2 dou variabile aleatoare independente, normal distribuite,


x

X i N ( i , i ) , i = 1, 2 , atunci funcia generatoare de moment a variabilei Z = X1 + X 2


poate fi determinat cu ajutorul teoremei 2.6.3
2 2
2 2

MZ ( ) = MX1 ( ) MX 2 ( ) = exp 1 + 1 exp 2 + 2 =


2
2

12 + 22 ) 2

(
= exp ( 1 + 2 ) +
,
2

de unde rezult c Z are, de asemenea, distribuie normal, Z N ( , ) , de medie

= 1 + 2 i dispersie 2 = 12 + 22 . Acest rezultat poate fi generalizat pentru cazul


unei sume de n variabile aleatoare independente, normal distribuite.
Fie X o variabil aleatoare discret cu valori numere ntregi nenegative, X , avnd
densitatea de probabilitate pk = P[ X = k ] , k . Funcia generatoare de probabilitate (eng.
probability generating function PGF) este definit prin relaia

GX ( z ) = MX (ln z ) = M z X = pk z k = p0 + p1 z + p2 z 2 + + pk z k + . (2.6.11)
k =0

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

45

Deoarece

pk = 1 , seria de puteri (2.6.11) este convergent pentru toate numerele


k =0

complexe z pentru care | z | 1 . Pentru | z | < 1 seria de puteri poate fi derivat termen cu
termen obinndu-se:
not

GX( k ) ( z ) =

d k GX ( z )
n!
=
pn z n k .
k
(
)!

n
k
dz
n=k

(2.6.12)

Scriind relaia (2.6.12) pentru z = 0 , se obine


1 (k )
GX (0) ,
k!
ceea ce justific denumirea de funcie generatoare de probabilitate dat lui GX ( z ) .
GX( k ) (0) = k ! pk

pk =

n particular, pentru z = 1 i k = 1 , apoi k = 2 , din relaia (2.6.12) rezult


M [ X ] = GX (1) , respectiv M [ X 2 ] = GX (1) + GX (1) .

(2.6.13)

(2.6.14)

Funciile generatoare de probabilitate corespunztoare ctorva dintre distribuiile


discrete detaliate n seciunea 2.4.1 sunt prezentate n continuare:
pentru o variabil discret cu distribuie uniform X U d ( n) :
n

1 k 1
z = zk ;
n
n k =0
k =0

G ( z) =

(2.6.15)

pentru o variabil cu distribuie Bernoulli de parametru p:


G ( z ) = qz 0 + pz1 = 1 p + pz1 ;

(2.6.16)

pentru o variabil cu distribuie binomial X Bin(n, p ) :


n

G ( z ) = Cnk p k (1 p) n k z k = [ pz + (1 p) ] ;
n

(2.6.17)

k =0

pentru o variabil cu distribuie geometric X Gd ( p) :

k =1

k =0

G ( z ) = p (1 p) k 1 z k = pz (1 p) k z k =

(2.6.18)

pentru o variabil cu distribuie geometric modificat X Gm ( p) :

k =0

k =0

p
;
1 z (1 p)

(2.6.19)

( z ) k
= e e z = e ( z 1) .
k
!
k =0

(2.6.20)

G ( z ) = p(1 p) k z k = p (1 p) k z k =

pz
;
1 z (1 p)

pentru o variabil cu distribuie Poisson X P ( ) :

G ( z) =

k =0

k
k!

e z k = e

Din teorema 2.6.1 rezult c, dac dou variabile aleatoare discrete X i Y au aceeai
funcie generatoare de probabilitate, GX ( z ) = GY ( z ) , atunci variabilele X i Y au aceeai
densitate de probabilitate.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

46

Aplicnd teorema 2.6.3 se poate demonstra c, dac X1 , X 2 , , X n sunt variabile


aleatoare mutual independente (cu valori numere ntregi nenegative) ale cror funcii
generatoare de probabilitate sunt notate, respectiv, GX1 ( z ), GX 2 ( z ) , , GX n ( z ) , i
Z = X1 + X 2 + + X n , atunci
GZ ( z ) = GX1 ( z )GX 2 ( z )GX n ( z ) .

(2.6.21)

Exemplul 2.6.2. Ilustrm n continuare modul de aplicare al relaiei (2.6.14) pentru


a determina media i dispersia unei variabile discrete cu distribuie Poisson, X P ( ) .
Prin derivarea funciei generatoare (2.6.20) se obine:
GX ( z ) = e ( z 1) i GX ( z ) = 2 e ( z 1) .
Rezult c

M [ X ] = GX (1) = i M [ X 2 ] = GX (1) + GX (1) = + 2 ,

deci
Var[ X ] = M [ X 2 ] ( M[ X ])2 = + 2 2 = .
Exemplul 2.6.3. Relaia (2.6.21) poate fi utilizat pentru a determina distribuia de
probabilitate a unei sume de variabile aleatoare discrete, mutual independente, cu valori
numere ntregi nenegative, X 1 , X 2 , , X m , dup cum urmeaz:
(i) dac variabila X i are repartiie binomial de parametri ni

i p (0,1) ,

X i Bin(ni , p) , pentru i = 1, m , atunci Z = X1 + X 2 + + X n are repartiie


binomial de parametri n1 + n2 + + nm i p, deoarece
GZ ( z ) = GX1 ( z ) GX 2 ( z ) GX n ( z ) =
= [ pz + (1 p) ] 1 [ pz + (1 p)] 2 [ pz + (1 p )]
n

nm

n + n ++ n

m
= [ pz + (1 p) ] 1 2
Z Bin(n1 + n2 + + nm , p);
(ii) dac variabila X i are repartiie Poisson de parametru i > 0 , X i P (i ) , pentru

i = 1, m , atunci

Z = X1 + X 2 + + X n

are repartiie Poisson de parametru

1 + 2 + + m , deoarece
GZ ( z ) = GX1 ( z ) GX 2 ( z ) GX n ( z ) =
= e 1 (1 z ) e 2 (1 z ) e m (1 z ) =
= e ( 1 +2 ++ m )(1 z ) Z P (1 + 2 + + m ).
Funcia caracteristic (eng. characteristic function) a unei variabile aleatoare continue
X cu densitatea de probabilitate f este definit prin
N X ( ) = MX (i ) = M e

i X

unde i reprezint unitatea imaginar ( i 2 = 1 ) iar

=
.

i x

f ( x)dx ,

(2.6.22)

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

47

Deoarece | ei x | = 1 , funcia caracteristic exist pentru orice variabil aleatoare continu X


care admite densitate de probabilitate. Funcia caracteristic reprezint transformata Fourier a
densitii de probabilitate f.
innd cont de exemplul 2.6.1, funcia caracteristic corespunztoare unei variabile cu
2 2
distribuie normal de probabilitate X N ( , ) este N X ( ) = exp +
.
2

Dac X este o variabil aleatoare continu cu valori pozitive avnd densitatea de


probabilitate f, atunci transformata Laplace (unilateral) a densitii de probabilitate a
variabilei X este definit prin

LX ( s ) = MX ( s ) = e sx f ( x)dx , Re s > 0 .

(2.6.23)

Transformatele Laplace ale densitilor de probabilitate corespunztoare ctorva dintre


distribuiile continue detaliate n seciunea 2.4.2 sunt prezentate n continuare:
pentru o variabil continu cu distribuie uniform X U (a, b) , 0 a < b :

e sx
e as e bs
dx =
;
b
a
s
b
a

(
)
a

L( s ) = e sx f ( x)dx =
0

pentru o variabil continu cu distribuie exponenial X E ( ) :

LX ( s ) = e

sx

dx =

( + s ) e
s+

( + s ) x

s+

(2.6.25)

pentru o variabil cu distribuie hiperexponenial X H ( p1 , p2 , , pn ; 1 , 2 , , n ) :

i =1

i =1

pi i
;
s + i

(2.6.26)

pentru o variabil continu cu distribuie Erlang X Er (n, ) :

LX ( s ) = e sx
0

dx =

LX ( s ) = e sx pi i e i x dx =

(2.6.24)

( n 1)!

x n1 e x dx =

(s+) ;
n

(2.6.27)

pentru o variabil continu cu distribuie gamma X G ( , ) :

LX ( s ) = e sx
0

1 s +1 x

1
1
s +1 x
x 1 e dx =

( )
( s + 1) ( ) 0

s +1
dx =

(2.6.28)

1
1
;
y 1 e y dy =

( s + 1) ( ) 0
( s + 1)
( )

pentru o variabil continu cu distribuie de tip Cox cu n faze (fig. 2.4.12):


n

j
.
s + j
j =1
i

LX ( s ) = p1 p2 pi 1 (1 pi )
i =1

(2.6.29)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

48

Aplicnd teorema 2.6.3 se poate demonstra c, dac X1 , X 2 , , X n sunt variabile


aleatoare mutual independente (cu valori pozitive) pentru care funciile caracteristice sunt
N X1 ( ), N X 2 ( ) , , respectiv, N X n ( ) , iar transformatele Laplace ale densitilor lor de
probabilitate sunt LX1 ( s ), LX 2 ( s ) , , respectiv, LX n ( s ) , i Z = X1 + X 2 + + X n , atunci
N Z ( ) = N X1 ( ) N X 2 ( ) N X n ( ) ,

(2.6.30)

LZ ( s ) = LX1 ( s )LX 2 ( s ) LX n ( s ) .

(2.6.31)

Proprietatea exprimat prin relaia (2.6.10) se poate aplica pentru funcia caracteristic
corespunztoare unei variabile aleatoare X:
k
k]
k d NX
[
k [ X ] = M X = ( i )
d k

k = 1, 2, ,

(2.6.32)

=0

ca i pentru transformata Laplace a densitii de probabilitate a unei variabile continue cu


valori pozitive:
d k LX
ds k

k [ X ] = M [ X k ] = (1) k

k = 1, 2, .

(2.6.33)

s =0

Exemplul 2.6.4. Fie X o variabil aleatoare cu distribuie exponenial de parametru


> 0 , avnd densitatea de probabilitate f (t ) = e t , pentru t 0 , a crei transformat
Laplace este

LX ( s ) =
Valoarea medie a variabilei X este
dL
M [ X ] = (1) X
ds
De asemenea, se pot determina
d 2 LX
M[ X 2 ] =
ds 2

s+

= (1)
s =0

=
s =0

( s + )2

2
( s + )3

=
s =0

=
s =0

i
Var[ X ] = M [ X 2 ] ( M[ X ]) =
2

Momentul de ordinul k al variabilei X este


d k LX
k [ X ] = M [ X 2 ] = (1) k
ds k

=
s =0

k !
( s + )k +1

=
s=0

k!

Exemplul 2.6.5. Aplicm relaia (2.6.31) pentru variabilele aleatoare independente


distribuite exponenial cu aceeai rat , X1 , X 2 ,..., X n E ( ) . Transformata Laplace
a densitii de probabilitate a variabilei Z = X1 + X 2 + ... + X n este

Cap. 2. Elemente de teoria probabilitilor i statistic matematic


n

i =1

i =1

LZ ( s ) = LX i ( s ) =

s+

(s+) .

Utiliznd transformata Laplace invers pentru LZ ( s ) , densitatea de probabilitate a


variabilei Z are expresia
f Z (t ) =

( n 1)!

t n 1 e t , pentru t 0 .

Rezult c variabila Z = X1 + X 2 + ... + X n are distribuie Erlang de ordin n i


parametru , Z Er (n, ) .

Exemplul 2.6.6. Proprietatea pus n eviden n exemplul 2.6.5 este un caz


particular al urmtoarei proprieti cu caracter mai general. Dac X1 , X 2 ,..., X n sunt
variabile aleatoare independente, identic distribuite dup o distribuie gamma de
parametri i , X i G ( , ) , i = 1, n , atunci Z = X1 + X 2 + ... + X n G (n , ) .
Demonstraia acestei proprieti este imediat, innd cont de relaiile (2.6.28) i (2.6.31):
n
n
1
1
LZ ( s ) = LX i ( s ) =
=
.

( s + 1)n
i =1
i =1 ( s + 1)

Exemplul 2.6.7. Aplicm relaia (2.6.31) pentru dou variabile aleatoare


independente, X 1 , X 2 , avnd distribuii exponeniale de rate 1 , respectiv 2 ,
X 1 E (1 ) , X 2 E (2 ) , cu 1 2 . Transformata Laplace a densitii de probabilitate
a variabilei Z = X1 + X 2 este
LZ ( s ) = LX1 ( s )LX1 ( s ) =

1
2
1
1
.
= 1 2

s + 1 s + 2 2 1 s + 1 s + 2

Utiliznd transformata Laplace invers pentru LZ ( s ) , densitatea de probabilitate a


variabilei Z are expresia
f Z (t ) =

iar funcia sa de repartiie este


FZ (t ) = 1

12
e t e t ) , pentru t 0 ,
(
2 1
1

2 1

e 1t +

2 1

e 2t , pentru t 0 .

Se spune c variabila Z = X1 + X 2 are distribuie hipoexponenial de ordin 2 i


parametri 1 i 2 , Z Hypo(1 , 2 ) . Definiia distribuiei hipoexponeniale se poate
extinde la cazul sumei de n variabile aleatoare mutual independente, avnd distribuii
exponeniale de rate diferite dou cte dou.
Figura 2.6.1 reprezint grafic densitatea de probabilitate i funcia de repartiie
pentru o variabil cu distribuie hipoexponenial Hypo(1, 2) comparativ cu funciile
corespunztoare variabilelor cu distribuie exponenial E (1) , E (2) .

49

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

50

PDF - distr. hipoexponentiala HYPO(1, 2)

CDF - distr. hipoexponentiala HYPO(1, 2)

2
1

1.8
HYPO: 1 = 1, 2 = 2
EXPO:1 = 1

1.6

0.8

EXPO:2 = 2

1.4

F(x)

f(x)

1.2
1
0.8

0.6

0.4

HYPO: 1 = 1, 2 = 2

0.6

EXPO:1 = 1

0.4

EXPO:2 = 2

0.2

0.2
0

0.5

1.5

2.5
x

3.5

4.5

0.5

(a)

1.5

2.5
x

3.5

4.5

(b)

Fig. 2.6.1. Reprezentarea grafic comparativ (a) a densitilor de probabilitate i


(b) a funciilor de repartiie corespunztoare distribuiilor Hypo(1, 2) i E (1) , E (2) .

2.7. Legea numerelor mari. Legi limit


Exist mai multe legi ale numerelor mari care stabilesc legtura dintre frecvena de apariie a unui
eveniment i probabilitate, utilizate pentru a justifica rezultatele obinute prin simulare i a evalua
erorile de estimare. Dou dintre aceste legi sunt prezentate n continuare (Mihoc i Mihu, 1980).
Teorema lui Bernoulli. Fie numrul de apariii ale unui eveniment A n n
experimente independente i p probabilitatea de apariie a lui A n fiecare dintre aceste
experiene. Dac f n este frecvena relativ definit prin egalitatea f n = n , atunci irul de
variabile aleatoare { f n }n converge n probabilitate la p, adic pentru orice > 0 are loc
lim P [| f n p | ] = 0 .

(2.7.1)

Din punct de vedere practic, aceast teorem arat c probabilitatea de apariie a


evenimentului A poate fi aproximat orict de bine prin frecvena relativ determinat
experimental atunci cnd numrul n de experimente efectuate este suficient de mare.
Legea numerelor mari. Fie variabilele aleatoare independente X1 , X 2 ,..., X n , avnd

aceeai distribuie de probabilitate, cu valoarea medie = M[ X k ] i dispersia 2 = Var[ X k ]


(finite). Considernd variabila aleatoare Sn = X 1 + X 2 + ... + X n , pentru orice > 0 este
satisfcut relaia:
S
lim P n = 0 .
n n

(2.7.2)

Din punct de vedere practic, aceast lege arat c valoarea medie a unei variabile
aleatoare X poate fi aproximat orict de bine prin media aritmetic a unui numr n suficient
de mare de realizri (experimentale) ale acesteia, X1 , X 2 ,..., X n .

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

51

2.8. Elemente de statistic matematic


Distribuiile de probabilitate discutate n seciunile precedente pot furniza probabilitile de
apariie a diferitor evenimente de interes, att timp ct tipul i parametrii distribuiilor lor sunt
cunoscute. n practic, de multe ori trebuie urmat o cale invers: pentru anumite fenomene
aleatoare trebuie obinute informaii privind tipul distribuiilor i parametrii acestora pe baza
unor date culese direct din sistemul investigat. Statistica matematic furnizeaz suportul
pentru analizarea i interpretarea unor asemenea date (Mihoc i Mihu, 1980).
n limbaj matematic, orice mulime de elemente care formeaz obiectul unei analize
statistice poart denumirea de populaie statistic (eng. population), iar elementele constitutive
ale unei populaii statistice se numesc uniti statistice sau indivizi. Numrul tuturor
indivizilor dintr-o populaie statistic se numete efectivul total al acelei populaii sau volumul
populaiei. Volumul unei populaii statistice poate fi finit sau infinit. Analiza statistic poate
avea n vedere una sau mai multe caracteristici (trsturi) comune tuturor indivizilor ce
alctuiesc populaia statistic. O caracteristic se numete cantitativ dac se poate msura. n
caz contrar, caracteristica se numete calitativ.
Informaiile privind valorile unei caracteristici nu se culeg de la ntreaga populaie, ci
se consider la ntmplare o submulime finit a populaiei. Aceast submulime i, implicit,
valorile corespunztoare caracteristicii studiate poart denumirea de eantion sau selecie.
Procedeul de extragere a unui eantion dintr-o populaie statistic se numete sondaj.
Metodele de inferen statistic permit estimarea unei caracteristici a ntregii populaii pe
baza datelor colecionate ntr-un eantion.
Intuitiv, putem afirma c valoarea estimat (estimator) este cu att mai apropiat de
valoarea real cu ct dimensiunea eantionului investigat este mai mare; cele dou valori
coincid perfect dac eantionul cuprinde ntreaga populaie. De asemenea, indiferent de
dimensiunea eantionului investigat, acesta trebuie s fie reprezentativ pentru populaia din
care provine. Aceste dou aspecte conduc la proprietile de consisten i nedeviere ale unui
estimator.
Studiul urmtoarelor domenii constituie subiectului statisticii matematice:
1. Estimatori statistici. Diferite eantioane ale aceleiai populaii vor furniza estimatori
distinci. Se poate pune problema determinrii distribuiei statistice a acestor
estimatori. Dac tipul distribuiei (normal, exponenial, etc.) populaiei studiate este
cunoscut, se poate pune problema estimrii parametrilor necunoscui ai populaiei. n
acelai timp, trebuie precizat nivelul de ncredere n aceti estimatori.
2. Teste statistice. n cazul n care tipul distribuiei populaiei studiate este necunoscut,
atunci se pot efectua teste pentru a verifica dac aceast distribuie este de un anumit
tip. De asemenea, n loc de a estima anumite proprieti ale populaiei, se pot testa
diferite ipoteze privind proprietile funciei de distribuie a populaiei.

52

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

2.8.1. Estimarea parametrilor


2.8.1.1. Estimatori statistici
Presupunem c o anumit populaie X are o distribuie complet specificat cu excepia valorii
unui anumit parametru (ca, de exemplu, valoarea medie sau dispersia populaiei).
Estimarea acestui parametru se va baza pe o colecie x1 , x2 ,..., xn de realizri ale unui
experiment statistic. Fiecare valoare xi obinut experimental reprezint, de fapt, o realizare a
unei variabile aleatoare X i . Mulimea variabilelor aleatoare X1 , X 2 ,..., X n se numete
eantion (eng. sample) de lungime n al populaiei X cu distribuia F ( x) , dac sunt mutual
independente i au aceeai funcie de repartiie, FX i ( x) = F ( x) , pentru orice valori ale lui i i x.

=
( X , X ,..., X ) utilizat pentru a estima valoarea parametrului al
O funcie
1
2
n
populaiei se numete estimator (eng. estimator), iar o valoare a acesteia, = ( x1 , x2 ,..., xn ) ,
calculat pe baza realizrilor x1 , x2 ,..., xn ale unui experiment statistic reprezint o estimare
a lui .
=
( X , X ,..., X ) reprezint un estimator nedeviat (eng. unbiased
Funcia
1
2
n
estimator) al parametrului dac media sa coincide cu valoarea adevrat a lui :
( X , X ,..., X )] = .
(2.8.1)
M[
1

Valoarea medie empiric (eng. sample mean) sau sperana matematic a eantionului
X1 , X 2 ,..., X n , definit prin relaia
X=

1
Xi ,
n
i =1

(2.8.2)

reprezint un estimator nedeviat al valorii medii a populaiei = M[ X ] , dac aceasta din


urm exist, deoarece:
n
1 n
1 n
1
1
M[ X ] = M X i = M[ X i ] = M[ X ] = n M[ X ] = M[ X ] = . (2.8.3)
n i =1
n
n i =1 n i =1
De asemenea, se poate calcula dispersia valorii medii a eantionului (n ipoteza c
dispersia populaiei exist i este finit) innd cont de independena variabilelor
X1 , X 2 ,..., X n ,

1 n
1 n
1
Var[ X ] = Var X i = 2 Var[ X i ] = 2
n
n i =1 n i =1

Var[ X ] =
i =1

Var[ X ]
.
n

(2.8.4)

Relaia precedent arat c precizia valorii medii pe eantion X ca estimator al valorii


medii a populaiei crete odat cu creterea dimensiunii n a eantionului, dac dispersia
populaiei, Var[ X ] , este finit.
Se poate demonstra (Mihoc i Mihu, 1980) c funcia
n

( X , X ,..., X ) = 1 ( X X )2

n
1
2
n i =1 i

(2.8.5)

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

53

constituie un estimator deviat al dispersiei populaiei. Pe de alt parte, dispersia empiric a


eantionului X1 , X 2 ,..., X n , definit prin relaia
S2 =

1
( X i X )2 ,
n 1
i =1

(2.8.6)

constituie un estimator nedeviat al dispersiei populaiei, 2 = Var[ X ] , dac aceasta din urm
exist. Estimatorii (2.8.5) i (2.8.6) difer foarte puin atunci cnd lungimea eantionului este
suficient de mare. Formula (2.8.6) se poate aplica atunci cnd populaia investigat este
infinit.
Pentru o populaie finit de mrime N, un estimator nedeviat al dispersiei este
reprezentat de:
1
1
n
N
( X i X )2 .
(2.8.7)
S2 =
n 1
i =1

este un estimator consistent (eng. consistent estimator) al parametrului


Se spune c
dac pentru orice > 0 este satisfcut relaia:
|< ] = 1 ,
lim P[|
(2.8.8)
n

tinde n probabilitate ctre valoarea parametrului atunci


adic valoarea estimatorului
cnd dimensiunea eantionului tinde la infinit.
Se poate demonstra (Mihoc i Mihu, 1980) c valoarea medie pe un eantion (2.8.2)
este un estimator consistent al valori medii a populaiei = M[ X ] .
Un alt mod de analiz a valorilor colecionate ntr-un set de realizri x1 , x2 ,..., xn
corespunztoare unei populaii X const n construirea funciei empirice de repartiie F ( x) .
Pentru orice x

, fie k x numrul de valori (din totalul de n valori nregistrate) care sunt mai

mici sau egale cu x. Funcia empiric de repartiie (eng. empirical distribution function) este
definit prin
F ( x) = k n .
(2.8.9)
x

Se poate demonstra (Mihoc i Mihu, 1980) c funcia F ( x) (2.8.9) este un estimator


consistent al funciei de repartiie a populaiei, F ( x) .
De asemenea, pentru un eantion X1 , X 2 ,..., X n se pot defini momentele empirice
(eng. empirical moment) i momentele centrate empirice prin formulele
mk =

1
X ik , pentru k = 1 sau k 3 ,
n
i =1

(2.8.10)

respectiv
mk =

1
( X i X ) k , pentru k 3 .

n i =1

(2.8.11)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

54

Observaie. Momentul empiric de ordinul 1 reprezint valoarea medie empiric,


m1 = X . Pentru momentul centrat empiric de ordinul k = 2 (dispersia empiric) se utilizeaz

una dintre relaiile (2.8.6) i (2.8.7), n funcie de dimensiunea populaiei investigate,


m2 = S 2 .
Momentele empirice stau la baza aa-numitei metode a momentelor (eng. method of
moments) pentru estimarea unuia sau mai multor parametri ai distribuiei populaiei X pe baza
unui eantion de lungime n, X1 , X 2 ,..., X n . Aceast metod const n egalarea primelor cteva
momente empirice ale eantionului cu momentele corespunztoare ale populaiei astfel nct
s se obin un numr de ecuaii egal cu numrul parametrilor care trebuie estimai. Valorile
estimate, obinute prin rezolvarea acestui sistem de ecuaii, reprezint, n general, estimatori
consisteni ai parametrilor.
Exemplul 2.8.1. Considerm un sistem de calcul pentru care X reprezint necesarul
de memorie central corespunztor executrii unei secvene de instruciuni (job),
exprimat ca fracie din totalul de memorie a sistemului. Se presupune c densitatea de
probabilitate a lui X este de forma
(k + 1) x k , 0 < x < 1,
k 0.
f ( x) =
n rest,
0,
Dac k = 0 , necesarul de memorie are o distribuie uniform. Se dorete estimarea
parametrului k pe baza unui eantion de lungime n. Fiind vorba de estimarea unui singur
parametru, este suficient s considerm numai momentul de ordinul 1 (valoarea medie)
a eantionului, m1 = X , i, respectiv, a populaiei,
1

1[ X ] = x(k + 1) x k dx =
0

k + 1 k +2 1 k + 1
x 0=
.
k +2
k +2

Egalnd cele dou valori medii, 1[ X ] = X , se obine valoarea estimat a parametrului


k sub forma
2 X 1
.
k =
1 X
O alt metod frecvent folosit pentru estimarea parametrilor distribuiei unei
populaii o constituie metoda verosimilitii maxime (eng. method of maximum-likelihood) ce
furnizeaz estimatori care, de regul, sunt consisteni i, n anumite condiii de regularitate,
sunt cei mai eficieni n sens asimptotic (adic, atunci cnd lungimea eantionului n tinde la
infinit). Principiul care st la baza acestei metode este de a alege, pe baza eantionului
X1 , X 2 ,..., X n , ca estimator al unui parametru acea valoare a crei probabilitate de apariie
este mai mare.
Funcia de verosimilitate (eng. likelihood function) este, de fapt, densitatea de
probabilitate a vectorului aleator ( X 1 , X 2 , , X n ) . Pentru o distribuie discret de
probabilitate, funcia de verosimilitate reprezint probabilitatea de apariie a evenimentului
[ X 1 = x1 , X 2 = x2 , , X n = xn ] :

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

55

L( ) = P[ X1 = x1 , X 2 = x2 , , X n = xn ] = p X i ( xi | ) ,

(2.8.12)

i =1

unde = (1 , 2 , , k ) este vectorul parametrilor ce trebuie estimai. Similar, pentru o


distribuie continu de probabilitate, funcia de verosimilitate este
n

L( ) = P[ X1 = x1 , X 2 = x2 , , X n = xn ] = f X i ( xi | ) .

(2.8.13)

i =1

n anumite condiii de regularitate, funcia de verosimilitate L( ) admite maxim,


estimatorul de verosimilitate maxim a lui fiind soluia sistemului de ecuaii
L( )
= 0, i = 1, 2, , k .
(2.8.14)
i
Se poate ntmpla ca soluia sistemului (2.8.14) s nu poat fi dedus analitic (ca, de
exemplu, n situaia n care se dorete estimarea simultan a parametrilor i ai unei
distribuii de tip gamma). n alte cazuri, soluia acestui sistem nu este unic. De asemenea,
soluia sistemului (2.8.14) poate s nu aparin spaiului parametrilor, astfel nct trebuie
aplicat o metod de maximizare cu restricii a funciei L( ) .
Exemplul 2.8.2. Se dorete estimarea ratei de sosire a apelurilor ntr-o celul a unui
sistem de comunicaii mobile, pe baza unui eantion X 1 = x1 , X 2 = x2 , , X n = xn , unde
X i noteaz numrul de apeluri nregistrate pe or n perioada i de observaie.
Considernd c numrul de apeluri pe or, X, are o distribuie Poisson de parametru ,
densitatea de probabilitate este de forma
pX ( x | ) = e

x
x!

Funcia de verosimilitate este


n

i =1

i =1

L( ) = p X i ( xi | ) = e

xi =
xi !

n
x
1
e n i =1 i ,
x1 ! x2 ! xn !

prin logaritmarea creia se obine


n
ln L( ) = ln ( x1 ! x2 ! xn !) n + xi ln( ) .
i =1
Maximizarea funciei L( ) este echivalent cu maximizarea logaritmului su, ln L( ) ,
ceea ce conduce la
n
n
d ln L( )
1
1
= 0 n + xi = 0 = xi .
d
n i =1
i =1
Rezult c estimatorul de verosimilitate maxim al ratei de sosire a apelurilor (cu
distribuie Poisson) este chiar media eantionului considerat:
n
1
= X i = X .
n i =1

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

56

Exemplul 2.8.3. Durata de execuie a unei secvene de instruciuni, X, are distribuie


exponenial de rat . Se dorete estimarea ratei pe baza unui eantion
X 1 = x1 , X 2 = x2 , , X n = xn . Densitatea de probabilitate a duratei X fiind
f X ( x | ) = e x ,

funcia de verosimilitate este dat de


n

i =1

i =1

x
L( ) = f X i ( xi | ) = e xi = n e i =1 i .
n

Prin derivarea acesteia rezult


n
n
n
dL( )

x
= n n 1 e i =1 i xi n e i =1 i .
d
i =1
Rezolvarea ecuaiei dL d = 0 conduce la = n

i =1 xi ,
n

astfel c estimatorul de

verosimilitate maxim al ratei a distribuiei exponeniale este de forma:


n
1
= n
= ,
X
Xi
i =1

fiind n concordan cu relaia teoretic = 1 M[ X ] .

2.8.1.2. Intervale de ncredere


Metodele de estimare a parametrilor prezentate anterior conduc la estimatori punctuali
(eng. point estimate) ai parametrului investigat. Un estimator punctual coincide rareori cu
apare astfel problema determinrii aaparametrul estimat . Pentru un estimator
numitului interval de ncredere (eng. confidence interval), n care, cu o probabilitate suficient
de mare, se gsete valoarea adevrat a parametrului estimat. Dac, pentru 0 < < 1 ,
satisface condiia
estimatorul

< <
+ ] = , cu , > 0 ,
P[
1
2
1 2

(2.8.15)

,
+ ) este un interval de 100 % ncredere pentru parametrul
se spune c intervalul (
1
2
. Valoarea se numete coeficient de ncredere (eng. confidence coefficient). Relaia
(2.8.15) are urmtoarea semnificaie. Valoarea estimat pe baza unui set de valori
x , x ,..., x , poate s fie coninut sau nu n intervalul ( , + ) , astfel c probabilitatea
1

este
P[ 1 < < + 2 ] are valoarea 1 sau, respectiv, 0. Atunci cnd estimatorul
considerat ca funcie de variabilele aleatoare X1 , X 2 , , X n , capetele intervalului
,
+ ) sunt variabile aleatoare i are sens s afirmm c probabilitatea ca intervalul
(
1

,
+ ) s conin valoarea adevrat este . Dac se repet de un numr
(aleator) (
1
2
suficient de mare de ori, N, procesul de culegere a datelor experimentale i cel de estimare a
parametrului pe baza acestor date, atunci n N din cazuri valoarea va fi coninut n
intervalul ( , + ) .
1

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

57

O metod simpl de obinere a intervalului de ncredere pentru un estimator nedeviat


const n aplicarea inegalitii lui Cebev sub forma

< <
+ ] 1 Var[] , pentru > 0 ,
P[
(2.8.16)
2

] s fie cunoscut (sau s poat fi estimat).


cu condiia ca dispersia estimatorului Var[

Exemplul 2.8.4. Fie X o populaie a crei dispersie Var[ X ] = 2 este cunoscut. Se


= X , adic
dorete estimarea valorii medii a populaiei, = , utiliznd estimatorul
media pe un eantion. Dac lungimea eantionului utilizat pentru estimare este n, atunci,
] = 2 n . Din (2.8.16), se obine
conform relaiei (2.8.4), Var[
P[ X < < X + ] 1

2
.
n 2

Pentru > 0 fixat, putem determina un interval de ncredere de nivel arbitrar de


apropiat de 1 prin alegerea unei valori suficient de mare a lui n (prin colectarea unui
eantion suficient de mare).

2.8.2. Verificarea ipotezelor statistice


n multe situaii practice trebuie luate decizii asupra unei populaii X pe baza informaiei
(limitate) coninute ntr-un eantion. Pentru aceasta, de regul se formuleaz o ipotez asupra
naturii populaiei studiate. O asemenea ipotez, care poate fi adevrat sau fals, se numete
ipotez statistic (eng. statistical hypothesis). Procedurile matematice care ne permit s
decidem dac respingem sau acceptm o anumit ipotez statistic, pe baza informaiilor
coninute ntr-un eantion, poart denumirea de teste statistice (eng. statistical tests).
Procedura general de testare este urmtoarea: se formuleaz aa-numita ipotez nul
(eng. null hypothesis), H0, care reprezint, practic, o aseriune despre distribuia de
probabilitate a populaiei investigate. Ipoteza contrar se numete ipotez alternativ (eng.
alternate hypothesis), H1. Testul statistic se bazeaz pe un eantion X1 , X 2 ,..., X n de lungime n
al populaiei X. Procedura de testare statistic const n mprirea spaiului de selecie (al
tuturor valorilor posibile ale n-uplului ( X 1 , X 2 ,..., X n ) ) n dou regiuni, R( H 0 ) i R( H1 ) .
Dac n-uplul de selecie ( x1 , x2 , , xn ) se gsete n R( H1 ) , atunci ipoteza nul H0 este
respins. Pe de alt parte, dac ( x1 , x2 , , xn ) se gsete n R( H 0 ) , atunci ipoteza nul H0 este
nu poate fi rejectat. Regiunea R( H 0 ) poart denumirea de regiune de acceptare (eng.
acceptance region), iar R( H1 ) poart denumirea de regiune de rejecie sau critic (eng.

rejection region).
n procesul de verificare a ipotezelor statistice se pot comite dou tipuri de erori. O
eroare de tipul I apare atunci cnd ipoteza nul este adevrat, dar n-uplul de selecie
( x1 , x2 , , xn ) se gsete n R( H1 ) , astfel nct ipoteza H0 este respins. Probabilitatea de

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

58

apariie a acestei categorii de erori se noteaz cu , = P[( x1 , x2 , , xn ) R( H1 ) | H 0 ] , i


reprezint nivelul de semnificaie (eng. level of significance) a testului statistic efectuat.
Similar, o eroare de tipul II apare atunci cnd ipoteza nul este fals, dar n-uplul de selecie
( x1 , x2 , , xn ) se gsete n R( H 0 ) , astfel nct ipoteza H0 este acceptat. Probabilitatea de
apariie a erorilor de tipul II se noteaz cu , = P[( x1 , x2 , , xn ) R( H 0 ) | H1 ] . Valoarea
1 reprezint puterea (eng. power) testului statistic efectuat. Atunci cnd un test statistic
este efectuat de un numr mare de ori, n 100 % din cazuri ipoteza H 0 va fi rejectat, dei
aceasta este adevrat, iar n 100 % din cazuri, ipoteza H 0 va fi acceptat, dei aceasta este
fals.
O eroare de tipul I sau II conduce la o concluzie greit, astfel nct asemenea erori
trebuie reduse. Fixnd lungimea n a eantionului, reducerea erorilor de un anumit tip conduce
la creterea erorilor de cellalt tip. Impunnd (de regul 0,01 sau 0,05), valoarea lui
rezult ca o consecin i invers. Nu se poate afirma care din aceste probabiliti trebuie s fie
mai mic, neexistnd o regul n aceast privin. Singura modalitate de reducere simultan a
erorilor de ambele tipuri este mrirea numrului n de msurtori ale cror rezultate se
utilizeaz pentru testarea ipotezei.
Testele statistice pot fi parametrice i neparametrice. n cazul n care ipoteza nul
presupune adevrat egalitatea = 0 i se pune problema verificrii inegalitii dintre
valoarea estimat i cea adevrat a parametrului, pentru ipoteza alternativ H1 sunt posibile
trei formulri: H1 : 0 (test bilateral), H1 : > 0 (test unilateral stnga) i H1 : < 0
(test unilateral dreapta) (fig. 2.8.1).

(a)

(b)

(c)

Fig. 2.8.1. Reprezentarea grafic a unui test: (a) bilateral, (b) unilateral stnga
i (c) unilateral dreapta.
n verificarea ipotezelor statistice apar dou cazuri distincte. Presupunnd cunoscut
tipul distribuiei de probabilitate a populaiei X, fie unul sau mai muli parametri ai acesteia
trebuie estimai, fie trebuie verificat o relaie ntre aceti parametri. Pentru aceasta, exist
teste specializate care privesc valoarea medie sau dispersia populaiei.
O alt situaie este aceea n care distribuia de probabilitate a populaiei investigate
este necunoscut i se pune problema concordanei (eng. goodness of fit) dintre repartiia
empiric F i o repartiie teoretic postulat F0 .

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

59

Pentru o populaie cu distribuie continu de probabilitate cel mai des utilizat test de
acest tip este testul Kolmogorov-Smirnov (Bolch et al., 1998). Pentru aplicarea acestuia, pe
baza valorilor colecionate ntr-un eantion x1 , x2 ,..., xn , se calculeaz mai nti funcia
empiric de repartiie F ( x) conform relaiei (2.8.9). O msur logic a deviaiei repartiiei
n

empirice de la cea teoretic o constituie d n ( x) =| Fn ( x) F0 ( x) | . Statistica testului reprezint


distana maxim dintre funcia de repartiie empiric i cea teoretic:
D = sup d ( x) = sup | F ( x) F ( x) | .
n

(2.8.17)

Avantajul oferit de testul Kolmogorov-Smirnov const n aceea c distribuia statisticii


Dn depinde numai de lungimea n a eantionului utilizat, fiind independent de repartiia
teoretic F0 . n funcie de nivelul de semnificaie impus pentru acest test, valorile critice
ale statisticii Dn , notate d n; , sunt tabelate. Ipoteza nul H 0 este rejectat cu nivelul de
semnificaie dac valoarea calculat a statisticii Dn depete valoarea critic d n; .

Exemplul 2.8.5. Se dorete verificarea experimental (n mediul Matlab) a


afirmaiei urmtoare: dac X 1 , X 2 , X 3 E ( ) sunt variabile aleatoare independente
distribuite exponenial cu aceeai rat = 2 , atunci variabila Z = X1 + X 2 + X 3 are
distribuie Erlang de ordin n = 3 i parametru = 2 , Z Er (3, 2) .
Histograma setului de date X1

Histograma setului de date X2

5
4.5

4
3.5

(a)

(b)

2.5
2

1.5
1

0.5
0

0.5

1.5

2.5

0.5

Histograma setului de date X3

1.5

2.5

Histograma setului de date Z = X1 + X2 + X3

10

9
5

8
7

(c)

(d)

4
2

3
2

1
0

0.5

1.5

2.5

3.5

0.5

1.5

2.5

3.5

4.5

Fig. 2.8.2. Histogramele unor realizri de lungime n = 100 corespunztoare


variabilelor: (a) X1 , (b) X 2 , (c) X 3 i (d) Z .

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

60

Pentru verificarea afirmaiei din enun se utilizeaz testul Kolmogorov-Smirnov,


considernd ipoteza nul H 0 : funcia (teoretic) de repartiie a lui Z este
F0 ( x) = 1 (1 + 2 x + 4 x 2 2 ) e2 x , pentru x > 0 . Efectum un test bilateral, considernd

ipoteza alternativ H1 : F ( x) F0 ( x) , i nivelul de semnificaie = 0, 05 .


Mai nti lucrm cu eantioane de lungime n = 100 . Figura 2.8.2 prezint
histogramele realizrilor corespunztoare variabilelor (a) X1 , (b) X 2 , (c) X 3 i (d) Z .
Funcia Matlab kstest returneaz valoarea statisticii testului D100 = 0, 0815 i valoarea
critic d100; = 0,1340 , astfel nct ipoteza H 0 nu este rejectat. Figura 2.8.3 ilustreaz
comparaia grafic dintre funciile empirice i teoretice (a) de densitate de probabilitate
i, respectiv, (b) de repartiie.
Comparatie PDF empiric vs. Erlang(3, )

1.4

Comparatie CDF empiric vs. Erlang(3, )


1

PDF empiric
PDF Erlang(3, )

1.2

0.8

=2

f(x)

(b)

0.6

F(x)

0.8

(a)

0.6

0.4

=2

0.4
0.2

0.2

0.5

1.5

2
x

2.5

3.5

CDF empiric
CDF Erlang(3, )

0.5

1.5

2
x

2.5

3.5

Fig. 2.8.3. Comparaia grafic dintre funciile empirice i teoretice: (a) de densitate de
probabilitate i (b) de repartiie, pentru un eantion de lungime n = 100 .
Repetm testul pentru eantioane de lungime n = 10.000 , pentru care funcia
Matlab kstest returneaz valoarea statisticii testului D10000 = 0, 0059 i valoarea critic
d10000; = 0, 0136 , astfel nct ipoteza H 0 nu este rejectat. Figura 2.8.4 prezint
comparaia grafic dintre funciile empirice i teoretice: (a) de densitate de probabilitate
i, respectiv, (b) de repartiie.
Comparatie PDF empiric vs. Erlang(3, )

0.7

Comparatie CDF empiric vs. Erlang(3, )


1

0.6

PDF empiric
PDF Erlang(3, )

0.8

0.5

=2

(b)

f(x)

(a)

0.3

F(x)

0.4

0.6

=2

0.4
0.2

CDF empiric
CDF Erlang(3, )

0.2

0.1

4
x

4
x

Fig. 2.8.4. Comparaia grafic dintre funciile empirice i teoretice: (a) de densitate de
probabilitate i (b) de repartiie, pentru un eantion de lungime n = 10.000 .

Cap. 2. Elemente de teoria probabilitilor i statistic matematic

61

Metodele grafice de verificare a concordanei dintre repartiia empiric F i o


repartiie teoretic postulat F0 se bazeaz pe conceptul de transformare a datelor astfel nct
prin reprezentarea grafic a punctelor generate s se obin aproximativ o dreapt. n cazul n
care punctele obinute nu sunt coliniare, populaia investigat nu are repartiia F0 .
Considerm mai nti cazul testrii unei distribuii exponeniale:
F0 (t ) = 1 e t , t 0 ,
pentru care este satisfcut relaia:
1 F0 (t ) = e t

(2.8.18)

ln [1 F0 (t )] = t .

(2.8.19)

Dac pentru toate valorile din eantionul selectat, x1 , x2 , , xn , punctele de coordonate


( xi , ln[1 F ( xi )]) sunt plasate pe o dreapt (d) ce trece prin originea sistemului de
coordonate, atunci populaia studiat are distribuie exponenial a crei rat este egal cu
panta dreptei (d).
Un test similar se poate efectua pentru o distribuie de tip Weibull, caz n care se
obine relaia:

F0 (t ) = 1 e t

ln { ln [1 F0 (t )]} = ln t + ln .

(2.8.20)

Dac pentru toate valorile din eantionul selectat, x1 , x2 , , xn , punctele de coordonate


( ln( xi ), ln { ln[1 F ( xi )]}) sunt plasate pe o dreapt (d), atunci populaia studiat are
distribuie Weibull pentru care parametrul este egal cu ordonata punctului de intersecie cu
axa ordonatelor, iar parametrul este egal cu panta dreptei (d).

Exemplul 2.8.6. Ilustrm n continuare utilizarea testului Kolmogorov-Smirnov i a


celor dou teste grafice n cazul generrii unui set de numere aleatoare cu distribuie
exponenial prin metoda transformatei inverse (vezi paragraful 2.5). Pentru aceasta,
generm mai nti un eantion X de lungime n = 1.000 de numere uniform distribuite n
intervalul [0, 1] (fig. 2.8.5.(a)), cruia i aplicm funcia g :[0,1) ,
g ( x) = 2 ln (1 x ) , obinnd eantionul Y (fig. 2.8.5.(b)).
Histograma setului de date X

Histograma setului de date Y = G(X)

50

200
N =1000

45

(a)

180

40

160

35

140

30

120

(b)

25

100

20

80

15

60

10

40

20

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

N =1000

10

Fig. 2.8.5. Histograma unei realizri de lungime n = 1.000 corespunztoare


variabilei: (a) X i, respectiv, (b) Y = g ( X ) .

12

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

62

Pentru testul Kolmogorov-Smirnov, considerm ipoteza nul: H 0 : funcia de


repartiie a lui Y este F0 ( x) = g 1 ( x) = 1 e 0.5 x , pentru x > 0 . Efectum un test
bilateral, astfel nct ipoteza alternativ este H : F ( x) F ( x) , considernd nivelul de
1

semnificaie = 0, 05 .
Funcia Matlab kstest returneaz valoarea statisticii testului D1000 = 0, 0275 i
valoarea critic d1000; = 0, 0428 , astfel nct ipoteza H 0 nu este rejectat. Figura 2.8.6
prezint comparaia grafic dintre funciile empirice i teoretice: (a) de densitate de
probabilitate i, respectiv, (b) de repartiie.
Comparatie PDF empirica vs. teoretica

Comparatie CDF empirica vs. teoretica

0.5

0.45

0.9
PDF empirica
PDF Expo()

0.4
0.35

0.6

N = 1000

(b)

0.25

F(x)

f(x)

0.7

= 0.5

0.3

(a)

0.8

0.5

0.2

0.4

0.15

0.3

0.1

0.2

0.05

0.1

6
x

10

12

= 0.5
N = 1000
CDF empirica
CDF Expo()

6
x

10

12

Fig. 2.8.6. Comparaia grafic dintre funciile empirice i teoretice: (a) de densitate de
probabilitate i (b) de repartiie, pentru un eantion de lungime n = 1.000 .
Figura 2.8.5 ilustreaz aplicarea metodei grafice de verificare a concordanei dintre
distribuia empiric a setului de date Y = g ( X ) i (a) o distribuie exponenial,
respectiv, (b) o distribuie Weibull. Se observ c ipoteza distribuiei exponeniale a
acestui set de date poate fi acceptat, n timp ce ipoteza distribuiei Weibull poate fi
rejectat.
Test grafic - distributie exponentiala

Test grafic - distributie Weibull

1.5
1

(b)

0.5
0
-0.5
-1

ln[ -ln[ 1-Fe(x) ] ]

(a)

-ln[ 1-Fe(x) ]

-1.5

6
x

10

12

-2
-1

-0.5

0.5

1.5

2.5

ln(x)

Fig. 2.8.7. Ilustrarea metodei grafice de verificare a concordanei dintre distribuia


empiric a setului de date Y = g ( X ) i: (a) o distribuie exponenial, respectiv,
(b) o distribuie Weibull.

Capitolul 3
Lanuri Markov

Though this be madness, yet there is method int.


William Shakespeare, Hamlet

Procesele Markov reprezint un tip particular de procese


stohastice, a cror proprietate caracteristic este aceea c nu au
memorie. Evoluia viitoare a unui proces Markov este influenat
numai de starea curent a acestuia. Dac procesul Markov poate
avea numai un numr finit sau numrabil de stri, atunci este
denumit lan. Lanurile Markov constituie cel mai important
exemplu de proces stohastic, studiul matematic al proceselor
stohastice putnd fi privit ca o generalizare ntr-un sens sau altul a
teoriei lanurilor Markov.
Acestea au fost introduse n matematic n anul 1907 de
ctre Andrei Andreevici Markov (1856-1922), profesor la
universitatea din Sankt Petersburg. Lucrrile sale au lansat practic
Andrei A. Markov
teoria proceselor stohastice. n 1923 Norbert Wiener a fost primul
care a tratat riguros matematic procesele Markov continue. Teoria general a fost
fundamentat n anii 1930 de ctre Andrei Kolmogorov. Dei la momentul respectiv Markov
a gsit puine aplicaii practice ale teoriei ce i poart numele, astzi sunt ntlnite aplicaii n
cele mai variate domenii, de la tehnologie i tiine fizice, pn la biologie i sociologie.

3.1. Procese stohastice


3.1.1. Noiuni generale
Un proces stohastic X (eng. stochastic process) reprezint o familie de variabile aleatoare
definite pe un cmp de probabilitate ( , E, P ) indexate dup un parametru t T (care, de
regul, are semnificaia de timp), X : T . Pentru t T fixat, X (t , ) este o variabil
aleatoare, X (t ) : , numit eantion (eng. sample) al procesului stohastic. Pentru

64

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

fixat se obine o funcie definit pe T , numit realizare sau traiectorie (eng. sample path) a
procesului stohastic. Mulimea tuturor valorilor posibile ale unui proces stohastic,
S = { X (t , ) t T, } , se numete spaiul strilor (eng. state space) procesului respectiv.
Procesele stohastice pot fi clasificate dup natura discret sau continu a spaiului
strilor i a spaiului parametrilor. Procesele stohastice pentru care spaiul strilor este discret
(mulime finit sau numrabil) se numesc lanuri (eng. chain). Dac mulimea T pe care este
definit variabila temporal t este discret se spune c procesul stohastic este discret n timp
(eng. discrete-time stochastic process); n acest caz se consider T={0,1,2,...} iar procesul
stohastic (denumit i secven stohastic) este notat { X k } , k = 0,1, 2,... . Un proces stohastic
pentru care T = + este referit drept proces stohastic continuu n timp (eng. continuous-time
stochastic process).
n studiul unui proces stohastic X prezint interes att distribuii dependente de timp
(probabilitatea ca, pentru un anumit t fixat, variabila aleatoare X (t ) s ia valori ntr-o anumit
submulime a spaiului strilor S ), ct i distribuii staionare (probabilitatea ca variabila
aleatoare X (t ) s ia valori ntr-o anumit submulime a spaiului strilor S pentru valori
foarte mari ale parametrului t) asociate procesului. Pentru o anumit stare fixat x S a
procesului, este studiat probabilitatea ca procesul s ajung vreodat n acea stare, ca i
momentul la care va ajunge prima dat n x pornind dintr-o anumit stare iniial. De
asemenea, un alt aspect examinat este relaia care exist ntre variabilele aleatoare X ( s ) i
X (t ) la dou momente diferite de timp s i t.
n principiu, pentru a caracteriza un proces stohastic trebuie precizate funciile de
repartiie ale tuturor variabilelor aleatoare care definesc procesul. Considernd un n-uplu
(t1 , t2 , , tn ) T n , se definete vectorul aleator ( X (t1 ), X (t2 ), , X (tn ) ) , a crui funcie de
repartiie,
FX (t1 , t2 , , tn ; x1 , x2 , , xn ) = P[ X (t1 ) x1 , X (t2 ) x2 , , X (tn ) xn ] ,
definit pentru ( x1 , x2 , , xn )

(3.1.1)

, reprezint caracteristica statistic de ordinul n (eng. n-th

order distribution) a procesului stohastic X. O caracterizare complet a unui proces stohastic


necesit cunoaterea caracteristicilor sale statistice de orice ordin n i pentru toate
combinaiile posibile (t1 , t2 , , tn ) T n .
Caracteristica statistic de ordinul 1, denumit uneori i funcia de repartiie a
procesului stohastic X, reprezint practic o familie de funcii indexate dup parametrul t T .
Pentru fiecare t T , aceasta este egal cu funcia de repartiie a variabilei aleatoare X (t ) ,
FX (t , x) = FX ( t ) ( x) = P[ X (t ) x], x , t T .

(3.1.2)

Similar se definete densitatea de probabilitate a procesului stohastic X ca


reprezentnd densitatea de probabilitate a variabilei aleatoare X (t ) , pentru orice t T .
Valoarea medie a unui proces stohastic X este funcia mX (t ) care, pentru fiecare
moment t T , reprezint valoarea medie a variabilei aleatoare X (t ) :
mX : T , mX (t ) = M [ X (t )], t T .

(3.1.3)

Cap. 3. Lanuri Markov

65

Distribuia staionar de probabilitate a procesului stohastic X este definit prin


F ( x) = lim P[ X (t ) x], x ,
(3.1.4)
t

dac aceast limit exist.


Funcia de autocorelaie a procesului stohastic X este funcia de dou argumente
RX (t , t ) egal cu covariana variabilelor aleatoare X (t ) i X (t ) (vezi seciunea 2.3.4)
RX : T T , RX (t , t ) = Cov[ X (t ), X (t )], t , t T .

(3.1.5)

Un proces stohastic X pentru care caracteristicile statistice de orice ordin rmn


nemodificate printr-o translaie n timp
FX (t1 , t2 , , tn ; x1 , x2 , , xn ) = FX (t1 + , t2 + , , tn + ; x1 , x2 , , xn ) ,
(3.1.6)
se numete staionar (eng. stationary process). Dac un proces stohastic este staionar, atunci
funcia sa de repartiie i, implicit, densitatea de probabilitate, sunt independente de timp. De
asemenea, pentru un proces stohastic staionar, valoarea medie este constant iar funcia de
corelaie depinde numai de diferena dintre argumentele sale, RX (t , t ) = RX ( ) , cu = t t ,
fiind o funcie par, RX ( ) = RX ( ) (Voicu, 1980).
Un proces stohastic staionar se numete ergodic (eng. ergodic) n cazul n care toate
caracteristicile sale statistice (de orice ordin) pot fi determinate pe baza unei singure realizri
(pe o durat de timp infinit de lung). Orice realizare pe o durat de timp suficient de mare a
unui proces stohastic staionar i ergodic poate fi utilizat pentru caracterizarea procesului
nsui (Voicu, 1980).

3.1.2. Procese Markov


Se spune c un proces stohastic X este un proces de tip Markov (eng. Markov process)
dac posed proprietatea de lips a memoriei (denumit i proprietate Markov): pentru orice
t0 < t1 < < tk < tk +1 , distribuia de probabilitate a variabilei X (tk +1 ) condiional de valorile
variabilelor X (t0 ) , X (t1 ) , , X (tk ) , depinde numai de X (tk ) :
P[ X (tk +1 ) x | X (tk ) = xk , , X (t1 ) = x1 , X (t0 ) = x0 ] = P[ X (tk +1 ) x | X (tk ) = xk ] .(3.1.7)
n numeroase cazuri distribuia condiional ce intervine n (3.1.7) este independent
de valorile absolute ale momentelor de timp tk i tk +1 , depinznd numai de diferena dintre
acestea:
P[ X (tk +1 ) x | X (tk ) = xk ] = P[ X (tk +1 tk ) x | X (0) = xk ] .

(3.1.8)

n aceast situaie se spune c procesul Markov este omogen n timp (eng. timehomogeneous). Trebuie de asemenea remarcat faptul c staionaritatea distribuiei condiionale
nu implic staionaritatea procesului Markov.
Relaia (3.1.7) se aplic proceselor pentru care spaiul strilor este continuu. n cele ce
urmeaz o atenie deosebit va fi acordat proceselor Markov cu spaiul strilor de tip discret,
procese denumite lanuri Markov (eng. Markov chain), pentru care relaia (3.1.7) se scrie n
forma:

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

66

P[ X (tk +1 ) = xk +1 | X (tk ) = xk , , X (t1 ) = x1 , X (t0 ) = x0 ] =


= P[ X (tk +1 ) = xk +1 | X (tk ) = xk ].

(3.1.9)

n cazul lanurilor Markov n timp discret, tranziiile de stare pot avea loc numai la
momentele 0,1, 2, , k , , astfel nct asemenea lanuri sunt caracterizate prin relaia:
P[ X k +1 = xk +1 | X k = xk , , X1 = x1 , X 0 = x0 ] = P[ X k +1 = xk +1 | X k = xk ] .

(3.1.10)

Conceptual, ideea ca starea prezent a unui sistem s reflecte ntreaga istorie a


sistemului nu reprezint o constrngere extrem. De exemplu, lanul ce descrie un joc de ah
(n care se poate asocia o anumit probabilitate mutrii urmtoare) posed proprietatea
Markov. Starea curent de pe tabla de ah reflect ntreaga istorie a jocului, iar probabilitatea
de a face o anumit mutare (deci, de a avea loc o tranziie ntr-o nou stare) depinde numai de
starea curent.
Trebuie, de asemenea, subliniat faptul c proprietatea de lips a memoriei are dou
aspecte importante:
(M1) Toate informaiile despre strile trecute sunt irelevante (lips de memorie a
strilor no state memory needed).
(M2) Nu conteaz de ct timp se afl sistemul n starea curent (lips de memorie a
vrstei strilor no state age memory needed).
Condiia (M2) reprezint o restricie impus variabilelor aleatoare ce specific
duratele de timp dintre dou tranziii de stare succesive, care trebuie s posede proprietatea de
lips a memoriei. Pentru procesele n timp discret, condiia (M2) are drept consecin faptul
c duratele de timp pe care le petrece lanul n fiecare stare au distribuie geometric. Pentru
procesele n timp continuu, aceste durate au distribuie exponenial.
Exemplul 3.1.1. Se consider lanul discret n timp definit prin relaia
X k +1 = X k X k 1 , avnd spaiul strilor S = { , 2, 1, 0,1, 2,} . Starea iniial a
lanului este precizat prin probabilitile: P[ X 0 = 0] = 0,5 , P[ X 0 = 1] = 0,5 ,
P[ X1 = 0] = 0,5 , P[ X1 = 1] = 0,5 . Caracterul aleator al acestui proces este dat numai de
incertitudinea asupra strii iniiale; odat ce aceasta este precizat, evoluia procesului
are caracter determinist. Dou traiectorii de stare posibile ale acestui proces sunt:
1 : 0, 0, 0, 0, 0, 0, 0, 0, , 2 : 1, 0, 1, 1, 0,1,1, 0, .
Din relaia de definiie a lanului rezult c starea X k +1 depinde nu numai de X k ci
i de X k 1 , deci acest lan nu posed proprietatea Markov. La aceast concluzie se poate
ajunge i observnd c au loc relaiile P[ X 2 = 0 | X 1 = 0, X 0 = 0] = 1 i
P[ X 2 = 0 | X 1 = 0, X 0 = 1] = 0 , cele dou probabiliti depinznd de valoarea lui X 0 .
Definind vectorul aleator Z k = [ X k , Yk ]T , cu Yk = X k 1 , se poate genera lanul
vectorial
X 1 1 X k 1 1
Z k +1 = k +1 =
=
Zk ,
Yk +1 1 0 Yk 1 0
care posed proprietatea Markov, deoarece informaia despre starea curent,
zk = [ xk , yk ]T , este suficient pentru a determina starea urmtoare, zk +1 = [ xk +1 , yk +1 ]T .

Cap. 3. Lanuri Markov

67

Are loc relaia:

P Z k +1 = [ xk yk , xk 1 ]T | Z k = [ xk , yk ]T = 1 ,
aceast probabilitate fiind independent de strile trecute Z k 1 , , Z 0 .
Procesele de tip semi-Markov reprezint o extindere a noiunii de proces Markov prin
relaxarea condiiei (M2), astfel nct duratele de timp dintre dou tranziii de stare
consecutive pot avea o distribuie arbitrar de probabilitate. Condiia (M1) se pstreaz, astfel
nct, probabilitatea de a trece ntr-o nou stare depinde numai de starea curent, fiind
independent de strile trecute.

3.1.3. Fluxuri de evenimente


Un flux de evenimente (eng. flow of events) este un ir de evenimente omogene (ca natur) care
apar unul dup cellalt la momente de timp aleatoare. Pentru o anumit realizare a unui astfel
de flux de evenimente se poate construi imaginea grafic din fig. 3.1.1, n care Y1 , Y2 , ,
Yk , , reprezint momentele de timp la care apar evenimentele. Fluxul de evenimente poate
fi privit ca un ir de variabile aleatoare de forma Y1 = T1 , Y2 = Y1 + T2 ,
Y3 = Y2 + T3 = T1 + T2 + T2 , , Yk = Yk 1 + Tk = T1 + T2 + + Tk ,

T1
0

T2
Y1 Y2

T3
Y3

t0

Tk
Yk 1

Tk+1
Yk

Yk +1

Fig. 3.1.1. Reprezentarea grafic a unei realizri a unui flux de evenimente.


Pentru un flux staionar de evenimente, probabilitatea de a se produce un anumit
numr de evenimente ntr-un interval de timp [t0 , t0 + ] depinde numai de lungimea
intervalului, , i nu depinde de situarea acestui interval pe axa timpului.
Un flux de evenimente se numete ordinar dac probabilitatea apariiei a dou sau mai
multe evenimente ntr-un interval de timp elementar t este neglijabil n raport cu
probabilitatea apariiei unui singur eveniment n acest interval elementar. Altfel spus, ntr-un
flux ordinar probabilitatea apariiei simultane a dou sau mai multe evenimente este nul. Din
acest motiv, un flux ordinar de evenimente poate fi interpretat ca un proces stohastic n care
X (t ) are semnificaia numrului de evenimente ce au aprut pn la momentul t. X (t ) este
incrementat cu o unitate la fiecare moment Y1 , Y2 , , Yk , , cnd apar evenimentele
fluxului. Pentru o realizare a procesului stohastic X (t ) se poate utiliza o reprezentare grafic
de tipul celei schiate n fig. 3.1.2.
Proprietatea Markov (3.1.7) pentru un flux ordinar de evenimente are semnificaia c
probabilitatea de apariie a unui anumit numr de evenimente ntr-un interval de timp arbitrar

68

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

de lungime nu depinde de numrul de evenimente produse n oricare alte intervale de timp.


Cu alte cuvinte, absena memoriei nseamn c evenimentele ce alctuiesc fluxul apar la
momente de timp independente.
X (t )

k
k-1
3
2
1
0

Y1 Y2

Y3

Yk 1

Yk

Fig. 3.1.2. Reprezentarea grafic a unei realizri a fluxului ordinar X (t ) .


Un flux de evenimente se numete elementar (eng. elementary flow) dac este staionar,
ordinar i fr memorie.
3.1.3.1. Fluxuri de tip Bernoulli
Fie un flux ordinar de evenimente, n timp discret, pentru care probabilitatea de apariie a unui
eveniment la un moment oarecare k este aceeai pentru orice k . Se consider variabila
aleatoare X k pentru care evenimentul [ X k = 1] are semnificaia de apariie a unui eveniment
la momentul k, iar [ X k = 0] nseamn c la momentul k nu s-a produs nici un eveniment.
Notnd cu p ( 0 < p < 1 ) probabilitatea de apariie a unui eveniment la un moment oarecare,
variabilele aleatoare X 0 , X1 , , X k , , sunt independente i au distribuie Bernoulli de
parametru p . Procesul stohastic { X k | k = 0,1, 2,} este denumit flux de evenimente de tip
Bernoulli (proces Bernoulli).
Presupunem c un proces Bernoulli a fost urmrit timp de n pai i au fost nregistrate
valorile experimentale ale variabilelor X 0 , X 1 , , X n 1 . Viitorul acestui proces este reflectat
de variabilele aleatoare X n , X n +1 , , care sunt att mutual independente, ct i independente
de trecutul procesului, X 0 , X 1 , , X n 1 . Secvena de variabile X n , X n +1 , formeaz, de
asemenea, un proces Bernoulli. Aceasta nseamn c, pentru un proces Bernoulli, nu are
importan momentul la care ncepe observarea acestuia.
Se noteaz cu Yk momentul apariiei celui de-al k-lea eveniment n fluxul Bernoulli
studiat (cu convenia Y0 = 0 ) i cu {Tk } , Tk = Yk Yk 1 , k = 1, 2, , duratele dintre apariiile a
dou evenimente consecutive. innd cont de definiia distribuiei geometrice i de faptul c
aceasta este lipsit de memorie, rezult c variabilele aleatoare Tk , k = 1, 2, , au distribuie

Cap. 3. Lanuri Markov

69

geometric de parametru p. Durata medie dintre apariiile a dou evenimente consecutive este
dat de M[Tk ] = 1 p , iar dispersia acestor durate este Var[ X ] = (1 p) p 2 .
Variabila aleatoare Yk , k = 1, 2, , reprezint suma a k variabile independente identic
distribuite dup o distribuie geometric de parametru p, Yk = T1 + T2 + + Tk , avnd astfel
proprietile:
k
,
p
k (1 p)
Var[Yk ] = Var[T1 ] + Var[T2 ] + + Var[Tk ] =
.
p
M[Yk ] = M[T1 ] + M[T2 ] + + M[Tk ] =

(3.1.11)
(3.1.12)

Densitatea sa de probabilitate este:


pYk (m) = P[Yk = m] = Cmk 11 p k (1 p ) mk , m = k , k + 1, ,

(3.1.13)

distribuia lui Yk fiind cunoscut sub numele de distribuie Pascal de ordinul k.


Unui flux Bernoulli { X k | k = 0,1, 2,} i se poate asocia procesul stohastic dat de
sumele pariale {N k | k = 0,1, 2,} , unde N k = X 0 + X1 + + X k reprezint numrul de
evenimente care au aprut pn la momentul k inclusiv. Pe baza relaiei de recuren
N k = N k 1 + X k se poate demonstra c {N k } este un lan Markov n timp discret (adic este
fr memorie), deoarece sunt satisfcute relaiile:
P[ N k = n | N k 1 = k ] = P[ X k = 0] = 1 p , k
P[ N k = n | N k 1 = n 1] = P[ X k = 1] = p , k

(3.1.14)

(3.1.15)

Variabila aleatoare N k are distribuie binomial de parametri k i p, N k Bin(k , p) ,


procesul stohastic {N k } fiind denumit proces binomial. Figura 3.1.3 arat reprezentrile
grafice ale proceselor { X k } i {N k } corespunztoare unei realizri a unui proces Bernoulli de
parametru p = 0.25 .
Proces Bernoulli, p =0.25

Numar de evenimente
6

1
5
0.8
4

Nk

Xk

0.6

0.4

0.2

p =0.25

10
k

12

14

16

18

20

10
k

12

14

16

18

20

Fig. 3.1.3. Reprezentarea grafic a unei realizri a unui flux Bernoulli.


Exemplul 3.1.2. Se consider transmiterea unui pachet de 30 de mesaje. Pentru
fiecare mesaj, probabilitatea de transmitere eronat este p. Sunt suportate cel mult 5

70

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


erori de transmisie; la producerea celei de-a asea erori, transmiterea pachetului este
sistat. Erorile de transmisie pot fi modelate ca un proces Bernoulli de parametru p.
Variabila Yk corespunde mesajului la transmiterea cruia s-a produs cea de-a k eroare,
k = 1, 2, . Numrul de mesaje transmise este Z = min{Y6 ,30} , Z {6, 7, 30} .
Variabila aleatoare Y6 are distribuie Pascal de ordinul 6,
pY6 (m) = P[Y6 = m] = Cm5 1 p 6 (1 p )m 6 , m = 6, 7, ,
astfel nct densitatea de probabilitate a lui Z este dat de relaiile:
pZ (m) = P[ Z = m] = Cm5 1 p 6 (1 p ) m 6 , m = 6, 7, , 29 ,
29

29

m =6

m =6

pZ (30) = P[ Z = 30] = 1 pZ (m) = 1 Cm5 1 p 6 (1 p )m 6 .


Fie un flux de evenimente de tip Bernoulli, pentru care probabilitatea de apariie a
unui eveniment la un moment oarecare este p. Acest flux se scindeaz (eng. split) n modul
urmtor: de cte ori apare un eveniment, acesta se reine (cu probabilitatea q), formnd fluxul
de evenimente Y, sau se renun la el (cu probabilitatea 1 q ), formnd fluxul de evenimente
Z (fig. 3.1.3). Fluxurile Y i Z obinute n acest mod sunt, de asemenea, fluxuri de tip
Bernoulli, de parametri pq i, respectiv, p (1 q ) .
n fig. 3.1.4 sunt reprezentate grafic o realizare a unui flux Bernoulli X (t ) de
parametru p = 0, 25 , i realizrile corespunztoare proceselor Y i Z obinute prin separarea
lui X pentru q = 0, 75 .
Flux initial, Bernoulli, p = 0.25
1

X [k]

0.8
0.6
0.4
0.2
0

10

12

14

16

18

20

14

16

18

20

14

16

18

20

Flux Y, p*q = 0.1875


1

Y [k]

0.8
0.6
0.4
0.2
0

10

12

Flux Z, p*(1-q) = 0.0625


1

Z [k]

0.8
0.6
0.4
0.2
0

10
k

12

Fig. 3.1.4. Reprezentarea grafic a separrii unui flux Bernoulli X (t ) .

Cap. 3. Lanuri Markov

71

Situaia opus este cea n care dou fluxuri independente de tip Bernoulli, Y i Z, de
parametri p i, respectiv, q, sunt combinate (eng. merge) pentru a forma un nou flux X. Un
eveniment este nregistrat n fluxul X dac i numai dac apare un eveniment n cel puin unul
din fluxurile Y i Z, ceea ce se ntmpl cu probabilitatea r = 1 (1 p )(1 q ) = p + q pq .
Fluxul rezultat astfel, X, este de tip Bernoulli de parametru r = p + q pq .
n fig. 3.1.5 sunt reprezentate grafic cte o realizare a fluxurilor Bernoulli Y (t ) , de
parametru p = 0, 25 , i Z (t ) , de parametru q = 0,10 , precum i fluxul X rezultat prin
combinarea acestora.
Flux Y, Bernoulli, p = 0.25
1

Y [k]

0.8
0.6
0.4
0.2
0

10

12

14

16

18

20

14

16

18

20

16

18

20

Flux Z, Bernoulli, q = 0.1


1

Z [k]

0.8
0.6
0.4
0.2
0

10

12

Flux rezultat, r = p+q-p*q = 0.325


1

X [k]

0.8
0.6
0.4
0.2
0

10
k

12

14

Fig. 3.1.5. Reprezentarea grafic a combinrii a dou fluxuri Bernoulli Y (t ) i Z (t ) .


Cele dou operaii de separare i combinare a fluxurilor Bernoulli apar frecvent n
practic. De exemplu, dou maini ale unui centru de prelucrare sunt alimentate de pe un flux
comun de piese, din care se separ aleator piesele trimise la fiecare main. Invers, o main
poate fi alimentat din mai multe fluxuri de piese, care sunt combinate n unul singur pentru a
fi prelucrate.
O generalizare a fluxurilor de tip Bernoulli se obine n cazul n care se renun la
ipoteza c probabilitatea de apariie a unui eveniment este aceeai n orice moment. Fluxul
ordinar de evenimente n care variabilele aleatoare X 0 , X1 , , X k , , sunt independente,
X k avnd distribuie Bernoulli de parametru pk ( 0 < pk < 1 ), se numete flux Bernoulli
neomogen (eng. non-homogeneous Bernoulli process).

72

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

3.1.3.2. Fluxuri de tip Poisson


Fluxurile de evenimente de tip Poisson reprezint echivalentul n timp continuu al fluxurilor
de tip Bernoulli din timp discret. Considerm un flux de evenimente care evolueaz n timp
continuu, n sensul c este posibil apariia unui eveniment n orice moment t. Notm cu N (t )
numrul de evenimente ce au aprut de la momentul iniial t0 = 0 pn la momentul t 0
inclusiv. Fluxul de evenimente este de tip Poisson (proces Poisson) cu rat ( > 0 ) dac
ndeplinete urmtoarele condiii:
(P1)

(P2)

(P3)

Probabilitatea de apariie a unui numr de k evenimente ntr-un interval de timp


( s, s + t ] , P (k , t ) = P[ N ( s + t ) N ( s ) = k ] , este independent de poziionarea
intervalului pe ax, depinznd numai de lungimea acestuia (procesul este omogen n
timp).
Numrul de evenimente care apar ntr-un interval oarecare de timp este independent
de numrul de evenimente care apar n orice alt interval de timp, dac cele dou
intervale sunt disjuncte.
Probabilitile P (k , t ) satisfac:
P (0, t ) = 1 t + o(t ) , P(1, t ) = t + o1 (t ) , t > 0 ,
unde o(t ) i o1 (t ) sunt funcii de t pentru care
o (t )
o(t )
lim
= 0 , lim 1 = 0 .
t 0 t
t 0 t

Proprietatea (P1) este similar presupunerii c probabilitatea p de apariie a unui


eveniment ntr-un flux Bernoulli este constant n timp. Cea de-a doua proprietate (P2) este
analog proprietii de independen a variabilelor X 0 , X1 , , X k , , pentru un proces
Bernoulli. Proprietatea (P3) este esenial, afirmnd c probabilitatea apariiei a dou sau mai
multe evenimente ntr-un interval de timp de lungime t, cu t foarte mic, este practic nul, fiind
dat de 1 P(0, t ) P(1, t ) = o(t ) o1 (t ) .
Densitatea de probabilitate pentru N(t)

=1

P[N(t) = k]

0.8

0.6
0.4

0.2
0
0
0

5
4

Numar de evenimente [k]

10

Timp [t]

Fig. 3.1.6. Reprezentarea grafic a densitii de probabilitate pentru


un proces Poisson de rat = 1 .

Cap. 3. Lanuri Markov

73

Pe baza proprietilor (P1) (P2) se poate determina densitatea de probabilitate a


numrului de evenimente N (t ) care au loc ntr-un flux Poisson ntr-un interval de timp de
lungime t 0 , care are expresia:

( t )k

P(k , t ) = P [ N (t ) = k ] =

e t , t 0, k = 0,1, 2, .
(3.1.16)
k!
Fig.3.1.6 furnizeaz reprezentarea grafic a densitii de probabilitate pentru un proces
Poisson de rat = 1 . Pentru un moment t 0 fixat, valoarea medie i dispersia variabilei
aleatoare N (t ) sunt egale cu M [ N (t )] = t , respectiv Var [ N (t ) ] = t . n fig. 3.1.7 se
reprezint grafic o realizare a unui proces Poisson de rat = 1 .
Aparitie evenimente

Numar de evenimente
9

8
7

0.8
6

=1

5
N(t)

0.6

0.4

3
2

0.2
Y1
0

Y2 Y3

Y4

Y5 Y6
5
Timp [t]

Y7
9

=1

Y8
10

5
Timp [t]

10

Fig. 3.1.7. Reprezentarea grafic a unei realizri a unui proces Poisson de rat = 1 .
Se noteaz cu Yk momentul apariiei evenimentului k n fluxul Poisson studiat (cu
convenia Y0 = 0 ) i cu Tk = Yk Yk 1 , k = 1, 2, , duratele dintre apariiile a dou evenimente
consecutive (eng. interevent times). Variabilele aleatoare independente T1 , T2 , , au
distribuie exponenial de rat ,
P [Tk t ] = 1 e t , t 0 , k ,
(3.1.17)
valoarea medie M [Tk ] = 1 i dispersia Var [Tk ] = 1 2 .
Momentul producerii evenimentului k, Yk = T1 + + Tk , k = 1, 2, , are distribuie
Erlang de ordin k i parametru , Yk Er (k , ) , densitatea sa de probabilitate fiind
fYk (t ) =

k t k 1

( k 1) !

e t ,

t 0 , k = 1, 2, ,

(3.1.18)

valoarea medie M [Yk ] = k i dispersia Var [Yk ] = k 2 .


Exemplul 3.1.3. Sosirea mesajelor de e-mail este modelat printr-un proces Poisson
de rat = 0, 2 mesaje pe or. Probabilitatea ca pe parcursul unei ore s nu soseasc
nici un mesaj este P(0,1) = P [ N (1) = 0] = e = 0,819 , iar probabilitatea ca n acelai
interval de timp s soseasc un mesaj este P(1,1) = P [ N (1) = 1] = e = 0,164 .

74

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


Probabilitatea ca pe parcursul unei zile (24 de ore) s nu soseasc nici un mesaj este
P(0, 24) = P [ N (24) = 0] = e 24 = 0, 008294 .

Se consider un flux X de evenimente de tip Poisson de rat > 0 care se scindeaz n


modul urmtor: de cte ori apare un eveniment, acesta se reine (cu probabilitatea q), formnd
fluxul de evenimente Y, sau se renun la el (cu probabilitatea 1 q ), formnd fluxul de
evenimente Z. Fluxurile Y i Z obinute n acest mod sunt, de asemenea, fluxuri de tip Poisson,
de rate q i, respectiv, (1 q ) .
Exemplul 3.1.4. Presupunem c sosirea clienilor unui sistem de ateptare este
modelat printr-un flux Poisson de rat = 5 clieni pe minut. Durata de timp T dintre
sosirile a doi clieni consecutivi are distribuie exponenial de rat . Probabilitatea ca
intervalul de timp dintre dou sosiri succesive s fie mai mic dect 10 secunde este
P[T 1 6] = 1 exp ( 1 6 ) = 0,565 .
Probabilitatea ca ntr-un interval de 2 minute s aib loc exact 10 sosiri este
(2 )10 2
P(2,10) = P [ N (2) = 10] =
e = 0,125 .
10!
Probabilitatea ca ntr-un interval de 1 minut s soseasc cel puin 2 clieni poate fi
calculat prin relaia
P [ N (1) 2] = 1 { P [ N (1) = 0] + P [ N (1) = 1]} = 1 (1 + ) e = 0,959 ,
sau din probabilitatea ca momentul Y2 al sosirii celui de-al doilea client (ncepnd de la
momentul curent) care are distribuie Erlang, Y2 Er (2, ) s fie mai mic dect 1:
( ) k
e = 1 (1 + ) e = 0,959 .
!
k
k =0
1

P [Y2 1] = 1

n continuare, presupunem c fiecare client, independent de ceilali clieni, solicit


un serviciu de tip A, cu probabilitatea q = 0, 4 , sau de tip B, cu probabilitatea
p = 1 q = 0, 6 . n aceste condiii, sosirea clienilor care solicit serviciul A reprezint
un flux Poisson de rat A = q = 2 clieni pe minut, iar a celor ce solicit serviciul B
este un flux Poisson de rat B = p = 3 clieni pe minut, cele dou fluxuri fiind
independente.
Probabilitatea ca durata TA dintre sosirile a doi clieni care solicit serviciul de tip
A s fie mai mare dect 1 minut este dat de:
P[TA > 1] = e A = 0,135 .
Dac se pune problema de a determina probabilitatea ca ntr-un minut s soseasc
exact 3 clieni care solicit serviciul A i 2 clieni care solicit serviciul B, se ine cont
de faptul c cele dou fluxuri Poisson sunt independente i se obine:
P[ N A (1) = 3, N B (1) = 2] = P[ N A (1) = 3] P[ N B (1) = 2] =

A3
3!

e A

B2
2!

e B = 0, 0404 .

Cap. 3. Lanuri Markov

75

Considerm dou fluxuri Poisson independente, X1 i X 2 , de rate 1 , 2 > 0 .


Combinm cele dou procese ntr-unul singur, notat X , nregistrnd fiecare moment de timp
la care are loc un eveniment. Fluxul X rezultat n acest mod este un flux Poisson de rat
1 + 2 . Probabilitatea ca urmtorul eveniment din fluxul X s provin din fluxul X1 este
1 (1 + 2 ) , iar probabilitatea ca acest eveniment s provin din X 2 este 2 (1 + 2 ) .
Exemplul 3.1.5. La un server de e-mail sosesc mesaje de dou tipuri: mesaje scurte
cu rata 1 = 20 de mesaje pe or, i mesaje lungi cu rata 2 = 15 mesaje pe or.
Modelnd procesele de sosire a celor dou tipuri de mesaje ca procese independente de
tip Poisson, procesul de sosire a unui mesaj oarecare la server reprezint un proces
Poisson de rat = 1 + 2 = 35 mesaje pe or (deci = 35 60 mesaje pe minut).

Durata de timp T dintre sosirile a dou mesaje succesive are distribuie


exponenial de rat . Probabilitatea ca ntre sosirile a dou mesaje s treac mai puin
de 1 minut este
P[T 1] = 1 exp ( 35 60 ) = 0, 442 .
Probabilitatea ca ntr-un interval oarecare de 10 minute s existe mai mult de 4
mesaje lungi este
3
3
(102 )k 10 2
e
P [ N 2 (10) 4] = 1 P [ N 2 (10) = k ] = 1
= 0, 2424 .
k!
k =0
k =0
La un moment oarecare, probabilitatea ca urmtorul mesaj care va sosi la server s
fie un mesaj scurt este p1 = 1 = 0,571 , iar probabilitatea ca urmtorul mesaj s fie
lung este p2 = 2 = 0, 429 .
Dac se pune problema determinrii probabilitii ca din urmtoarele 5 mesaje,
exact 2 s fie scurte, se poate observa mai nti c variabila X care reprezint numrul
de mesaje scurte din urmtoarele 5 sosite are distribuie binomial de parametri 5 i p2 ,
X Bin(5, p2 ) , astfel c
P[ X = 2] = C52 p22 (1 p2 )3 = 0, 257 .

Dac dintr-un flux de evenimente de tip Poisson de rat se iau n considerare


primul, i apoi fiecare al k-lea eveniment (celelalte evenimente neglijndu-se), duratele de
timp dintre apariiile a dou evenimente succesive din noul flux au distribuie Erlang de ordin
k i rat . Un asemenea flux de evenimente poart denumirea de flux Erlang de ordinul k.
O generalizare a fluxurilor de tip Poisson se obine n cazul n care rata de apariie a
evenimentelor este dependent de timp, (t ) . Un astfel de flux se numete flux Poisson
neomogen (eng. non-homogeneous Poisson process). Pentru un flux Poisson neomogen,
numrul N (t ) de evenimente care au avut loc de la momentul iniial t0 = 0 pn la momentul
t

t > 0 inclusiv are distribuie Poisson de parametru (t ) = ( )d .


0

76

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

3.2. Lanuri Markov n timp discret, omogene


3.2.1. Tranziii de stare
3.2.1.1. Ecuaia Chapman-Kolmogorov
Un lan Markov n timp discret (eng. discrete-time Markov chain DTMC) (sau, pe scurt, lan
discret) este caracterizat de o mulime cel mult numrabil de stri, notat S = {1, 2,...} ,
stri observate la momentele de timp discret T= {0,1,2,...} . Starea lanului la un moment
oarecare k T este notat X k , la momentul iniial t0 = 0 fiind X 0 . Proprietatea
caracteristic a lanurilor Markov n timp discret este precizat prin condiia (3.1.10):
P [ X k +1 = xk +1 X k = xk , X k 1 = xk 1 ,..., X 0 = x0 ] = P [ X k +1 = xk +1 X k = xk ] .

(3.2.1)

n general, probabilitatea de tranziie a lanului din starea i n starea j depinde de


momentul k la care are loc tranziia, fiind notat
pij (k ) = P [ X k +1 = j X k = i ] , i, j S , k T .
(3.2.2)
Evident c probabilitile tranziiilor de stare la momentul k satisfac 0 pij (k ) 1 . De
asemenea, pentru orice stare i i orice moment k are loc relaia
pij (k ) = 1 .

(3.2.3)

jS

Probabilitile pij (k ) (3.2.2) se refer la tranziii de stare care au loc ntr-un singur pas
n timp (la momentul k lanul este n starea i, iar la momentul k + 1 n starea j). O extensie
natural este de a considera tranziii de stare care au loc n n pai, cu n = 1, 2, . Se introduc
astfel probabilitile de tranziie de stare n n pai
pij (k , k + n) = P [ X k + n = j X k = i ] , i, j S , k T .
(3.2.4)
m pai
i

n-m pai
r

n pai
Fig. 3.2.1. Evoluia strilor unui lan Markov n timp discret.
Pentru a ajunge din starea i (ocupat la momentul k) n starea j (la momentul k + n ), la
momentul k + m (cu 0 m n ) lanul s-a aflat ntr-o stare r (fig. 3.2.1). Utiliznd legea
probabilitii totale se obine:
pij (k , k + n) = P [ X k + n = j X k + m = r , X k = i ] P [ X k + m = r X k = i ] .
(3.2.5)
rS

Proprietatea de lips a memoriei lanului Markov (3.2.1) conduce la

Cap. 3. Lanuri Markov

77

P [ X k + n = j X k + m = r , X k = i ] = P [ X k + n = j X k + m = r ] = prj (k + m, k + n) ,

astfel c relaia (3.2.5) devine:


pij (k , k + n) = pir (k , k + m) prj (k + m, k + n) , i, j S , k , m, n 0 .

(3.2.6)
(3.2.7)

rS

Relaia (3.2.7) reprezint ecuaia Chapman-Kolmogorov pentru lanuri Markov n


timp discret. Se observ c aceasta poate fi scris convenabil n form matriceal dac pentru
orice k , n 0 se introduce matricea P (k , k + n) avnd ca elemente probabilitile
pij (k , k + n) ,

P (k , k + n) = pij ( k , k + n) , i, j = 1, 2, .
Cu aceast notaie, ecuaia Chapman-Kolmogorov (3.2.7) este echivalent cu
P (k , k + n) = P (k , k + m) P (k + m, k + n) , k , m, n 0 .

(3.2.8)
(3.2.9)

Dac probabilitile tranziiilor de stare sunt independente de momentul la care are loc
tranziia, atunci lanul Markov n timp discret este omogen (eng. homogeneous DTMC). n
acest caz se utilizeaz notaia
pij = P [ X k +1 = j X k = i ] , k T , i, j S = {1, 2,...}
(3.2.10)
(tranziia din starea i n starea j are loc cu aceeai probabilitate, indiferent de momentul de
timp la care se face observaia).
Pentru lanuri Markov omogene n timp discret, probabilitatea tranziiei din starea i n
starea j n n pai este, de asemenea, independent de k, fiind notat
pij( n ) = P [ X k + n = j X k = i ] , n = 1, 2,... .
Ecuaia Chapman-Kolmogorov (3.2.7) pentru lanuri Markov omogene n timp discret
se scrie n forma
pij( n ) = pir( m ) prj( n m ) , 0 m n .
(3.2.11)
rS

Considernd matricea probabilitilor de tranziie ntr-un pas (eng. one-step transition


probabilities matrix) P = [ pij ], i, j = 1, 2,... , i cea a probabilitilor de tranziie n n pai,
P (n) = [ pij( n ) ], i, j = 1, 2,... , n = 1, 2, , forma matriceal a ecuaiei Chapman-Kolmogorov
(3.2.9) pentru lanuri omogene este
P (n) = P (m) P (n m), m, n

, m n.

n particular, pentru m = n 1 , se obine


P (n) = P (n 1) P (1) = P (n 1) P ,
astfel c, prin inducie matematic complet, rezult
P (n) = P n , n = 1, 2,... .

(3.2.12)
(3.2.13)
(3.2.14)

Relaia (3.2.3) arat c matricea P a probabilitilor de tranziie ntr-un pas are


proprietatea c suma elementelor de pe fiecare linie este egal cu 1, jS pij = 1 , i S . O
matrice cu elemente nenegative care satisface aceast proprietate se numete matrice
stohastic. Se poate demonstra cu uurin c produsul a dou matrice stohastice este de
asemenea o matrice stohastic.

78

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Dac spaiul strilor lanului Markov investigat este finit dimensional, avnd un numr
de s elemente ( S = {1, 2, , s} ), matricea P este ptratic, cu s linii i s coloane. n cazul
n care spaiul strilor este numrabil ( S = ), P este infinit dimensional.
Exemplul 3.2.1. Se consider o main care poate fi n stare de funcionare (stare
reprezentat prin 1) sau defect (stare reprezentat prin 2). Starea mainii este testat la
fiecare or, momente de timp indexate dup parametrul k = 0,1, 2, , i se formeaz
secvena stohastic { X k } , unde X k reprezint starea mainii la momentul k.
Presupunem c, dac maina este n stare de funcionare la un moment dat,
probabilitatea ca s se defecteze n urmtoarea or este , iar dac maina este defect
probabilitatea de a fi reparat pe parcursul urmtoarei ore este , cu , (0,1) .
Se obine astfel lanul Markov omogen n timp discret pentru care probabilitile de
tranziie de stare sunt:
p12 = , p11 = 1 , p21 = , p22 = 1 ,
iar matricea probabilitilor tranziiilor de stare este

1
.
P=
1

Diagrama probabilitilor tranziiilor de stare corespunztoare lanului Markov
studiat este prezentat n fig. 3.2.2. Aceasta este un graf orientat n care fiecare nod
corespunde unei stri a lanului, iar arcul orientat de la i la j este etichetat cu
probabilitatea tranziiei din starea i n starea j, pij. Precizm faptul c pe diagrama
probabilitilor tranziiilor de stare se reprezint numai elementele nenule ale matricei P.

Fig. 3.2.2. Diagrama probabilitilor tranziiilor de stare pentru


lanul Markov din Exemplul 3.2.1.
Prin inducie matematic se poate demonstra c matricea probabilitilor tranziiilor
de stare n k pai are forma
+ (1 ) k (1 )k

+
+
.
P (k ) = P k =
(1 )k + (1 ) k

+
+
Deoarece prin ipotez avem , (0,1) , este satisfcut condiia |1 |< 1
(condiie ce poate fi violat numai dac = = 0 sau = = 1 ). Cu aceast

Cap. 3. Lanuri Markov

79

observaie, rezult c la limit, pentru k , cele dou linii ale matricei P (k ) coincid
cu vectorul [ ( + ) ( + ) ] , proprietate ce este detaliat n seciunea 3.2.4.
Pentru a modela fenomenul de mbtrnire a mainii, probabilitile tranziiilor de
stare se modific dup cum urmeaz:
p12 (k ) = 1 k , p11 (k ) = k ,
unde 0 < < 1 , astfel nct probabilitatea de defectare a mainii crete pe msur ce k
(durata de via a mainii) crete, tinznd la 1 pentru k . Lanul Markov obinut n
acest mod nu mai este omogen.
Exemplul 3.2.2. Un sistem de calcul const din dou procesoare identice (2 servere)
care lucreaz n paralel. Starea sistemului este testat la momentele de timp discret
k = 0,1, 2, . Funcionarea sistemului este descris prin urmtoarele condiii:
n intervalul (k , k + 1) cel mult un task poate fi trimis n sistem i aceasta are loc
cu probabilitatea (0,1) , independent de k.
Dac ambele procesoare sunt ocupate atunci task-ul trimis este pierdut (nu exist
fir de ateptare).
Dac vreunul dintre procesoare este liber, acesta preia task-ul nou primit.
Dac un procesor este ocupat la momentul k, atunci probabilitatea ca acesta s
termine servirea taskului n intervalul (k , k + 1) este (0,1) , independent de k.
Dac terminarea unui task i sosirea altuia au loc n acelai interval de timp, se
presupune c terminarea taskului precede sosirea urmtorului task, astfel nct
acesta poate fi preluat de unul dintre procesoare.
Considerm c starea sistemului de calcul la momentul k este descris de variabila
aleatoare X k ce reprezint numrul de taskuri procesate de sistem. Lanul Markov are trei
stri: starea 1 ambele procesoare sunt libere, starea 2 unul dintre procesoare lucreaz,
starea 3 ambele procesoare lucreaz. Diagrama probabilitilor tranziiilor de stare este
prezentat n fig. 3.2.3, matricea probabilitilor de tranziie fiind P = [ pij ] , i, j = 1, 3 .
p22
p23

p12

p11
1

p21

p32

p33
3

p31
Fig. 3.2.3. Diagrama probabilitilor tranziiilor de stare pentru
lanul Markov din Exemplul 3.2.2.
Condiiile impuse funcionrii sistemului conduc la urmtoarele expresii pentru
elementele matricei P:

80

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


p11 = 1 ,
p21 = (1 ),

p12 = ,
p22 = (1 )(1 ) + ,

p13 = 0,
p23 = (1 ) ,

p31 = 2 (1 ) ,

p32 = 2 (1 )(1 ) + 2 ,

p33 = (1 )2 + 2 (1 ) .

De exemplu, probabilitatea p32 se determin n modul urmtor. Tranziia din starea


3 n 2 poate avea loc dac apare unul dintre evenimentele: procesorul 1 termin de servit
un task, procesorul 2 nu termin i nu sosete nici un nou task (cu probabilitatea
(1 )(1 ) ); sau procesorul 2 termin de servit un task, procesorul 1 nu termin i
nu sosete nici un nou task (cu probabilitatea (1 )(1 ) ); sau ambele procesoare
termin de servit cte un task i sosete un nou task (cu probabilitatea 2 ).
Observaie: Modelarea sub form de lan Markov a unui sistem a crui evoluie este
pilotat de evenimente este concentrat pe determinarea probabilitilor tranziiilor de stare i
nu intereseaz evenimentul care a produs aceast tranziie. Comportarea stohastic a
sistemului este compact descris prin matricea probabilitilor tranziiilor de stare P.
Informaia structural coninut n descrierea pilotat de evenimente se pierde. Acest fapt a
fost pus n eviden n Exemplul 3.2.2: probabilitatea p32 nu furnizeaz nici o informaie
asupra evenimentului care a determinat tranziia sistemului din starea 3 n starea 2. n funcie
de scopul modelrii sistemului, se va utiliza descrierea compact, sub form de lan Markov,
sau descrierea pilotat de evenimente, utiliznd eventual formalismul reelelor Petri.
3.2.1.2. Durata de meninere a unei stri
Dac la pasul k un lan Markov omogen se gsete n starea i, probabilitatea ca la pasul k + 1
s se gseasc n aceeai stare este pii , iar probabilitatea de a o prsi este 1 pii . Se noteaz
cu Ti variabila aleatoare ce reprezint numrul de pai (n timp) ct lanul rmne n starea i

odat ce a ajuns n aceast stare, denumit durata de meninere a strii i (eng. state holding
time). Pe baza lipsei de memorie a lanului Markov, se poate determina densitatea de
probabilitate a variabilei Ti . Mai nti se observ c are loc
P[Ti = n] = P[ X k + n i, X k + n1 = i, , X k +1 = i | X k = i] =
= P[ X k + n i | X k + n1 = i, , X k +1 = i, X k = i ] P[ X k + n1 = i, , X k +1 = i | X k = i] =
= P[ X k + n i | X k + n1 = i ] P[ X k + n1 = i, , X k +1 = i | X k = i ] =

(3.2.15)

= (1 pii ) P[ X k + n1 = i, , X k +1 = i | X k = i ].
Similar se calculeaz
P[ X k + n 1 = i, , X k +1 = i | X k = i ] =
= P[ X k + n 1 = i | X k + n 2 = i, , X k = i ] P[ X k + n 2 = i, ,, X k +1 = i | X k = i ] =
= P[ X k + n 1 = i | X k + n 2 = i ] P[ X k + n 2 = i, ,, X k +1 = i | X k = i] =

(3.2.16)

= pii P[ X k + n 2 = i, ,, X k +1 = i | X k = i ].
Prin inducie matematic se demonstreaz c
P[ X k + n 1 = i, , X k +1 = i | X k = i ] = piin 1 , n

(3.2.17)

Cap. 3. Lanuri Markov

81

Rezult c densitatea de probabilitate a variabilei Ti are expresia


P[Ti = n] = (1 pii ) piin 1 , n = 1, 2, , i S ,

(3.2.18)

deci durata Ti de meninere a strii i are distribuie geometric de parametru 1 pii .


Distribuia geometric avnd proprietatea de lips a memoriei, la fiecare pas starea urmtoare
a lanului este determinat numai pe baza strii curente.
Dac pii 1 rezult 1 pii > 0 , adic probabilitatea de a prsi starea i este nenul. n
acest caz, durata medie de meninere a strii i este M[Ti ] = 1 (1 pii ) . Dispersia variabilei Ti
este Var[Ti ] = pii (1 pii ) 2 .

3.2.2. Analiza regimului tranzitoriu


Analiza regimului tranzitoriu al unui lan Markov are drept obiectiv determinarea
probabilitii ca la un moment dat lanul s se gseasc ntr-o anumit stare dac starea iniial
a lanului este cunoscut. n acest scop se definesc probabilitile de stare (eng. state
probabilities) n modul urmtor. Probabilitatea ca lanul Markov s se gseasc n starea j la un
moment oarecare k este notat
j (k ) = P [ X k = j ] , j S , k T .
(3.2.19)
Cu ajutorul probabilitilor de stare (3.2.19) se formeaz vectorul probabilitilor de stare
(eng. state probability vector)
(k ) = [ 1 (k ), 2 (k ),] , k T .
(3.2.20)
Vectorul linie (k ) furnizeaz densitatea de probabilitate a strii X k a lanului. Dimensiunea
acestui vector este dat de numrul de stri ale lanului Markov studiat. Dac mulimea
strilor lanului este numrabil ( S = ), acest vector este infinit dimensional.
Aa cum se va observa n continuare, un lan Markov este complet specificat dac, n
afar de spaiul strilor S i de matricea probabilitilor tranziiilor de stare, se precizeaz i
vectorul probabilitilor de stare la momentul iniial, (0) = [ 1 (0), 2 (0),] , adic
distribuia de probabilitate a strii iniiale X 0 a lanului.
Relaia de legtur dintre distribuiile strilor lanului la dou momente consecutive,
X k i X k +1 , constituie baza analizei regimului tranzitoriu a unui lan Markov omogen n timp
discret. Aplicarea legii probabilitii totale conduce la
j (k + 1) = P [ X k +1 = j ] = P [ X k +1 = j X k = i ] P [ X k = i ] =
= pij i (k ),

iS

j S, k .

(3.2.21)

iS

Aceast relaie poate fi scris n forma matriceal


(k + 1) = (k ) P , k = 0,1, 2, .

(3.2.22)

Prin inducie matematic se demonstreaz c


(k ) = (0) P k , k = 0,1, 2,,

(3.2.23)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

82

relaie care arat c distribuia strii X k a lanului Markov la un moment oarecare este unic
determinat de distribuia strii iniiale i de probabilitile de tranziie ntr-un singur pas.
Studierea regimului tranzitoriu al unui lan Markov n timp discret pe baza ecuaiei
(3.2.23) este laborioas dac se dorete mai mult dect determinarea primelor cteva iteraii,
necesitnd calcularea puterilor matricei P. n acest scop, n continuare este prezentat un
procedeu bazat pe utilizarea funciei generatoare de probabilitate corespunztoare variabilei
aleatoare multidimensionale ce reprezint evoluia strilor lanului, a crei densitate de
probabilitate este reprezentat de vectorii (0) , (1) , (2) , ,

( z ) = z k (k ) , | z | < 1 .

(3.2.24)

k =0

Multiplicnd ecuaia (3.2.22) cu z k +1 i sumnd apoi relaiile corespunztoare valorilor


k = 0,1, 2, , se obine

k =0

k =0

z k +1(k + 1) = z k +1(k ) P

z k (k ) = z z k (k ) P ,
k =1

(3.2.25)

k =0

care conduce la
( z ) (0) = z ( z ) P .

(3.2.26)

Rezolvnd aceast ecuaie matriceal n raport cu ( z ) rezult


1

( z ) = (0) [ I zP ] ,

(3.2.27)

unde I este matricea unitate cu aceeai dimensiune ca i matricea P. Utiliznd apoi formulele
de inversiune, pe baza expresiei lui ( z ) se poate determina (k ) , k = 1, 2, .
Exemplul 3.2.3. Revenim la Exemplul 3.2.1, considernd = 1 4 i = 1 2 .
Matricea probabilitilor tranziiilor de stare este
3 4 1 4
P=
.
1 2 1 2
Pentru tranziiile de stare ce au loc n k pai, matricea probabilitilor
corespunztoare este
2 1 1 k 1 1 1 k

3 + 3 4
3 3 4
k
P (k ) = P =
, k 0.
2 2 1 k 1 2 1 k
+
3 3 4
3 3 4
Dac la momentul iniial maina era n stare de funcionare, probabilitile ca dup
2 ore, respectiv 3 ore, s fie n aceeai stare sunt date de
2 1 1 2 11
P[ X 2 = 1| X 0 = 1] = p11 (2) = +
= ,
3 3 4
16

()
()

P[ X 3 = 1| X 0

()
()

()
2 1 1
43
= 1] = p (3) = + ( ) =
.
3 3 4
64
3

11

Cap. 3. Lanuri Markov

83

Dac repartiia strii iniiale a mainii este precizat prin (0) = [1 3 2 3] ,


vectorul probabilitilor de stare dup k ore de funcionare este
2 1 1 k 1 1 1 k
(k ) = (0) P k =
.
+
3 3 4
3 3 4
De exemplu, dup 2 ore de funcionare a mainii, repartiia de probabilitate a strii
mainii este
2 1 1 2 1 2 1 2 31 17
.
+
=
(2) =
3 3 4 48 48
3 3 4
De asemenea, se observ c la limit, pentru k , cele dou linii ale matricei
P (k ) coincid cu limita vectorului (k ) , fiind egale cu = [ 2 3 1 3] . Se poate verifica

()

()

()

()

aceast afirmaie i pentru alte distribuii ale strii iniiale, de fiecare dat obinndu-se
aceeai limit pentru vectorul (k ) .
Expresia vectorului (k ) poate fi determinat i utiliznd funcia generatoare de
probabilitate. Pentru aceasta, se calculeaz mai nti matricele
1 3 z 1 z
z
4
2(2 z )
1
1
4
,
( I zP ) =
I zP =

(1 z )(4 z ) 2 z
1
1
4 3 z
z 1 z
2
2
i apoi
1
1
( z ) = (0) [ I zP ] =
[ 2(2 + z ) 8 5 z ] .
3(1 z )(4 z )
Descompunnd componentele lui ( z ) n fracii simple
2 1
1
1
1 1
1
1
,
( z ) =

+
3 1 z 3 1 (1 4) z 3 1 z 3 1 (1 4) z
se obine n final
2 1 1 k 1 1 1 k
(k ) =
.
+
3 3 4
3 3 4

()

()

Notnd cu T1 i T2 duratele de meninere a strilor 1, respectiv 2, variabila T1 are


distribuie geometric de parametru , iar T2 are distribuie geometric de parametru
, expresiile densitilor de probabilitate ale acestor variabile fiind:
n 1
P[T1 = n] = (1 p11 ) p11
= (1 ) n1 =
n 1
P[T2 = n] = (1 p22 ) p22
= (1 ) n1

( ) , n = 1, 2, ,
1
= ( ) , n = 1, 2, .
2

1 3
4 4

n 1

Pentru maina modelat, durata medie de funcionare fr defectare este


M[T1 ] = 1 = 4 ore, iar durata medie a unei reparaii este M[T2 ] = 1 = 2 ore.
Figura 3.2.4 prezint grafic evoluia strii mainii modelate prin acest lan Markov
obinut prin simulare n Matlab pe o durat de 100 de ore.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

84

Evolutia starilor lantului Markov


2.5

X(k)

0.5

10

20

30

40

50
k

60

70

80

90

100

Fig. 3.2.4. Reprezentarea grafic a evoluiei strii mainii pe o durat de 100 ore.
Exemplul 3.2.4. Revenim la sistemul de calcul din Exemplul 3.2.2, considernd
valorile numerice = 0, 5 i = 0, 7 , pentru care matricea probabilitilor tranziiilor
de stare este
0,5
0
0,5

P = 0,35
0,5 0,15 .

0, 245 0, 455 0,3

Presupunem c la momentul iniial ambele procesoare erau libere, starea iniial a


sistemului fiind modelat prin vectorul (0) = [1 0 0] .
Probabilitatea ca ambele procesoare s fie libere la pasul k = 3 este 1 (3) , adic
primul element al vectorului
(3) = (0) P 3 = [ 0, 4058 0, 4966 0, 0976] .
Pentru a determina probabilitatea ca nici un task s nu se termine n cel de-al treilea
interval de timp se consider
P[nici un task nu se termin la k = 3] =
3

= P[nici un task nu se termin la k = 3 | X 3 = j ] j (3).


j =1

Observnd c au loc relaiile


P[nici un task nu se termin la k = 3 | X 3 = 1] = 1 ,
P[nici un task nu se termin la k = 3 | X 3 = 2] = 1 ,
P[nici un task nu se termin la k = 3 | X 3 = 3] = (1 )2 ,

se obine
P[nici un task nu se termin la k = 3] = 1 (3) + (1 ) 2 (3) + (1 ) 2 3 (3) = 0,5636 .
Probabilitatea ca procesoarele s rmn libere la momentele k = 1 i k = 2 este
dat de
P[ X1 = 1, X 2 = 1] = P[ X 2 = 1| X1 = 1] P[ X1 = 1] = p11 1 (1) .
Vectorul probabilitilor de stare la momentul k = 1 fiind
(1) = (0) P = [ 0,5 0,5 0] ,

Cap. 3. Lanuri Markov

85

rezult c 1 (1) = 0,5 , astfel c n final obinem


P[ X1 = 1, X 2 = 1] = 0, 25 .
Durata T1 ct ambele procesoare sunt libere are distribuie geometric de parametru 0,5.
Valoarea medie a acestei variabile este M[Ti ] = 2 .
Figura 3.2.5 prezint grafic evoluia strii sistemului de calcul, obinut prin
simulare pe o durat de 50 de uniti de timp.
Evolutia starilor lantului Markov
3.5

X(k)

0.5

10

15

20

25
k

30

35

40

45

50

Fig. 3.2.5. Reprezentarea grafic a evoluiei strii sistemului de calcul


pe o durat de 50 uniti de timp.

3.2.3. Clasificarea strilor


3.2.3.1. Stri accesibile
O stare j S a unui lan Markov este accesibil (eng. reachable) din starea i dac exist
n astfel nct

pij( n ) = P [ X k + n = j X k = i ] > 0

(3.2.28)

(probabilitate ca procesul s ajung din starea i n starea j ntr-un numr finit de pai este
nenul). Interpretarea grafic a acestei condiii este aceea c pe diagrama probabilitilor
tranziiilor de stare corespunztoare lanului Markov exist un drum de la nodul i la nodul j
format din n arce.
O submulime Sc S de stri a unui lan Markov este nchis (eng. closed set) dac
pij = 0, i Sc , j S S c .

(3.2.29)

Pe diagrama probabilitilor tranziiilor de stare a lanului Markov nu exist nici un drum de la


o stare oarecare i Sc la o stare j S Sc .
O stare i S se numete absorbant (eng. absorbing state) dac mulimea {i} este
nchis. Condiia pij = 0, j S , j i , este echivalent cu pii = 1 . Odat ajuns in starea i,
lanul nu mai prsete aceast stare.
O mulime nchis de stri Sc S este ireductibil (eng. irreducible) dac oricare
dou stri i, j Sc sunt mutual accesibile.

86

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Un lan Markov este ireductibil dac mulimea strilor S este ireductibil. n acest
caz, pe diagrama probabilitilor tranziiilor de stare a lanului exist un drum ntre oricare
dou stri ale acestuia.
Dac un lan Markov nu este ireductibil se spune c acesta este reductibil (eng.
reducible). n aceast situaie, exist cel puin o mulime nchis de stri care nu este
ireductibil.
3.2.3.2. Stri recurente i stri tranzitorii
Timpul de evoluie (transfer) din starea i n starea j (eng. hitting time)
Tij = min {k > 0 : X 0 = i, X k = j} , i, j S , i j ,

(3.2.30)

reprezint primul moment de timp la care procesul ajunge n starea j dac la momentul iniial
era n starea i.
n cazul n care i = j ,
Tii = min {k > 0 : X 0 = i, X k = i} , i S ,

(3.2.31)

se numete timp de recuren (eng. recurrence time) corespunztor strii i S . Timpul de


recuren Tii este o variabil aleatoare discret ce poate lua valorile {1, 2,3,} cu
probabilitile i( k ) = P [Tii = k ] , k = 1, 2, .
Probabilitatea ca lanul aflat la momentul iniial n starea X 0 = i s mai revin
vreodat n aceast stare este dat de

i = P [Tii < ] = i( k ) .

(3.2.32)

k =1

O stare i S se numete recurent (eng. recurrent state) dac i = 1 . n cazul n care


i < 1 starea i se numete tranzitorie (eng. transient state). Dac starea iniial a procesului
X 0 = i este recurent, procesul va reveni cu siguran n aceast stare la un moment k > 0 .
ntr-o stare tranzitorie lanul ar putea s mai ajung din nou, cu probabilitatea 0 < i < 1 , dar
cu probabilitatea 1 i > 0 lanul nu va mai ajunge niciodat n acea stare. Orice stare
absorbant este recurent.
n legtur cu clasificarea strilor unui lan Markov n stri recurente i tranzitorii,
enunm n continuare, fr demonstraie, urmtoarele teoreme (Cassandras, 1993).
Teorema 3.2.1. Dac un lan Markov are un numr finit de stri, atunci cel puin una
dintre ele este recurent.
Teorema 3.2.2. Dac i este o stare recurent i j este accesibil din i, atunci starea j
este recurent.
Teorema 3.2.3. Dac Sc S este o mulime nchis ireductibil de stri, atunci
fiecare stare din Sc este recurent.

Cap. 3. Lanuri Markov

87

Exemplul 3.2.5. Pentru lanul Markov prezentat n Exemplul 3.2.1, starea 1 este
accesibil din starea 2 ( p12 = > 0 ) i starea 2 este accesibil din starea 1( p21 = > 0 ),
astfel nct mulimea strilor, S = {1, 2} , este nchis i ireductibil. Acest lan Markov
este ireductibil.
Similar, se poate verifica faptul c lanul Markov din Exemplul 3.2.2 este, de
asemenea, ireductibil.
Conform teoremei 3.2.3, ambele lanuri au numai stri recurente.
3.2.3.3. Stri nul recurente i stri pozitiv recurente
Fie i o stare recurent a unui lan Markov. Timpul mediu de recuren (eng. mean recurrence
time) corespunztor strii i S este media variabilei aleatoare Tii ,

M i = M [Tii ] = k i( k ) .

(3.2.33)

k =1

Starea recurent i se numete pozitiv recurent (eng. positive recurrent state) dac
timpul mediu de recuren corespunztor este finit, M i < . n cazul n care M i = starea i
se numete nul recurent (eng. null recurrent state). O stare nul recurent nu este tranzitorie,
pentru c probabilitatea procesului de a reveni n aceast stare dac este 1, dar timpul mediu
de recuren este infinit.
Cu privire la strile recurente ale unui lan Markov, enunm n continuare fr
demonstraie, urmtoarele teoreme (Cassandras, 1993).
Teorema 3.2.4. Dac i este o stare pozitiv recurent i j este accesibil din i, atunci
starea j este pozitiv recurent.
Teorema 3.2.5. Dac Sc S este o mulime nchis ireductibil de stri, atunci toate
strile din Sc sunt pozitiv recurente, sau toate strile din Sc sunt nul recurente, sau toate
strile din Sc sunt tranzitorii.
Teorema 3.2.6. Dac Sc S este o mulime finit nchis ireductibil de stri, atunci
toate strile din Sc sunt pozitiv recurente.

Exemplul 3.2.6. Se consider lanul Markov


tranziiilor de stare:
0
0.5 0.5 0
0.3 0 0.3 0

0
0
1
P= 0

0 0.5 0.5
0
0
0
0
0

avnd matricea probabilitilor

0
0.4

0 .

0
1
Pornind de la matricea P se obine diagrama probabilitilor tranziiilor de stare din fig. 3.2.6.
Acest lan Markov este reductibil. Exist dou submulimi nchise i ireductibile de

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

88

stri, S1 = {3, 4} i S2 = {5} . Strile 1 i 2 sunt tranzitorii, strile 3 i 4 sunt pozitiv


recurente, starea 5 este absorbant (deci este i recurent).
0.5

0.5

1
0.3

0.3

0.5

0.5

0.4

5
1

Fig. 3.2.6. Diagrama probabilitilor tranziiilor de stare pentru


lanul Markov din Exemplul 3.2.6.

Exemplul 3.2.7. Toate strile lanului Markov cu un numr infinit de stri, S =


avnd diagrama probabilitilor tranziiilor de stare din fig. 3.2.7, sunt nul recurente.

12
1

12

23

15

14

13

34

Fig. 3.2.7. Diagrama probabilitilor tranziiilor de stare pentru


lanul Markov din Exemplul 3.2.7.
3.2.3.4. Stri periodice i stri aperiodice
Pentru o stare i S cel mai mare divizor comun di al momentelor de timp k > 0 pentru care

pii( k ) > 0 se numete perioada strii i, di = cmmdc {k > 0 pii( k ) > 0} . O stare i se numete

periodic (eng. periodic state) dac di 2 . n cazul n care di = 1 , starea i se numete


aperiodic (eng. aperiodic state). Se observ c o stare i pentru care pii > 0 este aperiodic.
n legtur cu periodicitatea strilor unui lan Markov, enunm n continuare, fr a
demonstra, urmtoarea teorem (Cassandras, 1993).
Teorema 3.2.7. Toate strile unui lan Markov ireductibil au aceeai perioad.

Dac pentru o stare a unui lan Markov ireductibil di = 1 atunci toate strile acestuia
sunt aperiodice i lanul se numete aperiodic. Dac una dintre strile unui lan ireductibil are
perioada di 2 , atunci toate strile acestuia au aceeai perioad i lanul se numete periodic.

Cap. 3. Lanuri Markov

89

Figura 3.2.8 prezint sumar clasificarea strilor unui lan Markov n timp discret.
Stare i S

i < 1

i = 1

tranzitorie

recurent

Mi <
nul recurent

pozitiv recurent

di = 1
periodic

aperiodic

Fig. 3.2.8. Clasificarea strilor unui lan Markov n timp discret.

Exemplul 3.2.8. Se consider lanul Markov din fig. 3.2.9.


1

0 1 0
P = 0 0 1

1 0 0

3
Fig. 3.2.9. Diagrama probabilitilor tranziiilor de stare pentru
lanul Markov din Exemplul 3.2.8.
Se poate observa c au loc relaiile:
P

3n

= I3 , P

3n +1

= P, P

3n + 2

0 0 1
= P = P = 1 0 0 , n

0 1 0
2

unde I 3 noteaz matricea unitate de ordinul 3, iar P T reprezint transpusa matricei P.


Toate strile acestui lan sunt periodice de perioad d = 3 deoarece cel mai mare
divizor comun al elementelor mulimii {k > 0 | pii( k ) > 0} = {3, 6,9,} este 3, pentru
i = 1, 2,3 . Lanul Markov fiind ireductibil, se verific afirmaia din teorema 3.2.7, i
anume c toate strile lanului au aceeai perioad.

90

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


Exemplul 3.2.9. Se consider lanul Markov din fig. 3.2.10.
12
2

0 1 2 1 2
P = 1 0
0

0
1 0

12

3
Fig. 3.2.10. Diagrama probabilitilor tranziiilor de stare pentru
lanul Markov din Exemplul 3.2.9.
Se poate observa c au loc relaiile:
0
0 1 2 1 2
1 0
2 n +1
2n
2

P
=P= 1 0
0 , P = P = 0 1 2 1 2 , n .

0
0 1 2 1 2
1 0
Pentru orice i = 1, 2,3 , cel mai mare divizor comun al elementelor mulimii
{k > 0 | pii( k ) > 0} = {2, 4, 6,} este 2, astfel c toate strile lanului sunt periodice de
perioad d = 2 . Afirmaia din teorema 3.2.7 este astfel verificat.

Exemplul 3.2.10. Se consider lanul Markov din fig. 3.2.11.


12
12

12

12

12
3

1 2 1 2 0
P = 0 1 2 1 2

1 2 0 1 2

12
Fig. 3.2.11. Diagrama probabilitilor tranziiilor de stare pentru
lanul Markov din Exemplul 3.2.10.
Se poate observa c pentru orice i = 1, 2,3 este satisfcut relaia pii 0 , astfel c 1
este element al mulimii {k > 0 | pii( k ) > 0} , perioada corespunztoare strii i fiind egal
cu 1. Rezult astfel c toate strile lanului Markov din fig. 3.2.11 sunt aperiodice.

Cap. 3. Lanuri Markov

91

3.2.4. Analiza regimului staionar (permanent)


Dac pentru o stare i a unui lan Markov exist limita
i = lim i (k ) = lim P [ X k = i ] ,
k

(3.2.34)

aceasta se numete probabilitate de regim staionar (permanent) (eng. steady-state probability,


stationary state probability) corespunztoare strii i. Dac probabilitile de regim staionar
exist pentru toate strile unui lan, atunci se poate construi vectorul probabilitilor de regim
staionar (eng. stationary state probability vector), = lim (k ) = [1 , 2 , 3 ,] , care satisface
k

ecuaia obinut prin trecere la limit pentru k n relaia de recuren (3.2.22),


(k + 1) = (k ) P

= P .

(3.2.35)

O condiie necesar pentru existena vectorului este s existe limita pentru k a


irului de matrice {P k }k , lim P k . n plus, aceast limit trebuie s fie independent de
k

distribuia de probabilitate a strii iniiale a lanului, (0) . Existena vectorului


probabilitilor de regim staionar nu este garantat pentru orice lan Markov. n continuare
vom discuta separat (n funcie de natura strilor lanului Markov investigat) condiiile n care,
pentru orice stare i S a unui lan, limitele i exist i reprezint efectiv o repartiie de
probabilitate de stare, adic satisfac condiia

iS i = 1 .

3.2.4.1. Lanuri Markov ireductibile


O prim concluzie important care se desprinde din teorema 3.2.7 este aceea c dac un lan
Markov ireductibil conine stri periodice, atunci toate strile au aceeai perioad i nu exist
vectorul = lim (k ) (vezi lanurile Markov din Exemplele 3.2.8 i 3.2.9, lanuri ireductibile
k

periodice i pentru care nu exist limita pentru k a irului de matrice {P k }k ).


Enunm n continuare, fr demonstraie, urmtoarele teoreme (Cassandras, 1993).
Teorema 3.2.8. ntr-un lan Markov ireductibil i aperiodic exist ntotdeauna limita
= lim (k ) i aceasta este independent de distribuia de probabilitate a strii iniiale (0) .
k

Observaie. Aceast teorem nu garanteaz c elementele vectorului satisfac


condiia iS i = 1 !
Teorema 3.2.9. Pentru un lan Markov ireductibil i aperiodic ce const numai din
stri tranzitorii sau nul recurente este satisfcut relaia
i = lim i (k ) = 0, i S ,
(3.2.36)
k

i deci nu exist o distribuie de probabilitate de stare de regim staionar.


Teorema 3.2.10. ntr-un lan Markov ireductibil i aperiodic, ce const numai din stri
pozitiv recurente, exist i este unic vectorul distribuiei de probabilitate a strii n regim

92

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

staionar, = [ 1 , 2 , 3 ,] , ale crui elemente i > 0 satisfac

i = lim i (k ) =
k

1
, i S ,
Mi

(3.2.37)

unde M i este timpul mediu de recuren corespunztor strii i S . Vectorul se determin


rezolvnd sistemul de ecuaii liniare
= P ,
= 1.
i

iS

(3.2.38)

Relaia (3.2.38) arat c vectorul este vector propriu la stnga al matricei P,


corespunztor valorii proprii 1 i, n plus, pentru un lan care satisface ipoteza teoremei
3.2.10, este singurul vector de repartiie a strii iniiale pentru care lanul considerat este un
proces staionar (considernd (0) = rezult (k ) = , k 1 ). Aceast proprietate
justific denumirea de distribuie staionar de probabilitate a strii lanului Markov dat
vectorului n acest caz.
Pentru rezolvarea pe calculator a sistemului de ecuaii (3.2.38) n cazul n care lanul
Markov studiat are un numr finit s de stri, se noteaz cu E matricea ptratic ( s s ) i cu e
vectorul linie ( 1 s ) care au toate elementele egale cu 1. Cu aceste notaii (3.2.38) devine
( I P + E ) = e = e ( I P + E ) 1 .
(3.2.39)
Strile aperiodice pozitiv recurente ale unui lan Markov se numesc stri ergodice
(eng. ergodic states). Un lan ireductibil ce const numai din stri ergodice se numete lan
ergodic (eng. ergodic chain).
Un caz particular de lan ergodic este cel n care exist N > 0 astfel nct matricea P N
are numai elemente strict pozitive. Un asemenea lan este numit lan regulat (eng. regular
chain). Semnificaia condiiei pij( N ) > 0, i, j S este aceea c ntr-un lan regulat este posibil

s se ajung dintr-o stare oarecare i n oricare alt stare j n exact N pai.


Pentru un lan Markov regulat, irul de matrice {P k }k converge ctre o matrice
stohastic W = lim P k , care are proprietatea c toate liniile sale coincid cu vectorul
k

probabilitilor de stare n regim permanent, W = eT (Grinstead and Snell, 1998). Matricea


W satisface relaiile W P = P W = W = W 2 .
Matricea fundamental a unui lan regulat, Z = zij i , jS , este definit de relaia
Z = ( I P + W )1 ,

(3.2.40)

unde I noteaz matricea unitate. Matricea Z poate fi utilizat pentru a determina valorile mij ,
i, j S , i j , care reprezint valoarea medie a primului moment n care procesul, aflat la
momentul iniial n starea i, ajunge n starea j, (eng. mean first passage time)
z jj zij
, i, j S , i j .
(3.2.41)
mij =

Cap. 3. Lanuri Markov

93

Prin definiie mii = 0 . Cu aceste elemente se formeaz matricea M = mij i , jS (eng.


mean first passage matrix).
Exemplul 3.2.11. Revenim la lanul Markov studiat n Exemplul 3.2.1, care
modeleaz o main cu dou stri. Pentru 0 < < 1 i 0 < < 1 , toate elementele
matricei P sunt nenule, lanul fiind regulat. De asemenea, deoarece |1 |< 1 ,
rezult c
+ (1 ) k (1 ) k

+ +

+
+
=
W = lim P k = lim
.
k
k (1 ) k

+ (1 ) k

+ +
+
+
Vectorul probabilitilor de stare n regim permanent se determin prin rezolvarea
sistemului de ecuaii (3.2.38), care conduce la
= ,

1
1

0,
[
]
[
]
+
1 2

1 2
2
1

1 + 2 = 1,

2 = .
1 + 2 = 1,

+
Se observ c fiecare linie a matricei W coincide cu vectorul repartiiei staionare
de stare = [ ( + ) ( + )] . Aceast proprietate a fost pus n eviden i n
Exemplul 3.2.3 pentru cazul particular = 1 4 i = 1 2 .
Expresia vectorului are urmtoarea semnificaie fizic: oricare ar fi fost starea
iniial a mainii, dup o durat de funcionare suficient de mare, cu probabilitatea 1
maina va fi n stare de funcionare, iar cu probabilitatea 2 maina va fi defect.

Mediile duratelor de recuren ale celor dou stri sunt


1 +
1 +
M1 =
=
, M2 =
=
.

Matricea fundamental a acestui lan Markov este


+ 2 + ( + 1)
+ 2
( + )2
(
)
1

Z = ( I P +W ) =
.
( + 1) 2 + +

2
( + ) 2
( + )
Utiliznd relaiile (3.2.41) se obin valorile m12 = 1 i m21 = 1 . Dac la un
moment dat maina este n stare de funcionare (starea 1) atunci, n medie, dup un
numr de 1 ore se va defecta, iar dac la un moment dat maina este defect, atunci,
n medie, dup un numr de 1 ore va fi din nou n stare de funcionare.
Acest rezultat este n concordan cu cel obinut n Exemplul 3.2.3. Lanul Markov
studiat avnd numai dou stri, durata medie de ocupare a strii i coincide cu valoarea
medie a primului moment n care procesul, aflat la momentul iniial n starea i, trece n
starea j i , M[T1 ] = m12 i M[T2 ] = m21 .

94

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Din punct de vedere practic, teorema 3.2.10 permite caracterizarea comportamentului


de regim staionar al sistemelor modelate sub form de lan Markov n timp discret. Cerinele
impuse n enunul acestei teoreme, ca lanul s fie ireductibil, aperiodic, i cu stri pozitiv
recurente, nu sunt foarte restrictive, fiind satisfcute de majoritatea sistemelor fizice. De
asemenea, aceast teorem furnizeaz suportul necesar proiectrii sistemelor astfel nct, n
regimul staionar de funcionare, probabilitatea ca sistemul s se gseasc ntr-o anumit stare
s satisfac anumite condiii uzuale.

Exemplul 3.2.12. Similar situaiei din Exemplul 3.2.1, se consider o main cu


dou stri i anume: n stare de funcionare (1) sau defect (2), modelat prin lanul
Markov din fig. 3.2.12. Presupunem c n etapa de proiectare putem controla un singur
parametru ( 0 < < 1 ) care influeneaz durata de reparare a mainii n cazul cnd
aceasta este defect, deci influeneaz probabilitatea tranziiei de stare din 2 n 1. Se
dorete determinarea valorilor parametrului pentru care, dup un timp suficient de
lung de funcionare, probabilitatea ca maina s fie defect s aib o valoare mai mic
dect 25%.
14
34

Fig. 3.2.12. Diagrama probabilitilor tranziiilor de stare pentru


lanul Markov din Exemplul 3.2.12.
Lanul Markov considerat n acest exemplu constituie un caz particular al celui din
Exemplul 3.2.1, obinut pentru = 1 4 . Utiliznd rezultatele prezentate n Exemplul
3.2.11, lanul Markov din fig. 3.2.12 este regulat, probabilitile de stare staionar fiind
1 = 4 (1 + 4 ) i 2 = 1 (1 + 4 ) . Impunnd condiia 2 < 0, 25 rezult restricia
> 0, 75 . innd cont de faptul c parametrul reprezint o probabilitate, 0 < < 1 ,
n final se obine 0, 75 < < 1 . De asemenea, se observ c probabilitatea 2 nu poate fi
redus sub valoarea de 20%.

Exemplul 3.2.13. Urmtorul exemplu este un caz particular al modelului Ehrenfest


utilizat pentru a explica difuzia gazelor (Grinstead and Snell, 1998). Se consider dou
urne care conin n total 4 bile. La fiecare pas se alege aleator una dintre bile, aceasta
fiind mutat dintr-o urn n cealalt. Reprezentnd starea procesului stohastic studiat
prin numrul de bile din prima urn, se obine modelul de tip lan Markov n timp
discret cu 5 stri (starea 1 nici o bil n prima urn, , starea 5 4 bile n prima urn)
avnd matricea probabilitilor tranziiilor de stare

Cap. 3. Lanuri Markov

95

1
0
0
0
0
1 4 0 3 4 0
0

P= 0 12 0 12 0 .

0 3 4 0 1 4
0
0
0
0
1
0
Pe diagrama probabilitilor tranziiilor de stare prezentat n fig. 3.2.13, se observ
c, dac la momentul iniial lanul se afl n starea 1, atunci dup un numr impar de
pai se va gsi n starea 2 sau 4, iar dup un numr par de pai se va gsi n starea 1, 3
sau 5. Toate strile lanului sunt periodice de perioad 2. Acesta este un exemplu de lan
ireductibil care nu este regulat.

34

1
1

12

14

14

12

5
1

34

Fig. 3.2.13. Diagrama probabilitilor tranziiilor de stare pentru


lanul Markov din Exemplul 3.2.13.
n fig. 3.2.14 sunt reprezentate grafic elementele matricelor P k , pentru k = 1,8 .
Matricea P1

Matricea P 2

Matricea P3

1
1

0.6
3
0.4
4

0.2

2
3
4
Stare finala

2
0.6
3
0.4
4

0.2
5
5

2
3
4
Stare finala

1
1

0.8
2
0.6
3
0.4
4

0.8
2
0.6
3
0.4
4

0.2
5

2
3
4
Stare finala
Matricea P 8

0.2
5

2
3
4
Stare finala

Stare initiala

0.4

0.8
Stare initiala

0.6

Matricea P7

0.8

2
3
4
Stare finala

1
1

0.4
4
5

Matricea P 6
1

0.6
3

0.2

Matricea P5

0.4
4

0.8
2

0.2

5
2
3
4
Stare finala

0.6
3

0.2

5
1

Stare initiala

0.8
Stare initiala

0.4
4

0.8
Stare initiala

Stare initiala

0.6
3

0.8

Stare initiala

Stare initiala

1
2

Matricea P 4

0.2
5

2
3
4
Stare finala

2
3
4
Stare finala

Fig. 3.2.14. Reprezentri grafice ale elementelor matricelor P k pentru k = 1,8 .


Pentru valori foarte mari ale lui n, puterile matricei P sunt de forma:

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

96

1 8 0 3 4 0 1 8
0 12 0
0 12 0 12 0
1 8 0 3 4

P 2 n = 1 8 0 3 4 0 1 8 , P 2 n+1 = 0 1 2 0

0 12 0 12 0
1 8 0 3 4
1 8 0 3 4 0 1 8
0 1 2 0
astfel nct nu exist limita pentru k a irului de matrice

12

0
0 1 8

12 0 ,

0 1 8
1 2 0
{P k }k . Vectorul

probabilitilor de stare staionar nu exist pentru acest lan.


Cu toate acestea, sistemul de ecuaii (3.2.38) admite ca soluie vectorul
v = [1 16 1 4 3 8 1 4 1 16] ,
care este vector propriu la stnga al matricei P, corespunztor valorii proprii 1.
Semnificaia acestui vector este evident atunci cnd se consider v drept vector al
probabilitii de stare la momentul iniial, (0) = v . n aceast situaie, aplicnd relaia
de recuren (3.2.22) rezult (1) = vP = v = (0) , , (k ) = v = (0) , . Dac
distribuia de probabilitate a strii iniiale este dat de vectorul v, atunci pentru o durat
suficient de mare de evoluie a procesului, 1 16 din timp procesul l va petrece n starea
1 (nici o bil n prima urn), 1 4 n starea 2, 3 8 n starea 3, 1 4 n starea 4 i 1 16 n
starea 5. Figura 3.2.15 prezint grafic evoluia strii lanului Markov n cazul (0) = v ,
obinut prin simulare pe o durat de 100 de pai.
Evolutia starilor lantului Markov
5.5
5

X(k)

1
0.5

10

20

30

40

50
k

60

70

80

90

100

Fig. 3.2.15. Reprezentarea grafic a evoluiei strii lanului Markov


din Exemplul 3.2.13.

Exemplul 3.2.14. (Lan birth-death n timp discret) Se consider lanul Markov n


timp discret cu numr infinit de stri ( S = ) avnd diagrama probabilitilor
tranziiilor de stare din fig. 3.2.16. Tranziiile au loc numai ntre stri adiacente: din
starea i n starea i + 1 cu probabilitatea 1 p , tranziii referite drept natere, i din
starea i n starea i 1 cu probabilitatea p, tranziii referite drept moarte. Starea i = 1
rmne nemodificat cu probabilitatea p. Un asemenea lan Markov este denumit lan
natere-moarte (eng. birth-death) n timp discret. Considernd p (0,1) , lanul Markov
studiat este ireductibil i aperiodic ( p00 = p > 0 ).

Cap. 3. Lanuri Markov


1 p

1 p

97
1 p

i-1

1 p

i+1

p
p
p
p
Fig. 3.2.16. Diagrama probabilitilor tranziiilor de stare pentru
un lan birth-death n timp discret.

S studiem mai nti efectul pe care l are valoarea probabilitii p asupra naturii
acestui lan Markov. Dac la un moment dat lanul este n starea 1, revenirea n aceast
stare poate avea loc dup un singur pas, cu probabilitatea p, sau, cu probabilitatea 1 p ,
dup o secven de pai, ce const dintr-o tranziie n starea 2 i apoi revenirea n starea
1 dup un numr finit de pai. Fie T11 timpul de recuren al strii 1 i T21 timpul de
evoluie a lanului din starea 2 n starea 1. Se observ c
1 = P [T11 < ] = p + (1 p) P [T21 < ] .
Fie q2 = P [T21 < ] i m > 2 o stare fixat a lanului. Pentru orice stare i = 2, , m 1
fie qi (m) = P [Ti1 < Tim ] , probabilitatea ca pornind din starea i, lanul s treac prin
starea 1 nainte de a ajunge n starea m. De pe diagrama probabilitilor tranziiilor de
stare rezult c
qi (m) = pqi 1 (m) + (1 p)qi +1 (m) ,
deoarece pornind din starea i, vizitarea strii 1 naintea strii m poate surveni n dou
moduri: trecnd prin starea i 1 , cu probabilitatea p, sau prin starea i + 1 , cu
probabilitatea 1 p . Relaia precedent poate fi adus la forma echivalent
p
qi +1 (m) qi (m) =
[ q (m) qi 1 (m)] , i = 2, , m 1 ,
1 p i
care, cu = p (1 p) , conduce la
qi +1 (m) qi (m) = [ qi (m) qi 1 (m) ] = = i 1 [ q2 (m) q1 (m)] , i = 1, , m 1 ,
astfel nct se obine
m 1

m 1

m 1

i =1

i =1

i =1

qi +1 (m) qi (m) = [ q2 (m) q1 (m)] i 1

m 1

qm (m) q1 (m) = [ q2 (m) q1 (m)] i 1.


i =1

Deoarece qm (m) = P[Tm1 < Tmm ] = 0 i q1 (m) = P[T11 < T1m ] = 1 , n final avem
1 1 , pentru 1,
1 m1
1
=
q2 (m) = 1 m1
i 1 1 m1 1 , pentru = 1.
i =1
Pentru a ajunge din starea 2 n starea 3 este necesar cel puin un pas, adic 1 T23 .
Pentru a ajunge din starea 2 n starea 4 lanul trebuie s treac mai nti prin starea 3,

98

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


deci T23 < T24 . Repetnd acest raionament pentru a compara duratele T2i i T2 j , cu

i < j m , se obine T2i < T2 j . Din irul de inegaliti


1 T23 < T24 < < T2 m ,
urmeaz c T2 m m 2 , m = 3, 4, , deci T2 m atunci cnd m . innd cont
de definiiile lui q2 i q2 (m) , rezult
q2 = P [T21 < ] = lim P [T21 < T2 m ] = lim q2 (m) .
m

Sunt posibile urmtoarele situaii:


(a) dac 0 < p < 1 2 (condiie echivalent cu 0 < < 1 ) se obine
q2 = = p (1 p) < 1 i 1 = p + (1 p )q2 = 2 p < 1 ,
ceea ce arat c starea 1 este tranzitorie;
(b) dac p = 1 2 (condiie echivalent cu = 1 ) se obine
q2 = 1 i 1 = p + (1 p)q2 = 1 ,
ceea ce arat c starea 1 este recurent; pentru p = 1 2 se poate demonstra c starea
1 este nul recurent;
(c) dac 1 2 < p < 1 (condiie echivalent cu > 1 ) se obine
q2 = 1 i 1 = p + (1 p)q2 = 1 ,
ceea ce arat c starea 1 este recurent; spre deosebire de cazul (b), n acest caz
starea 1 este pozitiv recurent.
Aplicnd teorema 3.2.5 rezult n final c pentru 0 < p < 1 2 toate strile lanului sunt
tranzitorii, pentru p = 1 2 toate strile lanului sunt nul recurente, iar pentru 1 2 < p < 1
toate strile sunt pozitiv recurente.
Trecem n continuare la analiza regimului staionar
Matricea probabilitilor tranziiilor de stare are forma
0
0
0
p 1 p
p
0
1 p
0
0

P = 0
p
0
1 p
0

0
p
0
1 p
0

Sistemul de ecuaii liniare = P conduce la


1 = p 1 + p 2

al acestui lan birth-death.

i = (1 p) i 1 + p i +1 , i = 2,3,
Din prima ecuaie rezult
1 p
,
p 1
iar din cea de-a doua se obine relaia de recuren
1 p
1
i +1 =
, i = 2,3, .
p i 1 p i
Prin inducie matematic se poate demonstra c

2 =

Cap. 3. Lanuri Markov

i =

i 1

1 , i = 2,3, ,

unde = p (1 p) > 0 . Condiia suplimentar

1 =

i 1

, i =

99

i 1

i =1 i = 1 conduce la

i 1

, i = 2,3, .

i =1

i =1

n cele trei cazuri distincte puse n eviden n discuia asupra naturii strilor acestui
lan se ajunge la urmtoarele concluzii:
(a) dac 0 < p < 1 2 (condiie echivalent cu 0 < < 1 , deci 1 > 1 ) se obine
i = 0 , i = 1, 2,3, ,
ceea ce arat c, de fapt, condiia

i =1 i = 1 nu poate fi satisfcut. Toate strile

lanului fiind tranzitorii, nu exist o distribuie staionar de stare;


(b) dac p = 1 2 (condiie echivalent cu = 1 ), ca i n cazul (a) se obine
i = 0 , i = 1, 2,3, ,
ceea ce arat c, de fapt, condiia

i =1 i = 1 nu poate fi satisfcut, deci nu exist

o distribuie staionar de stare, confirmnd faptul c toate strile lanului sunt nul
recurente;
(c) dac 1 2 < p < 1 (condiie echivalent cu > 1 , deci 0 < 1 < 1 ) se obine
i 1

2 p 1
1 2 p 1 1 p
1 = 1 =
, i = i =
, i = 2,3, ,
p p
p

acesta fiind singurul caz n care distribuia staionar de stare exist,


confirmnd faptul c toate strile lanului sunt pozitiv recurente. Se poate observa,
de asemenea, c lim i = 0 , n concordan cu rezultatul obinut la punctul (b).
1

p 0,5
p > 0,5

Exemplul 3.2.15. Un flux de evenimente de tip Bernoulli reprezint un lan Markov


n timp discret, ireductibil, avnd diagrama probabilitilor tranziiilor de stare din
fig. 3.2.17, n care starea i corespunde apariiei unui numr de i 1 evenimente.
1 p

1 p

1 p

1 p

p
2

1 p

p
3

i-1

1 p

p
i

i+1

Fig. 3.2.17. Diagrama probabilitilor tranziiilor de stare pentru un flux Bernoulli.


Matricea probabilitilor tranziiilor de stare are forma

100

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

p
0
0
1 p
0
1 p
p
0

P= 0
0
1 p
p

0
0
1 p
0

Pentru 0 < p < 1 este satisfcut relaia pii = 1 p 1 ,

i = 1, 2, , deci acest lan este

ireductibil i aperiodic. De asemenea se observ c odat ce lanul a prsit starea i nu


mai este posibil revenirea la aceast stare, deci toate strile lanului sunt tranzitorii.
Din teorema 3.2.9 rezult c i = lim i (k ) = 0, i = 1, 2, i nu exist o
k

distribuie staionar de stare.


Durata Ti de meninere a strii i (adic durata dintre apariiile evenimentelor cu
indicii i 1 i i din flux) are distribuie geometric de parametru 1 pii = p , deci
M[Ti ] = 1 (1 pii ) = 1 p

i Var[Ti ] = pii (1 pii ) 2 = (1 p ) p 2 , n concordan cu

rezultatele prezentate n seciunea 3.1.3.


3.2.4.2. Lanuri Markov reductibile
Evoluia pe termen lung a unui lan Markov reductibil este predictibil. Dac lanul se afl la
momentul iniial n una dintre strile tranzitorii, lanul va intra la un moment dat n una din
submulimile nchise de stri i va rmne acolo. Dac lanul are mai mult de 2 submulimi
nchise de stri, problema care se pune este n care dintre ele va intra i cu ce probabilitate.
T

k=1

k=1

Sc

Sc
j

(a)

j
(b)

Fig. 3.2.18. Ilustrarea grafic a tranziiei dintr-o stare tranzitorie ntr-o mulime nchis de
stri: (a) ntr-un singur pas, respectiv (b) n mai muli pai.
Fie T mulimea strilor tranzitorii ale unui lan Markov i Sc o mulime nchis de
stri. Presupunem c la momentul iniial lanul se afl ntr-o stare tranzitorie, X 0 = i T .
Probabilitatea ca lanul s ajung din starea iniial ntr-o stare din mulimea nchis Sc este

i ( Sc ) = P [ X k Sc , k > 0 X 0 = i ] .

(3.2.42)

Cap. 3. Lanuri Markov

101

Din starea iniial X 0 = i T poate ajunge n Sc ntr-un singur pas (fig. 3.2.18.(a))
dac are loc evenimentul [ X 1 Sc X 0 = i ] , a crui probabilitate de apariie este

P [ X 1 Sc X 0 = i ] =

P [ X1 = j X 0 = i ] = pij ,

jSc

sau din mai muli pai (fig. 3.2.18.(b)), dac are


[ X 1 T , X k Sc , k > 1 X 0 = i ] , a crui probabilitate de apariie este
P [ X 1 T , X k Sc , k > 1 X 0 = i ] =
=

(3.2.43)

jSc

P [ X1 = r i

rT

loc

evenimentul

X k Sc , k > 1 X 0 = i ] =

P [ X k Sc , k > 1 X 1 = r , X 0 = i ] P [ X 1 = r X 0 = i ] =

(3.2.44)

rT

P [ X k Sc , k > 1 X1 = r ] pir = r (Sc ) pir .

rT

rT

Rezult astfel sistemul de ecuaii liniare


i ( Sc ) = pij + r ( Sc ) pir , i T .
jSc

(3.2.45)

rT

n principiu, prin rezolvarea acestui sistem se pot determinare probabilitile i ( Sc )


pentru toate strile tranzitorii i T ale lanului. Trebuie menionat faptul c, dac mulimea
strilor tranzitorii este infinit, s-ar putea ca soluia acestui sistem s nu fie unic. Dac T
este finit, atunci soluia este unic determinat.

Exemplul 3.2.16. Revenim la lanul Markov studiat n Exemplul 3.2.6, cu diagrama


probabilitilor tranziiilor de stare din fig. 3.2.6 i matricea probabilitilor tranziiilor
de stare
0
0
0.5 0.5 0
0.3 0 0.3 0 0.4

0
0
1
0 .
P= 0

0 0.5 0.5 0
0
0
0
0
0
1
Strile tranzitorii ale lanului sunt T = {1, 2} , iar submulimile nchise i ireductibile
de stri S1 = {3, 4} i S2 = {5} .
Pentru mulimea S1 sistemul de ecuaii liniare (3.2.45) devine
4
2

=
+

(
S
)
p
r ( S1 ) p1r ,

1
1
1
j

j =3
r =1
1 ( S1 ) = 1 ( S1 ) p11 + 2 ( S1 ) p12 ,

4
2
2 ( S1 ) = p23 + 1 ( S1 ) p21 ,
(S ) =
p2 j + r ( S1 ) p2 r ,
2 1
=
3
j
r =1

1 ( S1 ) = 0, 51 ( S1 ) + 0,5 2 ( S1 ),

2 ( S1 ) = 0,3 + 0,31 ( S1 ),
a crui soluie este 1 ( S1 ) = 2 ( S1 ) = 3 7 .

102

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


Procednd analog pentru mulimea S2 se obine

(
S
)
p
=
+
15 r ( S 2 ) p1r ,
1 2
1 ( S2 ) = 1 ( S2 ) p11 + 2 ( S 2 ) p12 ,

r =1

2
2 ( S2 ) = p25 + 1 ( S2 ) p21 ,
(S ) = p + (S ) p ,
25 r
2
2r
2 2
r =1
( S ) = 0,51 ( S2 ) + 0,5 2 ( S2 ),
1 2
2 ( S1 ) = 0, 4 + 0,31 ( S 2 ),
a crui soluie este 1 ( S2 ) = 2 ( S2 ) = 4 7 . Aceste valori puteau fi determinate i din
condiiile 1 ( S1 ) + 1 ( S2 ) = 1 i 2 ( S1 ) + 2 ( S2 ) = 1 , care exprim faptul c din starea 1,

respectiv 2, lanul va fi absorbit cu siguran n una i numai una dintre cele dou
mulimi nchise i ireductibile S1 = {3, 4} i S2 = {5} .
3.2.4.3. Lanuri Markov absorbante
Un lan Markov n care strile tranzitorii sunt mutual accesibile i toate strile recurente sunt
absorbante se numete lan absorbant (eng. absorbing chain). Pentru un lan Markov
absorbant, oricare ar fi starea iniial, probabilitatea ca lanul s ajung ntr-o stare absorbant
este 1 (se spune c procesul este absorbit). Pentru un lan absorbant nu exist o distribuie
staionar de stare. Particulariznd relaia (3.2.42) pentru i T o stare tranzitorie a unui lan
absorbant i Sc = { j} o stare absorbant, i ( j ) = P [ X k = j , k > 0 X 0 = i ] reprezint

probabilitatea de absorbie (eng. absorption probability) din starea i n starea j. Aceste


probabiliti pot fi determinate prin rezolvarea sistemului (3.2.45) sau, pentru lanuri finite, n
modul prezentat n continuare.
Considerm un lan Markov absorbant cu n stri, dintre care t sunt tranzitorii, restul de
r = n t stri fiind absorbante. Se renumeroteaz strile lanului astfel nct primele t stri
sunt tranzitorii, T = {1, 2, ,t} , iar ultimele r stri sunt absorbante, A = {t + 1, t + 2, , n} .
Prin acest procedeu, matricea probabilitilor de tranziie se poate aduce la forma canonic
Q R
P=
(3.2.46)
,
O
I
r

unde: Q este matricea ptratic t t a probabilitilor de tranziie ntre dou stri tranzitorii,
i are proprietatea lim Q k = Ot cu Ot matricea nul t t ;
k

R este matricea t r a probabilitilor de tranziie dintr-o stare tranzitorie ntr-o stare


absorbant;
O este matricea nul r t ;
I r este matricea unitate r r , corespunztoare strilor absorbante.
Se definete matricea fundamental (eng. fundamental matrix) N = nij i , j =1,t a lanului,

N = ( I t Q )1 = Q k .
k =1

(3.2.47)

Cap. 3. Lanuri Markov

103

Dac la momentul iniial lanul se gsete n starea tranzitorie i T , atunci numrul


mediu de vizite n starea tranzitorie j T nainte ca procesul s fie absorbit este dat de
elementul nij , i, j = 1, t , al matricei fundamentale N. Numrul mediu de pai n care procesul
va fi absorbit din starea tranzitorie i (eng. time to absorption) este dat de
t

i = nij , i T .

(3.2.48)

j =1

Vectorul coloan = [ 1 , 2 , , t ] poate fi calculat matriceal


T

= N c ,

(3.2.49)

unde c este vectorul coloan cu t elemente egale cu 1, c = [1,1, ,1] .


Fie hij , i, j T , probabilitatea ca procesul aflat la momentul iniial n starea
T

tranzitorie i s ajung n starea tranzitorie j nainte de a fi absorbit (eng. hitting probability).


Matricea H = hij i , j =1,t este dat de
1
H = ( N I ) N dg
,

(3.2.50)

unde N dg = nij este matricea ptratic t t ce are pe diagonala principal elementele


diagonalei matricei N ( nii = nii , i = 1, t ) i 0 n rest ( nij = 0, i, j = 1, t , i j ).
Pentru X 0 = i T , probabilitatea de absorbie n starea s A se noteaz

bis = P [ X k = s, k > 0 X 0 = i ] , i T , s A .

(3.2.51)

Matricea probabilitilor de absorbie B = [ bis ] este dat de


B = N R.

(3.2.52)

Matricea W = lim P k are forma


k

Ot
W =
O

B
.
I r

(3.2.53)

Exemplul 3.2.17. Se consider lanul Markov cu diagrama probabilitilor


tranziiilor de stare din fig. 3.2.19 i matricea probabilitilor tranziiilor de stare
p
0 1 p 0
0
1 p
0
0
0
p

P= 0
1 p 0
0
p , 0 < p < 1 .

0
0
1
0
0
0
0
0
1
0
Strile lanului au fost numerotate astfel nct matricea P s fie n forma canonic. n
fig. 3.2.20 sunt reprezentate grafic puterilor P k ale matricei probabilitilor tranziiilor
de stare pentru k {1, 2, 3,5, 7, 20} i p = 1 2 . Aspectul grafic al matricei P 20 sugereaz
c, dac la momentul iniial lanul se afl n una dintre strile tranzitorii, probabilitatea
ca dup 20 de pai s se gseasc tot ntr-o stare tranzitorie este practic nul.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

104

p
1

p
3

1 p

1 p

1 p

Fig. 3.2.19. Diagrama probabilitilor tranziiilor de stare pentru


lanul Markov din Exemplul 3.2.17.
Reprezentare grafica a matricei P 1

Reprezentare grafica a matricei P 2


1

0.6
3
0.4
4

2
0.6
3
0.4
4

0.2

0.8
Stare initiala

0.8
Stare initiala

2
3
4
Stare finala

2
3
4
Stare finala

Reprezentare grafica a matricei P 7


1

1
1

0.8
Stare initiala

0.8

0.4

2
0.6
3
0.4
4

0.2

0.8

0.6
3
0.4
4
0.2

5
2
3
4
Stare finala

0.2

5
1

Reprezentare grafica a matricei P 20

0.6

2
3
4
Stare finala

0.4
4
5

Reprezentare grafica a matricei P 5

0.6
3

0.2

5
1

0.2

Stare initiala

Stare initiala

1
0.8

Stare initiala

Reprezentare grafica a matricei P3


1

5
1

2
3
4
Stare finala

2
3
4
Stare finala

Fig. 3.2.20. Reprezentri grafice ale puterilor P k ale matricei probabilitilor


tranziiilor de stare pentru k {1, 2, 3,5, 7, 20} .
Fig. 3.2.21 prezint grafic evoluia strii lanului Markov studiat, obinut prin
simulare pe o durat de 10 pai. Se observ c, n ambele cazuri, pornind din starea
iniial 2, dup 4 pai lanul a fost absorbit n starea 4, respectiv 5.
Evolutia starilor lantului Markov
5.5

X(k)

X(k)

Evolutia starilor lantului Markov


5.5

0.5

0.5

5
k

10

5
k

Fig. 3.2.21. Reprezentri grafice ale evoluiei strii lanului Markov


din Exemplul 3.2.17.

10

Cap. 3. Lanuri Markov

105

Pentru p = 1 2 , se obin urmtoarele valori numerice: = [3 4 3]


3 2 1 1 2
1 3 1 2 1 3
3 4

N = 1 2 1 , H = 2 3 1 2 2 3 , B = 1 2

1 2 1 3 2
1 3 1 2 1 3
1 4
aceste matrice fiind reprezentate grafic n fig. 3.2.22.

Numarul mediu de vizite - N

Probabilitati de vizitare - H

i
1 4
1 2 ,

3 4

Probabilitati de absorbtie - B
0.7

0.6
1

1.5

0.6

0.5

0.3

2
Stare vizitata

0.4

0.3

0.2

0.5
3

Stare initiala

Stare initiala

Stare initiala

0.5
0.4

0.1

2
Stare vizitata

0.2
3

0.5

0.1
1
1.5
2
Stare absorbanta

2.5

Fig. 3.2.22. Reprezentri grafice ale matricelor N, H i B corespunztoare


lanului Markov din Exemplul 3.2.17.

3.3. Lanuri Markov n timp continuu, omogene


3.3.1. Tranziii de stare
3.3.1.1. Ecuaia Chapman-Kolmogorov
Lanurile Markov n timp continuu (sau, simplu, lanuri continue) sunt diferite de cele n timp
discret prin nsi natura spaiului parametrilor. O consecin important este aceea c, prin
definiie, lanurile continue sunt aperiodice, deoarece timpul dintre dou tranziii succesive de
stare are distribuie exponenial, fcnd astfel imposibil existena unei periodiciti. O alt
deosebire fundamental este aceea c abordarea uzual a lanurilor continue se bazeaz pe
ratele de apariie a tranziiilor de stare i nu pe probabilitile asociate acestora.
Un lan Markov n timp continuu (eng. continuous time Markov chain CTMC)
reprezint un proces stohastic X avnd o mulime finit ( S = {1, 2,..., n} ) sau numrabil

de stri ( S = ). Starea acestui proces este observat la momentele de timp (continuu)


t T = [ 0,+ ) = + , la momentul iniial t0 = 0 fiind X (0) . Pentru lanurile Markov n timp
continuu proprietatea caracteristic (de lips a memoriei) este precizat prin condiia (3.1.9),
P[ X (tk +1 ) = xk +1 | X (tk ) = xk , , X (t1 ) = x1 , X (t0 ) = x0 ] =
(3.3.1)
= P[ X (tk +1 ) = xk +1 | X (tk ) = xk ],
pentru orice t0 < t1 < < tk < tk +1 . Dac starea curent xk este cunoscut, valoarea pe care o
va lua X (tk +1 ) depinde numai de xk , fiind independent de istoria strilor trecute.
Pentru oricare dou stri i, j S i momente de timp 0 s t , se definete funcia de
tranziie de stare (eng. state transition function) prin relaia:

106

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


pij ( s, t ) = P [ X (t ) = j X ( s) = i ] .

(3.3.2)

Fig. 3.3.1. Evoluia strilor unui lan Markov n timp continuu.


Funciile de tranziie de stare satisfac versiunea n timp continuu a ecuaiei ChapmanKolmogorov n timp discret (3.2.7). Pentru a scrie aceast ecuaie, considerm dou stri i i j;
pentru a ajunge din starea i (ocupat la momentul s) n starea j (la momentul t), la momentul u
(cu 0 s u t ) lanul s-a aflat ntr-o stare r (fig. 3.3.1). Utiliznd legea probabilitii totale
se obine
pij ( s, t ) = P [ X (t ) = j X (u ) = r , X ( s ) = i ] P [ X (u ) = r X ( s ) = i ] .
(3.3.3)
rS

Proprietatea de lips a memoriei (3.3.1) conduce la


P [ X (t ) = j X (u ) = r , X ( s ) = i ] = P [ X (t ) = j X (u ) = r ] = prj (u, t )

(3.3.4)

astfel c relaia (3.3.3) devine:


pij ( s, t ) = pir ( s, u ) prj (u , t ) , i, j S , 0 s u t .

(3.3.5)

rS

Relaia (3.3.5) reprezint ecuaia Chapman-Kolmogorov pentru lanuri Markov n


timp continuu. Pentru a o scrie n form matriceal se definete matricea P ( s, t ) avnd ca
elemente probabilitile pij ( s, t ) ,

P ( s, t ) = pij ( s, t ) , i, j S , 0 s t ,

(3.3.6)

matrice stohastic cu proprietatea P ( s, s ) = I (matricea unitate). Forma matriceal a ecuaiei


Chapman-Kolmogorov (3.3.5) este
P ( s, t ) = P ( s, u ) P (u , t ) , 0 s u t .
(3.3.7)
Considerm momentele de timp 0 s t < t + t , cu t > 0 . Ecuaia ChapmanKolmogorov (3.3.7) devine
P ( s, t + t ) = P ( s, t ) P (t , t + t )
(3.3.8)
P ( s, t + t ) P ( s, t ) = P ( s, t ) [ P (t , t + t ) I ]
i conduce la
1
(3.3.9)
[ P ( s, t + t ) P ( s, t ) ] = P ( s, t ) lim 1 [ P (t , t + t ) I ] ,
t 0 t
t
n ipoteza c ambele limite implicate n relaia (3.3.9) exist. Se observ c n membrul stng
al relaiei (3.3.9) intervine derivata parial n raport cu t
pij ( s, t )
P ( s, t )
1
(3.3.10)
= lim [ P ( s, t + t ) P ( s, t )] =
.
t 0 t
t
t
lim

t 0

Cap. 3. Lanuri Markov

107

Limita din membrul drept al relaiei (3.3.9) definete matricea ratelor tranziiilor de stare
(eng. transition rate matrix)
1
Q (t ) = lim [ P (t , t + t ) I ] , t 0 ,
(3.3.11)
t 0 t
denumit i generator infinitezimal al matricei P ( s, t ) . Dup cum se va observa n continuare,
un lan Markov n timp continuu este complet specificat prin matricea ratelor tranziiilor de
stare Q (t ) . Relaia (3.3.9) conduce la ecuaia diferenial matriceal
P ( s, t )
= P ( s, t ) Q (t ) , 0 s t ,
(3.3.12)
t
referit drept ecuaia Chapman-Kolmogorov cu orizont nainte (la dreapta) (eng. forward
Chapman-Kolmogorov equation) a lanurilor Markov n timp continuu.
ntr-o manier similar, considernd momentele de timp 0 s < s + s t , cu s > 0 ,
pentru a scrie relaia (3.3.7), se obine ecuaia Chapman-Kolmogorov cu orizont napoi (la
stnga) (eng. backward Chapman-Kolmogorov equation) a lanurilor Markov n timp continuu
P ( s, t )
= Q ( s ) P ( s, t ) , 0 s t .
(3.3.13)
s
n anumite condiii satisfcute de matricea Q (t ) , soluia ecuaiei (3.3.12), care
satisface condiia P ( s, s ) = I , este dat de
t

P ( s, t ) = exp Q ( )d , 0 s t .
(3.3.14)
s

Reamintim faptul c exponeniala unei matrice (funcie matriceal) A este definit prin
1
1
(3.3.15)
exp [ A] = e A = I + A + A2 + A3 + .
2!
3!
n continuare ne limitm la studiul lanurilor Markov omogene n timp continuu,
pentru care funciile de tranziie de stare pij ( s, t ) , 0 s t , sunt independente de valorile
absolute ale momentelor de timp s i t, depinznd numai de diferena t s ,
pij ( s, t ) = pij (0, t s ) , 0 s t , i, j S .

(3.3.16)

Pentru lanuri Markov omogene, funciile de tranziie de stare depind de un singur parametru,
fiind definite prin
pij (t ) = P [ X ( s + t ) = j X ( s ) = i ] , s, t 0 , i, j S .
(3.3.17)
Matricea definit prin relaia (3.3.6) este, de asemenea, independent de s, fiind notat
P (t ) = pij (t ) , i, j S , t 0 .
(3.3.18)
Matricea P (t ) are proprietile P (0) = I i

jS pij (t ) = 1, pentru orice i S

este matrice stohastic).


Pentru lanuri omogene, ecuaia Chapman-Kolmogorov (3.3.7) devine
P ( s + t ) = P ( s ) P (t ), s, t 0 .

i t 0 ( P (t )

(3.3.19)

108

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Funciile de tranziie de stare sunt rareori utilizate n mod direct. De regul, un lan
Markov omogen n timp continuu este caracterizat prin ratele tranziiilor de stare (eng. state
transition rates), matricea ratelor tranziiilor de stare (3.3.11) fiind independent de t,
dP (t )
1
1
Q = lim [ P (t ) I ] = lim [ P (t ) P (0)] =
.
(3.3.20)
t 0 t
t 0 t
dt t =0
Componentele (constante) ale matricei Q = qij , definite prin
qij =

satisfac

dpij (t )
, i, j S ,
dt t =0

qij = 0 ,

i S ,

(3.3.21)

(3.3.22)

jS

deoarece matricea P (t ) este stohastic,

jS pij (t ) = 1, i S , t 0 .

Dac este posibil trecerea instantanee din starea i n starea j, j i , atunci qij > 0 ; n
caz contrar are loc qij = 0 . n particular, pentru i = j , relaia (3.3.21) devine
qii =

dpii (t )
d
qii = [1 pii (t ) ] , i S .
dt t =0
dt
t =0

(3.3.23)

Deoarece [1 pii (t )] reprezint probabilitatea ca lanul s prseasc starea i ntr-un interval


de lungime t, rezult c qii este rata instantanee cu care lanul prsete starea i.
Ecuaiile Chapman-Kolmogorov la dreapta (3.3.12) i la stnga (3.3.13) conduc la
dP (t )
= P (t ) Q = Q P (t ) , t 0 ,
(3.3.24)
dt
care arat c matricea Q comut cu P (t ) . Ecuaia diferenial (3.2.24) cu condiia iniial
P (0) = I admite soluie unic

P (t ) = exp ( Qt ) , t 0 ,

(3.3.25)

unde exp ( Qt ) noteaz exponeniala (3.3.15) a funciei matriceale Qt ,

tk k
t
t2
t3
Q = I + Q + Q 2 + Q3 + .
1!
2!
3!
k =0 k !

exp ( Qt ) =

(3.3.26)

3.3.1.2. Durata de meninere a unei stri


Pentru un lan Markov omogen n timp continuu presupunem c tranziiile de stare au loc la
momentele de timp 0 < Y1 < Y2 < < Yk < Yk +1 < , secvena strilor prin care trece procesul
fiind notat X 1 , X 2 , , X k , X k +1 , (fig. 3.3.2). Fie i S o stare oarecare a lanului.
Presupunem c la momentul Yk are loc tranziia n starea i, iar la momentul Yk +1 tranziia din
starea i. Durata T (i ) = Yk +1 Yk ct lanul rmne n starea i dup ce a ajuns n aceast stare se

numete durat de meninere a strii i (eng. state holding time sau sojourn time).

Cap. 3. Lanuri Markov

109

Proprietatea fundamental a lanurilor Markov omogene n timp continuu este aceea c


pentru fiecare stare i S a lanului, durata de meninere a strii i este o variabil aleatoare
continu cu distribuie exponenial, adic
i S , (i ) > 0 astfel nct P [T (i ) t ] = 1 e (i )t , t 0 ,

(3.3.27)

unde parametrul (i ) depinde, n general, de starea i. Aceast proprietate este o consecin


direct a proprietii de lips a memoriei (3.3.1). Presupunem c procesul ajunge n starea i la
momentul t 0 i pn la momentul t + s , s > 0 , nu a avut loc nici o tranziie de stare (deci
T (i ) > s ). Considerm probabilitatea condiionat
P[T (i ) > s + t | T (i ) > s ] = P[T (i ) > s + t | X (u ) = i, pentru t u t + s ] =
(3.3.1)

= P[T (i ) > s + t | X (t + s ) = i ] = P[V (i ) > t ].

(3.3.28)

Relaia (3.3.28) arat c distribuia de probabilitate a variabilei aleatoare T (i ) nu are


memorie. n seciunea 2.4.2.2 am demonstrat c singura distribuie continu care are aceast
proprietate este distribuia exponenial, astfel c relaia (3.3.27) este satisfcut. Media
variabilei aleatoare T (i ) este M [T (i ) ] = 1 (i ) . n plus, T (i ) este independent de starea n
care va trece procesul la tranziia din starea i (nu depinde de urmtoarea stare vizitat).
Pentru legtura dintre parametrul (i ) i ratele qij , j S , ale tranziiilor din starea i,
n aceleai condiii n care a fost dedus relaia (3.3.28), se obine
dpii (t )
= (i ) e (i )t
pii (t ) = P[T (i ) > t ] = e ( i ) t
dt
dp (t )
qii = ii
= (i ), i S.
dt t =0

(3.3.29)

Rata (i ) > 0 a distribuiei exponeniale a duratei de meninere a strii i pentru un lan


Markov omogen n timp continuu este deci
(i ) = qii

(3.3.22)

qij .

(3.3.30)

j i

X (t )

T (X2)

X2
Xk
X1
0

T (Xk )
T ( X1 )

Y1

Y2

Yk

Yk +1

Fig. 3.3.2. Ilustrare grafic a duratelor de meninere a strilor


pentru un lan Markov omogen n timp continuu.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

110

3.3.1.3. Probabilitile tranziiilor de stare


Pentru un lan Markov omogen n timp continuu considerm un moment la care starea curent
este X (t ) = i . Rata de apariie a unei tranziii instantanee din starea i n starea j, j i , este
qij , iar rata de apariie a unei tranziii instantanee din starea i (n oricare alt stare) este qii .

Probabilitatea apariiei unei tranziii din starea i n starea j, j i , este dat de


Pij = lim P [ X (t + t ) = j X (t + t ) i, X (t ) = i ] =
t 0

= lim

t 0

P [ X (t + t ) = j , X (t + t ) i X (t ) = i ]
P [ X (t + t ) i X (t ) = i ]

qij
qii

qij

qik

, i, j S , i j ,

(3.3.31)

k i

i este independent de timpul pe care procesul l-a petrecut n starea i. Prin definiie, Pii = 0 .
Se observ c, aa cum era de ateptat, probabilitile tranziiilor de stare satisfac relaia
(3.3.32)
Pij = 1, i S .
jS

Probabilitile tranziiilor de stare Pij definesc un lan Markov n timp discret intim
legat de lanul continuu (eng. embedded discrete time Markov chain EDTMC, sau jump
chain). Lanul discret are aceleai stri ca i lanul continuu cruia i corespunde i dicteaz
secvena de stri vizitate, fiind independent de durata petrecut de lanul continuu n fiecare
stare. Probabilitile tranziiilor de stare ale lanului EDTMC sunt date de relaia (3.3.31);
matricea probabilitilor tranziiilor de stare este
0 P12 P13
P
0 P23
.
P e = 21
(3.3.33)
P31 P32 0

Facem precizarea c, pentru lanul discret obinut n acest mod, parametrul k nu are
semnificaia de timp, ci reprezint indicele tranziiei de stare care are loc n lanul continuu.
Faptul c toate elementele de pe diagonala principal a matricei P e sunt nule arat c nu orice
lan discret poate constitui un lan discret subordonat unui lan continuu.
Concluzia final care se desprinde din cele prezentate pn acum este urmtoarea:
Exist dou moduri echivalente de a preciza un lan Markov omogen n timp continuu:
1. prin specificarea matricei ratelor tranziiilor de stare, Q = [qij ], i, j = 1, 2, ; pe baza
matricei Q se pot determina parametrii distribuiilor exponeniale ale duratele de ocupare a
strilor, (i ) > 0 (3.3.30), i lanul EDTMC corespunztor, avnd matricea
probabilitilor tranziiilor de stare P e (3.3.33);
2. prin specificarea matricei P e = [ Pij ], i, j = 1, 2, a lanului Markov n timp discret (ce
dicteaz secvena tranziiilor de stare ale lanului continuu) i a parametrilor distribuiilor
exponeniale ale duratelor de ocupare a strilor, (i ), i = 1, 2, ; pe baza acestora se
poate determina matricea ratelor tranziiilor de stare Q = [qij ] a lanului continuu prin
relaiile:

Cap. 3. Lanuri Markov


(3.3.30)

= (i ), i S ,

(3.3.34)

= Pij (i ), i, j S , i j .

(3.3.35)

qii
qij

111

(3.3.31)

Exemplul 3.3.1. Se consider un server care poate fi n stare de funcionare sau


defect. Rata de defectare a serverului este . Durata de reparare a acestuia are
distribuie exponenial de rat . Lanul Markov n timp continuu, omogen, care
modeleaz comportarea acestui server are dou stri: 1 serverul funcioneaz i
2 serverul este defect. Ratele tranziiilor de stare sunt q12 = i q21 = . Elementele
diagonalei principale a matricei Q se determin din condiia (3.3.22), care conduce la
q11 = q12 = i q22 = q21 = .


Q=

2
1

(a)

0 1
Pe =

1 0

(b)

Fig. 3.3.3. (a) Lanul Markov continuu i (b) cel discret studiate n Exemplul 3.3.1.
Fig. 3.3.3.(a) prezint diagrama ratelor tranziiilor de stare pentru lanul Markov
n timp continuu, complet specificat prin matricea Q. Aceasta este un graf orientat
avnd strile lanului drept noduri. Pentru i j , arcul orientat de la i la j este etichetat
cu rata qij > 0 a tranziiei din starea i n starea j.
Evolutia starilor lantului Markov continuu
2.5

= 1, = 2

Stare X(t)

1
Semnificatie stari: 1 - Working ; 2 - Down

0.5

10
Timp t

12

14

16

18

20

Fig. 3.3.4. Evoluia strilor lanului Markov continuu din Exemplul 3.3.1
pentru = 1 s-1 i = 2 s-1.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

112

Lanul Markov n timp discret subordonat celui n timp continuu este prezentat n
fig. 3.3.3.(b). Lanul continuu este complet specificat prin matricea P e i ratele
distribuiilor exponeniale ale duratelor de meninere a strilor, (1) = i (2) = .
Fig. 3.3.4 prezint o evoluie posibil a strilor lanului Markov continuu, obinut
prin simulare pe o durat de 20 s pentru = 1 s-1 i = 2 s-1.

Exemplul 3.3.2. Un sistem de fabricaie este constituit din dou maini identice care
sunt deservite de un singur mecanic de ntreinere. Ori de cte ori una dintre maini se
defecteaz, durata de reparaie a acesteia are o distribuie exponenial de rat . Dup
ce o main a fost reparat, durata de funcionare fr defectare are o distribuie
exponenial de rat . Pentru lanul Markov n timp continuu care modeleaz acest
sistem considerm strile: 1 ambele maini funcioneaz, 2 o singur main
funcioneaz i 3 ambele maini sunt defecte.
Dac ambele maini funcioneaz (starea 1) oricare dintre acestea se poate defecta
(independent de cealalt main), astfel c rata tranziiei din starea 1 n starea 2 este
q12 = 2 . Atunci cnd lanul se gsete n starea 2, maina defect poate intra n
funciune (apare o tranziie din 2 n 1, cu rata q21 = ) sau se poate defecta i cea de a
doua main (apare o tranziie din 2 n 3 cu rata q23 = ). Din starea 3 singura tranziie
posibil este n starea 2 (cu rata q32 = ) atunci cnd se termin repararea uneia dintre
maini. Elementele diagonalei principale a matricei Q se determin din condiia
(3.3.22). Diagrama tranziiilor de stare i matricea Q corespunztoare acestui lan sunt
prezentate n fig. 3.3.5.(a).
2

2
Q=

(a)

( + )

2
( + )

( + )

0
1
0

P = ( + ) 0 ( + )

0
1
0
e

(b)

Fig. 3.3.5. (a) Lanul Markov continuu i (b) cel discret studiate n Exemplul 3.3.1.
Fig. 3.3.5. (b) prezint lanul Markov discret subordonat lanului continuu din fig.
3.3.5.(a). Lanul continuu este complet specificat prin matricea P e a probabilitilor
tranziiilor de stare corespunztoare lanului discret, ale crei elemente se determin cu
relaia (3.3.31), i prin ratele distribuiilor exponeniale ale duratelor de ocupare a
strilor, determinate cu ajutorul relaiei (3.3.30), (1) = 2 , (2) = + , (3) = .

Cap. 3. Lanuri Markov

113

Fig. 3.3.6 prezint o evoluie posibil a strilor lanului Markov continuu, obinut
prin simulare pe o durat de 20 s pentru = 1 s-1 i = 2 s-1.
Evolutia starilor lantului Markov continuu
3.5

= 1, = 2

Stare X(t)

0.5

10
Timp t

12

14

16

18

20

Fig. 3.3.6. Evoluia strilor lanului Markov continuu din Exemplul 3.3.2
pentru = 1 s-1 i = 2 s-1.

3.3.2. Analiza regimului tranzitoriu


Ca i n cazul lanurilor Markov n timp discret, unul din obiectivele principale n analiza unui
lan Markov n timp continuu este determinarea probabilitii ca lanul s se gseasc ntr-o
anumit stare la un moment dat. Se definesc probabilitile de stare:
i (t ) = P [ X (t ) = i ] , t 0, i S ,
(3.3.36)
cu ajutorul crora se formeaz vectorul probabilitilor de stare (eng. state probability vector)
(t ) = [ 1 (t ), 2 (t ),] , t 0 .
(3.3.37)
Elementele vectorului linie (t ) furnizeaz distribuia de probabilitate a strii X (t ) a lanului
la momentul t. Fie (0) = [ 1 (0), 2 (0),] distribuia de probabilitate a strii la momentul
iniial t0 = 0 . Aplicnd legea probabilitii totale se obine

j (t ) = P [ X (t ) = j ] = P [ X (t ) = j X (0) = i ] P [ X (0) = i ] =
iS

= i (0) pij (t ), j S ,

(3.3.38)

iS

relaie ce poate fi scris n forma matriceal


(t ) = (0) P (t ), t 0 .

(3.3.39)

innd cont de expresia (3.3.25) a matricei P (t ) , rezult


(t ) = (0) exp ( Qt ) , t 0 .

(3.3.40)

Aceast relaie arat c, n principiu, se poate determina distribuia de probabilitate a strii


lanului la orice moment t 0 dac se cunoate matricea ratelor tranziiilor de stare Q i
distribuia strii iniiale (0) .

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

114

Prin derivare n raport cu t, din relaia (3.3.5) se obine ecuaia diferenial


d (t )
= (t ) Q, t 0 ,
(3.3.41)
dt
satisfcut de vectorul probabilitilor de stare. Se poate observa asemnarea cu ecuaia
Chapman-Kolmogorov la dreapta (3.3.24)1 satisfcut de P (t ) .
Pentru fiecare stare i S a unui lan Markov omogen n timp continuu se consider
t

Li (t ) = i ( )d , t 0 .

(3.3.42)

Se poate demonstra c Li (t ) reprezint media timpului cumulat petrecut de lanul continuu n


starea i pe intervalul de timp [0, t ] . Definind vectorul L(t ) = [ L1 (t ), L2 (t ),] i integrnd n
ambii membri ai relaiei (3.3.41) de la 0 la t se obine ecuaia diferenial
dL(t )
= L(t ) Q + (0), t 0 ,
dt
a crei soluie satisface condiia
L(t ) Q = (0) [ exp ( Qt ) I ] , t 0 .
n practic este util a scrie pe componente ecuaia matriceal (3.3.41)
d j (t )
= q jj j (t ) + qij i (t ) , j S .
dt
i j

(3.3.43)

(3.3.44)

(3.3.45)

Aceast relaie poate fi interpretat ca o ecuaie de bilan a fluxului de probabilitate pentru


fiecare nod (stare) a lanului Markov. Interpretnd valoarea j (t ) ca nivel al fluidului de
probabilitate care se gsete n nodul j, lund valori ntre 0 (nodul este gol) i 1 (nodul este
plin) la momentul t, rata tranziiei qij reprezint rata cu care acest fluid este transferat din
nodul i n nodul j (fig. 3.3.7). Debitul de fluid transferat din i n j este dat de qij i (t ) , iar
debitul total care intr n nodul j este Q (jin ) (t ) = i j qij i (t ) . Similar, debitul total de fluid

care iese din nodul j este Q (jout ) (t ) = r j q jr j (t ) = q jj j (t ) . Ecuaia de bilan a debitelor


este

d
dt

j (t ) = Q (jin ) (t ) Q (j out ) (t ) , adic tocmai ecuaia (3.3.45). Cu ajutorul acestei

interpretri, pentru fiecare nod al unui lan Markov n timp continuu se poate scrie ecuaia
(3.3.45) inspectnd diagrama ratelor tranziiilor de stare.
i

q jr

qij

j
Fig. 3.3.7. Bilanul fluxului de probabilitate pentru starea j.

Cap. 3. Lanuri Markov

115

Exemplul 3.3.3. Pentru lanul Markov prezentat n Exemplul 3.3.1, fie


(t ) = [1 (t ) 2 (t )] vectorul probabilitilor de stare la momentul t 0 . Sistemul de
ecuaii difereniale (3.3.41) se scrie n forma
d 1 (t )
dt = 1 (t ) + 2 (t ),
d (t )
= (t ) Q
dt
d 2 (t ) = (t ) (t ).
1
2
dt
Pentru condiia iniial (0) = [1 (0) 2 (0) ] , soluia acestui sistem este:

1 (0) 2 (0) ( + )t

e
,
1 (t ) = + +
+
(t ) = (0) exp(Qt )
(t ) = 1 (0) 2 (0) e ( + )t .
2
+
+

Se observ c exist limita lim (t ) = [ ( + ) ( + ) ] a crei semnificaie este


t

detaliat n seciunea 3.3.4.


Pentru valorile numerice = 1 s-1, = 2 s-1 i (0) = [1 0] se obin expresiile
2 1
1 1
1 (t ) = + e 3t , 2 (t ) = e3t ,
3 3
3 3
ale cror reprezentri grafice sunt prezentate n fig. 3.3.8.
Probabilitatile de stare
1

1(t)
2(t)

= 1, = 2

(t)

2/3

1/3

0.5

1.5
t

2.5

Fig. 3.3.8. Reprezentarea grafic a probabilitilor de stare 1 (t ) i 2 (t ) .

3.3.3. Clasificarea strilor


Strile unui lan Markov n timp continuu se clasific n acelai mod ca i strile unui lan n
timp discret, cu deosebirea c, pentru un lan continuu, nu are sens noiunea de stare
periodic/aperiodic.
O stare j S a unui lan Markov n timp continuu este accesibil (eng. reachable) din
starea i dac exist t > 0 astfel nct
pij (t ) = P [ X (t ) = j X (0) = i ] > 0
(3.3.46)
(probabilitate ca procesul s ajung din starea i n starea j ntr-un timp finit este nenul).

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

116

Interpretarea grafic a acestei condiii este aceea c pe diagrama tranziiilor de stare


corespunztoare lanului Markov exist un drum de la nodul i la nodul j. Un lan Markov
continuu este ireductibil (eng. ireducible) dac oricare dou stri ale lui sunt mutual accesibile.
O stare i S este absorbant (eng. absorbing state) dac qij = 0 pentru orice j S ,
astfel c, odat ce procesul a ajuns n aceast stare, nu o mai prsete.

3.3.4. Analiza regimului staionar


Similar cazului lanurilor Markov n timp discret, dac pentru o stare i S a unui lan
Markov n timp continuu exist limita
i = lim i (t ) = lim P [ X (t ) = i ] ,
(3.3.47)
t

aceasta se numete probabilitate de regim staionar (permanent) (eng. steady-state probability,


stationary state probability).
Dac probabilitatea de regim staionar exist pentru toate strile unui lan, atunci se
poate construi vectorul probabilitilor de regim staionar (eng. stationary state probability
vector), = lim (k ) = [1 , 2 , 3 ,] . n acest caz, se observ c pentru t , derivata
k

d (t ) dt 0 , deoarece pentru t suficient de mare, (t ) nu mai depinde de t. Cu aceast


observaie, prin trecere la limit n ecuaia diferenial (3.3.41) se obine ecuaia matriceal
algebric
Q = 0 ,
(3.4.48)
unde 0 noteaz vectorul linie cu toate elementele nule.
Analiza comportamentului de regim permanent al unui lan Markov omogen n timp
continuu este similar cu cea prezentat n cazul lanurilor omogene n timp discret.
Conceptele de ireductibilitate i recuren rmn valabile i n aceast situaie. Enunm n
continuare, fr demonstraie, cel mai important rezultat n acest sens (Cassandras, 1993),
echivalent teoremei 3.2.10 din cazul lanurilor discrete.
Teorema 3.3.1. ntr-un lan Markov omogen n timp continuu, ireductibil, ce const
numai din stri pozitiv recurente, exist i este unic vectorul distribuiei de probabilitate a
strii n regim staionar, = [1 , 2 , 3 ,] . Acest vector este independent de distribuia de

probabilitate a strii iniiale i se determin rezolvnd sistemul de ecuaii liniare


Q = 0 ,
= 1.
iS i
Scrierea pe componente a relaiei (3.3.41)1 sub forma
qij i = q jj j , j S ,

(3.3.49)

(3.3.50)

i j

arat c, n regim staionar, fluxul de probabilitate care intr n nodul j, Q (jin ) = i j qij i ,
este egal cu fluxul de probabilitate Q (jout ) = r j q jr j = q jj j care iese din nodul j.

Cap. 3. Lanuri Markov

117

Ca i n cazul discret, pentru un lan continuu ireductibil cu un numr finit de stri,


distribuia staionar de stare este unic determinat prin (3.3.49). n scopul rezolvrii pe
calculator a sistemului de ecuaii (3.3.49) pentru un lan Markov cu s stri, se noteaz cu E
matricea ptratic ( s s )i cu e vectorul linie ( 1 s ) care au toate elementele egale cu 1. Cu
aceste notaii se obine
(Q + E ) = e = e (Q + E )1 .
(3.3.51)
Fie un lan Markov omogen n timp continuu avnd matricea ratelor tranziiilor de
stare Q = [qij ] , pentru care exist distribuia de probabilitate a strii n regim staionar,
= [1 , 2 , 3 ,] . Pentru fiecare stare i S a lanului continuu, durata de meninere a strii
i, notat T (i ) , are distribuie exponenial de parametru (i ) = qii , valoarea sa medie fiind
M [T (i ) ] = 1 (i ) . Considerm lanul discret subordonat lanului continuu, precizat prin

matricea P e = [ Pij ] a probabilitilor tranziiilor de stare. Se noteaz cu e = 1e , 2e ,


vectorul distribuiei staionare de stare a lanului discret. ntre vectorii distribuiilor staionare
de stare corespunztori celor dou lanuri exist relaia

i =

ie M [T (i) ]
ie qii
=
, iS .
ej M [T ( j)] ej q jj
jS

(3.3.52)

jS

ie

Dac privim
ca frecven relativ cu care starea i apare ntr-o evoluia de stare a lanului
discret (aflat n regim staionar), putem interpreta probabilitatea i ca fracia de timp pe care
lanul continuu l petrece n starea i n regim staionar. Relaia (3.3.52) conduce la
i qii
ie =
, iS .
(3.3.53)
j q jj
jS

Exemplul 3.3.4. Revenim la lanul Markov n timp continuu din fig. 3.3.3.(a) care
modeleaz un server cu dou stri. Distribuia staionar a strii lanului = [ 1 2 ] se

determin prin rezolvarea sistemului de ecuaii (3.3.49), care conduce la


1 + 2 = 0,
= ( + ) ,
1

1 + 2 = 1,
2 = ( + ) ,
rezultat care este n concordan cu cel prezentat n Exemplul 3.3.3.
Dei lanul Markov n timp discret din fig. 3.3.3.(b), subordonat celui n timp
continuu, este periodic, exist un vector de probabilitate de stare e = [ 1e 2e ] care
satisface sistemul de ecuaii (3.2.38)
e
e
e
1 = 2 ,
1 = 1 2,

e
e
e
1 + 2 = 1,
2 = 1 2.
Relaiile (3.3.52) i (3.3.53) pot fi verificate cu uurin.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

118

3.3.5. Lanuri birth-death n timp continuu


Lanurile birth-death n timp continuu reprezint un tip particular de lan Markov omogen n
timp continuu frecvent ntlnit n studiul sistemelor de ateptare. ntr-un lan birth-death sunt
permise numai tranziiile ntre stri adiacente. Diagrama ratelor tranziiilor de stare
corespunztoare unui asemenea lan este prezentat n fig. 3.3.9. Facem observaia c strile
lanului sunt notate 0,1, 2, , n concordan cu semnificaia atribuit acestora n modelarea
sistemelor de ateptare, i anume de numr de clieni prezeni n sistem.

0
0

i 1

i-1

i
i+1

i +1

Fig. 3.3.9. Diagrama tranziiilor de stare pentru un lan birth-death continuu.


Rata tranziiei din starea i n starea i + 1 este qi ,i +1 = i > 0 , i = 0,1, , iar cea a
tranziiei din starea i n starea i 1 este qi ,i 1 = i > 0 , i = 1, 2, . Matricea ratelor de tranziie
are forma:

0
0
0
0
0

1
0
0
(1 + 1 )
1

(3.3.54)
Q= 0
(2 + 2 )
2
2
0 .

(3 + 3 ) 3
0
3
0

Analiza regimului tranzitoriu al unui lan birth-death conduce la soluii analitice


explicite numai n unele cazuri particulare. Notnd cu 0 (t ) , 1 (t ) , 2 (t ) , probabilitile
de stare, ecuaiile difereniale (3.3.45) satisfcute de acestea pot fi scrise direct, exploatnd
structura particular a lanului:
d 0 (t )
= 0 0 (t ) + 1 1 (t ) ,
(3.3.55)
dt
d i (t )
= (i + i ) i (t ) + i 1 i 1 (t ) + i +1 i +1 (t ) , i = 1, 2, .
(3.3.56)
dt
Considerm n continuare cazul unui flux Poisson de evenimente, care reprezint un
lan de tip pure birth (adic i = 0 pentru orice i = 1, 2, ). Starea lanului la momentul t 0
reprezint numrul de evenimente N (t ) care au avut loc n fluxul Poisson n intervalul de
timp [0, t ] . n plus, condiia (P3) impus unui asemenea flux de evenimente arat c ratele
tranziiilor de stare sunt constante, i = > 0 , pentru orice i = 0,1, 2, . n aceast situaie
ecuaiile (3.3.55) i (3.3.56) devin
d 0 (t )
= 0 (t ) ,
dt

(3.3.57)

Cap. 3. Lanuri Markov

119

d i (t )
= i (t ) + i 1 (t ) , i = 1, 2, .
(3.3.58)
dt
Considernd 0 (0) = 1 (i, implicit, i (0) = 0 , i = 1, 2, ), soluia ecuaiei (3.3.57) este

0 (t ) = e t , t 0 .

(3.3.59)

Pentru i = 1 , din (3.3.58) rezult


d 1 (t )
= 1 (t ) + e t .
dt
Impunnd condiia iniial 1 (0) = 0 , soluia acestei ecuaii este

(3.3.60)

1 (t ) = t e t , t 0 .

(3.3.61)

Prin inducie matematic complet se poate demonstra c

( t ) i t
i (t ) =
e , t 0.
(3.3.62)
i!
innd cont c i (t ) = P [ N (t ) = i ] , se observ c relaia (3.3.62) coincide cu (3.1.16).
Analiza regimului staionar al unui lan birth-death st la baza teoriei elementare a
sistemelor de ateptare. Presupunnd c exist distribuia staionar de stare = lim (t ) , din
t

(3.3.50) rezult
0 0 + 1 1 = 0 ,

(3.3.63)

(i + i ) i + i 1 i 1 + i +1 i +1 = 0 , i = 1, 2, .

(3.3.64)

Rezolvnd ecuaia (3.3.63) n raport cu 1 i scriind apoi (3.3.64) pentru i = 1 , se obine

1 =

0 , 2 = 0 1 0 .
1
12

(3.3.65)

Prin inducie matematic complet se poate demonstra c soluia general a ecuaiei (3.3.64)
este de forma
i 1
i = 0
, i = 1, 2, .
(3.3.66)
1 i 0
Impunnd condiia

i =0 i = 1, se obine probabilitatea

j
= 1.

j =0
j +1

i 1

0 1 +

i =1
Seria care intervine n relaia (3.3.67) este convergent dac i numai dac
i0

, i i0 :

i
<1,
i

(3.3.67)

(3.3.68)

caz n care se obine


1

i 1

0 = 1 + j .
(3.3.69)
i =1 j =0 j +1
Aceste relaii vor fi exploatate n capitolul 4, la studiul sistemelor de ateptare markoviene.

120

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

3.4. Lanuri Markov asociate reelelor Petri stohastice


Dinamica unui sistem de ateptare este pilotat de evenimentele de sosire a clienilor n sistem
i de plecare a acestora din sistem. Un model de tip lan Markov descrie compact comportarea
stohastic a sistemului, fr a permite evidenierea evenimentelor care determin producerea
tranziiilor de stare. De asemenea, n unele situaii, dimensiunea spaiului strilor unui model
de tip lan Markov poate deveni foarte mare fcnd dificil punerea n eviden a tranziiilor
de stare. Atunci cnd este modelat un sistem complex care prezint structuri repetitive,
generarea modelului de tip lan Markov poate fi uurat prin utilizarea formalismului reelelor
Petri. Un alt avantaj adus de modelarea cu reele Petri a sistemelor cu evenimente discrete
const n includerea n model a fenomenelor de sincronizare i concuren, ca i a prioritilor
care exist ntre diferite clase de clieni. Dac investigarea analitic a performanelor unui
sistem de ateptare complex poate fi anevoioas, chiar imposibil, prin simularea comportrii
acestuia utiliznd modelul de tip reea Petri corespunztor (utiliznd, evident, un software
adecvat) performanele sistemului pot fi determinate numeric.
Reele Petri au fost introduse de ctre Carl Adam Petri n 1962 (Petri, 1962).
Extinderea capacitii lor de modelare a avut n vedere includerea n model a informaiilor
temporale. Dintre diversele tipuri de reele Petri existente la ora actual (Pstrvanu, 1996),
(Pstrvanu et al., 2002), prezentm n continuare sumar numai reelele Petri stohastice i cele
stohastice generalizate, frecvent utilizate n studiul sistemelor de ateptare.

3.4.1. Concepte de baz n teoria reelelor Petri


O reea Petri (eng. Petri net) se compune dintr-un tip particular de graf orientat notat N i o
stare iniial M 0 , denumit marcaj iniial (eng. initial marking).
Graful N al reelei Petri este orientat, ponderat i bipartit, constnd din dou tipuri de
noduri, denumite poziii (eng. place) i respectiv tranziii (eng. transition); arcele orientate
(eng. arc) unesc fie o poziie cu o tranziie, fie o tranziie cu o poziie. Nu exist arce care s
conecteze dou poziii ntre ele, sau dou tranziii ntre ele. Ca simbolizare grafic, poziiile se
reprezint prin cercuri, iar tranziiile prin bare sau dreptunghiuri. Arcele sunt etichetate cu
ponderile lor (eng. weight) (valori ntregi, pozitive); un arc cu ponderea k poate fi privit ca o
mulime de k arce paralele cu pondere unitar. Etichetele pentru pondere unitar se omit n
reprezentrile grafice uzuale.
Un marcaj sau o stare atribuie fiecrei poziii un numr ntreg mai mare sau egal cu 0.
Dac un marcaj atribuie poziiei p ntregul k 0 , se spune c p este marcat cu k jetoane
(eng. token). Din punct de vedere grafic, n cercul corespunztor poziiei p se vor plasa k
discuri. Orice marcaj M este un vector coloan m-dimensional, unde m noteaz numrul total
al poziiilor. Componenta i a vectorului M = [ M ( p1 ) M ( p2 ) M ( pm )]T , notat M ( pi ) ,
reprezint numrul de jetoane din poziia pi. Din motive de concizie a scrierii, un marcaj va fi,
de asemenea, reprezentat prin m-uplul M = ( M ( p1 ), M ( p2 ), , M ( pm )) .
Definiia riguroas a unei reele Petri este urmtoarea.

Cap. 3. Lanuri Markov

121

O reea Petri este un cvintuplu, PN = ( P, T , F ,W , M 0 ) n care:


P = { p1 , p2 , , pm } este mulimea poziiilor sau locaiilor (finit);
T = {t1 , t2 , , tn } este mulimea tranziiilor (finit);

F ( P T ) (T P ) este mulimea arcelor;


W : F {1, 2,3,} este funcia de ponderare a arcelor;

M 0 : P {0,1, 2,3,} este funcia de marcaj iniial.

n problemele de modelare ce utilizeaz conceptele de condiii i evenimente, poziiile


reprezint condiii i tranziiile reprezint evenimente. O tranziie (eveniment) posed un
numr de poziii de intrare i ieire, care reprezint pre-condiii i respectiv post-condiii
pentru evenimentul n cauz. Prezena unui jeton ntr-o poziie trebuie neleas ca valoare
logic adevrat pentru condiia asociat respectivei poziii.
Marcajul unei reele Petri are semnificaia de stare a reelei i se poate modifica n
conformitate cu urmtorul procedeu denumit regula tranziiei (validare i executare).
a) Se spune c o tranziie t este validat (eng. enabled) dac fiecare poziie de intrare
(predecesor) p a lui t este marcat cu cel puin W ( p, t ) jetoane, unde W ( p, t )
noteaz ponderea arcului de la p la t.
b) O tranziie validat poate sau nu s fie executat sau declanat (eng. fired), dup
cum evenimentul asociat tranziiei are sau nu loc.
c) Executarea unei tranziii validate ndeprteaz W ( p, t ) jetoane din fiecare poziie de
intrare (predecesor) p a lui t i adaug W (t , p ) jetoane la fiecare poziie de ieire
(succesor) p a lui t, unde W (t , p ) este ponderea arcului de la t la p.
O tranziie fr nici o poziie de intrare se numete tranziie surs (eng. source). O
tranziie fr nici o poziie de ieire se numete tranziie receptor (eng. sink). Modul de
operare al acestor tranziii este urmtorul:
a) O tranziie surs este necondiionat validat (fr a fi obligatoriu ca s se execute);
executarea ei produce jetoane.
b) Executarea unei tranziii receptor consum jetoane, fr a produce jetoane.
Dac o poziie p este att poziie de intrare, ct i de ieire pentru o tranziie t, atunci p
i t formeaz o bucl autonom (eng. self-loop). O reea Petri care nu conine bucle autonome
se numete pur (eng. pure).
Pentru regula de validare a unei tranziii prezentat mai sus s-a presupus c fiecare
poziie are capacitate infinit. n modelarea sistemelor fizice este firesc a considera o limit
superioar a numrului de jetoane pe care l poate conine fiecare poziie, asociind fiecrei
poziii p capacitatea sa (eng. capacity), notat K(p), definit ca numrul maxim de jetoane ce
pot fi coninute n p. O astfel de reea se numete cu capacitate finit. ntr-o reea cu
capacitate finit, pentru validarea unei tranziii t este necesar urmtoarea condiie
suplimentar: numrul de jetoane n fiecare poziie de ieire p a lui t nu poate s depeasc
capacitatea poziiei respective, K(p), atunci cnd t s-ar executa.
Pe parcursul dezvoltrii teoriei reelelor Petri, pentru a extinde capacitatea lor de
modelare, au fost introduse noi elemente care au avut drept efect modificarea regulii de

122

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

validare i executare a tranziiilor. Un arc inhibitor conecteaz o poziie la o tranziie i are


rolul de a inversa logica de validare i executarea a acesteia. Tranziia respectiv este validat
numai dac numrul de jetoane din poziia de intrare a arcului inhibitor este strict mai mic
dect ponderea arcului. Arcul inhibitor se reprezint grafic printr-un segment ce conecteaz
cele dou noduri, avnd un mic cerc la captul dinspre tranziia inhibat.
n unele modele de tip reea Petri dou sau mai multe tranziii modeleaz evenimente
dintre care unul i numai unul se poate produce la un moment dat (evenimente n conflict).
Implicit se consider c probabilitile de apariie a acestor evenimente sunt egale. n cazul n
care aceast presupunere nu este n conformitate cu sistemul fizic modelat, probabilitile de
apariie a evenimentelor n conflict pot fi asignate n mod explicit ca probabiliti de executare
a tranziiilor care modeleaz evenimentele respective.
De asemenea, atunci cnd se dorete a impune modul de alegere a tranziiei care
urmeaz a fi executat dintre dou sau mai multe tranziii validate simultan se poate utiliza o
reea Petri cu prioriti care const dintr-o reea Petri obinuit i o relaie de ordine parial
ntre tranziiile reelei.
Pentru o reea Petri N cu un marcaj iniial M0, urmrind executarea secvenial a
tranziiilor, se pot determina marcajele succesive ale reelei. Aceste marcaje poart denumirea
de marcaje accesibile (eng. reachable marking) din M0. Mulimea tuturor marcajelor accesibile
din marcajul iniial M0 se noteaz prin R(M0). Se spune c o reea Petri cu capacitate
nelimitat este k-mrginit, sau, n limbaj prescurtat, mrginit (eng. bounded), dac numrul
de jetoane din fiecare poziie nu depete un numr finit k pentru orice marcaj accesibil din
marcajul iniial M0. Procesul de modificare a marcajului (strii) reelei poate fi descris ntr-o
manier sintetic printr-un arbore sau printr-un graf, ce poart denumirea de arbore, respectiv,
graf de accesibilitate (eng. reachability tree/graph).
Topologia unei reele Petri pure N (n care nu exist bucle autonome), cu n tranziii i
m poziii, poate fi descris compact prin matricea de inciden (eng. incidence matrix) a reelei,
o matrice A = [aij ] de dimensiune n m , ale crei elemente sunt numere ntregi:

aij = aij+ aij ; i = 1,..., n,

j = 1,..., m ,

(3.4.1)

unde:

aij+ = W (t i , p j ) este ponderea arcului de la tranziia ti, ctre poziia sa de ieire pj;
aij = W ( p j , t i ) este ponderea arcului ctre tranziia ti, de la poziia sa de intrare pj.
Forma matriceal a relaiei (3.4.1) este A = A+ A , unde matricele A + = [aij+ ] i A = [aij ]
sunt referite drept matrice de inciden de ieire, respectiv matrice de inciden de intrare.
Fie o reea Petri N, a crei topologie este descris prin matricea de inciden
nm
A
. Un vector mdimensional y > 0 , cu elementele numere ntregi se numete
invariant P al reelei dac Ay = 0 . Un vector ndimensional x > 0, cu elementele numere
ntregi, se numete invariant T al reelei dac AT x = 0 . Este evident faptul c pentru o reea
Petri pot exista mai muli invariani P i/sau mai muli invariani T. Mulimea poziiilor reelei
N care corespund elementelor nenule ale unui invariant P, notat y, se numete suportul

Cap. 3. Lanuri Markov

123

invariantului y. Mulimea tranziiilor reelei N care corespund elementelor nenule ale unui
invariant T, notat x, se numete suportul invariantului x.

3.4.2. Reele Petri stohastice


O reea Petri se numete stohastic (eng. stochastic Petri net SPN) dac fiecrei tranziii ti i
este asociat o variabil aleatoare Ti cu distribuie exponenial, care exprim ntrzierea din
momentul validrii pn la executarea tranziiei ti. Dac la un moment dat ntr-o reea Petri
stohastic mai multe tranziii sunt simultan validate, se va executa mai nti acea tranziie care
posed ntrzierea cea mai scurt. Prin urmare, ntr-o reea Petri stohastic, nu are sens
asignarea de probabiliti sau prioriti de executare pentru tranziiile aflate n conflict.
Conflictele se rezolv n mod natural, prin generarea duratelor corespunztoare tuturor
tranziiilor validate la momentul respectiv i selectarea acelei tranziii creia i corespunde cea
mai mic durat.
ntr-o reea Petri stohastic rata de executare a unei tranziii t poate fi dependent de
marcaj n sensul urmtor. Dac rata distribuiei exponeniale asociat tranziiei t este ,
atunci la un moment oarecare la care tranziia respectiv este q-validat, durata de executare a
lui t se genereaz dup o distribuie exponenial de rat q . Acest mecanism se utilizeaz,
de exemplu, atunci cnd numrul de jetoane din poziiile de intrare a lui t (adic ordinul de
validare al lui t) reprezint numrul de servere identice n paralel aflate n curs de servire a
clienilor, n ipoteza c duratele de servire pentru toate serverele au aceeai distribuie de rat
(eng. single-server versus multiple-server semantics).

3.4.3. Proprieti de conservare


Pentru studiul unei SPN, metodele de analiz a lanurilor Markov complementeaz metodele
generale de analiz a reelelor Petri. Rezultatele bazate pe invarianii de tip P sau T valabile
pentru reelele cu temporizare P sau T pot fi extinse la cazul reelelor Petri stohastice, pentru
care se poate vorbi despre conservarea marcajului mediu i despre frecvena medie de
executare a tranziiilor n regim permanent.
Se consider o reea Petri stohastic pur i mrginit (N, M0) cu n tranziii i m
poziii, a crei topologie este descris de matricea de inciden A = [aij ] de dimensiune n m .
Marcajul M (t ) al reelei N la momentul t 0 este un vector aleator de dimensiune m;
componenta i a acestui vector reprezint numrul de jetoane din poziia pi , i = 1, m , la acel
moment; marcajul iniial al reelei este M 0 = M (0) . Fie u(t ) = [u1 (t ) u2 (t ) ... un (t )]T vectorul

a crui component u j (t ) , j = 1, n , este variabila aleatoare discret ce reprezint numrul de


executri ale tranziiei t j , j = 1, n , n intervalul de timp [0, t ) .
n orice moment t 0 vectorii M (t ) i u(t ) sunt legai prin relaia temporal:
M (t ) = M 0 + AT u(t ), t 0 ,

(3.4.2)

astfel c valorile medii ale celor doi vectori aleatori considerai satisfac relaia:

M[ M (t )] = M 0 + AT M[u(t )] , t 0 .

(3.4.3)

124

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Dac vectorul y m , y > 0 , este un invariant P al reelei ( A y = 0 ), atunci


vectorul marcajului mediu M[ M (t )] satisface
M[ M (t )]T y = M 0T y (= constant) , t 0 .

(3.4.4)

Considernd c procesul stohastic de marcaj este ergodic i staionar, adic M (t )


converge ctre aceeai limit finit M = [ M ( p1 ) M ( p2 ) M ( pm )]T att n medie
temporal ct i n medie probabilistic, atunci M se numete vector de marcaj mediu n
regim permanent i verific relaia

M T y = M 0T y .

(3.4.5)

Aceast relaie arat c suma ponderat a marcajelor medii din poziiile


corespunztoare suportului unui invariant P este egal cu suma ponderat a marcajelor iniiale
din acele poziii.
Considernd c procesul stohastic de executare a tranziiilor este ergodic, adic u(t )
converge ctre aceeai limit finit u = [u1 u 2 u m ]T att n medie temporal ct i n
medie probabilistic, atunci u se numete vector al frecvenelor medii de executare a
tranziiilor n regim permanent i verific relaia
AT u = 0 .
+ T

(3.4.6)
T

Scriind relaia (3.4.6) n forma ( A ) u = ( A ) u , aceasta exprim conservarea


fluxului de jetoane ntr-o reea Petri stohastic mrginit: n regim permanent, fluxul de
jetoane care intr n orice poziie este egal cu fluxul de jetoane care iese din acea poziie.
n aceeai ipotez de ergodicitate pentru procesele de marcaj i de executare a
tranziiilor, formula lui Little furnizeaz timpul mediu de staionare a unui jeton ntr-o poziie
pi , i = 1, m , notat d ( pi ) , ca raportul dintre marcajul mediu al acelei poziii n regim
permanent i suma ponderat a frecvenelor medii de executare a tranziiilor de intrare n pi,
M ( pi )
d ( pi ) = + T ,
( Ai ) u

(3.4.7)

unde Ai+ reprezint coloana i a matricei de inciden de intrare A+ .

3.4.4. Construcia lanului Markov asociat unei reele Petri stohastice


Deoarece distribuiile exponeniale ce caracterizeaz ntrzierile n executarea tranziiilor nu
au memorie, evoluia marcajului unei reele Petri stohastice reprezint un proces Markov
omogen. Este demonstrat faptul c graful de accesibilitate al unei reele Petri stohastice
mrginite este izomorf cu un lan Markov n timp continuu omogen (Murata, 1989).
Lanul Markov n timp continuu asociat unei reele Petri stohastice mrginite (N, M0)
(pentru care ratele de executare a tranziiilor sunt dependente sau nu de marcajul poziiilor
predecesor) se obine din graful de accesibilitate al acesteia n modul urmtor:
se consider mulimea marcajelor accesibile din M0, notat R(M0), ca fiind spaiul
strilor lanului Markov, S = R( M 0 ) , i fie s cardinalul lui R(M0);

Cap. 3. Lanuri Markov

125

pentru i j , rata tranziiei din starea Mi n starea Mj este dat de qij = k , unde k

este frecvena de executare a tranziiei tk ce transform marcajul Mi n marcajul Mj. Ca


o generalizare, qij se definete ca fiind:
k
, executarea tranziiei tk transform

marcajul M i n marcajul M j ,

+ + ..., executarea tranziiilor tk1 , tk 2 ... transform


(3.4.8)
qij = k1 k 2
marcajul M i n marcajul M j ,

0
, nu exist nici o tranziie care s transforme

marcajul M i n marcajul M j ;
pentru i = j , rata qii se determin din relaia:
s

qij = 0
j =1

qii = qij .

(3.4.9)

j =1
j i

Dac reeaua Petri stohastic (N, M0) este mrginit i reversibil, adic
M 0 R( M ), M R( M 0 ) (ceea ce implic faptul c graful de accesibilitate al reelei este
tare conex), atunci ea genereaz un lan Markov ergodic. Notnd Q = [qij ] matricea ratelor de
tranziie (de dimensiune s s ) a lanului Markov, distribuia staionar de stare a lanului
poate fi determinat prin rezolvarea sistemului de ecuaii liniare:
Q = 0,
s
(3.4.10)
= 1,

i =1
n care = [1 2 , ... s ] este vectorul probabilitilor de regim staionar, i fiind
probabilitatea ca reeaua Petri s fie n starea Mi, i = 1, s .

3.4.5. Evaluarea performanelor unei reele Petri stohastice


Utiliznd notaiile introduse mai sus, performanele de regim permanent ale unei reele Petri
stohastice (N, M0) mrginite i reversibile, pot fi evaluate dup cum urmeaz (Murata, 1989),
(David et Alla, 1992):
(i) probabilitatea ndeplinirii unei anumite condiii particulare reprezentat printr-o
submulime B de marcaje accesibile din M0, B R(M0), ce au o anumit proprietate:
P { B} = i ;
(3.4.11)
M i B

(ii) valoarea medie a numrului de jetoane M ( pi ) dintr-o poziie pi care este


k-mrginit:
k

M ( pi ) = n P {B(i, n)} ,

(3.4.12)

n =1

unde B(i, n) este o submulime din R(M0) n care numrul de jetoane din poziia pi
este n;

126

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


(iii) numrul mediu de executri ale tranziiei tj n unitatea de timp:
u j = i j ,

(3.4.13)

M i B j

unde Bj este setul strilor (marcajelor) din R(M0) pentru care tranziia tj este validat,
i este probabilitatea ca reeaua Petri s fie n starea Mi, j este frecvena de
executare a tranziiei tj din marcajul Mi;
(iv) gradul mediu de utilizare a tranziiei tj:

j =

M i B j

j
qii

(3.4.14)

unde Bj este setul strilor (marcajelor) din R(M0) pentru care tranziia tj este validat,
i este probabilitatea ca reeaua Petri s fie n starea Mi, j este frecvena de
executare a tranziiei tj din marcajul Mi, qii reprezint suma de frecvene (rate) de
executri ale tranziiilor validate n starea Mi.
Exemplul 3.4.1. Se consider reeaua Petri stohastic prezentat n fig. 3.4.1
(Murata, 1989). Tranziia t2 se execut cu o rat dependent de marcajul poziiei
predecesor, adic m2 2 , unde m2 noteaz marcajul curent al poziiei p2. Ratele de
executare corespunztoare tranziiilor t1, t3, t4 i t5, notate 1 , 3 , 4 i, respectiv, 5 ,
sunt independente de marcajul poziiilor predecesor avnd urmtoarele valori numerice:
1 = 5 = 0.5 s-1 i 2 = 3 = 4 = 1 s-1.

Fig. 3.4.1. Reeaua Petri stohastic studiat n Exemplul 3.4.1.


Ilustrm n continuare evaluarea performanelor de regim permanent ale reelei
Petri stohastice. Fig. 3.4.2 prezint arborele de accesibilitate corespunztor acesteia,
determinat cu ajutorul pachetului de programe Petri Net Toolbox pentru Matlab
(Pstrvanu et al., 2002), n mod automat, pe baza topologiei i marcajului iniial al
reelei.

Cap. 3. Lanuri Markov

127

Fig. 3.4.2. Arborele de accesibilitate al reelei Petri stohastice din fig. 3.4.1.
Considernd marcajele M0, M1, , M5, din fig 3.4.2 drept stri ale lanului
Markov asociat reelei i aplicnd algoritmul prezentat n seciunea 3.4.4 rezult lanul
Markov n timp continuu din fig. 3.4.3.

1 + 5
M0

M1

2
3
4
1 + 5

4
4
M5

M2

1 + 5
M3

2 2

M4

Fig. 3.4.3. Lanul Markov asociat reelei Petri stohastice din fig. 3.4.1.
Matricea ratelor de tranziie de stare are forma:
1 + 5
3
1 3 5

1 2 3 5
2
0

1 3 4 5
4
0

Q=
0
22
0

4
2
0

4
0
0

innd cont de valorile numerice din enun, rezult:

0
1 + 5
0
22
0
0

0
3
1 + 5
0
2 4
0

0
0

3
.
0
0

128

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


2 1 1 0
1 3 0 1

1 0 3 0
Q=
0 2 0 2
0 1 1 0

0 0 1 0
Distribuia strii lanului n regim permanent,

0
1 0

1 1
.
0 0
2 0

0 1
= [ 0 1 2 3 4 5 ] , soluie a

sistemului de ecuaii (3.4.10), este 0 = 1 = 2 = 4 = 5 = 2 /11 i 3 = 1/11 . Pe baza


acestora pot fi evaluate urmtoarele performane ale reelei:
numrul mediu de jetoane n unitatea de timp din fiecare poziie a reelei: se
calculeaz aplicnd relaia (3.4.12). De exemplu, n poziia p1 se pot afla: 2 jetoane
n marcajul M0, 1 jeton n marcajul M1 i 1 jeton n marcajul M2, astfel c se obine
8
M ( p1 ) = 2 0 + 1 + 2 = = 0, 7273 .
11
Un raionament similar conduce la
6
8
M ( p2 ) = 1 + 2 3 + 4 = = 0,5455 , M ( p3 ) = 2 + 4 + 2 5 = = 0,7273 ,
11
11
8
M ( p4 ) = 2 + 4 + 2 5 = = 0, 7273 .
11
Vectorul de marcaj mediu n regimul permanent de funcionare a reelei este
T
M = [8 11 6 11 8 11 8 11] ;
numrul mediu de executri n unitatea de timp pentru fiecare tranziie a reelei: se
calculeaz aplicnd relaia (3.4.13). De exemplu, tranziia t2 se execut cu rata 2
din marcajele M1 i M4, i cu rata 22 din marcajul M3, astfel c rata sa medie de
executare este
6
u2 = 2 1 + 22 3 + 2 4 = = 0,5455 .
11
Analog se calculeaz
3
6
u1 = 1 0 + 1 1 + 1 2 = = 0, 2727 , u3 = 3 0 + 3 1 + 3 2 = = 0,5455 ,
11
11
6
3
u4 = 4 2 + 4 4 + 4 5 = = 0,5455 , u5 = 5 0 + 5 1 + 5 2 = = 0, 2727 .
11
11
Vectorul frecvenelor medii de executare a tranziiilor n regimul permanent de
funcionare a reelei este
T
u = [3 11 6 11 6 11 6 11 3 11] ;
gradul mediu de utilizare al fiecrei tranziii din reea: se calculeaz aplicnd
relaia (3.4.14). Notnd elementele diagonalei principale a matricei Q prin
q00 = (1 + 3 + 5 ) , q11 = (1 + 2 + 3 + 5 ) , q22 = (1 + 3 + 4 + 5 ) ,
q33 = 22 , q44 = (2 + 4 ) , q55 = 4 ,
rezult urmtoarele valori:

Cap. 3. Lanuri Markov

1 =

0 +

2 =

7
= 0,106 ,
66

2 =

7
= 0, 2121 ,
33

q11
q22

8
2 = 2 1 + 2 3 + 2 4 = = 0, 2424 ,
q11
q33
q44
33

3 =

q00

1 +

129

q00

4 =

0 +

q22

q11

2 +

1 +

q44

q22

4 +

q55

1
3

5 = = 0,333 ,

7
= 0,106 ;
q00
q11
q22
66
timpul mediu de staionare a unui jeton ntr-o poziie: se calculeaz aplicnd
formula lui Little (3.4.7). Matricea de inciden care descrie topologia reelei este
1 0 0 0
0 1 0 0
1 1 0 0
0 1 0 0
1 0 0 0
1 1 0 0

A = 1 0 0 0 , A+ = 0 0 1 1 A = 1 0 1 1 .

0 0 1 1
1 0 0 0
1 0 1 1
1 0 0 0
0 1 0 0
1 1 0 0
Duratele medii de staionare a unui jeton n fiecare poziie a reelei au valorile
M ( p )
2
M ( p )
d ( p1 ) = + T 1 = , d ( p2 ) = + T 2 = 1 ,
3
( A1 ) u
( A2 ) u

5 =

d ( p3 ) =

0 +

1 +

2 =

M ( p3 )
M ( p4 )
4
4

d
(
p
)
=
=
=
,
.
4
( A4+ )T u 3
( A3+ )T u 3

Legea de conservare a marcajului mediu (3.4.8) este de asemenea verificat. Se


T
T
observ c vectorii y1 = [1 1 1 0] i y2 = [1 1 0 1] sunt invariani P ai reelei
( y > 0 , A y = 0 ) i c vectorul marcajului mediu n regim permanent satisface relaia

M T y1 = M 0T y1 = 2 , M T y2 = M 0T y2 = 2 .
De asemenea, vectorul u al frecvenelor medii de executare a tranziiilor n regim
permanent satisface (3.4.9)
AT u = 0 .
Rezultatele obinute analitic pot fi comparate cu cele obinute prin simularea
dinamicii reelei pe o durat de 30.000 s n mediul Petri Net Toolbox. Indicatorii globali
obinui sunt prezentai n fig. 3.4.4, separat pentru (a) tranziiile i, respectiv,
(b) poziiile reelei. Numrul mediu de jetoane n unitatea de timp din fiecare poziie a
reelei este precizat de indicatorul Queue Length. Numrul mediu de executri n
unitatea de timp pentru fiecare tranziie a reelei este precizat de indicatorul Service
Rate. Gradul de utilizare al fiecrei tranziii din reea este precizat de indicatorul
Utilization.

130

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

(a)

(b)

Fig. 3.4.4. Indicatorii globali de performan referitori la: (a) tranziiile i (b) poziiile
reelei Petri din fig. 3.4.1, corespunztori unei durate de funcionare de 30.000 s.

3.4.6. Reele Petri stohastice generalizate


Reelele Petri stohastice generalizate (eng. generalized stochastic Petri net GSPN) au fost
introduse pentru a extinde capacitatea de modelare a reelelor stohastice. ntr-o GSPN, n
afar de tranziii cu temporizare de tip exponenial exist i tranziii netemporizate (imediate).
Tranziiile imediate modeleaz evenimente a cror apariie are loc instantaneu. n cazul n

Cap. 3. Lanuri Markov

131

care dou sau mai multe tranziii imediate sunt n conflict, acestora le pot fi asignate
probabilitile de apariie a evenimentelor pe care le modeleaz. n plus, ntre tranziii
netemporizate se pot impune prioriti de executare. O GSPN poate conine, de asemenea,
arce inhibitoare avnd rolul de a inversa logica de validare i executare a unor tranziii.
Dac ntr-o reea Petri stohastic generalizat pentru un anumit marcaj sunt validate
att tranziii imediate ct i tranziii temporizate, se execut numai tranziiile imediate. Dac
mai multe tranziii imediate sunt n conflict, numai una dintre ele se execut, n conformitate
cu probabilitile sau prioritile asignate acestora. Un marcaj al unei GSPN pentru care cel
puin o tranziie netemporizat este validat se numete marcaj invizibil (eng. vanishing
marking). Marcajele pentru care sunt validate numai tranziii temporizate se numesc marcaje
tangibile (eng. tangible markings).
O reea stohastic generalizat, ce conine att marcaje tangibile ct i marcaje
invizibile este, de asemenea, izomorf cu un lan Markov continuu care se obine n acelai
mod ca i n cazul unei reele Petri stohastice. Eliminnd din acest lan Markov marcajele
invizibile i tranziiile netemporizate se obine lanul Markov redus pentru care probabilitile
staionare de stare exist dac reeaua este mrginit i reversibil. Aceste condiii restrictive
sunt numai suficiente, nu i necesare, putnd fi nclcate n cazul n care modelarea unui
sistem sub form de GSPN se realizeaz pornind de la lanul Markov corespunztor i
impunnd pentru acesta condiiile de stabilitate (de regim permanent).
Exemplul 3.4.2. (Sistem de ateptare M/M/1/2). Fie un sistem de fabricaie compus
dintr-o main M (server) i un depozit D (fir de ateptare), capacitatea sistemului
(main + depozit) fiind limitat la dou piese (clieni) (fig. 3.4.5). Dac exist loc liber
n depozit, piesele intr n depozitul D dup un proces Poisson cu rata . Ori de cte ori
maina M este liber i exist o pies n depozit, aceasta este preluat imediat pe
main. Durata de prelucrare a pieselor pe maina M are distribuie exponenial cu rata
. La momentul iniial depozitul este gol i maina este neutilizat.
2 piese
sosire
piese

plecare
piese
depozit
(D)

main
(M)

Fig. 3.4.5. Reprezentare schematic a sistemului de fabricaie din Exemplul 3.4.2.


Reeaua Petri stohastic generalizat ce descrie funcionarea acestui sistem este
prezentat n fig. 3.4.6.(a), n care sunt modelate explicit cele dou situaii n care se
poate gsi o pies (client) n sistem, anume ateptnd n depozit (poziia p1) sau n curs
de prelucrare (servire) (poziia p2). Tranziiile t1 i t3 modeleaz procesele de sosire i,
respectiv, de servire a clienilor, fiind temporizate, duratele de timp asignate lor avnd
distribuie exponenial de rat , respectiv . Tranziia t2, care modeleaz trecerea unei

132

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


piese din depozit pe main, nu este temporizat. Reeaua stohastic din fig. 3.4.6.(b), n
care ambele tranziii sunt temporizate, reprezint un model compact al aceluiai sistem.

(a)
(b)
Fig. 3.4.6. Reelele Petri: (a) generalizat stohastic i (b) stohastic
ce modeleaz sistemul de fabricaie din fig. 3.4.5.
Fig. 3.4.7 prezint arborii de accesibilitate corespunztori celor dou reele Petri din
fig. 3.4.6, obinui cu ajutorul pachetului de programe Petri Net Toolbox pentru Matlab
(Pstrvanu et al., 2002). Pentru reeaua stohastic generalizat marcajele M1 i M2 sunt
invizibile, tranziia imediat t2 fiind validat. Prin eliminarea acestor marcaje, lanul
Markov asociat reelei va avea trei stri, corespunztoare marcajelor M0, M3 i M4.

(a)

(b)
Fig. 3.4.7. Arborii de accesibilitate ai reelelor din:
(a) fig. 3.4.6.(a) i (b) fig. 3.4.6.(b).

Considernd c starea sistemului de fabricaie este indicat de numrul de clieni


prezeni n sistem, marcajul M0 corespunde strii notat 0 nici o pies n sistem,
marcajul M3 corespunde strii 1 o singur pies n sistem (n curs de prelucrare), iar
marcajul M4 corespunde strii 2 dou piese n sistem (una n curs de prelucrare i
una n depozit). Tranziiile din 0 n 1 i din 1 n 2 au loc cu rata (rata de sosire
a clienilor n sistem), iar tranziiile din 2 n 1 i din 1 n 0 au loc cu rata (rata
de servire). Lanul Markov corespunztor este prezentat n fig. 3.4.8.

Cap. 3. Lanuri Markov

133

Fig. 3.4.8. Lanul Markov asociat reelelor Petri din fig. 3.4.6.
La acelai lan Markov se ajunge i analiznd reeaua stohastic din fig. 3.4.6.(b),
cele trei stri ale lanului Markov (cu aceeai semnificaie fizic de mai sus) avnd drept
corespondent marcajele M0, M1 i M2. Matricea ratelor de tranziie de stare
corespunztoare lanului Markov din fig. 3.4.4 este

Q = ( + ) .
0


Distribuia staionar de probabilitate de stare, = [ 0 1 2 ] , se determin din

condiia (3.4.10)
= 1 + + 2 1 ,
( )
0

Q
=
0
,

1 = ( ) 0 ,

0 + 1 + 2 = 1,

2
2 = ( ) 0.

-1
Pentru valorile numerice = 1 s i = 2 s-1, rezult 0 = 4 7 , 1 = 2 7 i
2 = 1 7 , cu semnificaia de fracie de timp pe care sistemul (funcionnd n regim
staionar) l petrecere n fiecare dintre cele trei stri.
Pe baza probabilitilor de stare corespunztoare regimului staionar al sistemului
se pot calcula performanele de regim permanent ale reelei Petri stohastice generalizate
din fig. 3.4.6.(a), i anume:
numrul mediu de jetoane n unitatea de timp din fiecare poziie a reelei: se
calculeaz aplicnd relaia (3.4.12), lund ns n considerare numai marcajele
tangibile. De exemplu, n poziia p1 se pot afla: 0 jetoane n marcajul M0, 0 jetoane
n marcajul M3 i 1 jeton n marcajul M4. Se obin valorile:
1
3
M ( p1 ) = 0 0 + 0 1 + 2 = = 0,1429 , M ( p2 ) = 01 + 1 + 2 = = 0, 4286 ,
7
7
4
10
M ( p3 ) = 1 + 01 + 0 2 = = 0,5714 , M ( p4 ) = 2 0 + 1 + 0 2 = = 1, 4286 .
7
7
Vectorul de marcaj mediu n regimul permanent de funcionare a reelei este
T
M = [1 7 3 7 4 7 10 7 ] ;

numrul mediu de executri n unitatea de timp pentru fiecare tranziie a reelei:


pentru tranziiile temporizate se aplic relaia (3.4.13), lund ns n considerare
numai marcajele tangibile. De exemplu, tranziia t1 se execut cu rata din
marcajele M0 i M3, astfel c rata sa medie de executare este

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

134

u1 = 0 + 1 =

6
= 0,8571 .
7

Analog, pentru tranziia t3 se obine


6
= 0,8571 .
7
Pentru tranziia imediat t2, din modul n care a fost construit lanul Markov pe
baza grafului de accesibilitate se observ c va avea aceeai rat de executare ca i
tranziia t3, astfel c u2 = u3 .
u3 = 1 + 2 =

Vectorul frecvenelor medii de executare a tranziiilor n regimul permanent de


funcionare a reelei este
T
u = [ 6 7 6 7 6 7 ] ;

gradul mediu de utilizare al fiecrei tranziii din reea: se calculeaz aplicnd


relaia (3.4.14). Elementele diagonalei principale a matricei ratelor tranziiilor sunt
q00 = = 1 , q11 = ( + ) = 3 , q22 = = 2 ,
q33 = 22 , q44 = (2 + 4 ) , q55 = 4 ,

Pentru tranziiile temporizate din reea rezult urmtoarele valori:

7
1 = 1 0 + 1 1 + 1 2 =
= 0,106 ,
q00
q11
q22
66

7
= = 0, 2121 ;
q00
q11
q22 2 33
timpul mediu de staionare a unui jeton ntr-o poziie: se calculeaz aplicnd
formula lui Little (3.4.7). Matricea de inciden care descrie topologia reelei este
0 0 0 1
1 0 0 0
1 0 0 1

A = 1 0 1 0 , A = 0 1 0 0 A = 1 1 1 0 .

0 1 0 0
0 0 1 1
0 1 1 1

3 =

0 +

1 +

Duratele medii de staionare a unui jeton n fiecare poziie a reelei au valorile


M ( p )
1
M ( p )
1
d ( p1 ) = + T 1 = , d ( p2 ) = + T 2 = ,
6
2
( A1 ) u
( A2 ) u
M ( p3 )
M ( p4 )
5
2

d ( p3 ) = + T = , d ( p4 ) = + T = .
3
3
( A4 ) u
( A3 ) u

Legea de conservare a marcajului mediu (3.4.8) este de asemenea verificat. Se


T
T
observ c vectorii y1 = [ 0 1 1 0] i y2 = [1 1 0 1] sunt invariani P ai reelei
( y > 0 , A y = 0 ) i c vectorul marcajului mediu n regim permanent satisface relaia

M T y1 = M 0T y1 = 1 , M T y2 = M 0T y2 = 2 .
De asemenea, vectorul u al frecvenelor medii de executare a tranziiilor n regim
permanent satisface (3.4.9)
AT u = 0 .

Cap. 3. Lanuri Markov

135

(a)

(b)
Fig. 3.4.9. Indicatorii globali pentru: (a) tranziiile i (b) poziiile
reelei Petri din fig. 3.4.6.(a).
Performanele de regim permanent ale reelei Petri pot fi puse n coresponden cu
performanele sistemului de fabricaie modelat, dup cum urmeaz:
numrul mediu de piese aflate n depozit n unitatea de timp (numrul mediu de
clieni din firul de ateptare) este M ( p1 ) = 1 7 piese;

numrul mediu de piese prelucrate pe main n unitatea de timp (numrul mediu


de clieni servii) este M ( p2 ) = 3 7 piese. Aceast valoare reprezint, de
asemenea, gradul de utilizare a mainii (serverului);
frecvena real de sosire a pieselor n sistem (rata efectiv de sosire a clienilor)
este u1 = 6 7 s-1;

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

136

frecvena real de prelucrare a pieselor pe maina M (rata de plecare a clienilor):


este u3 = 6 7 s-1, fiind egal cu frecvena real de sosire a pieselor;

timpul mediu de ateptare pentru o pies este d ( p1 ) = 1 6 s;

timpul mediu de prelucrare a unei piese este d ( p2 ) = 1 2 s. Aa cum era de


ateptat, aceast durat egal cu valoarea medie a variabilei aleatoare cu distribuie
exponenial de rat = 2 s-1 ce reprezint durata de prelucrare a unei piese.

Prin simularea n mediul Petri Net Toolbox a funcionrii sistemului de fabricaie


pe o durat de 25.000 s se obin indicatorii globali prezentai n fig. 3.4.9 pentru
tranziiile i poziiile reelei stohastice generalizate din fig. 3.4.2.(a). Cititorul este
invitat s pun n coresponden rezultatele determinate analitic cu cele obinute prin
simulare.
n Exemplul 4.5.1 din seciunea 4.5, pentru acest sistem de fabricaie (privit ca
sistem de ateptare de tip M/M/1/2), sunt comparate performanele teoretice cu cele
obinute prin simularea bazat pe modelul de tip reea Petri stohastic corespunztor.

Capitolul 4
Sisteme de ateptare markoviene

Ah, All things come to those who wait.


They come, but often come too late.
Marie Curie

4.1. Modelarea matematic a sistemelor de ateptare


4.1.1. Notaia lui Kendall
n capitolul 1 au fost prezentai, fr a intra n detalii de factur matematic, factorii care
influeneaz comportarea unui sistem de ateptare. n continuare, sunt formalizate matematic
elementele caracteristice ale unui sistem de ateptare avnd schema de baz din fig. 4.1.1.
Fir de ateptare
(coad)
Sosire
clieni

A(t )

( )

Server
B (t )

( )

Plecare
clieni

Fig. 4.1.1. Schema unui sistem simplu de ateptare.


Un sistem de ateptare este complet specificat dac sunt precizate urmtoarele elemente:
1. modelele stohastice ale proceselor de sosire i de servire a clienilor;
2. parametrii structurali ai sistemului: numrul de servere, m, capacitarea firului de
ateptare (cozii) (inclusiv clientul/clienii aflai n curs de servire), K, i mrimea
populaiei din care provin clienii (eng. calling population), p;
3. regulile de operare a sistemului: condiiile n care clienii care sosesc sunt acceptai n
sistem, servirea preferenial (dup prioriti) a diferitelor clase de clieni, ordinea
servirii clienilor (FIFO First In First Out, LIFO Last In First Out, RS Random
Service).

138

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Procesului de sosire a clienilor i este asociat secvena stohastic {T1 , T2 ,} , unde Tk


reprezint intervalul de timp dintre sosirea clientului k 1 i a clientului k. Se presupune c
variabilele aleatoare {T1 , T2 ,} sunt independente, identic distribuite, astfel c exist o
singur distribuie de probabilitate

A(t ) = P [T t ] , t 0 ,

(4.1.1)

care descrie complet secvena aleatoare. Rata medie de sosire a clienilor (eng. average arrival
rate) este dat de
1
=
>0.
(4.1.2)
M[T ]
n mod asemntor, procesului de plecare a unui client i este asociat secvena
stohastic {Z1 , Z 2 ,} , unde Z k reprezint durata de servire a clientului k. Se presupune c
variabilele aleatoare {Z1 , Z 2 ,} sunt independente, identic distribuite, astfel c exist o
singur distribuie de probabilitate

B(t ) = P [ Z t ] , t 0 ,

(4.1.3)

care descrie complet secvena aleatoare. Rata medie de servire a clienilor (eng. average
service rate) este dat de
1
=
>0
(4.1.4)
M[ Z ]
i, mpreun cu rata de sosire a clienilor, joac un rol deosebit de important n teoria
sistemelor de ateptare.
Pentru a descrie compact un sistem de ateptare, n anul 1953 David G. Kendall a
introdus notaia de forma A / B / m, creia i-au mai fost adugate dou simboluri, K i p, n
anul 1968 de ctre Alec M. Lee. Astzi, descriptorul
A/B/m/K/p
este unanim acceptat pentru caracterizarea unui sistem de ateptare i este denumit notaia lui
Kendall. Semnificaia simbolurilor care intervin este urmtoarea:
A i B precizeaz distribuiile de probabilitate ale duratelor dintre sosiri i ale
duratelor de servire i au urmtoarele valori:
M distribuie markovian (exponenial) de probabilitate,
Ek distribuie Erlang de ordinul k,
Hk distribuie hiperexponenial de ordinul k,
Ck distribuie Cox de ordinul k,
G distribuie general (oarecare) de probabilitate,
D durate deterministe (constante);
m reprezint numrul de servere din sistem;
K reprezint capacitatea firului de ateptare (inclusiv clienii n curs de servire);
p este dimensiunea populaiei din care provin clienii.
n sistemele elementare de ateptare se consider c poate sosi un singur client la un moment
dat i exist o singur clas de clieni pentru care regula de servire este FIFO. Implicit att
capacitatea firului de ateptare ct i populaia din care provin clienii sunt infinite i n

Cap. 4. Sisteme de ateptare markoviene

139

aceast situaie nu mai este necesar specificarea lor, parametrii K i p fiind precizai numai n
cazul n care au valori finite. Dac p este finit, se spune c sistemul de ateptare este nchis
(eng. closed queueing system); n caz contrar sistemul este deschis (eng. open queueing system).
Exemple:
M / M / 1 noteaz un sistem de ateptare cu un singur server i capacitate infinit.
Duratele dintre sosirile consecutive ale clienilor i duratele de servire au
distribuii exponeniale, A(t ) = 1 e t i B (t ) = 1 e t , unde parametrii
, > 0 reprezint rata de sosire i, respectiv, rata de servire, a clienilor.
M / E3 / 1 / 10 noteaz un sistem de ateptare cu un singur server i capacitate egal cu 10
(n sistem se pot afla cel mult 10 clieni simultan, 9 clieni n firul de
ateptare i unul n curs de servire). Duratele dintre sosirile consecutive ale
clienilor au distribuii exponeniale. Duratele de servire au distribuie
Erlang de ordinul 3.
M / D / 1 / / 100 noteaz un sistem de ateptare nchis, cu un singur server, capacitate
infinit, populaia de clieni are 100 elemente. Duratele dintre sosirile
consecutive ale clienilor au distribuii exponeniale. Duratele de servire
sunt constante.
Cele mai simple sisteme de ateptare sunt cele de tip markovian, n care duratele de
timp dintre dou sosiri consecutive n sistem i duratele de servire ale clienilor au repartiii
exponeniale de probabilitate. Asemenea sisteme de ateptare pot fi modelate ca lanuri
Markov de tip birth-death. Reamintim faptul c n ipoteza c duratele de timp dintre dou
sosiri consecutive au distribuii exponeniale, fluxul de sosire a clienilor n sistem este de tip
Poisson.

4.1.2. Dinamica unui sistem de ateptare


Dinamica sistemului de ateptare este pilotat de evenimentele de sosire i de plecare a
clienilor. Considerm sistemul simplu de ateptare din fig. 4.1.1, de tip G/G/1 avnd
disciplina de servire de tip FIFO. Fie Yk momentul sosirii n sistem a clientului k i Dk
momentul plecrii acestuia, k = 1, 2, (fig. 4.1.2).
Sk
sosire
0

Wk
Yk

nceput servire
plecare

Zk
Dk 1

Dk

Fig. 4.1.2. Ilustrare grafic a duratelor de interes pentru clientul k.


Durata petrecut de clientul k n sistem (eng. system time),
S k = Dk Yk ,

(4.1.5)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

140

are dou componente: durata de ateptare (eng. waiting time), Wk , i durata de servire (eng.
service time), Z k ,
S k = Wk + Z k ,

(4.1.6)

astfel nct din relaiile (4.1.5) i (4.1.6) se obine


Dk = Yk + Wk + Z k .

(4.1.7)

S5

N a (t )

S4

3
S3

S2

N d (t )

S1

(a)

T1

T2

T3

T4

T5

X (t )

W2

Z1

W3

Z2

W5

Z3

Z4

Z5

(b)

Fig. 4.1.3. Exemplu de traiectorie de stare a unui sistem de ateptare.


Pe traiectoria de stare a sistemului de ateptare prezentat n fig. 4.1.3 se observ c, la sosirea
clientului k, sunt posibile dou situaii:
1. dac nu exist clieni n sistem, atunci clientul curent este servit imediat, Wk = 0 .
Aceasta se ntmpl atunci cnd clientul k 1 a prsit sistemul naintea sosirii
clientului k, adic Dk 1 Yk (cu convenia D0 = 0 ). Aadar, are loc echivalena
Dk 1 Ak 0 Wk = 0 ;

(4.1.8)

2. dac exist clieni n sistem, servirea celui de-al k-lea client ncepe atunci cnd clientul
k 1 prsete sistemul, astfel nct
Dk 1 Yk > 0 Wk = Dk 1 Yk .
(4.1.9)

Cap. 4. Sisteme de ateptare markoviene


Din relaiile (4.1.8) i (4.1.9) rezult
Wk = max {0, Dk 1 Yk } ,

141

k = 1, 2, .

(4.1.10)

Deoarece pentru clientul k 1 relaia (4.1.7) se scrie


Dk 1 = Yk 1 + Wk 1 + Z k 1 , k = 1, 2, ,

(4.1.11)

i Yk Yk 1 = Tk (cu convenia Y0 = W0 = Z 0 = 0 ), expresia din (4.1.10) poate fi adus la forma


Wk = max {0, Wk 1 + Z k 1 Tk } ,

k = 1, 2, ,

(4.1.12)

referit drept ecuaia lui Lindley, de recuren a duratelor de ateptare.


Pentru duratele totale petrecute de clieni n sistem se obine formula de recuren
Sk = Z k + Wk = Z k + max {0, S k 1 Tk } , k = 1, 2, .
(4.1.13)
Similar, pentru momentele la care clienii prsesc sistemul exist relaia
Dk = Yk + Wk + Z k = Yk + Z k + max {0, Dk 1 Yk } =

= Z k + max {Yk , Dk 1} ,

k = 1, 2,

(4.1.14)

Ecuaiile (4.1.12) (4.1.14) au caracter general, nu depind de legea de distribuie a


duratelor dintre sosirile clienilor i nici de cea a duratelor de servire. Aceste ecuaii pot fi
utilizate pentru simularea oricrui sistem simplu de ateptare.

4.1.3. Performanele sistemelor de ateptare


Secvena stohastic a duratelor de ateptare {W1 ,W2 ,} furnizeaz informaii cu privire la
performanele sistemului de ateptare. Distribuia de probabilitate a lui Wk , P[Wk t ] ,
depinde, n general, de k. n continuare presupunem c pentru k exist o distribuie
staionar de probabilitate a duratelor de ateptare, P[W t ] , astfel nct:
lim P [Wk t ] = P [W t ] .
(4.1.15)
k

Dac aceast limit exist, atunci variabila aleatoare W descrie durata de ateptare a unui
client n regimul staionar de funcionare a sistemului. Intuitiv, dup un timp suficient de mare
de funcionare a sistemului de ateptare, duratele de ateptare a clienilor sunt identice din
punct de vedere statistic, fiind descrise de repartiia P[W t ] . Valoarea medie M[W ]
reprezint durata medie de ateptare (eng. mean waiting time) a unui client n regimul staionar
de funcionare a sistemului.
Similar, se presupune c pentru duratele petrecute de clieni n sistem exist o
distribuie staionar de probabilitate
lim P [ S k t ] = P [ S t ] .
(4.1.16)
k

Valoarea M[ S ] reprezint durata medie petrecut de un client n sistem (eng. mean system
time) n regimul staionar de funcionare a sistemului de ateptare.
Fie X (t ) {0,1, 2,} variabila aleatoare ce descrie numrul total de clieni din sistem
(lungimea cozii eng. queue length) la momentul t 0 . Se presupune c exist distribuia
staionar
not

lim P [ X (t ) = n ] = P [ X = n ] = n , n = 0,1, 2, .

(4.1.17)

142

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Valoarea M[ X ] reprezint numrul mediu de clieni din sistem (lungimea medie a cozii
eng. average queue length) n regimul staionar de funcionare a sistemului de ateptare.
n analiza regimului staionar al unui sistem de ateptare, performanele care
intereseaz de cele mai multe ori sunt:
durata medie de ateptare a unui client, M[W ] ,
durata medie petrecut de un client n sistem, M[ S ] ,
numrul mediu de clieni din sistem, M[ X ] ,
care trebuie meninute la valori ct mai mici, ca i
gradul de utilizare a serverului (eng. utilization), adic fracia de timp ct serverul
este ocupat,
rata cu care clienii prsesc sistemul dup ce au fost servii (eng. throughput),
care este de dorit s aib valori ct mai mari. Se poate observa c rata cu care clienii prsesc
sistemul nu poate depi rata de sosire a clienilor n sistem. n plus, dac sistemul de
ateptare ajunge n regim staionar, cele dou rate trebuie s fie egale.
Pentru un sistem simplu de ateptare de tip G/G/1, cu un singur server cu disciplina de
servire de tip FIFO, avnd rata de sosire a clienilor i durata medie de servire M[ Z ] = 1 ,
gradul de utilizare a serverului este

s = M[ Z ] =

(4.1.18)

Deoarece serverul poate servi efectiv cel mult 1 client n unitatea de timp, condiia ca sistemul
de ateptare s ajung s funcioneze n regim permanent (denumit i condiie de echilibru a
sistemului) este
s < 1 < .
(4.1.19)
Pentru un sistem simplu de ateptare de tip G/G/m, cu m servere identice, cu disciplina
de servire de tip FIFO, avnd rata de sosire a clienilor i durata medie de servire pentru
fiecare server M[ Z ] = 1 , gradul de utilizare a fiecrui server este

s =

M[ Z ]
m

.
m

(4.1.20)

Condiia ca sistemul de ateptare de tip G/G/m, cu m servere identice, s ajung s


funcioneze n regim permanent este
s < 1 < m .
(4.1.21)

4.1.4. Legea lui Little


Legea lui Little precizeaz c (Cassandras, 1993), ntr-un sistem de ateptare aflat n regim
staionar, numrul mediu de clieni din sistem este proporional cu durata medie petrecut de
un client n sistem, constanta de proporionalitate fiind rata medie de sosire a clienilor n
sistem:
M [ X ] = M[S ] .
(4.1.22)

Cap. 4. Sisteme de ateptare markoviene

143

Aceast lege este fundamental n analiza sistemelor de ateptare. Ea poate fi aplicat oricrui
sistem, indiferent de tipul proceselor de sosire i de servire a clienilor (singura condiie
impus acestor procese este de a fi staionare) i indiferent de regulile de operare a sistemului.
De asemenea, legea lui Little poate fi aplicat reelelor de ateptare cu configuraie arbitrar,
ca i oricrui subsistem al unui reele de ateptare.
La baza justificrii legii lui Little st reprezentarea grafic din fig. 4.1.3.(a), o
traiectorie de stare a unui sistem de ateptare, n care N a (t ) i N d (t ) reprezint numrul de
clieni care au intrat n, respectiv, au plecat din sistem pn la momentul t. Numrul de clieni
din sistem la momentul t este
X (t ) = N a (t ) N d (t ) .
(4.1.23)
Aria din plan, U (t ) , cuprins ntre cele dou curbe corespunztoare realizrilor proceselor
N a (t ) i N d (t ) corespunde timpului total (cumulat) petrecut de clieni n sistem, astfel nct
timpul mediu petrecut de un client n sistem pn la momentul t are expresia
U (t )
S (t ) =
N a (t )

(4.1.24)

i numrul mediu de clieni din sistem


U (t )
.
t
Pe de alt parte, rata de sosire a clienilor din sistem este dat de
N (t )
(t ) = a .
t
Din relaiile (4.1.24) (4.1.26) rezult
X (t ) = (t ) S (t ) .

(4.1.27)

n ipoteza c sistemul ajunge s funcioneze n regim permanent, exist limitele


lim (t ) = ,

(4.1.28)

X (t ) =

lim S (t ) = M[ S ] ,

(4.1.25)

(4.1.26)

(4.1.29)

egale cu rata medie de sosire a clienilor n sistem, respectiv, durata medie petrecut de un
client n sistem. n acest caz exist i limita
lim X (t ) = M[ X ] ,
(4.1.30)
t

ce reprezint numrul mediu de clieni din sistem (lungimea medie a cozii).


Legea lui Little a fost utilizat n mod intuitiv pentru analiza sistemelor de ateptare cu
mult timp nainte de a fi demonstrat riguros n anul 1961 de ctre John Little.
Legea lui Little poate fi aplicat i considernd numrul mediu de clieni din firul de
ateptare (n loc de ntregul sistem), notat M[ X Q ] , i durata medie de ateptare (n locul
duratei medii petrecute n sistem), notat M[W ] , conducnd la
M[ X Q ] = M[W ] .

(4.1.31)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

144

4.1.5. Sisteme simple de ateptare de tip markovian


Considerm un sistem de ateptare simplu (fig. 4.1.1) n care duratele dintre sosirile a doi
clieni consecutivi n sistem i duratele de servire a clienilor au distribuii exponeniale.
Asemenea sisteme de ateptare pot fi modelate ca lanuri Markov de tip birth-death pentru
care starea lanului (sistemului de ateptare) este reprezentat de numrul de clieni din firul
de ateptare (fig. 4.1.4).

0
0

i 1

i-1

i
i

i+1

i +1

Fig. 4.1.4. Modelul de tip lan birth-death al unui sistem de ateptare markovian.
Performanele de regim permanent ale sistemelor de ateptare pot fi evaluate pe baza
distribuiei staionare a numrului de clieni din sistem, n = P [ X = n ] , n = 0,1, .
Reamintim faptul c, din analiza prezentat n seciunea 3.3.5, condiia ca aceast distribuie
de probabilitate s existe (sistemul s fie stabil) este dat de (3.3.68)
n0

, n n0 :

n
<1,
n

(4.1.32)

caz n care se obine


1

n1
0 = 1 + 0 1
,
n =1 12 n
n1
n = 0
, n = 1, 2, .
1 n 0

(4.1.33)
(4.1.34)

4.2. Sisteme de ateptare M/M/1


Un sistem de ateptare de tip M/M/1 este caracterizat prin:
capacitate infinit a firului de ateptare: K = ;
un singur server: m = 1 ;
disciplina de servire a clienilor este cea implicit: FIFO;
fluxul de sosire a clienilor n sistem este de tip Poisson, duratele dintre sosirile
clienilor n sistem sunt variabile aleatoare independente identic distribuite (i.i.d.)
cu distribuie exponenial de rat > 0 :
1
P [T t ] = 1 e t , t 0 , M [T ] = ;
(4.2.1)

duratele de servire a clienilor sunt variabile aleatoare i.i.d. cu distribuie


exponenial de rat > 0 :

Cap. 4. Sisteme de ateptare markoviene

P [ Z t ] = 1 e t , t 0 ,

M [Z ] =

145

(4.2.2)

Modelul de tip lan birth-death al unui sistem de ateptare de tip M/M/1 este
reprezentat n fig. 4.2.1.

n-1

n+1

Fig. 4.2.1. Lanul birth-death corespunztor unui sistem de ateptare M/M/1.


Condiia (4.1.32) ca sistemul de ateptare de tip M/M/1 s fie stabil devine

<1 0 < < .


(4.2.3)

Notnd intensitatea traficului (eng. traffic intensity) n sistem cu = , condiia de


stabilitate a sistemului este 0 < < 1 . n acest caz probabilitile de stare n regim staionar au
expresiile
0<


0 = P [ X = 0] = 1 +
n =1

= 1 + n
n =1

1
=

= 1 ,

(4.2.4)

n = P [ X = n ] = 0 = n (1 ) , n = 1, 2, .
(4.2.5)

Aceste relaii arat c numrul de clieni din sistem X are distribuie geometric modificat de
parametru 1 (vezi 2.4.1.5). Pe baza semnificaiei fizice a probabilitilor n , n = 0,1, ,
rezult urmtoarele performane de regim staionar pentru sistemul de ateptare de tip M/M/1.
Gradul de utilizare a serverului
Acesta poate fi calculat observnd c serverul este utilizat ori de cte ori exist cel puin un
client n sistem, astfel nct gradul su de utilizare este egal cu
s = 1 0 = < 1 .
(4.2.6)
Rata de plecare a clienilor din sistem
Un client poate prsi sistemul atunci cnd exist cel puin un client n sistem; rata de plecare
a clienilor este dat de
(1 0 ) = = ,
(4.2.7)

fiind egal cu rata de sosire a clienilor n sistem.

146

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Numrul mediu de clieni din sistem


Distribuia de probabilitate a numrului de clieni din sistemul M/M/1 n regim staionar este
dat de relaiile (4.2.4) i (4.2.5). Valoarea medie corespunztoare este

n=0

n =0

M [ X ] = n n = (1 ) n n .
Suma seriei din relaia (4.2.8) se calculeaz observnd c este satisfcut relaia:
d n
1
n 1
n
n n ,

=
=

d n =0 n =1
n=0

(4.2.8)

(4.2.9)

astfel c

n =
n =0

1
1

1
1
n n =
.

n =0
(1 )2

d dt

(4.2.10)

Din (4.2.8) i (4.2.10) rezult c numrul mediu de clieni din sistemul de ateptare de
tip M/M/1 este

M[ X ] =
.
(4.2.11)
1
Numrul mediu de clieni din firul de ateptare
Numrul mediu de clieni din firul de ateptare se obine scznd din numrul mediu de clieni
din sistem ( M[ X ] ) numrul mediu de clieni aflai n curs de servire, adic ,

M[ X Q ] = M [ X ] =

2
.
1

(4.2.12)

Durata medie petrecut de un client n sistem


Indiferent de disciplina de servire, durata medie petrecut de un client n sistemul de tip
M/M/1 se obine aplicnd legea lui Little (4.1.22):
1

1
1
=
=
.
(4.2.13)
M [S ] = M [ X ] =

(1 ) (1 )
Durata medie petrecuta de un client in sistemul M/M/1

20

15

M[ S ]

=1
10

1/
0

0.2

0.4

0.6

0.8

Gradul de utilizare a serverului ( )

Fig. 4.2.2. Reprezentarea grafic a dependenei duratei medii petrecute de un client ntr-un
sistem de ateptare de tip M/M/1 n funcie de gradul de utilizare a serverului.

Cap. 4. Sisteme de ateptare markoviene

147

Se observ c lim M[ X ] = + i lim M[ S ] = + . Interpretarea fizic a acestor relaii


1

conduce la concluzia c, ncercarea de a crete gradul de utilizare a serverului ( 1 )


conduce la creterea numrului mediu de clieni din sistem. La sosirea unui nou client acesta
gsete un numr foarte mare de clieni ateptnd n coad, astfel nct crete si timpul
petrecut de acesta n sistem. Fig. 4.2.2 reprezint grafic dependena duratei medii M[ S ] n
funcie de gradul de utilizare a serverului pentru = 1 .
Durata medie de ateptare
Numai n cazul n care disciplina de servire a clienilor este FIFO, durata medie petrecut de
un client n firul de ateptare poate fi calculat ca diferena dintre durata medie petrecut de
un client n sistem i durata medie de servire:
M [W ] = M [ S ] M [ Z ] =

(1 )

2
(1 )

.
( )

(4.2.14)

Se observ c, aa cum era de ateptat, lim M[W ] = + .


1

Probabilitatea de ateptare la coad


Probabilitatea ca un client care sosete n sistem s gseasc serverul ocupat i s atepte la
coad (eng. queueing probability) este
PQ = P [ X 1] = 1 0 = .
(4.2.15)

De asemenea, se poate demonstra c distribuia de probabilitate a duratei petrecute de


un client n sistem este exponenial de parametru (1 ) = :
P [ S t ] = 1 e ( )t , t 0 ,
iar distribuia de probabilitate a duratei de ateptare este dat de:
P [W > t ] = e( )t , t 0 .

(4.2.16)
(4.2.17)

Exemplul 4.2.1. Se consider un server la care sosesc taskuri dup un proces


Poisson de rat = 1 min-1. Se dorete determinarea valorii ratei de servire a
taskurilor astfel nct durata medie de ateptare pentru fiecare task s nu depeasc
0,5 min. Considernd un model de tip M/M/1 pentru acest sistem de ateptare, impunem
condiia M[W ] 1 2 . Din relaia (4.2.14) se obine
1
1

( 1) 2 2 2 0
( 1) 2
2.
sistemul este stabil > 1
Pentru = 2 min-1, gradul de utilizare a serverului este = 0, 5 . Numrul mediu de
taskuri din bufferul care precede serverul este M[ X Q ] = 2 (1 ) = 0,5 . Durata medie
de ateptare n buffer este M [W ] = 0,5 min.

Distribuia de probabilitate a duratei de ateptare este dat de


P [W > t ] = 0,5et , t 0 ,

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

148

avnd reprezentarea grafic din fig. 4.2.3. Probabilitatea ca un task s atepte mai mult
de 0,5 min pn la nceputul servirii este
P [W > 0,5] = 0,5e 0,5 = 0,3033 .
Durata de asteptare
0.5
0.45
0.4
0.35

=1, =2

P[W < t]

0.3
0.25
0.2
0.15
0.1
0.05
0

Fig. 4.2.3. Reprezentare grafic a distribuiei duratei de ateptare a unui task


pentru sistemul de ateptare M/M/1 cu = 1 min-1 i = 2 min-1.
n continuare sunt prezentate trei metode de simulare numeric a sistemului de
ateptare de tip M/M/1.
Sistem M/M/1

50
45
40

= 1, = 2

Numar de clienti

35
30
25
20
15
10

# IN
# OUT

5
0

10

15

20

25

30

35

40

45

50

Timp

Fig. 4.2.4. Numrul de taskuri sosite la server i numrul de taskuri servite ntr-un
sistemul de ateptare M/M/1 cu = 1 min-1 i = 2 min-1.
Prima metod utilizat se bazeaz pe implementarea n Matlab a relaiilor
prezentate n paragraful 4.1.2. Programul Matlab utilizat n acest scop este prezentat n
Anexa 1. Fig. 4.2.4 prezint numrului de taskuri sosite la server vs. numrul de taskuri
servite pentru = 1 min-1 i = 2 min-1 pe o durat de 50 min. Simulnd funcionarea
sistemului pe o durat de 20.000 min se obin valorile de 19.996 taskuri servite complet,
de 0,4825 min pentru durata medie de ateptare, de 0,4952 min pentru durata medie de
servire i de 0,9777 min pentru durata medie petrecut de un task n sistem.

Cap. 4. Sisteme de ateptare markoviene

149

A doua metod de simulare se bazeaz pe modelarea sistemului prin reeaua Petri


stohastic generalizat (GSPN) din fig. 4.2.5 i simularea n mediul Petri Net Toolbox
pentru Matlab.

Fig. 4.2.5. Modelul de tip GSPN al unui sistem de ateptare de tip M/M/1.

(a)

(b)
Fig. 4.2.6. Indicatorii globali pentru: (a) tranziiile i (b) poziiile reelei Petri
din fig. 4.2.4 corespunztori unei durate de simulare de 20.000 min.
Tranziiile denumite Sosire i Servire sunt temporizate, fiindu-le asignate durate de
timp cu distribuie exponenial de rat = 1 min-1 i, respectiv, = 2 min-1, i

150

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


modeleaz cele dou procese stohastice de sosire i de servire a clienilor. Tranziia
denumit In este netemporizat, corespunznd evenimentului de scoatere a unui client
(task) din firul de ateptare Q i nceperea servirii acestuia. Poziiile denumite Q, SW i
SI modeleaz firul de ateptare (bufferul), operaia de servire i respectiv,
disponibilitatea serverului (a resursei). Marcajul iniial al reelei are semnificaia c, la
momentul iniial, nu exist nici un client (task) n sistem.
Prin simularea funcionrii reelei pe o durat de 20.000 min se obin indicatorii
globali prezentai n fig. 4.2.6 pentru tranziiile i poziiile acestei reele Petri stohastice
generalizate. Se observ c au fost servite 20.018 taskuri n total. Rata de sosire a
clienilor n sistem este egal cu rata de plecare din sistem, avnd valoarea de
1,0009 min-1 (indicatorul Arrival Rate pentru toate poziiile, egal cu indicatorul Service
Rate pentru toate tranziiile modelului). Numrul mediu de clieni din firul de ateptare
este 0,504 (indicatorul Queue Length pentru poziia Q), iar gradul de utilizare a
serverului este 0,501 (indicatorul Queue Length pentru poziia SW). Durata medie de
ateptare este de 0,503 min (indicatorul Waiting Time pentru poziia Q) i durata medie
de servire este de 0,501 min (indicatorul Waiting Time pentru poziia SW).
Cea de a treia metod utilizat pentru simularea sistemului de ateptare M/M/1 cu
= 1 min-1 i = 2 min-1 utilizeaz mediul Arena. Modul de construire a modelului
din fig. 4.2.7 este prezentat sumar n Anexa 2. Fig. 4.2.7 prezint i rezultatele obinute
la sfritul simulrii funcionrii sistemului pe durata de 50 min.

Fig. 4.2.7. Modelul utilizat n mediul Arena pentru simularea unui sistem de ateptare
de tip M/M/1 i rezultatele obinute prin simulare pe o durat de 50 min.

Cap. 4. Sisteme de ateptare markoviene

151

Fig. 4.2.8. Rezultate obinute prin simularea n mediul Arena a unui sistem
de ateptare de tip M/M/1 pe o durat de 20.000 min.
Ca i n cazurile precedente, funcionarea sistemului a fost simulat i pe durata de
20.000 min, situaie n care au fost servite complet un numr de 19.852 taskuri. Durata
medie de ateptare n coad este de 0,497 min, numrul mediu de clieni din coad este
0,491, iar gradul de utilizare a serverului 0,497 (fig. 4.2.8).
Se poate observa c rezultatele obinute prin cele trei metode de simulare a
sistemului M/M/1 au fost foarte apropiate de rezultatele teoretice.
Exemplul 4.2.2. Viteza de transmitere a datelor ntr-un sistem de comunicaii este
C = 1.200 bii/s. Fluxul de sosire a mesajelor n sistem este de tip Poisson de rat .
Un mesaj const din L bii, lungimea mesajului fiind o variabil aleatoare cu distribuie
exponenial de medie M[ L] = 600 bii. Se pune problema determinrii valorii maxime
a ratei de sosire a mesajelor astfel nct durata medie de ateptare corespunztoare
unui mesaj s fie cel mult 1 s.
Modelm sistemul de comunicaii ca sistem de ateptare de tip M/M/1, pentru care
serverul este reprezentat de linia de comunicaii, durata medie de servire a unui client
(mesaj) fiind M[ S ] = M[ L] C = 0,5 s. Rata medie de servire a clienilor (mesajelor)
este = 1 M[ S ] = 2 mesaje/s. n ipoteza c gradul de utilizare a serverului satisface
relaia


= <1 < 2 ,
2

durata medie de ateptare a unui client (mesaj) este

=
.
( ) 2(2 )
Impunnd condiia M[W ] 1 s se obine 4 3 mesaje/s.
M [W ] =

152

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Sistem de ateptare M/M/1 cu dou clase de clieni


Se consider un sistem de ateptare de tip M/M/1 care servete dou clase de clieni. Sosirea
clienilor de tipul 1 are loc dup un proces Poisson de rat 1 , iar a clienilor de tipul 2 dup
un proces Poisson de rat 2 . Cele dou procese de sosire a clienilor sunt independente.
Pentru ambele tipuri de clieni, durata de servire are distribuie exponenial de medie 1 .
Presupunem c
1 + 2 < 1 ,
(4.2.18)

unde

i =

i
, i = 1, 2 ,

(4.2.19)

reprezint gradul de ocupare a serverului datorit clienilor de tipul i. Clienii de tipul 1 (cu
prioritate de nivel 1) sunt servii cu prioritate fa de clienii de tipul 2(cu prioritate de nivel
2). n continuare sunt studiate dou tipuri de reguli de prioritate: prioritate absolut, cu
reluarea servirii clientului de tipul 2 din punctul n care a fost ntrerupt servirea la sosirea
clientului de tipul 1, i prioritate relativ.
A. Prioritate absolut
Considerm clienii de tipul 1 ca avnd prioritate absolut de servire fa de clienii de tipul 2.
Dac n cursul servirii clientului de tipul 2 apare un client de tipul 1, servirea clientului curent
este ntrerupt, acesta fiind trimis din nou n firul de ateptare, i ncepe servirea clientului
nou sosit. Clienii de tipul 1 sunt servii n ordinea sosirii. Atunci cnd n sistem nu mai exist
nici un client de tipul 1 este reluat servirea clientului de tipul 2 din punctul n care a fost
ntrerupt la sosirea clientului de tipul 1 (eng. pre-emptive resume priority).
Fie variabilele aleatoare X i i Si care reprezint numrul de clieni de tipul i din
sistem, respectiv durata petrecut n sistem de un client de tipul i. n continuare vom
determina valorile medii M[ X i ] i M[ Si ] pentru i = 1, 2 .
Pentru clienii de tipul 1, clienii de tipul 2 nu exist. Din relaia (4.2.11) rezult
imediat
M [ X1 ] =

1
.
1 1

Legea lui Little pentru clienii de tipul 1 se scrie sub forma


1
1
1
=
.
M [ S1 ] = M [ X1 ] =
1
(1 1 ) 1

(4.2.20)

(4.2.21)

Deoarece pentru clienii de tipul 2 durata de servire nentrerupt ca i durata rezidual


de servire (rmas pn la terminarea servirii din punctul n care a fost ntrerupt la sosirea
unui client de tipul 1) au distribuie exponenial de medie 1 , numrul total de clieni din
sistem (de ambele tipuri) nu depinde de ordinea n care acetia sunt servii. Din punctul de
vedere al numrului total de clieni, sistemul de ateptare se comport ca i cum clienii ar fi
servii n ordinea sosirii (cu rata = 1 + 2 ), indiferent de prioriti. Rezult c

Cap. 4. Sisteme de ateptare markoviene


M [ X1 ] + M [ X 2 ] =

1 + 2
.
1 1 2

153

(4.2.22)

Din relaiile (4.2.20) i (4.2.22) se obine


+ 2

2
M[X2 ] = 1
1 =
.
1 1 2 1 1 (1 1 )(1 1 2 )
Aplicarea legii lui Little pentru clienii de tipul 2 conduce la
1
1
.
M [ S2 ] = M [ X 2 ] =
2
(1 1 )(1 1 2 )

(4.2.23)

(4.2.24)

B. Prioritate relativ
Considerm n continuare cazul n care clienii de tipul 1 au prioritate relativ de servire fa
de clienii de tipul 2. Dac n cursul servirii unui client de prioritate 2 apare un client de
prioritate 1, servirea clientului curent este continuat, clientul de prioritate 2 fiind servit abia
dup terminarea servirii clientului curent (eng. non pre-emptive priority). Cu acelai notaii ca
la punctul A, durata total petrecut de un client de tipul 1 n sistemul de ateptare este
1 1
1
(4.2.25)
M [ S1 ] = M [ X1 ] + + 2 ,

relaie care exprim faptul c un client de tipul 1 nou sosit trebuie s atepte servirea clienilor
de acelai tip sosii naintea sa, sau terminarea servirii unui client de tipul 2. Probabilitate ca
un client de tipul 2 s gseasc serverul ocupat de un client de tipul 2 este egal cu fracia de
timp ct serverul este ocupat cu servirea unui client de tipul 2, adic 2 .
Aplicarea legii lui Little pentru clienii de tipul 1 este
M [ X 1 ] = 1 M [ S1 ] ,
care mpreun cu (4.2.25) conduce la
M [ X 1 ] = 1 M [ X 1 ] + 1 + 1 2

M [ X1 ] =

(4.2.26)

1 (1 + 2 )
,
1 1

(4.2.27)

astfel c
M [ S1 ] =

1 + 2
.
(1 1 )

(4.2.28)

Relaia (4.2.22) este satisfcut i n cazul n care clienii de tipul 1 au prioritate


relativ de servire. Rezult c numrul mediu de clieni de tipul 2 din sistemul de ateptare
este
(1 + 2 ) 2 [1 1 (1 1 2 )]
+ 2
.
(4.2.29)
M[X2] = 1
1
=
1 1 2
1 1
(1 1 )(1 1 2 )
Aplicarea legii lui Little pentru clienii de tipul 2 conduce la
1 1 (1 1 2 )
1
M [ S2 ] = M [ X 2 ] =
.
2
(1 1 )(1 1 2 )

(4.2.30)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

154

Pentru ambele tipuri de prioriti analizate mai sus, durata medie de ateptare a unui
client de fiecare nivel de prioritate se determin utiliznd relaiile
1
1
(4.2.31)
M [W1 ] = M [ S1 ] , respectiv M [W2 ] = M [ S 2 ] .

Numrul mediu de clieni de fiecare tip care se gsesc n firul de ateptare este
M X 1Q = M [ X 1 ] 1 , respectiv M X 2Q = M [ X 2 ] 2 .

(4.2.32)

Exemplul 4.2.3. Se consider un sistem de ateptare de tip M/M/1 care servete


dou clase de clieni ce sosesc dup dou procese Poisson independente, cei de tipul 1
cu rata 1 = 0, 2 s-1, iar cei de tipul 2 cu rata 2 = 0, 6 s-1. Pentru ambele tipuri de
clieni, duratele de servire au distribuie exponenial de rat = 1 s-1. Gradul de
ocupare a serverului datorit clienilor de tipul 1 este 1 = 0, 2 , iar datorit clienilor de
tipul 2 este 2 = 0, 6 .
n cazul n care clienii sunt servii n ordinea sosirii indiferent de prioriti, durata
medie petrecut de un client n sistem este
1
= 5 s.
M [S ] =
1 0, 2 0, 6
Dac servirea clienilor de tipul 1 se realizeaz cu prioritate absolut fa cea a
clienilor de tipul 2 se obine
0, 2
1
M [ X1 ] =
= 0, 25 clieni, M [ S1 ] =
= 1, 25 s,
1 0, 2
1 0, 2
M[X2 ] =

0, 6
1
= 3, 75 clieni, M [ S2 ] =
= 6, 25 s.
(1 0, 2 )(1 0,8)
(1 0, 2 )(1 0,8)

n situaia servirii clienilor de tipul 1 cu prioritate relativ fa de clienii de tipul 2


duratele petrecute n sistem de clienii de cele dou tipuri sunt
0, 2 (1 + 0,8 )
1 + 0, 6
= 2 s,
M [ X1 ] =
= 0, 45 clieni, M [ S1 ] =
1 0, 2
1 0, 2
M[X2] =

0, 6 [1 0, 2 (1 0,8 )]

(1 0, 2 )(1 0,8)

= 3, 6 clieni, M [ S2 ] =

1 0, 2 (1 0, 2 0, 6 )
= 6 s.
(1 0, 2 )(1 0, 2 0, 6 )

Fig. 4.2.9 prezint modelul de tip reea Petri stohastic generalizat utilizat pentru
simularea funcionrii sistemului de ateptare de tip M/M/1 cu prioritate relativ n
servirea clienilor de tipul 1 fa de cea a clienilor de tipul 2. Duratele asignate
tranziiilor temporizate Sosire1 i Sosire2 au distribuii exponeniale de rate 1 = 0, 2 i,
respectiv, 2 = 0, 6 , iar cele asignate tranziiilor Servire1 i Servire 2 au distribuii

Cap. 4. Sisteme de ateptare markoviene

155

exponeniale de rat = 1 . Arcul inhibitor ce conecteaz poziia Q1 (corespunztoare


firului de ateptare pentru clienii de tipul 1) la tranziia In2 (corespunztoare
evenimentului de ncepere a servirii unui client de tipul 2) modeleaz prioritatea relativ
a clienilor de tipul 1 fa de clienii de tipul 2.

Fig. 4.2.9. Modelul de tip GSPN al unui sistem de ateptare de tip M/M/1
cu dou tipuri de clieni cu prioritate relativ de servire.
Fig. 4.2.10 prezint indicatorii globali pentru poziiile reelei Petri din fig. 4.2.9
corespunztori simulrii n mediul Petri Net Toolbox a servirii unui numr total de
10.000 de clieni. Aceste rezultate numerice pot fi puse cu uurin n coresponden cu
rezultatele teoretice prezentate mai sus.

Fig. 4.2.10. Indicatorii globali pentru poziiile reelei Petri din fig. 4.2.9
corespunztori simulrii servirii unui numr total de 10.000 de clieni.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

156

4.3. Sisteme de ateptare M/M/m


Un sistem de ateptare de tip M/M/m (fig. 4.3.1) este caracterizat prin:
capacitate infinit a firului de ateptare: K = ;
fluxul de sosire a clienilor n sistem este de tip Poisson, duratele dintre sosirile
clienilor n sistem sunt variabile aleatoare independente identic distribuite (i.i.d.)
cu distribuie exponenial de rat > 0 :
1
P [T t ] = 1 e t , t 0 , M [T ] = ;
(4.3.1)

un numr de m servere identice;


pentru fiecare server n parte, duratele de servire a clienilor sunt variabile
aleatoare i.i.d. cu distribuie exponenial de rat > 0 :

P [ Z t ] = 1 e t , t 0 ,

M [Z ] =

1
;

(4.3.2)

disciplina de servire a clienilor este cea implicit: FIFO.

Sosire
clieni

Plecare
clieni
Fir de ateptare

m servere
identice
Fig. 4.3.1. Schema unui sistem de ateptare de tip M/M/m.

La sosirea unui client n sistem, dac exist servere libere, clientul respectiv poate fi
servit de oricare dintre servere. Dac toate serverele sunt ocupate, atunci clientul ateapt la
coad. Se observ c rata efectiv de servire a sistemului depinde de numrul n de clieni
aflai n sistem. Dac n sistem sunt mai puini clieni dect servere, n < m , atunci fiecare
client este n curs de servire, astfel nct rata servirii este egal cu n . Dac numrul de
clieni din sistem depete numrul de servere, n m , atunci toate cele m servere sunt
ocupate i n m clieni ateapt la coad, rata efectiv de servire fiind m .
Modelul de tip lan birth-death al sistemului de ateptare de tip M/M/m este
reprezentat n fig. 4.3.2. Cu notaiile utilizate n fig. 4.1.4 pentru un lan birth-death general,
n cazul sistemului de ateptare de tip M/M/m ratele corespunztoare naterilor sunt date de
n = , n = 0,1, 2, ,
(4.3.3)
iar ratele corespunztoare morilor sunt

Cap. 4. Sisteme de ateptare markoviene

157

n , dac 1 < n < m,


m , dac n m.

n = min(n, m) =

(4.3.4)

Condiia (4.1.32) ca sistemul de ateptare de tip M/M/m s fie stabil devine

0<
< 1 0 < < m ,
m

(4.3.5)

adic rata sosirilor trebuie s fie mai mic dect rata maxim de servire.

2
2

m-2

m-1

m+1

m
m
(m 1)
Fig. 4.3.2. Lanul birth-death corespunztor unui sistem de ateptare M/M/m.

Pentru a determina distribuia staionar de stare a sistemului M/M/m, calculm mai


nti suma seriei care intervine n expresia (4.1.33) a probabilitii 0 :
m 1

01 n1
n
m 1

= 1+
+
= 1+

n =1 1 2 n
n =1 (2 ) ( n ) n = m (2 ) [ ( m 1) ] m

m 1

1
1
= 1+ +
(m 1)!
n =1 n !

m 1

n m +1


m .
p =1

=
(4.3.6)

Cu notaia
not

,
m

(4.3.7)

relaia (4.3.5) devine 0 < < 1 , astfel nct (4.3.6) conduce la


m 1
(m ) n (m ) m1 p
(m )n (m ) m1
= 1+
+
= 1 + n ! + (m 1)! 1 =
(m 1)! p =1
n!
n =1
n =1
m 1

m 1

(m ) n (m )m 1
.
=
+
n!
m! 1
n=0

(4.3.8)

Din relaiile (4.1.33) i (4.3.8) rezult c probabilitatea staionar 0 are expresia:


1

0 = P [ X = 0] =

m1 (m ) n (m ) m 1
=
+
.
m! 1
n =0 n !

(4.3.9)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

158

Pentru calcularea probabilitilor n , n = 1, 2, , se disting dou cazuri. Dac n < m se obine


n

1
(m ) n
mn n
n = P [ X = n] =
=
=
0 =
0,
(2 ) (n ) 0 n ! 0
n!
n!

(4.3.10)

n = 1, 2, , m 1,
iar dac n m

m1


n = P [ X = n] =
(2 )[ (m 1) ] m

n m +1

0 =

(m ) m1 n m+1

0 =
(m 1)!

(4.3.11)

m
n 0 , n = m, m + 1,.
m!
Relaiile (4.3.9) (4.3.11) precizeaz distribuia staionar a numrului de clieni din
sistemul de ateptare M/M/m. Pe baza acestei distribuii pot fi evaluate performanele
sistemului de ateptare dup cum urmeaz.
=

Gradul de utilizare a unui server


Fie B variabila aleatoare care reprezint numrul de servere ocupate din sistem,
B {0,1, , m} . Valoarea medie a acestei variabile se calculeaz innd cont c, n cazul n
care sunt cel puin m clieni n sistem, numrul maxim de servere ocupate din sistem este m,
fiind
m 1

M[ B] = n n + mP[ X m] ,

(4.3.12)

n =0

unde
P[ X m] =

n =

n=m

mm m
0 .
m! 1

(4.3.13)

Rezult c
m 1 (m )n
(m ) m 1
M[ B] = n
+m
0 =
n!
m! 1
n =0
m 1

(m ) n (m ) m m
= m +
+
0 =
m! 1
n = 2 ( n 1)!

m 2 (m ) j (m ) m 1 (m ) m1
= m 1 +
+
+
0 =
j!
(m 1)! (m 1)! 1
j =1

(4.3.14)

m1 (m ) j (m ) m 1

= m
+

0 = m = .
m ! 1

j =0 j !
Gradul de utilizare a unui server este s = M[ B ] m = .

Rata de plecare a clienilor din sistem


Dac sistemul de ateptare M/M/m este stabil, atunci rata de plecare a clienilor din sistem
este egal cu rata de sosire a clienilor, .

Cap. 4. Sisteme de ateptare markoviene

159

Numrul mediu de clieni din sistem


Numrul mediu de clieni din sistemul de ateptare M/M/m n regim staionar este

m 1 m n n m m n
M [ X ] = n n = n
(4.3.15)
+n
0 .
n!
m!
n=0
n=m
n =0
Printr-un raionament similar celui aplicat pentru calcularea gradului de utilizare a unui server
se ajunge la formula

M [ X ] = m +

(m ) m

0 .
m ! (1 )2

(4.3.16)

Aa cum era de ateptat, au loc relaiile lim M[ X ] = 0 i lim M[ X ] = .

Durata medie petrecut de un client n sistem


Durata medie petrecut de un client n sistemul de ateptare de tip M/M/m se obine aplicnd
legea lui Little (4.1.22):
M [S ] =

M[X ] =

1
(m ) m

=
+

2 0

m ! (1 )

0
1 (m ) m
.
= +
m ! m(1 ) 2
1

(4.3.17)

Probabilitatea de ateptare la coad


Probabilitatea ca un client care sosete n sistem s gseasc toate serverele ocupate i s
trebuiasc s atepte la coad este

(m ) m 0
.
(4.3.18)
PQ = P [ X m ] = n =
m! 1
n =m
Relaia (4.3.18) poart denumirea de formula C a lui Erlang. Aceast formul este utilizat n
telefonie pentru a determina numrul m de linii telefonice necesare astfel nct, cunoscnd
rata medie de sosire a apelurilor telefonice i durata medie 1 a unui apel, probabilitatea
ca un client s atepte la coad, PQ ,s nu depeasc o anumit valoare impus.
Numrul mediu de clieni din firul de ateptare
Numrul mediu de clieni din firul de ateptare se obine scznd din numrul mediu de clieni
din sistem ( M[ X ] ) numrul mediu de clieni aflai n curs de servire, adic m ,

M[ X Q ] = M [ X ] m =

(m )m

=
PQ .
2 0
1
m ! (1 )

(4.3.19)

Durata medie de ateptare


Durata medie de ateptare poate fi calculat ca diferena dintre durata medie petrecut de un
client n sistem M[ S ] i durata medie de servire 1 , sau aplicnd formula lui Little (4.1.31):

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

160

M[W ] =

M[ X Q ] =

1
1
PQ =
PQ .
m
1

(4.3.20)

De asemenea, se poate demonstra c distribuia de probabilitate a duratei de ateptare


a unui client este
P [W > t ] = PQ e ( m ) t , t 0 .
(4.3.21)
Exemplul 4.3.1. La un server (S) sosesc job-uri dup un proces Poisson de rat
iar durata de servire are distribuie exponenial de rat . S-au luat n considerare trei
variante de mbuntire a performanelor serviciului desfurat de acest server n sensul
micorrii duratei medii petrecute de un job n sistem, i anume:
1. nlocuirea serverului (S) cu unul mai performant (S1), avnd rata de servire dubl
fa de (S), 1 = 2 fig. 4.3.3.(a);
2. adugarea unui al doilea server identic cu (S), avnd rata de servire , fiecare cu
firul su de ateptare, i mprirea job-urilor n mod egal ntre cele dou servere
identice, rata de sosire a job-urilor la fiecare server fiind 2 fig. 4.3.3.(b);
3. adugarea unui al doilea server identic cu (S), avnd rata de servire , i
utilizarea unui singur fir de ateptare comun pentru cele dou servere fig. 4.3.3.(c).

Varianta 2

Varianta 1

(a)

(b)

Varianta 3

(c)
Fig. 4.3.3. Cele trei variante considerate n Exemplul 4.3.1.
1. Sistemul considerat n varianta 1 este de tip M/M/1 cu rata de sosire a clienilor
not

1 = , rata de servire 1 = 2 i gradul de utilizare 1 = (2 ) = . Durata medie


petrecut de un client n sistem este
1
1
1
=
=
.
S1 =
1 (1 1 ) 2 (1 ) 2

Cap. 4. Sisteme de ateptare markoviene

161

2. n varianta 2 este vorba de dou sisteme de tip M/M/1, pentru fiecare dintre
acestea rata de sosire a clienilor este 2 = 2 , rata de servire 2 = i gradul de
utilizare 2 = 2 2 = (2 ) = . Durata medie petrecut de un client n oricare dintre
cele dou sisteme este
S2 =

1
1
2
=
=
= 2 S1 .
2 (1 2 ) (1 ) 2

3. n varianta 3 se obine un sistem de ateptare de tip M/M/2 cu rata de sosire a


clienilor 3 = , rata de servire pentru fiecare server 3 = i gradul de utilizare al
unui server egal cu 3 = (2 ) = . Durata medie petrecut de un client n sistemul
M/M/2 este
1

, pentru 1,

1
1
1
1

S3 =
+P
= +P

1
3 Q 23 (1 3 ) Q 2 (1 )
, pentru 1.
2 (1 )

Se constat c varianta 1, de alegere a unui singur server cu rata dubl de servire a


clienilor, este cea mai bun.
n varianta 2, durata petrecut de un job n sistem este dubl fa de varianta 1. De
asemenea, cnd cele dou servere au fire de ateptare separate este posibil ca unul dintre
servere s nu lucreze n timp ce n firul de ateptare al celuilalt server se gsesc job-uri.
n varianta 3, cel de-al doilea server nu aduce nici o mbuntire n cazul n care rata
de sosire a clienilor este foarte mic; fiecare job este preluat direct de ctre server atunci
cnd sosete. n plus, durata efectiv de servire (1 ) este dubl fa de varianta 1 (1 (2 ) ).
Se observ c, n aceast variant, dac rata de sosire a clienilor este mare i 1 ,
durata medie petrecut de un job n sistem este aproximativ egal cu cea din varianta 1.
Dou servere lente care au un fir de ateptare comun, sunt la fel de eficiente ca i un
singur server de dou ori mai rapid.
Exemplul 4.3.2. Un centru de primire a apelurilor telefonice este modelat ca sistem
de ateptare de tip M/M/m. Cunoscnd c se primesc n medie 40 de apeluri pe or i
durata medie a unui apel este de 3 min, se dorete determinarea numrului de operatori
m astfel nct probabilitatea ca un client s atepte mai mult de 2 min s fie mai mic
dect 5%.
Alegnd ca unitate de msur pentru timp minutul [min], rata medie de sosire a
apelurilor (clienilor) este = 2 3 min-1, iar rata medie de servire este = 1 3 min-1.
Impunnd condiia (4.3.5) de stabilitate a sistemului, se obine
2 m
< m
<
m 3,
3 3
adic sunt necesari cel puin 3 operatori.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

162

Pentru m = 3 , rezult = (3 ) = 2 3 i PQ = 4 9 . Aplicnd relaia (4.3.21),


probabilitatea ca un client s atepte mai mult de t = 2 min este
4
P [W > 2] = PQ e 2( 3 ) = e 2 3 = 0, 228 > 0, 05 ,
9
astfel nct valoarea m = 3 nu convine.
Considerm n continuare cazul m = 4 , pentru care = (4 ) = 1 2 i PQ = 4 23 .
Din relaia (4.3.21) rezult
4 4 3
e
= 0, 042 < 0, 05 .
23
Testnd i valoarea m = 5 se obine = 2 5 , PQ = 4 67 i
P [W > 2] = PQ e 2( 4 ) =

4 1
e = 0, 0220 < 0, 05 ,
67
4 2
e = 0, 0081 < 0, 05 .
P [W > 2] = PQ e 2( 5 ) =
67
P [W > 1] = PQ e ( 5 ) =

Condiia impus prin enun este satisfcut pentru m = 4 , deci este suficient s se
utilizeze 4 operatori pentru preluarea apelurilor. Crescnd numrul de operatori la 5,
probabilitatea ca un client s atepte mai mult de 1 min este redus sub 5%, iar
probabilitatea ca un client s atepte mai mult de 2 min este redus sub 1%.
Exemplul 4.3.3. (Sistem de ateptare M/M/2 cu servere eterogene). O variant a
unui sistem de ateptare de tip M/M/2 este cea n care cele dou servere din sistem au
rate diferite de servire a clienilor. Structura unui asemenea sistem este prezentat n fig.
4.3.4, n care, fr a restrnge generalitatea, s-a presupus c 1 > 2 . Clienii ateapt
servirea n firul de ateptare comun celor dou servere. Atunci cnd ambele servere sunt
disponibile, un client nou sosit este preluat de serverul mai rapid, S1. Serverul mai lent,
S2, preia un client din coad numai dac S1 este ocupat.
n1
S1

S2

1 > 2

2
n2

Fig. 4.3.4. Schema unui sistem de ateptare de tip M/M/2 cu servere eterogene.
Starea sistemului este precizat prin perechea ordonat (n1 , n2 ) n care n1 0
noteaz numrul de clieni din firul de ateptare, inclusiv clientul aflat, eventual, n curs

Cap. 4. Sisteme de ateptare markoviene

163

de servire la serverul S1, iar n2 {0,1} noteaz numrul de clieni de la serverul S2.
Diagrama ratelor tranziiilor de stare corespunztoare lanului Markov ce modeleaz
acest sistem este prezentat n fig. 4.3.5.

0,0

1,0

1
2

1,1

0,1

2,1

3,1

1 + 2

1 + 2

Fig. 4.3.5. Lanul Markov corespunztor unui sistem de ateptare


de tip M/M/2 cu servere eterogene.
Notnd cu (n1 , n2 ) probabilitatea ca, n regim permanent de funcionare, sistemul
s se gseasc n starea (n1 , n2 ) , ecuaiile de bilan al fluxului de probabilitate sunt
urmtoarele:

(0, 0) = 1 (1, 0) + 2 (0,1),


( + 1 ) (1, 0) = 2 (1,1) + (0,0),
( + 2 ) (0,1) = 1 (1,1),
( + 1 + 2 ) (1,1) = ( 1 + 2 ) (2,1) + (0,1) + (1, 0),
( + 1 + 2 ) (n,1) = ( 1 + 2 ) (n + 1,1) + (n 1,1), n > 1.

Intensitatea traficului de clieni din sistem este

1 + 2

Cu aceast notaie, din ecuaiile de bilan rezult

(0, 0),
1 + 2 2
1+
(1, 0) =
(0, 0),
1 + 2 1
( + 2 )
(1,1) =
(0, 0),
1 + 2 12

(n,1) =
(n 1,1) = (n 1,1) = n1 (1,1), n > 1.
1 + 2
(0,1) =

Condiia de normare

(0, 0) + (0,1) + (1, 0) + (n,1) = 1 ,


n =1

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

164

conduce la relaia

n 1
1+
+
+
+
1

(0,
0)
1 + 2 1 + 2
(1,1) = 1 ,

n =1

2
1
echivalent cu

1+
1
( + 2 )
(0, 0) = 1 ,
1 + 1 + 2 + 1 + 2 (0, 0) + 1 1 + 2

2
1
1 2
de unde rezult
1

( + 2 )
(0, 0) = 1 +
.
1 2 (1 )(1 + 2 )
Numrul mediu de clieni din sistem este dat de

M [ X ] = (1, 0) + (0,1) + (n + 1) (n,1) =


n =1

n =1

n =1

= (1, 0) + (0,1) + (n,1) + n (n,1) =

= 1 (0, 0) + (1,1) n n 1 = 1 (0, 0) +


n =1

(1,1)
,
(1 ) 2

i poate fi pus sub forma


M[X ] =

unde
F=

1
(1 ) 2 F

1 2 (1 + 2 )
1
+
.
( + 2 ) 1

Fig. 4.3.6. Modelul de tip GSPN al unui sistem de ateptare de tip M/M/2
cu servere eterogene.

Cap. 4. Sisteme de ateptare markoviene

165

Fig. 4.3.6 prezint modelul de tip reea Petri stohastic generalizat corespunztor
sistemului de ateptare de tip M/M/2 cu servere eterogene avnd parametrii = 0,8 s-1,
1 = 2 s-1 i 2 = 1 s-1. Tranziiile Sosire, Servire1 i Servire2 sunt temporizate cu
durate de distribuie exponenial cu ratele , 1 i, respectiv, 2 . Tranziia
netemporizat In1 are prioritate n executare fa de tranziia netemporizat In2, aceste
dou tranziii modelnd nceperea servirii unui client de ctre serverul 1, respectiv
serverul 2.
Pentru valorile numerice impuse, utiliznd formulele analitice deduse mai sus, se
obine = 0, 2667 , (0, 0) = 0, 6096 , (1,1) = 0, 0763 i M[ X ] = 0,5323 .
Fig. 4.3.7 prezint indicatorii globali pentru poziiile reelei Petri din fig. 4.3.6
corespunztori simulrii n mediul Petri Net Toolbox a servirii unui numr total de
10.000 de clieni. Numrul mediu de clieni din sistem este dat de suma indicatorilor
Queue Length pentru poziiile Q, S1W i S2W, ce modeleaz firul de ateptare, utilizarea
serverului 1 i, respectiv, a serverului 2. Se observ c se obine valoarea 0,5314, foarte
apropiat de valoarea teoretic. De asemenea, se poate determina durata de ateptare a
unui client n coad (dat de indicatorul Waiting Time pentru poziia Q) ca i numrul
total de clieni servii de fiecare server n parte (indicatorii Arrival Sum pentru poziiile
S1W i S2W).

Fig. 4.3.7. Indicatorii globali pentru poziiile reelei Petri din fig. 4.3.5
corespunztori simulrii servirii unui numr total de 10.000 de clieni.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

166

4.4. Sisteme de ateptare M/M/


Sistemul de ateptare de tip M/M/ poate fi privit ca un caz particular de sistem M/M/m
corespunztor lui m = , adic un sistem cu un numr infinit de servere identice. n acest
sistem clienii nu trebuie s atepte la coad, fiind preluai imediat dup sosire de ctre un
server.
Evident c n realitate nu exist sisteme care s aib un numr infinit de servere.
Sistemul de tip M/M/ este utilizat pentru a modela acele sisteme fizice n care clienii nu
ateapt niciodat, ca de exemplu sistemele de transmitere a mesajelor electronice, sistemele
de fabricaie n care exist benzi transportoare n continu micare sau sistemele cu
autoservire (eng. self service system).
Fluxul de sosire a clienilor n sistem este de tip Poisson, duratele dintre sosirile
clienilor n sistem sunt variabile aleatoare independente identic distribuite (i.i.d.) cu
distribuie exponenial de rat > 0 :
1
P [T t ] = 1 e t , t 0 , M [T ] = .
(4.4.1)

Pentru fiecare server n parte, duratele de servire a clienilor sunt variabile aleatoare i.i.d. cu
distribuie exponenial de rat > 0 :
P [ Z t ] = 1 e t , t 0 ,

M [Z ] =

(4.4.2)

Diagrama ratelor tranziiilor de stare pentru modelul de tip lan birth-death al


sistemului de ateptare de tip M/M/ este reprezentat n fig. 4.4.1, avnd parametrii
n = , n = 0,1, 2, ,
(4.4.3)

n = n , n = 1, 2, 3, .

(4.4.4)

n-1

n
n

n+1
(n + 1)

Fig. 4.4.1. Lanul birth-death corespunztor unui sistem de ateptare M/M/.


Pentru a determina distribuia staionar de stare a sistemului M/M/, calculm mai
nti suma (4.3.6):

= 1+

n =1

n
(2 ) (n )

( )n

n =0

n!

= e ,

(4.4.5)

unde
not

(4.4.6)

Cap. 4. Sisteme de ateptare markoviene

167

Facem precizarea c, pentru sistemul de tip M/M/, parametrul NU reprezint intensitatea


traficului n sistem.
Distribuia staionar de probabilitate de stare a sistemului M/M/ se obine din
relaiile (4.3.9) i (4.3.10), fiind dat de

n = P [ X = n] =

e , n = 0,1, 2,

n!
n continuare sunt discutate performanele sistemului de ateptare M/M/.

(4.4.7)

Gradul de utilizare a sistemului


Gradul de utilizare a sistemului de tip M/M/ este egal cu

s = 1 0 = 1 e .

(4.4.8)

Rata de plecare a clienilor din sistem


Rata de plecare a clienilor din sistem este egal cu rata de sosire, , care poate lua valori
arbitrar de mari.
Numrul mediu de clieni din sistem
Relaia (4.4.7) arat c numrul de clieni din sistemul M/M/ are distribuie Poisson de
parametru , astfel c valoarea sa medie este

M[ X ] = =

(4.4.9)

Evident c, pentru sistemul de tip M/M/ numrul de clieni din sistem reprezint de fapt
numrul de servere ocupate.
Durata medie petrecut de un client n sistem
Aplicnd legea lui Little (4.1.22) se obine
1
1 1
= .
M [S ] = M [ X ] =

(4.4.10)

Acest rezultat era de ateptat, fiecare client care sosete n sistem este imediat preluat de un
server, astfel nct durata petrecut n sistem este egal cu durata de servire.

4.5. Sisteme de ateptare M/M/1/K


ntr-un sistem de ateptare de tip M/M/1/K (fig. 4.5.1) exist un singur server pentru care
duratele de servire a clienilor sunt variabile aleatoare independente cu distribuie
exponenial de rat > 0 . Numrul de clieni care se pot gsi simultan n sistem este limitat
la K, un client n curs de servire i K 1 clieni n firul de ateptare.

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

168

(1 K )

(1 0 )

clieni
rejectai
Fig. 4.5.1. Schema unui sistem de ateptare M/M/1/K.
Procesul de sosire a clienilor este de tip Poisson de rat > 0 . Atunci cnd n sistem
se gsesc deja K clieni, nu mai este permis intrarea unor noi clieni n sistem. n momentul
n care numrul de clieni din sistem devine K 1 este permis intrarea unui nou client n
sistem. Se spune c procesul Poisson de sosire a clienilor este ntrerupt (eng. interrupted
Poisson process). Datorit faptului c un proces Poisson nu are memorie, structura markovian
a diagramei ratelor tranziiilor de stare se pstreaz. Oprirea procesului de sosire a clienilor
funcioneaz numai pentru sosirile de tip Poisson.
Lanul birth death care modeleaz un sistem de ateptare de tip M/M/1/K este
prezentat n fig. 4.5.2, avnd parametrii
, pentru n = 0,1, 2, , K 1,
n =
(4.5.1)
0, pentru n K ,
, pentru n = 1, 2, , K ,
0, pentru n > K .

n =

(4.5.2)

K-2

K-1

Fig. 4.5.2. Lanul birth-death corespunztor unui sistem de ateptare M/M/1/K.


Aplicnd relaia (4.1.33) se obine
K

n1
0 = P[ X = 0] = 1 + 0 1

n =1 1 2 n

K n
=
n =0

1
,
1 K +1

(4.5.3)

unde

(4.5.4)
> 0.

Suma din (4.5.3) fiind finit, spre deosebire de cazul sistemelor de tip M/M/1, pentru
sistemele de tip M/M/1/K nu apare problema convergenei seriei care intervine n expresia lui
not

Cap. 4. Sisteme de ateptare markoviene

169

0 , astfel nct poate lua orice valoare. De asemenea, menionm faptul c parametrul
(4.5.4) NU reprezint intensitatea traficului n sistemul de ateptare M/M/1/K.
Din relaia (4.1.34) rezult c
n 1
1
n = P[ X = n] = 0
0 =
n , n = 1, 2, , K .
(4.5.5)
K +1
1 n
1
Facem observaia c pentru < 1 i K se obine sistemul M/M/1.
Pe baza distribuiei staionare de probabilitate a strii sistemului de ateptare de tip
M/M/1/K se pot calcula performanele acestuia.
Gradul de utilizare a serverului
Gradul de utilizare a serverului este dat de

s = 1 0 = 1

1
1 K

.
=
1 K +1
1 K +1

(4.5.6)

Spre deosebire de sistemul M/M/1, n afar de ratele i , gradul de utilizare a serverului


din sistemul M/M/1/K depinde i de capacitatea K a sistemului.
Rata de plecare a clienilor din sistem
Un client poate prsi sistemul atunci cnd exist cel puin un client n sistem; rata de plecare
a clienilor este dat de

1 K
1 K
(1 0 ) =
,
=
1 K +1
1 K +1

(4.5.7)

fiind mai mic dect rata de sosire a clienilor n sistem, deoarece exist clieni al cror
acces n sistem este blocat.
Probabilitatea de blocare
Cea mai important msur a performanelor unui sistem de ateptare de tip M/M/1/K este
probabilitatea ca un client care sosete s gseasc sistemul ocupat i s fie rejectat, denumit
probabilitate de blocare (eng. blocking probability). Datorit lipsei de memorie a procesului
Poisson de sosire a clienilor probabilitatea de blocare este egal cu probabilitatea ca n sistem
s se gseasc K clieni

K
.
(4.5.8)
1 K +1
Se observ c, aa cum era de ateptat, pentru < 1 i K (caz n care se obine sistemul
M/M/1), probabilitatea de blocare a unui client tinde la zero, PB 0 .
De asemenea, are loc relaia
(1 PB ) = (1 0 ) ,
(4.5.9)
PB = K = (1 )

relaie care reprezint bilanul fluxului de clieni din sistem. Rata efectiv de intrare a
clienilor n sistem, (1 PB ) , este egal cu rata de plecare a clienilor din sistem, (1 0 ) .

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

170

n problemele de proiectare a sistemelor de ateptare formula (4.5.8) este utilizat


pentru a determina capacitatea K a unui sistem astfel nct probabilitatea de blocare a
clienilor s fie mai mic dect o valoare impus.
Numrul mediu de clieni din sistem
Numrul mediu de clieni din sistemul de ateptare M/M/1/K este
K

M[ X ] = n n =
n =0

1 K
n n .
K +1
1
n =1

(4.5.10)

Cu notaia
not K

= n n ,

(4.5.11)

n =1

se constat c are loc relaia

= + 2 2 + + K K 2 2 3 ( K 1) K K K +1 =
= + 2 + + K K K +1 =

1 K
K K +1 ,
1

(4.5.12)

de unde rezult

1 K
KK .

1 1

(4.5.13)

nlocuind aceast expresie n (4.5.10), numrul mediu de clieni din sistemul M/M/1/K este
M[ X ] =

1 K
KK .
K +1
1
1

(4.5.14)

Numrul mediu de clieni din firul de ateptare


Numrul mediu de clieni din firul de ateptare se obine scznd din numrul mediu de clieni
din sistem ( M[ X ] ) numrul mediu de clieni aflai n curs de servire, adic gradul de utilizare
a serverului, 1 0 ,
M[ X Q ] = M [ X ] (1 0 ) =

1 K
1 K
K
K

1 K +1 1
1 K +1

2 1 K
=
K K 1 .
K +1
1
1

(4.5.15)

Durata medie petrecut de un client n sistem


Durata medie petrecut de un client n sistemul de ateptare de tip M/M/1/K se obine prin
aplicarea legii lui Little (4.1.22) utiliznd rata efectiv de sosire a clienilor n sistem,
(1 PB ) = (1 0 ) ,

Cap. 4. Sisteme de ateptare markoviene

M [S ] =

171

1
1
M[ X ] =
M[ X ] =
(1 PB )
(1 0 )

1 K +1
1 1
1 K
KK
K
.
=
K =

K
(1 K ) 1 K +1 1
1 1

(4.5.16)

Durata medie de ateptare


Durata medie de ateptare poate fi calculat ca diferena dintre durata medie petrecut de un
client n sistem M[ S ] i durata medie de servire 1 sau aplicnd formula lui Little (4.1.31)
i utiliznd rata efectiv de sosire a clienilor n sistem, (1 PB ) = (1 0 ) ,

M [W ] = M [ S ]

(4.5.17)

Exemplul 4.5.1. n Exemplul 3.4.2 a fost studiat un sistem de fabricaie modelat ca


sistem de ateptare de tip M/M/1/2, performanele acestuia fiind calculate pe baza
performanelor reelei Petri stohastice corespunztoare. n continuare ne propunem s
comparm rezultatele obinute n Exemplul 3.4.2 cu cele care se obin aplicnd teoria
general a sistemelor de capacitate finit M/M/1/K pentru K = 2 .
Diagrama ratelor tranziiilor de stare este prezentat n fig. 3.4.8, iar distribuia
staionar de probabilitate de stare, = [ 0 1 2 ] , este dat de
2 1

0 = 1 + + ( ) , 1 = ( ) 0, 2 = ( ) 0 .
Pentru valorile numerice = 1 s-1 i = 2 s-1, rezult = = 1 2 , 0 = 4 7 ,
1 = 2 7 i 2 = 1 7 .
2

Performane caracteristice sistemului de fabricaie sunt urmtoarele:


gradul de utilizare al mainii (serverului): 1 0 = 3 7 ;
-1
frecvena real de sosire a pieselor n sistem: (1 2 ) = 6 7 s ;
-1
frecvena real de prelucrare a pieselor pe maina M: (1 0 ) = 6 7 s , fiind

egal cu frecvena real de sosire a pieselor;


numrul mediu de piese aflate n sistem: M [ X ] = 1 + 2 2 = 4 7 piese;
numrul mediu de piese aflate n depozit:
M [ X Q ] = M[ X ] (1 0 ) = 4 7 3 7 = 1 7 piese;

timpul mediu petrecut de o pies n sistem:


M[X ]
2
M [S ] =
= s.
(1 2 ) 3
Aceste performane pot fi comparate cu rezultatele obinute prin simularea n mediul
Petri Net Toolbox a funcionrii sistemului de fabricaie (modelat prin reeaua Petri
stohastic generalizat din fig. 3.4.6.(a)) pe o durat de 25.000 s.

172

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


Exemplul 4.5.2. Se dorete proiectarea unei celule de fabricaie ce const dintr-o
singur main i un depozit de capacitate finit ce precede maina (pentru stocarea
pieselor brute trimise spre prelucrare). Procesul de sosire a pieselor brute este considerat
de tip Poisson de rat = 1 pies/h. Durata de prelucrare a unei piese are distribuie
exponenial de rat . n aceste ipoteze, celula de fabricaie poate fi modelat ca
sistem de ateptare de tip M/M/1/K.
Pentru determinarea parametrilor i K ai sistemului avem trei posibiliti de
alegere a mainii (serverului):
1. maina M1 cu rata de prelucrare 1 = 0,5 piese/h i preul de 100 $;
2. maina M2 cu rata de prelucrare 2 = 1, 2 piese/h i preul de 300 $;
3. maina M3 cu rata de prelucrare 3 = 2 piese/h i preul de 500 $.

n plus, fiecare spaiu de depozitare cost 80 $.


Scopul proiectrii celulei este ca probabilitatea de rejecie (blocare) a unei piese
trimise spre prelucrare s fie mai mic dect 10% i, n acelai timp, de a alege o
combinaie a parametrilor i K astfel nct costul total s fie minimizat.
Considernd = = 1 , condiia ca probabilitatea de blocare a accesului unui
client n sistemul de capacitate K s fie mai mic dect 10% se scrie n forma
PB ( K ) = (1 )

K
< 0,10 .
1 K +1

1. Pentru maina M1 se obine 1 = 2 i


2K

1
< 0,10 10 2 K < 2 K +1 1 2K < .
8
2 1
innd cont c K este numr natural (reprezint capacitatea sistemului) condiia
precedent nu poate fi ndeplinit. Maina M1 nu poate satisface cerinele impuse.
PB ( K ) =

K +1

2. Pentru maina M2 se obine 2 = 5 6 i


K

5K
6
PB ( K ) = K +1 K +1 < 0,10 10 5K < 6 K +1 5K +1 > 3 K = 6, 7, .
6 5
5
Se poate observa c PB (5) = 10, 07% (valoare foarte apropiat de valoarea de 10%

impus n enun) i PB (6) = 7, 74% .


Pentru K = 5 , costul total al celulei este 4 80 + 300 = 620 $.
Pentru K = 6 , costul total al celulei este 5 80 + 300 = 700 $.
3. Pentru maina M3 se obine 3 = 1 2 i
1
PB ( K ) = K +1
< 0,10 2 K +1 > 11 K = 3, 4, .
2 1
Se poate observa c PB (2) = 14, 29% (valoare prea mare fa de valoarea impus n
enun) i PB (3) = 6, 67% .
Pentru K = 3 , costul total al celulei este 2 80 + 500 = 660 $.

Cap. 4. Sisteme de ateptare markoviene

173

Soluia optim este de a alege maina M3 i capacitatea celulei K = 3 , pentru care


costul total este de 660 $.
Dac se accept un uor compromis n ceea ce privete valoarea probabilitii de
blocare, poate fi aleas maina M2 i capacitatea celulei K = 5 , pentru care costul total
este de 620 $.

4.6. Sisteme de ateptare M/M/m/m


Acest sistem de ateptare const din m servere identice fr fir de ateptare (fig. 4.6.1).

(1 m )

m servere
identice
Fig. 4.6.1. Schema unui sistem de ateptare de tip M/M/m/m.

clieni rejectai

Pentru toate serverele, duratele de servire a clienilor au distribuie exponenial de


rat > 0 . Procesul de sosire a clienilor este de tip Poisson de rat > 0 . Ca i n cazul
sistemului de ateptare de tip M/M/1/K, dac un client sosete atunci cnd toate cele m
servere sunt ocupate, clientul este rejectat, procesul Poisson de sosire a clienilor fiind
ntrerupt.
Lanul birth-death care modeleaz un sistem de ateptare de tip M/M/m/m este
prezentat n fig. 4.6.2, avnd parametrii
, pentru n = 0,1, 2, , m 1,
n =
(4.6.1)
0, pentru n m,
n , pentru n = 1, 2, , m,
0, pentru n > m.

n =

(4.6.2)

m-2

m-1

(m 1)

m
m

Fig. 4.6.2. Lanul birth-death corespunztor unui sistem de ateptare M/M/m/m.

174

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


Aplicnd relaia (4.1.33) se obine
m

n1
0 = P[ X = 0] = 1 + 0 1

n =1 1 2 n

m 1 n
=
n =0 n !

m n
= ,
n =0 n !

(4.6.3)

unde
not

> 0.

(4.6.4)

Suma din (4.6.3) fiind finit, nici pentru sistemele de tip M/M/m/m nu apare problema
convergenei seriei care intervine n expresia lui 0 , astfel nct poate lua orice valoare.
Din relaia (4.1.34) rezult c
1

n1
n m n
n = P[ X = n] = 0
0 =
, n = 1, 2, , m .
1 n
n ! n =0 n !

(4.6.5)

Pentru sistemul de tip M/M/m/m indicatorii de performan pot fi determinai n mod


asemntor cu cei ai sistemelor prezentate anterior. Cel mai important dintre indicatori este
probabilitatea de blocare, care este prezentat n continuare.
Probabilitatea de blocare
Ca i pentru sistemul de tip M/M/1/K, probabilitatea ca un client care sosete s gseasc
toate serverele din sistem ocupate i s fie rejectat este egal cu probabilitatea ca n sistem s
se gseasc m clieni,

PB = m =

.
m ! n =0 n !

(4.6.6)

Relaia (4.6.6) este denumit formula B a lui Erlang i este frecvent utilizat n telefonie.
Fiind cunoscute frecvena medie de sosire a apelurilor i durata medie a unui apel, formula B
a lui Erlang poate fi utilizat pentru a determina numrul de linii telefonice necesare pentru ca
probabilitatea de blocare a unui apel s fie mai mic dect o valoare impus.
Calcularea numeric a valorii probabilitii de blocare ridic probleme pentru valori
mari ale lui m, fiind necesar gsirea unui algoritm recursiv stabil. Considernd valoarea PB
ca funcie de numrul de servere, m, se observ c

PB (m 1, )

m
PB (m, ) =

m 1

m!
n

n! + m!

n=0

PB (m 1, )
m
.
=
PB (m 1, ) m + PB (m 1, )
1+
m

(4.6.7)

innd cont c PB (0) = 1 , relaia (4.6.7) poate fi utilizat pentru a calcula probabilitatea de
blocare chiar i pentru valori mici ale lui m. Fig. 4.6.3 prezint variaia probabilitii de
blocare funcie de numrul de servere din sistem pentru diferite valori ale lui .

Cap. 4. Sisteme de ateptare markoviene

175

Sistem de asteptare M/M/m/m

Probabilitatea de blocare PB (m, )

0.9
0.8

= 150

0.7

= 100

0.6
0.5
0.4
0.3

= 15

= 1.5

0.2

= 50

0.1
0

10

15

20

25

30

35

40

45

50

Numar de servere - m

Fig. 4.6.3. Reprezentarea grafic a probabilitii de blocare funcie de numrul de servere


pentru un sistem de tip M/M/m/m pentru diferite valori ale lui .
O problem asemntoare intervine n cazul aplicrii formulei C a lui Erlang (4.3.18)
pentru sisteme de tip M/M/m. Notnd cu gradul de utilizare a unui server n cazul
sistemului M/M/m, probabilitatea ca un client s atepte la coad este
(m ) m
PB (m 1, m )
m!
=
PQ (m, ) =
.
n
m
m 1
1 + PB (m 1, m )
(m )
(m )
+
(1 )
n!
m!
n =0

(4.6.8)

Pentru aplicarea relaiei (4.6.8) se calculeaz mai nti PB (m 1, m ) aplicnd relaia de


recuren (4.6.7).

4.7. Sisteme de ateptare M/M/1/ /N


Conform notaiei lui Kendall, un sistem de ateptare de tip M/M/1/ /N const dintr-un singur
server cu durata de servire cu distribuie exponenial de rat i un fir de ateptare de
capacitate infinit, dar accesul n sistem este permis numai unei populaii finite de N clieni.
Dup ce un client a fost servit, dup o durat cu distribuie exponenial de rat , clientul se
ntoarce din nou n sistemul de ateptare, independent de ceilali clieni. Fig. 4.7.1 prezint
schema bloc a sistemului de tip M/M/1/ /N. Cele N servere identice cu durate de servire
exponeniale de rat modeleaz procesul de sosire a clienilor.
Lanul birth-death care modeleaz sistemul de ateptare de tip M/M/1/ /N este
prezentat n fig. 4.7.2, avnd parametrii
( N n) , pentru n = 0,1, 2, , N 1,
n =
(4.7.1)
0
, pentru n N ,

, pentru n = 1, 2, , N ,
0, pentru n > N .

n =

(4.7.2)

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

176

(S)

(SW)

N servere identice

Fig. 4.7.1. Schema unui sistem de ateptare de tip M/M/1/ /N.


( N 1)

N-2

N-1

Fig. 4.7.2. Lanul birth-death corespunztor unui sistem de ateptare M/M/1/ /N.
Aplicnd relaia (4.1.33) se obine
N

[ N ][( N 1) ][ ( N n + 1) ]
0 = P[ X = 0] = 1 +

n
n =1

unde

N!
=
n ,
n=0 ( N n)!

not

= >0.

(4.7.3)

(4.7.4)

Suma din (4.7.3) fiind finit, pentru sistemele de tip M/M/1/ /N nu apare problema
convergenei seriei care intervine n expresia lui 0 , astfel nct poate lua orice valoare.
Din relaia (4.1.34) rezult c
[ N ][( N 1) ][ ( N n + 1) ] =
n = P[ X = n] =
0
n

N!
n 0 , n = 1, 2, , N .
( N n)!

(4.7.5)

Pe baza distribuiei staionare de probabilitate a strii sistemului de ateptare de tip


M/M/1/K se pot calcula performanele acestuia. Gradul de utilizare a serverului este dat de
1 0 . Rata de plecare a clienilor din sistem, egal cu rata efectiv de sosire n sistem, este
(1 0 ) .
Unul dintre cei mai importani indicatori de performan pentru sistemul M/M/1/ /N
este durata medie de rspuns a sistemului, indicator prezentat n continuare.

Cap. 4. Sisteme de ateptare markoviene

177

Durata medie de rspuns a sistemului M/M/1/ /N


Timpul de rspuns al sistemului (eng. response time) este o variabil aleatoare R definit ca
intervalul de timp dintre momentul sosirii unui client n firul de ateptare i momentul n care
servirea clientului este terminat. Valoarea medie M[ R ] poate fi calculat utiliznd legea lui
Little o dat pentru sistemul (S) format din firul de ateptare i server (fig. 4.7.1):
M[ X ] = (1 0 ) M[ R ] ,
(4.7.6)

i apoi pentru sistemul (SW) format din cele N servere ce modeleaz procesul de sosire a
clienilor:
1
M[ N X ] = (1 0 ) .
(4.7.7)

n relaia (4.7.6), X noteaz numrul de clieni din (S), astfel nct n (SW) se gsesc N X
clieni. Adunnd membru cu membru cele dou relaii precedente, se obine
1
N
1
.
(4.7.8)
N = (1 0 ) + (1 0 ) M[ R] M[ R] =

(1 0 )
Acest rezultat este utilizat n modelarea reelelor de calculatoare n care exist un
numr de N staii de lucru (terminale), este rata de procesare a cererilor de ctre server, iar
1 este durata medie de gndire al utilizatorului unui terminal. Dac i sunt
cunoscute, relaia (4.7.8) poate fi utilizat pentru a determina numrul maxim de clieni N
pentru care durata medie de rspuns a sistemului nu depete o valoare impus Tmax :
M[ R] < tmax

N
1
< tmax + .
(1 0 )

(4.7.9)

4.8. Sisteme de ateptare M/M/m/K/N


Un sistem de ateptare de tip M/M/m/K/N const din m servere identice cu durata de servire
cu distribuie exponenial de rat , un fir de ateptare de capacitate limitat K, accesul n
sistem fiind permis unei populaii finite de N clieni. Dup ce un client a fost servit, dup o
durat cu distribuie exponenial de rat , clientul se ntoarce din nou n sistemul de
ateptare, independent de ceilali clieni. Evident, capacitatea sistemului este cel puin egal
cu numrul de servere din sistem, astfel c K m . Dac N K , atunci se poate ntmpla ca
unuia sau mai multor clieni s le fie blocat accesul n firul de ateptare dac n sistem se
gsesc K clieni.
Acest sistem de ateptare este cel mai general dintre sistemele markoviene simple,
toate sistemele prezentate anterior se pot obine drept cazuri particulare ale acestuia pentru
m = 1 , K sau N . Analiza sistemului de ateptare de tip M/M/m/K/N este greoaie
pe cazul general, motiv pentru care prezentm n continuare numai modelul de tip lan birthdeath al acestuia (fig. 4.8.1). Considernd N K m , ratele naterilor sunt date de
( N n) , pentru n = 0,1, , K 1,
(4.8.1)
n =
, pentru n K ,
0

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

178

iar ratele morilor sunt


n , pentru n = 1, 2, , m,

n = m , pentru n = m + 1, , K ,
0 , pentru n > K .

(4.8.2)

( N 1)

2
2

( N m + 2)

m-2

( N m + 1)

m-1

( N K + 2) ( N K + 1)

K-2

K-1

m
m
m
(m 1)
Fig. 4.8.1. Lanul birth-death corespunztor unui sistem de ateptare M/M/m/K/N.

Cu notaia = , distribuia staionar de probabilitate de stare este dat de


0C Nn n
, pentru n = 1, 2, , m 1,

n =
n n ! mn n
m , pentru n = m, m + 1, , K ,
0C N

m!

(4.8.3)

unde
1

n m +1
K
m 1 n n

( N m + 1)!
m 1 m 1
0 = 1 + C N + C N
.

n = m ( N n)! m
n =1

(4.8.4)

Exemplul 4.8.1. Se consider un sistem de ateptare markovian cu un server, dou


locaii n firul de ateptare i o populaie de 4 clieni. Duratele de servire a clienilor au
distribuie exponenial de rat . Dup terminarea servirii, clienii se ntorc n firul de
ateptare dup trecerea unei durate de timp cu distribuie exponenial de rat .
Acest sistem de ateptare este de tip M/M/1/3/4. Diagrama ratelor tranziiilor de
stare este prezentat n fig. 4.8.2. Ecuaiile de bilan al fluxului de clieni n regim
staionar sunt:
1 = 4 0 ,
4 0 = 1 ,

2
(3 + ) 1 = 4 0 + 2 , 2 = 3 1 = 12 0 ,
2 = ,

2
3
3 = 2 2 = 24 0 ,
unde = . Impunnd condiia 0 + 1 + 2 + 3 = 1 , se obine

0 = (1 + 4 + 12 2 + 24 3 ) .
1

Cap. 4. Sisteme de ateptare markoviene


4

179

Fig. 4.8.2. Diagrama ratelor tranziiilor de stare pentru


un sistem de ateptare de tip M/M/1/3/4.
Pentru valorile numerice = 2 s-1 i = 1 s-1, se obine = 2 , 0 = 0, 004 ,
1 = 0, 0321 , 2 = 0,1928 i 3 = 0, 7711 .
Gradul de utilizare a serverului este 1 0 = 0,996 . Rata de plecare a clienilor este
(1 0 ) = 0,996 s-1, egal cu rata efectiv de sosire a clienilor n sistem. Numrul
mediu de clieni din firul de ateptare este M[ X Q ] = 1 2 + 2 3 = 1, 7349 , iar numrul
mediu de clieni din sistem este M[ X ] = M[ X Q ] + (1 0 ) = 2, 7309 .
Pentru sistemul de tip M/M/1/3/4 procesul de sosire a clienilor nu mai este un
proces de tip Poisson. Un client care dorete s intre n firul de ateptare vede
sistemul n starea j cu probabilitatea

j ) j
(
= 3
= 3
,

(
)
i =0 i i i =0 i
i
j j

j = 0,1, 2,3 ,

unde j este rata cu care clientul ncearc s intre n sistem, ca n cazul sistemului
M/M/1/ /N, 0 = 4 , 1 = 3 , 2 = 2 , 3 = . Se obin valorile

0 =
1 =
2 =
3 =

0 0

i =0 i i

11

i =0 i i
3

2 2

i =0 i i

3 3
3

i =0 i i

4 0
= 0, 0127 ,
4 0 + 3 1 + 2 2 + 3

31
= 0, 0759 ,
4 0 + 3 1 + 2 2 + 3

2 2
= 0,3038 ,
4 0 + 3 1 + 2 2 + 3

3
= 0, 6076 .
4 0 + 3 1 + 2 2 + 3

Probabilitatea de blocare a unui client este 3 .


Rezultatele teoretice prezentate anterior pot fi verificate prin modelarea acestui
sistem ca reea Petri stohastic generalizat i simularea acesteia n mediul Petri Net
Toolbox. Fig. 4.8.3 prezint modelul GSPN corespunztor sistemului de ateptare
M/M/1/3/4.

180

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Fig. 4.8.3. Reeaua Petri stohastic generalizat ce modeleaz


sistemul de ateptare de tip M/M/1/3/4 din Exemplul 4.8.1.
Tranziia Try are temporizare exponenial de rat = 2 , rata de executare fiind
dependent de marcajul poziiei N care modeleaz populaia din care provin clienii. La
fiecare executare a tranziiei Try, un jeton este trimis n poziia C ce modeleaz clienii
care ncearc s intre n sistem. Tranziia netemporizat Start corespunde nceperii
servirii unui client. Tranziia Service are temporizare exponenial de rat = 1 ,
executarea acesteia corespunznd servirii unui client.
Poziiile SW i SI modeleaz cele dou stri ale serverului, n curs de servire a unui
client i, respectiv, disponibil. Poziia notat Q modeleaz firul de ateptare. Poziia K
marcat cu 3 jetoane corespunde capacitii finite a sistemului de ateptare. Arcul care
conecteaz poziia K la tranziia netemporizat Block are rolul de a inhiba executarea
acestei tranziii att timp ct poziia K conine jetoane, fornd executarea tranziiei
netemporizate In. Tranziia Block se execut numai n situaia n care poziia C conine
un jeton (un client dorete s intre n sistem) i n poziia K nu sunt jetoane (nu mai este
nici un loc liber n sistem).
Indicatorii globali obinui prin simulare pe o durat de timp corespunztoare
servirii a 20.000 clieni de ctre server (executarea tranziiei Service de 20.000 de ori)
sunt prezentate n fig. 4.8.4 separat pentru tranziiile i poziiile reelei Petri din
fig. 4.8.3.
Gradul de utilizare a serverului este dat de numrul mediu de jetoane din poziia
SW (indicatorul Queue Length) avnd valoarea 0,9956. Rata de plecare a clienilor n
sistem este dat de rata de executare a tranziiei Service (indicatorul Service Rate) avnd
valoarea 0,9928. Numrul mediu de clieni din firul de ateptare corespunde
indicatorului Queue Length pentru poziia Q, cu valoarea de 1,7369. Probabilitatea de
blocare a accesului unui client n sistem este dat de raportul dintre numrul de clieni
care au fost rejectai (indicatorul Service Sum pentru tranziia Block, cu valoarea de

Cap. 4. Sisteme de ateptare markoviene

181

50.871) i numrul total de clieni care au dorit s intre n sistem (indicatorul Service
Sum pentru tranziia Try, cu valoarea de 30.870). Se obine astfel probabilitatea de
blocare egal cu 0,6068. Se poate observa c valorile obinute prin simulare au avut
foarte apropiate de cele teoretice.

(a)

(b)
Fig. 4.8.4. Indicatorii globali pentru (a) tranziiile i (b) poziiile
reelei Petri din fig. 4.8.3.
Deoarece studiul teoretic al unui sistem de ateptare de tip M/M/m/K/N este
anevoios, fcnd practic imposibil analizarea influenei pe care o au parametrii
sistemului asupra performanelor acestuia, se impune utilizarea simulrii ca instrument

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


de lucru. Pentru aceasta considerm numrul de jetoane din poziiile K i N ca parametri
ai modelului de tip reea Petri din fig. 3.4.3 i utilizm opiunea Design a mediului Petri
Net Toolbox pentru Matlab. Fig. 3.4.5 i 3.4.6 prezint dependena duratei de ateptare
a unui client (indicatorul Waiting Time corespunztor poziiei Q), respectiv a
probabilitii de blocare, n funcie de capacitatea sistemului K (parametrul x) i
populaia N (parametrul y) pentru sistemul de ateptare de tip M/M/m/K/N, pentru K i
N variind de la 1 la 10.

Fig. 4.8.5. Reprezentarea grafic a dependenei indicatorului Waiting Time


corespunztor poziiei Q n funcie de capacitatea sistemului K i populaia N.
Blocking Probability [PB]

1
0.8
0.6
PB

182

0.4
0.2
0
10

10
8

Parameter x [K]

5
4

Parameter y [N]
0

Fig. 4.8.6. Reprezentarea grafic a dependenei probabilitii de blocare PQ


n funcie de capacitatea sistemului K i populaia N.

Anexa 1
Simularea i analiza sistemelor de ateptare
n MATLAB

Pachetul de programe Statistics Toolbox 3 (MathWorks, 2000b) reprezint o colecie de


funcii MATLAB (MathWorks, 2000a) ce faciliteaz generarea secvenelor de numere
aleatoare, prelucrarea numeric a datelor statistice, proiectarea experimentelor i controlul
proceselor stohastice. Acest toolbox cuprinde, n afar de funcii de sine stttoare, ce pot fi
utilizate n mod direct, i interfee grafice cu utilizatorul.
Pentru simularea experimentelor statistice este permis manipularea att a
distribuiilor continue de probabilitate, ct i a celor discrete. Pentru fiecare din cele 20 de
distribuii implementate n MATLAB (tabel A1.1), sunt disponibile cte cinci funcii:
funcia de densitate de probabilitate (pdf);
funcia de repartiie (cdf);
generator de numere aleatoare (rnd);
valoarea medie i dispersia (variana) ca funcii de parametrii distribuiei (stat);
inversa funciei de repartiie (utilizat n testarea ipotezelor statistice) (inv).
Tabel A1.1. Distribuii de probabilitate implementate n Statistics Toolbox.
Discrete

Continue

uniform (unid)
Poisson (poiss)

uniform (unif)
exponenial (exp)

Rayleigh (rayl)
2 (chi2)

geometric (geo)
hipergeometric (hyge)
binomial (bino)
binomial negativ (nbin)

normal (norm)
lognormal (logn)
beta (beta)
gamma (gamma)
Weibull (weib)

2 necentral (ncx2)
F (f)
F necentral (ncf)
t (Student) (t)
t necentral (nct)

De asemenea, pentru unele dintre distribuiile de probabilitate, i anume distribuiile


beta, binomial, exponenial, gamma, normal, Poisson, uniform i Weibull, sunt
implementate funcii ce permit estimarea parametrilor i a intervalelor de ncredere pe baza
unui set de date experimentale (fit).

184

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi


Urmtoarele funcii sunt utile n ceea ce privete analiza statistic a unui set de date:
mean care returneaz valoarea medie a eantionului;
trimmean returneaz valoarea medie a eantionului calculat excluznd valorile extreme;
mad returneaz valoarea medie a modulelor abaterilor de la valoarea medie a
eantionului (eng. mean absolute deviation);
median returneaz mediana setului de date (dac se aeaz n ordine cresctoare valorile
dintr-un set de date, atunci mediana reprezint valoarea central, pentru care valorile mai
mari sau mai mici dect ea apar cu frecvene egale);
var returneaz dispersia empiric;
std returneaz deviaia standard empiric (rdcina ptrat a dispersiei empirice);
moment returneaz momentele centrate empirice, cu observaia c primul moment
centrat este nul, cel de-al doilea este dispersia empiric, calculat prin relaia (2.8.7),
restul momentelor centrate fiind calculate cu formula (2.8.11);
range returneaz diferena dintre valorile maxim i minim a eantionului.

Pentru reprezentarea grafic a datelor obinute experimental, pachetul de programe


Statistics Toolbox ofer funciile hist i histc, ca i bar i barh, care pot fi utilizate pentru
vizualizarea histogramelor. Reprezentarea grafic a funciei de repartiie empirice
corespunztoare unui set de date poate fi realizat cu ajutorul funciei cdfplot. Aceast funcie
returneaz de asemenea o structur MATLAB ale crei cmpuri reprezint valorile minim,
maxim, medie i median a setului de date primit ca argument.
Funcia kstest poate fi utilizat pentru verificarea concordanei dintre repartiia
empiric de probabilitate a unui set de date i o distribuie teoretic prin utilizarea testului
Kolmogorov-Smirnov. Pot fi efectuate att teste bilaterale ct i unilaterale. Aceast funcie
permite specificarea nivelului de semnificaie al testului i returneaz att statistica testului
ct i valoarea critic corespunztoare lungimii eantionului analizat. Pentru testul
Kolmogorov-Smirnov de comparare a distribuiilor de probabilitate a dou seturi de date este
disponibil funcia kstest2. Dac se dorete verificarea concordanei dintre repartiia empiric
de probabilitate a unui set de date i o distribuie normal, testele Liliefors i Jarque-Bera sunt
implementate n MATLAB prin funciile lilietest i, respectiv, jbtest.
Prezentm n continuare programul MATLAB de simulare i analiz a unui sistem de
ateptare de tip M/M/1 n care sunt utilizate cteva dintre funciile prezentate mai sus.
Rezultatele obinute n acest mod sunt analizate n Exemplul 4.2.1.
% Simularea si analiza unui sistem de asteptare de tip M/M/1
clear all; close all; clc;
% SIMULAREA SISTEMULUI
% Parametrii sistemului de asteptare:
lam = input('Rata medie de sosire a clientilor: ') % 1;
miu = input('Rata medie de servire a clientilor: ') % 2;
ncust = input('Numar de clienti pentru simulare: ');
ro = lam/miu;
% Intensitatea traficului de clienti din sistem
% Verificarea stabilitatii sistemului

Anexa 1. Simularea i analiza sistemelor de ateptare n MATLAB


if (ro >= 1)
disp('Sistemul nu este stabil!!!'); return
end
% Initializare vectori
Y = zeros(ncust,1);
D = zeros(ncust,1);

% Y = momentele de timp la care clientii sosesc


% D = momentele de timp la care clientii pleaca

% Generarea duratelor dintre sosiri, conform unui proces Poisson:


T = exprnd(1/lam, ncust, 1);
% Duratele dintre sosiri consecutive,
% cu distributie exponentiala de rata lam
Y = cumsum(T);
% Momentele de timp la care sosesc clientii
% Generarea duratelor de servire pentru fiecare client:
Z = exprnd(1/miu, ncust, 1);
% Z = duratele de servire pentru toti clientii
% cu distributie exponentiala de rata miu
% Calcularea momentului la care pleaca fiecare client:
D(1) = Y(1)+Z(1);
% Momentul plecarii primului client
for k=2:ncust
D(k) = Z(k) + max(Y(k), D(k-1));
% utilizare formula (4.1.14)
end
S = D - Y;
W = S - Z;

% Duratele petrecute in sistem de fiecare client


% Duratele de asteptare pentru fiecare client

% ANALIZA SISTEMULUI
% Calcularea numarului de clienti din sistem
X = zeros(2*ncust, 1);
X(1) = 1;
[Time, Index] = sort([Y; D]);
for k= 2:2*ncust,
if (Index(k)> ncust),
X(k) = X(k-1)-1;
else
X(k) = X(k-1)+1;
end
end
% Reprezentarea grafica a numarului de clienti din sistem
figure
stairs([0; Time], [0; X])
axis([0 Time(end) -0.1 max(X)+0.1])
title('Sistem de asteptare M/M/1')
xlabel('Timp'); ylabel('Numar de clienti in sistem - X')
% Reprezentarea grafica a momentelor de sosire si plecare pentru primii 25 de clienti
Y = [0; Y];
D = [0; D];
m = min(25, ncust);
n = 0:m-1;

185

186

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

figure
subplot(2,1,1);
stairs(Y(1:m),n,'b'); hold on
stairs(D(1:m),n,'-.r')
set(gca, 'xlim', [0, max(Y(m), D(m))])
xlabel('Timp'); ylabel('Numar de clienti')
title('Sistem de asteptare M/M/1')
legend('# IN', '# OUT', 4)
gtext(strcat('\lambda = ', num2str(lam), ', \mu = ', num2str(miu)))
subplot(2,1,2)
stairs([0; Time(1:2*m)], [0; X(1:2*m)])
axis([0 Time(2*m) -0.1 max(X(1:2*m))+0.1])
title('Sistem de asteptare M/M/1')
xlabel('Timp'); ylabel('Numar de clienti in sistem - X')
disp(['Numar mediu de clienti in sistem = ', num2str(mean(X)), ' (empiric), '...
num2str(ro/(1-ro)), ' (teoretic)']);
% Analiza duratelor de servire
mean_Z = mean(Z);
disp(['Durata medie de servire = ', num2str(mean_Z), ' (empiric), '...
num2str(1/miu), ' (teoretic)']);
% Analiza duratelor de asteptare
mean_W = mean(W);
disp(['Durata medie de asteptare = ', num2str(mean_W), ' (empiric),'...
num2str(lam/miu/(miu-lam)), ' (teoretic)']);
pas= max(W)/m;
edge = 0: pas:max(W);
teor_cdf = 1-ro*exp(-(miu-lam)*edge);
figure
cdfplot(W); hold on
plot(edge, teor_cdf, '-.r')
title('Durata de asteptare')
legend('CDF empirica', 'CDF teoretica', 4)
v=axis; v(1,1) = 0; v(1,4) = 1.1; axis(v)
gtext(strcat('\lambda = ', num2str(lam), ', \mu = ', num2str(miu)))
% Analiza duratelor petrecute in sistem
mean_S = mean(S);
disp(['Durata medie petrecuta in sistem = ', num2str(mean_S), ' (empiric), '...
num2str(1/(miu-lam)), ' (teoretic)']);
pas= max(S)/m;
edge = 0: pas:max(S);
teor_cdf = expcdf(edge, 1/(miu-lam));
figure
cdfplot(S); hold on
plot(edge, teor_cdf, '-.r')
title('Durata petrecuta in sistem')
legend('CDF empirica', 'CDF teoretica', 4)
gtext(strcat('\lambda = ', num2str(lam), ', \mu = ', num2str(miu)))

Anexa 2
Simularea i analiza sistemelor de ateptare n
ARENA

A2.1. Mediul de modelare Arena 5.0


Mediul Arena 5.0 este o aplicaie de tip Microsoft Windows destinat modelrii, simulrii i
analizei sistemelor de ateptare. Interfaa sa grafic este prezentat n fig. A2.1.

Toolbars

Model Window
Flowchart view

Project Bar
Status Bar

Model Window
Spreadsheet view

Fig. A2.1. Interfaa grafic a mediului ARENA.

188

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Modul de organizare al interfeei grafice a mediului ARENA (meniuri, ferestre, csue


de dialog, etc.) este tipic aplicaiilor MS Windows. n plus, mediul ARENA este compatibil
cu alte software-uri dezvoltate pe platform Windows, cum ar fi procesoare de text,
manipulatoarele de tabele, astfel nct, atunci cnd este necesar, obiectele create n ARENA
pot fi combinate cu obiecte create n alte software-uri (Kelton et al., 2002).
Fereastra destinat crerii modelului (Model Window) cuprinde dou regiuni: fereastra
Flowchart View (perspectiva mnemonic) conine toate reprezentrile graficele aferente
modelului, incluznd schema logic a procesului i animaia ataat acestuia, i fereastra
Spreadsheet View (perspectiva tabelar, de dialog) situat n partea de jos, n care sunt afiai
parametrii modelului i care permite editarea acestora.
n partea dreapt a interfeei grafice a mediului Arena este localizat fereastra Projects
Bar ce conine panourile(casetele) cu principalele tipuri de obiecte cu care se lucreaz:
Basic Process (Procese de baz), Advanced Process (Procese avansate) i
Advanced Transfer (Transfer avansat): Conin modulele utilizate n modelare
pentru definirae proceselor.
Reports (Rapoarte): Conine rapoartele rezultatelor obinute prin simulare.
Navigate: Permite afiarea diferitelor poriuni ale unui model, incluznd un arbore
ierarhizat de navigare printre submodelele unui model organizat ierarhic.
n funcie de cerinele proiectului de simulare, pot fi ataate i alte panouri la modelul curent,
dintre care amintim caseta Advanced Transfer (Transfer avansat), care conine multe opiuni
privind micarea entitilor, i casetele Blocks (Blocuri) i Elements (Elemente) care ofer un
acces total la limbajul de simulare SIMAN, limbaj ce st la bazele crerii mediului de
simulare Arena (Pegden et al., 1990).
Blocurile de construcie pentru modelele Arena sunt denumite module (modules).
Acestea sunt obiecte mnemonice sau de date care definesc procesul ce trebuie simulat i sunt
alese din casetele din Project Bar. Modulele sunt astfel de dou feluri de baz: mnemonice (de
tip flowchart) i de date (de tip data).
Modulele mnemonice descriu procesele dinamice din model. Ele pot fi privite ca fiind
nite noduri prin care trec entitile. Pentru a introduce n model o instan a unui modul
mnemonic de un anumit tip, se va trage acel modul, din fereastra Project Bar, n fereastra
model, perspectiva mnemonic. n caseta Basic Process, tipurile de module mnemonice
disponibile sunt Create, Dispose, Process, Decide, Batch, Separate, Assign, i Record; i alte
casete prezint multe alte tipuri de module mnemonice. Fiecare tip de modul mnemonic din
caseta Basic Process are o form distinctiv, care sugereaz ceea ce realizeaz modulul. O
metod prin care se poate edita un modul de acest fel este realizarea unui dublu-clic pe acesta,
odat ce a fost dispus n fereastra model, perspectiva mnemonic, pentru a afia cutia de
dialog corespunztoare. O alt metod prin care se poate edita modulele mnemonice este
selectarea unui tip de modul, fie n Project Bar, fie n fereastra model, perspectiva
mnemonic, i astfel o linie a unui tabel de date va aprea, n perspectiva tabelar, pentru
fiecare modul n parte, linie n care se pot edita intrrile pentru modulul respectiv. Aceast
metod ofer o vizualizare compact a tuturor instanelor pentru modulele mnemonice de
acelai tip din modelul n cauz, ceea ce este foarte avantajos n cazul modelelor de
dimensiuni mari, unde pot exista multe astfel de instane.

Anexa 1. Simularea i analiza sistemelor de ateptare n ARENA

189

Modulele de date definesc caracteristicile diferitelor elemente ale procesului, cum ar fi


entitile, resursele i cozile de ateptare. De asemenea, ele pot seta variabile i alte tipuri de
valori numerice i expresii ce fac referire la model n ansamblu. Pictogramele din Project Bar,
pentru modulele de date, arat ca nite mici tabele. n caseta Basic Process exist urmtoarele
module: Entity, Queue, Resource, Variable, Schedule i Set (alte casete conin tipuri
adiionale de module de date). Entitile nu parcurg aceste module, iar acestea nu sunt
introduse n fereastra model; de fapt, ntr-un model, modulele de date exist n spatele
scenei pentru a defini diferite tipuri de valori, expresii i condiii. Pentru a edita un astfel de
modul, se face doar clic pe pictograma corespunztoare din Project Bar, aciune care va duce
la apariia tabelului de date, aferent tipului modulului, n fereastra model, perspectiva tabelar.
Acesta se poate edita sau se poate extinde prin dublu-clic acolo unde este indicat adugarea
de linii de tabel adiionale. Spre deosebire de modulele mnemonice, aceste module nu permit
dect o singur instaniere pentru un model; ns, pot exista mai multe linii n tabelul
corespunztor tipului de modul, fiecare linie reprezentnd un obiect separat al acelui tip (spre
exemplu, dac un model are trei cozi de ateptare diferite, modulul de date Queue va afia trei
linii n tabelul su, cte una pentru fiecare coad).
Modulele mnemonice i de date dintr-un model sunt legate prin numele obiectelor
comune (cozi, tipuri de entiti, resurse, variabile). Mediul ARENA pstreaz liste interne ale
numelor asignate acestor tipuri de obiecte, odat ce acestea sunt create, iar, n cele ce
urmeaz, prezint liste de tip pull-down, ale acestor nume, n urmtoarele cmpuri ce necesit
completarea, din cadrul cutiilor de dialog, att pentru modulele mnemonice, ct i pentru cele
de date. Aceast facilitate ajut la buna gestionare a numelor obiectelor (i protejeaz
utilizatorul de erori, cum ar fi atribuirea aceluiai nume pentru dou obiecte diferite sau a
dou nume diferite pentru acelai obiect).
Tabel A2.1. Distribuii de probabilitate disponibile n mediul de simulare ARENA.
Distribuia
Beta
Continu(Continuous)
Discret (Discrete)
Erlang
Exponenial(Exponential)
Gamma
Johnson
Lognormal(Lognormal)
Normal(Normal)
Poisson
Triunghiular(Triangular)
Uniform (Uniform)
Weibull

Abreviere
BETA
BE
CONT
CP
DISC
DP
ERLA
ER
CONT
EX
DISC
GA
ERLA
JO
EXPO
RL
GAMM
RN
JOHN
PO
LOGN
TR
NORM
UN
POIS
WE

Parametri
Beta, Alpha
CumP 1 ,Val 1 , . . . CumP n ,Val n
CumP 1 ,Val 1 , . . . CumP n ,Val n
ExpoMean, k
Mean
Beta, Alpha
Gamma, Delta, Lambda, Xi
LogMean, LogStd
Mean, StdDev
Mean
Min, Mode, Max
Min, Max
Beta, Alpha

190

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Mediul ARENA conine un set de funcii interne pentru generarea de variabile


aleatoare folosind cele mai uzuale distribuii de probabilitate. Aceste distribuii apar n
meniurile de tip pull-down pentru multe din modulele ARENA, acolo unde este posibil
folosirea lor. Fiecare dintre distribuiile Arena are asociat una sau mai multe valori
parametrice. Aceste valori trebuie s fie specificate pentru a defini n ntregime distribuia.
Numrul, semnificaia i ordinea valorilor parametrice depind de tipul distribuiei. Un sumar
al distribuiilor folosite de mediul de simulare ARENA (n ordine alfabetic i cu prescurtarea
folosit) i a valorilor parametrice este prezentat n tabelul A2.1.

A2.2. Crearea modelului unui sistem de ateptare de tip M/M/1


Aceast seciune prezint modul de realizare a modelului utilizat n paragraful 4.2. pentru
simulare a unui sistem de ateptare de tip M/M/1. Dup deschiderea unei noi ferestre de tip
model (comanda File/New) se ataeaz panoul Basic Process (comanda File/Template
Panel/Attach), dac acesta nu este deschis deja.
Modelul care se va crea n continuare are nevoie de o instan a fiecruia din
urmtoarele module: Create, Process i Dispose. Pentru a aduga o instan a unui modul la
model, se va trage (drag and drop) icon-ul corespunztor modulului, din panoul Project Bar,
n fereastra grafic a modelului.
Dac este setat opiunea Object/Auto-Connect i modulele sunt aduse n fereastra
model n ordinea dat mai sus (fr a deselecta modulele dup ce au fost aduse), Arena va
conecta modulele in ordinea corect; dac este selectat opiunea Object/SmartConnect,
conexiunile vor fi orientate orizontal i vertical (fig. A2.2). Dac nu sunt setate cele dou
opiuni privind conectarea, este necesar conectarea manual a acestora. n acest caz, se va
folosi butonul Connect
pornind de la punctul de ieire a unui modul (X) pn la cel de
intrare a urmtorului (). n timpul animaiei, entitile folosite se vor deplasa de-a lungul
acestor conexiuni dac este setat opiunea Object/Animate Connections, artnd astfel c
acestea se deplaseaz de la un modul la altul. n orice caz, aceast deplasare se face n timp de
simulare zero.

Fig. A2.2. Prima etap n crearea modelului unui sistem de ateptare de tip M/M/1.

A2.2.1. Modulul Create


Prin dublu clic pe modulul Create se va deschide caseta de dialog corespunztoare
(fig. A2.3). Se va schimba, n primul rnd, numele acestei instane, a modulului Create, din
cel cu care a fost denumit iniial, Create 1, n Sosire client i, de asemenea, se va schimba n
Entity Type, tipul iniial (Entity 1) n Client. n zona de dialog Time Between Arrivals, se va
accepta presetarea Random (Expo) pentru cmpul Type, setnd valoarea 1 n cmpul Value, i

Anexa 1. Simularea i analiza sistemelor de ateptare n ARENA

191

se va selecta, din lista existent, Minutes ca unitate de msur n cmpul Units. Se vor accepta
valorile presetate din cele trei cmpuri aflate n rndul de la sfritul casetei de dialog i se va
face clic pe OK pentru a salva setrile fcute.

Fig. A2.3. Setarea parametrilor modulului Create.

A2.2.2. Modulul Entity Data


Dup ce tipul entitilor din sistem a fost definit (opiunea Entity Type din modulul Create), se
poate edita parametrii acestor entiti. De exemplu, pentru a modifica modul de animaie a
entitilor din tipul predefinit Report (dosar - ) n Blue Ball (minge albastr - ) se
selecteaz (clic simplu) modulul Entity Data din Project Bar pentru a-l afia n persepectiva
tabelar. Se face clic pe Initial Picture pentru a desfura lista cu opiuni disponibile i se
alege din list Picture.Blue Ball (fig. A2.4).

Fig. A2.4. Setarea parametrilor modulului Entity Data.

A2.2.3. Modulul Process


n caseta de dialog a modulului Process, se seteaz urmtoarele atribute (fig. A2.5):
Name Servire
Action Seize Delay Release
Delay Type Expression
Units Minutes
Expression EXPO(0.5)
Deoarece n cmpul Action s-a editat Seize Delay Release (alocarea unei resurse), este necesar
a face clic pe butonul Add pentru a defini aceast resurs. Aceasta duce la apariia casetei de
dialog secundare Resources n care se seteaz urmtorii parametri:
Type Resource
Resource Name Server
Quantity 1

192

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Fig. A2.5. Setarea parametrilor modulului Process.

A2.2.4. Modulele Resource i Queue Data


Odat ce a fost definit modulul Process, modelul realizat are att o resurs (Resource) ct i o
coad (Queue) care sunt introduse automat. Pentru a se seta cele dou module, se va face clic
pe reprezentrile lor n Project Bar. Astfel, dup ce se va face clic pe modulul Resource , se
vor putea seta n fereastra spreadsheet caracteristicile acestuia (fig. A2.6), cum ar fi Capacity
(capacitatea), care se seteaz pe Fixed Capacity, sau Name, care a fost deja setat n caseta
pentru Process. Restul caracteristicilor vor fi lsate la valorile implicite.

Fig. A2.6. Setarea parametrilor modulului Resource.


n ceea ce privete modulul Queue, se procedeaz la fel ca la modulul Resource,
pentru a seta caracteristicile sale (fig. A2.7). Putem seta disciplina de servire a clienilor n
cmpul Type (se va lsa opiunea implicit First In First Out).

Fig. A2.7. Setarea parametrilor modulului Queue.

Anexa 1. Simularea i analiza sistemelor de ateptare n ARENA

193

A2.2.5. Animarea resurselor


Chiar dac animarea resursei nu este necesar pentru a avea loc simularea, aceasta este totui
util pentru nelegerea procesului, permind vizualizarea strii resursei (pentru resursa din
acest model doar strile liber Idle i ocupat Busy), ct i transformarea entitilor din
proces. Se face clic pe butonul Resource ( ) din bara de butoane Animate pentru a deschide
fereastra de dialog Resource Picture Placement (fig. A2.8). Pentru a asocia resursei n cauz o
anumit pictogram, se va folosi lista de tip drop-down n cmpul Identifier i se va alege
numele resursei, Server. n lista de pictograme din stnga ferestrei de dialog, se selecteaz
opiunea Inactive i se apas apoi butonul Delete din stnga; la fel pentru Failed.

Fig. A2.8. Setarea parametrilor modulului Queue.


n pasul urmtor, pictograma pentru resurs arat ca un ptrat rou pentru ambele
opiuni rmase (Idle i Busy) i de aceea va trebui schimbat pentru o vizualizare ct mai real
a procesului. Acest lucru se realizeaz prin apelarea la librriile ARENA care conin
majoritatea pictogramelor necesare. Acestea se pot gsi prin apsarea butonului Open din
dreapta ferestrei de dialog i au extensia .plb. Se va deschide Machine.plb pentru a vedea
galeria unde se va cuta i se va alege
, apoi se selecteaz n stnga opiunea Idle, dup
care se face clic pe butonul << pentru a copia aceast pictogram n dreapta, n interiorul
csuei Idle, n locul ptratul rou care era nainte. La fel pentru opiunea Busy se selecteaz
pictograma
. La sfrit se va selecta i opiunea Seize Area, pentru ca obiectul (cel ales ca
entitate de procesare) s apar i el n animaie.

A2.2.6. Modulul Dispose


Ultimul modulul introdus n model este Dispose. Singura schimbare care se va face n caseta
sa de dialog (fig. A2.9) va fi n cmpul Name unde se introduce Plecare client.

194

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Fig. A2.9. Setarea parametrilor modulului Dispose.

A2.2.7. Realizarea graficelor dinamice


Ultimul pas n realizarea modelului este realizarea unei reprezentri grafice dinamice care
din bara de butoane
faciliteaz analiza modelului. Astfel, se va face clic pe butonul Plot
Animate pentru a vizualiza caseta de dialog Plot i se vor face setrile ca mai jos (fig. A2.10):
Expressions (se va introduce prin intermediul unei casete secundare de dialog care se
acceseaz prin butonul Add)
Expression NQ(Servire.Queue)
Maximum 10
Time Range 50
Refresh - Full selectat
Border - Bouding Box selectat
X-Labels gol
Fill Area selectat

Fig. A2.10. Setarea parametrilor reprezentrii grafice.


n ceea ce privete valoarea maxim pentru y este posibil s trebuiasc setat din nou, dup ce
se va realiza o prim simulare, deoarece deocamdat nu se cunoate. Dup realizarea setrilor
de mai sus se va apsa butonul OK, fapt care va face cursorul mouse-ului s apar sub form
de cruce, ceea ce nseamn c trebuie stabilit aria n care va aprea graficul n fereastra
modelului (se seteaz un col al ariei printr-un clic i colul opus prin alt clic). n mod simular
se poate introduce n model graficul dinamic al gradului de utilizare a serverului.

Anexa 1. Simularea i analiza sistemelor de ateptare n ARENA

195

A2.2.8. Adugarea comentariilor


Pentru a aduga comentarii se apas butonul Text (A) din bara Draw, care va deschide o
caset de dialog, numit Text String (fig. A2.11) n care este introdus textul dorit (pentru a
scrie linie nou Ctrl+Enter). Se poate seta i culoarea textului cu butonul Text Color (A).
n final se obine modelul prezentat n fig. 4.2.7.

Fig. A2.11. Caseta de dialog Text String pentru introducerea comentariilor.

A2.2.9. Caseta de dialog Run/Setup


Pentru a stabili condiiile pentru executarea simulrii, se va folosi meniul de opiuni
Run/Setup, care conine etichete care controleaz diferite aspecte privind executarea simulrii.
Va fi necesar editarea ctorva dintre acestea.

Fig. A2.12. Setarea parametrilor experimentului de simulare.


Prima este Project Parameters, unde se va da un nume proiectului realizat (Project
Title), numele celui care la realizat (Analyst Name) i se va stabili care statistici vor fi
colectate i vor aprea n raportul simulrii (se va selecta Entities, Resources, Queues, i
Processes). Cealalt etichet care va fi editat va fi Replication Parameters (fig. A2.12).

196

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Cmpurile din tabloul Replication Parameters controleaz un numr de aspecte


privind rularea simulrii. Astfel se poate stabili perioada replicrii(Length of Replication)
pentru entitile create de modulul Create (n cazul de fa 50) i ca unitate de timp minutele.
Se poate stabili, de asemenea, numrul de ore de munc pe zi (24 presetat ca pentru 3
schimburi; 16 n cazul lucrului doar n dou schimburi), n cmpul Hours per Day. n cmpul
Base Time Units se va stabili unitatea de timp la care se vor raporta toate statisticile care se
refer la ieirile numerice bazate pe timp (n minute) obinute n urma simulrii. n
Terminating Condation se pot introduce reguli complexe dup care va avea loc finalizarea
replicrii (n cazul n discuie, finalizarea va avea loc totui dup 60 de minute).
La final, pentru a executa simularea, se va face clic pe butonul Go () din bara
Standard (sau utiliznd comanda Run/Go sau tasta funcional F5). Prima dat cnd este
simulat modelul, ARENA verific corectitudinea acestuia (dac exist erori). Dac exist,
erorile vor fi anunate i se ofer indicaii privind tratarea lor. Dac nu exist erori n model,
este apoi lansat n execuie simularea. Animaia simulrii va avea loc cu o vitez ce poate fi
setat din meniul Run/Setup Speed. n orice caz, vor putea fi observate entitile de tip
Client sosind i plecnd din sistem, animaia resursei privind starea (Idle sau Busy), numrul
de clieni din firul de ateptare al resursei (odat cu intrarea i ieirea pieselor n/din ea),
ceasul de simulare din bara de Stare a ferestrei ARENA, i graficele dinamice.

A2.2.10. Vizualizarea rezultatelor simulrii


Relund simularea pentru o durat mare de timp (20.000 minute), cu vitez de animaie foarte
mare (pentru ca simularea s nu dureze foarte mult) se pot obine rezultate semnificative din
punctul de vedere al funcionrii sistemului n regim permanent. La sfritul simulrii se
deschide o caset de dialog, oferind posibilitatea de a vizualiza sau nu rezultatele numerice ale
simulrii. Dac se dorete vizualizarea acestor rezultate se face clic pe butonul Yes, ceea ce
duce la deschiderea de ctre Arena a unei ferestre separate de tip rapoarte (Reports). n panoul
Project Bar este afiat caseta Reports, care prezint o list a rapoartelor ce pot fi vizualizate,
cum ar fi Category Overview (Sumar al categoriilor) , Category by Replication (Categorii n
funcie de replicrii), i Resources (Resurse). Prin accesarea fiecrui astfel de raport, se va
deschide o fereastr de tip raport, separat. ARENA deschide automat raportul Category
Overview care ofer accesul la majoritatea rezultatelor. Celelalte rapoarte aflate n Project Bar
repet multe din aceste rezultate, dar ofer mai multe detalii.

Bibliografie
ARENA Home Page: www.arenasimulation.com/support/.
Bolch, G., Greiner, S., de Meer, H. and Trivedi, K. (1998). Queueing Networks and Markov
Chains: Modeling and Performance Evaluation with Computer Science Applications,
John Wiley and Sons, New York.
Cassandras, C.G. (1993). Discrete Event Systems: Modeling and Performance Analysis, R.D.
Irwin, Inc., and Aksen Associates, Inc., Boston.
David, R. et Alla, H. (1992). Du Grafcet aux rseaux de Petri (2e dition), Hermes, Paris.
Desrochers, A.A. and Al-Jaar, R.Y. (1993). Petri Nets for Automated Manufacturing Systems:
Modeling, Control and Performance Analysis, Rensselaer Polytechnic Institute.
Ganciu, T. i C. ugurlan (2002). Elemente de statistic i fiabilitate, Ed. Gheorghe Asachi,
Iai.
Grinstead, C.M. and J.L. Snell (1998). Introduction to Probability, American Mathematical
Society.
Hillier, F. and G. Lieberman (2001). Introduction to Operations Research 7th Ed, McGrawHill Higher Education, New York.
Iosifescu, M. (1977). Lanuri Markov finite i aplicaii. Ed. tehnic, Bucureti.
Kelton, W.D., R.P. Sadowski and D.A. Sadowski (2002). Simulation with Arena 2nd ed.,
McGraw Hill Companies, Inc.
Kleinrock, L. (1976). Queueing Systems, vol. I and II, John Wiley & Sons, New York.
Klimov, G. (1986). Probability Theory and Mathematical Statistics, Mir Publishers, Moscow.
Lee A.M. (1966). Queueing Systems and Applications, The Macmillan Press Limited,
London.
Mahulea, C., M.H. Matcovschi and O. Pastravanu (2003). Home Page of the Petri Net
Toolbox for MATLAB, http://www.ac.tuiasi.ro/pntool/index.php.
Matcovschi M.H. and C. Mahulea (2002). "Generalized Stochastic Petri Nets in Performance
Evaluation for Queueing Networks", ECIT2002 and ROSYCS2002 Joint Conference,
Iai, CD-ROM, 6 pg.
Matcovschi M.H. and O. Hilal (2002). "Petri Net Simulation and Efficient Exploitation of
Flexible Manufacturing Systems", Preprints of MESM2002 The Fourth Middle East
Symposium on Simulation and Modelling SCS Europe, Sharjah, UAE, pg. 88-92.

198

Lanuri i sisteme de ateptare markoviene M.H. Matcovschi

Matcovschi M.H., C. Mahulea and O. Pastravanu (2003a). "Petri Net Toolbox for MATLAB",
11th Mediterranean Conference on Control and Automation MED'03, Rhodes,
Greece.
Matcovschi M.H., C. Mahulea and O. Pastravanu (2003b). "Modeling, Simulation and
Analysis of Petri Nets in MATLAB", The 14th International Conference On Control
Systems And Computer Science - CSCS14, Bucharest, Romania.
Matcovschi, M.H. and O. Pastravanu (2002). "Developing Practicals for a Course on
Queueing Systems Delivered to Control Engineering Students", Periodica
Politechnica, Politehnica University of Timisoara, Romania, Trans. on Automatic
Control and Computer Science, Vol. 47(61), 1, pg. 151-156.
Mihoc, Gh., A. Muja i E. Diatcu (1976). Bazele matematice ale teoriei fiabilitii, Ed. Dacia,
Cluj-Napoca.
Mihoc, Gh. i N. Micu (1980). Teoria probabilitilor i statistic matematic, Ed. didactic
i pedagogic, Bucureti.
The MathWorks Inc. (2000a). MATLAB Users Guide, Natick, Massachusetts.
The MathWorks Inc. (2000b). Statistics Toolbox Users Guide, Natick, Massachusetts.
Murata, T. (1989). "Petri nets: properties, analysis and applications", Proc. IEEE, Vol. 77, pp.
541580.
Onicescu, O. (1977) Probabiliti i procese aleatoare, Ed. tiinific i enciclopedic,
Bucureti.
Pastravanu, O.C. (1997). Sisteme cu evenimente discrete. Tehnici calitative bazate pe
formalismul reelelor Petri, Ed. Matrix Rom.
Pastravanu, O.C., M.H. Matcovschi i C. Mahulea (2002). Aplicaii ale reelelor Petri n
studiul sistemelor cu evenimente discrete, Ed. Gheorghe Asachi.
Petri, C.A (1962). Kommunikation mit Automaten, Institut fr Instrumentelle Mathematik
Bonn, Schriften des IIM Nr. 2.
Pegden, C.D., R.E. Shannon and R.P. Sadowski (1990). Introduction to Simulation Using
SIMAN, McGraw-Hill Inc.
Sinclair, J.B. (2002). Simulation of Computer Systems and Computer Networks: A ProcessOriented Approach, http://www.owlnet.rice.edu/~elec428/yacsim/book.ps.
Trivedi, K. (2000). Computer Science Applications, John Wiley & Sons, New York.
Voicu, M. (1980). Teoria sistemelor, vol. II, Institutul Politehnic din Iai.

S-ar putea să vă placă și