Documente Academic
Documente Profesional
Documente Cultură
Mircea Crasmareanu
ii
Contents
1 Mult imi si funct ii 3
2 Probabilitat i: abordare clasica 5
3 Probabilitat i: abordare moderna 11
4 Funct ia de repartit ie a unei variabile aleatoare 19
5 Valori medii. Momente, dispersie, corelat ie 25
6 Teoria deciziilor 31
7 Invariant a n teoria deciziilor 41
8 Utilitate si pierdere 45
9 Teoria credibilitat ii 47
10 Variabile fuzzy pe spat ii de credibilitate 51
11 Entropia, energia si corelat ia surselor de informat ie 53
Index 57
iii
iv CONTENTS
CONTENTS 1
MOTTO
Fie act iunea a avand consecint ele c
i
cu i = 1, ..., n pentru care consideram:
1) p
i
probabilitatea de producere a lui c
i
2) Pierd(c
i
) pierderea cauzata de c
i
.
Atunci riscul act iunii a este:
R(a) =
n
i=1
p
i
Pierd(c
i
).
Cursul cont ine 30 de desene repartizate astfel:
Curs Desene
I 0
II 5
III 8
IV 5
V 0
VI 12
VII 0
VIII 0
IX 0
X 0
XI 0
XII 0
Examen mai multe
2 CONTENTS
Chapter 1
Mult imi si funct ii
Not iunea de mult ime este una din not iunile fundamentale al matematicii.
Incercarea de a o
deni ntr-un sens precis este sortita esecului deoarece ncadrarea acestei not iuni ca un acaz
particular al unei alte not iuni mai generale este imposibila, not iunea de mult ime ind, n fapt,
cea mai generala not iune matematica.
Fondatorul teoriei (moderne a) mult imilor, matematicianul german Georg Cantor (1845-
1918), spunea ca prin mult ime se nt elege, la modul intuitiv, totalitatea unor obiecte distincte,
bine determinate individual.
Vom utiliza o serie de simboluri grace pentru usurint a exprimarii:
-semnul va desemna expresia pentru orice sau oricare ar ,
-semnul va desemna cuvantul exista,
-semnul va desemna o implicat ie, adica va echivalentul cuvintelor rezulta ca sau deci sau
atunci.
Obiectele ce compun o mult ime le vom numi elemente iar acestea, de regula, le vom nota
cu litere mici iar mult imile cu litere mari. Astfel, a A va desemna apartenent a elementului
a la mult imea A; avem negat ia a / A.
Exista doua metode de a indica (sau da) o mult ime A:
I) prinnsiruirea completa a elementelor sale, metoda preferabila atunci cand A are un numar
nit de elemente; spunem ca A este mult ime nita. Deci notam A = {a, b, c, ...}.
II) prin indicarea unei proprietat i cracteristice P; scriem A = {x; x satisface P}.
Mult imile numerice utilizate n acest Curs sunt cele clasice:
i) mult imea numerelor naturale: N = {0, 1, 2, ..., n, ...}; avem submult imea N
2,
3
2, , ...
v) mult imea numerelor reale: R = Q I = (, +). Submult imi remarcabile sunt:
R
+
= [0, +)=numerele reale nenegative, R
+
= (0, +)=numerele reale pozitive, R =
(, 0]=numerele reale nepozitive, R
i=1
p(A
i
)). (2.2)
5
6 M. Crasmareanu
Demonstrat ie Vom arata prin induct ie dupa r 2. Pentru r = 2 avem formula (1.5).
Presupunem adevarata relat ia (1.6) pentru (r 1) si s-o demonstram pentru r. Evenimentele
A = A
1
... A
r1
si B = A
r
sunt evident incompatibile si aplicam (1.5):
p((A
1
... A
r1
) A
r
) = p(A
1
... A
r1
) +p(A
r
)
ceea ce da concluzia n baza ipotezei inductive. 2
Fie A = {
i
1
, ...,
i
r
} oarecare din P(). Evident evenimentele elementare
i
j
, j = 1, ..., r
sunt incompatibile si deci p(A) =
r
j=1
p({
i
j
}).
In concluzie a da/sti probabilitatea p pe
P() este echivalent cu a da/sti p = (p
i
) cu i {1, ..., n}. Rezulta ca funct ia p apare ca un
vector n-dimensional p = (p
1
, ..., p
n
) R
n
iar proprietat ile din Denit ia 1.6 se traduc n: p1)
p R
n
+
i.e. p
i
0 pentru 1 i n
p2)
n
i=1
p
i
= 1.
Rezulta ca p
i
[0, 1] pentru tot i i {1, ..., n}.
Exemplul 2.8 i) Evenimentele echiprobabile sunt caracterizate de vectorul p
n
= (
1
n
, ...,
1
n
)
ceea ce corespunde la funct ia probabilitate clasica:
p(A) =
cardA
card
(2.3)
care da denit ia clasica (sau tradit ionala) a probabilitat ii unui eveniment E:
p(E) =
numarul cazurilor favorabile producerii luiE
numarul total de cazuri posibile
. (2.4)
ii)
In particular, moneda este data de p
2
iar zarul de p
6
.
Propozit ia 2.9 Date evenimentele A, B P() avem:
p(B
A) = p(B) p(A B). (2.5)
Demonstrat ie Evenimentele X = B
A si Y = BA sunt evident incompatibile datorita
prezent ei lui A si
A. Aplicam (1.5) pentru X si Y si folosim faptul ca:
(B A) (B A) = B (2.6)
care se dovedeste imediat. 2
Corolarul 2.10 Pentru orice A, B P() avem:
p(
A) = 1 p(A) (2.7)
p(A B) = p(A) +p(B) p(A B) (2.8)
A B p(A) p(B). (2.9)
Din (1.10) avem n particular ca p() = 0.
Demonstrat ie Pentru (2.7) punem B = n (2.5). Pentru (2.8) sa observam ca: -
evenimentele A si B
A sunt incompatibile,
-avem A (B
A) = (A B) (A
A) = (A B) = A B,
Cursul 2 7
si utilizam (2.6) Pentru ultima relat ie, din A B avem A B = A si din (2.5) rezulta
0 p(B
A) = p(B) p(A) ceea ce da concluzia. 2
Seminar 2
Cardinalul lui P() este 2
n
. Acest cardinal creste foarte repede odata cu n mai precis
exponent ial.
S2.1 Sa se calculeze cu MATLAB puterea 2
n
pentru n = 0, ..., 10.
Solut ie
>> for n=1:10; x(n)=2^n; end;
>> x (+ Enter)
Ans:
x=2 4 8 16 32 64 128 256 512 1024
Observat ie: MATLAB nu stie de convent ia x
0
= 1 ntr-un sir. 2
O alta funct ie ce creste foarte rapid este factorialul: n! = 1 ... n cu convent ia 0! = 1.
S2.2 Se cere n! pentru n {1, ..., 8}.
Solut ie 1! = 1, 2! = 2, 3! = 6, 4! = 24, 5! = 120, 6! = 720, 8! =???.
k=0
C
k
n
= 2
n
. (2.11)
O alta proprietate importanta combinarilor este complementaritatea:
C
k
n
= C
nk
n
. (2.12)
A se vedea http://en.wikipedia.org/wiki/Binomial coecient.
In cursul precedent am introdus probabilitatea pe o mult ime nita . Evident, exista situat ii,
foarte importante pentru practica, cand suntem nevoit i sa lucram cu o mult ime innita. Din
acest motiv introducem n acest Curs o alta abordare a not iunii de probabilitate.
Fixam o mult ime nevida de cardinal nit sau innit; daca este n biject ie cu N atunci
spunem ca este (innit) numarabila. Un element va numit, ca si anterior, eveniment
elementar. Nu toate evenimentele din , considerate ca submult imi, sunt interesante pentru
experimentul avut n vedere si de aceea vom selecta o clasa speciala de astfel de evenimente:
Denit ia 3.1 Familia F de elemente din P() o numim -algebra daca:
a1) F
a2) daca A F atunci si
A = \ A F
a3) daca A
i
F cu i N atunci
iN
F.
Perechea (, F) o numim spat iu masurabil iar A F o numim F-masurabila sau pe scurt
masurabila atunci cand F este specicata.
Observat ii 3.2 i) Daca C este o familie oarecare de submult imi n atunci exista o cea
mai mica (n sensul incluziunii) -algebra ce cont ine pe C. Aceasta se noteaza (C) si se
numeste -algebra generata de C.
ii) Din a1) si a2) rezulta ca F pentru orice -algebra F.
Denit ia 3.3 Fie n N
si spat iul R
n
al vectorilor n-dimensionali notat i x = (x
1
, ..., x
n
).
Pe acest spat iu introducem:
PS) produsul scalar Euclidian <, >: R
n
R
n
R dat de:
< x, y >= x
1
y
1
+... +x
n
y
n
=
n
i=1
x
i
y
i
. (3.1)
N) norma Euclidiana , : R
n
R
+
data de:
x =
iN
Pr(A
i
). (3.4)
Tripletul (, F, Pr) se numeste spat iu de probabilitate.
Exemplul 3.7 Avem ca P() este o -algebra pe ; chiar cea mai mare n sensul
incluziunii. Astfel, denit ia 2.6 din Cursul 2 este un caz particular al precedentei denit ii si
deci pentru nita avem un exemplu de masura de probabilitate dat de relat ia (2.3).
Denit ia 3.8 Fixam din nou spat iul masurabil (, F). Aplicat ia X : R se numeste
variabila aleatoare daca pentru orice r R avem:
{X < r} := { ; X() < x} F. (3.5)
Daca mult imea valorilor lui X este nita sau numarabila spunem ca X este o variabila
aleatoare discreta iar n caz contrar o numim variabila aleatoare continua; n particular daca
X ia un numar nit de valori spunem ca este o variabila aleatoare simpla.
Observat ia 3.9 Se poate arata ca urmatoarele armat ii sunt echivalente pentru X :
(, F) R:
1) {X < r} F pentru orice r R
2) {a X b} F pentru orice a si b din R.
y+
kd :
ms
) si
plot(x, y,
s m
) sunt echivalente.
S3.3 Sa se reprezinte n MATLAB variabila aleatoare:
X :
_
1 2 3 4
1
8
1
4
1
8
1
2
_
.
Solut ie Programul:
Cursul 3 17
>>x=[1:4];
>>y=[1/8 1/4 1/8 1/2];
>>plot(x, y) (+Enter)
da:
1 1.5 2 2.5 3 3.5 4
0.1
0.15
0.2
0.25
0.3
0.35
0.4
0.45
0.5
Figura 3.8
3.4 Sa se calculeze cu MATLAB produsul scalar dintre vectorii x = (1, 3, 5, 7) si y =
(2, 4, 6, 8) si normele lor.
Solut ie Avem:
< x, y >= x y
t
= (x
1
, ..., x
n
)
_
_
_
y
1
.
.
.
y
n
_
_
_
(3.13)
unde indicele superior t semnica transpusa matricii respective.
1 + 9 + 25 + 49 =
84 = 2
21 si
y =
4 + 16 + 36 + 64 =
120 = 2
n
i=1
p
i
, x (x
n
, x
n+1
), n 1
(4.2)
ceea ce da concluzia. 2
Proprietat ile de baza ale funct iei de repartit ie sunt date de:
Propozit ia 4.3 Funct ia de repartit ie a unei variabile aleatoare oarecare satisface urmatoarele
proprietat i:
FR1) este monoton crescatoare.
FR2) lim
x
F(x) = 0, lim
x+
F(x) = 1.
FR3) F este continua la stanga n orice punct x R.
Reciproc, o funct ie F : R R ce satisface aceste trei proprietat i este funct ia de repartit ie a
unei variabile aleatoare
Avem de asemenea o utilizare a funct iei de repartit ie n determinarea de probabilitat i (n
continuare, pentru simplicarea scrierii vom nota P n loc de Pr):
19
20 M. Crasmareanu
Propozit ia 4.4 Funct ia de repartit ie are urmatoarele proprietat i:
FR4) F(x + 0) = F(x) + P(X = x) pentru orice x R; deci F este continua n punctul x
daca si numai daca P(X = x) = 0.
FR5) pentru intervale marginite arbitrare avem:
_
_
P(a X < b) = F(b) F(a)
P(a < X < b) = F(b) F(a + 0)
P(a X b) = F(b + 0) F(a)
P(a < X b) = F(b + 0) F(a + 0).
(4.3)
O alta not iune foarte importanta n teoria variabilelor aleatoare este:
Denit ia 4.5 Fie X o variabila aleatoare (continua) si F funct ia sa de repartit ie. Daca
exista o funct ie : R [0, +) asa ncat pentru orice x R avem:
F(x) =
(t)dt (4.4)
atunci se numeste densitatea de repartit ie sau densitatea de probabilitate a lui X.
Proprietat ile acestei noi funct ii sunt date de:
Propozit ia 4.6 Fie X o variabila aleatoare ce admite densitatea . Atunci:
D1) P(a X b) =
b
a
(x)dx.
D2)
(x) = +1.
D3) F este derivabila n orice punct x R n care este continua si atunci:
F
k=0
C
k
n
p
k
q
nk
. (4.7)
Exista si o generalizare numita variabila aleatoare multinomiala pentru care trimitem la
pagina 32 din:
I. Gh. Sabac si alt ii, Matematici speciale, vol. II, EDP, Bucuresti, 1983.
Cursul 4 21
2) Variabila aleatoare X este de tip Poisson cu parametrul (0, +) daca are o
distribut ie de forma:
X :
_
k N
k
k!
e
_
. (4.8)
O lege de tip Poisson se mai numeste lege a evenimentelor rare si se poate obt ine ca un
caz limita al legii binomiale pentru p foarte mic si n foarte mare dar astfel ncat produsul
np = este constant.
II) Continue
3) Fie numerele reale , cu > 0. Variabila aleatoare X se numeste de tip Gauss sau
spunem ca X satisface legea normala N(, ) daca X admite o densitate de repartit ie:
(x) =
1
2
exp[
(x )
2
2
2
]. (4.9)
4 3 2 1 0 1 2 3 4
0
0.05
0.1
0.15
0.2
0.25
0.3
0.35
0.4
Clopotul lui Gauss: =0, =1
Figura 4.1: Curba clopot
4) Variabila aleatoare X are repartit ie uniforma pe [a, b] R cu a, b nite daca admite:
(x) =
_
1
ba
, x [a, b]
0, x R \ [a, b].
(4.10)
Seminar 4
S4.1 Sa se studieze variabila aleatoare:
X :
_
1 0 1
1
2
1
3
1
6
_
.
Solut ie X determina pe mult imea a evenimentelor elementare partit ia {A
1
, A
2
, A
3
} cu
Pr(A
1
) =
1
2
, Pr(A
2
) =
1
3
, Pr(A
3
) =
1
6
si avem:
{X < x} =
_
_
, x (, 1]
A
1
, x (1, 0]
A
1
A
2
, x (0, 1]
, x (1, +).
22 M. Crasmareanu
Funct ia de repartit ie a lui X este:
F(x) =
_
_
0, x (, 1]
1
2
, x (1, 0]
5
6
, x (0, 1]
1, x (1, +).
Putem desena n Matlab aceasta distribut ie:
>>x=[-1 0 1];
>>y=[1/2 1/3 1/6];
>>plot (x, y) (+Enter)
sau:
>>plot (x, y, ok, markerfacecolor, k, markersize, 10) (+Enter)
De asemeni, putem reprezenta grac funct ia de repartit ie obt nuta:
>>x1=-3:.01:-1; y1=0;
>>x2=-0.99:.01:0; y2=1/2;
>>x3=0.01:.01:1; y3=5/6;
>>x4=1.01:.01:3; y4=1;
>>plot(x1, y1, x2, y2, x3, y3, x4, y4); axis equal
3 2 1 0 1 2 3
1.5
1
0.5
0
0.5
1
1.5
2
2.5
Figura 4.2
De asemeni, pentru o mai buna vizualizare putem folosi culori; ultima linie:
>>plot(x1, y1, r, x2, y2, g, x3, y3, b, x4, y4, m); axis equal
da:
3 2 1 0 1 2 3
1.5
1
0.5
0
0.5
1
1.5
2
2.5
Figura 4.3
Cursul 4 23
S4.2 Se cer repartit iile variabilelor aleatoare: X
i
=numarul de aparit ii ale banului la i
aruncari ale monezii pentru i = 1, 2.
Solut ie Avem:
X
1
:
_
0 1
1
2
1
2
_
(4.11)
respectiv:
X
2
:
_
0 1 2
1
4
1
2
1
4
_
(4.12)
Reprezentarea cu bare a acestor variabile aleatoare este data de:
>>x=[0 1];
>>y=[1/2 1/2];
>>bar(x, y); axis equal (+Enter)
0 1
0.4
0.2
0
0.2
0.4
0.6
0.8
Aruncarea monedei
Figura 4.4
respectiv:
>>x=[0 1 2];
>>y=[1/4 1/2 1/4];
>>bar(x, y); axis equal (+Enter)
0 1 2
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
1.2
Aruncarea de dou\u a ori a monedei
Figura 4.5
S4.3 Se da variabila aleatoare:
X :
_
0 1 2 3
p
2 7p
4
1
3
1
6
_
.
24 M. Crasmareanu
Se cere probabilitatea ca X sa ia o valoare cel mult egala cu 2.
Solut ie Mai ntai aam valoarea lui p punand condit ia ca suma elementelor inferioare sa
e 1. Avem:
p
2
+
7
4
p
1
2
= 0
Discriminantul acestei ecuat ii de gradul doi este:
=
49
16
+
4
2
=
49
16
+
32
16
=
81
16
= (
9
4
)
2
.
Avem atunci solut iile:
p
1
=
7
4
9
4
2
=
4
2
= 2
o solut ie imposibila deoarece termenii inferiori trebuie sa e pozitivi respectiv solut ia:
p
2
=
7
4
+
9
4
2
=
1
4
.
Deci X are distribut ia:
X :
_
0 1 2 3
1
16
7
16
1
3
1
6
_
.
Evenimentul X 2 se poate scrie:
{X 2} = {X = 0} {X = 1} {X = 2}
si deci:
P({X 2}) = P({X = 0}) +P({X = 1}) +P({X = 2}) =
1
16
+
7
16
+
1
3
=
1
2
+
1
3
=
5
6
.
Evident, pentru problema pusa puteam rat iona si astfel:
{X 2} = C{X = 3}
ceea ce da:
P({X 2}) = 1 P({X = 3}) = 1
1
6
=
5
6
.
iI
p
i
x
i
(5.1)
se numeste media lui X.
ii) Daca X este continua si admite densitatea de repartit ie atunci denim media lui X prin:
x = M(X) :=
x(x)dx. (5.2)
iii) Fie n N
iI
p
i
x
n
i
(5.4)
iar daca X este continua si admite densitatea de repartit ie atunci:
M
n
(X) =
x
n
(x)dx. (5.5)
Propozit ia 5.3 Fie variabilele aleatoare X, Y si numarul real a. Avem:
M1) M(a +X) = a +M(X)
M2) M(aX) = aM(X).
25
26 M. Crasmareanu
M3) inf X M(X) sup X.
M4) M(X +Y ) = M(X) +M(Y ).
Demonstrat ie Vom face demonstrat ia pentru v. a. simple.
M1) Avem:
a +X :
_
a +x
0
a +x
1
... a +x
n
p
0
p
1
... p
n
_
(5.6)
si:
aX :
_
ax
0
ax
1
... ax
n
p
0
p
1
... p
n
_
. (5.7)
Rezulta:
M(a +X) =
p
i
(a +x
i
) = a
p
i
+M(X) = a +M(X)
M2)
M(aX) =
p
i
(ax
i
) = a
p
i
x
i
.
M3)
Inmult im cu p
i
relat ia:
inf X x
i
sup X
si nsumam dupa i.
M3) X +Y are distribut ia:
X +Y :
_
x
i
+y
j
r
ij
_
(5.8)
cu r
ij
= Pr(A
i
B
j
); a se vedea si Exemplul 5.7 de mai jos. Avem imediat:
_
jJ
r
ij
= p
i
iI
r
ij
= q
j
(5.9)
Prin urmare:
M(X +Y ) =
iI
(
jJ
r
ij
)x
i
+
jJ
(
iI
r
ij
)y
j
=
iI
p
i
x
i
+
jJ
q
j
y
j
ceea ce da concluzia. 2
Denit ia 5.4 Momentul centrat de ordinul doi:
D(X) = M
2
(X x) (5.10)
se numeste dispersia sau variant a lui X.
Observat ia 5.5 Dispersia, asa cum i arata numele, este un indicator al mprastierii
valorilor lui X fat a de valoarea sa medie x si o formula utila de calcul este:
D(X) = M
2
(X) x
2
. (5.11)
Motivat ia pentru introducere acestui indicator de mprastiere este aceea ca valoarea medie
este, n general, insufucienta pentru determinarea unei variabile aleatoare. Astfel, doua v. a.
simple pot lua acelasi numar de valori si pot avea aceeasi medie, dar, n timp ce una ia valori
apropiate mediei, cealalta ia valori foarte ndepartate. Avem exemplul urmator:
X
1
:
_
1 1
1
2
1
2
_
Cursul 5 27
X
2
:
_
1000 1000
1
2
1
2
_
ambele cu media nula.
Demonstrat ia formulei (4.9) este imediata:
D(X) = M((X x)
2
) = M(X
2
2 xX + x
2
) = M(X
2
) 2 xM(X) + x
2
= M(X
2
) 2 x
2
+ x
2
ceea ce da concluzia.
Denit ia 5.6 Fie X si Y doua variabile aleatoare. Denim produsul lor prin XY : F R:
(XY )() = X() Y () (5.12)
unde, n membrul drept consideram produsul numerelor reale X() si Y ().
Exemplul 5.7 Presupunem ca X si Y sunt discrete cu:
X :
_
x
i
p
i
_
iIN
, Y :
_
y
j
q
j
_
jJN
.
Deci p
i
= Pr(A
i
) cu A
i
= {X = x
i
} si q
j
= Pr(B
j
) cu B
j
= {Y = y
j
}. Atunci:
XY :
_
x
i
y
j
r
ij
_
(iI,jJ)
(5.13)
cu r
ij
= Pr(A
i
B
j
).
Denit ia 5.8 i) Variabilele aleatoare X, Y se numesc independente daca pentru orice
x, y R avem:
P({X < x} {Y < y}) = P({X < x}) P({Y < y}). (5.14)
ii) Date variabilele aleatoare X, Y numerele reale:
C
XY
= M(XY ) M(X)M(Y ) (5.15)
XY
=
C
XY
D(X)D(Y )
(5.16)
se numesc covariant a (sau corelat ia) respectiv coecientul de corelat ie al lor. Daca C
XY
= 0
spunem ca X si Y sunt necorelate iar daca C
XY
= 0 atunci spunem ca X si Y sunt corelate.
Propozit ia 5.9 Daca X si Y sunt v. a. independente atunci:
M(XY ) = M(X) M(Y ). (5.17)
Seminarul 5
S5.1 Se cere media si dispersia variabilei aleatoare binomiale.
Solut ie Sa derivam n raport cu x formula binomului lui Newton:
(q +px)
n
=
n
k=0
C
k
n
q
nk
p
k
x
k
. (5.18)
28 M. Crasmareanu
Obt inem:
np(q +px)
n1
=
n
k=0
C
k
n
q
nk
p
k
kx
k1
. (5.19)
Facem x = 1 n ultima relat ie si obt inem:
np =
k=0
k C
k
n
q
nk
p
k
(5.20)
care este exact media variabilei aleatoare binomiale. Deci:
M(X) = np. (5.21)
Inmult im (5.19) cu x:
np(q +px)
n1
x =
n
k=0
C
k
n
q
nk
kx
k
(5.22)
si derivam ultima relat ie:
n(n 1)p
2
(q +px)
n2
x +np(q +px)
n1
=
n
k=0
C
k
n
q
nk
k
2
p
k
x
k1
. (5.23)
k=0
k
2
C
k
n
q
nk
p
k
(5.24)
care este exact M
2
(X).
Pentru dispersie folosim formula (5.10):
D(X) = n(n 1)p
2
+np n
2
p
2
= np
2
+np = np(1 p) = npq. (5.25)
S5.2 Se arunca 4 zaruri si se cere valoarea medie a numarului de puncte obt inute.
Solut ie Deoarece:
M(zar) =
1
6
(1 + 2 +... + 6) =
1
6
6 7
2
=
7
2
(5.26)
rezulta ca pentru n zaruri avem:
M(n zaruri) =
7n
2
. (5.27)
k0
k
k
k!
e
= e
k1
k1
(k 1)!
= e
= . (5.28)
M
2
(X) =
k0
k
2
k
k!
e
= e
k1
k
k1
(k 1)!
= e
p0
(p + 1)
p
p!
.
Deci:
M
2
(X) = e
p1
p
(p 1)!
+
p0
p
p!
) = e
(e
+e
) = ( + 1). (5.29)
Rezulta:
D(X) =
2
+
2
= . (5.30)
S5.5 Se cere media si dispersia variabilei aleatoare de tip normal N(, ).
Solut ie Valoare medie este:
M(X) =
x(x)dx =
1
xexp[
(x )
2
2
2
]dx =
=
1
(x m) exp[
(x )
2
2
2
]dx +
m
exp[
(x )
2
2
2
]dx.
t exp[
t
2
2
2
]dt = 0
deoarece funct ia de sub integrala este impara: F(t) = F(t). Pentru a doua integrala facem
schimbarea de variabila: x m =
2 t si avem:
I
2
=
2e
t
2
dt =
deoarece:
+
e
t
2
dt =
. (5.31)
In concluzie:
M(X) = . (5.32)
Sa observam ca:
1
(x)dx =
2
= 1 (5.32)
ceea ce conrma buna denire a variabilei aleatoare normale.
30 M. Crasmareanu
Pentru calculul dispersiei:
D(X) =
(x )
2
(x)dx
vom integra prin part i:
D(X) =
1
2
[
2
(x ) exp(
(x )
2
2
2
)|
+
+
2
exp(
(x m)
2
2
2
)dx].
Primul termen este nul din nou din motive de (im)paritate iar integrala a fost calculata deja.
In concluzie:
D(X) =
2
. (5.32)
Vedem astfel motivat ia pentru notat ia N(, ). 2
Daca X si Y sunt independente atunci ele sunt necorelate. Reciproca nu este adevarata
dupa cum o arata exercit iul urmator:
S5.6 Se cere covariant a urmatoarelor v. a.:
X :
_
2 1 1 2
1
4
1
4
1
4
1
4
_
Y :
_
1 1
1
2
1
2
_
.
Solut ie Avem M(X) = M(Y ) = 0. Produsul XY ia valorile z
ij
= x
1
y
j
cu:
_
z
11
= 2, z
21
= 1, z
31
= 1, z
41
= 2
z
12
= 2, z
22
= 1, z
32
= 1, z
42
= 2.
Avem probabilitat ile:
_
r
11
= 0, r
21
=
1
4
, r
31
=
1
4
, r
41
= 0
r
12
=
1
4
, r
22
= 0, r
32
= 0, r
42
=
1
4
.
Deci:
XY :
_
2 1 1 2
1
4
1
4
1
4
1
4
_
.
Rezulta ca M(XY ) = 0 = M(X)M(Y ) si deci C
XY
= 0. Avem si p
i
q
j
=
1
8
= r
ij
pentru
unele valori ale indicilor i, j. Deci cele doua variabile aleatoare sunt necorelate dar nu sunt
independente. 2
Chapter 6
Teoria deciziilor
Fixam A o mult ime nevida ale carei elemente a le numim act iuni si o alta mult ime nevida
numita spat iul parametrilor. Fie F
o -algebra pe .
Denit ia 6.1 Aplicat ia X : R o numim F-masurabila daca pentru orice r R
avem:
{X < r} : { : X() < r} F
. (6.1)
Observat ia 6.2 Comparand relat ia anterioara cu relat ia (3.5) din Cursul 3 observam ca
sunt identice. Deci o variabila aleatoare este exact o funct ie F
-masurabila.
Denit ia 6.3 Numim funct ie pierdere o funct ie Pierd : A R
+
.
= B(m) .
Exemple 6.4
1) pierdere eroare-patratica: A = R
Pierd(, a) = ( a)
2
(6.2)
cu R
+
xat.
2) pierdere eroare-patratica ponderata: A = R
Pierd(, a) = ()( a)
2
(6.3)
cu : R
+
, F
-masurabila.
3) pierdere liniara A = R
Pierd(, a) =
_
1
( a), a
2
(a ), < a
(6.4)
cu
1
,
2
numere reale pozitive.
4) pierdere liniara ponderata ca mai sus dar cu
1
,
2
: (0, +), F
-masurabila.
5) pierdere eroare-absoluta: A = R
Pierd(, a) = | a| (6.5)
31
32 M. Crasmareanu
cu > 0.
6) pierderea c
1
c
2
: A = {a
1
, a
2
}, =
1
2
cu
1
2
=
Pierd(, a
i
) =
_
c
1
,
i
c
2
,
j
(6.6)
cu i = j.
Fie X R
n
o mult ime nevida numita spat iul de select ie si -algebra F
X
= B(n) X.
Denit ia 6.5 Numim problem a de decizie un ansamblu (A, , X, X) cu X : X X
asa ncat pentru orice aplicat ia X(, ) : X X este F
X
-masurabila i.e. pentru
orice F F
X
avem:
{x X : X(x) F} F
X
. (6.7)
Fie g : X R ce este F
X
-masurabila si xat. Putem deni media g-ponderata a
lui X(, .) la fel ca n Cursul precedent:
M(g(X(, ))) :=
_
xX
g(x)X(, x) X(, ) este discreta
X
g(x)(, x)dx X(, ) este continua cu densitatea de repartit ie (, ).
(6.8)
Denit ia 6.6 O funct ie d : X A ce este F
X
-masurabila o numim funct ie de decizie
sau regula de decizie. Fie D mult imea regulilor de decizie pentru problema de decizie data.
Am ajuns astfel la not iunea centrala ntregului Curs si anume riscul unei decizii:
Denit ia 6.7 Funct ia risc a problemei de decizie (A, , X, X) este R : D R:
R(, d) = M(Pierd(, d X(, ))) (6.9)
Deci riscul este o medie a pierderilor asociatei unei perechi (parametru , decizie a),
parametrul ind luat n cosiderare pentru adoptarea deciziei a din mult imea A a tuturor
deciziilor.
Exemplul 6.8 (Acceptarea unui lot de produse)
O rma produce un tip de produse si vrem sa decidem daca acceptam sau nu un lot de astfel
de n produse. Fie probabilitatea de a gasi un produs defect. Exista
0
(0, 1], numit prag
de acceptare-respingere, astfel ncat:
-daca
0
facem act iunea a
1
=acceptam,
-daca >
0
facem act iunea a
2
=respingem.
In practica
0
= 0, 05 adica acceptam cel mult 5 produse defecte. Avem A = {a
1
, a
2
},
X = {0, ..., n} si X = X(, x) va da numarul de produse defecte din lotul de x X cu
probabilitatea . Avem ca X(, ) este continua cu densitatea de tip binomial:
(, x) = C
x
n
x
(1 )
nx
. (6.10)
Fixam > 0 un coecient de calibrare iar funct ia pierdere va :
Pierd(, a
1
) =
_
0
0
(
0
) >
0
(6.11)
Cursul 6 33
Pierd(, a
2
) =
_
(
0
)
0
0 >
0
.
(6.12)
Funct ia decizie este d : X = {0, ..., n} A = {a
1
, a
2
}:
d(x) =
_
a
1
x
n
0
a
2
x
n
>
0
.
(6.13)
Atunci funct ia risc devine:
R(, d) =
n
x=0
Pierd(, d(x))(, x) (6.14)
si are expresia nala:
R(, d) =
_
xX,n
0
xn
(
0
)C
x
n
x
(1 )
nx
0
xX,1xn
0
(
0
)C
x
n
x
(1 )
nx
>
0
.
(6.15)
Exemplul 6.9 O rma doreste sa-si modernizeze uxul tehnologic si epntru aceasta este
necesara achizit ionarea a 10 dispozitive automate de prelucrare a unor piese. Dintre acestea,
un numar de vor avea o durata de funct ionare de 10.000 de ore fara reparat ii majore, durata
ce aduce un beneciu de k
1
lei. Pentru celelalte 10 dispozitive ce au suferit defect iuni
importante pe durata funct ionarii de 10.000, rma va suporta cheltuieli de k
2
lei.
Pentru achizit ionarea acestor 10 dispozitive rma are la dispozit ie un timp pentru a testa
unul singur. Daca acest dispozitiv funct ioneaza la anumit i parametri atunci testul este con-
siderat satisfacator si dispozitivele sunt achizit ionate.
In caz contrar, nu se accepta aceste
dispozitive. Cheltuielile pentru acest test sunt de k
3
lei.
Avem din nou A = {a
1
, a
2
} cu a
1
= acceptare iar a
2
= respingere; avem = {0, ..., 10}.
Fie X = {x
1
, x
2
} cu:
-x
1
corespunde unui rezultat satisfacator la test,
-x
2
corespunde unui rezultat nesatisfacator la test.
X are densitatea:
_
(, x
1
) =
10
(, x
2
) = 1
10
.
(6.16)
Funct ia pierdere are expresia:
_
Pierd(, a
1
) = k
3
k
1
+ (10 )k
2
Pierd(, a
2
) = k
3
.
(6.17)
Funct iile de decizie d : X = {x
1
, x
2
} {a
1
, a
2
} sunt n numar de patru:
d
1
(x) = a
1
, x X
d
2
(x) =
_
a
1
x = x
1
a
2
x = x
2
d
3
(x) =
_
a
2
x = x
1
a
1
x = x
2
d
4
(x) = a
2
, x X. (6.18)
34 M. Crasmareanu
Observam ca d
1
si d
4
ignora rezultatul testului; astfel d
1
accepta lotul n orice condit ii iar d
4
l
respinge indiferent de rezultatul testului. O astfel de situat ie este posibila; spre exemplu rmei
i se ofera un contract mai avantajos, prin care se acopera si cheltuielile efectuarii testului.
Pentru un parametru dat, riscul asociat funct iilor de decizie considerate este:
R(, d) = Pierd(, d(x
1
))(, x
1
) +Pierd(, d(x
2
))(, x
2
) (6.19)
care devine, n ecare din cele patru cazuri particulare:
R(, d
1
) = k
3
k
1
+ (10 )k
2
R(, d
2
) =
10
[k
3
k
1
+ (10 )k
2
] +
_
1
10
_
k
3
R(, d
3
) =
10
k
3
+
_
1 +
10
_
[k
3
k
1
+ (10 )k
3
]
R(, d
4
) = k
3
. (6.19)
Seminar 6 Diagrama pie aseaza procentul cu care ecare element al unui vector (sau
matrice) contribuie la suma elementelor structurii.
S6.1 Sa se gureze fenomenele echiprobabile p
n
= (
1
n
, ...,
1
n
) (vezi Cursul 1) pentru n
{2, 3, 4, 5, 6}.
Solut ie Programul MATLAB:
>>x=[1 1];
>>pie(x) (+Enter)
da:
50% 50%
Moneda
Figura 6.1
Analog avem:
>>x=[1 1 1];
>>pie(x) (+Enter)
Cursul 6 35
33%
33%
33%
Figura 6.2
>>x=[1 1 1 1];
>>pie(x) (+Enter)
25%
25% 25%
25%
Figura 6.3
>>x=[1 1 1 1 1];
>>pie(x) (+Enter)
20%
20%
20%
20%
20%
Figura 6.4
>>x=[1 1 1 1 1 1];
>>pie(x) (+Enter)
36 M. Crasmareanu
17%
17%
17% 17%
17%
17%
Zarul
Figura 6.5
Putem utiliza si pie3(.) pentru o reprezentare spat iala:
>>x=[1 1];
>>pie3(x) (+Enter)
50%
Zarul
50%
Figura 6.6
>>x=[1 1 1];
>>pie3(x) (+Enter)
33%
33%
33%
Figura 6.7
>>x=[1 1 1 1];
>>pie3(x) (+Enter)
Cursul 6 37
25%
25%
25%
25%
Figura 6.8
>>x=[1 1 1 1 1];
>>pie3(x) (+Enter)
20%
20%
20%
20%
20%
Figura 6.9
>>x=[1 1 1 1 1 1];
>>pie3(x) (+Enter)
17%
17%
17%
Zarul
17%
17%
17%
Figura 6.10
S6.2 Sa se gureze cu pie variabila aleatoare data de Exercit iul 3.3
Solut ie
Inmult im cu 8 ultima linie pentru a norma aceasta variabila aleatoare si avem:
x = (1, 2, 1, 4).
>>x=[1 2 1 4];
>>pie(x) (+Enter)
38 M. Crasmareanu
13%
25%
13%
50%
Figura 6.11
>>x=[1 2 1 4];
>>pie3(x) (+Enter)
50%
13%
25%
13%
Figura 6.12
S6.3 Se dau variabilele aleatoare independente:
X :
_
1 0 1
p +
1
6
q +
1
3
1
3
_
Y :
_
1 0 1
1
3
2p q 12p
2
_
.
Se cere distribut ia lui XY .
Solut ie Sa determinam mai ntai p si q punand condit ia ca suma elemetelor din linia
inferioara sa e 1:
_
p +
1
6
+q +
1
3
+
1
3
= 1
1
3
+ 2p q + 12p
2
= 1.
Avem deci sistemul:
_
p +q =
1
6
2p q + 12p
2
=
2
3
si prin adunarea celor doua ecuat ii avem:
3p + 12p
2
=
5
6
.
Putem scrie:
p
2
+
1
4
p
5
72
= 0
Cursul 6 39
care are discriminantul:
=
1
16
+
5
18
=
18 + 80
16 18
=
98
16 18
=
49
16 9
=
_
7
12
_
2
.
Rezulta solut iile:
p
1
=
1
2
(
1
4
7
12
)
impsibila respectiv:
p
2
= p =
1
2
(
1
4
+
7
12
) =
4
12 2
=
1
6
la care corespunde q = 0. Deci:
X :
_
1 0 1
1
3
1
3
1
3
_
Y :
_
1 0 1
1
3
1
3
1
3
.
_
V. a. XY ia valorile 1, 0 si 1. Avem: {XY = 1} = {X = 1; Y = 1} {X = 1; Y = 1}
si deci:
P(XY = 1) = P(X = 1; Y = 1) +P(X = 1; Y = 1) =
= P(X = 1) P(Y = 1) +P(X = 1) P(Y = 1) =
1
3
1
3
+
1
3
1
3
=
2
9
.
Analog:
P(XY = 1) =
2
9
si deci:
P(XY = 0) = 1
4
9
=
5
9
.
In concluzie:
XY :
_
1 0 1
2
9
5
9
2
9
_
.
S6.4 Se dau v. a. independente de la exercit iul anterior. Se cere X
2
+Y
2
.
Solut ie Avem:
X
2
= Y
2
:
_
0 1
1
3
2
3
_
si deci v. a. ia valorile 0, 1 si 2. Deoarece X
2
si Y
2
sunt independente avem:
X
2
+Y
2
:
_
0 1 2
1
9
4
9
4
9
_
.
S6.5 Se cer numerele reale a, b, c asa ncat urmatoarea funct ie sa e o funct ie de repartit ie
continua:
F(x) =
_
_
_
a x (, 0])
bx
2
x (0, 1]
c x (1, +).
Solut ie Din FR2), Cursul 4, avem: 0 = lim
x
F(x) = a si 1 = lim
x+
F(x) = c.
Din continuitatea n x = 1 avem: F(1) = b = lim
x1
F(x) = c = 1. 2
40 M. Crasmareanu
Chapter 7
Invariant a n teoria deciziilor
Fie problema de decizie (A, , X, X) si S(X) mult imea funct iilor bijective pe X i.e. ele-
mentele lui S(X) sunt funct ii g : X X bijective.
Propozit ia 7.1 S(X) este grup relativ la compunerea funct iilor.
Denit ia 7.2 S(X) se numeste grupul biject iilor lui X sau nca grupul simetric al lui
X. O funct ie g S(X) o numim transformare a lui X sau pe X.
Fixam G S(X) un subgrup; deci G este submult ime nevida (cont ine macar funct ia
identica 1
X
) cu proprietat ile:
sg1) daca g
1
G si g
2
G atunci g
2
g
1
G.
sg2) daca g G atunci si inversa g
1
apart ine lui G.
Vom mai presupune ca orice g G este transformare bimasurabila n sensul ca pentru orice
B F
X
avem g(B) F
X
si g
1
(B) F
X
. Cum compunerea de aplicat ii masurabile este
masurabila rezulta capentru orice aplicat ia g(X(, .)) : X X este F
X
-masurabila.
Denit ia 7.3 Aplicat ia X : X X o numim G-invarianta daca pentru orice g G
si orice exista si este unic omega astfel ncat daca X(, .) are distribut ia de
probabilitate P() atunci g(X(, .)) are distribut ia P( ).
1
,
2
. Spunem ca
1
si
2
sunt echivalent i daca exista g G asa ncat
2
= g(
1
).
Obt inem astfel o relat ie de echivalent a pe spat iul al parametrilor. O clasa de echivalent a
se va numi orbita. Urmatorul rezultat este central n acest Curs si spune n esent a ca pentru
funct iile de decizie G-invariante funct ia rsic este invarianta pe orbita:
Teorema 7.8 Consideram ca problema de decizie data este G-invarianta si e d D(G).
Atunci pentru orice avem:
R(, d) = R( g(), d). (7.3)
Cazul particular de constant a totala a riscului merita ment ionat.
Denit ia 7.9 Grupul
G se numeste tranzitiv daca exista
0
astfel ncat ntreg este
orbita lui
0
.
Prin urmare, n cazul
G tranzitiv, avem o singura orbita iar din Teorema avem ca riscul
asociat la orice funct ie de decizie este acelasi indiferent de parametrii din . O funct ie de
decizie invarianta care minimizeaza acest risc constant se numeste cea mai buna funct ie de
decizie invarianta.
Exemplul 7.10 Fie A = = (0, +) si {P(); } familia distribut iilor exponentiale
de parametru . Fie funct ia pierdere
Pierd(, a) = (a a)
2
. (7.4)
Fie G = g
c
; c (0, +) grupul transformarilor de scala ale dreptei reale i.e. g
c
: (0, +)
(0, +), g
c
(x) = cx. Se observa ca
G este tranzitiv.
Avem ca aceasta problema de decizie este invarianta iar o funct ie de decizie va invarianta
daca d(cx) = cd(x) pentru orice x (0, +). Ultima egalitate este o ecuat ie funct ionala adica
o ecuat ie avand ca necunoscuta o funct ie.
Cursul 7 43
Solut ia acestei ecuat ii funct ionale este: d(x) = x cu > 0. Funct ia risc pentru aceasta
decizie este:
R(, d) = M(1 d(X(, .))
2
) = M(1 X())
2
= 1 2 + 2
2
. (7.5)
Derivam aceasta funct ie risc si egalam cu zero derivata pentru a-i aa minimul.
dR
d
= 4 2 = 0
si prin urmare cea mai buna decizie invarianta este d
0
(x) =
x
2
iar riscul corespunzator este:
R(, d
0
) = 1 1 +
2
4
=
1
2
.
Seminar 7
S7.1 (Exemplu de v. a. numarabila) Se arunca un zar si e X numarul de aruncari
efectuate pana apare cifra 1. Se cere distribut ia lui X.
Solut ie X poate lua orice valoare 1, 2, 3, ... Sa calculam probabilitatea p
k
= P(X = k).
Avem p
1
= P(X = 1) =
1
6
. p
2
= P(X = 2) este probabilitatea ca la prima aruncare sa nu
iasa fat a 1 combinata cu probabilitatea ca la aruncarea a doua sa iasa fat a 1. Avem deci
p
2
=
5
6
1
6
. Analog p
3
=
5
6
5
6
1
6
. Rezulta ca pentru cazul general avem:
p
k
=
_
5
6
_
k1
1
6
iar distribut ia este:
X :
_
k N
_
5
6
_
k1
1
6
_
.
Cazul general: v. a. a primei realizari Fie o experient a si un eveniment A legat de
aceasta experient a si care se realizeaza cu probabilitatea p. Fie X numarul de efectuari ale
experient ei pana la prima realizare a lui A. Avem:
X :
_
k N
q
k1
p
_
(7.5)
cu q = 1 p.
Avem ca:
1 +q +... +q
n
=
1 q
n+1
1 q
(7.6)
si deci suma elementelor din linia inferioara a lui (6.5) este: p
1
1q
= 1 deoarece lim
n+
q
n
=
0, q ind un numar subunitar.
S7.2 Se cer numerele reale a, b, c asa ncat urmatoarea funct ie sa e o funct ie de repartit ie
continua:
F(x) =
_
_
(a2b)x
3
x
3
+1
x 0
c sin x 0 < x
2
(a+b2)x
2
1
x
2
1
x >
2
.
Solut ie Din FR2), Cursul 4, avem: 0 = lim
x
F(x) = a b si 1 = lim
x+
F(x) =
a +b 2. Avem un sistemn necunoscutele a si b cu solut ia: a = 1, b = 1, obt inuta nlocuind
44 M. Crasmareanu
a = 2b n a doua ecuat ie.
Din continuitatea n x =
2
avem: F(
2
) = c = lim
x1
F(x) = 1. 2
S7.3 Se cere a R astfel ca funct ia urmatoare sa e o densitate de repartit ie:
(x) =
_
0 x / [0, 1]
2ax x [0, 1].
Solut ie Folosim D2) din Cursul 4:
1 =
(x)dx =
1
0
(x)dx = ax
2
|
1
0
= a.
S7.4 Se da v. a. X cu densitatea:
(x) =
_
0 x 0
e
2x
x > 0.
Se cere P(X > 3).
Solut ie Determinam din aceeasi condit ie D2):
1 =
(x)dx =
+
0
e
2x
dx =
2
e
2x
|
+
0
=
2
(e
infty
e
0
) =
2
de unde rezulta = 2.
Avem atunci:
P(X > 3) = P(3 < X < +) =
+
3
2e
2x
dx = e
2x
|
+
3
= e
6
0 =
1
e
6
.
Chapter 8
Utilitate si pierdere
Reamintim ca am notat cu D mult imea deciziilor asociate unei probleme de decizie.
Denit ia 8.1 Fie deciziile d
1
, d
2
D. Spunem ca:
1) d
1
domina d
2
sau ca d
1
este mai buna decat d
2
si notam d
1
> d
2
daca: R(, d
1
) R(, d
2
)
pentru orice cu inegalitate stricta pentru cel put in un parametru .
2) d
1
este cel put in tot asa de buna ca si d
2
si notam d
1
d
2
daca: R(, d
1
) R(, d
2
)
pentru orice .
3) d
1
si d
2
sunt echivalente si notam d
1
d
2
daca: R(, d
1
) = R(, d
2
) pentru orice .
Relat iile 1) si 2) sunt de ordine iar 3) este o relat ie de echivalent a.
Fie C mult imea consecint elor unei decizii luate. Fie u : C R o funct ie de cuanticare
a acestor consecint e. Daca avem o probabilitate P pe C atunci valoarea unei consecint e
este media M(u(c)), care pentru orice P deneste o funct ie utilitate.
Fie deci P(C) mult imea tuturor distribut iilor de probabilitate simple pe C. Pentru o
consecint a xata c C notam cu < c > distribut ia de probabilitate care asociaza valoarea 1
mult imii {c} si 0 n rest.
Denit ia 8.2 Fie p
1
, p
2
P(C). Spunem ca:
u1) p
2
este preferat fat a de p
1
si notam p
1
< p
2
daca: M
p
1
(u(c)) < M
p
2
(u(c)) unde M
p
nseamna media n raport cu probabilitatea p.
u2) Notam p
1
p
2
daca p
1
nu este preferat fact a de p
2
.
u3) Notam p
1
p
2
daca p
1
si p
2
sunt echivalente.
Sa observam ca P(C) este o mult ime convexa: daca p
1
, p
2
P(C) si [0, 1] atunci
avem urmatorul element p = p
1
+ (1 )p
2
n P(C) denit de: p(C
) = p
1
(C
) + (1
)p
2
(C
) pentru orice C
C.
In particular, daca c
1
, c
2
C atunci < c
1
> +(1) < c
2
>
este o distribut ie de probabilitate.
Fixam o mult ime nevida M.
Denit ia 8.3 Numim mixtura o pereche (M, m) cu m : [0, 1] M M M satisfacand:
M1) m(1, P, Q) = P,
M2) m(, P, Q) = m(1 , Q, P),
M3) m(, m(, P, Q), Q) = m(, P, Q).
Vom mai nota m(, P, Q) prin P + (1 )Q. Avem atunci:
m1) 1P + 0Q = P,
45
46 M. Crasmareanu
m2) P + (1 )Q = (1 )Q+P,
m3) [P + (1 )Q] + (1 )Q = P + (1 )Q.
Propozit ia 8.4 Fie (M, m) o mixtura. Atunci:
m4) P + (1 )P = P,
m5) [Q+(1)R] +(1)[Q+(1)R] = [+(1)]Q+[(1)+(1)(1)]R.
Demonstrat ie m4)
P +(1)P = [1P +0P] +(1)P = [0P +1P] +(1)P = 0P +1P = 1P +0P = P.
m5) Presupunem ca .
[ +(1 )]Q+[(1 ) +(1 )(1 )]R = [
+(1 )]Q+1 [
+ (1 )]R =
= [
+ (1 )][Q+ (1 )R] + [1
(1 )]R =
= (1
)R+[1(1
)][Q+(1)R] =
[Q+ (1 )R] + (1
)R+(1)[Q+
(1 )R] = [Q+ (1 )R] + (1 )[Q+ (1 )R].
Demonstrat ia a fost realizatan ipoteza = 0. Daca = 0 atunci relat ia ceruta este imediata.
2
Denit ia 8.5 Fie o relat ie binara pe M. Pentru P, Q M denim P < Q daca P Q
dar nu avem Q P. Denim P Q daca P Q si Q P.
Vom considera urmatoarele axiome:
a1) este o ordine slaba i.e. este tranzitiva si completa.
a2) Daca (0, 1] si P < Q atunci P + (1 )R < Q+ (1 )R.
a3) Daca P < Q < R atunci exista , (0, 1) asancat: P+(1)R < Q < P+(1)R.
Propozit ia 8.6 Daca avem a
1
, a
2
si a
3
atunci:
i1) daca P < Q si 0 < 1 atunci P + (1 )Q < P + (1 )Q.
i2) daca P Q, Q R si P < R atunci exista [0, 1] unic asa ncat Q P + (1 )R.
i3) daca P < Q, R < S si [0, 1] atunci P + (1 )R < Q+ (1 )S.
i4) daca P Q si [0, 1] atunci P + (1 )Q P.
i5) daca P Q si [0, 1] atunci P + (1 )R Q+ (1 )R.
Propozit ia 8.7 Fie (M, m) o mixtura cu axiomele a1, a2, a3. Atunci exista u : M R
astfel ncat:
(1) P < Q daca si numai daca u(P) < u(Q).
(2) u[P + (1 )Q] = u(P) + (1 )u(Q).
Sa presupunem ca u satisface aceste doua condit ii. Atunci v : M R satisface (1)-(2) daca
si numai daca exista a > 0 si b R astfel nc at: v = au + b i.e. v(P) = au(P) + b pentru
orice P M.
Materialul acestui Curs a fost prelucrat dupa: Vasile Preda, Teoria deciziilor statistice,
Ed. Academiei Romane, 1992.
Chapter 9
Teoria credibilitat ii
Fixam mult imea nevida , nu neaparat nita.
Denit ia 9.1 Numim msur a de credibilitate pe o aplicat ie Cr : P() R satisfacand
axiomele:
cr1) (normalitate) Cr() = 1.
cr2) (monotonia) daca A B atunci Cr(A) Cr(B).
cr3) (autodualitate) pentru orice eveniment A avem Cr(A) +Cr(
A) = 1.
cr4) (maximalitate) pentru orice sir {A
i
}
iI
cu sup
iI
Cr(A
i
) < 0.5 avem:
Cr(
iI
A
i
) = sup
iI
Cr(A
i
) (9.1)
Perechea (, Cr) o numim spat iu de credibilitate.
Exemplul 9.2 Fie = {
1
,
2
} si funct ia Cr data astfel:
Cr(
1
) = 0, 7, Cr(
2
) = 0, 3
iar Cr() = 1 = 1 Cr(). Atunci Cr este o masura de credibilitate pe .
Exemplul 9.3 Fie R si : [0, +) asa ncat:
sup
x
(x) = 1.
Atunci urmatoarea funct ie este o masura de credibilitate pe :
Cr(A) =
1
2
_
sup
xA
(x) + sup
x
A
(x)
_
. (9.2)
Exemplul 9.4 Fie o mult ime nevida oarecare si pentru orice A P() diferita de
si denim:
Cr(A) = 0, 5 (9.3)
iar Cr() = 1 = 1 Cr(). Atunci Cr este o masura de credibilitate pe .
Propozit ia 9.5 Fie nevida si A P() oarecare. Daca Cr este o masura de credibi-
litate pe atunci:
47
48 M. Crasmareanu
cr5) Cr() = 0.
cr6) Cr(A) [0, 1].
Demonstrat ie cr5 rezulta imediat din cr1 si cr3. cr6 rezulta din cr2 aplicata incluziunii:
A . 2
O serie de proprietat i ale credibilitat i sunt date de:
Propozit ia 9.6 Fie (, Cr) un spat iu de credibilitate si A, B P(). Avem:
cr7) daca Cr(A B) 0, 5 atunci: Cr(A B) = max{Cr(A), Cr(B)}.
cr8) daca Cr(A B) 0, 5 atunci: Cr(A B) = min{Cr(A), Cr(B)}.
cr9) Cr(A B) Cr(A) +Cr(B).
Demonstrat ie i) Daca Cr(AB) < 0, 5 atunci din cr2 avem max{Cr(A), Cr(B)} < 0, 5
si obt inem cr7 din cr4. Sa presupunem acum ca Cr(A B) = 0, 5 si cr7 nu are loc; rezulta
ca max{Cr(A), Cr(B)} < 0, 5. Putem atunci aplica axioma cr4:
Cr(A B)(= 0, 5) = max{Cr(A), Cr(B)} < 0, 5
ceea ce este o contradict ie.
ii) Deoarece Cr(A) Cr(B) 0, 5 aplicand c3 avem: Cr(
A
B) 0, 5 si deci:
Cr(A B) = 1 Cr(
A
B) = 1 max{Cr(
A), Cr(
B)} = min{Cr(A), Cr(B)}
ceea ce da cr8.
iii) Avem trei cazuri posibile.
Cazul I) max{Cr(A), Cr(B)} < 0, 5. Avem, conform cr4:
Cr(A B) = max{Cr(A), Cr(B)} Cr(A) +Cr(B).
Cazul II) Cr(A) 0, 5. Din cr2 si cr3 avem: Cr(
A) 0, 5 si Cr(A B) Cr(A) 0, 5 ceea
ce implica:
Cr(
A) = max{Cr(
A B), Cr(
A
B)} Cr(
A B) +Cr(
A
B) Cr(B) +Cr(
A
B).
Rezulta atunci:
Cr(A)+Cr(B) = 1Cr(
A)+Cr(B) 1Cr(B)Cr(
A
B)+Cr(B) = 1Cr(
A
B) = Cr(AB)
adica concluzia.
Cazul III) Cr(B) 0, 5. Se aplica acelasi argument ca mai sus cu A schimbat cu B. 2
Observat ii 9.7 i) O masura de credibilitate nu este doar nit-subaditiva ci chiar numarabil
subaditiva adica:
Cr(
iN
A
i
)
iN
Cr(A
i
). (9.4)
ii) Din demonstrat ia de la cr9 rezulta ca o masura de credibilitate este nul-aditiva adica:
Cr(A B) = Cr(A) +Cr(B) daca Cr(A) = 0 sau Cr(B) = 0.
Propozit ia 9.8 Fie (, Cr) un spat iu de credibilitate si {B
i
}
iN
un sir descresc ator de
evenimente cu: lim
i
Cr(B
i
) = 0. Atunci pentru orice eveniment A avem:
lim
i
Cr(A B
i
) = lim
i
Cr(A\ B
i
) = Cr(A). (9.5)
Cursul 9 49
Demonstrat ie Avem, din cr2 si cr9, pentru orice i:
Cr(A) Cr(A B
i
) Cr(A) +Cr(B
i
)
si deci, cum Cr(B
i
) 0 avem Cr(A B
i
) Cr(A). Deoarece A \ B
i
A (A \ B
i
) B
i
avem:
Cr(A\ B
i
) Cr(A) Cr(A\ B
i
) +Cr(B
i
)
si avem a doua egalitate cand trecem la limita. 2
Prezent am fara demonstrat ie si alte proprietat i ale masurilor de credibilitate:
Propozit ia 9.9 O masura de credibilitate este aditiva daca si numai daca exista cel mult
doua elemente din ce au credibilitatea nenula.
Propozit ia 9.10 (Legea semicontinuitat ii credibilitat ii) Fie {A
i
}
iN
un sir de evenimente.
Atunci are loc relat ia:
lim
i
Cr(A
i
) = Cr( lim
i
A
i
) (9.6)
daca si numai daca una din urmatoarele identitat i este satisfacuta:
1. A
i
A cu Cr(A) 0, 5.
2. A
i
A cu Cr(A) 0, 5.
3. A
i
A cu Cr(A) < 0, 5.
4. A
i
A cu Cr(A) > 0, 5.
Seminar 9
S9.1 Fie = {
1
,
2
,
3
} si:
Cr(
1
) = 0, 6, Cr(
2
) = 0, 3, Cr(
3
) = 0, 2
Cr({
1
,
2
}) = 0, 8, Cr({
1
,
3
}) = 0, 7, Cr({
2
,
3
}) = 0, 4
iar Cr() = 1 = 1 Cr(). Este Cr o masura de credibilitate pe ?
50 M. Crasmareanu
Chapter 10
Variabile fuzzy pe spat ii de
credibilitate
Fie (, Cr) un spat iu de credibilitate.
Denit ia 10.1 i) O aplicat ie : R se numeste variabila fuzzy.
ii) O funct ie : R se numeste vector fuzzy n-dimensional.
iii) Se numeste funct ia de apartenent a (sau membership) a variabilei fuzzy , funct ia =
:
R [0, 1]:
1
() =
_
0, =
1
1, =
2
.
2
() =
_
1, =
1
0, =
2
Aceste doua variabile fuzzy au acceasi funct ie memebership:
(x) =
_
1, x {0, 1}
0, x / {0, 1}.
Un rezultat important n teoria credibilitat ii este urmatoarea teorema ce arma ca stiind
funct ia membership a unei variabile aleatoare date putem determina credibilitatea unui eveni-
ment:
Teorema 10.2 (Teorema inversa a crdibilitat ii) Fie o variabila fuzzy pe spat iul de
credibilitate (, Cr) avand funct ia membership . Atunci, pentru orice submult ime B a lui
51
52 M. Crasmareanu
R, avem:
Cr( B) =
1
2
_
sup
xB
(x) + 1 sup
x
B
(x)
_
. (10.2)
Drept consecint e avem:
Cr( = x) =
1
2
_
(x) + 1 sup
y=x
(y)
_
(10.3)
Cr( x) =
1
2
_
sup
yx
(y) + 1 sup
y<x
(y)
_
(10.4)
Cr( x) =
1
2
_
sup
yx
(y) + 1 sup
y<x
(y)
_
. (10.5)
Daca funct ia este continua atunci pentru orice x R avem:
Cr( = x) =
(x)
2
. (10.6)
Propozit ia 10.3 (Caracterizarea funct iilor membership) Funct ia : R [0, 1] este
funct ia membership a unei variabile fuzzy daca si numai daca sup (x) = 1.
Denit ia 10.4 Se numet e distribut ia credibila a variabilei fuzzy , funct ia : R [0, 1]:
(x) = Cr( : () < x). (10.7)
Folosind teorema inversa a crdibilitat ii avem:
Propozit ia 10.4 Fie varibila fuzzy cu funct ia memebership . Atunci pentru orice
x R avem:
(x) =
1
2
_
sup
yx
(y) + 1 sup
y>x
(y)
_
. (10.8)
Chapter 11
Entropia, energia si corelat ia
surselor de informat ie
Denit ia 11.1 Numim sursa de informat ie o pereche S = (, ) cu alfabet si o distribut ie
de probabilitate pe adica o aplicat ie : R
+
sastisfacand
s
(s) = 1. Distribut ia
o numim pozitiva daca (s) > 0 pentru orice s .
Observat ii 11.2 i) Avem ca (s) [0, 1] pentru orice s .
ii) O sursa de informat ie poate gandita ca un dispozitiv black-box care emite simboluri
din ecare astfel de simbol s ind emis cu probabilitatea (s).
iii) Fixam || = n si notam S = ( = (s
i
), = (
i
)), 1 i n cu convent ia p
1
... p
n
.
Vom nota tabelar:
S s
1
. . . s
n
p
1
. . . p
n
Exemplul 11.3
u
(s) =
1
n
pentru orice s este o distribut ie pozitiva de probabilitate
numita distribut ia uniforma.
Putem extinde la monoidul cuvintelor obt inandu-se un morsm de la
la monoidul
multiplicativ al lui [0, 1], :
wL
(w) daca L este submult ime nevida a lui
.
Numarul real nenegativ (L) l numim -masura lui L. Astfel,
u
-masura lui L o numim
indicatorul de cod al lui L.
Denit ia 11.4 Limbajul produs L
1
L
2
se numeste neambiguu daca pentru orice w L
1
L
2
exista cuvintele unice u L
1
si v L
2
asa ncat w = uv.
Propozit ia 11.5 1) (
k
) = 1 pentru orice k 1.
2) (
iI
L
i
)
iI
(L
i
) pentru orice familie L
i
, i I cel mult numrabila de submult imi ale
lui
i0
(L
n
)
i0
((L))
n
cu convent ia: (L) = implica (L
) = .
Conceptul de entropie ca masura a informat iei si a gradului de incertitudine, a fost introdus
n 1948 de catre Claude Shannon. Aceasta not iune este profund analoaga conceputului similar
din termodinamica unde a fost introdus de catre Clausius n 1864 ca masura a gradului de
dezordine al unui sistem zic.
Deoarece din punct de vedere matematic, informat ia furnizata de simbolul s
k
este
I
k
= log p
k
rezulta ca media ponderata a informat iilor furnizate de sursa data este:
Denit ia 11.6 Se numeste entropie a sursei S numarul real nenegativ:
H() =
n
i=1
p
i
log p
i
(11.1)
unde logaritmul este n baza 2 si avem convent ia 0 log 0 = 0. Unitatea de masura a entropiei
este bit i/simbol.
Alegerea bazei 2 se poate considera ca ind neimportanta matematic datorita proprietat ii
de schimbare a bazei logaritmilor si este impusa din punct de vedere tehnic de utilizarea
calculului binar n procesarea datelor de catre calculatoare.
Lema 11.7 Daca b > 0 si x > 0 atunci log
b
x x 1 cu egalitate doar pentru x = 1.
Propozit ia 11.8 Inegalitatea Gibbs Fie numerele reale (p
i
, q
i
), 1 i n satisfacand:
i) 0 p
i
, q
i
1,
ii)
n
i=1
q
i
1 =
n
i=1
p
i
.
Atunci:
n
i=1
p
i
log p
i
n
i=1
p
i
log q
i
. Avem egalitate daca si numai dacaa p
i
= q
i
pentru tott i i N
n
.
Corolar 11.9 Pentru orice sursa de n informat ii avem: 0 H() log n = H(
u
).
Demonstrat ie Avem H(
u
) =
n
i=1
1
n
log
1
n
= log
1
n
= log n. Deoarece p
i
[0, 1]
avem p
i
log p
i
0 si rezulta membrul stang. Pentru membrul drept aplicam inegalitatea
Gibbs cu q
i
=
1
n
, 1 i n. 2
Cazurile de egalitate pentru inegalitatea precedenta sunt precizate de:
Propozit ia 11.10 i) H() = 0 daca si numai daca p
1
= 1.
ii) H() = log n daca si numai daca =
u
.
Demonstrat ie i) H() = 0 daca si numai pentru orice i N
n
avem p
i
log p
i
= 0. Cum
nu putem avea ca tot i p
i
sunt nuli deoarece suma lor este 1 rezulta ca trebuie sa existe macar
un indice i asa ncat p
i
= 1. Din ordonarea probabilitat ilor p
i
rezulta p
1
= 1.
ii) rezulta din cazul de egalitate al Inegalitat ii Gibbs. 2
Observat ia 11.11
In termodinamica unui sistem zic izolat, o stare de echilibru este
caracterizata de entropie maxima. Prin analogie, am putea numi distribut ia uniforma ca
ind starea de echilibru informat ional al sursei date, toate cele n simboluri (stari) ind la
fel de probabile.
Denit ia 11.12 Se dau sursele de informat ie S
1
= (
1
, {p
i
}, i I), S
2
= (
2
, {q
j
}, j J).
Numim produsul lor sursa S
1
S
2
= (
1
2
, {p
i
q
j
}). (Avem imediat
i,j
p
i
q
j
= 1.)
Cursul 13 55
Putem spune ca sursa produs S
2
genereaza grupe de cate doua mesaje ale sursei S. Analog
pentru o putere k 2 oarecare.
Propozit ia 11.13 H(S
1
S
2
) = H(S
1
) +H(S
2
).
In consecint a H(S
k
) = kH(S).
Demosntrat ie
i,j
p
i
q
j
log(p
i
q
j
) =
i,j
p
i
q
j
log p
i
i,j
p
i
q
j
log q
j
=
j
q
j
H(S
1
)+
i
p
i
H(S
2
). 2
Denit ia 11.14 Pentru sursa data init ial denim:
1) redundant a R = log n H(),
2) ecient a =
H()
log n
.
Exemplul 11.15 (n=2) Notand p
1
= p avem:
S s
1
s
2
p 1 p
i) H(p, 1 p) = = p log p (1 p) log(1 p),
ii) R = 1 +p log p + (1 p) log(1 p).
Inspirat de expresia energiei cinetice care este suma patratelor vitezelor, matematicianul
roman Octav Onicescu a introdus n 1964 conceptul urmator:
Denit ia 11.16 Numim energia sursei date numarul real strict pozitiv:
E() =
n
i=1
p
2
i
. (11.2)
Propozit ia 11.17 i) E(
u
) =
1
n
E() 1.
ii) E() =
1
n
daca si numai daca =
u
.
iii) E() = 1 daca si numai daca p
1
= 1.
iv) E(S
1
S
2
) = E(S
1
)E(S
2
).
Demonstrat ie i) Faptul ca E(
u
) =
1
n
este imediat ca si inegalitatea din dreapta deoarece
p
i
ind subunitare avem E()
n
i=1
p
1
. Pentru a arata inegalitatea din stanga e x
i
=
p
i
1
n
; rezulta
n
i=1
x
i
= 0. Avem E() =
1
n
+
n
i=1
x
2
i
.
ii) Avem egalitate n stanga daca si numai daca tot i x
i
sunt nuli.
iii) Avem egalitate n dreapta daca si numai daca p
2
i
= p
i
ceea ce revine la p
1
= 1 si p
2
=
... = p
n
= 0.
iv)
i,j
(p
i
q
j
)
2
= (
p
2
i
)(
q
2
j
) din independent a celor doua surse. 2
Denit ia 11.18 Date sursele S
1
si S
2
de aceeasi dimensiune n numim:
i) corelat ia lor numarul real nenegativ C(
1
,
2
) =
n
i=1
p
i
q
i
.
ii) coecientul de corelat ie numarul real nenegativ CC(
1
,
2
) =
C(
1
,
2
)
E
1
)E(
2
)
.
Propozit ia 11.19 CC(
1
,
2
) 1 = CC(, ) cu egalitate daca si numai daca
1
=
2
.
Demonstrat ie Faptul ca CC(, ) = 1 este imediat iar inegalitatea este exact inegal-
itatea Cauchy-Buniakowski-Schartz (CBS) din teoria produselor scalar. Avem egalitate n
inegalitatea CBS daca si numai daca vectorii n-dimensionali
1
,
2
sunt coliniari adica exista
numarul real asa ncat
2
=
1
. Dar din
p
1
i
=
p
2
i
= 1 rezulta = 1. 2
56 M. Crasmareanu
SEMINAR 11
S11.1 Se da o sursa cu n = 5 si p
1
=
1
2
, p
2
=
1
4
, p
3
=
1
8
, p
4
= p
5
=
1
16
. Se cere entropia,
redundant a, ecient a si energia acestei surse.
Rezolvare H =
1
2
1 +
1
4
2 +
1
8
3 +
1
16
4 2 =
15
8
= 1.875 bit i/simbol.
R = log 5 H = 2.3219 1.8750 = 0.4469, =
1.875
2.3219
= 0.8075,
E =
1
4
+
1
16
+
1
64
+
2
256
= 0.25 + 0.0625 + 0.0156 + 0.0078 = 0.3359
Index
-masura unui limbaj, 53
-algebra, 11
-algebra generata de o familie, 11
acceptarea unui lot de produse, 32
apartenent a la o mult ime, 3
aplicat ie G-invarianta, 41
aplicat ie masurabila, 31
baza ortornormata, 18
bila deschisa, 12
binomul lui Newton, 20
camp de probabilitate, 5
campul evenimentelor, 5
caracterizarea funct iilor membership, 52
cea mai buna funct ie de decizie invarianta, 42
clasa de echivalent a, 4
coecientul de corelat ie a doua surse, 55
coecientul de corelat ie a doua v. a., 27
combinari, 8
complementara unei submult imi, 4
corelat ia a doua surse, 55
corelat ia a doua v. a., 27
covariant a a doua v. a., 27
culori MATLAB, 14
decizie ce domina pe o alta, 45
decizie cel put in la fel de buna ca o alta, 45
decizii echivalente, 45
denit ia clasica a probabilitat ii, 6
densitatea de repartit ie a unei v. a., 20
dispersia unei v. a., 26
dispersia variabilei aleatoare normale, 30
dispersia variabilei binomiale, 28
dispersia variabilei Poisson, 29
distant a Euclidiana, 11
distribut ia credibila a unei variabile fuzzy, 52
distribut ia unei variabile aleatoare, 12
distribut ia uniforma de probabilitate, 53
distribut ie de probabilitate, 53
domeniu de denit ie al unei relat ii, 4
ecuat ie funct ionala, 42
ecient a unei surse de informat ie, 55
element ntr-o mult ime, 3
energia unei surse de informat ie, 55
entropie, 54
eveniment, 5
eveniment elementar, 5
eveniment imposibil, 5
eveniment sigur, 5
evenimente echiprobabile, 6
factorialul, 7
funct ia caracteristica a unei submult imi, 4
funct ia de apartenenc ta a unei variabile fuzzy,
51
funct ia de repartit ie a unei v.a., 19
funct ia risc a unei probleme de decizie, 32
funct ie, 4
funct ie de decizie, 32
funct ie de decizie G-invarianta, 42
funct ie masurabila, 31
grup tranzitiv, 42
grupul biject iilor, 41
grupul simetric, 41
grupul transformarilor de scala, 42
indicatorul de cod al unui limbaj, 53
inegalitatea Gibbs, 54
intersect ia mult imilor, 4
lege a evenimentelor rare, 21
lege normala, 21
limbaj produs neambiguu, 53
linii MATLAB, 15
masura de credibilitate, 47
masura de probabilitate, 12
57
58 Index
masura nul-aditiva, 48
markere MATLAB, 15
matrice ortogonala, 18
matricea unitate, 18
media a n zaruri, 28
media unei variabile aleatoare, 25
media unui zar, 28
media variabilei aleatoare normale, 29
media variabilei binomiale, 28
media variabilei Poisson, 29
mixtura, 45
momentele unei v. a., 25
mult ime, 3
mult ime boreliana, 12
mult ime deschisa, 12
mult ime nita, 3
mult ime masurabila, 11
mult ime numarabila, 11
mult imea numerelor ntregi, 3
mult imea numerelor irat ionale, 3
mult imea numerelor naturale, 3
mult imea numerelor rat ionale, 3
mult imea numerelor reale, 3
mult imea valorilor unei relat ii, 4
norma, 11
parametri echivalent i ntr-o relat ie de decizie,
42
partit ie a unei mult imi, 4
pierdere G-invarianta, 42
probabilitate, 5
problema de decizie, 32
problema de decizie G-invarianta, 42
produsul a doua v. a., 27
produsul a doua v. a. discrete, 27
produsul scalar, 11
redundant a unei surse de informat ie, 55
regula de decizie, 32
regula de adunare a probabilitat ilor, 5
relat ie, 4
relat ie de echivalent a, 4
relat ie de ordine, 4
reuniunea mult imilor, 4
schema bilei revenite, 20
spat iu de credibilitate, 47
spat iu de probabilitate, 12
spat iu masurabil, 11
spat iul Euclidian, 11
spat iul evenimentelor, 5
sursa de informat ie, 53
sursa produs de informat ii, 54
teorema de invariant a a rsicului, 42
teorema inversa a credibilitat ii, 52
transformare bimasurabila, 41
transformare pe o mult ime, 41
unghiul dintre doi vectori nenuli, 18
urna cu bile de doua culori, 13
v. a. a primei realizari, 43
v. a. cu repartit ie uniforma, 21
v. a. de tip Bernoulli, 13
v. a. de tip Poisson, 21
variabila aleatoare, 12
variabila aleatoare binomiala, 20
variabila aleatoare continua, 12
variabila aleatoare de tip Gauss, 21
variabila aleatoare discreta, 12
variabila aleatoare simpla, 12
variabila fuzzy, 51
variabile aleatoare corelate, 27
variabile aleatoare independente, 27
variabile aleatoare necorelate, 27
vector fuzzy n-dimensional, 51
vector unitar, 18
vectori ortogonali, 17
vectori perpendiculari, 17
versor, 18