Detect ia statistica a semnalelor

Constantin VERTAN
S a consider am urm atoarea problema: o sursa de informat ie genereaza dou a
simboluri, S
0
si S
1
, cu probabilit at ile P(0) si P(1) = 1 P(0). Pentru trans-
misie, celor dou a simboluri ale sursei li se asociaza semnalele s
0
(t) si respectiv
s
1
(t), care sunt transmise efectiv pe un canal zgomotos. La recept ie un ob-
servator primeste semnalul r(t), ce provine din degradarea unuia dintre sem-
nalele emise s
i
(t). Prin inspectarea semnalului recept ionat r(t) trebuie luat a
o decizie cu privire la semnalul s
i
(t) ce a fost emis si, implicit, cu privire la
mesajul S
i
emis de sursa de informat ie. Deciziile de la recept ie sunt
D
0
: semnalul recept ionat r(t) provine din semnalul s
0
(t), si deci a fost
emis simbolul S
0
;
D
1
: semnalul recept ionat r(t) provine din semnalul s
1
(t), si deci a fost
emis simbolul S
1
.
Exist a dou a cazuri n care deciziile sunt corecte (D
0
|S
0
si D
1
|S
1
) si dou a
cazuri n care deciziile sunt eronate (D
0
|S
1
, deci se ia decizia D
0
n condit iile
n care a fost transmis semnalul s
1
(t), si respectiv D
1
|S
0
, deci se ia decizia D
1
n condit iile n care a fost transmis semnalul s
0
(t)). Generaliznd denumirile
situat iilor ntlnite la semnalul radar (prezent a / absent a semnal reectat de
o t inta), cele dou a situat ii n care apar erorile sunt numite alarma falsa
(D
1
|S
0
) si pierderea semnalului (D
0
|S
1
). Eroarea de decizie (probabilitatea
de eroare) este:
P
e
= P(0)P(D
1
|S
0
) + P(1)P(D
0
|S
1
). (1)
Evident, un prim criteriu de realizare a unei decizii ct mai bune este mini-
mizarea probabilit at ii de eroare.
Cum nu toate cazurile de decizie (corecte sau gresite) au acelasi im-
pact asupra funct ionarii sistemului (unele erori sunt mai grave dect altele),
ecarei situat ii de decizie i se poate asocia un cost c (scalar pozitiv direct
proport ional cu gravitatea situat iei create). La nivelul ntregului sistem de
decizie, costul mediu al deciziilor (corecte sau gresite) se numet e risc si este
exprimat de:
R =
1

i=0
1

j=0
c
ij
P(S
j
)P(D
0
|S
j
). (2)
Criteriul de decizie Bayes stabileste regula de decizie prin minimizarea riscu-
lui.
Calculele efective de minimizare a riscului sau a probabilit at ii de eroare
conduc la evaluarea unei marimi dependente de observat iile de la recpt ie si
caracteristicile statistice ale sistemului, numit a raport de plauzibilitate, :
= (r) =
w(r|S
1
)
w(r|S
0
)
. (3)
Regula efectiva de decizie revine la a compara raportul de plauzibiliate cu o
constanta K numit a prag al testului:

D
0

D
1
K (4)
Pentru cazul deciziei de tip Bayes, pragul testului este:
K =
P(S
0
)
P(S
1
)
c
10
c
00
c
01
c
11
.
Ex. 1. Sa se deduca forma particular a a criteriului de decizie Bayes pentru
cazul observarii discrete a unor semnale transmise pe un canal cu zgomot alb,
aditiv, gaussian, de medie nul a.
Semnalul recept ionat provine din degradarea aditiv a cu un semnal de zgo-
mot n(t) a oric arui dintre cele dou a semnale corecte transmise pe canal:
r(t) = s
j
(t) +n(t), cu j {0, 1}. (5)
Observarea discreta a semnalului recept ionat nseamna ca semnalul r(t) este
esantionat la anumite momente t
k
xate; ecuat ia observat iilor discrete este
r(t
k
) = s
j
(t
k
) +n(t
k
), cu j {0, 1} si k = 1, 2, . . . , N. (6)
1
Pentru simplicarea notat iilor n ecuat ia anterioar a (6) se va elimina
dependent a explicit a de timp, urmnd a scrie relat ia ca:
r
k
= s
jk
+n
k
, cu j {0, 1} si k = 1, 2, . . . , N. (7)
Observat iile discrete ale semnalului recept ionat sunt grupate ntr-un vector
observat ie notat r =

r = (r
1
, r
2
, . . . , r
N
)
1
. Esantioanele de zgomot n
k
sunt
variabile aleatoare (provin din observarea unui proces aleator la un moment
de timp xat) distribuite gaussian, de medie nula si variant a
2
n
, caracterizate
de funct ia de densitate de probabilitate w
nk
(x) = (
_
2
2
n
)
1
exp
_
x
2
/2
2
n
_
.
Deci ecare esantion observat provine dintr-un esantion al unuia dintre sem-
nalele posibile de transmis pe canal, degradat de o realizare particular a a
procesului de zgomot.
Deducerea criteriului de decizie Bayes implica calcularea raportului de
plauzibilitate si compararea acestuia cu pragul testului. Raportul de
plauzubilitate este, conform denit iei (3):
= (r) =
w(r|S
1
)
w(r|S
0
)
. (8)
Este evident ca pentru calcularea raportului de plauzibilitate trebuie calcu-
late cele dou a funct ii de densitate de probabilitate a vectorului observat ie
condit ionat apriori de transmiterea pe canal a ecarui dintre cele dou a sem-
nale. Oricare dintre funct iile de densitate de probabilitate condit ionat a
w(r|S
j
) este ns a o funct ie de densitate de probabilitate a unui ansamblu
de variabile aleatoare:
w(r|S
j
) = w(r
1
|S
j
, r
2
|S
j
, . . . , r
N
|S
j
), cu j {0, 1}. (9)
Variabilele aleatore condit ionate r
k
|S
j
sunt de fapt esantioanele de ordin k
observate, n condit iile transmiterii semnalului s
j
(t), si, conform (7) sunt r
k
=
s
jk
+n
k
. Cum s
jk
sunt constante (ind esantioane din semnalele deterministe
posibil de transmis), caracterul lui r
k
|S
j
este acelasi cu al esantioanelor de
zgomot n
k
, si deci variabilele aleatoare r
k
|S
j
vor independente, ceea ce
conduce la:
w(r|S
j
) =
N

k=1
w(r
k
|S
j
), cu j {0, 1}. (10)
1
Notarea uzuala a unui vector se face cu litera mica cu corp de text ngrosat, de exemplu
r. O matrice este notata uzual cu litera majuscula si cu corp de text ngrosat. Notarea
unui vector prin

r va folosita n general acolo unde notarea cu corp de text ngrosat ar
putea sa nu e perceputa cu usurint a (ca de exemplu la tabla).
Din ecuat ia observat iilor discrete (7) putem exprima si n
k
= r
k
s
jk
, ceea ce
conduce la w(r
k
|S
j
) = w
n
(n
k
) = w
nk
(r
k
s
jk
). Atunci:
w(r|S
j
) =
N

k=1
w
nk
(r
k
s
jk
) =
N

k=1
1
_
2
2
n
exp
_

r
k
s
jk
2
2
n
_
=
=
_
1
_
2
2
n
_
N
exp
_

k=1
(r
k
s
jk
)
2
2
2
n
_
, cu j {0, 1}. (11)
Asadar, dup a cum se poate observa n (11), ecare dintre funct iile de densi-
tate de probabilitate condit ionat a apriori ce intran compunerea raportului de
plauzibilitate (3) depind de observat iile particulare realizate, de esantioanele
semnalelor transmise (si deci implicit depind de forma semnalelor transmise)
si de caracteristicile zgomotului de pe canal. Raportul de plauzibilitate
devine:
=
w(r|S
1
)
w(r|S
0
)
=
_
1

2
2
n
_
N
exp
_

N
k=1
(rks1k)
2
2
2
n
_
_
1

2
2
n
_
N
exp
_

N
k=1
(rks0k)
2
2
2
n
_
=
= exp
_

k=1
_
(r
k
s
1k
)
2
2
2
n

(r
k
s
0k
)
2
2
2
n
_
_
= exp
_
1

2
n
N

k=1
_
r
k
(s
1k
s
0k
)
(s
2
1k
s
2
0k
)
2
_
_
. (12)
Decizia se ia dup a regula:

D
0

D
1
K log
D
0

D
1
log K. (13)
Cum
log =
1

2
n
N

k=1
r
k
(s
1k
s
0k
)
1

2
n
N

k=1
s
2
1k
s
2
0k
2
regula de decizie devine :
N

k=1
r
k
(s
1k
s
0k
)
D
0

D
1

2
n
log K +
1
2
N

k=1
(s
2
1k
s
2
0k
). (14)
2
Regula generala de decizie exprimt a de relat ia (14) va compara deci o
combinat ie liniar a a observat iilor discrete ale semnalului recept ionat cu un
termen constant determinat de diferent a energiilor semnalelor transmise, put-
erea de zgomot de pe canal si caracteristicile particulare ale mediului de de-
cizie (determinate de pargul testului K).
Un prim caz particular de interes este acelan care se considera ca semnalele
init iale sunt transmise cu probabilit at i egale P(s
0
) = P(s
1
)) si costurile aso-
ciate deciziilor corecte si respectiv eronate sunt egale (c
00
= c
11
si c
01
= c
10
).
Aceasta conduce la determinarea valorii particulare a pragului testului ca
K =
P(s
0
)
P(s
1
)
c
10
c
00
c
01
c
11
= 1.
Atunci regula generala de decizie din (14) devine:
N

k=1
r
k
(s
1k
s
0k
)
D
0

D
1
1
2
N

k=1
(s
2
1k
s
2
0k
), (15)
adica decizia nu mai este dependenta de nivelul (puterea) zgomotului de pe
canal.
Un alt caz particular de interes est acela al transmisiunii OOK (On-O
Keying), caracterizata de s
0
(t) = 0 (si deci s
0k
= 0).

In acest caz regula
generala de decizie din (14) devine:
N

k=1
r
k
s
1k
D
0

D
1

2
n
log K +
1
2
N

k=1
s
2
1k
. (16)

In cele ce urmeaza vom considera un exemplu concret de determinare a

regulii de decizie pentru transmisiunea unor semnale oarecare.
Ex. 2. Se da un sistem de transmisiune n care semnalele asoci-
ate mesajelor S
0
si S
1
sunt s
0
(t) = cos t si respectiv s
1
(t) = sint, cu
s
0
(t), s
1
(t) : [0, ] [1, 1]. Semnalele sunt transmise pe un canal per-
turbat de zgomot alb, aditiv, gaussian, de putere 10. Decizia de la recpet ie
se ia conform criteriului Bayes, cu costuri egale pentru deciziile corecte si
respectiv eronate. Sa se gaseasca forma cea mai simpl a a regulii de decizie
pentru N = 5 observat ii discrete ale semnalului recept ionat. Ce decizie se va
lua n cazul n care vectorul observat ie este (1/2, 1/2, 0, 1/2, 1/2) si respec-
tiv (2, 1/
_
(2), 0, 1/
_
(2), 1) ? Sa se calculeze probabilitatea de alarma
fals a.
Evident suntem n condit iile de aplicare a formei generale (14) a criteri-
ului de decizie Bayes. Cum nu s-a precizat alfel, putem presupune pentru
simplitate ca probabilit at ile de transmitere a celor dou a semnale sunt egale
(P(s
0
) = P(s
1
))) si atunci pargul testului are valoarea 1 (K = 1). Atunci
decizia se va lua dup a:
N

k=1
r
k
(s
1k
s
0k
)
D
0

D
1
1
2
N

k=1
(s
2
1k
s
2
0k
), (17)
Cum N = 5 s semnalele sunt denite pe un interval de timp de durat a
T = , vom alege momentele de observare pentru esantionarea semnalului
recept ionat ca t
k
= {0, /4, /2, 3/4, }. Atunci:
s
1k
= sin t
k
s
1k
= {0, 1/

2, 1, 1/

2, 0}
si
s
0k
= sint
k
s
1k
= {1, 1/

2, 0, 1/

2, 1}
Rezulta apoi (prin calcule aritmetice simple) ca

N
k=1
(s
2
1k
s
2
0k
) = 1 si
s
1k
s
0k
= {1, 0, 1,

2, 1}. Atunci, decizia se va lua conform relat iei

N

k=1
r
k
(s
1k
s
0k
)
D
0

D
1

1
2
,
adica, n forma cea mai simpl a,
r
1
+r
3
+

2r
4
+r
5
D
0

D
1

1
2
. (18)
Se remarca faptul ca din combinat ia liniar a a observat iilor discrete dup a care
se ia decizia lipseste observat ia r
2
, deoarece la momentul de timp t
2
= /4
ambele semnale ce se pot transmite au aceeasi valoare si deci nu se poate face
o diferent a ntre ele pe baza acestui santion observat.
Combinat ia liniar a a observat iilor

N
k=1
r
k
(s
1k
s
0k
) = r
1
+r
3
+

2r
4
+r
5
dup a care se ia decizia se noteaza cu l si poart a numele de statistica sucienta
(unica coordonat a din spat iul observat iilor dup a care se ia decizia):
l
D
0

D
1

1
2
.
3
Daca dispunem de valori particulare ale vectorului observat ie, decizia
particular a ce se va lua rezulta din calcularea statisticii suciente core-
spunz atoare si compararea ei cu pragul constant de test. Astfel, daca
r = (1/2, 1/2, 0, 1/2, 1/2), statistica sucient a devine l = 1/2 +
0 +

2(1/2) 1/2 = 1 1/

2 < 1/2 si atunci se va lua de-

cizia D
0
, ca vectorul observat provine din semnalul s
0
(t) = cos t. Daca
r = (2, 1/
_
(2), 0, 1/
_
(2), 1), statistica sucienta devine l = 2 + 0 +

2(1/

2) 1 = 0 > 1/2 si atunci se va lua decizia D

1
, ca vectorul
observat provine din semnalul s
1
(t) = sint.
Probabilitatea de alarma falsa este P = P(S
0
)P(D
1
|S
0
), unde P(D
1
|S
0
)
este probabilitatea de a lua decizia D
1
n condit iile n care semnalul transmis
a corespuns mesajului S
0
(deci s-a transmis semnalul s
0
(t)). Decizia D
1
se ia
daca valoarea statisticii suciente este mai mare dect 1/2, si atunci
P(D
1
|S
0
) = P{l >
1
2
|S
0
}.
Condit ionarea prin S
0
nseamna ca se stie ca semnalul transmis pe canal a
fost s
0
(t); atunci orice esantion observat este dat de r
k
= s
0k
+ n
k
, unde
s
0k
(esantioane ale semnalului original transmis) sunt constante si n
k
sunt
realizari particulare ale variabilei aleatoare obt inute prin observarea procesu-
lui de zgomot alb n(t) la momentul de timp xat t
k
. Valorile r
k
sunt atunci
similare cu valorile n
k
, ind deci realizari particulare ale unor variabile ale-
toare independente, distribuite gaussian cu media s
0k
si variant a procesului
de zgomot, adica
2
n
= 10. Putem determina atunci distributia variabilei
aleatoare statistica sucient a, ce rezulta prin combinarea liniara a a vari-
abilelor aleatoare r
k
: l va avea o distribut ie gaussianaa. Media variabilei
aleatoare l este:
l = r
1
+r
3
+

2r
4
+r
5
= r
1
+r
3
+

2r
4
+r
5
l = n
1
+s
01
+n
3
+s
03
+

2n
4
+s
04
+n
5
+s
05
l = s
01
+s
03
+

2s
04
+s
05
= 3.
Variant a variabilei aleatoare statistica sucienta l (n condit iile emisterii
mesajului S
0
si deci a transmiterii semnalului s
0
(t)) este:

2
l
=
2
r1
+
2
r3
+ 2
2
r4
+
2
r5
= 5
2
n
.
Atunci funct ia de densitate deprobabilitate a variabilei aleatoare statistica
sucienta condit ionat a apriori de transmiterea semnalului s
0
(t) este:
w
l|S0
(x) =
_
_
10
2
n
_
1
exp
_

(x + 3)
2
10
2
n
_
.
Este evident atunci ca probabilitatea cautat a este:
P
_
l|S
0
>
1
2
_
=
_
+
1/2
w
l|S0
(x)dx. (19)
Ex. 3. Semnalele binare s
0
(t) = 0 si s
1
(t) = A sunt transmise cu aceeasi
probabilitate pe un canal de transmisiune afectat de zgomot aditiv, a carui
valori sunt caracterizate de funct ia de densitate de probabilitate:
w
n
(x) =
1

1
1 +
_
x

_
2
, cu > 0.
Sa se gaseasca regula de decizie de la recept ie, folosind o singur a observat ie,
pentru minimizarea probabilit at ii de eroare.
Unica observat ie (esantion din semnalul recept ionat, N = 1) este:
r = n +s
j
, cu j {0, 1}.

In acest caz raportul de plauzibilitate va depinde doar de unica observat ie

realizata, r, si deci regula de decizie de la recept ie va putea pus a sub forma:
r
D
0

D
1
T, (20)
unde T este pragul de decizie ce urmeaza a determinat. Probabilitatea de
eroare pentru decizia luat a conform (20) este:
P
e
= P(S
0
)P(D
1
|S
0
) + P(S
1
)P(D
0
|S
1
) =
P(D
1
|S
0
) + P(D
0
|S
1
)
2
. (21)
Probabilit at ile deciziilor gresite sunt:
P(D
1
|S
0
) = P{r|S
0
> T} (22)
P(D
0
|S
1
) = P{r|S
1
< T} . (23)
Ce nseamna r|S
0
si r|S
1
?

In primul rnd, r|S
0
este observat ia realizata n
condit iile n care se stie cu sigurant a (condit ionarea apriori) ca este transmis
semnalul s
0
(t); cum s
0
(t) = 0, aceasta nseamna ca observat ia realizata n
acest caz este chiar un esantion de zgomot de pe canal, si r|S
0
= n.

In al doilea
caz, r|S
1
este observat ia realizata n condit iile n care se stie cu sigurant a
caeste transmis semnalul s
1
(t) (condit ionarea apriori); cum s
1
(t) = A, aceasta
4
0 A A/2 x
w(x | S
0
) = w
n
(x)
w(x | S
1
) = w
n
(x A)
Prob (D
0
| S
1
)
Prob (D
1
| S
0
)
Figura 1: Determinare graca a pragului de decizie.
nseamna ca observat ia realizata n acest caz este chiar un esantion de zgo-
mot de pe canal decalat cu cantitatea constanta A, si r|S
1
= n + A (sau
n = r|S
1
A). Caracterul statistic al observat iilor condit ionate apriori este
impus de carcaterul statistic al zgomotului de pe canal.

In ambele cazuri,
observat iile condit ionate apriori vor avea aceeasi distribut ie (funct ie de den-
sitate de probabilitate) cu a zgomotului; doar n cazul observat iei condit ionate
r|S
1
, media se modic a la n + A. Putem atunci exprima probabilit at ile de
decizie eronata din (23) si (22) ca:
P{r|S
0
> T} =
_
+
T
w
n
(x)dx
P{r|S
1
< T} =
_
T

w
n
(x A)dx.
Probabilitatea de eroare ce se doreste minimizat a este atunci:
P
e
= P
e
(T) =
1
2
_
+
T
w
n
(x)dx +
1
2
_
T

w
n
(x A)dx. (24)
Minimizarea acestei funct ii dependente de parametrul T se face prin anularea
derivatei ei n funct ie de T:
dP
e
(T)
dT
=
1
2
w
n
(T) +
1
2
w
n
(T a) = 0
1
2
1
1 +
_
TA

_
2
=
1
2
1
1 +
_
T

_
2
_
T A

_
2
=
_
T

_
2
T =
A
2
. (25)
Ex. 4. O variabil a aleatoare r este observata ca putnd proveni din una
dintre distribut iile (condit ionate) descrise de:
w(r|S) =
_
r
50
, r [0, 10]
0, rest
si w(r|0) =
_
0, 2
r
50
, r [0, 10]
0, rest
.
Daca S corespunde evenimentului studentul nvat a iar 0 corespunde eveni-
mentului studentul nu nvat a si observat ia r este nota acordata studentului
la examen, sa se determine raportul de plauzibilitate si regula de decizie, con-
form criteriului Bayes. Sa se determine pragul de decizie necesar pentru
minimizarea probabilitat ii de evaluare gresita a studentului.
Decizia conform criteriului Bayes Determinarea raportului de plauzi-
bilitate este imediat a:
(r) =
w(r|S)
w(r|0)
=
r/50
0, 2 r/50
=
r
10 r
.
Deciziile corecte nu costa (c
00
= c
11
= 0) si pragul testului devine:
K =
P(0)
P(S)
c
10
c
00
c
01
c
11
=
P(0)
P(S)
c
10
c
01
.
Regula de decizie determinat a conform criteriului Bayes ((r)
D
0

D
1
K) va
atunci:
r
10 r
D
0

D
1
K r
D
0

D
1
10K
K + 1
. (26)
5

In cazul ideal n care ponderile ce se dau evaluarilor gresite sunt egale (c

01
=
c
10
) si probabilit at ile apriori ale evenimentelor de a nv at a si respectiv a
nu nvat a sunt egale, K = 1si atunci rezulta evident un prag de decizie la
valoarea 5 (lucru bine cunoscut):
r
D
0

D
1
5.
Decizia conform criteriului erorii minime Probabilitatea de evaluare
gresita este:
P
e
= P(0)P(D
1
|0) + P(S)P(D
0
|S).
Probabilit at ile de decizie gresita, corespunzatoare unui prag de decizie T oare-
care, sunt:
P(D
1
|0) =
_

T
w(r|0)dr =
_
10
T
_
0, 2
r
50
dr
_
=
T
2
20T
100
P(D
0
|S) =
_
T

w(r|S)dr =
_
10
T
r
50
dr =
T
2
100
Probabilitatea de eroare este atunci:
P
e
= P(0)
T
2
20T
100
+ (1 P(0))
T
2
100
=
T
2
20TP
100
Pentru minimizarea erorii de decizie trebuie gasit pragul T care anuleaza
derivata erorii de decizie:
P
e
T
= 0 T = 10P(0).
Regula de decizie devine n acest caz:
r
D
0

D
1
10P(0). (27)

In cazul ideal n care probabilit at ile apriori ale evenimentelor de a nvat a si

respectiv a nu nv at a sunt egale, P(0) = 0, 5 si rezulta evident un prag de
decizie la valoarea 5.
Concluzia interesanta ce rezulta din (26) si (27) este ca exigent a va creste
atunci cnd, apriori, se presupune ca student ii nu nvat a: daca consider am ca
P(0) = 0, 3 (K = 3/7), pragurile de decizie devin 7,5 si respectiv 7.
Bibliograe
[1] Dict ionarul Explicativ al Limbii Romne, Ed. Univers Enciclopedic, Bu-
curesti, 1996.
[2] Al. Sp ataru: Teoria Transmisiunii Informat iei, Ed. Didactic a si Peda-
gogica, Bucuresti, 1983.
[3] A. T. Murgan, I. Sp anu, I. Gavat, I. Sztojanov, V. E. Neagoe, A.
Vlad: Teoria Transmisiunii Informat iei - probleme, Ed. Didactica si Ped-
agogica, Bucuresti, 1983.
6