Documente Academic
Documente Profesional
Documente Cultură
... 1?
p1'l>b-ab1.J!.. IlrUetlt"I, PJ!nbabll1tatea em1s1el od.carui me4aJ sate l/1f.
h 'Uf8'nsmit6 llD 1118 ssj. adlea ee a!ege t1I1 anum1!; sll.1lt1.ll1
din allS/.lmtUll1: da !lI6Ssje, il-C6asta cone:;:etlz:arll. ae-east!. re~l1z~"='ftt
,tnf!l.lllillat~, ltlf'l':rmaij:!e eat.a '::.iJ. ati t ma1 m.:.u:6 eu. cIt este ma! 1m
I':r-v1"i"~..l1 .rro'U:;"~~a e~enllllll;L;ul~ con;tltu.lt ~; tnlJS;;;'t;Il~e-;
ecel:1i. aemral. ;19<:1 r::1l cit asl:e mal midi probabi1itates .respectivu.
~i mesaJ' !nf~~wn~is depinde d~cl de pr~b9bi11tatea z6s1lzRrii
~e1 anumite ~1tUb~11 ~i prio d6f1nl~ie esteB
Ati'Wl.c d _
tT, iRIA
OR
JIB
,.
i:lc.g!
i .1. M:$BlAII
f~QiDeotulul con~1derat.
0m
neC-~sClr
~i
per.tltrba~i11t
~tim
c~acter
cunoa~ter6a
tra~misie1.
~.I!anSfll1siei
no~1uni
,,1..
provenieo;~,
fizi~
No~ilUllla
e~tll
"
~rmeaza
ansambl~
PertllrbB~iB
~elege/ll
no~iUAe
_.~~
imag~nam
~ntorma~ie.
~MBaje
?=
_.
18
19
0I)al;1);., Iddo" ".Probabll1.t&tea eillis1ei' oricaJ!u1 metuQ eat. i/ll o
Q111d" __ tnbsmit~ IlD me saj, adioa Se &lege un. aoWD1 t Sll-7l.ual
din Qn~~ d4 I mssaje. ecaasta conc~atlzara. aceast~ r6aIlz~r69
ini'?rmalia, :fuf'tJ-I!_~t;ie llst_e ~02 a_~ to maJ ~a-te cu ettes.!e
1m
F!'ll"~~db:nl u"ll~l'l1a e",oolmentul,d cDastHli1t joe ~l'anslrl1terea
c61~ samDal, d&e1 eU cit Q~te mat mica probab11itHt~o respectivu
or~u~ia depinde decl de probabil1tatea r~a~lzirli
~ei lloUll1w lS1t\l~iiii li'i pdll defilli"iio ostel
Wie-t
, da
1.TEORIA
El
i .1. MAlum
SI NCTIUNr SP.B'C.Q:.ICE
IN110RMATlli'I
TRANSMISI~
;i..,106i
.1:1
priv1~1 OB~url
~semanatOl'
ill8o~esc tr~nSlll:i.slile,
t.l'al;~lll
~1
Pe.rl;u-!'ba~iile
evolu,~ie
~1
8cee~1,
manifesta~i conc~ete
rest~ina,
ansamblu~
PertQrba~ia
no~1l1D.e,
fieca~e
ma"
,uaa
?=
[x(t) - y(t)]2
lU1dec este eroarea, diferen~B d111tta x(t), sGl:lD.alul ganetst de
a~rsa ~i ,.(t), semnalul ofarit utilizatcrului. Bara de desBupra
20
s1!Jlholizeaz! aod1e~oa in timp S .tIll:tiJni1'. J1vi (,eo!; 0 hsosm:l.s1e
atit llIIIl bUllA. cu cit. cr1terlul dt' 1'idelit;;::e. e.roare mediCI
tratlcii. ea,te lDal l/1idi. Cel de 031 doileB Cl'itarill He scrio'
oS .. U(t)J2
Cit
[n(t)"p
10 CSl'e o(t) este zgomo!;ul ~.rturbato1'. care n~ se as1 sepa.t'a cl~
semnalul lltl1. :z(t). Conform ltcestu:!. c.rite.riu. Ll!l l'apo:rob samnal
zgollJo:. JDare t Indica 0 tral1Slll1eie de mars fld!1l1ta te. AI tre1le<ll
probabilitatea decizie1 1'alse, se .l:'61'5ra 1e trsosmisi
OWll6.l'ice qi Uprlma Probabil1 tetea de a 56 r6Jlllt(l uci 1iz9 torulu
un cuvint ca.1'e de fapt nu a fost t.t'snsmls., invel't.ires 1'Und tac
ca ~a.l'e a zgomotelor din c~Qal. n tl'snsmisle de maro ridellta
loseamos 0 mica P.l'obsbilitate a declziei talse.
Cl'iterl~,
rneSOj
perturbofi
semna!
Pig.I.!..
In SChema d1n !igUJ!fl i;l se
all. !'acil1teze tl'allSllliaii multiple.
lDSi Pot introduce element" cu
a mal mUltor s6111nale prio aca
18~1 cansl.
1.2. NEDFTFRMINARii' SI INP'l;RJ4ATlF
m COllsiderQ un a:lS8mb1u de ~saje din care l.l.1'JIIEiad a executa
'trsJ:s isls, P6 care 0 vom denUllli experiment. Pe lIliisl.ll'a ee ..6 face
an
t.1' sm1sia. zicem c1 eXPQl'ioentul se l'ealizeaza iot1'-O 1'orma sau
int..r-o concretizere sau al ta. lnaint6a r9alizB1'l1. deci 1na
10tea trallSll11s1ei: .I.IS~tUnd care din IIllisaje Sa va seoate din ao
aa.bliU, c90s1del'st. avem c ineel'tltlldlDS .Aceasta se va :r1s1pl 1ci
diat ce S-a executat
mesajullli. Incertitudirea. seu
a~ta.
alege~a
~'ds-
21
te~l:J.narea,
8 Wlu1 uven1
de seijl 'ivOnililellt, :ll.!li procis eate funo1i:l.e 10
pl'~babilltatoa lui apr'l.oJ..'i. Od.nt;;l cu in1.itara.r.!lJ inclll'tltJld1ni.1,
ob vlnem 0 1nforlll~~~e claSp!e ~~saoblul din care S-a e~tt8" mosaJul,
Cale_colli ,mll..rillli. 1nta.rllll.!liia ob~:l.nt:ctll. Iii lle,letarm1oaraa unte.ri08r~.
slot, ecb.ivale nt4l.
Conslderb mel3ajul ern1s %1 (t), UP'lLl! ~:i.D I'.a1 mil
]:>OGibila
a fi amiss. pre~um ~j, pl'l))ilb:l.litatfia sa de 8 f1 selao;;tst: 10 1I1ll1
aie, p(xi). InC61't1.tu<iinea init;1alii, ina1cte dEl 6ltll.S1e, esl;;e !'.lrx:
yia F(P(~i), egalli n itlfo.L~~1.r: 1(;(1) aduall de 8~.~~.t1a mesl.ljll
lui xi(t). La trecer-se pric canal, GQronr.lul 1 1 (t) so slt6ren~A 91
ls recepi;ie aose~te "j(t), dependent de "l(t). In Ul'm8 obll-ervarU
sllIlnelului Yj (t), dispare 0 parte din lneert1tu-iioes ex1stll11t!
insinte de observar6a lUi Yj(t? astf61 illeit nedete,r.llli!l&1'6s apes'
teriori, de dupi obslr.vars. F( p(:t l
I
eate, de regula, !!lei m....e
decit nedeterm1narea epriori asupfs lui xiCC). Nod8t9rmi~r~a /IF
terior! este 8ceia91 ~unc~1e F de pl'obabllitatea mfiSsjului .'I 1 (t).
cond1t1onstli insa de realizarea concreta in forma yj(t). Cantite
tea de incertitudioe d1sp:irutii in \U'lII8 obse.rvil.ri1 s8lJ!oalulu! yj(t).
este egall c~ calltitatea de infol'ma~Je aduaa d! 1j(~) despre x 1 (t).
Dec1:
1(-X1.Yj) = F(P(f~)) - tr(P(X1/1~
mant. este
futIC~ie
/Yj)
sa
!JJ 00n8Qc1Qrl,
P(z1')~
1.(",)
.
I
Dga.l'it~. UIU.'e
88t1."8.fIiOG
Hla~~ ,.:;.
23
mai
'"
i:_
~o
.l':I.tDti
aaup.l'o!I
~:"Dt8,l(f7
, ttind
J"js~69V~~'~
~i
1.3.
13'JRSE DE
01.
em1 te
SlU'sa
Ip~1/Yj)
=- log p(x
(1.
~
i
Sa PCJste ealcu..la ermoscfnd Pl'pbabiUtate8 llpoat'l.ri.il.ri. II e"801
<Qant<l1u.~ .ll:i t c"llo1.1:t;:i.oaat de rfiOept;1ooal'es StlillnalulUi ;:r;;
'
;>01;
.,Ii.
GOlIlr-!.l.l.'!.lt!v:s.
ba
:L(.xl'Y~)
IlBte
1180ijSEl:!'
$lU'a&
III&QDm.e..
1Nmmur.nr
1~1'1I2~1e
.!~Il
~}
alog6r~s aciadg~81l
&e~
n BUl'sa de
8ste Un Ill6cetl.ism matslIlatic
tohnl
car!
alege:
em1!.e u.e._mosaJ diatr-un 8D.semblll de I118saja P(l
s1b116,
ll!aato.r. Bursa as
Se
terizeaza Pl'io setlll ne mesaje pos1bil a 1 sellletat:Ei, dellWll1te
simbollU'i sau l1tere, anssmblul fHnd i.o scast llltilll
dlloua1t
al.fabat. Bursa se JD;'i ca r acte.r1zeszs
III doilea s'lt de JIIj
r
riml, care l'ep ezlatia statistic Sursa, .filnd
probabllitl
t110l' cu cal'e 5e amite .fie care simbol
iD1'o~~at1e
Ollr8C~
~aE
~iQtr-un
i~iruirea
%1
.'.J
%3
%1
[
I
P(.xl)
P(X ) p(X )
3
1
Aiei CU .%i am ootat silllbolul al i-lea 9i cu p(X ) PI' ob&bil1ta tea
i
ca aCGst
s1mbol sa SIl emits. Fvldsllt exista egalitlltoa,
-~
1=1
%2
P(%2)
p{x l ) = 1
simool. ou dep1nde iD
em ca SLl..rsa eate fil'a
III :; I1P(x l ): ~
cllea
C6
2 ) 11;1. :; fLP(X1..)
iQs'samna cs. trac'17eoie or;l.dlrui e1mbol in 'iI:l.z1l1 tip1a
fl;:J(X
'6
24
25
d~ lang~
----
dt:.l:litii.
bllc~rl1
d9
man1
~81oel'ea maxilla a
siJllbolD~11or. sint
t..
S~r3a
.J-...o
~cest
informa~ie
~1
HCslf
--
~pee
uv este
Qjcl 0 ~d.te~m1na
J1g.1.2.
-- -
1.4. CANALE
= H(X)
tflC:I)l.l
'j
. - ,- .
ute Xl' :1 2 . :1 1
26
P(Yl/x l)
.P(Yl/%2)
P(Y/X)
::
I.
.,
x
Ii]'
p(Yt/ o )
Cil
27
0 11011 ~1
ill
r11.d d."
fl..."",..
P(Y2/~a)
'"
P(Yj/x
d. ",,;; t",..,,,
n ) P(Ym/~n)
.rela~1a 1
"'''''oi.
[p(Yl!:il .,
iafo'l'!lJa~h,
- F(YIX)
,.
I.
P(~i/Y1)
P{x 2 /Y2)'"
P(~n/Yl)
zi
C"U
,/Y.J
Ob~i.06
L"
1.:1
(1.7)
H(>~/Y)
-5-"
H('I/Y) :
~~
(1.9)
Jiceaste. matrice este ob~iouta Pl'io ca1eul, SPl'e deos bire de mae
tricea [P(Y/XB care se Poste
expel'-imental.
.
Ii (X) :
p(Yj)
l'ela1tia 1
H(Y/X)
P(',h.)
(1.1f
:(X1 / Y2 )
LP(yB
, !tllt.1'ic ea de pl'obab111tl~1
m
=f;
-p(Yj) log
Matrices de probao
ta~i rp~y)J se obUoe cu
[F(Y) :: [F(X) [:(Y/X)!
~ul
(1.5)
=~
1.:1
(1.10)
(1.11)
j:l
Ball
H(Y/X)
n
=~
1II
28
29
H(X)=H(Y).
Dscii cSllalll1 este dominat de z;golliote toal'te Putel'oica. a.a ~8mll minus. In consecint;~l
S6IDna1elor de Ie
llll l!la1 de phil
I(X,Y) = H(X) - H(X/Y).
(1.15)
c8lla de la intrare. d8'l7 enind dac.i iOtleI>endente, adlca:
ad1ca traosiD.for!ll8tia ute diferent;a d1 ntn 8otropia :;urso! CIt re
R(YII') = H(Y)
lili
H(X/y) = HeX).
tel incH
prob8bil1til.~ih
ie~i.re
1
marea
l(X;Y) =
este egala cu 1ncertitUdlnea
deci
nilDie
lee;' P~Yj)
despI'e
cind.obse.rvWu iatrares, .respectiv lIehivoeat;ia PEl Clio
eeea ce se l118i Peate soriel
j:;IIa
In cazll1 real, ciM zgoll!otele e.xista, dar nu sint atit de
Putarnice, incit din semnalul
se nu se poata deduca
+
P(%10Yj) log
nillli.c asupra semnalului de la intrare. eatI'opiile condiHonatG
1:01 j;l
.J
vor
a"'ea
valor1
interllledisI'e
celor
doua
extreme,
C69a
ca
In .rela~ia de .mai sus, pI'i:::' SlLma dubU este H(Y). oh~inlLt:'li.
se scrie,
~o.r dac;;' S6 trece io af!lra sumei P6 dome:iiul i prcbllhllitstll'&
O"';H(X/Y)-';H(X)
respectiv
p(y.) 9 i 10garitmul sau. A doua dubl!i sumB., ccnfO.1'l:1 (1.11), este
O~1iey/)C)~H(Y)
J
.
.
eroarea medie cu slmnul minus. In conseoin~11
1.4.2. Transioforlllat1a
, r(X;Y) = H(Y) - H(Y/X)
(l.16)
Desp.re traosinformtb putem deci afirma coD!Ol'Q (1.15) cll.
Dacii anal1zlim 0 paraOhe de simbo1u.ri DB .r"c!l{'e, uall'l fHnd
este oedetermios.ree sosamblului de la int1'8I'e minus echivocul.esu
prezent la intral'e, isr ceHUalt la ia$1.l'e. (Xi;Yj)'
CUG am
pre acsstui ansemblu atunei cind se cuooa~te ie$iree, altfe1 spus
adtat in (1..3), vom
eu ajutorul lUi Y 0
aSU.pr3
IIste 1ifer8o~a 11ntre OIIdeteI'm1aarea in1~1aH a intI'A.I'l1 ~i OIIdll
j
lui Jet' ega18 cu log P(Xt/Y;j)/P(%i). Din cauza zgomot1ll:or dill oand tel'minsrea riimasB. eellpI'8 intrarii, ciod S8 cu nOIL9 te :!.s~iI'e 8 .Ace
iotormatia proprie, 10g-PC;i)' este mai mare
mu
1a!;>1 transinfor!lla ~1e, coD.forll: (1.1E este diferen;;a eintn nede
termina.rea init;ialii a ie$irii $i nodetermioa.rea ra:.Jasii asupra le
tualii., log p (1;
Xi Yj y, ceaa ce ins68mnii cli iotormatia adusa de y.J
cind
cana1ul are ~gomote slabe. In c!lzul absen~ei acestors, de08
1 iY
le (X
treouta P1'in can3L Mi
cs.
rece probabi.btiit;ile p(Yj/X 1 ) devin, unele ega1e cu 1 Iili altlle ega
"i) posibile, se
le eu 0, BellY) dev1ne null, oa !;>i H(Y/X)J!ar iD.fcNul~1a ob~10'8
veloarea
ID8x1mii, egal! cu Dedetermina.!'ea 'sursel H(I).
J(X;y) '"
P(Xi'Y;j )[10g
f;J.~
1.' ,1
Valoarea
minima a informat;iei eate obt;inuU atunei ciod
og
p(xihj)J
(1.1
Ult1l!la
~ela~1e se llIai poate serie:
siDle r.gomote atH de pute.rlllce. incH PI' obabil1 t! lle condi ~hll6 t.
P(%i/Yj)' ' p(Yj/i:i) devin nec ondit;iOIlB te $i deci entropille condl
ID
n
m
J(X;Y) =
)10g p(x ) ...
~ionate devin egale cu. ceb necondi~ionste.
1= J;I
~
i
~ ::>
j;I P(xioYJ,)log p(x I1;
i
B(X/y) = H(X); H(Y!I) = H(Y)
Sa poats obse.rv8 ell,
in 8fara SUJJ:ei, executate dupii j, ant
In IICest car. rez;ultil. cil.. informat;ia Iste nul!, adicl' din obse~a
PEl P("1) cit
10ga.r1tmul sa.u, Se
in Prima sWila dll.blii en
rell 18~irll nu putem deduce n1mtc asupra u.t1l1r.lrii intrbU 0
~1rii.
ie~irii,
i6~iI'e
Insea~na
ou.~t1m
~tim
1nt~sre.
~ecep~ionat
1:. 1-
situa~:ii
a~a
ob~ioa
iofOl'"l!l!l~ie
~ecit intovaa~ia
v81oa~ea
Medi1.Q~
ob~ine in:orma~i8
. t
'R,pi.
f-
~-P("'1)P(Y~/xi
eco~ind
~1
dlfGrea~8
PC;;J -..
~
ob~il1e
~ ~ P(X1'Y~)
P(y~/xi)
31
30
, ;
H(Y!X) = -p log p-(l-PJ, log .
. . t-p,
' _ (1.17)
.
Concluzla ce se poate '
tJ.'sge este
dec! os latorIllB~1s t1'eCUL. a~aasta relat;;ie rezult"" COlJ: e.oa...es
illil .
.
n
"
,die
eate
1~1ep6n1';1ota
os
o
pr::'o canal, atuoo1 clOd ae cons1rlera v8riabll caMlill CIl raralllEl tJi~" iu1v
ll.ti11zare a b
c,analulu:t" de pro
3Ll il'tii~il(j
1.
. P/X).
,
'
In acest.
s1l1 de
llL'a 0 valool'(l
intre
111 !Intl'opia:sOt
translatol'Dl!lt;;ie ''lata conform 1:;; 1 3.1.0..
. uo_ maXlm.
_
...
i
(1
16)
va
a',1HI
Z
sl1l'SI3..
ac"-
'
.
"il
d J: E(Y) are va10111'O lD3Xi.m1l. .:lQ
trenstl~,
'
c"'P~1[)a.
~e
;:;tl~O
~:i.
-.. ----
c'CBS __ 1
+ P log D +
+ (1-p) log(1-p)
aco~t1a ~i
fUOC~lon6aza
va 1'lr
,
I:
'
Flg.1.,.
(1.18)
informa~ia
atingo cap~citfl-
1
b1tssza in cans . are'1 p~li:!)
0
,
deblteaza ill cacal, este
de uosnwn1t sat. do
'1910 ca caoac1tatea
..i ','
OJ-Da."
u
D
1
0
roll
Is
t;;
~
a
"
:;
'
.
bl.litat;;i. Daca caMlul ou f Oc",1oo.eaza 10 capacltat08 sa, apare 0
d t" UJ;:lsi de 7;gOlllQtcl p dl,n CaLlal. Aceas, t 'a d' e _
'
.
.
.
"
1511l10trlc
este
depen
ao
0
rodUllosot;;a, defJ/;.ita ca rilfel'or.t;;a dlotro capsc1.totes canalulu1 $1,
.,
t t-a .'n
flgu"B ~"_-.......
1 3. Dace. p::o,5, ceea os 'i e~alUd t;;a este prozeo e Ii ":'w
~.
,
"
"
trst1S1ofoJ'lDatia
];In. o n .
1 i ..
in CBnal se obt;;iile
ox ..
r
\1
a a ls orlCll semoa nwr"
,
. ..
R =
- r(XiY)
n c .
1 1
aoacitatea canalu1ui este nub,
""',",0
do e~ nici
1'0, c_
"
.'
u1t _
s~o sta se aa
uo canal deosebit de simplu eate cacalul bi.n!u si.D18tric (}<!. care s1.mbol
ma1
un tel de 1[1forma",l9.
Fap
x
re aro matrices do transf:Jr
toresza
~ 00 ioilependootei sOll!nalului, do . i re d e ,. 1 de l/ltrar6 C<>Cl,
caracter~zste.
pr,,:Ja~
t'
CBS
--
~P
1-j
se va obylno
P(Y2 Ix 2)
~/l~.
troci~d
llchip~obao11
prl~
~e9
I-p P
.
dOPllndentii doar deo siogura probabi11tate p. Se vede ca l:O cessl
biMr simotric are alfabotLll de iotrarG, ca 9 i po cel de lqii'
~i
caoalu~r
~.t"
I",r(XIY'~max
~o
~6
= 0,5
ln~epeodeota oe lctra~a,
OU
DB poate
1.5. CODURI
Ne PWl611l prob;Le!!U! tranaportltlui ioformat;ie1 uoei su.rse I\a
Ill.formstie priotr-uo cBcal 9i constatam ca io gooeral, alfabot'll
sUrsoi ou este idontic cu elfebotul de la iotr(lrea cana1ului. A
ceastii oo'edaptere fac6 imposlbila conectarea sursoi direct 1a ca
oal. llste nevola de 0 coo"ors1e s su.rsei, int1'-un mod caro sa 0
rae! acceptata de cacsl.
"'om iotercela iotn surse. 91 cacal uo coc"'6rtor, cu sccpt:.l
de 9 trsnsforms oricare simbol gODerst de s!.lrsa, lo.tr-o aucces1u
Qa de simbolurl acceptate de canal. Acost ,~oD:\'6'rtor BI nWll&~te
32
33
1ntorma~1e
reduor!an~!
"t:.
Prezeo~a
Dffi
deD~a
mul~1lllea
~1
~
ell~
f;:)2
(I..a;)
35
34
E.fic1en~a
'l. c
m~dl1. L,
!'S)
log 2
(1
1 Ii
P(%1) p(c i ) :: (~)
= 2 -1
(1.
o
r2
i= 1
-to
1
:E1
(1.,
ati~e
1
mai mal'e decit aeala eare l'ezllltii din.(l.25), seeasta de~1r8
log2
i
'Pt's."'J
~ 11 < 1062
1
~pl:!.!icll.m
obt1nindl
S8U
1~
eu P(s1)
.
~1
PrS:;Js.1
of-
ReS) ~ L ~H(S) 1
(1.'<7)
eu.. .iot;el or d.
cod este l1m1tetli 1ateriol' 1a eotrop1a sUl'se1 R(S). P.61a~1l! (1.27)
ne arE:t~ aeU!ll clL se poe te eons1ders oa 11m1 ti. su~ ri oera a aeestei
lllag1m1 medii, ev1dent IJ3ntl'u co(1ur1 b1care, va100rea eotrop1e1
!I
Lt
t
<ReS) +
SSIl
tneS)
(1.213;
n
0
1
_
P(s1)log z+..-~::>"
~\~1) t;1 P(s1)!1 <~
J;I P(s1)10g Pr8;'J
1
-=
)l
16
egal! cu SWDll Pt'obab111dillor Sbbolll1'llol' din IlllU.V11llaa
dent e~lsti ega11tates:
~.
37
BIrd;..
'tabelull.2
1aol'l~1,
Se d1vide
in cite doua
st obUclDdu-se.sublaul~1lD11e
ublllul'!'iOlI, aUt
mul~ll11!l!11
~o' ~l'
61D
B1) cit
Soo' Sol'
tn .t1&cB.r.e d11l
cirtlr ~oba bllitat;e, Insumat! tn dOlleniUl
d. 1.Qtol'il1d B1mbolur1
P(SOO)
Ii.
P( So1)
P(~o)
:: P(SH) '" 2 -2
cont1~
p(a 1 ) :: 2
-i 1
sl
~1
(1.
sl
s2
8
~'f25
8 4 .
0,125
0,0625
0,0625
0,0625
0,03125
0,03125_
0,03125
0,03125
0.tl3125
85
B?
&8
s9
s10
sll
&1
8
1, ae obt;11JB:
a
~
1::i
p(d 1 ) ::
1 =
.
fu
1=
-t
sol'bo~8Ceat
~
fu
P(s1) l.og
[H(S~
1IIlU: ::
~x1ma
12
13
0,0~25
'0
100 .
1010
loll
1100
llolo
'11011
11100
1
0
11101
11110
11111
0
1
1,
......
011
,,1
0'
1
;
~
<;
-_u
Ii
.5
c;
,.,1:_ _- _
<;
ol'epl'edntl
codal'~
b1ns~
1.
entrople, Sol'
8V8S
l~
_.
DO
.01_,) _.__
II
~.
- .Plg.1.4.
L ::
tul de
cod
lw:J.gime8 ou
viatllllli de
cod
en
tru
se Prez1ntl in tabelul T.I.2 0 codsol'e
Shannon
-Fano 1ar in .flgura 1.4 gol's.tul
cool'espunzatool'. Sursa
are 13 s1mbolurl ~1 0 entr op1e:
R(S) =
--
CuviQ-
2
1
11~trare
D1v1zaraa in BU_bmuHi.m1
t~ 1nd.1cl1 sublllul1;1m1~
0,25
o.}25
bol
Probab1l1
tstea s1m
bolulu1
P(S1)
Be vede cl
P(st)l1:: 2'0,25 ... 3.0,125.3 ... 4.0,062.5.3 ...
S~bo1
blQ8r/s1mbol sUrsl'
eu 'Qtrop1a
luag~es ~dle
a cuv1nte1or d. cod
es~ gall
Oil
38
dent Jl 01 +1111=1' 1'robllb111tatea em1terii.
codbl1,vs 11
~ ( .
2-.
P 81)
P(o) .. {;l
ti
ZEll'O,
I1J.'ma~iJ
cs
11
01
11 01
...
p(St) .llt1
fu P(s1) Cs,1
P(l) .. ..=-=
~
r.
1:1
39
~"~1.JnA14 pnSllptme
cu lu,~-1lDfla iIJ6
dad. Metoda S.l:l.8l1D.OQ ,-.---'- ~
}"aIlO pe:rmitt obt1nerae anui cod instllntsneu 8...b~111~ opt11l1:;!o dar
Daisl pentru C8Znl 03U totul particu,lal:' clod probab111t{ltea tbcii~
.zu1 simbol 81 SIll'se1 se poste exp.ri.ma p.ri otr-o pute 1'6 iato1'6 aga a
lui 1/2. In rea11~lt:!l fl:e BA"seGc nll1.wll eazl1.l'), ia C31'6 .l.[;a~l3ti C.. ~1il
'~1.Quest6 ~alizata ~1 d.lrel metoc.a Q\}. '8 pOlIte apl.iDB. Obaen-iud
un ood optiIDal.se pot, .nUo.1;8 urmatoarlile p.rt'pr1eta~i alfj lui I
.-
i. _ Cuv1nt,!ls ~ctJ.!te d1 Q cod siot atalil8 te- 61mbolurllor eu
11
p(a 1 )
IlI1U:!
-=-_
i f;r
~ P(s1) P(O/8 1 ) 1
P(1) = !.t= P(s1) pe1/s ) i
i
1
J.=l
P(o) =
p(a)
...
!).125(~ + ~ +
j).3 ...
BEl
ab1;inG
0.0625(~
...
i +f
12 2 1 2 1 1 J l
.
... 0,03 5(> ... )' + )' + > + ;).5J~ .. 0.5)
COIl1'~lIIind asttel cal1tatea absolute. optimala a c odlidi. Prill
dare, SUrss prllDara cu efic.1 e111; a
ll.s
~ = 0,895
sec~ndara,
- -
1~ t2~i}~i4~"o~11
orig1bBU S.
Simbollll'lle 8urse1 reduse s; po': f1 scum 0:0 (\0 DS tEl in slcsul
l:l8erescltor a1 PJ! obab1l1ta1;1l0r simbolurl1or. Inloo uind ul timele
doui Silllbolur1, cu ~ nou almbol avind probabll1tat.a .gela cu su
"PI's OPBra 1;1a d. reducere pin! se ob~1D1l 0 reduc 1;le eare COD~1D1
= (0) 25'12
SU.:S8
p(a1 ) n o1 ...
P(s1) n
11
1=1
Pentru
c,oo~luJ
gA...i%e.B
cu simbolur11e 0
~1
I,
S;
zt=o
40
Tabelul !'.
P~obab11itl~11e s~roeln~ reduse
SlU'Ba tlt1g111aU
B1Jrlbo- Pl'Obab:L
ilU'1 Ut!U
8
1
8
r
53
Jr
~1
8}
0,3
0,25
0,20
,..
.,10
,2' 5
25
It.
1
Q , 2
88
0,08
.,
05
0,02
-r
0 ,~~
0.25,3
2
[0 1
....' .
..
0,25
,.,2
0,1'
54
r
--
a5r
.,
0,'. jO._.
0,4
. ,25 ,
"
0,-",:
0,25
0,20
0,10
2
2
2
00
11
10
00
11
10
00 .
1.1
.
101
0,08
0,05
0,02-
5
5
lo~' I~
S'r
61l'
P(s1) .
lo
~10
,J
101'1
. 1001:l
11
10001r l 00
10;:]
. '
S5
0
00 1 [ 1
11
54
" 1:
01
0
o'
1 0000
...
T.1.,
Be
ob~1ns
lU'IIIitoa.res
stl'~
8u~se1:
-,
iB(S) :: 0,3 log
~.
.... ~
......
+ 0,1 log
....L
1
+
0;; + 0,25 log 0;25 + 0,2 log ~
1
'
1
o:r
+ 0,08
2,4~82
0~05
b1t/s1mbol
2,807 4 b1t/Bimbol
Itlcien~a B~s.11
JLs z IHr~~i1118~ ~
0:
0:
0,8685
L :: ~ P(s1)
'
f1
:: (0,'+0.25+0,2).2+0,1.3+ 0 ,08.4 +
~ .2+0,25.1.2+0,1. ~ .'+0,08.
.4+0, r/j.
.5+
JI ~
1
- 5'
4 5
+ o,~.
p(1) = 0,476
p(o) .. 0,524
1'8spsctlv
BQ1;l'oPia codului I
H(X) :: -0.524 log 0,524 - 0,476 log 0,4{6 :: 0,998 ~1t/81mbol
it1c1enta coda~1ll
"4=
42
43
~a
~,.c:el lungimll ct9ta Hcl pr1e lungimoa pachatub1 -:e e:ori invels
fl. Sa 8e cOlleze cu un
d
ie~ eum!rul (Ie slmbolurl capricse laUe pri<nul er".:.~. :;i ultimal
t1 t;
.
'
, co blOB r
.
'" '
" ~
"
ulta d1e ci.fHle bicare ut- Ii
' sursa de IJlfCJl'matla c.J:onalo apar~1Q~od pachetulul. F<lcelll p.rec1z'area Cll J,.[\ 1~,t6riorJ.1
459' 563
- . za loe io s , . , .
.. -
'
,
2; 1461; 88B, 963' 548' 1""
Crlarea aillllerelar 123rtlDu1 pacbet de erori, sil!l~olU1'lle iotermedlare pot llii 1'1e sou d
t1 tuie osur.....
. . x ech1P1!obabllii.
"
7'1'6, daca OUJlle re 1 e elUllllerate cIl
"
'.
,
u fie e.rOllate Lucg:u:Jea pachetulul de erorl r1epicc:e ~i ,Ill vlteza
ob~iOB
[1 2
B _
-11
1..
2 _
o~J
- o.a.o
_
3 - 011
Dr
4 = 100
5 = 101
6 .. 1100
4 5
~ ~ k ~ ~J
678
7 '" 1101
II(S) _
B"
= 1110
9 _
- 3,084
- 3.28
~ = o,93B
- 1111
L(
de
bit/81mb
dll,~a
anoste.r~
dist3!'l)s .. HalllJ:licg
_-
probab111te.;Uor coadi'"
c8Pa.clt;a(;ea CS!llI1ulu.1 dat df3 lIl!ltr1cee nan, llWllite
la em1619 cuv1nte de cod, i~.r_l~e~~ie cuv111te re
.
ylonate
o ,l
cepYlonate. III general cuviotul amls I1U este identlc eU eel zoe
P ..
0,91
.
, LO,,9 _ o,Jj
n e or ellll
= 'IT1 + 3'1
VI ::: 1001 0 0; 17 '" 011 ll
Ullde prin H 8IIl ootat cuvietul 'eroare, campus din ~ero-u.rl ~1
2
o 'IT - 111 1
1
~i dsc! Ca l1a1ul
10
3 0 .0; V4 = 010111
1
Ull-ur1, apa.rtinilld lIIul~im1i euvinulor eroara, II. ~ele trei 1Il1.r1ml.
e8 e b 0ar silllll trie.
1;
I;li Bl , s10t vectori
dimeDslonali saa matrlce 1inle eu n
colosllB
B::: "3'
Se plll1e p.rob1elllB C8, pe bad cuvintu1lrl recep~iona~, vi, sA
1.6. LRoRlLll' CANAWIDI DIScm 5I MASUR! Dp l'ROTFg'Ui
dete1'lll1alm
cuvintul de cod eaill, 'lT cUllosclnd st!lt13tle eaaalul
l!!?OTRIvA IDR
j
de hansmis1e ,1.mul ~1lD6a cuylntelor de cod emislblle. U.r:llito.rul
.ra~lol:l8ll1ent., .De va permits sli 11lam 0 decide 86UPl'8 lui v Aces
1
Be. De smlotim lD8trlce8 de trSllB.fer a CBl1a1u.lut bioer, in tl Poate provenl dl11 v 68U din V sail dlll "'t etc. La .recePti.
1~1
k
j
ea.re e:zisU.
d11'erlte de Zllro io toate cue patru
regula de declzh pe care 0 vem cOllSt.rlli, o.e ",8 cooduce 18
z1i;il. 0 aSEllIleClea llI9trice l1e condl1Ce la eroare medie, HSP8eU..,.
atirmarea emislel Ullul In~l~ cllvillt de cod, sl__~:e. V Stim c1
j
eCh1vocaUe, ditel'i::e de zerD. Alttel SPllS, Prilltl'-Ull aS8lllene.s G
Qneo1!l vom gUlll. Regula de decld~ tl'ebu1e sli Ile conduc! la C88
aal S6 H'cep~ioll.eazll seDinale llneori eronate.
::lIsl rsrli eroal'll. AltIel SPl18 .regula d. clecide trebuie .sa tie
111trodU8e de c8nalul disc.ret pot .fi de dDui tLpuzl 8ettel aloasa. iacit probabi11ta~ea aposterio.rll ~~j;Vl) ca sl 8e
nc1 y
el'Ol'i 1
1duale, dscd aper riil'.!ete 1;l1 oacore1ste Ullsle cu alt ...
U lnt.rodus "j 1a cond1~ia .recep~10n!.r11 lui ~i, sa. tie
:nsl'8
1 ..
el'Ol'i grupate in Pachetll ds arari, ciaca Spar ill gl'l1Pu.ri de
Cs arlce probabilltate, P(trJ!Vj) dll a 58 t1 IDtr~ll& Vko a~WlCi
cilld S-I 1'8cep1;iocat
0 asttel de regula de deeiz1e eate dellll
Vi,
"i
Vi
Pl'ObBbll1te.~1
"1'
~rorile
mat:
~1
''''i.
45
.II11tli m.u1.111 aposter1o.l'i, PElDl'ru cli decide in eoa.forc1tate -eu :n~",OT;61 Hamm1ng. ('~~!.
i. - : -~te
f'
ll!_ acestai z~gul1,
a-a !D~8 a~l c~vtQt ~6
~-. _...
' - - - - 9i oe conduCl la ces. ma1 miC!tcd.
- '!.ll ~a,
"-'-5P~' OO,h
es
lIlul
W1e1 probab1l1tli~1
aposterlol'i
fa~a- de cere cU'~c'
,
eel oa~ ~;:;:il~~t. dis
.
. , a.1 1'11 j
d15tan~a Ha=l.~
6Z08rl lDedle..
t;atl'ti est1mat
n...!_ _
dO'1l1
De08rec. I
D1-nmula~ rje~1z1e cla ,~ ~ _
_
j
p(V
P (Vj/V!) =
-e~8p~1otl3t
o~t"
) V p(ViIVj)
ae
1)
i tul-;1'o;'.
,
_ tntrs euviotele t!,s Cll" 1
~
"entra os CUv Il
.. - ~
"
.
Hsm1Il111g
me;!.
..
. ' ~.u..
~ d eCl
t "1::
IItLl.ac1 Cllld
p(v.) nu se CUllOB.!i'te .!i'l
se accepta
acn1probabil1tac t tll n+li
y_
_ __ _
_ marl? CS~..
alt -u..,.int
e:nis1b11. '\Tk' tlb"
emis1ei SUV1:l.tslor
ele
cod,
regula
declziel
ma~::Lm
aposterlori
5e
"!It'
1a
i1
Ace9.sta
:lllsea:!loli
C,!1
Il"
t
_
.
J
" ' ! s! nu semene cu l I D "
.
.'
euv1o
.
_ "e
~ ca:::.
trallSfoL'l:lB.- in zegula de declz1e a Pt'obab111tlit;i1 :naxlllle.
coni'ot't cl1Vi n tul d1n care pro"
. b e,
lu.rl j .blnare '111)1' !1 cu"11l,,e
,
.
OlDpuse
die
n
"
. . \6
.
f1 IIl8i
c!ire1a &-a eJll1s acel 'lTj care are cas mai !IIBre Pl'ooab11itace,
t8 1e o
.
1 Sl-m
t ;'-30
IVj
- Cu
' .....ce
- pot-inhr"5nl
- - , POilU f1 l!I31
. llBre ,
p(Vi
), de a S6 trSll8forma ill
an1ca
__.. Clt
_ d: s auy
IV
mare, cU atH racl
~lJllIar~
---,.1e iii'ne;>artiadLl-sl
de
p(vi j p('lTi/l1k)-dec1z1e; &-a emis l"-;
0
';
'\T
1
.
.
~
"
ra:._c_
~
~
ea
mult
de
un
a
..
t; ouv_r-l: . k.
Dou:i cuv1et de acs1a!1 lungll1le, D, CODStltuite rlll:i SllDbll- v emiB, V' eu ae apJ!opie pr
_
iLlCa
1
.
'.
j
"
este
C~!<
luri Olnare,
se deosebeac In
clteva
pozitii.
Se poate
c Ii , dacs.,!), _
_. --:
''''O!;:l'U e
1
...
a.~.
Baaing dietre cuvinte le v 1' lii 'lTJ. 9 0 not am -
<il l!.alDlll1r.g .i,intra
ice.pe rec h e de "'l..-v:nt;ie ,~ti \-(.h....
i
t
..~.A.t' rElII cesaz
--- - oj
i
!'6C-S
I
Vi
7"'"~--;;-;;-se
D6numlm_~lstaD~~
D1staDt~alRlll1cg
Becven~e,.
~'~";ro.r1
dec1z~f~ls!, ~eoarec
D(-"l!'''~)' nUJla~ul
-~
~~,
c~
del!loo~t.r;a
D~2e!
~'~l
:i1stall~a
~ .-'l~"
~
~_ ,,~.
~"_V~"
~UVl-o.t~
recElp.~on3t
'~ll
'7
..
nst rllc~ll1 schemeJ.
Transtol'marea Intorma~iei cu scopul prot"jbl1 la tree: ate ~ tn cons1rl.81'sre 1.n eo
d
mot
_
.
.~
~
4i\il1ore zgo
prln canal se .oUJ!lo~te eorla l'e, . asemib!l.tor transformArl1 simbolU.d.t est tel. ae arl.aptoez con
...1 ...... a sis tel:lallli de trac,s
,c.
1 5
p"ez intil. schema u ""
10J! l1ll.11i BUrSEI oareC8rEl in cuvlnte bi B!ll'e. De data aeeesta 8a
In tlgll,ra Be..
b l . S un. te ... lstru de de
~e saJ:Lcalll
0131'...
,.
transforml cuyintul de informs vie, secV6n~a bl ns1'/l. de lungime It, -481 Aicl ae vade Bursa
t 18 omiote. In can3lu~ 1
8
.....
",~
BD~ embele ples e
in cU1rint de cod, t.ot succesiune biMr!\. dsl' de lungime Il, mel llIIl'plasa1'e Cll L eel 11..... ,
.'.
fi
t. dstoriti. regil!tl'ulul
t tirzlere de L tac v,
decit k. Dec! codarea Se tsc..!! pentru e se obvine blocurl de ctte'deb1teazl aurSl S CU 0 11
alul 2 deblt6ez~ aceia~1 SUI's!, til.r~
n SI111bollll'i ~1 :'n f1ecal'e bloc 8e face preluerl.ri farA reterlre ~ dl deples8l'e RDI.. lar in can
Istru de deplslIrtt tn ca
l
te pla sat un l'6g
alte bloclll'I, vorbim despu codll.r1 bloc tel' succes1l1Dee de n eim. htil'ziere. La. recep~ e 6S
~ "1'e eU f tacta 8 1l6J:\~lU
...
t'
ttnd 0 int_~rzle
boll11'i S6 nWlleqte cl%Vint. Dec! preluerarea ae [ace contlnuu, VOl'- 1181al 2, RO ,ac6st s exoCll
blm deSpl'8 co~uri cOl:rvolu~lpne h. Noi VOOI atudie c oollr1le grllp q. lui uia din sursa S.
o
R
Vlooale.
1
Shannon, ana11ziDd p~sibl11tatea decodazli coreetl a CUvil
2
telor recep~lonate, a ejuns la conclude ca exlste. posib1l1tetee
de a se coda 0 sursa dil1D.forllla~1e~ eu un cod cere sa poata II
codat""c;u ar08rs 0:r1cit de mica, daca se
codlaza extens1a a 0.
8 sllied Ill'lmsrs ~1 dsc! canalul are capacttatea nu. 11181 micA decl
entropla sursei, 0 Iilad cit mal mare. Aceasta ests 8 (lOttS te Oll'lI
l .5.
a lu1 ~han~, denumlta t60roma cOdil.rii caoaielor cu zgomot, c~re
In punotal a ~1 b, dscl nu sint 61'01'1 la treeerea prin CS
e
ef!!~ posibll1tataa codar!1 far! sA iad~ce metoda de codare.
se ob~in Bamnale de ece1a~l torml. Prln C~lllutetoral K SI
Or lcUlll , pentru ca el'oarea de decodarff sa fie mica, este Mcsser C Dale,
trsIlSlll1t ~pre utl1batorll1 B. semnale16 din punctul a. sehllma re
II ali tie IlIIll'6, cue ce inseamn~ 0 schemA. concreta deOLebit de co
ce~tQ1'alu1 1181 convioe un comparator C, cau suizeazl di!eren~e
pl1cst!i.
intre selllnalel din punctele a fll b, ee ar putea si ap81'l atllnci
e
ciad caQ81ul Introduce 6rol'1. Deoareo e el'odle din canalal 1 pl
1.7. annum SIMPLF DJi'TFC'lnARIl' SAU cnR~TOARB' DE BooRI
t:Wld 1JIled1at io a, 1ar' erorile dincalllll ul 2, a;lUD8 in- p~tul b
llamal dup!.1 tac~e, cit dureaza traversarea 1'eglstl'ulu1 de ~Ipla
::;:0. cele ce l1l'llleazl se pl'ezlnt! citeva coduri capeblle sa
&ere, eOlllpa1'8torul C IDd1cil. dispozit1vul u1 de comandl DC prilll8 0.1
corecteze sau s! detectaze e1'o1'1, ea1'acterlzatl prln almplitatl ,I
181' aceata comuta ehel8 K 10 poz1 y is h. 10 eclst puDCt
c omod1tate in exploatare.
..1 sosesc inea .t s!mbolUI'l corecte, eClste a fllDd stocate in l'li
81strul de deplas 8 n de 18
ROI'. Dup/!. Cll S-8n aclUS i
1.7.1. Tl'ansm1s1e pe doua cenale pentl'u corec~la
aimboll11'1, cbeia K este coml1tatl tnapol in punctul a, d,oaraci.
pachet6lor de el'oi
a
eUII em presUpua, pachat111 de erod are lungiml lIlU!ml t q1
deci 8Cestea s-aU selUS d.ja pr1n punctul a, 111' pQOctlll b inc:epe
Slstelllul de tl'sosm1s1e ce va fl descrls, ut111zeeza doul
., fie perCllrs de eror11e care au trsvlrsat reglstrlll da daplasa
canale, pl'in care la!ol'ma~ls circulA iotr-un"s1ngur seDS. de ls
J!e -to
8mls1e SPl'l recep~h. Sa Pl'6S~?Un6 ce. in smbele canale apar .s:..mul'
-- III
. p1'1Cl111e .t tacte, dtlpi
II ce compl1'ator ll l C a ses1:r.a t pnaa
tan ero:i gr ups te in pache te, eu lun~lme C6 nu depa~e9te .f bi ~1.
llIIeoDcordanyl, eroril. ce aper in a coDdue la al te nlcollCo~aa.t;6
n aaemen,a presupunere este ind~~pta~ita in cazul a douA o/l.1 de
trallSlllisie mult1pla eu 5ap&rarea cAllor in tad., cind pe aclla~l
46
"""~
~ c~n~N~
...
ng.
cObCo~anva,
reeep~le,
8~