Sunteți pe pagina 1din 10

GHEORGHE CLITAN TEORIA INFORMAIEI

Note de curs
5. Informaia ca noiune n telecomunicaii
(traducere i adaptare dup Jrme Sea!" Le Zro et le Un. Histoire de la notion scientifique
dinfor!ation au "#$ si%cle" #ari$" %diti&'$ S(!!ep$e" )**+,
#utem citi -' &ell '(ste! Tec)nical *ournal di' ./)01 2Ace$t artic&! c&'$ider d&i 3act&ri
3u'dame'ta!i i'tr4'd -' determi'area 5ite6ei ma7ima!e de tram$mi$ie a i'3&rma8iei (2i'te!ie'8ei9,
pri' te!era3ie. Aceti 3act&ri $u't1 pu'erea -' 3&rm (s)a+in,, a $em'a!u!ui i a!eerea c&duri!&r9.
Iat prime!e r4'duri a!e re6umatu!ui u'ui artic&! de:a! !ui Harr( N(;ui$t (.<</:./=*, -' >ur'a!u!
c&mpa'iei u'de era a'a>at.
Date de ordin economic
?up cea de:a d&ua >umtate a $ec&!u!ui @I@" i'i'erii di' te!ec&mu'ica8ii caut $ re'taAi!i6e6e
mai Ai'e i'5e$ti8ii!e !eate de c&'$truirea prime!&r mari re8e!e 'a8i&'a!e i i'ter'a8i&'a!e. CBiar dac
-'ri>&rarea de &rdi' ec&'&mic e$te rare&ri e7p!icit me'8i&'at" acea$ta rm4'e mereu u' m&t&r
imp&rta't a! i'&5a8iei teB'ice. E $u3icie't $ 'e 4'dim !a ca'tit8i!e de cupru pu$e -' >&c pe'tru
c&'duct&ri" !a u'e!e materia!e pe'tru i6&!at&ri $au cBiar !a cBe!tuie!i!e cu A&Ai'e!e de i'duc8ie pe'tru
pupi'e!i6are.
C' 3act&r imp&rta't $tudiat de ctre i'i'eri e$te 5ite6a. ?ac" Ai'e-'8e!e$" 5ite6a $em'a!u!ui
rm4'e c&'$ta't (ea! cu 5ite6a !umi'ii -' ca6u! idea!," N(;ui$t i'tr&duce -' !ucrarea $a di' ./)0
'&8iu'ea de 25ite6 a u'ei !i'ii9 de3i'it -' rap&rt cu 2'umru! de e!eme'te a!e $em'a!u!ui Dtra'$mi$E
pe $ecu'd9. Ceea ce pu'e imp!icit pr&A!ema met&de!&r de c&da>" dar N(;ui$t c&'$acr & $ec8iu'e
di' !ucrarea $a 2a!eerii c&duri!&r9. OAiecti5u! e$te atu'ci de a putea tra'$mite c4t mai rapid p&$iAi!
i e de &A$er5at aici c &A$e$ia !ui 2t&tdeau'a mai repede9 (criticat de #. Firi!i&, $e ma'i3e$t de
3apt c&'c&mite't cu prime!e pr&re$e di' d&me'iu! te!ec&mu'ica8ii!&r. C'u! di'tre mi>!&ace!e de
ati'ere a ace$tui &Aiecti5 era i reducerea A!&ca>u!ui de pe !i'ii.
#&tri5it !ui Jac;ue$ Laca'" 2Era 5&rAa pe'tru Bell Telephone Company de a 3ace ec&'&mii"
a!t3e! $pu$ de a 3ace $ treac u' c4t mai mare 'umr p&$iAi! de c&mu'icriGc&mu'ica8ii (me$a>e, pe
u' $i'ur 3ir. H'tr:& 8ar at4t de 5a$t precum State!e C'ite e 3&arte imp&rta't de a ec&'&mi$i c4te5a
3ire de te!ec&mu'ica8ii i de a 3ace $ treac me$a>e!e de &Aicei 3ade care $e 5eBicu!ea6 cu a>ut&ru!
di5er$e!&r aparate de tra'$mi$ie pri'tr:u' 'umr de c4t mai pu8i'e 3ire p&$iAi!. #&r'i'd de !a ace$t
!ucru $:a -'ceput cua'ti3icarea c&mu'icriiGc&mu'ica8iei. (I, E 5&rAa de a ti care $u't c&'di8ii!e
ce!e mai ec&'&mice de a putea tra'$mite cu5i'te pe care &ame'ii !e recu'&$c. ?e $e'$" 'ime'i 'u $e
&cup9.
R4'duri!e de mai $u$ 3ac parte di' cartea a II:a a 'e!inarului !ui Jac;ue$ Laca' (./*.:./<., i
$e re$e$c -' capit&!u! J" c&'$acrat ap!icrii '&8iu'ii tii'8i3ice de i'3&rma8ie -' tii'8e!e uma'e" ceea
ce 'e 5a e7p!ica i'tere$u! p$iBa'a!i$tu!ui pe'tru ace$t tip de cBe$tiu'i. Acea$t re3eri'8 i$t&ric -i 5a
permite aici" -' !ec8ia $a de$pre 2circuit9" $ di3ere'8ie6e 5&rAirea de c&mu'icare" aa cum e de3i'it
cea di' urm -' $&cietatea '&a$tr dup ce a 3cut &Aiectu! ami'titei cua'ti3icri. N&tm de>a aici c
pr&A!ema $e'$u!ui u'ui me$a> 'u e$te e3ecti5 !uat -' c&'$iderare.
Acea$t &ptic de re'taAi!i6are a !i'ii!&r e cea pe care & de65&!ta$er prime!e teB'ici de
mu!tip!e7a> permi84'd tra'$miterea mai mu!t&r c&mu'icriGc&mu'ica8ii (me$a>e, pe aceeai ca!e.
A'umite !i'ii 3ii'd -'cBiriate !a 5remea aceea" $e urmrea de 3iecare dat mrirea 5ite6ei de
tra'$mi$ie i t&t&dat a$iurarea ca!it8ii tra'$mi$iei" pri'cipa!e!e pr&A!eme -' ep&c 3ii'd1 uti!i6area
u'ei ace!eiai !i'ii -' amAe!e $e'$uri" 3e'&me'e!e di$t&r$iu'ii i ce!e a!e $!Airii $em'a!u!ui &dat cu
di$ta'8a. #e'tru a re6&!5a cea di' urm pr&A!em" mai a!e$ -' te!e3&'ie" !i'ii!e au 3&$t d&tate cu
2amp!i3icat&ri9" cu at4t mai 'umer&i cu c4t ca!ea de c&mu'ica8ie era mai !u'. #e'tru & 8ar de
ta!ia State!&r C'ite" 'e5&ia de a pu'e !a pu'ct a!ter'ati5e !a ace$t pr&cedeu $e 3cea $im8it
Ai'e-'8e!e$ cu mai mu!t c!aritate dec4t pe'tru 8ri!e eur&pe'e. Ace$t $i$tem 'ece$ita $ur$e de e'erie
pu'ctua!e i" -'ai'te de t&ate" & imp&rta't m4' de !ucru pe'tru a$iurarea me'8i'erii 3u'c8i&'rii
tuAuri!&r cu 5id de 3&!&$i'8 redu$ c&'8i'ute -' 2amp!i3icat&rii9 'ece$ari c&'$er5rii amp!itudi'ii
i'i8ia!e a $em'a!u!ui.
.=
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
?ar re3erit&r !a ace$t 2$em'a!9" care era de3i'i8ia !uiK Cum e de carcteri6atK N&8iu'ea de
i'3&rma8ie e$te cea care 5a permite radua! r$pu'$u! !a ace$te -'treAri. H' !ucrarea e5&cat mai $u$"
N(;ui$t 3&!&$ete terme'u! 2i'te!ie'89. E deAutu! ace!ei cua'ti3icri rea!i6at e$e'8ia!me'te -'
cadru! Laboratoarelor Bell di' State!e C'ite i care -i 5a $i -mp!i'irea -' a'ii L0*" &dat cu
2te&ria matematic a c&mu'ica8iei9.
H' ./=/" & te6 de d&ct&rat $u$8i'ut -' departame'tu! de 3i!&$&3ie i tii'8e $&cia!e a!
C'i5er$it8ii !iAere di' Mer!i' a 3&$t c&'$acrat 2e5ide'8ierii !&cu!ui c&'ceptu!ui de i'3&rma8ie -'
teB'ici!e de te!ec&mu'ica8ie. Haeme(er" aut&ru! ace$tei te6e" arat de e7emp!u -' ce c&'te7t au
56ut !umi'a 6i!ei !ucrri!e !ui N(;ui$t (pe urm ce!e a!e !ui Hart!e( i a!e a!t&ra," i'$i$t4'd a$upra
$peci3icit8ii $i$temu!ui de cercetare america' di' a'ii L)*. ?up e!" e!ectr&teB'ica era -'58at -'
departame'te!e de 3i6ic" i'i'erii primi'd & $&!id 3&rmare -' 3i6ica matematic" a7at mai cu
$eam pe m&de!u! te&riei c!durii a !ui N&urier i pe te&ria !ui Oa7Pe!! re5i6uit de ctre Hea5i$ide.
H' ceea ce pri5ete pr&AaAi!it8i!e" ace$tea erau de>a ap!icate -' te!ec&mu'ica8ii pe'tru &ra'i6area
re8e!ei -' 3u'c8ie de tra3ic" -' particu!ar pe'tru dime'$i&'area c&mutat&ri!&r te!e3&'ici.
Oai preci$" a!te $ur$e arat c p!ec4'd di' a'ii .<<*" pe c4'd i'i'eria e!ectric -'cepea $ 3ie
-'58at -' State!e C'ite" acea$t di$cip!i' $e reataea6 3ie i'i'eriei meca'ice" 3ie 3i6icii. ?i' .<<)
p4' !a ./*) cur$u! de !a M.I.T. i'titu!at 2I'i'erie e!ectric9 (Electrical En,ineerin,, era de
a$eme'ea &3erit -' departame'tu! de 3i6ic" -' 5reme ce -' a!te u'i5er$it8i u' cur$ ecBi5a!e't $e
-'$cria -' 3&rmarea de i'i'eri -' meca'ic" urm4'd pe'tru acea$ta de5i6a !ui Qi!!iam TB&m$&'
care" dup R. R&$e'Aer" dec!ara$e c u' i'i'er e!ectricia' treAuia $ 3ie /*R meca'icia' i .*R
e!ectricia'. R&$e'Aer e7p!ic de a!t3e!1 2H' primu! r4'd" e!ectr&teB'ica $uA!i'ia imp&rta'8a
i'i'eriei meca'ice 'e5i64'd 5ap&riiS iar" -' a! d&i!ea r4'd" e!ectr&teB'ica ddea reutate
arume'tu!ui dup care 3&rmarea i'i'eri!&r e$te r&!u! u'ei c&!i d&tate cu Aa6e $&!ide -' tii'8e i -'
matematici" i 'u d&ar a! ate!iere!&r teB'ice9.
Ace$te di3ere'8e aute'tice -' &rd&'area c4mpu!ui di$cip!i'ar e7p!ic -' parte di3ere'8e!e di'tre
c&'cep8ii!e pe care !e re$im u!teri&r. Oai mu!t" e7i$t di3ere'8e 'a8i&'a!e" iar !ucrri!e erma'u!ui
Tar! TUp3mU!!er" puA!icate t&t -' ./)0" 'e aduc -' $itua8ia de a c&mpara medii!e america'e i
erma'e.
Lucrrile de pionierat ale lui Harry Nyquist i arl !p"m!ller
H' ./)0" Tar! TUp3mU!!er (.</=:./==, !ucrea6 dup trei a'i petrecu8i !a Mer!i' -'
!aA&rat&ru! ce'tra! a! !ui #iemens $ Hals%e" creat -' .<0= $uA 'ume!e de Tele,ra+)en &auanstalt
'ie!ens und Hals-e. Se tie c e! a $tudiat -'ai'te pr&A!eme!e !eate de pupi'e!i6are i c p&$tu! $u
de !a #iemens e e7p!icit &rie'tat -'$pre d&me'iu! te&riei c&'duc8iei (Leitun,st)eorie,. La 3e! ca i
america'u! Harr( N(;ui$t" dar i'depe'de't de ace$ta" e! pr&pu'e -' !ucrarea $a di' ./)0 i'titu!at
2?e$pre pr&ce$e!e tra'6it&rii -' 3i!tre!e de u'd9 & prim re!a8ie ca'titati5 -'tre timpu! de &cupare
a !i'iei i !rimea Ae'6ii de 3rec5e'8e trect&are uti!i6at.
#e Aa6a 3!uctua8ii!&r care a3ectea6 u'de!e purtt&are (teB'ic i'tr&du$ -' timpu! primu!ui r6A&i
m&'dia!, e! e7p!ic 'ece$itatea uti!i6rii 3i!tre!&r de u'd (.ellenfilter," 'e&!&i$m pe care -! preia cu
ri>a de a:! >u$ti3ica" i'dic4'd pur i $imp!u c e7pre$ia e 3rec5e't -' State!e C'ite. #utem 5edea de
a!t3e!" cBiar i 'umai cu a>ut&ru! re3eri'8e!&r i'dicate" c urmea6 -'deapr&ape u!time!e puA!ica8ii
america'e" precum ar 3i ce!e di' &ell '(ste! Tec)nical *ournal $au di' a!te re5i$te. #rimu! re6u!tat !a
care a>u'e i'dic marea e'era!itate a $tudiu!ui $u re3erit&r !a 2tra'$mi$ia $em'e!&r9 -' a'$amA!u!
ei (Zeic)en/0ertra,un,," i'di33ere't dac e$te 5&rAa de te!era3ie $au de te!e3&'ie. E! i'tr&duce &
2c&'$ta't u'i5er$a!9 ce caracteri6ea6 rap&rtu! di'tre timpu! i'$tituirii u'ui $em'a! te!era3ic -'
cure't a!ter'ati5 i !rimea Ae'6ii 3rec5e'8e!&r de trecere uti!i6ate pe'tru 3i!tru (Loc)0reite" pr&priu:
6i$ 2!rimea 3a'tei de trecere9,. C' $tudiu e7perime'ta! i te&retic -i permite de a!t3e! $ $peci3ice c
acea$t c&'$ta't" i'ter5e'i'd -' !imita 'umru!ui de $em'a!e te!era3ice ce p&t 3i tra'$mi$e" e$te
cupri'$ -'tre 5 i 5"5. Aa cum '&tea6 i$t&ricu! Arita'ic a! teB'icii C. C. Mi$$e!!" e! 'u e primu! care
a artat c e7i$te'8a -'$i a u'ei Ae'6i de 3rec5e'8 ar !imita 'i5e!u! emi$iei" dar aA&rdarea care
repre6i't caracteru! '&5at&r a! pr&pu'erii $a!e e$te mai a!e$ cea pe care & ca!i3icm a$t6i drept
.<
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
2$i$temic9. H' ceea ce pri5ete '&8iu'ea de i'3&rma8ie" TUp3mU!!er $e 4'dete !a !itere" iar
e7emp!u! pe care:! ia re3erit&r !a emi$ia u'ei !itere c&dat -' Morse ($i$tem ad&ptat -'c de !a prima
c&'3eri'8 i'ter'a8i&'a! de te!era3ie di' .<J5, -i 3ur'i6ea6 e7pre$ia de 25ite6 te!era3ic9 -'
3u'c8ie de 'umru! !itere!&r 3&rmate p!ec4'd de !a ci'ci $em'a!e e!eme'tare (F/nfer0uc)sta0en, pe
care -! putem tra'$mite pe mi'ut. T&tui" e! 'u $e i'tere$ea6 de di3erite!e ma'iere de a $e!ec8i&'a
ace$te e!eme'te -' c&'$tituirea $em'a!u!ui.
H' c&mpara8ie" artic&!u! !ui N(;ui$t aduce & mare '&utate1 &3er & e7pre$ie ca'titati5 a 5ite6ei
cu care $e p&ate tra'$mite i'3&rma8ia (2i'te!ie'8a9,. Cei d&i 3act&ri pe care -i $tudia6 $u't 2a!eerea
c&duri!&r9 i 2pu'erea -' 3&rm a $em'a!u!ui9 (si,nal s)a+in,,. N&8iu'ea de 2$em'a!9 emi$ e$te aici
c!ar di$ti'ct de cea de 2caracter9 tra'$mi$" $em'a!u! 3ii'd c&'$tituit di' caractere!e &A8i'ute pri'
c&mAi'area di3erite!&r e!eme'te a!e$e di'tr:u' >&c de e!eme'te di$p&'iAi!e. E! ia -' c&'$iderare
2'umru! t&ta! de caractere care p&t 3i a'$amA!ate (construed, i 'u:i pu'e deci pr&A!ema de a $e
-'ri>i $ tie dac t&ate a'$amA!ri!e au u' $e'$ ($au mcar dac e!e c&re$pu'd u'ui caracter e7i$te't
-' c&d,. Oai putem c&'$tata aici" -'c de !a -'ceput" c pre8u! p!tit pe'tru cua'ti3icarea '&8iu'ii de
i'3&rma8ie e re'u'8area ce! pu8i' pr&5i6&rie !a m&de!area dime'$iu'ii $ema'tice a i'3&rma8iei.
H' c&rpu! te7t!ui $u" N(;ui$t d urmt&area 3&rmu! pe'tru 25ite6a de tra'$mi$ie a i'te!ie'8ei91
. 1 2 lo, !
u'de 2 e$te & c&'$ta't" iar ! e$te 'umru! 5a!&ri!&r de cure't e!ectric di$ti'$e. ?&ar -' a'e7
e7p!ic c&'di8ii!e care -i permit $ $taAi!ea$c acea$t 3&rmu! i d&u $u't remarci!e ce $e impu'
atu'ci.
Oai -'t4i" e! e'u'8 ip&te6a u'ui c&d -' care t&ate e!eme'te!e au aceeai durat" preci64'd c
ace$ta 2e$te de &Aicei ca6u! c&duri!&r imprimaAi!e9. ?i'tr:& !&5itur" caracteru! a!eat&riu a!
me$a>u!ui e$te $imp!i3icat !a ma7imum i N(;ui$t 'u are 'e5&ie de a!te i'$trume'te matematice
dec4t c&mAi'at&rica e7Bau$ti51 dac n e$te 'umru! de $em'a!e e!eme'tare pe'tru u' caracter"
'umru! caractere!&r p&$iAi!e e$te !n i a5em deci n lo, ! 1 3te" ceea ce d pe'tru 5ite6a de
tra'$mi$ie a i'te!ie'8ei" care e$te i'5er$ pr&p&r8i&'a! cu n" re6u!tatu! a'u'8at mai $u$. E7ami'4'd
rapid ca6u! -' care a$eme'ea durate ':ar 3i t&ate ea!e" e! i'dic c & !uare -' c&'$iderare a
23rec5e'8e!&r re!ati5e !a di3erite caractere9 ar 3i $u3icie't pe'tru a arta c 3&rmu!a pe care & d ar
3ur'i6a -'c & Au' apr&7ima8ie pe'tru ace$t ca6. ?e a!t3e!" N(;ui$t $e i'tere$ea6 -'deapr&ape de
ace$t ca6 atu'ci c4'd e! (ca6u!, determi' a!eerea c&du!ui. Rap&rt4'du:$e !a u' Manual de $&!u8ii
pe'tru ci3ruri!e mi!itare cu $c&pu! de a a5ea date $tati$tice de$pre 3rec5e'8a uti!i6rii !itere!&r -'
e'!e6" e! c&mpar e3icacitatea di3erite!&r 5aria'te a!e c&du!ui Morse (Morse:u! america' i
Morse:u! 2c&'ti'e'ta!9, rap&rt4'du:! !a u' c&d 2idea!9 3u'c8i&'4'd cu d&u $au trei 5a!&ri de cure't
e!ectric. Ace$t c&d idea! $e Aa6ea6 pe pri'cipiu! p&tri5it cruia !itere!&r ce!&r mai 3rec5e't uti!i6ate
!i $e atriAuie c&duri!e ce!e mai pu8i' !u'i.
Ap&i treAuie '&tat c N(;ui$t di$ti'e -' u!timu! parara3 a! artic&!u!ui $u -'tre tra'$mi$ia de
putere (a cure'tu!ui e!ectric, i tra'$mi$ia 2de i'te!ie'89 (a i'3&rma8iei, e7p!ic4'd c c&'trar a
ceea ce -' e'era! $e admite" mai a!e$ -' ca6u! te!era3iei $uAmari'e aceeai u'd 'u p&ate $
c&re$pu'd !a d&u ceri'8e de tipuri di3erite1 & a'umit $taAi!itate pe'tru tram$mi$ia de putere i &
mare $up!e8e pe'tru a putea tra'$mite $cBimAri!e Arute de $em'a!. E de mirare c N(;ui$t 'u 3ace
aici a!u6ie !a te&ria m&du!a8iei de amp!itudi'e care permite t&cmai re6&!5area ace$tei pr&A!eme. Oai
mu!t" te&ria m&du!a8iei de 3rec5e'8 a>u'$e$e $ 5ad !umi'a 6i!ei cu d&i a'i mai de5reme" $uA pa'a
!ui J. R. Car$&' (cBiar dac Arm$tr&' 'u:i 5a arta t&t i'tere$u! dec4t -' a'ii L+*" pe'tru a !upta
c&'tra pr&A!eme!&r !eate de 6&m&t,. E! e5&c ace$te teB'ici" 3r -'$ a:i m&di3ica 3&'du!
pr&pu'erii" d&ar c4'd 3ace a!u6ie !a ca6u! radi&u!ui (pe care:! a$imi!ea6 ca6u!ui te!era3iei cu u'd
purtt&are,.
Cu t&ate ace$tea" dei p&r'ete de !a u' re3ere't teB'ic mai -'deprtat" apr&ape -' e7c!u$i5itate
$i$temu! te!erapBic cu curre't c&'ti'uu aa cum 'e:& arat de a!t3e! tit!u! artic&!u!ui $u1 2C48i5a
3act&ri a3ect4'd 5ite6a te!era3ic9 " re6u!tate!e pe care !e &A8i'e au & mai mare e'era!itate dec4t
./
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
ce!e a!e !ui TUp3mU!!er i mai a!e$ u' impact te&retic mai dep!i'. N&rma8ia ce!&r d&i &ame'i de
tii'8 e7p!ic" p&ate -' parte" acea$t di3ere'8. TUp3mU!!er (.</=:./==, are & 3&rma8ie c!a$ic de
i'i'er -' e!ectr&teB'ic" & di$cip!i' -'58at de5reme pri' $tudii!e 3cute -' Germa'ia" dup u'
$i$tem de uce'icie (Aus0ildun,, cu & mai !ar recu'&atere dec4t -' a!te 8ri. A$t3e!" pe TUp3mU!!er
-! $im -' uce'icie !a ate!iere!e Sieme'$:ScBucVert di' NuremAer di' ./.5 i p4' -' ./.=.
Aadar" e!ectr&teB'ica putea 3i -'58at 3r a treAui $ urme6i u' cur$ c&mp!et de 3i6ic. H' ceea ce:!
pri5ete pe N(;ui$t (.<</:./=J," e! t&cmai 3i6ica a $tudiat mai cu $eam (#B. ?." adic d&ct&rat
$u$8i'ut !a C'i5er$itatea di' Wa!e -' ./.=" trei a'i dup ce a d&A4'dit 'a8i&'a!itatea america',. ?i'
acea$t per$pecti5" $e p&ate -'8e!ee de ce pr&pu'eri!e !ui N(;ui$t $u't mai pu8i' depe'de'te de
pr&A!eme!e teB'ice a!e ep&cii. A$t3e!" e! $e !imitea6 -' $tudiu! $u apr&ape !a tra'$mi$ia $em'a!e!&r
c&'ti'uie" cure'tu! primi'd mai a!e$ u' 'umr 3i'it de 5a!&ri. #utem 3i" de a!t3e!" $urpri'i de
c&'$tatarea c prima mi6 a !ui N(;ui$t -' puA!ica8ia $a e$te $ rec&ma'de aAa'd&'area u'de!&r
$i'u$&ida!e -' 3a5&area u'ei u'de recta'u!are trec4'd pri'tr:u' circuit c!a$ic c&'$truit p&r'i'd de !a
re6i$te'8e" i'ducta'8e i capacit8i pe care are ri> $ !e determi'e.
A$t3e!" -' m&d parad&7a!" N(;ui$t $e a3! pr&AaAi! -'tr:u' cu at4t mai mare recu! cu c4t e mai
pu8i' c&'$tr4'$ $ $ea$c ap!ica8ii practice !ucrri!&r $a!e dec4t TUp3mU!!er. Haeme(er c&'$acr
u'a di'tre a'e7e!e te6ei $a!e de d&ct&rat de$crierii mediu!ui de cercetare di' Germa'ia a'i!&r L)*. E!
arat" p!ec4'd de !a &ra'irame i a!te $tati$tici di' ep&c pri5i'd &ra'i6area Laboratoarelor
#iemens $ Hals%e" a Institutului Heinrich Hert& de cercetare a oscila'iilor i a ce!eAru!ui
Tele(raphentechnisches )eichsamt der Deutschen )eichspost" c 'ici u' !&c 'u era c&'$acrat
$er5icii!&r c&mparaAi!e ce!&r de 2cercetri a$upra tra'$mi$ii!&r9 de !a Bell Labs $au ce!&r de
2cercetare matematic9 de !a *T$T. H' !aA&rat&are!e erma'e 'u $e p!tea 2!u7u!9 de a a5ea
!aA&rat&are de cercetare 3u'dame'ta!" e7pre$ie uti!i6at cBiar de ctre N(;ui$t -'tr:& '&t i'ter' !a
Bell Labs" datat J iu!ie ./+0. Cu pri5ire !a $tudii!e a$upra 23u'dame'te!&r te!era3iei9 e! $crie1 2(...,
$e p&ate ca acea$t mu'c $ 3ie u' !u7. Te!era3u! cu 3rec5e'8 5&ca! pare $ ia$ mai deraA Ai'e
-' a'$amA!u 3r a trae mare pr&3it di' te&ria 3u'dame'ta!. Te!era3u! cu cure't a!ter'ati5 ar 3i 3r
-'d&ia! mu!t a>utat de & a$eme'ea mu'c" dar ace$ta 'u pare $ aiA & mare imp&rta'8 ec&'&mic.
Naptu! c re6u!tate!e $a!e au ade$ea & redu$ imp&rta'8 ec&'&mic repre6i't u'u! di'tre ce!e mai
mici i'c&'5e'ie'te e7i$te'8ia!e a!e te&reticia'u!ui di' te!era3ie9.
H'ai'te de t&ate" $e cercetea6 d&ar ceea ce e$te ec&'&mic re'taAi!" iar re$tu! p&ate 3i ap&i
c&'$iderat ca u' 2!u79. T&tui" pe'tru a urma acea$t 5i6iu'e e5ide't u' pic caricatura!" -' ca6u!
Laboratoarelor Bell ace$t !u7 era pe'tru a $pu'e a$t3e! 2ratuit9. Situa8ia de c5a$i:m&'&p&! pe
care & a5ea i'terpri'derea !&r" !e permitea cu uuri'8 $ 3i'a'8e6e cercetri!e 3u'dame'ta!e" p!tite
i'direct de uti!i6at&r. #. Airai' e7p!ic Ai'e" -'tr:u' i'ter5iu" cum ace$t $i$tem a putut 3u'c8i&'a
cBiar i dup !eea a'ti:tru$t care !imita Ae'e3icii!e i'trepri'derii. Oai mu!t" -' d&me'ii!e 5i6ate de
c&'cure'8" Bell Labs a5u$e$er de a$eme'ea ideea de a 'u !$a c4mpuri !iAere.
?up date!e 3ur'i6ate de Haem(er" departame'tu! de cercetare a Laboratoarelor Bell 3&!&$ete
!a mi>!&cu! a'i!&r L)* -' >ur de .0** de cercett&ri $au i'i'eri" 3&rm4'd a$t3e! ce! mai mare !aA&rat&r
di' !ume c&'$acrat te!ec&mu'ica8ii!&r. La m&me'tu! -' care N(;ui$t puA!ic" -' ./)0" e! e -'c !a
*T$T" re$p&'$aAi! cu u' rup de mu'c ap!ecat a$upra 2$em'a!i6rii te!era3ice pri' cure't
a!ter'ati59. ?epartame'tu! de cercetare !a care e$te ataat (de65&!tarea tra'$mi$iu'i!&r, cupri'de .J*
de &ame'i de tii'8" 'umr c&mparaAi! cu ce! de .0* pe care:! re$im !a !aA&rat&ru! ce'tra!
#iemens $ Hals%e u'de !ucrea6 TUp3mU!!er.
#e'tru a 'e 3&rma & idee de$pre !ucrri!e te&retice e3ectuate de ctre ecBipa !ui N(;ui$t" putem
me'8i&'a artic&!u! pe care:! puA!ic -' ./)= -mpreu' cu d&i di'tre c&!eii $i" SBa'cV et C&r(.
Studiu! -' a'$amA!u e c&'$acrat m$urrii 3e'&me'e!&r de di$t&r$iu'e -' ca6u! tra'$mi$iei pri'
cure't c&'ti'uu (SBa'cV era re$p&'$aAi! de rupu! 2te!era3 cu cure't c&'ti'uu9 di' cadru! ace!uiai
departame't -' care !ucra i N(;ui$t,. Aut&rii $e 3&!&$e$c de m&de!u! u'ei di$triAu8ii '&rma!e pe'tru
a caracteri6a di$t&r$iu'ea i $34re$c pri' a pr&pu'e u' '&u aparat permi84'd m$urarea ca!it8ii
tra'$mi$iei 3r $ uti!i6e6e -'rei$trri. Ace$ta permite" dup cum a remarcat J. H. Me!! -'tr:&
di$cu8ie de$pre artic&!" $ rea!i6m ec&'&mie de timp -' !&ca!i6area de3ec8iu'i!&r circuite!&r
te!era3ice care 2-' acea$t 8ar $e repet at4t de de$9. T&tui" 3aptu! c ei $e !imitea6 !a tra'$mi$ia
)*
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
pri' cure't c&'ti'uu A!&cBea6 pr&5i6&riu de65&!tarea te&riei. Acea$ta e$te c&'c!u6ia pe care &
putem trae di' $tudierea ace$t&r artic&!e de 2pi&'erat9" dar mai a!e$ di' ce!e $cri$e ap&i de ctre
N(;ui$t i TUp3mU!!er" -'de&$eAi de:a !u'u! a'i!&r L)* $au di' !ucrarea puA!icat de R. F. L.
Hart!e( -' ./)<" care marcBea6 & '&u etap -' c&'ceptua!i6area '&8iu'ii de i'3&rma8ie.
Hartley la Laboratoarele Bell Telephone i de&+oltarea primelor cercetri
C&'trar !ui N(;ui$t i TUp3mU!!er" R.F.L Hart!e( (.<<<:./=*, e$te u' i'i'er cu mu!tip!e ce'tre
de i'tere$. H' a3ara puA!ica8iei $a!e di' ./)<" 2Tra'$mi$ia i'3&rma8iei9" ade$ea me'8i&'at ca u'a
di'tre &rii'i!e te&riei matematice a c&mu'ica8iei" $im u'e&ri 'ume!e $u !eat de u' tip de circuit
&$ci!a't pe care e! -! pu'e !a pu'ct !a -'ceputu! a'i!&r ./.* $au" -' 3i6ica matematic" de u' tip de
tra'$3&rmare matematic c&mparaAi! cu tra'$3&rmarea !ui N&urier" pr&pu$ -' ./0).
Re3erit&r !a peri&ada care 'e i'tere$ea6 mai mu!t" ./)*:./05" Haeme(er rece'6ea6
apte$pre6ece puA!ica8ii di' care apr&ape >umtate de$pre pr&A!eme de te!ec&mu'ica8ii" u' $3ert -'
acu$tic" iar ce!!a!t $3ert -' meca'ica cua'tic. Cu aceeai uuri'8" Hart!e( trece de !a !ucrri
te&retice u'i5er$itare !a !ucrri i'i'ereti. #4' $ puA!ice -' ./)<" e! $e a3! a'a>at de .5 a'i !a
Bell Labs $au !a ,estern -lectric. Nace parte di' departame'tu! de cercetare a tra'$mi$iu'i!&r" a
crui c&'ducere i:& a$um. H' ace$t $e'$" e! $e $ete -' &ra'irama Bell Labs cu d&u 'i5e!e
dea$upra 'i5e!u!ui !ui N(;ui$t de !a *T$T" -' 3ru'tea a .0< de a'a>a8i 3a8 de < pe'tru N(;ui$t.
H' ceea ce pri5ete acu$tica" e! a e7p!icat de e7emp!u -'c di' ././ c urecBea uma' ar repera
direc8ia de u'de 5i'e u' $u'et a'a!i64'd di3ere'8e!e de 3a6 di'tre d&u $em'a!e receptate. I'tere$u!
$u pe'tru 3i6ic e$te t&tui mai apr&piat de pre&cupri!e '&a$tre. H' 3&'d" Hart!e( -i petrece & Au'
parte di' 5ia8 -'cerc4'd $ arate c ce5a 'u e -' reu! cu re!ati5itatea e'era! i" u'e&ri" cBiar cu
meca'ica cua'tic. E! 5a puA!ica $tudii ce apr ace$t pu'ct de 5edere mai a!e$ -' a'ii L5*" -' re5i$te
ce!eAre precum .hysical )e+ie/ $au #cience. ?e a!t3e!" -' #cience" -' ./5*" p&r'ete de !a cartea
!ui Qie'er" 3i0ernetica" pe care & citea6 aAu'de't" pe'tru a arta c I 2(..., 3aptu! c 3u$e$e
c&m&d de a de$crie 3e'&me'e!e at&mice -' terme'i de $i$tem '&' 'ePt&'ia'" caracteri64'du:!e pri'
a'umite pr&AaAi!it8i de tra'6i8ie" 'u c&'$tituie pri' e! -'$ui & pr&A c $i$temu!" -'
c&mp&rtmame'tu! !ui deta!iat" 'u $e $upu'e !ei!&r 'ePt&'ie'e9.
Ori" !ucrarea $a puA!icat -' ./)< e repr&ducerea u'ei c&mu'icri $u$8i'ute !a primu! 3on,res
Interna4ional de Tele,rafie 5i Telefonie cu 5i f6r6 fir care $e 8i'u$e -' Ita!ia pe ma!u! Lacu!ui C&m&
-' &'&area ce'te'aru!ui m&r8ii !ui F&!ta -' $eptemArie ./)=. Ace$t 3on,res $e 8i'u$e -' ace!ai
m&me't i pe ace!ai !&c cu ce! a! 3i6icie'i!&r u'de $e re$eau RutBer3&rd" Ger!acB" Mra" Nra'V"
Xeema'" Oi!!iVa' i mai a!e$ M&Br. Era 5&rAa de ce!eAru! c&'re$ !a care M&Br 5&ia $:i a'u'8e
pri'cipiu! c&mp!eme'tarit8ii i e 3&arte re6&'aAi! de a pre$upu'e c Hart!e( era i'tere$at de
ma'i3e$tri!e &ra'i6ate. ?&i di'tre participa'8ii !a c&'re$u! a$upra te!ec&mu'ica8ii!&r 3u$e$er de
a!t3e! cBiar i'5ita8i !a c&'re$u! de 3i6ic.
?ar $ a'a!i6m -'deapr&ape c&mu'icarea $a puA!icat -' Bell #ystem Technical 0ournal.
Cu54'tu! i'3&rma8ie aprea -'c de !a -'ceputu! $tudiu!ui" -'tre Bi!ime!e" ca i cum am 3i a5ut de:a
3ace aici cu u'a di'tre prime!e uti!i6ri a!e cu54'tu!ui -' a3ara $e'$u!ui !ui cure't. Aut&ru! &pu'e" de
a!t3e!" c&'$idera8ii!e 23i6ice9 care $u't a!e $a!e !a c&'$idera8ii!e 2p$iB&!&ice9 &Ai'uite i dec!ar -'
m&d e7p!icit1 2(..., i'&rarea pr&A!emei i'terpretrii" e3ectu4'd 3iecare $e!ec8ie de:& ma'ier per3ect
arAitrar i 3&'d4'du:'e re6u!tate!e pe p&$iAi!itatea recept&ru!ui de a di$ti'e re6u!tatu! cutrei $au
cutrei $e!ec8ii9.
#e'tru c t&cmai de & i'3&rma8ie 2$e!ecti59 e 5&rAa aici" repetarea 5erAe!&r 2a $e!ecta9 $au
2a!ee9 'u e a'&di' (de )+ de &ri pe trei pai'i,. Hart!e( di$pu'e pe'tru te&ria $a de u' re3ere't
teB'ic 3&arte preci$1 $i$temu! Maud&t" dup 'ume!e i'i'eru!ui 3ra'ce6 Emi!e Maud&t (.<05:./*+,"
$i$tem a crui 3u'c8i&'are $e caracteri6a pri'tr:u' c&d de !u'ime c&'$ta't" a!ctuit di' ci'ci
$imA&!uri primare" i'di3ere't care ar 3i 3&$t $cri$&area de tra'$mi$. #&r'i'd de aici" e! &A8i'e !a
r4'du! $u & 3&rmu! d4'd ca'titatea de i'3&rma8ie1
H 1 n lo, s "
).
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
-' care n repre6i't 'umru! de $e!ec8ii" iar s 'umru! de $imA&!uri primare di$p&'iAi!e. A!eerea
!iterei H" i'i8ia!a aut&ru!ui" p&ate !$a impre$ia c Hart!e( -'8e!eea $:i !a$e 'ume!e p&$terit8ii
pe'tru acea$t de3i'i8ie. Acea$ta e$te" de a!t3e!" $ur$a u'ei 'e-'8e!eeri pri5i'd a'a!&ia cu te&rema
H a !ui M&!t6ma''" a$upra creia 5&m a5ea &ca6ia de a re5e'i. Ca i !a N(;ui$t" acea$t 3&rmu!
5i6ea6 t&ate c&mAi'a8ii!e 3i6ic p&$iAi!e" i'depe'de't de 3aptu! c e!e p&t $ 'u c&re$pu'd u'ui
ara'>ame't de $imA&!uri primare uti!i6ate -' c&d. E 5&rAa deci de & m$ur 23i6ic9 a u'ei ca'tit8i
pe care am putea:& ca!i3ica -'c de !a -'ceput drept 25irtua!9 di' m&me't ce ea pri5ete ceea ce am
putea tra'$mite" !a m&du! c&'di8i&'a!" iar 'u ceea ce tra'$mitem e3ecti5. Acea$t remarc are aici
imp&rta'8a ei" -'truc4t rm4'e 5a!aAi! de:a !u'u! de65&!trii a ceea ce $:a c&'5e'it de a 'umi !a
$34ritu! a'i!&r L0* 2teoria infor!a4iei9" iar a$t6i -'c 2societate co!unica4ional69 $au
2c(0ers+ace9.
S mai '&tm c 3&rmu!a de mai $u$ depi'de $tri'e't de &Aiectu! teB'ic de care $e !ea1 dac
ace$ta ar 3i 3&$t c&'$iderat precum u' c&d Morse $au dac $imA&!uri!e $ecu'dare 'u $u't c&'$tituite
di' ace!ai 'umr de $imA&!uri primare (!i'ii i pu'cte," Hart!e( i:ar 3i putut p&'dera ca'titatea de
i'3&rma8ie 8i'4'd c&'t de 3rec5e'8e!e de uti!i6are" uti!i64'd 3&rma!i$mu! pr&AaAi!it8i!&r. Aut&ru!
rece'6iei care p&ate 3i citit -' )e+ista 1eneral de -lectricitate di' &ct&mArie ./)< 'u $e -'ea!1
e! $crie c Hart!e( a>u'e !a acea$t m$ur 2Aa64'du:i dem&'$tra8ia pe ca6u! $i$temu!ui de te!era3
Baudot9. Ori" p&tri5it arBi5e!&r c&'$u!tate de Haeme(er" de5i'e c!ar c Hart!e( ':a5ea dec4t &
$!aA pretire -' d&me'iu! ca!cu!u!ui pr&AaAi!it8i!&r" pe care pre3er t&cmai de aceea $ 'u:!
uti!i6e6e. Atu'ci c4'd remarc 3aptu! c u' c&d de !u'ime 5ariaAi! ar c&'duce !a 3&rmu!e 3&arte
2c&mp!e7e9" e! 'u:i de65&!t mai departe cercetri!e. ?up cum putem &A$er5a" ap&rtu! !ui SBa''&'
!a te&ria i'3&rma8iei" -' d&me'iu! de3i'irii ca'tit8ii de i'3&rma8ie" urmea6 cu preci6ie ceea ce de>a
$cri$e$e Hart!e(.
?up a!te d&u pr8i c&'$acrate u'ui $tudiu re3erit&r !a 2d&A4'6i!e c&mu'icrii9 (ea!e cu
c&'$ta'te!e de am&rti6are a circuite!&r uti!i6ate pe'tru tra'$mi$ie," iar ap&i !a a'a!i6a rap&rturi!&r
di'tre $tri!e de ecBi!iAru i reimuri!e tra'6it&rii" Hart!e( $taAi!ete & !imit a ca'tit8ii de i'3&rma8ie
ce p&ate 3i tra'$mi$ -' ca6u! c4'd $e -'maa6i'ea6 e'erie pe'tru re$tr4'erea tra'$mi$iu'ii -'
reim perma'e't !a u' i'ter5a! !imitat de 3rec5e'8e. Acea$t !imit e$te pr&p&r8i&'a! cu pr&du$u!
i'ter5a!u!ui de 3rec5e'8 i durata de timp -' care 3rec5e'8e!e $u't uti!i6aAi!e" re6u!tat care $e apr&pie
de ce! a! !ui TUp3mU!!er" aA&rdat mai de5reme. TUp3mU!!er 3cea de a!t3e! parte di' de!ea8ia
erma' !a c&'re$" dar cei d&i $:au cu'&$cut per$&'a! mu!t mai t4r6iu dec4t cu acea$t &ca6ie" aa
cum Haeme(er dem&'$trea6 pri'tr:& $cri$&are de:a !ui N(;ui$t ctre TUp3mU!!er di' 3eAruarie
./)<.
OAiecti5u! !ui Hart!e( e$te -' m&d e7p!icit de a putea c&mpara di5er$e!e capacit8i de tra'$mi$ie
a mi>!&ace!&r de c&mu'icare i de a:i c&'duce pe i'i'erii ace$t&r d&me'ii $pre ap!ica8ii practice
i'tere$a'te. Imp&rta'8a e'era! a !ucrri!&r $a!e e$te c!ar i!u$trat1 e 5&rAa de $i$teme 2de te!era3ie"
de te!e3&'ie" de tra'$mi$ie a imai'ii i de te!e5i6iu'e9" pri' 23ire $au pri' radi&9. H' ace$t $e'$" e
5&rAa de & u'i3icare a di3erite!&r mi>!&ace de m$urare a e3icacit8ii u'ui $i$tem de tra'$mi$ie. Ca
pr&A" reami'tim c 2Baud2:u! (de !a 'ume!e i'i'eru!ui 3ra'ce6 Maud&t, 3u$e$e i'tr&du$ ca m$ur
a 5ite6ei m&du!a8iei u'ui $em'a! -' ./)/" !a pu8i' timp timp dup puA!ica8ia !ui Hart!e(. ?e3i'it !a
-'ceput ca 'umr de caractere tra'$mi$iAi!e pri' $i$temu! Maud&t (deci p!ec4'd de !a 5 $em'a!e
Ai'are e!eme'tare, cu pau6" acea$t u'itate 'u permitea 'ici -' ./+5 m$urarea ca'tit8ii de
i'3&rma8ie tra'$mi$ de ctre u' a!te $i$tem 3&arte r$p4'dit1 $i$temu! !ui HuBe$ i'tr&du$ -' .<55.
A$t6i -'c $e pu'e $em'u! ecBi5a!e'8ei -'tre baud i bit -' ca6u! $em'a!e!&r Ai'are. La c48i5a a'i
dup puA!icarea 2te&riei matematice a c&mu'ica8iei9 de ctre C.E. SBa''&'" a'umi8i aut&ri pr&pu'
de a!t3e! 2Hartley9:u! ca u'itate de m$ur a i'3&rma8iei. H' m&d $pecia!" e ca6u! !ui G.:TB. Gui!Aaud
di' cartea $a 3i0ernetica di' ./501 aici" e! de3i'ea 2Hartley9:u! ca a!ter'ati5 e!eme'tar.
Aa cum arat Haeme(er" !ucrarea puA!icat de Hart!e( a cu'&$cut u' a'umit ec&u mai a!e$ -'
ep&c pe'tru 3aptu! c a uti!i6at !&aritmu! 6ecima!. O c&'tr&5er$ a5u$e$e !&c re3erit&r !a uti!i6area
$cri!&r !&aritmice -' $tudiu! 3e'&me'e!&r de am&rti6are i Hart!e( 3ace -' m&d e7p!icit a!u6ie !a ea
atu'ci c4'd d pr&pria 3&rmu! a ca'tit8ii de i'3&rma8ie. #4' !a >umtatea a'i!&r L)*" m$uri!e
))
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
ca'tit8ii de i'3&rma8ie erau di3erite -'tre State!e C'ite i Oarea Mrita'ie" pe de & parte" i a!te 8ri
eur&pe'e" pe de a!t parte. AmAe!e tipuri de m$uri a5eau i'c&'5e'ie'tu! de a 3i depe'de'te de
3rec5e'8" iar !a m&me'tu! i'tr&ducerii !&aritmi!&r pr&A!ema care $e pu'ea era de a ti dac treAuie
$ $e 3ac re3erire !a !&aritmu! 6ecima! (reami'tim c deciAe!u! u' e$te i'tr&du$ dec4t -' ./+), $au
!a u' a!t e' de !&aritm. A'!&3&'ii a!e a!&ritmu! 6ecima! i ace$ta $e re$ete" de e7emp!u" -'
de3i'i8ia i'3&rma8iei !a A!a' Turi' care i'tr&ducea c48i5a a'u mai t4r6iu 2Deciban9:! ca u'itate de
i'3&rma8ie.
Mrei$i" u'u! di'tre pri'cipa!ii participa'8i !a acea$t c&'tr&5er$" de partea erma'" 'u pare a
$e i'tere$a de puA!ica8ia !ui Hart!e( dec4t di' acea$t per$pecti5" reami'ti'd c e! -i pr&pu'e & a!t
2m$ur de tra'$mi$ie9. ?e aAia dup re!uarea re6u!tate!&r !ui Hart!e( de ctre LU$cBe' i StrecVer"
!a -'ceputu! a'i!&r L+*" p&r'ete i'tere$u! cu pri5ire !a de3i'i8ia dat i'3&rma8iei de ctre Hart!e(" dar
'u re3erit&r !a !imita pe care e! & determi' pe'tru ca'titatea de i'3&rma8ie Y ca pr&du$u! di'tre
Aa'da de 3rec5e'8e uti!i6ate i timpu! de tra'$mi$ie Y" ci re3erit&r !a de3i'i8ia $a !&aritmic. T&ate
ace$te !ucrri $u't aA&rdate -' te6a de d&ct&rat $cri$ de Haeme(er" i'c!u$i5 $tudiu! puA!icat de
TUp3mU!!er -'tr:& re5i$t $uede6 di' ./+." adic pe 5remea c4'd TUp3mU!!er" pr&3e$&r !a
Technische Hochschule di' ?a'6i (Gda'$V," preci6a re6u!tate!e !imitati5e e'u'8ate de N(;ui$t -'
./)0.
H'ai'te de acea$ta" !a u' m&me't apr&ape de apari8ia c&mu'icrii pre6e'tate de Hart!e( !a !acu!
C&m&" -' ./)<" N(;ui$t puA!ic de a$eme'ea d&u artic&!e imp&rta'te. #rimu! -! reia pe ce! di' ./)0
a'a!i6at mai $u$" e 5&rAa de 2C4te5a teme a!e te&riei tra'$mi$iei pri' te!era39. Te!era3u! cu cure't
c&'ti'uu rm4'e -' cadru! ace$tui artic&! re3eri'8a uti!i6at" dar $im aici i u' $tudiu $up!ime'tar
c&'$acrat 3e'&me'e!&r de i'ter3ere'8 -'tre $imA&!uri dat&rat 3aptu!ui c 5a!&ri!e !uate $ucce$i5 de
ctre u' $em'a! i'ter3erea6 u'e!e cu a!te!e !a u' m&me't dat. A! d&i!ea artic&! e$te c&'$acrat 'umai
6&m&tu!ui de &rii'e termic -' c&'duct&riS e! aprea -' .hysical )e+ie/ i c&mp!etea6 artic&!u!
!ui J.M. J&B'$&'" care:! precede -' 'umru! re5i$tei i care -i &3er cadru! e'era! de a'a!i6. E!
uti!i6ea6 mai -'t4i cea de:a d&ua !ee a term&di'amicii pe'tru a arta c 2(..., 3&r8a e!ectr&m&tric
dat&rat aita8iei termice di' c&'duct&ri e$te & 3u'c8ie u'i5er$a! a 3rec5e'8ei" a re6i$te'8ei" a
temperaturii i 'umai a ace$t&r 5ariaAi!e9. H' c&'ti'uare" ap!ic4'd !eea ecBiparti8iei de e'erie" e! -i
$ete & e7pre$ie ca'titati5. Ace$t $curt artic&!" de 'umai patru pai'i" 5a a5ea ap!ica8ii mu!t timp
dup aceea. A$t3e!" -' ./5." putem citi" t&t -' .hysical )e+ie/" u' artic&! i'titu!at 2Ire5er$iAi!itate i
6&m&t e'era!i6at9 i care 3ace -' m&d e7p!icit !etura -'tre te&ria micrii Ar&P'ie'e i acea$t
puA!ica8ie a !ui N(;ui$t" 3r $ aA&rde6e '&8iu'ea de i'3&rma8ie.
H'c & remarc aici" ca i pe'tru $tati$tici" !ucrri!e pe care '&i !e a'a!i6m au d&u tipuri de
p&$terit8i di3erite. E!e c&'triAuie" -' ace!ai timp" !a emere'8a u'ei te&rii tii'8i3ice a i'3&rma8iei i
!a apr&pieri -'tre di3erite!e d&me'ii tii'8i3ice care e7i$t i'depe'de't de '&8iu'ea de i'3&rma8ie.

.rimele prelun(iri
ScBematic" p&t 3i di$ti'$e d&u 3e!uri de urmri pe'tru t&ate ace$te !ucrri di' a'ii L)*" -'
d&me'iu! teB'ic $au te&retic" cBiar dac ce!e d&u tipuri de de65&!tri $u't aici $tr4'$ !eate. ?i'
pu'ct de 5edere te&retic" & 5eritaAi! te&rie matematic a i'3&rma8iei $e c&'turea6 -'cetu! cu -'cetu!"
dar acea$ta $e $pri>i' -' ace!ai timp i pe e5&!u8ia aparate!&r de m$ur i a $i$teme!&r de
tra'$mi$ie.
?ac c&'ti'um $ r$3&im 'umere!e di' Bell #ystem Technical 0ournal" 5&m $i -' ./+/"
dup artic&!u! !ui N(;ui$t di' ./)0 i ce! a! !ui Hart!e( di' ./)<" u' '&u artic&! $cri$ de SBa'cV i
C&r(" !a d&i$pre6ece a'i dup ce! e5&cat mai $u$. Ace$ta di' urm 'u e$te $cri$ -mpreu' cu N(;ui$t"
dar c&mp&rt t&tui 'umer&a$e re3eri'8e !a $crieri!e i'i'eru!ui de &rii'e $uede6. E 5&rAa pe$te t&t
de a m$ura tra'$mi$ii!e te!era3ice i" i'$pira8i de idei!e !ui N(;ui$t" aut&rii $tudia6 u' '&u tip de
te!e$cript&r aut&mat. #utem '&ta c 5ite6e!e de tra'$mi$ie $u't e7primate aici -' cu5i'te pe mi'ut" -'
pu'cte pe $ecu'd i -' baud:i. Nu pare $ aiA & m$ur u'i3icat i" mai deraA cercet4'd '&i
tipuri de aparate dec4t de65&!t4'd !ucrri!e !ui Hart!e( i N(;ui$t" aut&rii $per $ p&at -'!&Aa c4t
de mu!te ca6uri p&$iAi!e" ceea ce !e:ar putea permite $ a>u' !a & m$ur:eta!&' a 5ite6ei de
)+
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
tra'$mi$ie" cBiar dac ace$t !ucru 'u c&'$tituie e7p!icit &Aiecti5u! !&r. ?e a!t3e!" e de re8i'ut c ei $e
re3er at4t !a $ur$e america'e" c4t i erma'e" pe'tru t&t ceea ce 5i6ea6 3u'c8i&'area di3erite!&r
$i$teme te!era3ice. I'di3ere't c e 5&rAa de N(;ui$t $au de TUp3mU!!er" cu pri5ire !a re!a8ii!e di'tre
Aa'da de 3rec5e'8e i timpii de tra'$mi$ie" $im de a$eme'ea prime!e c&'$idera8ii re!ati5e !a
$taAi!itatea amp!i3icat&ri!&r.
Artic&!u! puA!icat de TUp3mU!!er -' ./)<" 2?e$pre di'amica reu!at&ri!&r aut&ma8i de
amp!i3icare9" c&'8i'e de pi!d u'a di'tre prime!e $cBeme e'era!e de retr&ac8iu'e1
TUp3mU!!er D./)<E" p. 0J* (te7t i $cBem,
2?i$p&6iti5u! de re!are c&mp&rt -' e'era! u' Z$i$tem de tra'$mi$ie[ M
7
i u' $item de re!a> M
"
.
Sitemu! de tra'$mi$ie M
7
i!u$trea6 re!a8ia di'tre mrimea '
7
a u'ui $i$tem" care de:& ma'ier $au
a!ta p&ate 3i m&di3icat -' timp" i mrimea '
"
a u'ui $i$tem de care depi'de i care p&ate 3i
me'8i'ut c&'$ta't ra8ie di$p&6iti5u!ui de re!are. ?ac $i$temu! de re!a> M
"
':ar e7i$ta" -'tre
mrimi!e S
.
i S
)
$:ar $taAi!i" -' $tare $ta8i&'ar" & re!a8ie pe care & putem $crie $uA 3&rma urmt&are1
'
"
1 A '
7
"
u'de A e$te Z3act&ru! de tra'$mi$ie[ a! $i$temu!ui M
7
. E! p&ate depi'de" !a r4'du! $u i !a m&du!
e'era!" de M
7
.
E3ectu! $i$temu!ui de re!a> M
"
c&'$t -' a!eerea 3act&ru!ui de tra'$mi$ie A -' 3u'c8ie de
mrimea '
"
a$t3e! -'c4t & cretere a !ui '
"
$ cu6e6e & dimi'uare a !ui A i i'5er$9.
Oai mu!t" aa cum arat Mi$$e!!" N(;ui$t i TUp3mU!!er au pr&pu$ am4'd&i -' a'ii L)* i L+*
criterii permi84'd $tatuarea $taAi!it8ii Auc!e!&r de retr&ac8iu'i" ceea ce de a!t3e! a dat pri!e> u'ei
c&'tr&5er$e de pri&ritate -'tre u' c&!e de:a! !ui TUp3mU!!er" Ne!i7 StrecVer" i N(;ui$t -' !ucrri!e
puA!icate de ei !a -'ceputu! a'i!&r L+*. ?ac te&ria retr&c&'tr&!u!ui 'u i'ter5i'e direct -' e!aA&rarea
te&riei matematice a c&mu'ica8iei" '&i a5em &ca6ia de a c&'$tata c ea particip -'tr:& mare m$ur
!a pr&re$u! ace$teia. H' 3i'e" & te&rie u'i3icat a c&me'6ii i re!a>u!ui -'cepe $ 5ad !umi'a 6i!ei
dup !ucrri!e te&retice i teB'ice a!e !ui Har&!d M!acV i He'dricV M&de" puA!icate -' ./+5" re$pecti5
-' ./05" $i'du:i e7pre$ia 3&rma!i6at -' -'3!&rirea ciAer'eticii. M!acV a5u$e$e ideea de a amp!i3ica
u' $em'a! cu a>ut&ru! retr&ac8iu'ii 'eati5e" iar M&de de65&!ta$e te&ria matematic c&re$p&'de't.
#ri'cipiu! u'i3icrii care a re6u!tat $e Aa6ea6 pe a'a!&ia di'tre di3erite!e $i$teme de re!are i 5&m
5edea c dac Y -' a d&ua >umtate a a'i!&r L0* Y ciAer'etica repre6i't reuita ace$tui demer$ -'
State!e C'ite" -'c di' a'u! ./0* mai $im & 2te&rie e'era! a re!a>u!ui9 -' Germa'ia" &dat cu
$i'te6a pr&pu$ de Herma'' ScBmidt. ?e aAia dup apari8ia ace$tui tip de $i'te6" Auc!e!e de
retr&ac8iu'e 5&r 3i caracteri6ate pri' tra'$miterea de i'3&rma8ie pe care e!e & permit. A$t3e!" u' $tudiu
mai apr&3u'dat a! ace$t&r meca'i$me u':i are !&cu! aici" dar 5a aA&rdat -' c&'te7tu! 'aterii te&rii!&r
ciAer'etice $au a'a!&ae.
H't&tdeau'a" pe p!a' teB'ic treAuie $ 'e ateptm c $i$temu! de m&du!a8ie pri' impu!$uri c&date
(M.I.C." .ulse Code Modulation -' e'!e6," pu$ !a pu'ct -' ./+<" $e impu'e cu ade5rat ca $i$tem
de re3eri'8 pe'tru ca & aute'tic te&rie a i'3&rma8iei $ p&at 5edea !umi'a 6i!ei. Ace$t !ucru $e
&A$er5 -' deta!iu a'a!i64'd !ucrri!e !ui SBa''&'. #!ec4'd de !a de3i'i8ia !ui Hart!e(" u' cercett&r
di' !aA&rat&ru! 3edera! de te!ec&mu'ica8ii" A.G. C!a5ier" 5a de3i'i de a!t3e! u' criteriu de e3icie'8
pe'tru tra'$mi$ie" ceea ce dem&'$trea6 '&u! i'tere$ pe care:! $t4r'ete M.I.C.. Ace$t !ucru $e
)0
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
-'t4mp! dup ce! de:a! d&i!ea r6A&i m&'dia!" !a u' m&me't -' care puA!ica8ia !ui Hat!e( re5i'e di'
'&u -' actua!itate.
H' 3i'e" -' ./05" acea$t puA!ica8ie di' ./)< 3ace &Aiectu! u'ui edit&ria! a! re5i$tei Electronics"
pe'tru '&i!e $a!e ap!ica8ii -' te!e5i6iu'e. Cercett&ri precum StrecVer -' Germa'ia (./+5, $au Harte(
-'$ui -'tr:u' rap&rt i'ter' a! Bell Labs di' ./0+" a5eau $ arate c era de!icat de ap!icat de3i'i8ii!e
date -' ./)< !a '&i $i$teme teB'ice precum +ocoder:u! (./+5" c3. cap. ), care permitea c&darea 5&cii
uma'e. H' ace$t edit&ria! 3&rmu!e!e !ui Hart!e( 5i64'd rap&rturi!e di'tre !rimea Ae'6ii i timpii
'ece$ari tra'$mi$iei u'ei ca'tit8i de i'3&rma8ie iau titu!atura de 2!ee a !ui Hart!e(9" i'i'eru! de !a
Bell Labs 3ii'd de a!t3e! dec&rat pe'tru ace$t m&ti5 cu meda!ia de &'&are a Institute o" )adio
-n(ineers -' ./0J. T&tui" d&i a'i mai t4r6iu" &dat cu puA!icarea !ucrri!&r !ui SBa''&' ce 5&r
cu'&ate & r$p4'dire c&'$ideraAi!" 2!eea !ui Hart!e(9 e$te aAa'd&'at" !a 3e! ca i re3eri'8e!e !a
!ucrri!e !ui TUp3mU!!er. TreAuie $pu$ aici c TUp3mU!!er 3u$e$e 'umit -' ./00" direct de ctre
amira!u! ?\'it6" re$p&'$aAi!u! ecBipei tii'8i3ice -'$rci'at de a duce !a Au' $34rit r6A&iu!
$uAmari'. Ace$ta e$te m&ti5u! pe'tru care TUp3mU!!er a5ea $ 3ie are$tat de 3&r8e!e america'e" di'
./0J p4' -' ./0=" &dat cu &cuparea Germa'iei.
E di3ici! de a ti -' ce m$ur Hart!e( particip !a te&ria matematic '$c4'd a c&mu'ica8iei.
R&!u! $u 'u $e re$tr4'e" 3r -'d&ia!" d&ar !a !a !ucrri!e puA!icate i !a rap&arte!e -' d&me'iu!
te!ec&mu'ica8ii!&r. H' a!e $a!e A!intiri des+re di8ersele ori,ini ale ci0erneticii Y $criere ce:i 3u$e$e
pre6e'tat !ui Hart!e( -' ./)/ Y Qarre' OcCu!!&cB" u'u! di'tre pri'cipa!ii pr&m&t&ri ai ciAer'eticii
di' a'ii L0* -mpreu' cu Qie'er" i'dic re3erit&r !a '&8iu'ea de i'3&rma8ie c acea$t '&8iu'e $e a3!a
de3i'it de:& ma'ier i'tere$a't de ctre C.S. #eirce1 ca a! trei!ea tip de ca'titate" di'c&!& de
&p&6i8ia 2$uAiectGpredicat9" 2a'tecede'tGc&'$ec5e't9. OcCu!!&cB $crie atu'ci" e ade5rat c -'tr:&
ma'ier cu t&tu! retr&$pecti51 2Acea$ta era $4mAure!e de3i'i8iei america'e a i'3&rma8iei ca i
ca'titate. H'3!&rirea $e 5a 3ace cu Teoria !ate!atic6 a co!unica4iei a !ui SBa''&'" -' ./0<9.
Naptu! c Hat!e( cu'&ate $crieri!e !ui #eirce de$pre i'3&rma8ie c&'triAuie 3r -'d&ia! !a ceea ce
-'tr:u'u! di' 'umer&a$e!e rap&arte 'epuA!icate $im -' ./+/" cu pu8i'e de65&!tri" !a me'8iu'ea
2te&ria m$urii ca'titati5e a i'3&rma8iei9. H' $tarea actua! a cu'&ti'8e!&r de$pre !ucrri!e !ui
Hart!e(" e -'c di3ici! $ 'e pr&'u'8m -' m&d de3i'iti5 a$upra e5e'tua!ei i'3!ue'8e a !ui #eirce. C4'd
mu'ca $a de i'i'er 5i6ea6 -' m&d e$e'8ia! te!ec&mu'ica8ii!e" e! pare c&'tie't de p&$iAi!it8i!e de
!rire a pr&priei te&rii.
#ri' urmare" i'depe'de't de cercetri!e !ui SBa''&'" $e p&ate c&'$tata c impactu! !ucrri!&r !ui
Hart!e( a 3&$t de 3iecare dat recu'&$cut. ?e pi!d" Qi!!iam Tu!!er ('$cut -' ./.<, 5a $u$8i'e & te6
!a M.I.T. -' ./0<" -' care 5iit&ru! $u artic&!u! di' ./0/ e$te u' re6umat. Ace$t artic&!" i'titu!at
2Limita8ii!e te&retice a!e 'i5e!u!ui de tra'$mi$ie a i'3&rma8iei9 $e $ituea6 -' pre!u'irea direct a
puA!ica8iei di' ./)< a !ui Hart!e(" pe care & caracteri6ea6 drept 2$trm&u! ce! mai direct a!
pre6e'tei c&mu'icri9. Tu!!er" care reaea6 !ucrri!e !ui Hart!e( !4' ce!e a!e !ui N(;ui$t"
TUp3mU!!er i Car$&' (pe'tru tratarea 6&m&tu!ui," Ae'e3icia6 -' p!u$ de & !ectur ate't 3cut
$crieri!&r !ui Qie'er i GaA&r care" -' ./0J" puA!ic -' Oarea Mrita'ie & 2te&rie a c&mu'ica8iei9.
H' ceea ce pri5ete rap&rtu! !ui Hart!e( di' ./+/" $ '&tm c ace$ta e$te c&'$acrat u'ei te&rii
e'era!e a 3i6icii" cBiar dac Hart!e( pare a 'u 3i a5ut cu'&ti'8 de !ucrri!e rea!i6ate -' d&me'iu!
3i6icii a$upra '&8iu'ii de i'3&rma8ie" pri'cipa!a !ui acti5itate -' ace$t d&me'iu 3ii'd de a cuta $
pr&m&5e6e 3i6ica 'ePt&'ia' ac&!& u'de re!ati5itatea $e ap!ic
?e:aAia -' a'ii L0* $im artic&!e de 3i6ic -' &ell '(ste! Tec)nical *ournal" -' $pecia! &dat cu
!ucrri!e !ui T. ?arr&P care puA!ic -' ./0) u' artic&! i'titu!at $imp!u ]E'tr&pie9 u'de -'cearc $
de3i'ea$c acea$t mrime 3i6ic p!ec4'd de !a pr&AaAi!it8i. ?ar&P are" de a!t3e!" u' parcur$
pr&3e$i&'a! a'a!& cu ce! a! !ui Hart!e(1 -'cep4'd cu ,estern -lectric (./.=:./)5, i c&'ti'u4'd !a
Bell Labs. H' puA!ica8ia $a e! $crie c reret 2Aariere!e 3a!$e di'tre 3i6ic i cBimie9" e!e $em'4'd
cu 5ecBi!e 23r&'tiere eur&pe'e depite (old9fas)ioned,9. #r&iectu! $u e$te tipic pe'tru peri&ada de
!a -'ceputu! a'i!&r L0*" c4'd $tructura cercetrii tii'8i3ice Y i'tim !eat de e3&rturi!e de r6A&i Y 3ace
p&$iAi! i'terdi$cip!i'aritatea 'ece$ar $&!u8i&'rii pr&A!eme!&r tii'8i3ice. ?ar&P $crie c $c&pu!
pri'cipa! a! artic&!u!ui $u e$te 2de a aA&!i Aatiere!e at4t c4t e$te p&$iAi!9 -'tre di$cip!i'e i de a
)5
GHEORGHE CLITAN TEORIA INFORMAIEI
Note de curs
preci6a $em'i3ica8ia 3i6ic a pr&AaAi!it8i!&r" mai cu $eam -' e7pre$ia e'tr&piei pe care e! 'e:& d
pe'tru N m&!ecu!e1 ' 1 9- N ' : ln :.
#e'tru a &pri aici acea$t a'a!i6 a di3erite!&r 5&!ume di' &ell '(ste! Tec)nical *ournal" -! mai
citm pe S.O. Rice" i'trat !a Bell Labs -' ./+*" care puA!ic -' ./00 i ./05 u' artic&! re3erit&r !a
2A'a!i6a matematic a 6&m&tu!ui a!eat&r9. Rice $e i'tere$a !a Bell Labs de di3erite!e tipuri de
de3ecte de 3u'c8i&'are a re8e!e!&r te!e3&'ice. X&m&tu!" care 'u e$te practic tratat -' $crieri!e !ui
N(;ui$t $au Hart!e(" apare aici c&'$iderat ca & 5ariaAi! a!eat&rie i" di' acea$t m&ti5" artic&!u! !ui
Rice e at4t de apr&piat ca demer$ de ce! a! !ui CBa'dra$eVBar" citat mai $u$ pe'tru 3i6ic. C&'cep8ia
de$pre 6&m&t ca 5ariaAi! a!eat&are e$te cea care" di' 3aptu! c 6&m&tu! a!terea6 me$a>u! emi$" -i
5a c&'duce -'cetu! cu -'cetu! pe i'i'eri $ trate6e i me$a>u! cu a>ut&ru! 3&rma!i$mu!ui
pr&AaAi!it8i!&r.
Oai c&'$tatm aici d&ar c 3r&'tiere!e di'tre 3i6ic" $tati$tic i te!ec&mu'ica8ii $u't -'de&$eAi
3&rma!e" marcate mai deraA de 3&rma $tructuri!&r de cercetare i de 3&rma8ia 3iecrui cercett&r"
dec4t de 5eritaAi!e -'cBideri di$cip!i'are. ?e:& ma'ier 3&arte $cBematic" &A$er5m c -' 5reme ce
$i$temu! de cercetare erma' aprea mai mu!t ce'trat pe i'di5id i a7at -'de&$eAi pe a$pecte!e
teB'ice a!e cercetrii" !aA&arat&ere -'trei di' State!e C'ite $u$cit" pri' $tructuri!e !&r" de65&!tarea
de '&i te&rii. ?i3ere'8e!e de 3&rmare i e7perie'8e!e pr&3e$i&'a!e 3ac di' ca6uri!e !ui TUp3mU!!er i
N(;ui$t u' e7emp!u $em'i3icati5 di' ace$t pu'ct de 5edere.
#ri'tre a!te!e" 'e a3!m -' pre6e'8a a trei de3i'i8ii ca'titati5e a!e i'3&rma8iei. Nie ea -' 3i6ic"
$tati$tic $au te!ec&mu'ica8ii" i'3&rma8ia e$te & mrime care de5i'e m$uraAi!" dar rm4'e '&'
materia!. Cercetri!e care ac&mpa'ia6 ace$te de3i'i8ii au d&u tipuri de pre!u'iri" de&p&tri5 -'
i'teri&ru! matricii di$cip!i'are i pe'tru e!aA&rarea te&riei matematice a c&mu'ica8iei care $e
c&'turea6 -' a'ii L0* -' State!e C'ite. Acea$t te&rie precede" aa cum de>a am 56ut" & u'i3icare 'u
'umai a ace$t&r trei de3i'i8ii" dar i a a!t&ra $au a ce!&r!a!te de65&!tri c&'temp&ra'e a!e !&r. E 5&rAa
-'de&$eAi de te&ria c&me'6ii i a re!a>u!ui care" -mpreu' cu pr&iectu! ciAer'etic" $e 5&r i'tera -'
acea$t micare de $i'te6 e'era!. #e'tru a 'u !$a $ $e cread c acea$t u'i3icare care
marcBea6 -'treaa peri&ad a a'i!&r L0* ar 3i putut re6u!ta di' $imp!e!e e5&!u8ii pr&prii di3erite!&r
c4mpuri tii'8i3ice" treAuie me'8i&'at c" ce! pu8i' -' State!e C'ite" c&'te7tu! ce!ui de:a! d&i!ea
r6A&i m&'dia! $u$cit acea$t u'i3icare i determi' &rie'tarea pri'cipa!e!&r cercetri de$3urate -'
ace$t $e'$.
)J