Teorema esantionarii

Teorema esantionarii a lui Shannon afirma ca:




orice semnal de banda limitata poate fi reprezentat prin esantioane prelevate la o

frecventa egala cu dublul frecventei maxime* din spectrul semnalului
poate fi reconstruita fara erori daca sunt folosite functii de interpolare
adecvate**.

* dublul frecventei maxime a unui semnal este numita frecventa Nyquist.

** functia nerealizabila fizic sinx/x (sinc).
Teorema de esantionare a lui Shannon afirma ca orice functie (semnal) de banda
strict
limitata poate fi reprezentat prin esantioanele sale luate la o frecventa de cel
putin dublul
celei mai mari frecvente din spectrul semnalului. Mai mult ea afirma ca functia
originala
poate fi restaurata fara distorsiuni prin trecerea esantioanelor (pulsurilor)
printr-un filtru
trece-jos ideal cu banda egala cu cea a semnalului.
Consecintele teoremei esantionarii
Orice semnala de banda strict limitata poate fi reprezentat - exact - prin
esantioanle
luate la intervale de timp egale.



De fapt, printr-un numar finit de esantioane prelevate la o frecventa de doua ori

mai mare decat latimea de banda.
Totusi, functii de interpolare ideale (nerealizabile fizic) sunt necesare pentru a
reconstrui fara distorsiuni functia originala.

Cuantizarea



Pentru procesare, memorare sau transmisie, esantioanle cu precizie infinita trebuie

cuantizate.
Astfel, o gama (un interval) de valori este reprezentata printr-un singur numar cu
precizie finita. Spre exemplu, reprezentandu-le prin numere binare finite.

Eroarea de cuantizare


Eroarea de cuantizare depinde de numarul de intervale de cuantizare utilizat.




daca sunt folositi pentru reprezentare numere binare de N biti, numarul de

intervale distincte este 2N.
Raportul semnal/eroare-de-cuantizare este de aproximativ 6N dB.
(Intr-adevar, 20·log(2N/1) ~ 6N dB)

Codarea sursei




Definitia informatiei
Conceptul de entropie a comunicatiei (informatiei)
Teorema codarii sursei

O definitie a informatiei





Shannon a definit informatia generata de aparitia unui simbol xi la iesirea unei

surse discrete (care emite simboluri in numar finit) X prin
I(xi) = -log2{p(xi)*} = log2{1/p(xi)} biti
Aceasta masura este numita self-informatie a lui xi.
Cu cat este mai putin probabila aparitia unui simbol - cu atat sursa genereaza mai
multa informatie prin emiterea acelui simbol;

*p(xi) este probabilitatea cu care sursa discreta X emite simbolul xi.

Entropie


Shannon a definit entropia unei sursei discrete X self-informatia medie H(X) a

acesteia.

Cu cat este mai mare entropia unei surse, cu atat este mai putin predictibila
aparitia unui simbol al sau.
O sursa are entropia maxima atunci cand toate simbolurile au aceeasi probabilitate
de aparitie. Nu exista nici o modalitate de a le distinge a priori.

Codarea sursei. Principiu

Idea codarii sursei este de a reprezenta fiecare aparitie a unui simbol printrun
sir de
simboluri alese dintr-un alfabet, B. In exemplul de mai sus, simboluri de la sursa
discreta
X (dintre care M sunt simboluri distincte) sunt reprezentate printr-un cuvant de
cod din N
simboluri alese dintr-un alfabet B care are K simboluri distincte. Intr-un exemplu
simplu,
sa consideram sursa un convertor A/D cu 256 niveluri de cuantizare si fie B un
alfabet
binar cu K=2 simboluri. Daca sursa emite simbolurile sale echiprobabil, N trebuie
sa fie 8
pentru a reprezenta numerele de la iesirea convertorului. Daca nivelurile nu sunt
echiprobabile, atunci putem utiliza coduri cu lungime variabila in care anumite
coduri vor
fi reprezentate prin mai putin de 8 biti iar altele prin mai mult de 8 biti. Putem
face asta
astfel incat lungimea medie a codului sa fie mai mica de 8 biti.

Teorema codarii sursei

Simbolurile emise de o sursa discreta pot fi reprezentate prin cuvinte in cod binar
a caror
lungime medie L este marginita de entropia sursei si entropia sursei plus 1 (in
biti), adica
H(X) < L < H(X) + 1

Rata sursei




Semnificatia teoremei codarii sursei este ca exista o cantitate de informatie care

este suficienta pentru a reprezenta o sursa.
Corolarul este ca aceasta cantitate de informatie este si necesara pentru a
reprezenta o sursa.
Daca o sursa este reprezentata prin mai putini biti decat entropia sa, va exista cu
certitudine o pierdere de fidelitate.

Codarea sursei sau Compresia






Cele mai multe surse au semnalele de iesire redundante, astfel incat pot fi
comprimate, prin eliminarea redundantelor.
Compresia poate fi cu sau fara pierderi.
Acuratetea reprezentarii prin esantionare, cuantizare si compresie este definita
intotdeauna relativ la un criteriu de fidelitate.
Gradul de compresie depinde de
o distributia de probabilitate a semnalului de iesire
o criteriul de fidelitate aplicat

Lungimea cuvantulul de cod a codului Huffman urmator este 2.63 biti. Daca
simbolurile
sursei ar fi fost echiprobabile, cuvintele de cod ar fi avut lungimea de 3.00 biti.
i
p(xi)
Cod
0
0.30
00
1
0.25
10
2
0.15
010
3
0.10
110
4
0.08
111
5
0.06
0110
6
0.04
01110
7
0.02
01111
Pentru acelasi cod, un script din pagina, calculeaza entropia si media numarului de
biti
transmisi de aceasta sursa:
H(X)=1.8
L = 2.63 biti.
In cazul in care simbolurile ar fi echiprobabile (adica p(xi) = 1/8) si nu s-ar
folosi
coduri de lungime fixa 3 biti s-ar obtine pentru codul Hoffman de mai sus o lungime
de
cuvant medie:
L = 3.38 biti.
IV. Esantionarea semnalului trebuie facuta având în vedere teorema lui
Shannon (teorema esantionarii), iar semnalul esantionat trebuie
memorat si mentinut constant pe durata conversiei, pentru a asigura
un numar suficient de esantioane pe o perioada a curbelor de tensiune
sau de curent electric.
Conform teoremei lui Shannon, un semnal de variatie continua poate fi
reprezentat de esantioanele sale daca:
fe 2. fmax (10.1)
unde: fe este frecventa de esantionare;
fmax - frecventa maxima a armonicilor semnalului în studiu.
Pentru o reprezentare cât mai corecta a semnalului, se recomanda ca,
pentru reconstituirea semnalului, frecventa de esantionare sa fie de 810
ori mai mare decât frecventa maxima a armonicilor semnalului (fmax). În
literatura de specialitate se recomanda ca numarul optim de esantioane pe
o perioada a unei curbe de tensiune sau de curent electric sa fie de 128
esantioane/perioada, iar fereastra de esantionare sa fie de minimum 2T
(doua perioade).

Digitizarea şi reconstrucţia semnalelor analogice

4.1 Conversia analog-digitală
Un semnal f(t) poate fi numit semnal analogic sau semnal continuu în timp dacă este
definit pentru toate valorile variabilei continue t.
Dacă, în schimb, semnalul respectiv este definit doar pentru valori discrete ale
variabilei t, atunci el poate fi numit semnal discret în timp sau semnal analogic
eşantionat.
Dacă în plus faţă de a fi discret în timp, valoarea unui semnal poate lua la un
moment
arbitrar de timp doar anumite valori într-un domeniu discret, şi fiecare din aceste
valori
poate fi reprezentată matematic printr-un cod (de ex. cel binar), atunci se poate
spune că
semnalul respectiv este un semnal digital.
Pentru ca un semnal analogic să poată fi acceptat spre prelucrare de un sistem
digital,
el trebuie în prealabil convertit de la formatul analogic la cel digital.
Echipamentul care
efectuează această operaţie se numeşte convertor analog-digital (CAD, sau DAC –
Digital to Analog Converter).
Conversia A/D este un proces care implică trei operaţii:
- eşantionarea, care transformă semnalul analogic x(t) într-un semnal analogic
eşantionat x(nT), caracterizat prin variaţii ale valorii sale doar la momente
discrete de
timp
- cuantizarea, operaţie prin care semnalul analogic eşantionat este cuantizat în
amplitiudine, alocându-i-se o valoare dintr-un set finit de valori discrete (se
obţine
semnalul xq(nT)). Cuantizarea este un proces ireversibil, valorile iniţiale ale
eşantioanelor nemaiputând fi recuperate din semnalul cuantizat, decât cu o anumită
eroare (eroarea de cuantizare)
- codarea, care constă în atribuirea unui cod binar fiecărui eşantion din semnalul
cuantizat. Semnalul digital obţinut va fi notat în continuare cu xd(t)
Blocurile care efectuează cele trei operaţii implicate în conversia A/D se numesc
eşantionor, cuantizor, respectiv codor. (figura 4.1).

E ş a n tio n o r

C u a n tiz o r

C odor

Figura 4.1 Schema bloc principală a convertorului A/D

În structura convertoarelor analog-digitale, nu întotdeauna cele trei module
funcţionale pot fi proiectate separat , motiv pentru care schema din figura 4.1
este mai
degrabă funcţională decât structurală. Pe de altă parte, această separare
funcţională
uşurează procesul de analiză.
4.1.1 Eşantionarea
Vom presupune pentru început că discretizarea timpului se efectuează cu pas
constant
T (eşantionare periodică sau uniformă) şi că eşantioanele sunt reprezentate exact.
Reprezentarea semnalului x(t) doar prin valori ale sale la momente discrete de timp
implică riscul ca evenimente care apar între două momente consecutive de
eşantionare să
fie pierdute.
Ca urmare a operaţiei de eşantionare apare ca evidentă necesitatea stabilirii
condiţiilor
în care un semnal continuu poate fi complet definit prin eşantioanele sale, cu alte
cuvinte,
condiţiile în care acesta poate fi refăcut fără nici o pierdere de informaţii din
aceste
eşantioane.
În acest sens, există teorema eşantionării a lui Shannon, care stabileşte că o
funcţie
s(t) de bandă limitată F (nu conţine componente spectrale peste frecvenţa F
hertzi), este
complet definită de eşantioanele sale echidistante, prelevate cu o frecvenţă de cel
puţin
W=2F hertzi.

x (t)
x(n T )
0

2T

3T

4T

5T

6T

8T

t
9T

10T

Fig 4.1 Eşantionarea unui semnal analogic

Circuitul de eşantionare este constituit în general dintr-un comutator care se
deschide
pentru foarte scurt timp la momentele de eşantionare, respectiv un element de
memorare
(pentru semnalele electrice acesta este îm cele mai multe cazuri un condensator)
care să
păstreze valoarea înregistrată la un anumit moment până la momentul următor de
eşantionare.
4.1.2 Cuantizarea
Pentru pasul de eşantionare s-a considerat până acum că eşantioanele pot fi
reprezentate exact, indiferent de valoarea acestora. Având în vedere însă scopul
primordial al operaţiei de conversie analog-digitală, şi anume acela de a introduce
semnalul într-un sistem de prelucrare digital, această presupunere nu este tocmai
conformă cu realitatea, sistemele digitale neputând prelucra semnale cu valori
într-un
domeniu continuu.
Prin cuantizare, fiecărui eşantion i se alocă o valoare dintr-un set finit de
valori.
Distanţa dintre două nivele consecutive de cuantizare este numit pas de cuantizare.
Dacă
pasul de cuantizare este constant, atunci cuantizarea este uniformă, în caz contrar
cuantizarea fiind neuniformă. în cazul cuantizării uniforme, nivelul semnalului de
la
ieşiea cuantizorului este multiplu al pasului de cuantizare, în tip ce la
cuantizarea
neuniformă nivelul semnalului de ieşire este o funcţie monotonă de întregi care pot
avea
orice valoare. Majoritatea convertoarelor A/D lucrează cu cuantizare uniformă. Cele
mai
folosite două metode pentru cuantizarea uniformă sunt cuantizarea prin rotunjire
respectiv cuantizarea prin trunchiere.
Cuantizarea prin rotunjire
Dacă se notează cu q pasul de cuantizare, funcţia de transfer a cuantizorului
(relaţie
dintre semnalul de intrare S(nT) şi semnalul de ieşire Sq(nT)) arată ca în figura
4.2. Pe
abscisă sunt reprezentate nivelele de cuantizare ale eşantioanelor, iar pe ordonată
nivelele
disponibile pentru reprezentare. Se observă că pe măsură ce semnalul de intrare
variază
continuu între valoarea minimă reprezentabilă şi valoare maximă, semnalul de ieşire
variază în trepte. De asemenea, dacă semnalul de intrare depăşeşte într-un sens sau
celălalt valorile limită reprezentabile, semnalul de ieşire se saturează la
valoarea limită
(minim sau maxim) corespunzător direcţiei în care a fost depăşit domeniul de
reprezentare.
Dacă numărul nivelelor de reprezentare de la ieşire este n, numărul nivelelor
analogice de decizie este n-1, iar distanţa dintre două nivele de cuantizare
consecutive
este q, prin rotunjire, unui eşantion analogic i se atribuie cel mai apropiat nivel
de
reprezentare disponibil.
Analizând graficul din figura 4.2, se constată apariţia a două feluri de erori de
reprezentare:
- când semnalul de intrare (eşantionul analogic) se află în domeniul de lucru al
cuantizorului, eroarea de reprezentare variază periodic şi continuu între -q/2 şi
q/2. Acest
tip de eroare, denumită eroare de cuantizare, apare atunci când valoarea
eşantionului
analogic este situată între două nivele disponibile de cuantizare.
- când semnalul de intrare se află în afara domeniului de cuantizare, toate
eşantioanele
care depăşesc EMax sunt rotunjite la EMax, iar eşantioanele care au valori mai mici
de
-EMax sunt rotunjite la -EMax. Eroarea care apare în urma acestei rotunjiri se
numeşte
eroare de depăşire (overflow error). Valoarea acestui tip de eroare creşte
nelimitat odată
cu semnalul de intrare. Valorile EMax respectiv -EMax se mai numesc şi valori de
saturaţie ale cuantizorului.

-7 q /2

-5 q /2

-3 q /2

-q /2
q /2

3 q /2

5 q /2

7 q /2

Figura 4.2 Cuantizarea prin rotunjire

Eroarea de rotunjire mai este denumită şi zgomot de rotunjire, efectul ei în
sistemul
de prelucrare fiind echivalent cu prezenţa unui zgomot aditiv în componenţa
semnalului
furnizat de convertorul analog-digital.
Cuantizarea prin trunchiere
La cuantizarea prin trunchiere unui eşantion analogic i se atribuie cel mai mare
nivel
de reprezentare disponibil, care este valoric inferior eşantionului (fig 4.3).
Eroarea de
trunchiere este cuprinsă în intervalul (-q,0)

-3 q

-2 q

-q
q

2q

3q

Figura 4.3 Cuantizarea prin trunchiere

4.1.3 Codarea
Codarea este etapa de alocare a unui număr finit de biţi fiecărui nivel de
reprezentare,
deci fiecărui eşantion al semnalului. Această operaţie se execută conform unui
anumit
cod binar folosit pentru reprezentarea digitală a datelor. Convertoarele A/D
utilizează
codarea simplă, considerând simbolurile echiprobabile. Ca atare, convertoarele A/D
respectiv D/A folosesc coduri uniforme simple. Pentru mărimi pozitive se folosesc
coduri
unipolare (fără semn), iar pentru cele cu semn se folosesc coduri bipolare (cu
semn).
Principalele coduri uniforme simple utilizate de convertoarele A/D şi D/A sunt
prezentate
în continuare.
Coduri unipolare
Codul binar natural direct
Acest cod se obţine alocând fiecărui număr biţii corespunzători coeficienţilor
reprezentării binare a numărului respectiv. Bitul de pe poziţia cu ponderea cea mai
mare
se numeşte MSB (Most Significant Bit) iar cel de pe poziţia cu ponderea cea mai
mică se
numeşte LSB (Least Significant Bit). Gama numerelor pozitive N care pot fi
reprezentate
cu acest cod este 0 <= N <= 2n-1.
Uneori acest cod este folosit pentru a reprezenta numere subunitare, caz în care
gama
de valori este 0 <= N <= 1-2-n.
Codul BCD direct
Codul zecimal codat binar (binary coded decimal - BCD) foloseşte pentru
reprezentarea fiecărei cifre un număr de 4 biţi corespunzători codului natural
direct.
Codul BCD este folosit de convertoarele A/D utilizate în construcţia instrumentelor
de măsură numericeşi în sistemele de afişare.
Prim complementarea faţă de 1 a simbolurilor binare directe se obţin codurile
binare
complementare (codul binar natural complementar, respectiv codul BCD complementar)
Coduri bipolare
Codurile bipolare sunt folosite pentru reprezentarea numerelor cu semn. Cele mai
frecvent folosite coduri bipolare pentru realizarea convertoarelor A/D D/A sunt:
- coduri directe: mărime şi semn (MS), complement faţă de 1 (1C), complement faţă
de 2 (2C), binar deplasat (BD)
- coduri complementare: mărime şi semn complementar, complement faţă de 1
complementar, complement faţă de 2 complementar, binar deplasat complementar
- coduri modificate: mărime şi semn modificat, complement faţă de 1 modificat.
Toate codurile bipolare se caracterizează prin folosirea unui bit pentru
reprezentarea
semnului, situat în poziţia bitului MSB al cuvântului binar, denumit bit de semn.
Restul
biţilor sunt folosţi pentru reprezentarea valorii eşantionului şi se numesc biţi de
mărime.
Prin folosirea bitului de semn, gama de reprezentare se prelungeşte pe semiaxa
numerelor
negative, însă îşi reduce la jumătate numărul de valori reprezentabile pe semiaxa
numerelor pozitive.
Codurile complementare se obţin din codurile directe prin complementarea tuturor
biţilor. Codurile modificate se folosesc numai pentru variantele mărime şi semn,
respectiv
complement faţă de 1, şi se caracterizează prin faptul că bitul de semn din codul
direct
corespunzător este complementat.