Coduri Huffman

Una dintre aplicatiile binecunoscute ale arborilor

binari optimi o constituie determinarea codurilor
Huffman pentru caracterele unui sir de intrare
Aceste coduri vor putea fi apoi folosite pentru
codificarea sirului pe un numar de biti
semnificativ mai mic decat initial
Daca pe post de sir de caractere este folosit un
fisier, codurile Huffman pot ajuta la compresia
fisierului respectiv (reprezentarea continutului
sau pe un numar de biti mai mic decat in mod
normal)

Calin Jebelea

Coduri Huffman

Coduri Huffman
Vom studia mersul algoritmului pe un exemplu
Fie sirul de intrare: MARE E MAREA MARMARA
Se parcurge sirul si se contorizeaza numarul de
aparitii ale fiecarui caracter distinct
Astfel:

M apare de 4 ori
A apare de 6 ori
R apare de 4 ori
E apare de 3 ori
<blank> (spatiul) apare de 3 ori (pentru o mai mare
claritate vom reprezenta caracterul spatiu prin simbolul
_)

Calin Jebelea

Coduri Huffman

Coduri Huffman
Cunoscand ca lungimea sirului este de 20 de
caractere, putem calcula foarte usor frecventele
(probabilitatile) de aparitie ale fiecarui caracter
Astfel:

M 4/20
A 6/20
R 4/20
E 3/20
_ 3/20

Evident: 4/20 + 6/20 + 4/20 + 3/20 + 3/20 =

20/20

Calin Jebelea

Coduri Huffman

Coduri Huffman
Pentru fiecare caracter distinct vom construi un
arbore binar optim avand un singur nod
4/20

6/20

4/20

3/20

3/20

Asociem fiecarui nod frecventa de aparitie a

cheii nodului respectiv
Ideea este de a reduce la fiecare pas numarul
de arbori binari optimi prin combinare, pana
cand se ajunge la un singur arbore binar optim

Calin Jebelea

Coduri Huffman

Coduri Huffman
In acest sens, la fiecare pas se aleg 2 dintre arborii binari optimi
disponibili, si anume acei 2 arbori binari optimi care au frecventele de
aparitie minime (minimul si urmatorul minim)
Daca sunt mai mult de 2 arbori in aceasta situatie, se vor alege
arbitrar 2 dintre ei
In cazul nostru, vom alege ultimii 2 arbori, ei avand frecventele de
aparitie minime
Se vor inlocui cei 2 arbori printr-unul singur, care are ca radacina un
caracter fictiv * si cei 2 arbori selectati ca subarbori (nu conteaza
plasarea pe stanga sau pe dreapta, ideea este ca unul din ei va fi
subarbore stang si celalalt subarbore drept)
Frecventa de aparitie a noului arbore va fi data de suma frecventelor
de aparitie a celor 2 subarbori componenti
Deoarece am inlocuit 2 arbori printr-unul singur, numarul total de
arbori a scazut cu o unitate

Calin Jebelea

Coduri Huffman

Coduri Huffman
4/20

6/20

4/20

6/20

*
E

3/20

3/20

Din cei 4 arbori ramasi, alegem 2 care

au frecventele de aparitie minime
Acestia vor fi primul si al treilea si vor
fi inlocuiti printr-un nou arbore avand
frecventa 8/20
Calin Jebelea

Coduri Huffman

Coduri Huffman
8/20

6/20

6/20

4/20

4/20

3/20

3/20

Din cei 3 arbori ramasi, alegem 2 care

au frecventele de aparitie minime
Acestia vor fi ultimii 2 si vor fi inlocuiti
printr-un nou arbore avand frecventa
12/20
Calin Jebelea

Coduri Huffman

Coduri Huffman
8/20

12/20

4/20

4/20

6/20

*
E

3/20

3/20

Nu mai avem de ales, fiind doar 2

arbori
Acestia vor fi inlocuiti printr-un nou
arbore avand frecventa 20/20
Calin Jebelea

Coduri Huffman

Coduri Huffman
20/20

*
*

4/20

4/20

6/20

*
E

3/20

3/20

Am ajuns la un singur arbore, moment in care

ne oprim
Vom eticheta fiecare ramura spre stanga cu 0
si fiecare ramura spre dreapta cu 1
Calin Jebelea

Coduri Huffman

Coduri Huffman
20/20
0
0

4/20

4/20

6/20

1
0

3/20

3/20

Caracterele din sirul initial au ajuns frunze in

arborele Huffman
Drumul de la radacina la fiecare frunza va da
codul Huffman al caracterului corespunzator
frunzei

Calin Jebelea

Coduri Huffman

10

Coduri Huffman
Astfel, vom avea:

M codul 00; A codul 10; R codul 01;

E codul 110; _ codul 111

In mod normal, un caracter din sir (sau din fisier,

daca folosim un fisier) se codifica pe 8 biti
In cazul de fata, tinand cont ca sunt numai 5
caractere in total, am putea implementa foarte
usor o codificare binara de 3 biti/caracter (2 biti
ar asigura doar 4 caractere distincte, dar noi
avem 5)

Calin Jebelea

Coduri Huffman

11

Coduri Huffman
Se observa ca codurile Huffman obtinute in urma
algoritmului prezentat sunt mai scurte decat
codurile standard de 3 biti/caracter
Mai precis, fiecare aparitie a caracterelor M, A
sau R in sirul initial va duce la o economie de 1
bit iar fiecare aparitie a caracterelor E sau _
nu va cauza nici pierdere nici castig (se folosesc
tot 3 biti)
Nu intamplator, caracterele M, A si R sunt
caracterele care aveau frecventele de aparitie
cele mai mari, astfel incat economiile de care
aminteam se vor manifesta foarte des

Calin Jebelea

Coduri Huffman

12

Coduri Huffman
Practic, datorita faptului ca la fiecare pas am
selectat cei 2 arbori care aveau frecventele de
aparitie minime, caracterele cu frecvente de
aparitie relativ mari au fost lasate la urma, astfel
incat in arborele final sa se regaseasca mai sus
decat caracterele cu frecvente de aparitie mai
mici
Aceasta este ideea dominanta la arbori optimi,
deci arborele rezultat este, din acest punct de
vedere, un arbore optim

Calin Jebelea

Coduri Huffman

13

Coduri Huffman
Vom codifica sirul MARE E MAREA MARMARA
folosind codurile obtinute
Rezultatul este: 00 10 01 110 111 110 111 00 10
01 110 10 111 00 10 01 00 10 01 10
Sunt necesari 46 de biti
Codificarea cu 3 biti/caracter ar fi dus la 320 =
60 de biti, deci am realizat o compresie de 76,6%
Codificarea implicita cu 8 biti/caracter ar fi dus la
820 = 160 de biti deci am realizat o compresie
de 28,75% fata de aceasta codificare

Calin Jebelea

Coduri Huffman

14

Coduri Huffman
Codurile Huffman obtinute au proprietatea de
prefix
Proprietatea de prefix suna astfel: nici un cod nu
este prefix pentru alt cod
Aceasta proprietate este asigurata implicit din
modul de constructie al arborelui Huffman
Fiecare caracter ajunge o frunza in arbore, si nu
exista drum de la radacina la o frunza in totalitate
continut in alt drum de la radacina la o alta
frunza (o proprietate de bun simt a arborilor, in
general)

Calin Jebelea

Coduri Huffman

15

Coduri Huffman
Daca codurile Huffman nu ar fi avut proprietatea de
prefix, am fi avut mari probleme la decodificarea unui sir
Sa presupunem, prin absurd, ca am fi obtinut:

cod(A) = 11 si cod(E) = 111

Atunci sirul initial AE ar fi fost codificat 11111 dar de

decodificat poate fi decodificat fie ca AE fie ca EA
Proprietatea de prefix (pe care am incalcat-o aici) nu ar
fi dus la astfel de ambiguitati

Calin Jebelea

Coduri Huffman

16