Probleme – Entropia Informațională

Problema 1

O sursă de informaţie emite cifrele sistemului de numeraţie octal. Să se calculeze cantitatea medie
de informaţie obţinută în urma emiterii unei cifre ştiind că:
a) toate cifrele au aceeaşi probabilitate de a fi emise;
b) probabilităţile de emitere a cifrelor sunt:
p(0) = p(1) =1/4, p(2) = p(3) = p(4) =1/8, p(5) =1/16, p(6) = p(7) =1/8

Problema 2
Să se determine valorile parametrilor x, y şi z astfel încât entropia experimentului A, având repartiţia
probabilităţilor:
 a1 a2 a3 
A =  
 x+ y y+ z z+ x 
să fie: a) maximă; b) minimă.