Page 2 sur 3
Théorème de l'entropie

Exemple
Soit le texte en clair "Le_codage_des_informations_utilise_du_binaire"
- Classer par ordre d'apparition chaque caractère du texte
- Déterminez l'entropie de chaque caractère.
Solution
Classons par ordre d'apparition chaque caractère du texte.
|
L |
E |
_ |
C |
O |
D |
A |
G |
S |
I |
N |
F |
R |
M |
T |
U |
B |
|
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
|
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
|||||
|
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
|||||||||
|
1 |
1 |
1 |
||||||||||||||
|
1 |
1 |
1 |
||||||||||||||
|
1 |
1 |
Taille totale (en décimal): 45
Donnons l'entropie de chaque caractère:

Entropie totale:
Soit (T) un texte en claire utilisant P caractères (X1, X2, X3,... XP) d'occurrence respective n1, n2, n3, ... nP alors l'entropie totale du texte (nombre total de digits qu'occupera le texte après compression).
![]()
Taux moyen de compression

Application:
- Déterminez le taux de compression de l'exercice précédent
- Déterminez les codes de chacun des caractères (ressortir l'arbre pour sortir les codes)
Solution:
