Théorie des chiffrements - Théorème de l'entropie

Index de l'article

Théorème de l'entropie

189

Exemple

Soit le texte en clair "Le_codage_des_informations_utilise_du_binaire"

  1. Classer par ordre d'apparition chaque caractère du texte
  2. Déterminez l'entropie de chaque caractère.

Solution

Classons par ordre d'apparition chaque caractère du texte.

L

E

_

C

O

D

A

G

S

I

N

F

R

M

T

U

B

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1

1


1

1

1


1

1

1


1


1

1



1

1


1

1

1


1

1

1








1

1







1









1

1







1










1







1








Taille totale (en décimal): 45
Donnons l'entropie de chaque caractère:

190

Entropie totale:

Soit (T) un texte en claire utilisant P caractères (X1, X2, X3,... XP) d'occurrence respective n1, n2, n3, ... nP alors l'entropie totale du texte (nombre total de digits qu'occupera le texte après compression).

191

Taux moyen de compression

 

192

Application:

  1. Déterminez le taux de compression de l'exercice précédent
  2. Déterminez les codes de chacun des caractères (ressortir l'arbre pour sortir les codes)

Solution:

193