conception dun codage compact pour chaine de transmissions numériques

بسم

الرحمن الله

الرحيم 1

CONCEPTION D’UN CODAGE COMPACT POUR CHAINE DE TRANSMISSIONS NUMÉRIQUES

Faculté de Technologie Département de Génie Electrique et Electronique

Projet de fin d'étude pour l'obtention duDiplôme d'Ingénieur d’état en télécommunications

Faculté

De Technologie

Présentés par : El-Kebar Oussama Tlemsani Said

Encadré par : M.Djennas Sidi Ahmed

Année universitaire 2010/2011

Laboratoire De Télécommunications

De Tlemcen

République Algérienne Démocratique et populaire

Ministère de l’enseignement supérieur et de la recherche scientifique

Université Abou-Bekr Belkaid - Tlemcen

PLAN DE TRAVAIL

I. Introduction

II. Théorie de l’information Modélisation d’une source Mesure de l’information Entropie d’une source

III. Codage sans pertes des sources discrètes Codes de longueur fixe Codes de longueur variable Procédures optimales de codage

VI. Simulations et résultats

VII. Conclusion

1

INTRODUCTION

Depuis l’invention du premier microprocesseur en 1971, les technologies numériques ont connu une très importante évolution au fil des années. Elles occupent aujourd’hui une place prépondérante dans notre société. De nos jours, le traitement numérique de l’information s’impose dans toutes les disciplines comme un élément incontournable, offrant des services aussi nombreux que variés facilitant grandement notre vie quotidienne. On est bien dans l’ère du numérique.

2

INTRODUCTION

La compression de données est l'action utilisée pour réduire la taille physique d'un bloc d'information. En compressant les données, on peut placer plus d'informations dans le même espace de stockage, ou utiliser moins de temps pour le transfert au travers d’un réseau téléinformatique. On rencontre souvent la compression de données comme étant une partie du codage de données au même titre que le cryptage de données (cryptographie) et de la transmission de données. Les modems actuels utilisent systématiquement la compression pour atteindre des performances qui, autrement, se limiteraient du côté de 14 kbit/s.

3

THÉORIE DE L’INFORMATION Modélisation d’une source :

Il est possible de classer les sources en deux catégories selon les signaux ou messages qu’elles émettent : Les sources analogiques : domaine de la TV, la vidéo, la radio (l’audio en général). Les sources discrètes : disques optiques (CD, DVD,…), les mémoires magnétiques (disques durs, bandes,…). Quel que soit le type de source, l’information doit être transmise sous forme numérique. Le codeur de source est l’élément chargé de la transformation du format de l’information.

THÉORIE DE L’INFORMATION

Modélisation d’une source :

Sources discrètes sans mémoire : Ce sont des sources pour lesquelles la probabilité

d'émission d'un caractère est indépendante de ce qui a été émis avant ou sera émise après.

Sources discrètes avec mémoire :Ce sont des sources pour lesquelles la probabilité

d'apparition d'un symbole dépend d’un ou des symboles précédents .

4

5


Mesure de l’information :

On ne peut pas prévoir l’évolution ultérieure d’un signal aléatoire !La connaissance de sa valeur à l’instant présent apporte donc un renseignement, on dit que le signal transporte de l’information.Cette grandeur, que l’on perçoit de façon intuitive, n’est pas facile à définir quantitativement, il est cependant naturel de lui attribuer certaines propriétés :c’est une grandeur toujours positiveelle est additive, toute contribution du signal apporte une quantité d’information qui s’ajoute à celle que l’on possède déjà

6



elle est liée à la probabilité associée à l’évènement : la quantité d’information doit être d’autant plus grande que la probabilité est faible.L’idée principale de la théorie de l’information est de dire que si il n’y a pas d’incertitude vis à vis du message émis par la source, il n’y a pas d’information à la réception du message.Une fonction mathématique remplit les propriétés 1,2 & 3 c’est:


7


Et puisque la probabilité est inversement proportionnelle à l’information , il suffit de prendre :

La quantité d’un symbole Xk de probabilité Pk a ainsi définie par Shannon comme :


Mesure de l’information : La base des logarithmes n’est donc pas

définie , à chaque choix correspond une unité de quantité d’information :

En base 2 :

L’unité est le bit , parfois appelée Shannon ; 1 bit correspond à l’information associée à une partie de pile ou face (n=2)

8

9

THÉORIE DE L’INFORMATION Mesure de l’information :

On appellera information mutuelle l'information apportée par un événement F sur un événement E. C’est la diminution de l'incertitude sur E lorsque F est réalisé. (égale aussi à l’information apportée par E sur F).

Nous allons voir également que l’information peut être perçue comme le nombre d’éléments nécessaires à la codification de l’événement considéré, dans un code donné. (Par exemple, le nombre de bits nécessaires au codage de cet événement.

10


Entropie d’une source :

Les événements émis par une source ne sont généralement pas équiprobables, la quantité d’information reçue est fonction de l’événement et ne peut donc caractériser la source. Pour obtenir ce résultat, il faut faire une moyenne sur tous les événements possibles : si Pi est la probabilité d’un événement i, la quantité moyenne d’information est :

i

i2i

ii )(PlogPI(i)PH



Cette quantité ne dépend que de la source, c’est son entropie.

Une source qui transmet les résultats obtenus par lancer de dés (Résultats équiprobables P(i)= 1/6 quelque soit i) a pour entropie :

Supposons le dé pipé:

Les résultats ne sont plus équiprobables, on peut montrer alors que l’entropie est plus faible :

11

58.2)6

1(log)

6

1( 2

i

H



Supposons que le chiffre 2 a 1 chance sur 2 de sortir. Les probabilités sont alors

P(1)=P(3)=P(4)=P(5)=P(6)=0.5/5=0.1

P(2)=0.5

et l’entropie :L'entropie d'une variable aléatoire X à n valeurs possibles est maximum et vaut log(n) lorsque la loi de X est uniforme.

(L’entropie d’une source sera maximale lorsque tous les messages qu’elle émet seront équiprobables).

12

16.2))5.0(log5.0)1.0(log1.0( 22

5

1

i

H

CODAGE SANS PERTES DES SOURCES DISCRETES

Codes de longueur fixe :Ce sont des codes dont tous les mots ont la

même longueur n.

Soit une source X a pour cardinal K . Il existe un code régulier de X de longueur n tel que :

L’efficacité d’un code de longueur n d’une source d’entropie H(X) est définie par :

13


Codes de longueur fixe :On code la source par paquets de taille L. Alors il

existe un code de longueur n’ tel que :

Donc la longueur par lettre est :

Et donc :

14


Codes de longueur variable :

On peut l’appeler aussi « codes entropiques »

VLC (variable length coding) .

L’idée précédente semble simple, mais elle s’oppose à une difficulté : lorsque tous les mots ont une longueur fixe (8 bits par exemple), le décodage ne pose pas de problème, chaque octet code un symbole. Lorsque les codes sont à longueur variable, il faut distinguer un symbole du suivant.

Cette opération, appelée synchronisation, peut être faite par insertion d’un caractère réservé, ce qui augmente la taille résultante.

15



L’autre solution consiste à utiliser des codes préfixés.

Chaque nouveau code ne peut être le début (= préfixe) d’un code déjà existant. Chaque nouveau mot codé devient lui-même préfixe, et ne peut être utilisé.

Aucun mot n’est le début d’un autre mot.

Le tableau suivant donne 2 exemples de codes préfixés, comparés à un code à longueur fixe pour un code présentant une équiprobabilité des 6 symboles utilisés.

16



17

Dans ce cas équiprobable, le code VLC2 serait meilleur. Ce n’est peut être pas le plus performant si les symboles ne sont plus équiprobables (et peut être que pour une distribution donnée, le code VLC1 serait le plus performant).



Remarque :

Les codes préfixés (ou préfixes) sont des codes « uniquement déchiffrables » : codes pour lesquels toute suite de mots ne peut être déchiffrée que d’une seule manière. Exemple : {0, 11, 010} est uniquement déchiffrable mais n’est pas un code préfixé.

18


Procédures optimales de codage: Codage de Shannon-Fano :Il repose sur le fait qu'un flux de données peut

être compacté en utilisant un nombre variable de bit pour représenter les différents octets ou séquences d'octets.

o Algorithme : Les symboles sont triés et classés en fonction

de leur fréquence en commençant par le plus fréquent.

19


Procédures optimales de codage:

La liste des symboles est ensuite divisée en deux parties de manière à ce que le total des fréquences de chaque partie soit aussi proche que possible.

Le chiffre binaire 0 est affecté à la première partie de la liste, le chiffre 1 à la deuxième partie.

Chacune des deux parties fait à son tour l'objet des démarches 2 et 3.

Et ainsi de suite jusqu'à ce que chaque symbole soit devenu une feuille de l'arbre correspondant à un code déterminé.

20



Codage arithmétique :Le codage arithmétique se singularise par sa

capacité à coder chaque symbole sur un nombre non entier de bits. En réalité, il n’assigne pas un mot de code à chaque symbole mais il associe un point de l’intervalle [0,1] à un ensemble de symboles.

21


Procédures optimales de codage:o Algorithme: Les différentes étapes de l’algorithme de

codage sont: L’initialisation : Nous affectons à chaque

symbole une plage d’intervalle dont la longueur est égale à sa probabilité d’apparition fournie par le modèle.

Le traitement du message : Nous initialisons un intervalle de travail en prenant comme bornes 0 et 1. Le premier symbole est représenté par la plage qui lui est affectée à l’étape 1.

22



Chaque symbole suivant restreint d’avantage l’intervalle et il est représenté par sa plage relative dans la plage précédente. Ainsi le flot de données est traduit par un nombre contenu dans la dernière plage calculée.

On rajoute un symbole spécial pour déterminer la fin du message.

23



Codage par dictionnaire : méthode de Lempel-Ziv

Ces algorithmes sont des méthodes qui, n'ayant pas de statistiques sur la source, vont se constituer en ligne un dictionnaire ou figurent les groupes de mots qui se trouvent répétés dans le document à compresser.

24


Procédures optimales de codage:o Principe :

Il est basé sur un dictionnaire (bibliothèque) construit au fur et à mesure de la lecture du fichier à coder. Les chaînes de caractères sont placées une par une dans la bibliothèque. Lorsqu’une chaîne est déjà présente dans la bibliothèque, son code de fréquence d’utilisation est incrémenté. Les chaînes de caractères ayant des codes de fréquences élevés sont remplacées par un " mot " ayant un nombre de caractères le plus petit possible et le code de correspondance est inscrit dans la bibliothèque . On obtient ainsi l'information codée et sa bibliothèque .

25


Procédures optimales de codage: Codage de Huffman:

Le codage de Huffman est un algorithme de compression qui fut mis au point en 1952 par David Albert Huffman. C’est une compression de type statistique qui permet de coder les octets revenant le plus fréquemment avec une séquence de bits beaucoup plus courte que d’ordinaire . Cet algorithme offre des taux de compression qui seraient les meilleurs pour un codage de symboles.

26


Procédures optimales de codage:o Algorithme:

Les probabilités d’occurrence de chaque symbole sont placées dans une liste par ordre décroissant.

Regrouper les deux symboles s0 et s1 (ou groupes de symboles) les moins probables.

Ce nouveau groupe de symboles (s0 , s1) est considéré comme un nouveau symbole avec une probabilité d’apparition Ps0 + Ps1 .

Le groupe s0 est codé par un 0 et s1 par un 1 . La procédure reprend l’étape 1 tant qu’il y a des

groupes de symboles à associer. 27

SIMULATIONS ET RESULTATS

Dans ce dernier chapitre, nous allons donner les résultats que nous avons obtenus par mise en œuvre de l’algorithme de Huffman et ce pour plusieurs applications. Ces applications diffèrent par le nombre de messages et par les probabilités affectées à ces messages.

28


Cas de quatre (04) messages équiprobables:

Cet exemple est consacré à quatre messages avec une répartition uniforme pour les probabilités.

Tableau des probabilités et codes:

29

Message Probabilité Code

m1 0.25 00

m2 0.25 01

m3 0.25 10

m4 0.25 11


Cas de huit (08) messages non équiprobables:

Cette application concerne huit messages avec probabilité non uniforme .

Tableau des probabilités et codes :

30


m2 0.3421 00

m7 0.2895 01

m4 0.1447 11

m8 0.0921 101

m3 0.0526 1001

m1 0.0395 10001

m6 0.0219 100000

m5 0.0175 100001

31


Cas de seize (16) messages équiprobables:

De la même manière, l’équiprobabilité des messages sera appliquée à travers cet exemple .

Tableau des probabilités et codes:

32


m1 0.0625 0000

m2 0.0625 0001

m3 0.0625 0010

m4 0.0625 0011

m5 0.0625 0100

m6 0.0625 0101

m7 0.0625 0110

m8 0.0625 0111

33

m9 0.0625 1000

m10 0.0625 1001

m11 0.0625 1010

m12 0.0625 1011

m13 0.0625 1100

m14 0.0625 1101

m15 0.0625 1110

m16 0.0625 1111

34

CONCLUSION GENERALE

La compression des données est appelée à prendre un rôle encore plus important en raison du développement des réseaux et du multimédia.

Dans ce projet, nous avons réalisé un outil de calcul de grande utilité pour la compression de données et en conséquence la diminution du débit et du temps de traitement.

Cet outil pourra dans le futur servir de base pour d’autres études qui touchent de près ou de loin à la transmission numérique et qui convergent vers le principe de plus d’information en moins de temps 35

MERCI POUR VOTRE

ATTENTION

conception dun codage compact pour chaine de transmissions numériques

Documents