Mécanismes de fiabilisation pro-actifs - ISAE

6 Chapitre 2. Etat de l'art et principales notionsun ensemble de sorties à valeurs dans un second alphabet B et une loi de transitiondénissant la probabilité d'obtenir une sortie Y 2 B, sachant que la valeur d'entréeest X 2 A. Cette probabilité peut se noter P (Y jX). La connaissance du canal nousdonne ainsi la loi de transition pour chaque couple (X; Y ).Soit une variable aléatoire X à valeurs dans (x 0 ; x 1 ; :::; x n ) un ensemble ni devaleurs. On dénit l'entropie de X, notée H(X), qui mesure l'incertitude sur la variableX par la formulation suivante :H(X) =n∑P (X = x i ) log 2 P (X = x i )i=0L'entropie est une fonction positive qui s'annule si et seulement si X est déterminéeou en d'autres termes si 9i 2 f0; 1; :::; ng=P (X = x i ) = 1. Par ailleurs, l'entropie peutêtre vue comme le nombre minimal de bits nécessaires au codage de X.De manière générale, l'objectif du récepteur/décodeur est de déduire la valeurd'entrée X qui a été transmise en fonction de la valeur Y de l'alphabet de sortiequ'il a reçue. Pour cela, on dénit alors l'information mutuelle des variables X et Y ,notée I(X; Y ) qui représente l'information que l'on peut déduire sur X à partir de Y .L'information mutuelle s'exprime de la manière suivante :I(X; Y ) = H(X) H(XjY )Lorsque le canal de transmission est sans erreur, la connaissance de Y permetd'obtenir X de manière déterministe : H(XjY ) = 0. L'information mutuelle est alorsmaximale. Dans le pire cas, le canal est tellement mauvais que la connaissance de Yn'apporte aucune information sur X et dans ce cas, H(XjY ) = H(X), l'informationmutuelle est nulle rendant toute transmission impossible.La capacité C d'un canal de transmission se dénit de la manière suivante :C = max(I(X; Y ))XDans le cadre d'un canal parfait, la capacité du canal est optimale C = max X (H(X))alors qu'elle est nulle lorsque l'entrée et la sortie sont totalement décorellées.2.2 Les codes à eacementsDe manière générale, les codes correcteurs d'erreurs désignent l'ensemble des mécanismesmathématiques permettant la correction de diérents types d'erreurs pouvantaecter un ensemble de données. Ces codes sont ainsi capables de détecter etcorriger des erreurs de transmission, mais également des pertes d'information. Dansce dernier cas, la famille de codes correspondante est connue sous la dénominationde codes correcteurs pour le canal à eacements, ou plus singulièrement codes àeacements.