Appunti di Teoria dell'Informazione e Codici - Università di Palermo

40 Capitolo - 4 - Appunti di Teoria dell’Informazione e Codici
Assumiamo inoltre che le durate dell’M-messaggio emesso dalla sorgente e del
corrispondente L-messaggio in uscita al codificatore siano uguali, pertanto se la sorgente
emette lettere con una cadenza regolare la cadenza dei simboli in ingresso al
canale sarà data da:
(4.6.3)
Con riferimento alla Fig.E 4.6 considerando l’informazione mutua (
conto della (4.6.2) possiamo scrivere:
), tenuto
dove
( ) ( ) ( ) (4.6.4)
è la capacità relativa ad una coppia di simboli ingresso/uscita del canale.
4.7 - L’Inverso del Teorema della Codifica di Canale
È a questo punto opportuno ricordare che il nostro obiettivo nella progettazione
di un sistema di trasmissione è ottenere la minore probabilità d’errore compatibilmente
con dei prefissati vincoli di potenza impiegabile e/o di banda, senza tralasciare
ovviamente la complessità del sistema che, quando non si scontra con barriere tecnologiche,
ha un forte impatto sui costi.
Facendo sempre riferimento alla Fig.E 4.6 considerando ad esempio la -esima
lettera dell’M-messaggio emesso dalla sorgente, il sistema commette un errore se la -
esima lettera del corrispondente M-messaggio in uscita dal decodificatore non coincide
con quella emessa.
La probabilità che il sistema commetta un errore sulla -esima lettera del
messaggio è quindi uguale alla ( ), che, in termini della dmp congiunta delle
variabili vale:
∑ ( )
A
(4.7.1)
La probabilità d’errore appena calcolata dipende in genere dall’indice . Se
volessimo farci un’idea della probabilità d’errore media su un generico simbolo dell’Mmessaggio
potremmo calcolare la media aritmetica delle ottenendo:
∑ (4.7.2)
Consideriamo adesso la catena di disuguaglianze: