Appunti di Teoria dell'Informazione e Codici - Università di Palermo

Capitolo - 3
LA CODIFICA DI SORGENTE
3.1 - Premessa
Gli attuali sistemi di trasmissione sono spesso basati su un mezzo trasmissivo di
capacità limitata che viene condiviso tra più utenti, diventa quindi essenziale cercare di
ottimizzarne l’utilizzo al fine di consentire l’accesso alla risorsa ad un maggior numero
di soggetti. È quindi auspicabile mettere in atto dei metodi che consentano di
“compattare” le informazioni da trasmettere in modo da utilizzare il sistema per il
minor tempo possibile, ovvero da occupare una minore quantità di banda, senza
pregiudicare il contenuto informativo del messaggio. Lo stesso discorso ovviamente
vale nel caso dell’immagazzinamento delle informazioni, “zippare” un file serve a
sfruttare meglio la memoria dell’hard disk.
La quasi totalità dei sistemi di trasmissione oggigiorno è numerica, e fa uso di
sistemi d’elaborazione digitale che lavorano in base due, pertanto ci occuperemo di
analizzare delle tecniche di codifica di sorgente che associno alle singole lettere o a
interi messaggi emessi da quest’ultima delle parole binarie cioè delle stringhe di
lunghezza non necessariamente costante costituite utilizzando un alfabeto di due sole
lettere.
Una sorgente che utilizza un alfabeto di cardinalità può emettere al più M-
messaggi distinti, se a ciascuno di essi si associa una parola binaria si dice che si è
definito un codice.
3.2 - La Regola del Prefisso
Il codice citato nel precedente paragrafo può essere costruito utilizzando parole
binarie tutte con lo stesso numero di bit, nel qual caso la lunghezza minima di tali
parole non potrà essere inferiore a:
( ) (3.2.1)
dove indica il primo intero non minore.
Si possono anche utilizzare parole di codice di lunghezza variabile, in questo
caso, però, occorrerà prestare attenzione al fatto che se s’invia un file costituito da più
M-messaggi consecutivi i singoli messaggi dovranno essere decodificabili in modo
univoco, dovremo in altri termini essere certi del fatto che a coppie distinte di sequenze
finite di messaggi il codice non associ la stessa stringa binaria (da qui in poi con stringa
indicheremo una sequenza di lunghezza finita di parole di codice).