Kodowanie i kompresja 1 Kody liniowe - uogólnienie i powtórka

Kodowanie i kompresja
Streszczenie
Studia dzienne
Wykład 3, 2.03.2005
1 Kody liniowe - uogólnienie i powtórka
Fakt 1 Słowa kodowe binarnego kodu liniowego o długości n tworza˛
podprzestrzeń
liniowa˛
przestrzeni Z2 n , gdzie Z 2 oznacza ciało nad zbiorem {0, 1} z operacjami dodawania
i mnoźenia modulo 2.
Liniowym (n, k) kodem nazywamy k-wymiarową podprzestrzeń Z n 2 .
Fakt 2 Kod liniowy (n, k) ma k bitów danych, tzn. słowo kodowe o długości n koduje
k bitów danych oryginalnych.
Definicja 1 Niech K będzie kodem liniowym o długości n, którego bazę tworza˛
wektory
e 1 , . . . , e k . Macierza˛
generatorów G kodu K nazywamy macierz wymiaru k × n której
i-ty wiersz jest równy e i dla i ∈ [1, k].
Przyjmijmy następującą metodę kodowania dla kodu liniowego (n, k) o bazie e 1 , . . . , e k :
k bitom danych u 1 , . . . , u k przyporządkowujemy wektor ∑ k
i=1 u i e i . Wówczas słowo kodowe
dla u = u 1 . . . u k jest równe v = uG, gdzie G to macierz generatorów dla K i
bazy {e 1 , . . . , e k }.
Definicja 2 Kod liniowy nazywamy systematycznym, jeśli ma on macierz generatorów
postaci G = [IB], gdzie I jest macierza˛
identycznościowa.
˛
Fakt 3 Stosujac ˛ macierz postaci G = [IB] do kodowania w liniowym kodzie systematycznym
(n, k), bitom danych u 1 . . . u k odpowiada słowo kodowe zaczynajace ˛ się od
u 1 . . . u k .
Fakt 4 Kod liniowy z macierza˛
generatorów G = [IB] ma macierz parzystości równa˛
H = [−B T I], gdzie B T oznacza transpozycję macierzy B a I ′ macierz identycznościowa˛
rozmiaru (n − k) × (n − k).
Fakt 5 Kaźdy liniowy kod (n, k) ma macierz parzystości rzędu n − k i rozmiaru (n −
k) × n.
Definicja 3 (Kod rozszerzony) Kodem rozszerzonym liniowego (n, k) kodu K nazywamy
liniowy (n + 1, k) kod K ′ otrzymany z K poprzez dodanie do kaźdego słowa
kodowego x = x 1 . . . x n symbolu x n+1 równego ∑ n
i=1 x i . Inaczej mówiac, ˛ do kaźdego
słowa kodowego dodajemy bit parzystości.
1

2 Jednoczesne wykrywanie i poprawianie błędów
Definicja 4 Mówimy, źe kod blokowy K jednocześnie poprawia t błędów i wykrywa s
błędów jeśli dla kaźdego słowa kodowego v i kaźdego w spełniajacego ˛ warunek d(v, w) ≤
s, odległość Hamminga słowa w od kaźdego słowa kodowego w ′ ≠ w wynosi więcej niź
t.
Powyźsza własność umoźliwia jednoczesne poprawianie t błędów i wykrywanie s błędów
w następującym sensie:
• jeśli liczba błędów jest mniejsza niź t wówczas wykonywane jest dekodowanie
odtwarzające oryginalne słowo kodowe;
• jeśli liczba błędów znajduje się w przedziale [t + 1, s], wówczas wykryty zostaje
fakt wystąpienia błędów, ale bez moźliwości ich poprawienia.
Stosujemy w tym celu następujący algorytm. Niech w będzie słowem odebranym po
przejściu przez kanał komunikacyjny, niech v będzie najbliźszym w słowem kodowym
w sensie miary Hamminga:
• jeśli d(v, w) ≤ t wówczas przyjmujemy, źe przesłane słowo kodowe to v;
• jeśli d(v, w) > t, wówczas sygnalizowany jest fakt wystąpienia więcej niź t błędów.
Fakt 6 Kod K jednocześnie poprawia t błędów i wykrywa s błędów wtedy i tylko wtedy,
gdy minimalna odległość kodu d(K) spełnia warunek
d(K) ≥ t + s + 1.
Fakt 7 Rozszerzone kody Hamminga jednocześnie poprawiaja˛
jeden bład ˛ i wykrywaja˛
dwa błędy.
3 Kody Reeda-Mullera
3.1 Funkcje boolowskie
Definicja 5 Funkcja boolowska m zmiennych f : Z2
m → Z 2 przyporzadkowuje ˛ kaźdemu
ciagowi ˛ zer i jedynek o długości m wartość 0 lub 1.
Niech p j oznacza wektor będący binarną reprezentacją liczby j.
Funkcję boolowską m zmiennych f moźna reprezentować przy pomocy tzw. tabeli wartości.
W kolumnach tej tabeli umieszczamy w kolejności rosnącej wszystkie ciągi m
2

zer i jedynek, tzn. p 0 , p 1 , . . . , p 2 m −1, a pod nimi umieszamy wartości funkcji f dla tych
ciągów. A zatem kaźdą boolowską funkcję m zmiennych moźna opisać przy pomocy
ciągu binarnego o długości 2 m , definiującego wartości funkcji dla kolejnych 2 m argumentów.
W dalszej części notatki funkcję boolowskie będziemy często utoźsamiać z
taką ich reprezentacją.
3.2 Wielomiany boolowskie
Dla funkcji boolowskiej m zmiennych f, niech f i oznacza wartość f dla argumentu
będącego binarną reprezentacją liczy i, p i . To znaczy, źe f i to i-ty bit w reprezentacji f
przy pomocy binarnego wektora o długości 2 m .
Na funkcjach boolowskich f i g wykonujemy następujące operacje:
• dodawanie f + g: odpowiada dodawaniu modulo 2 odpowiadających im wektorów;
• mnoźenie logiczne:
fg = (f 2 m −1 . . . f 1 f 0 )(g 2 m −1 . . . g 1 g 0 ) = (f 2 m −1g 2 m −1) . . . (f 1 g 1 )(f 0 g 0 ),
gdzie wynik mnoźenia dwóch elementów a, b ∈ {0, 1} jest równy 1 wtedy i tylko
wtedy gdy a = b = 1.
Jednomianem boolowskim n zmiennych nazywamy funkcję boolowską n zmiennych
x 1 , . . . , x n postaci x i1 . . . x is , gdzie s, i 1 , . . . , i s ≤ n oraz funkcję identycznościową
równą 1, oznaczaną 1.
Definicja 6 Wielomianem boolowskim m zmiennych nazywamy funkcję boolowska˛
m
zmiennych wyraźona˛
jako suma wybranych jednomianów boolowskich m zmiennych.
Uwaga. W wielomianach boolowskich nie jest konieczne potęgowanie, poniewaź x·x =
x dla kaźdego wektora x ∈ {0, 1} n .
Obserwacja Funkcja boolowska m zmiennych f jest równa
f(x 0 , . . . , x m−1 ) = f(x 0 , . . . , x m−2 , 0)+x m−1 (f(x 0 , . . . , x m−2 , 0) + f(x 0 , . . . , x m−2 , 1))
Lemat 1 Kaźda funkcja boolowska n zmiennych jest wielomianem boolowskim n zmiennych.
Wniosek 1 Zbiór jednomianów m zmiennych (a dokładniej ich reprezentacji w postaci
wektorów binarnych o długości 2 m ) tworzy bazę przestrzeni liniowej Z 2m
2 .
3

Definicja 7 Kodem Reeda-Mullera o długości n = 2 m i stopniu r (dla r ≤ m) nazywamy
kod binarny R(r, m) złoźony ze wszystkich słów binarnych o długości n reprezentujacych
˛ wielomiany n zmiennych stopnia co najwyźej r.
Dwa słowa binarne w = w 1 . . . w n i v = v 1 . . . v n są ortogonalne gdy ich iloczyn skalarny
jest równy 0, tzn.
n∑
w · v = v i w i = 0.
i=1
Kodem dualnym do kodu liniowego K, oznaczanym przez K ⊥ nazywamy kod złoźony
ze wszystkich słow ortogonalnych do wszystkich słów kodowych kodu K.
Twierdzenie 1 Kod Reeda-Mullera R(r, m) zawiera
( )
r∑ m
k =
i=0
i
bitów danych.
Kodem dualnym do R(r, m) jest kod R(m − r − 1, m).
4