Bildklassifikation unter Verwendung kompressionsbasierter Methoden

4.2. Standardmaße
Tatsächlich abgebildete Ziffer
Klassifikationsergebnis
0 1 2 3 4 5 6 7 8 9
0 50 0 2 0 0 0 0 0 0 0
1 0 50 0 0 1 0 0 0 0 0
2 0 0 44 1 0 1 0 0 0 0
3 0 0 1 44 0 1 0 0 0 1
4 0 0 0 0 46 0 0 0 1 0
5 0 0 0 3 0 44 0 0 3 0
6 0 0 0 0 1 1 50 0 0 0
7 0 0 1 0 0 0 0 49 1 2
8 0 0 1 2 0 2 0 0 45 0
9 0 0 1 0 2 1 0 1 0 47
Tabelle 4.3: 4-NN-Klassifikation mit Hammingabstand (α = 41) auf dem reduzierten
MNIST-Datenbestand (Fehlerrate: 6, 2%).
der Klassifikationsgüte zu erwarten. Beim vollständigen Datenbestand konnten
96, 8% der Bilder korrekt klassifiziert werden. Hier waren es immerhin noch
93, 8%, der Unterschied ist mit gerade einmal 3% nicht signifikant, zumal die
Größenverhältnisse der Klassen etwa gleich geblieben sind. Damit haben wir
experimentell gezeigt, dass bereits die k-NN-Klassifikation auf dem reduzierten
Datenbestand eine Aussage über die Qualität der verwendeten Ähnlichkeitsdistanz
zulässt.
Durch die Transformation auf Binärstrings verlieren wir offensichtlich Information
über das ursprüngliche Graubild. Dieser Informationsverlust könnte sich
negativ auf das Klassifikationsergebnis auswirken. Um dies zu überprüfen, erweitern
wir zunächst die Definition des Hammingabstands auf Strings eines
beliebigen endlichen Alphabets.
Definition 4.5. Sei Σ ein endliches Alphabet. Für zwei Strings x, y ∈ Σ ∗
gleicher Länge ist der Hammingabstand
d H (x, y) = |{ i | x i ≠ y i , 1 < i < |x|}| . (4.11)
Damit können wir nun den Hammingabstand zweier Graubilder ermitteln. Im
Experiment zeigt sich jedoch, dass das Ergebnis deutlich hinter der zuvor beschriebenen
Klassifikationsgüte auf Binärbildern mit Grenzwert zurück bleibt.
In mehreren Testdurchläufen wurden Fehlerraten im Bereich zwischen 30 und
35% ermittelt. Das führen wir darauf zurück, dass es beim Vergleich der Grauwerte
in den MNIST-Bildern keine Abstufung der Ähnlichkeiten gibt. So wirkt
sich beispielsweise der Unterschied der Grauwerte x 1 = 254 und y 1 = 255 genauso
auf den Hammingabstand aus wie bei x 2 = 0 und y 2 = 255. Aufgrund
35