Bildklassifikation unter Verwendung kompressionsbasierter Methoden

3 Grundlagen der maschinellen
Klassifikation
3.1 Der k-NN Algorithmus
Der k-NN-Algorithmus ist ein sehr häufig eingesetzter Klassifikator. Trotz seines
denkbar einfachen Prinzips, lassen sich damit in vielen Bereichen überaus gute
Ergebnisse erzielen. Für die Entsscheidung über die Klassenzugehörigkeit eines
Objekts spielen nur die k nächsten Nachbarn des zu klassifizierenden Objekts
eine Rolle. In diesem Fall ist also der Name im wahrsten Sinne des Wortes Programm.
Es wird aus dieser Gruppe der k Nachbarn einfach die Klasse gewählt,
die am häufigsten vertreten ist.
Beispiel 3.1. Abbildung 3.1 zeigt das Prinzip einer k-NN Klassifikation. Dabei
muss der Klassifikator entscheiden, ob eine unbekannte Person (hier dargestellt
als schwarzer Punkt in der Mitte des Bildes) männlich oder weiblich ist. Unter
den drei nächsten Nachbarn befinden sich zwei Frauen und ein Mann. Entsprechend
würde der ein 3-NN-Klassifikator die unbekannte Person als Frau klassifizieren.
Der Umgebungsradius für die 3 nächsten Nachbarn ist als durchgezogener
Kreis um die unbekannte Person gezogen. Ein 5-NN-Klassifikator würde
die Nachbarn im gestrichelten Radius berücksichtigen. In diesem Fall würde die
Person als Mann klassifiziert.
In der Praxis tauchen an dieser Stelle unmittelbar drei Probleme auf. Zunächst
einmal müssen die nächsten Nachbarn identifiziert werden. Außerdem müssen
die Klassenzugehörigkeiten dieser Nachbarn bekannt sein. Nicht zuletzt ist auch
die Wahl eines geeigneten k entscheidend für die Klassifikationsgüte. Wir haben
im Beispiel gesehen, dass verschiedene Werte für k leicht zu unterschiedlichen
Gewicht
?
Größe
Abbildung 3.1: Beispiel für eine einfache k-NN-Klassifikaton
19