Klassifikation von Mustern

3.8. ANALYTISCHE METHODEN (VA.1.2.2, 10.01.2004) 233
Schon für ein Muster mit der mäßigen Auflösung von M = 16 × 16 Abtastwerten und ein
Polynom vom Grade p = 3 ergibt sich na ≈ 2, 8 · 10 6 . Die Matrix Q1 hätte also die Größe
(2, 8 · 10 6 ) 2 . Diese Vorgehensweise ist damit, wenn überhaupt, nur eingeschränkt nutzbar. Eine
mögliche Einschränkung besteht darin, nicht ein vollständiges Polynom zu verwenden, sondern
zu jeder Komponente fj nur Produktterme mit Komponenten aus einer kleinen heuristisch
gewählten Nachbarschaft zu bilden.
Wenn man allerdings das Muster f zunächst in einen Merkmalsvektor c mit deutlich weniger
Komponenten transformiert, kann man dann diese Vorgehensweise auf den Merkmalsvektor
anwenden. Statt einer Transformation φ(f) wird also φ(c) betrachtet. Wird zu einem Merkmalsvektor
mit n = 30 Komponenten ein Polynom vom Grade p = 3 gebildet, so hat dieses
„nur“ na ≈ 5500 Terme.
Eine weitere Möglichkeit bietet die Beobachtung, dass sich Skalarprodukte von transformierten
Vektoren, also Produkte der Form φ(f) T φ(f), auf die Berechnung von Skalarprodukten
der untransformierten Vektoren, also Produkte der Form f T f, zurückführen lassen. Damit
reduziert sich die Rechenkomplexität für die Skalarprodukte von O(na) auf O(n). Dieses ist
immer dort nutzbar, wo sich Rechnungen auf Skalarprodukte zurückführen lassen, und das ist
z. B. bei der Hauptachsentransformation oder den Support Vektor Maschinen der Fall.
Skalarprodukte von transformierten Merkmalsvektoren
Als einfaches Beispiel einer Transformation φ in einen höherdimensionalen Raum betrachten
wir einen Vektor c mit
c = (c1, c2, c3) T
und wählen einen transformierten Vektor φ(c) zu
(3.8.45)
φ(c) = c = (c 2 1 , √ 2c1c2, c 2 2 , √ 2c2c3, c 2 3 , √ 2c1c3) T . (3.8.46)
Die Skalarprodukte zweier Vektoren dieses Typs sind
i c T jc = i c1 j c1 + i c2 j c2 + i c3 j c3 , (3.8.47)
i c T jc = i c 2 1 j c 2 1 + 2 i c1 i c2 j c1 j c2 + i c 2 2 j c 2 2 + 2i c2 i c3 j c2 j c3
+ i c 2 3 j c 2 3 + 2i c1 i c3 j c1 j c3 . (3.8.48)
Man sieht, dass sich mit einer geeigneten Kernfunktion K, in diesem Beispiel K( i c, j c) =
( i c T j c) 2 , die Identität
K( i c, j
c) =
icT jc
2
= i c T j c (3.8.49)
ergibt. Das bedeutet, dass man statt der Berechnung der Abbildung φ und des (langen) Skalarproduktes
in einem hochdimensionalen Raum auch beim Ausgangsvektor im niederdimensionalen
Raum bleiben und nur dessen Skalarprodukt mit der Kernfunktion K transformieren
kann. Damit wird, wie gesagt, bei großen Merkmalsvektoren und dem Übergang auf hochdimensionale
Räume die Komplexität der Rechnung enorm reduziert.
Im obigen Beispiel bekommt man nicht ein allgemeines Polynom in c, da die linearen Terme
fehlen. Wählt man jedoch
K( i c, j
c) =
icT p
jc
+ 1 , (3.8.50)