Klassifikation von Mustern

4.3. SUPPORT VEKTOR MASCHINEN (VA.1.1.3, 13.04.2004) 367
yϱ
0 = ϑϱ
ϱc
T
a + a0 − 1 + ξϱ , (4.3.31)
∂L
∂ξϱ
= γ − ϑϱ − βϱ = 0 , (4.3.32)
0 ≤ ξϱ , (4.3.33)
0 ≤ βϱ , (4.3.34)
0 = βϱξϱ , (4.3.35)
jeweils für ϱ = 1, . . . , N .
Auch hier ist das duale Problem nützlich; es lautet
Ld(ϑ) =
N
ϱ=1
ϑϱ − 1
2
N
N
ϱ=1 σ=1
ϑϱϑσyϱyσ
ϱc Tσ c , (4.3.36)
0 ≤ ϑϱ ≤ γ , (4.3.37)
N
0 = ϑϱyϱ . (4.3.38)
ϱ=1
Es stimmt also mit (4.3.23) überein, nur die Nebenbedingungen ϑϱ ≤ γ kommen hinzu. Der
Gewichtsvektor der Hyperebene ist mit (4.3.18)
a =
N
ϑϱyϱ ϱ c . (4.3.39)
ϱ=1
Die Konstante a0 erhält man aus (4.3.31) und (4.3.35). Die optimale Hyperebene hat wie im
Falle der linearen Separierbarkeit die Form
H ∗ : d ea =
N
ϱ=1
Tϱ
ϑϱyϱ c c + a0 = 0 , (4.3.40)
d. h. auch zu ihrer Berechnung sind nur Skalarprodukte der Merkmalsvektoren erforderlich.
Natürlich wird man die Summe nur über die Support Vektoren erstrecken. Zur numerischen
Berechnung der Support Vektoren wird auf die Anmerkungen in Abschnitt 4.11 verwiesen. Die
Klassifikation erfolgt also nicht mit dem Parametervektor a und der Ebenengleichung (4.3.6)
sondern mit der Entwicklung (4.3.39) des Parametervektors und (4.3.40). Die Entscheidungsregel
ist (4.3.16).
4.3.5 Nichtlineare Trennfunktionen
Die bisherige Beschränkung auf Hyperebenen als Trennfunktionen lässt sich auf relativ einfache
Weise wesentlich verallgemeinern. Der Schlüssel dafür ist die Beobachtung, dass sowohl beim
Training, nämlich in (4.3.36) – (4.3.38), als auch bei der Klassifikation, nämlich in (4.3.40), nur
Skalarprodukte der Merkmalsvektoren berechnet werden müssen.
Wenn man den Merkmalsvektor c ∈ R n mit einer Abbildung φ in einen höherdimensionalen
Raum c ∈ R en , n < n, transformiert, so können alle obigen Rechnungen in (4.3.25) –
(4.3.40) statt mit c nun mit c durchgeführt werden; d. h. auch von dem neuen Merkmalsvektor
c müssen bei Training und Klassifikation nur Skalarprodukte c T c berechnet werden. Statt einer