Klassifikation von Mustern

364 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
Bild 4.3.2: Trennung zweier linear separierbarer Stichproben durch eine optimale Hyperebene
H ∗ und eine schlechte H ′
der Trennebenen ist daher die Maximierung des Abstandes der beiden Ebenen bzw. die Minimierung
von |a| 2 unter der Nebenbedingung von (4.3.9). Dieses ergibt die optimale Trennebene
H ∗ in Bild 4.3.2. Natürlich kann eine linear separierbare Stichprobe i. Allg. mit vielen anderen
Ebenen getrennt werden, wie z. B. H ′ in Bild 4.3.2, jedoch sind diese offenbar fehleranfälliger
bei der Klassifikation einer neuen Teststichprobe. Diejenigen Vektoren der Trainingsstichprobe,
die genau auf der Hyperebene H ∗ liegen, also für die in (4.3.9) das Gleichheitszeichen gilt,
sind die Support Vektoren. Aus Bild 4.3.2 geht anschaulich hervor, dass sie hinreichend sind, die
optimale Trennebene zu definieren, d. h. alle anderen Elemente der Stichprobe sind in diesem
Sinne unwesentlich. Jede Änderung eines oder mehrerer Support Vektoren würde andererseits
die optimale Lösung verändern, d. h. sie sind notwendig.
Definition 4.11 Der optimale lineare Klassifikator für eine linear separierbare Stichprobe von
Mustern aus zwei Klassen ist gegeben durch die Hyperebene
H ∗ : d ea = ϱ c T a + a0 = 0 , (4.3.13)
mit der Minimierungsbedingung
1
2 |a|2 = min (4.3.14)
und den N Nebenbedingungen
− 1 ≥ 0 ,
ϱ
∀ c ∈ ω . (4.3.15)
ϱcT yϱ a + a0
Die Entscheidungsregel ist
Ω1 : d ea ≥ 0
c ∈
Ω2 : d ea < 0
(4.3.16)