Klassifikation von Mustern

370 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
in (4.2.122), a in (4.3.13) und a in (4.4.3), sind jedoch verschieden, sodass die resultierenden
Klassifikatoren ebenfalls verschieden sind.
Außer dem Polynomansatz kann man für ϕ(c) auch stückweise lineare Funktionen verwenden.
Die in Abschnitt 4.4.3 als „direkte“ Lösung bezeichnete Vorgehensweise ist dann jedoch
nicht möglich. Man muss iterative Lern- oder Trainingsalgorithmen verwenden, für die auf die
Literatur verwiesen wird.
4.4.2 Optimierungsaufgabe
Gemäß (4.4.1) – (4.4.3) haben die Trennfunktionen dλ(c) die spezielle Form
dλ(c) = a T λϕ(c) , λ = 1, . . . , k , (4.4.6)
wobei die Funktionen ϕν(c) des Vektors
ϕ(c) = (ϕ1(c), . . . , ϕm(c)) T
(4.4.7)
bekannte, linear unabhängige Funktionen sind. Wie erwähnt, sind die Parametervektoren aλ so
zu bestimmen, dass (4.4.1) für möglichst viele Muster c ∈ Ω zu einer richtigen Entscheidung
führt. Im Abschnitt 4.1 wurde die Bestimmung der Entscheidungsregel δ(Ωλ |c) auf die Optimierungsaufgabe
(4.1.11) zurückgeführt; analog wird auch hier die Bestimmung der Parameter
aλ auf eine Optimierungsaufgabe zurückgeführt. Die Verwendung des Risikos (4.1.12) ist hier
nicht möglich, da dieses Kenntnisse über bedingte Dichten erfordert. Statt dessen wird der Ansatz
verwendet, mit Hilfe der Trennfunktionen dλ(c) eine vorgegebene ideale Trennfunktion
δλ(c) möglichst gut zu approximieren. Eine mögliche Wahl der idealen Trennfunktion ist in
Analogie zu (4.1.33)
wenn c ∈ Ωκ , dann δκ(c) = 1 , sonst δλ(c) = 0 , für λ = κ . (4.4.8)
Wenn (4.4.8) gilt und die Funktionen dλ eine fehlerfreie Approximation von δλ sind, werden
offensichtlich alle Muster aus dem Problemkreis Ω richtig klassifiziert. Im Allgemeinen wird
jedoch dλ = δλ sein, sodass Fehlklassifikationen möglich sind. Als Kriterium für die Güte der
Approximation von δλ durch dλ wird der mittlere quadratische Fehler
k
ε = E (δλ(c) − dλ(c)) 2
λ=1
(4.4.9)
gewählt. Gesucht werden Parameter aλ, sodass ε minimiert wird.
Um die Parameter konkret zu berechnen, ist es zweckmäßig, den Fehler ε noch etwas kompakter
anzugeben. Die k Trennfunktionen dλ werden in dem Vektor
d(c) = (d1(c), . . . , dk(c)) T
zusammengefasst, ebenso die k idealen Trennfunktionen δλ in dem Vektor
(4.4.10)
δ(c) = (δ1(c), . . . , δk(c)) T . (4.4.11)
Gemäß (4.4.8) ist δ(c) also ein Vektor, bei dem für ein Muster c ∈ Ωκ sämtliche Komponenten
den Wert Null haben mit Ausnahme der κ-ten Komponente, die den Wert Eins hat. Mit einer
Parametermatrix
A = (a1, . . . , ak) (4.4.12)