Klassifikation von Mustern

4.4. POLYNOMKLASSIFIKATOR (VA.2.2.3, 07.09.2005) 369
4.4 Polynomklassifikator (VA.2.2.3, 07.09.2005)
4.4.1 Annahmen
Wegen der in Abschnitt 4.2 erwähnten Probleme bei der Ermittlung von bedingten Verteilungsdichten
ist es sinnvoll, Ansätze für die Klassifikation von Mustern zu untersuchen, die ohne die
Schätzung der Verteilungsdichte auskommen. Ein solcher Ansatz besteht darin, k Trennfunktionen
dλ(c) einzuführen, welche eine Klassifikation gemäß der Bedingung
wenn dκ(c) = maxλ dλ(c) , dann entscheide c ∈ Ωκ
(4.4.1)
erlauben. Man kann diese als direkte Verallgemeinerung von (4.1.33) bzw. (4.1.34), S. 315,
auffassen, wo die dλ(c) den Termen pλp(c|Ωλ) bzw. p(Ωλ |c) entsprechen. Analog zu (4.2.123)
ist die Trennfläche zwischen zwei Klassen Ωκ und Ωλ durch dκ(c) = dλ(c) gegeben. Das
Problem besteht nun darin, geeignete Funktionen dλ(c) ohne Rückgriff auf bedingte Dichten
zu bestimmen. Die wesentliche Annahme dabei ist, dass die Trennfunktionen dλ(c) Elemente
einer vorgegebenen parametrischen Familie d von Funktionen sind, d. h. es gilt
dλ(c) = d(c, aλ) ∈ d(c, a) = {d(c, a)|a ∈ Ra} . (4.4.2)
Dabei ist a ein Parametervektor und Ra der Parameterraum. Auf den ersten Blick scheint vielleicht
(4.4.2) keinen Fortschritt gegenüber (4.1.1) zu bringen, jedoch ist nicht vorausgesetzt,
dass die Funktionen d(c, a) Verteilungsdichten sind. Die Parameter aλ sind so zu wählen, dass
(4.4.1) für möglichst viele Muster c ∈ Ω zu einer richtigen Entscheidung führt. Für eine einfache
mathematische Behandlung ist es zweckmäßig, die Familie d auf Funktionen einzuschränken,
die linear in den Parametern a sind. Diese spezielle Familie sei
dl(c, a) = a T ϕ(c)|a ∈ Ra, ϕν(c), ν = 1, . . . , m , (4.4.3)
wobei die ϕν(c) linear unabhängige Funktionen sind. Mit dieser zweiten Annahme wird die
Menge der Funktionen zwar eingeschränkt, jedoch lässt sich im Prinzip eine Funktion, die stetig
ist und n-te Ableitungen besitzt, durch eine TAYLOR-Reihe, also eine Funktion aus (4.4.3),
approximieren. Das einfachste Beispiel einer Familie dl sind die in cν linearen Funktionen oder
Hyperebenen (s. (4.3.13), S. 364), bei denen
ϕ(c) = (1, c1, c2, . . . , cn) T
(4.4.4)
und a ein (n + 1)-dimensionaler Vektor ist. Eine Verallgemeinerung ergeben die quadratischen
Funktionen bzw. Polynome in n Variablen vom Grad zwei
ϕ(c) = (1, c1, c2, . . . , cn, c1c1, c2c1, . . . , cncn) T
= 1, ϕ rest(c) T T ,
(4.4.5)
bei denen a ein (1 + n + n(n + 1)/2)-dimensionaler Vektor ist. Grundsätzlich ist es möglich,
für ϕ(c) Polynome beliebiger Ordnung zu verwenden, und daher wird der resultierende
Klassifikator auch als Polynomklassifikator bezeichnet . Da ein Polynom p-ter Ordnung in n
Variablen cν, ν = 1, . . . , n aber n+p
Koeffizienten hat (s. (3.8.43), S. 232), beschränkt man
p
sich praktisch meistens auf die Ordnung p = 2 oder p = 3 .
Der Ansatz (4.4.1) zusammen mit (4.4.3), (4.4.5) ergibt einen Klassifikator, der in seiner
Struktur mit Bild 4.2.5 identisch ist. Die Methoden zur Bestimmung der Parameter, nämlich a