Klassifikation von Mustern

3.11. LITERATURHINWEISE 277
Analytische Methoden
Die zum Beweis von Satz 3.8 genutzte Extremaleigenschschaft der Eigenvektoren
ist in [Gantmacher, 1958] (S. 291–299) zu finden; für den kontinuierlichen
Fall wird auf [Niemann, 1974] (S. 101–109) verwiesen. Die KARHUNEN-LOÈVE-
Entwicklung geht auf [Karhunen, 1946, Loève, 1955] zurück, ihre Nutzung in der
Merkmalsgewinnung auf [Watanabe, 1965]. Die Minimierung des Approximationsfehlers
durch sie und die Dekorrelation der Koeffizienten wird in [Middleton, 1960],
Sect. 8.2-2, oder [Watanabe, 1965] gezeigt. Die Ausführungen in Abschnitt 3.8.2
beruhen im Wesentlichen auf [Niemann, 1969, Niemann, 1970, Niemann, 1974,
Niemann und Winkler, 1969]. Die speziellen Faktorisierungen (3.8.16) – (3.8.21) findet man
in [Hornegger et al., 2000, Murase und Lindenbaum, 1995]. Zahlreiche Anwendungen, Erweiterungen
und Modifikationen gehen aus [Baumberg und Hogg, 1994, Borotschnig et al., 2000,
Capelli et al., 2001, Cootes et al., 1993, Hummel, 1979, Hornegger et al., 2000,
Kim et al., 2002a, Kittler, 1975, Kuhn et al., 2000, Leonardis und Bischof, 1996, Ozeki, 1979,
Murase und Nayar, 1995, Sirovich und Kirby, 1987, Therrien, 1975, Turk und Pentland, 1991,
Yilmaz und Gökmen, 2001] hervor. Experimentelle Ergebnisse zum Kriterium s4, s5,1 sind
in [Belhumeur et al., 1997, Niemann, 1971, Hornegger et al., 2000] zu finden, Untersuchungen
zur (näherungsweisen) Normalverteilung in [Niemann, 1970]. Die Diskriminanzanalyse wird
z. B. in [Fukunaga, 1990] genauer erörtert, Varianten in [Xu et al., 2004, Ye und Li, 2004]. Der
Bezug zu den gemeinsamen Vektoren (“common vectors”) wird in [Gülmezo˘glu et al., 2001]
dargestellt. Ein Vergleich der Hauptachsentransformation mit der Diskriminanzanalyse wird
in [Martinez und Kak, 2001] durchgeführt und zeigt, dass erstere durchaus Vorteile haben
kann. Zweidimensionale Erweiterungen der Hauptachsentransformation und der linearen
Diskriminanzanalyse werden in [Li und Yuan, 2005, Yang et al., 2004, Yang et al., 2005]
vorgeschlagen. Die verallgemeinerte Hauptachsentransformation zur Bestimmung stückweise
linearer Approximationen wird in [Vidal et al., 2005] entwickelt.
Zur numerischen Berechnung von Eigenwerten und -vektoren symmetrischer Matrizen wird
auf [Wilkins, 1962/63, Press et al., 1994, Press et al., 2002] verwiesen, für neuronale und sequentielle
Algorithmen, die insbesondere nicht die Berechnung der Kovarianzmatrix erfordern,
auf [Oja, 1982, Oja, 1983, Oja, 1992, Sanger, 1989, Wang et al., 2003, Weng et al., 2003]; Die
Hauptachsentransformation ist ein Beispiel für die Einbettung von (hochdimensionalen) Daten
in einen niedriger dimensionalen Raum; eine Übersicht über Einbettungsverfahren gibt
[Hjaltason und Samet, 2003].
Die nichtlineare (kernbasierte) Hauptachsentransformation wird z. B. in
[Schölkopf et al., 1999, Müller et al., 2001, Park et al., 2004, Yang, 2002] behandelt, die kernbasierte
Diskriminanzanalyse in [Mika et al., 1999, Baudat und Anouar, 2000, Yang, 2002].
Die dort verwendete Berechnung mit der Matrix T der Skalarprodukte transformierter
Vektoren wird auch in [Kirby und Sirovich, 1990] aufgezeigt. Sie findet zunehmend
Verwendung, z. B. in der Objektverfolgung [Comaniciu et al., 2003] oder Merkmalsgewinnung
[Girolami, 2002, Mika et al., 2003, Titsias und Likas, 2001]. Nichtlineare Hauptachsentransformation
mit neuronalen Netzen wird in [Kramer, 1991, Malthouse, 1998] durchgeführt.
Die als „klassifikatorbezogene Merkmalsauswahl“ bezeichnete Vorgehensweise von Abschnitt
3.8.4 wird in [de Figueiredo, 1976, Jäpel, 1980] untersucht. Bedingungen für die Existenz
optimaler Parameter in (3.8.77) werden in [de Figueiredo, 1974] abgeleitet. Die Gleichungen
(3.8.80) bzw. (3.8.84), (3.8.87) sind [Wilks, 1962] bzw. [van Otterloo und Young, 1978],
[Decell und Quirein, 1973] entnommen. Die Methode der projizierten Gradienten wird in