Klassifikation von Mustern

448 KAPITEL 4. NUMERISCHE KLASSIFIKATION (VK.2.3.3, 07.09.2005)
4.11 Literaturhinweise
Statistische Entscheidungstheorie
Diese hat ihre Wurzeln im Hypothesentest, d. h. in der Unterscheidung zwischen den beiden
Alternativen „Hypothese ist wahr“ und „Hypothese ist falsch“ sowie im Detektionsproblem,
d. h. in der Unterscheidung der beiden Alternativen „Signal vorhanden“ und
„kein Signal vorhanden“; Literatur dazu ist [Chernoff, 1952, Kay, 1998, Middleton, 1960,
Neyman und Pearson, 1933, Wald, 1939, Wald, 1950]. Klassifikation von Mustern ist die Erweiterung
auf k > 2 Alternativen [Abend, 1968, Berger, 1980, Chow, 1957, Devijver, 1974,
Sebestyen, 1962, Therrien, 1989]. Die Möglichkeit der klassenspezifischen Klassifikation wird
bereits in [VanTrees, 1968] mit der “dummy hypothesis” aufgezeigt und in [Baggenstoss, 1999,
Baggenstoss, 2000, Baggenstoss, 2001] systematisch weiter entwickelt. Zur BAYES-Gleichung
(4.1.3), S. 306, wird auf [Bayes, 1764, Dale, 1988] verwiesen.
Hier nicht betrachtet wurden Ansätze, die auf vagen Mengen basieren
[Ballard und Sklansky, 1976, Bezdek, 1981, Bezdek und Pal, 1992, Borgelt und Kruse, 2003,
Dubois et al., 2003, Vanderheydt et al., 1980, Zadeh et al., 1975, Zadeh, 1988], die auf Entscheidungsbäumen
basieren [Chang und Pavlidis, 1977, Meisel und Michalopoulos, 1973,
Payne und Meisel, 1977, Sethi und Chatterjee, 1977, Swain und Hauska, 1977], die auf syntaktischen
Verfahren basieren [Fu, 1974, Fu, 1976, Fu, 1982, Gonzalez und Thomason, 1978,
Kashyap, 1979, Niemann, 1974, Niemann, 1983] sowie Ansätze der Entscheidungstheorie aus
den Wirtschaftswissenschaften [Bamberg und Coenenberg, 2000, Laux, 1998].
Die Kombination oder Fusion der Ergebnisse verschiedener Klassifikatoren wird bereits
in [Zhuravlev, 1976, Zhuravlev, 1977a, Zhuravlev, 1977b, Zhuravlev, 1978a, Zhuravlev, 1978b,
Zhuravlev und Gurevich, 1991] allgemein behandelt und theoretisch und experimentell
in [Alkoot und Kittler, 1999, Barcelos et al., 2003, Ho et al., 1994, Kittler et al., 1998,
Kittler und Roli, 2000, Kittler und Roli, 2001, Kuncheva, 2002, Lam und Suen, 1997,
Lepistö et al., 2003, Lin et al., 2003, Murua, 2002, Schürmann, 1978, Tax et al., 2000]
untersucht. Speziell für die Schrifterkennung wurde dieses in [Huang und Suen, 1995,
Suen et al., 1990, Gader et al., 1996, Sirlantzkis et al., 2001, Xu et al., 1992] angewendet.
Verfahren zur Generierung verschiedener Klassifikatoren werden in
[Breiman, 1996, Dietterich, 2000, Freund und Shapire, 1997, Ho, 1998] behandelt.
Statistische Klassifikatoren
Die Konvergenz und Berechnung von Schätzwerten für Parameter wird in
[Anderson, 1958, Kay, 1993] gezeigt. Material zu hinreichenden Statistiken geben
[Frazer, 1957, Dynkin, 1961]. Die MMI- bzw. die diskriminative Schätzung wird
in [Bahl et al., 1986, Dahmen et al., 1999, Ephraim et al., 1989, Katagiri et al., 1998,
Kim und Un, 1988, Normandin und Morgera, 1991, Normandin et al., 1994, Normandin, 1996]
behandelt, die MCE- bzw. die den Klassifikationsfehler minimierende Schätzung
in [Chou et al., 1994, Ephraim und Rabiner, 1990, Juang et al., 1997, Liu et al., 1995,
Purnell und Botha, 2002, Rosenberg et al., 1998, Siohan et al., 1998] und schließlich die
Maximierung der Modelldistanz (MMD) in [He et al., 2000, Juang und Rabiner, 1985,
Kwong et al., 1998]; diese Kriterien werden insbesondere in der Spracherkennung,
teilweise auch in der Objekterkennung genutzt. Entropie Schätzungen werden in
[Berger et al., 1996, Jaynes, 1982] verwendet. Zum LASSO wird auf [Osborne et al., 2000,
Roth, 2004, Tibshirani, 1996] verwiesen, sparsame Schätzungen werden z. B. in