Klassifikation von Mustern

4.2. STATISTISCHE KLASSIFIKATOREN (VA.3.3.4, 29.09.2004) 331
Der erste Zustand s1 wird mit einer Wahrscheinlichkeit gewählt, die durch den Vektor der
Anfangswahrscheinlichkeiten definiert ist
π = (πi) , i = 1, 2, . . . , I , (4.2.26)
πi = P (s1 = Si) , 0 ≤ πi ,
πi = 1 .
i
Mit der Festlegung π1 = 1, πi = 0, i = 2, 3, . . . , I kann der Start im Zustand S1 erzwungen
werden. Die generierten Zustände sind nicht beobachtbar – daher der Zusatz “hidden”.
Der zweite Mechanismus generiert eine Beobachtung oi, wenn das Modell im Zustand Si
ist. Beobachtbar ist die Folge der Beobachtungen o = [oi], die aus einer endlichen Menge von
Ausgabesymbolen oder Beobachtungssymbolen
O = {O1, O2, . . . , OL} (4.2.27)
gewählt wird. Ein Ausgabesymbol wird mit einer Wahrscheinlichkeit ausgewählt, die durch die
Matrix der Ausgabewahrscheinlichkeiten definiert ist zu
B I×L = (bil) , i = 1, . . . , I , l = 1, . . . , L , (4.2.28)
bil = P (Ol wird emittiert im Zustand Si|sn = Si)
= P (on = Ol |sn = Si) , 0 ≤ bil ,
bil = 1 .
Damit werden Varianten der Aussprache von Wörtern und Fehler in der Erkennung einzelner
Wortuntereinheiten (z. B. Laute) modelliert. Neben den oben angegebenen diskreten Ausgabewahrscheinlichkeiten
können auch andere verwendet werden, z. B. eine Mischung aus Normalverteilungen.
Definition 4.6 Ein MARKOV-Modell bzw. ein Hidden-MARKOV-Modell (HMM) ist definiert
durch das Tripel
HMM = (π, A, B) (4.2.29)
der Anfangs–, Zustandsübergangs– und Ausgabewahrscheinlichkeiten.
Ein Wort w wird also wie folgt generiert. Mit der Wahrscheinlichkeit πi wird das Zustandssymbol
Si als Anfangszustand s1 gewählt. Von Si erfolgt ein Zustandsübergang nach Sj mit
der Wahrscheinlichkeit aij. Im Zustand Si wird das Ausgabesymbol Ol mit der Wahrscheinlichkeit
bil emittiert. Die Schritte Zustandsübergang und Emission einer Ausgabe werden so oft
wiederholt, bis eine Beobachtung der Länge T generiert wurde.
Je nach Einschränkung der Zustandsübergangswahrscheinlichkeiten unterscheidet man z. B.
ergodische HMM, bei denen alle Zustandsübergänge möglich sind und links–rechts HMM,
bei denen zeitlich rückwärts gerichtete Zustandsübergänge ausgeschlossen sind. Diese links–
rechts–Modelle sind die in der Worterkennung verwendeten, da sie dem Fortschreiten in der
Zeit entsprechen.
Bei den Hidden–MARKOV-Modellen wird die Struktur einmal festgelegt und nur die Parameter
im Training berechnet; dafür können die Ausgabewahrscheinlichkeiten diskret oder kontinuierlich
durch Mischungsverteilungen modelliert werden. Bei den strukturierten MARKOV-
Modellen, für die auf die Literatur verwiesen wird, kann auch die Struktur im Training verändert
werden, jedoch wird nur eine Normalverteilung verwendet.
l