Nichtlineare Methoden zur Quantifizierung von Abhängigkeiten und ...

2.1. DISKRETE STOCHASTISCHE PROZESSE 11
2.1.2 Dynamische Eigenschaften diskreter Prozesse
Die dynamische Struktur eines stochastischen Prozesses X ist durch seine Übergangsverteilung
P X i+1|X i =x i ,X i−1 =x i−1 ,... gegeben. Sie gibt die Verteilung von X i+1
an, wenn X i , X i−1 usw. die Zustände x i , x i−1 usw. besetzt haben.
Im Allgemeinen müssen unendlich viele Zeitpunkte in der Vergangenheit
berücksichtigt werden, um X vollständig zu beschreiben. Bei zeitlich abnehmenden
Korrelationen innerhalb des Prozesses reicht häufig die Berücksichtigung von
nur endlich vielen Zuständen aus der Vergangenheit aus, um die Dynamik des
Prozesses ausreichend gut approximieren zu können,
P X i+1|X i =x i ,X i−1 =x i−1 ,... ≈ P X i+1|X i =x i ,...,X i−k+1 =x i−k+1
. (2.12)
Prozesse, bei denen die linke und rechte Seite exakt gleich sind, heißen Markov-
Prozesse k-ter Ordnung. Man spricht häufig auch von einer Markovkette k-ter
Ordnung.
= x i+1 |X (k)
i = x (k)
i } für die Wahrscheinlich-
i ({x i+1 }), mit der X i+1 unter den Nebenbedingungen X i =
Im Folgenden wird P {X i+1
keit P X i+1|X (k)
i =X (k)
x i , . . . , X i−k+1 = x i−k+1 in x i+1 anzutreffen ist, geschrieben. Zur kürzeren Schreibweise
wurde (X i , . . . , X i−k+1 ) mit X (k)
i
Die Dimension der Vektoren X (k)
t i
häufig die Beziehung
und x (k)
t i
P {X (k+1)
i+1 = x (k+1)
i+1 } = P {X i+1 = x i+1 |X (k)
i
und (x i , . . . , x i−k+1 ) mit x (k)
i abgekürzt.
ist jeweils k. Des Weiteren werden
= x (k)
i } · P {X (k)
i = x (k)
i } (2.13)
zwischen den endlich-dimensionalen Randverteilungen und den Übergangsverteilungen
sowie die Identität
∑
P {. . . , X i+1 = x i+1 , X i = x i , X i−1 = x i−1 , . . .}
x i ∈X
= P {. . . , X i+1 = x i+1 , X i−1 = x i−1 , . . .} (2.14)
verwendet [Behnen & Neuhaus (1995), Bauer (1991)].
Da es sich bei der Übergangsverteilung ebenfalls um Wahrscheinlichkeitsmaße
handelt, kann wie in Absch. 2.1.1 die Unsicherheit eines Zustandswechsels bei gegebenen
vorherigen Zuständen durch − log P {X i+1 = x i+1 |X (k)
i = x (k)
i } definiert
werden. Dies eingesetzt in die Shannon-Entropie, Gl. (2.2), und zusätzliches Mitteln
über alle vergangenen Zustände x (k)
i
ergibt die bedingte Shannon-Entropie,