Nichtlineare Methoden zur Quantifizierung von Abhängigkeiten und ...

4.1. ENTROPIE EINES DYNAMISCHEN SYSTEMS 65
lichkeit, mit der X n in einem Partitionselement W kn
zu finden ist,
P {X n ∈ W kn |X (n)
n−1 ∈ n−1
×
i=0
W ki }
= P {X n ∈ W kn |W k0 ∩ X −1
1 (W k 1
) ∩ . . . ∩ X −1
n−1 (W k n−1
)}
= P {W k 0
∩ X1 −1 (W k1 ) ∩ . . . ∩ Xn−1(W kn−1 ) ∩ Xn −1 (W kn )}
P {W 0 ∩ X1 −1 (W k1 ) ∩ . . . ∩ Xn−1(W kn−1 )}
. (4.5)
Werden diese Wahrscheinlichkeiten in die bedingte Shannon-Entropie, Gl. (2.15),
eingesetzt, wobei jetzt über die Partitionselemente zu summieren ist, so erhält
man die mittlere Unsicherheit, mit der die zukünftigen Zustände bezüglich der
Partitionierung des Zustandsraums bei bekannter Vergangenheit beobachtet werden.
Diese diskretisierte bedingte Shannon-Entropie wird mit H W;P (X n |X (n)
n−1 )
bezeichnet.
Nach dem oben Gesagten lassen sich in einem chaotischen System die Trajektorien
und damit deren Anfangswerte X 0 (x 0 ) = x 0 umso besser unterscheiden,
je mehr Zeitbeobachtungen vorliegen. Da andererseits die Systemzustände X n
durch x 0 eindeutig bestimmt sind, folgt hieraus, dass für große n die Entropie
H W;P (X n |X (n)
n−1) konvergiert:
h(W; P ) = lim
n→∞
H W;P (X n |X (n)
n−1) . (4.6)
Dieser Grenzwert hängt von der Partition W und dem invarianten Maß P ab.
Letzteres ist für die hier betrachteten dynamischen Systeme eindeutig bestimmt,
so dass nur noch die Willkürlichkeit der Partitionswahl beseitigt werden muss.
Hierzu wird das Supremum von h(W; P ) über alle Partitionen W genommen,
h KS (P ) = sup h(W; P ) . (4.7)
W
Diese Größe wird Kolmogorov-Sinai-Entropie genannt. Sie charakterisiert die Unsicherheit,
mit der die Trajektorie eines dynamischen Systems identifiziert werden
kann, wenn das System zu beliebig vielen Zeitpunkten beobachtet wird und wenn
eine beliebig genaue Messauflösung zur Verfügung steht.
Entsprechend Gl. (2.16) kann die diskretisierte bedingte Shannon-Entropie
als Differenz von Shannon-Entropien geschreiben werden,
H W;P (X n |X n−1) (n) = H W;P (X (n+1) ) − H W;P (X (n)
n−1) .
Die Shannon-Entropien lassen sich als Unsicherheiten bei der Identifikation der
Trajektorien interpretieren. Da andererseits die Trajektorien durch ihre Anfangswerte
x 0 festgelegt sind, ist H W;P (X n |X (n)
n−1) der Verlust von Unsicherheit über
den Anfangswert, wenn das dynamische System zu einem späteren Zeitpunkt ein
n