Nichtlineare Methoden zur Quantifizierung von Abhängigkeiten und ...

16 KAPITEL 2. GRUNDLAGEN DER INFORMATIONSTHEORIE
kann, wenn X (k+1)
i+1 und Y (l)
j voneinander unabhängig sind, darauf geschlossen
werden, dass X von Y ungekoppelt ist. Dies kann in der Implikation
M(X (k+1)
i+1 , Y (l)
j ) = 0 =⇒ T (X i+1|X (k)
i , Y (l)
j ) = 0 , (2.23)
zwischen der gemeinsamen Information und der Transferentropie zusammen gefasst
werden. Der Umkehrschluss ist falsch, so reicht M(X i+1 , Y (l)
j ) ≠ 0 oder
M(X i+1 , Y j−τ ) ≠ 0, τ = 0, 1, . . . , l − 1 nicht aus, um auf Kopplung schließen zu
können. Siehe hierzu auch das Beispiel in Absch. 2.1.3.
Demzufolge werden mit stochastisch unabhängig und stochastisch ungekoppelt
zwei nicht äquivalente Eigenschaften zwischen stochastischen Prozessen beschrieben.
Der Hauptunterschied basiert vor allem darauf, dass bei der stochastischen
Kopplung die Abhängigkeit zwischen X i+1 und Y (l)
j ohne den Einfluss (Informationsfluss)
von Y (l)
j auf X i+1 über X (k)
i betrachtet wird, siehe Abb. 2.1 für eine
schematische Darstellung von Abhängigkeit und Kopplung. Dies wird vor allem
durch die Äquivalenz zwischen Transferentropie und bedingter Transferinformation
deutlich:
T (X i+1 |X (k)
i , Y (l)
j ) = 0 ⇐⇒ M(X i+1 , Y (l)
j
wobei die bedingte Transferinformation M(X i+1 , Y (l)
j
Transinformation genannt, durch
M(X i+1 , Y (l)
j |X(k) i ) =
× log
∑
x (k+1)
i+1 ∈X k+1 ∑
|X(k)
i ) = 0 , (2.24)
|X(k) i
), oft auch bedingte
P {X (k+1)
i+1 = x (k+1)
i+1 , Y (l)
j = y (l)
y (l)
i ∈Y l
P {X i+1 = x i+1 , Y (l)
j
P {X i+1 = x i+1 |X (k)
i
= x (k)
i } · P {Y (l)
j
definiert ist und die Abhängigkeit von X i+1 und Y (l)
j
quantifiziert [Jumarie (1990), Palus (1996a)].
X (k)
i
= y (l)
j |X(k) i = x (k)
i }
j }
= y (l)
j |X(k) i = x (k)
i } (2.25)
ohne Korrelationen über
Die Äquivalenz in Gl. (2.24) ergibt sich unmittelbar aus Gl. (2.14), da für alle
Zustände x i+1 , x (k)
i und y (l)
i
= y (l)
i |X (k)
i
P {X i+1 = x i+1 , Y s (l)
i
= P {X i+1 = x i+1 , X (k)
i
= P {X i+1 = x i+1 |X (k)
i
× P {Y (l)
j
= x (k)
i } · P {X (k)
i = x (k)
i }
= x (k)
i , Y (l)
j = y (l)
j }
= x (k)
i , Y (l)
j = y (l)
j }
= y (l)
j |X(k) i
gelten muss. Hieraus folgt für die Übergangsverteilungen
P {X i+1 = x i+1 , Y (l)
j
= P {X i+1 = x i+1 |X (k)
i
= y (l)
j |X(k) i = x (k)
i }
= x (k)
i , Y (l)
j
= x (k)
i } · P {X (k)
i = x (k)
i }
= y (l)
j } · P {Y(l) j
= y (l)
j |X(k) i = x (k)
i }