Nichtlineare Methoden zur Quantifizierung von Abhängigkeiten und ...

26 KAPITEL 2. GRUNDLAGEN DER INFORMATIONSTHEORIE
erfüllt ist. Somit gilt im ungekoppelten Fall für jedes B ∈ B(R d ) die Gleichung
∫
(x i+1 |x (k)
i , y (l)
j ) dx i+1
B
g Xi+1 |X (k)
i
,Y (l)
j
= P X i+1|X (k)
i
=x (k)
i ,Y (l)
j
=y(l) j
(B) = P X i+1|X (k)
i
∫
=
B
=x (k)
i
(B)
g Xi+1
(x
|X (k) i+1 |x (k)
i ) .dx i+1
i
Der Eindeutigkeitssatz für Dichten und der für Maße [Bauer (1992)] liefern dann,
dass Gl. (2.19) äquivalent zu
g Xi+1 |X (k)
i
,Y (l)
j
(x i+1 |x (k)
i
, y (l)
j
) = g X i+1
(x
|X (k) i+1 |x (k)
i ) (2.40)
i
ist. Wird somit g Xi+1
als a priori Dichte in Gl. (2.39) eingesetzt, so erhält
|X (k)
i
man die kontinuierliche Transferentropie
T (X i+1 |X (k)
i
∫ ∫
, Y (l) ) =
j
g (k+1) X i+1 ,Y (l)
j
× log
g Xi+1 |X (k)
i
(x (k+1)
i+1 , y (l)
j )
,Y (l)
j
(x i+1 |x (k)
i , y (l)
j )
g Xi+1
(x
|X (k) i+1 |x (k)
i )
i
dx (k+1)
i+1 dy (l)
j . (2.41)
Mit der gleichen Technik, mit der Gl. (2.37) abgeleitet wurde, kann gezeigt
werden, dass
g Xi+1 ,Y (l)
j
|X(k) i
(x i+1 , y (l)
i |x (k)
i )
= g Xi+1 |X (k)
i
,Y (l)
j
(x i+1 |x (k)
i
, y (l)
j
) · g Y (l)
j
|X(k) i
(y (l)
j |x(k) i ) (2.42)
fast sicher gilt. Wird dies in Gl. (2.41) eingesetzt, so folgt unmittelbar, dass
die kontinuierliche Transferentropie identisch mit der bedingten kontinuierlichen
Transferinformation
M(X i+1 , Y (l)
j |X(k) i ) =
×
∫ ∫
g Xi+1 |X (k)
i
g (k+1) X i+1 ,Y (l)
j
g Xi+1 ,Y (l)
j
|X(k) i
(x i+1 |x (k)
i
(x (k+1)
i+1 , y (l)
j )
(x i+1 , y (l)
j |x(k) i )
) · g Y
(l)
j
|X(k) i
(y (l)
j
|x(k) i ) dx(k+1) i+1 dy (l)
j (2.43)
ist. Somit quantifiziert die kontinuierliche Transferentropie wie stark der zukünftige
Zustand von X von den vergangenen von Y abhängt, wobei jegliche Korrelationen
ausgeschlossen werden, die über die vergangenen Zustände von X weitergeleitet
wurden. Insbesondere zeigt sich auch hier, dass stochastische Abhängigkeit