Nichtlineare Methoden zur Quantifizierung von Abhängigkeiten und ...

2.2. KONTINUIERLICHE STOCHASTISCHE PROZESSE 27
und stochastische Kopplung zwei verschiedene Eigenschaften eines gekoppelten
Systems sind, siehe Gl. (2.23).
Die kontinuierliche Transferentropie kann ebenfalls als eine Summe
von bedingten kontinuierlichen Shannon-Entropien, kontinuierlichen Shannon-
Entropien oder auch gegenseitigen Informationen zerlegt werden. Hierfür sind
Gl. (2.30) und Gl. (2.37) anzuwenden. Dies führt ebenfalls auf die Gleichungen
Gl. (2.22), Gl. (2.27) bzw. Gl. (2.28).
2.2.3 Transformationsinvarianz
Die gegenseitige Information und die Transferentropie besitzen nur dann eine
physikalisch relevante Aussagekraft, wenn sie mindestens gegenüber Koordinatentransformationen
invariant sind. Für diskrete Prozesse ist dies offensichtlich
für alle der hier vorgestellten informationstheoretischen Größen der
Fall. Bei kontinuierlichen Prozessen ist dies zumindest bei der gegenseitigen
Information zu erwarten, wenn die Prozesse X und Y unabhängig sind, denn
stochastische Unabhängigkeit ist eine Eigenschaft, die bei Transformationen
mit messbaren Abbildungen erhalten bleibt, siehe beispielsweise [Bauer (1991),
Behnen & Neuhaus (1995), Billingsley (1995)]. Für alle anderen Fälle sind detailierte
Untersuchungen nötig.
Hierzu soll als erstes studiert werden, wie eine Wahrscheinlichkeitsdichte
bezüglich eines C 1 -Diffeomorphismus transformiert wird. Sei ψ ein C 1 -
Diffeomorphismus auf den R d , der X i auf ψ ◦ X i abbildet. Für jede beliebige
Borelmenge B ∈ B(R d ) gilt dann
P X i
(B) = P X i
(ψ −1 (ψ(B))) = P ψ◦X i
(ψ(B)) .
Dabei ist mit B auch ψ(B) eine Borelmenge [Bauer (1992)]. Sei g Xi die Wahrscheinlichkeitsdichte
der Verteilung P X i
und g ψ◦Xi diejenige von P ψ◦X i
, so
folgt mit dem Transformationssatz für Integrale bezüglich des Lebesgue-Maßes
[Bauer (1992)]
∫
∫
∫
g Xi (x) dx = g ψ◦Xi (x ′ ) dx ′ = g ψ◦Xi (ψ(x)) · | det (Dψ) (x)| dx .
B
ψ(B)
B
Dabei ist det (Dψ) (x) die Jacobi-Determinante von ψ an der Stelle x. Da diese
Gleichung für jede Borelmenge B ∈ B(R d ) gilt und die Integranden messbare
Funktionen sind, erhält man die Identität
fast sicher [Bauer (1992)].
g Xi (x) = g ψ◦Xi (ψ(x)) · | det (Dψ) (x)| (2.44)