Nichtlineare Methoden zur Quantifizierung von Abhängigkeiten und ...

46 KAPITEL 3. SCHÄTZEN VON ENTROPIEN UND INFORMATIONEN
gegenseitige Information, Transferentropie
0.3
T(X i+1 | X i , Y i )
T(Y i+1 | Y i , X i )
M(X
0.2
i+1 , Y i )
M(X i , Y i )
M(Y i+1 , X i )
0.1
0
0 0.2 0.4 0.6 0.8
Kopplungsparameter c
Abbildung 3.3: Gegenseitige Information und Transferentropie als Funktion des
Kopplungsparameters c für zwei autoregressive Prozesse X und Y , wobei Y autonom
ist und in X koppelt.
Abb. 3.3 aufgetragen. Auch hier zeigt sich wieder, dass M(Y i+1 , X i ) > 0 ist, was
fälschlicherweise dahingehend interpretiert werden könnte, dass X in Y koppelt.
Die Transferentropie hingegen spiegelt die richtige Struktur des Modells wieder:
T (Y i+1 |Y i , X i ) = 0 für alle c.
3.6 Kernschätzer für Dichten
Eine attraktive Alternative zum Diskretisieren der Verteilung ist das nichtparametrische
Schätzen der Verteilungsdichten mit Kernen. Diese Technik ist
ausführlich in der Literatur diskutiert worden, zum Beispiel in [Silverman (1986)].
Die einfachste Möglichkeit, die Dichte in dem Punkt x zu schätzen, besteht darin,
die Anzahl der Punkte in einer ε-Umgebung um x zu zählen und anschließend
durch das Volumen dieser Umgebung zu dividieren. Mit einem Kern K können
dabei die Punkte beim Zählen entsprechend ihres Abstands von x gewichtet werden.
Wurde zur Zeit i der Zustand eines ein-dimensionalen Prozesses N-mal beobachtet,
so lässt sich die Dichte g Xi in einem willkürlichen Punkt x i durch
ĝ Xi ;ε(x i ) = 1
N ε
N∑
( )
xi − x i (n)
K
ε
n=1
(3.30)