Klenke Wahrscheinlichkeitstheorie

18.3 Markovketten Monte Carlo Methode 381
⎧ � �
1
⎪⎨ #Λ 1 ∧ exp 2β
p(x, y)=
⎪⎩
�
( {x(j)�=x(i)}−
j: j∼i
1
2 )
��
, falls y = xi für ein i ∈ Λ,
1 − �
i∈Λ p(x, xi ), falls x = y,
0, sonst.
Praktisch wird man diese Kette simulieren, indem man sich unabhängige Zufallsvariablen
I1,I2,... und U1,U2,... verschafft mit In ∼UΛ und Un ∼U [0,1]. Man
setzt nun
Fn(x) =
� �
In x , falls Un ≤ exp 2β �
j: j∼i ( {x(j)�=x(i)} − 1
2 )
�
,
x, sonst,
und definiert die Markovkette (Xn)n∈N durch Xn = Fn(Xn−1) für n ∈ N. ✸
Gibbs-Sampler
Wir betrachten eine Situation, in der, wie im obigen Beispiel, ein Zustand aus vielen
Komponenten x =(xi)i∈Λ ∈ E besteht, wobei Λ eine endliche Menge ist. Alternativ
zur Metropolis-Kette betrachten wir ein weiteres Verfahren, um eine Markovkette
mit gegebener invarianter Verteilung herzustellen. Beim so genannten Gibbs-
Sampler oder heat bath algorithm ist die Idee, den Zustand lokal an die stationäre
Verteilung anzupassen. Ist x der momentane Zustand, dann verfährt man wie folgt.
Für i ∈ Λ setze
x−i := {y ∈ E : y(j) =x(j) für j �= i}.
Definition 18.22 (Gibbs-Sampler). Sei q ∈M1(Λ) mit q(i) > 0 für jedes i ∈ Λ.
Die Übergangsmatrix p auf E mit
�
qi
p(x, y) =
π(xi,σ )
π(x−i) , falls y = xi,σ für ein i ∈ Λ,
0, sonst.
heißt Gibbs-Sampler zur invarianten Verteilung π.
In Worten verfährt eine nach p konstruierte Kette in jedem Schritt wie folgt:
(1) Wähle eine Komponente I gemäß einer Verteilung (qi)i∈Λ.
(2) Ersetze in x durch x I,σ mit Wahrscheinlichkeit π(x I,σ )/π(x−I).
Falls I = i ist, dann hat der neue Zustand also die Verteilung L(X|X−i = x−i),
wobei X eine Zufallsvariable mit Verteilung π bezeichnet. Man beachte, dass man
auch beim Gibbs-Sampler die Verteilung π nur bis auf die Normierungskonstante
zu kennen braucht (in einem etwas allgemeineren Rahmen lassen sich der Gibbs-
Sampler und der Metropolis Algorithmus als Spezialfälle ein und desselben Verfahren
auffassen). Für Zustände x und y, die sich nur in der i-ten Komponente unterscheiden,
gilt (wegen x−i = y−i)