METHODES NUMERIQUES PAR CHAÎNES DE MARKOV

2.3. LA DYNAMIQUE DE METROPOLIS-HASTINGS 31
Proposition 2.6 Soient P et Q deux transitions ¼-réversibles telles que P Â Q.
(1) (Q ¡ P) est un opérateur positif. En particulier :
Cov P (f(X 0 );f(X 1 )) Cov Q (f(X 0 );f(X 1 ))
(2) Pour tout f 2 ­, v(f;¼;P) v(f;¼; Q).
(3) En particulier, ¸2(P) ¸2(Q).
Preuve :
(1) Posons, pour ± ij la fonction de Dirac, h ij = ¼ i (± ij + p ij ¡ q ij ). h ¸ 0 et
½ P
P j h ij = ¼ i (P et Q sont des transitions)
i h ij = ¼ j (P et Q sont ¼-réversibles)
En particulier, P ij h ij = 1. On a la suite d’égalités :
h(Q ¡ P)f; fi ¼ = X i;j
(q ij ¡ p ij )f i f j ¼ i = X i;j
[¼ i ± ij ¡ h ij ]f i f j
= X i
f 2 i ¼ i ¡ X i;j
f i f j h i
= 1 2 fX i;j
f 2 i h ij + X i;j
f 2 j h ij ¡ 2 X ij
f i f j h ij g
= 1 X
(f i ¡ f j ) 2 h ij ¸ 0
2
i;j
La relation entre les covariances est une conséquence directe de cette positivité en prenant f
centrée.
(2) cf. [82], [58].
(3) D’après (2) et (2.5), et choisissant f = e 2 (P),
v(f;¼;P) = 1 + ¸2(P) rX
1 ¡ ¸2(P) 1 + ¸k(Q)
1 ¡ ¸k(Q) he 2(P);e k (Q)i 2 1 + ¸2(Q)
1 ¡ ¸2(Q)
k=2
puisque ¸2(Q) ¸ ¸k(Q) pour k ¸ 2 et ke 2 (P)k 2 ¼ = 1. ¤
Conséquences.
(1) Optimalité de la dynamique de Metropolis.
Fixons la transition de proposition Q. Les choix de la probabilité d’acceptation a rendant la
transition de M.H. P réversible sont ceux pour lesquels
a(x;y) = a(y;x)r(x; y) où r(x;y) = ¼(y)Q(y;x)
¼(x)Q(x;y)
la dynamique de Metropolis correspondant au choix a M (x;y) = minf1;r(x;y)g. Donc,
½ si r(x;y) < 1;aM (x; y) = r(x;y) ¸ a(x; y)
si r(x;y) ¸ 1; a M (x;y) = 1 ¸ a(x;y)
Si x 6= y,
P M (x;y) = Q(x;y)a M (x;y) ¸ P MH (x;y) = Q(x;y)a(x;y)
Pour le critère de la variance v(f; ¼;P), la dynamique P M de Metropolis est optimale.
(2) Amélioration de l’échantillonneur de Gibbs : Gibbs Métropolisé [70].