METHODES NUMERIQUES PAR CHAÎNES DE MARKOV

2.2. L’ÉCHANTILLONNEUR DE GIBBS 21
Cadre requis pour l’Echantillonneur de Gibbs :
(1) E = F n (ou esp. produit)
(2) 8i 2 S, les lois ¼ i (: j x i ) sont connues
2.2.1 Echantillonneur de Gibbs
Considérons la suite de visites 1 7! 2 7! ¢ ¢¢ 7! (n ¡ 1) 7! n correspondant à un balayage
de l’ensemble des sites S. Soit x = (x i ) une con…guration initiale, y = (y i ) une con…guration
…nale. La transition P de l’échantillonneur de Gibbs pour ce balayage qui fait passer de x à y
est dé…nie par :
P(x; y) = Y
¼ i (y i j y 1 ;y 2 ;¢¢ ¢ ; y i¡1 ;x i+1 ; x i+2 ;¢¢¢ ;x n )
i=1;n
Au i-ième pas de ce balayage, on relaxe la valeur x i au site i en y i suivant la loi conditionnelle
¼ i (: j y 1 ;¢¢¢ ;y i¡1 ;x i+1 ;¢¢ ¢ ; x n ) : dans le conditionnement, les (i ¡ 1) premières valeurs x ont
déjà été relaxées, alors que les (n ¡ i ¡ 1) dernières ne l’ont pas encore étées. Cet algorithme
est séquentiel ou asynchrone. Il se distingue fondamentalement des algorithmes simultanés ou
synchrones, ou parallèles que nous étudierons plus loin.
Proposition 2.1 Supposons que ¼ > 0. Alors ¼ est invariante pour P et P > 0. Plus précisément,
pour " = inf i;x ¼ i (x i j x i ), on a, pour tout x;y : P(x; y) ¸ ± = " n > 0. En particulier,
pour toute loi initiale º, ºP k ! ¼ pour k ! 1.
Preuve :
Invariance de ¼ : pour montrer que ¼ est P-invariante, il su¢t de constater que P = Q i2S P i et
que ¼ est P i -invariante, P i correspondant au i-ième pas du balayage. En e¤et, si deux transitions
P et Q admettant ¼ comme loi invariante, la transition composée PQ admet également ¼ comme
loi invariante puisque ¼(PQ) = (¼P)Q = ¼Q = ¼. Montrons donc que ¼ est invariante pour
P i . P i fait passer d’un état u à un état v où seule la coordonnée i a été relaxée, cela avec la
probabilité ¼ i (v i j u i );
½
¼i (v
P i (u;v) = i j u i ) si u i = v i
0 sinon
A v …xé, seules les con…gurations u où u i = v i peuvent mener à v :
X
¼(u)P i (u;v) = X ¼(u i ; v i )¼ i (v i j v i ) = X ¼(v i ;v i )¼ i (u i j v i ) = ¼(v)
u i u i
u
¼ est invariante pour P i .
Régularité de P : pour chaque x, ¼(x) > 0. Donc, " = inf i2S;x2E ¼ i (x i j x i ) > 0 : pour tout
x;y 2 E, P(x;y) ¸ ± = " n > 0. ¤
Commentaires.
(i) Il su¢t que ¼ soit connue à un facteur près pour construire P : si ¼(x) = ce(x), la
probabilité conditionnelle ¼ i (: j :) ne dépend pas de c.
(ii) P n’est pas ¼-réversible bien que chaque P i le soit (une composition de transitions ¼-
réversibles n’est pas nécessairement ¼-réversible, cf. exercice 2.6).
(iii) Tout autre balayage de S; ¾(1) 7! ¾(2) 7! ¢¢¢ 7! ¾(n) visitant tous les sites (¾ est alors
une permutation de f1;2;¢¢¢ ;ng) donne le même résultat. Il est facile de voir qu’on obtient le
même résultat d’ergodicité pour un balayage de longueur N, visitant tous les sites, certains sites
pouvant être visités plusieurs fois.