METHODES NUMERIQUES PAR CHAÎNES DE MARKOV

2.2. L’ÉCHANTILLONNEUR DE GIBBS 23
2.2.2 Echantillonneur de Gibbs à balayage aléatoire
Soit º une probabilité sur S. L’échantillonneur de Gibbs à balayage aléatoire correspond à
l’algorithme suivant : soit x l’état initial,
(1) ochoisit un site i, indépendamment du passé, suivant º
(2) orelaxe la valeur x i en ce site en proposant y i suivant ¼ i (: j x i )
La nouvelle con…guration est y = (y i ; x i ). La transition Q associée est concentrée sur les changements
en au plus un site :
Q(x;y) = X
º i 1(x i = y i )¼ i (y i j x i )
i=1;n
Proposition 2.2 L’échantillonneur de Gibbs aléatoire est ergodique convergeant vers ¼ dès que
º et ¼ sont > 0.
Preuve : Comme dans la démonstration précédente, il est facile de voir que ¼ est invariante
pour Q. Montrons que Q n > 0. Soit " = inf i;x ¼ i (x i j x i );" > 0. Soient x;y 2 E arbitraires. Dans
le calcul de la transition Q n (x;y); il existe un choix de balayage aléatoire visitant successivement
tous les sites 1 7! 2 7! 3 ! ¢¢¢ 7! n, ceci avec la probabilité º 1 º 2 ¢¢ ¢º n > 0, la i-ème relaxation
changeant x i en y i . Notons ¢ = º 1 º 2 ¢ ¢¢º n . On obtient donc la minoration :
Q n (x; y) ¸ ¢ Y
¼ i (y i j y 1 ; y 2 ;¢¢¢ ;y i¡1 ;x i+1 ;x i+2 ;¢ ¢¢ ;x n ) ¸ ¢" n > 0
i=1;n
En fait, la minoration peut être a¢née puisque l’argument est valable pour tout balayage
dé…ni par une permutation de f1;2;¢¢ ¢ ; ng. On obtient alors Q n (x;y) ¸ ¢n!" n ; par exemple,
pour un balayage aléatoire uniforme de S, Q(x;y) ¸ n!( " n )n . ¤
Comparaison des stratégies de balayages.
Amit et Grenander [4] comparent les stratégies de balayage pour le cas spéci…que gaussien (voir
ci-dessous l’échantillonneur d’un loi continue sur R p ) et pour le critère de la vitesse d’ergidicité
ºP n ! ¼. Ce contexte permet d’obtenir un contrôle des valeurs propres de la transition d’un
balayage à partir de la covariance de la variable et de la matrice de visite des sites. Leur conclusion
est la suivante : (1) le balayage aléatoire semble préférable au balayage systématique ; (2) il existe
de mauvais balayages sytématiques. Cela ne permet pas pour autant de rejeter les balayages
systématiques périodiques : plus simples d’un point de vue algorithmique, ils sont probablement
e¢caces si les sites successifs visités sont éloignés (ce que fait bien, en moyenne, un balayage
aléatoire).
2.2.3 Echantillonneur avec balayages synchrones
Une façon d’accélérer la simulation est d’e¤ectuer les n relaxations simultanément et indépendamment
: on parle alors de relaxations synchrones ou simultanées. La transition R(x;y) est
donnée par :
R(x;y) = Y i2S
¼ i (y i j x i )
Soulignons la di¤érence avec l’échantillonneur de Gibbs séquentiel : ici le conditionnement au site
i est en (x 1 ;x 2 ;¢¢¢ ;x i¡1 ;x i+1 ;x i+2 ;¢¢ ¢ ; x n ) alors qu’il était en (y 1 ;y 2 ;¢ ¢¢ ; y i¡1 ; x i+1 ;x i+2 ;¢ ¢¢ ;x n )
pour l’algorithme séquentiel.
Pour que ces relaxations soient réalisées simultanément, il faut disposer d’une machine à
architecture parallèle : un microprocesseur est attaché à chaque site i, i 2 S, ces processeurs
réalisant simultanément et indépendamment les relaxations x i 7! y i suivant les lois ¼ i (: j x i ).
Malheureusement, bien que R soit ergodique;¼ n’est en général pas invariante pour R et
cette méthode par parallélisation totale ne permet pas de simuler ¼. On a le résultat suivant :