METHODES NUMERIQUES PAR CHAÃNES DE MARKOV

More documents

Recommendations

Info

24 CHAPITRE 2. SIMULATION PAR CHAÎNE DE MARKOV Proposition 2.3 Echantillonnage avec balayages synchrones. La transition R est régulière. Il existe donc une loi ¹ telle que pour toute loi initiale º, ºR n ! ¹. En général, ¼ n’est pas invariante pour R, et donc ¹ 6= ¼. ¹ est appelée loi virtuelle associée à ¼. Preuve : Pour " = inf i;x ¼ i (x i j x i ), inf x;y R(x;y) ¸ " n : R est régulière. D’autre part, il est facile de voir que ¼ n’est en général pas invariante pour R (cf. exercice). ¤ En général, on ne sait pas expliciter analytiquement ¹ : les relations entre ¹ et la loi d’origine ¼ ne sont donc pas connues. Dans l’un des exercices, on étudie un cas particulier de modèle d’Ising (2.1) où ¹ peut être explicitée : on constate que ¼ et ¹ sont très dissemblables. Par exemple, si les voisins de i pour ¼ sont les 4-p.p.v., ceux pour ¹ sont les 4 voisins diagonaux. Ceci incite à penser que loi virtuelle et loi d’origine sont “assez di¤érentes”. Simulation de ¼ par parallèlisation partielle. On peut proposer des algorithmes partiellement parallèles pour la simulation de ¼. Pour préciser cela, reprenons le contexte de l’exemple (2.1) du modèle d’Ising. Sur S = f1;2;¢¢¢ ;ng 2 , n pair, considérons la partition en deux couleurs : S = B [ N, B = fi = (i 1 ; i 2 ) t.q. i 1 + i 2 est pairg, N = SnB (dans le cadre où S est un échiquier n £ n, B est l’ensemble des n2 2 cases blanches, N est l’ensemble des n2 2 cases noires). Il est aisé de voir que la loi de (X B j x N ) (resp. de (X N j x B )) est P B (x B j x N ) = Q i2B ¼ i(x i j x @i ) (resp. P N (x N j x B ) = Q i2N ¼ i(x i j x @i )). Considérons alors l’échantillonneur de Gibbs pour le balayage suivant de S : on commence par visiter les n2 n2 2 sites de N, puis on termine par la visite des 2 sites de B. Notons P la transition de cet échantillonneur; puisque la relaxation des sites de N (resp de B) ne fait intervenir que x B (resp. y N ), on a : P(x; y) = P N (y N j x B )P B (y B j y N ) Cet échantillonneur réalise bien la simulation de ¼. Disposant d’une machine parallèle, cet algorithme est réalisable en deux itérations, chacune e¤ectuant n2 2 relaxations synchrones. On dispose là d’un algorithme de simulation de ¼ partiellement parallèle. Il est facile de généraliser cette construction pour un ensemble S muni d’un graphe de voisinage pour lequel il est possible d’obtenir une partition de S en k couleurs, avec les propriétés d’indépendances précédentes. Si tel est le cas, on dispose d’un algorithme partiellement parallèle réalisable en k itérations. 2.2.4 Echantillonneur de Gibbs surE= R n (ou(R d ) n ) Les résultats de Tierney [98] présentés au premier chapitre se mettent facilement en oeuvre dans la situation suivante, l’absolue continuité étant dé…nie par rapport à la mesure de Lebesgue sur E = (R d ) n : ± ¼ est une loi a densité ¼(x) > 0 ±± la transition P(x;y) admet une densité p(x;y) > 0 pour tout x;y 2 E. ± ± ± ¼ est la loi invariante pour P: Dans ce cas, la chaîne de transition P est ¼-irréductible, apériodique et Harris récurrente. On en déduit que, pour la norme en variation totale et pour toute loi initiale º, ºP n ! ¼. Exemple 2.3 Simulation d’un vecteur gaussien Supposons que F = R, la loi de X = (X 1 ;X 2 ;¢ ¢¢ ;X n ) étant gaussienne de moyenne 0 et de matrice de covariance §, inversible. Si la moyenne est m, il su¢ra de simuler une gaussienne de moyenne 0 et de lui ajouter ensuite m. L’échantillonneur de Gibbs de X consiste à visiter séquentiellement les sites 1 7! 2 7! ¢¢¢ 7! n, la i-ième relaxation se faisant suivant la loi conditionnelle (X i j y 1 ;¢¢ ¢ ; y i¡1 ;x i+1 ; ¢¢¢ ;x n ). Cette
2.3. LA DYNAMIQUE DE METROPOLIS-HASTINGS 25 loi conditionnelle est gaussienne, explicitable lorsque Q = § ¡1 l’est. La transition P(x;y) admet donc une densité, positive partout, tout comme la densité de X. L’échantillonneur de Gibbs fournit bien une simulation de ¼. Rappelons que la loi conditionnelle au site i est donnée en fonction des coe¢cients (q ij ) de Q par : Loi(X i j x i ) » N 1 (¡q ¡1 ii X j:j6=i q ij x j ; q ¡1 ii ) Dans le cas d’un champ gaussien et markovien (cf. chapitre 4), Q = § ¡1 prend une forme simpli…ée, ¼ i (x i j x i ) dépendant de x i par l’intermédiaire de x @i , @i le voisinage de i pour le graphe markovien. En particulier, q ij 6= 0 , j 2 @i. Plaçons nous sur S = f1; 2; ¢¢¢ ;ng 2 et considérons la variable gaussienne X sur S de densité : ¼(x) = Z ¡1 expU(x) où U(x) = ¡ 1t xQx, avec t xQx = a X x 2 i 2 + b i2S Si ¯¯b ¯ a < 1 2 , Q est dé…nie positive et Loi(X i j x i ) » N 1 (¡ b a X j:ki¡jk 1 =1 x j ; 1 a ): X ki¡jk 1 =1 Cette méthode de simulation peut être comparée à la méthode classique. Soit § = T t T une décomposition de Cholesky de §, " un échantillon gaussien réduit de taille N = n 2 : alors, X = T" est alors N N (0;§). Pour la décomposition de Cholesky et pour un champ sur f1;2;¢¢ ¢ ; 100g 2 , § est de dimension 10 4 £ 10 4 . Pour la simulation par l’échantillonneur de Gibbs, il faut réaliser 100 balayages, soit 100£10 4 visites successives des sites, avec à chaque visite la simulation d’une gaussienne, mais sans recherche de la forme de Cholesky de §. Exemple 2.4 Espace d’état mixte E = (¤ £ R) n L’échantillonneur de Gibbs est aussi adapté à la simulation de modèle markovien à espace d’état E = (¤£R) n mixte : ¤ = f1;2;¢¢¢ ;rg est un espace qualitatif repérant le label ¸i du site i, alors que R repère le niveau de gris x i en ce même site i. Ces modèles, très utiles en analyse d’images ou en théorie du signal, seront précisés au chapitre 4. 2.3 La dynamique de Metropolis-Hastings Proposée par Métropolis en 1953 ([74]), l’algorithme a pris sa forme générale avec Hastings en 1970 ([51]). A la di¤érence de l’échantillonneur de Gibbs, l’algorithme de Metropolis-Hastings (noté dorénavant M.H.) est utilisable sur un espace d’état E général (pour l’échantillonneur de Gibbs, E doit être un ensemble produit). 2.3.1 Construction de la transition de M.H. Soit E = f1;2;¢¢ ¢ ; rg un espace d’état …ni, ¼ > 0 une loi sur E. Deux familles de lois sont à la base de l’algorithme, (i) Q une transition irréductible sur E, dite proposition de changement : Q(x;y) est la probabilité de proposer le changement x 7! y (ii) a : E £ E !]0;1] la fonction d’acceptation du changement : a(x;y) est la probabilité d’accepter le changement x 7! y. On supposera que pour tout x, a(x;x) = 1 : si on ne bouge pas, on l’accepte. x i x j
Page 1: METHODES NUMERIQUES PAR CHAÎNES DE
Page 4 and 5: 4 TABLE DES MATIÈRES 3.2.2 Recuit
Page 6 and 7: 6 TABLE DES MATIÈRES Je voudrais r
Page 8 and 9: 8 CHAPITRE 1. CHAÎNES DE MARKOV À
Page 10 and 11: 10 CHAPITRE 1. CHAÎNES DE MARKOV
Page 20 and 21: 20 CHAPITRE 2. SIMULATION PAR CHAÎ
Page 42 and 43: 42 CHAPITRE 3. CHAÎNE INHOMOGÈNE
Page 64 and 65: 64 CHAPITRE 4. CHAMP DE MARKOV ET P
Page 74 and 75:
74 CHAPITRE 4. CHAMP DE MARKOV ET P
Page 76 and 77:
Page 78 and 79:
Page 80 and 81:
80 CHAPITRE 5. DIAGNOSTIC DE CONVER
Page 82 and 83:
Page 84 and 85:
Page 86 and 87:
Page 88 and 89:
Page 90 and 91:
Page 92 and 93:
Page 94 and 95:
94 BIBLIOGRAPHIE [20] Diaconis P. e
Page 96 and 97:
96 BIBLIOGRAPHIE [70] Liu J.S., 199
show all

METHODES NUMERIQUES PAR CHAÃNES DE MARKOV

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?

METHODES NUMERIQUES PAR CHAÃNES DE MARKOV