METHODES NUMERIQUES PAR CHAÎNES DE MARKOV

TABLE DES MATIÈRES 5
Introduction
Les méthodes de Monte Carlo utilisent la simulation de variables aléatoires dans le but
de résoudre un problème numérique. Leur développement tient à la fois aux capacités croissantes
de calcul informatique et à leur facilité d’adaptation à de très nombreux contextes. Le champ
des applications est vaste : statistique, analyse numérique, optimisation, résolution de problèmes
inverses, d’équations di¤érentielles, etc......
L’opération de base est la simulation d’une loi ¼ dé…nie sur un espace d’état E. Si
l’espace E est complexe, par exemple …ni mais de grand cardinal, les méthodes de simulation
classiques ne fonctionnent pas. Une alternative est de construire une chaîne de Markov ergodique
de transition P et de loi invariante ¼. Alors, pour n grand et º une loi initiale, on retiendra ºP n
comme réalisation approximative de ¼. L’étude de ces méthodes, de leurs variantes et de leurs
applications est l’objet de ce cours. L’article des frères Geman (IEEE-PAMI, 1984) a initié les
développements théoriques autant qu’appliqués sur le sujet.
Le chapitre 1 résume les résultats de base sur les chaînes de Markov à nombre …ni
d’états. Les deux principales méthodes de simulations sont ensuite présentées au chapitre 2 : (i)
l’échantillonneur de Gibbs, applicable si l’espace d’état a une structure exponentielle (E = F S );
(ii) la simulation par dynamique de Metropolis. Dans ces deux cas, les chaînes considérées sont
homogènes, c’est-à-dire à transition constante dans le temps.
Un problème d’optimisation, “minimiser la fonction U : E ! R + ”, peut être interprété
comme le problème de simulation suivant : “simuler ¼ 1 ; la loi uniforme sur l’ensemble E 0 où
U atteint son minimum”. Pour ce faire, on peut construire une suite de transitions (P T(n) ) n¸0 ,
dépendant d’un paramètre T(n); dit de température, telle que la chaîne de Markov inhomogène
converge vers ¼ 1 . C’est l’algorithme de Recuit Simulé que nous présenterons au chapitre 3. Au
préalable, on établira di¤érents résultats d’ergodicité d’une chaîne inhomogène.
Le chapitre 4 présente des applications à la résolution de problèmes inverses : on veut
reconstruire (…ltrer) un objet x 2 E au vu d’une observation y = ©(x;M). M est un modèle
de bruitage et © traduit le processus de formation de l’observation y. Pour cela, on va munir
E d’une structure de champ de Markov a…n de traduire les informations a priori que l’expert
a sur l’objet x. Couplée avec la simulation et/ou l’optimisation, cette information permet une
reconstruction algorithmique e¢cace de x.
La question centrale dans la simulation par chaîne de Markov est la suivante : “quand
faut-il arrêter la chaîne pour être assré que ºP n est proche de ¼ ?”. Nous présentons au chapitre
5 deux approches permettant de répondre à cette question. L’une, liée à l’étude du phénomène
de convergence abrupte (cuto¤) d’une chaîne de Markov, permet de proposer une règle d’arrêt
assurant que la chaîne est bien entrée dans son régime stationnaire (B. Ycart). L’autre est la
simulation exacte par couplage depuis le passé (Coupling From The Past, CFTP). L’idée, simple
et très novatrice, revient à Propp et Wilson (1996) : l’algorithme test automatiquement quand il
doit s’arrêter, produisant un échantillon sans biais de ¼. Cette approche a fortement redynamisé
les recherches sur la simulation.
Les livres de références sur ces sujets sont nombreux : sur les aspects théoriques, on peut
citer M. Du‡o (1997), S. Geman (St. Flour, 1990), X. Guyon (1995), G. Winkler (1995); et sur
les applications, Aarts et Korst (1989), S. Li (1995), B.Chalmond (2000) et B.Ycart (1997).