METHODES NUMERIQUES PAR CHAÎNES DE MARKOV

Table des matières
1 Chaînes de Markov à nombre …ni d’états 7
1.1 Chaîne de Markov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.1.1 Dé…nitions et notations de base . . . . . . . . . . . . . . . . . . . . . . . . 7
1.1.2 Loi invariante et Ergodicité . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.1.3 Chaîne irréductible : existence et unicité de la loi invariante . . . . . . . . 8
1.1.4 Le Théorème de Perron-Frobénius . . . . . . . . . . . . . . . . . . . . . . 9
1.2 Résultats d’ergodicité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2.1 Utilisation du théorème de Frobénius . . . . . . . . . . . . . . . . . . . . . 10
1.2.2 Lemme de contraction pour P . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.3 Ergodicité et couplage de chaîne de Markov . . . . . . . . . . . . . . . . . 11
1.3 Réversibilité et mesure invariante . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.4 Ergodicité pour un espace d’état général . . . . . . . . . . . . . . . . . . . . . . . 13
1.4.1 Espace d’état discret . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.4.2 Espace d’état général . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.5 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2 Simulation par Chaîne de Markov 19
2.1 Le problème et la méthode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.2 L’échantillonneur de Gibbs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.2.1 Echantillonneur de Gibbs . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
2.2.2 Echantillonneur de Gibbs à balayage aléatoire . . . . . . . . . . . . . . . . 23
2.2.3 Echantillonneur avec balayages synchrones . . . . . . . . . . . . . . . . . . 23
2.2.4 Echantillonneur de Gibbs sur E = R n (ou (R d ) n ) . . . . . . . . . . . . . . 24
2.3 La dynamique de Metropolis-Hastings . . . . . . . . . . . . . . . . . . . . . . . . 25
2.3.1 Construction de la transition de M.H. . . . . . . . . . . . . . . . . . . . . 25
2.3.2 ¼-réversibilité de M.H. et ergodicité . . . . . . . . . . . . . . . . . . . . . 26
2.3.3 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.3.4 Quelques résultats généraux sur les transitions ¼-réversibles . . . . . . . . 29
2.3.5 Comparaison de di¤érentes dynamiques de M.H. . . . . . . . . . . . . . . 30
2.3.6 Algorithme de M.H. pour un espace d’état général [98] . . . . . . . . . . . 32
2.4 Exercices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3 Chaîne inhomogène et recuit simulé 41
3.1 Coe¢cient de contraction de Dobrushin . . . . . . . . . . . . . . . . . . . . . . . 41
3.1.1 Préliminaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
3.1.2 Coe¢cient de contraction et ergodicités . . . . . . . . . . . . . . . . . . . 42
3.2 Optimisation par recuit simulé . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
3.2.1 Recuit simulé pour la dynamique de Gibbs . . . . . . . . . . . . . . . . . 48
3