METHODES NUMERIQUES PAR CHAÃNES DE MARKOV

More documents

Recommendations

Info

48 CHAPITRE 3. CHAÎNE INHOMOGÈNE ET RECUIT SIMULÉ L’heuristique de l’algorithme du recuit simulé (noter par la suite RS) est la suivante : Si U(a) < U(b), ¼¯(b) lim ¯!+1 ¼¯(a) = 0 A basse température (¯ grand), la loi ¼¯ se concentre sur E ¤ ; l’ensemble des minima de U. Plus précisément, si on note ¼ 1 la loi uniforme sur E ¤ , ¼ 1 (x) = jE ¤ j ¡1 1(x 2 E ¤ ), alors : k¼¯ ¡ ¼ 1 k ! 0 si ¯ ! 1 (jAj est le cardinal de A). Ainsi, à première vue, optimiser U revient à simuler ¼¯ pour ¯ grand. Deux problèmes se présentent : (i) quand considérer que ¯ est grand? (ii) la convergence de la simulation de ¼¯ pour ¯ grand est très lente. L’algorithme de RS est une réponse à ces problèmes (Kirkpatrick, Gelatt et Vecchi [65]) : on va utiliser une dynamique (P k ) inhomogène dans le temps, relative à une suite (¯k) tendant vers l’in…ni et on cherchera des conditions su¢santes assurant que la chaîne (P k ) est fortement ergodique et converge vers ¼ 1 . On examinera deux cas : ² Le cas où E est un espace produit, la dynamique retenue est celle de l’échantillonneur de Gibbs ([37]; [39]); ² Le cas d’un espace d’état E général et de la dynamique de Metropolis-Hastings (Hajek [50];[103];[1]; [42];[5]). 3.2.1 Recuit simulé pour la dynamique de Gibbs E = F S où S = f1;2;¢¢¢ ;ng et F est …ni. Soit U : E ! R. Sans que cela soit restrictif, on supposera que le minimun de U est U ¤ = 0 (U est donc à valeur dans R + , et pour au moins un x 2 E, U(x) = 0). La dynamique de l’échantillonneur de Gibbs est associée à la loi ¼¯(x) = Z ¡1 (¯) exp¡¯U(x) et à ses lois conditionnelles ¼ i;¯(x i j x i ), i 2 S. L’algorithme est le suivant : Algorithme du RS pour la dynamique de Gibbs (i) On choisit un schéma (¯k) " +1. (ii) Visites de S périodiques, ¯ = ¯k au k-ième balayage. (iii) La transition au k-ième balayage est : P k (x; y) = nY ¼ i;¯k(y i j y 1 ; ¢¢¢ ;y i¡1 ; x i+1 ;¢¢¢ ;x n ) i=1 Soit ¢ = maxfU(x) ¡ U(y) : x ´ y sauf en un siteg; r le cardinal de E. Proposition 3.12 Convergence du RS pour la dynamique de Gibbs (Geman D. et Geman S.[37];[39]). Si (¯k) " +1 en véri…ant X exp¡fn¢¯kg = +1 k¸0 alors : 8x 0 ;lim k!1 P(X k 2 E ¤ j X 0 = x o ) = 1. En d’autres termes, pour toute loi initiale º, ºP 0 P 1 ¢¢¢P k ! ¼ 1 . Si ¯k = ° log k, cette convergence est assurée dès que ° (n¢) ¡1 :
3.2. OPTIMISATION <strong>PAR</strong> RECUIT SIMULÉ 49 Preuve : ¼ k = ¼¯k est invariante pour P k et ¼ k ! ¼ 1 . Il su¢t de véri…er les deux conditions (3.6)et (3.5). Notons que la convergence ¼ k ! ¼ 1 ne permet pas d’obtenir (3.6). (i) Véri…ons que pour tout x, la suite (¼ k (x)) est monotone pour n grand. Fixons x. On a : ¼¯(x) = f X y2E exp¡¯[U(y) ¡ U(x)]g ¡1 Posons a(y) = U(y) ¡ U(x). Si x 2 E ¤ , a(y) ¸ 0, chaque exp¡¯ka(y) est décroissante et donc (¼ k (x)) est croissante. Sinon, d(¯) = ¼¯(x) ¡1 = jfy 2 E : U(y) = U(x)gj + X a(y)0 e ¡¯a(y) La dérivée de d est d 0 (¯) = ¡ P a(y)0 a(y)e¡¯a(y) . Si U n’est pas constante, il existe y t.q. a(y) < 0 et le premier terme tend vers ¡1 si ¯ ! 1. Quant au second terme, il tend vers 0. Ainsi si x =2 E ¤ , (¼ k (x)) est décroissante à partir d’un certain rang. (ii) ¼ i;¯(x i j x i ) = f P u2F exp¡¯[U(u;xi ) ¡ U(x i ;x i )]g ¡1 ¸ (re¯¢ ) ¡1 puisque [U(u;x i ) ¡ U(x i ;x i )] ¸ ¡¢. On en déduit que : P¯(x;y) ¸ (ne n¯¢ ) ¡1 et donc c(P¯) 1 ¡ e ¡n¯¢ La condition su¢sante (ii) sera assurée dès que 8m; Q k¸m c(P k) = 0, condition équivalente à X (1 ¡ c(P k )) = +1 k Pour le schéma de température proposé, 1¡c(P k ) ¸ e ¡n¯k¢ = ( 1 k )°n¢ . La divergence est assurée dès que °n¢ 1. ¤ Exemple 3.1 Lissage d’une courbe par minimisation de la ‡exion On souhaite reconstruire une courbe x : [0;1] ! F ½ R , où F est un maillage …ni de R: On dispose d’observations fy i ;i = 0;ng que l’on relient à x par le modèle : y i = x i + " i , i = 0;n où x i = x( i n ) La ‡exion d’une courbe x de classe C 2 est dé…nie par F(x) = R 1 0 x00 (t) 2 dt. Sa version discrétisée est F D (x) = P n¡1 i=1 (x i¡1¡2x i +x i+1 ) 2 : la ‡exion est faible si x est régulière. Une reconstruction discrète de x pourra se faire sur la base de l’énergie U : E = F n+1 ! R, U(x j y) = °F D (x) + ky ¡ xk 2 2 ° est un paramètre de régularisation : plus ° est grand, plus régulière sera la reconstruction; plus ° est petit, plus grande sera la …délité de x à y. On véri…e que U s’écrit de façon additive et locale : U(x j y) = X i © i (x i j y) + X i;j © i;j (x i ;x j j y) avec 8 >< >: © i (x i j y) = x 2 i (6° 8 + 1) ¡ 2x iy i < ¡8°x i x j si ji ¡ jj = 1 © i;j (x i ;x j j y) = © i;j (x i ; x j ) = 2°x : i x j si ji ¡ jj = 2 0 sinon
Page 1: METHODES NUMERIQUES PAR CHAÎNES DE
Page 4 and 5: 4 TABLE DES MATIÈRES 3.2.2 Recuit
Page 6 and 7: 6 TABLE DES MATIÈRES Je voudrais r
Page 8 and 9: 8 CHAPITRE 1. CHAÎNES DE MARKOV À
Page 10 and 11: 10 CHAPITRE 1. CHAÎNES DE MARKOV
Page 20 and 21: 20 CHAPITRE 2. SIMULATION PAR CHAÎ
Page 42 and 43: 42 CHAPITRE 3. CHAÎNE INHOMOGÈNE
Page 64 and 65: 64 CHAPITRE 4. CHAMP DE MARKOV ET P
Page 80 and 81: 80 CHAPITRE 5. DIAGNOSTIC DE CONVER
Page 94 and 95: 94 BIBLIOGRAPHIE [20] Diaconis P. e
Page 96 and 97: 96 BIBLIOGRAPHIE [70] Liu J.S., 199

METHODES NUMERIQUES PAR CHAÃNES DE MARKOV

Create successful ePaper yourself

Delete template?

Save as template?

METHODES NUMERIQUES PAR CHAÃNES DE MARKOV