Modèles de Markov triplets en restauration des signaux

CHAPITRE III. ESTIMATION DES PARAMÈTRES◊ Étape (M) : une fois que nous avons évalué l’espérance, nous cherchons à lamaximiser par rapport à θ.On part d’une initialisation et on applique les deux étapes ci-dessus, ce qui donnele paramètre suivant. De proche en proche, on obtient une suite des estimées quel’on arrête selon divers critères. Ainsi que nous allons le voir dans la suite, l’étapede la maximisation est parfois malaisée; de plus, l’algorithme EM est relativementsensible à l’initialisation.Un autre algorithme itératif d’estimation a été proposé par M. Pieczynski dans[7, 89]. Il s’agit de l’algorithme « Estimation Conditionnelle Itérative » (IterativeConditional Estimation, en abrégé « ICE »). Cet algorithme est fondé sur l’existenced’un estimateur̂θ(x,y) de θ, à partir des données complètes, et sur la possibilitéde simulation de X selon sa loi conditionnelle aux observations y 1∶N et utilisantla valeur courante θ q de θ. Ainsi ICE est très générale et souvent plus facile àutiliser que EM. Par ailleurs, une étude de la convergence de l’algorithme ICE a étérécemment présentée par M. Pieczynski [95]. Une étude sur le lien entre EM et ICEa été proposée par M. Delmas [33] montrant leur équivalences dans certains cas desmodèles exponentiels.Nous allons présenter dans un premier temps ces algorithmes itératifs d’estimation,et dans un deuxième temps, nous les appliquerons aux modèles présentés dansles chapitres précédents.Dans toute la suite X=(X n ) 1∶N est processus aléatoire discret et Y=(Y n ) 1∶N unprocessus aléatoire continu. On note x=(x n ) 1∶N - respectivement y=(y n ) 1∶N - uneréalisation de X - respectivement de Y . Comme précédemment, on note Z=(Z n ) 1∶Nle couple(X,Y).III.1 L’algorithme EM et ses variantesL’algorithme EM ainsi que ses variantes sont des algorithmes itératifs. Noustrouvons dans la littérature plusieurs critères d’arrêt, qui peuvent être liés soit autemps d’exécution ou au nombre d’itérations de l’algorithme. D’autres critères d’arrêtpeuvent être liés à la stabilité de la solution obtenue, comme par exemple lanorme de la différence entre θ q+1 obtenu à l’itération q+1 et θ q obtenu à l’itérationq. Mentionnons également que le temps d’exécution dépend essentiellement de lataille du processus considéré, du nombre d’états du processus caché, ainsi que dutype d’algorithme d’optimisation choisi dans l’étape de maximisation.III.1.1 L’algorithme EML’idée de l’algorithme EM est d’utiliser la log-vraisemblance complète qui estfacile à calculer et à maximiser. Nous avons :L c (z∣θ)=logp(z∣θ)=logp(y∣θ)+logp(x∣y,θ)=L(y∣θ)+logp(x∣y,θ) (III.5)d’ou la relation entre la log-vraisemblance et la log-vraisemblance complète :42L(y∣θ)=L c (z∣θ)−logp(x∣y,θ).(III.6)