Télécharger le texte intégral - ISPED-Enseignement à distance

Etat des connaissances 39chapitre 3) ont été proposés donnant de bons résultats (Haughton, 1997) mais l’algorithmele plus utilisé est de loin l’algorithme EM (Dempster et al., 1977 ; Redneret Walker, 1984). Il est facile à implémenter et propose une manière intuitive detraiter les données manquantes que sont les variables d’appartenance aux classes.L’idée de cet algorithme est de considérer la log-vraisemblance des donnéescomplètes c’est à dire la log-vraisemblance conjointe des observations x et des variableslatentes d’appartenance c = (c g ) g=1,G :L(θ|x, c) =N∑ G∑c ig (ln(f(x i |λ g )) + ln(π g )) (2.11)i=1 g=1Les estimateurs du maximum de vraisemblance ˆθ = (ˆπ, ˆλ) sont ensuite obtenus enrépétant les étapes E et M suivantes. L’étape E (expectation) consiste à prédirel’espérance de la log-vraisemblance complète à partir des estimations courantes. Parlinéarité de l’expression, cela revient à prédire la probabilité que chaque sujet ad’appartenir à une classe latente soit, à l’itération k + 1 :ˆπ (k+1)ig = E(c ig |x i , ˆθ (k) ) =ˆπ g(k) f(x i |ˆλ (k)g )∑ Gl=1 ˆπ(k) lf(x i |ˆλ (k)l)(2.12)L’étape M (maximisation) consiste ensuite à obtenir les estimations courantesˆθ(k+1)qui maximisent l’espérance de la log-vraisemblance à partir des estimations de l’étapeprécédente. Cette maximisation est faite en deux temps, d’une part la mise à jourdes probabilités ˆπ (k+1)g= ∑ Ni=1 ˆπ(k+1) ig(k+1) ˆλ get les autres estimations courantes/N est directement issue de l’étape précédenteen sont déduites.L’implémentation de cet algorithme est particulièrement facile à mettre en oeuvre,offre une assurance de convergence (Dempster et al., 1977) et les estimateurs ont debonnes propriétés asymptotiques (Nityasuddhi et Bohning, 2003). C’est ce qui luia valu sa grande notoriété dans le domaine du mélange de distributions. Il est enparticulier préféré aux algorithmes de type Newton car il a de meilleurs propriétésde convergence globale (Redner et Walker, 1984). Néanmoins, il est aussi connu pouravoir une convergence très lente. Il a donc été proposé de combiner les performances