Mélanges de GLMs et nombre de composantes : application ... - Scor

4.2. Sélection de modèle mélange
Le bilan de l’étude de ces deux critères est qu’il n’existe pas de critère universellement
meilleur. La connaissance des données et le but de l’expérimentateur (modèle explicatif ou
prédictif) doivent conditionner le choix du critère de sélection. En pratique et dans le contexte
des mélanges, il est bien connu que ces deux critères ont tendance à surestimer le nombre
théorique de composantes (voir le cas de modèle mal spécifié dans Baudry (2009)). Cela semble
également être le cas dans nos applications, où nous avons noté de fortes ressemblances entre
composantes d’un même mélange.
4.2 Sélection de modèle mélange
Comme nous l’avons vu précédemment, l’utilisation de la modélisation mélange a explosé
depuis la parution de l’article de Dempster et al. (1977). Par conséquent savoir pourquoi choisir
tel ou tel modèle mélange a suscité l’intérêt de beaucoup de chercheurs, sans pour autant qu’il
n’émerge une solution universelle pour répondre à la question du choix du nombre de composantes.
De nombreux articles sont consacrés au développement de méthodes de calibration
d’un mélange, mais celles-ci souffrent régulièrement d’un manque de justification théorique.
Bien souvent, les propriétés de convergence des critères de sélection et des algorithmes proposés
ne sont pas garanties : c’est le cas par exemple de l’algorithme SSMEM proposé par
Hai Xan et al. (2004). Pour pallier le fait que l’algorithme EM ne puisse estimer directement
le nombre G de composantes (G doit être spécifié a priori), Hai Xan et al. (2004) introduisent
des nouveaux critères de distance qui vont servir à décider itérativement d’un regroupement
ou d’une division des composantes une fois les paramètres de ces composantes estimés via
l’EM. Dans le même esprit, Wenbin (2006) définit une distance entre la densité du mélange
obtenue par l’EM et la densité des observations via la méthode de Parzen (estimation par
noyau gaussien). Cette distance sert de socle au choix du nombre de composantes a posteriori
(après estimation par EM), en minimisant la pénalité qui y est liée. L’algorithme semble bien
se comporter mais les données de test sont originellement bien séparées, ce qui ne nous permet
pas d’être convaincu de sa pertinence.
Une revue sur la question de l’évaluation du nombre de composantes d’un mélange est proposée
dans Oliviera-Brochado and Vitorino Martins (2005). Les auteurs rappellent que le nombre
de composantes du mélange n’est évidemment pas observable dans la majorité des cas, et que
cinq grandes approches ont vu le jour : les tests d’hypothèses présentés en section 3.1.4 (et
donc du bootstrap sur le ratio de vraisemblance), les critères d’information (log-vraisemblance
pénalisée), les critères de classification (liés à la statistique d’entropie), le ratio d’information
minimum (information ratio matrix) et enfin les outils graphiques. Garel (2007) souligne la
difficulté d’établir la multimodalité avec le test du ratio de vraisemblance généralisé. En effet,
le résultat classique selon lequel la distribution de la statistique de ce test suit une loi du
χ 2 n’est en général pas applicable dans le cas des mélanges. Son papier donne un aperçu des
récents développements liés à l’utilisation de cette technique pour détecter l’hétérogénéité des
données. Une méthode consiste à utiliser le bootstrap afin de pallier à cette difficulté : en guise
d’exemple, Schlattmann (2003) étudie par des mélanges de lois de Poisson l’homogénéité des
SMR (Standard Mortality Ratio) dus à la leucémie infantile en Allemagne dans les années
1980.
Etant donné nos objectifs, nous nous focalisons sur les critères de classification. Toutefois
Oliviera-Brochado and Vitorino Martins (2005) effectuent des comparaisons intéressantes
entre les méthodes proposées dans la littérature suivant le type d’étude menée : la conclusion
115