Mélanges de GLMs et nombre de composantes : application ... - Scor

Chapitre 3. Mélange de régressions logistiques
d’un mélange (McLachlan and Peel (2000), p.15), bien que dans notre cas l’asymétrie est
telle qu’il ne fait aucun doute qu’une simple transformation ne pourrait pas modéliser toute
l’hétérogénéité présente dans nos données. Le cas le plus classique de la modélisation par
mélange concerne les mélanges de lois normales, pour lesquels un grand nombre de résultats
existe. Les modèles mélanges sont aussi régulièrement utilisés dans des problèmatiques de
classification non-supervisée puisqu’ils assignent un composante donnée à chaque observation,
ce qui constitue un clustering en soi.
La première partie développe l’aspect théorique des modèles mélange, les points importants
à aborder lors de leur utilisation et les pièges à éviter. En ce qui concerne l’application, nous
verrons ensuite les outils pratiques de présentation des résultats de la modélisation à travers
un cas pratique (toujours basé sur les contrats mixtes en Espagne).
3.1 Formalisation de la théorie
La modélisation par mélange renvoie aux problèmes usuels suivants : identifiabilité, estimation
des paramètres, propriétés de l’estimateur du maximum de vraisemblance, évaluation
du nombre de composantes du mélange, application de la théorie asymptotique pour fournir
une base de solutions à certains problèmes, critères de sélection et de performance du modèle.
L’estimation des paramètres d’un mélange est un des axes de recherche ayant attiré le plus
de chercheurs car de nombreuses questions subsistent encore aujourd’hui ; parmi lesquelles
les valeurs initiales de l’algorithme d’optimisation qui maximise la vraisemblance, les critères
d’arrêt de cet algorithme et les propriétés de la fonction de vraisemblance (convexité, bornitude).
Nous allons dans cette partie tenter de résumer l’ensemble de ces problématiques afin de
donner au lecteur une base théorique qui lui permette d’appréhender ce type de modélisation,
qui servira de socle dans toute la suite de la thèse.
3.1.1 Généralités
Nous formalisons l’approche par mélange dans le cadre d’un mélange discret car elle correspond
à notre cas d’étude opérationnelle, et demeure de plus bien plus intuitive lorsque
nous nous intéressons à des questions de classification. Néanmoins, toutes les notions développées
ci-dessous peuvent être adaptées au cas continu, ce qui veut dire que la distribution
mélangeante est continue (nous verrons qu’elle est multinomiale dans le cas discret).
Soit Y = (Y1 T , ..., Y n T ) T un échantillon aléatoire indépendant et identiquement distribué
(i.i.d.). Chaque enregistrement Y j de cet échantillon contient q mesures, d’où un vecteur aléatoire
q-dimensionnel (q = 1 pour nous car la décision de rachat est univariée). Dans le contexte
des mélanges et par la formule des probabilités totales, il vient
f(y j ) =
G∑
π i f i (y j ), (3.1)
i=1
où f(y j ) est la densité de Y j dans R q , π i est la proportion (poids) a priori de la i e composante
du mélange, f i (y j ) est la densité de la i e composante du mélange, avec la contrainte ∑ i π i = 1.
La matrice Y des observations est de taille n × q. On dit que f(y j ) est la densité d’un mélange
fini à G composantes, et on note F (y j ) la distribution du mélange. Chaque individu est donc
censé provenir d’un des groupes composant le mélange.
70