Mélanges de GLMs et nombre de composantes : application ... - Scor

4.2. Sélection de modèle mélange
La nouvelle hypothèse sur L peut poser problème : dans la plupart des cas, elle n’est
d’ailleurs pas vérifiée. En général, une condition suffisante qui permet de la garantir est que
le support de la densité f 0 soit borné. Pour les lois classiques auxquelles nous pensons, ce
n’est évidemment pas le cas en théorie. Néanmoins, il ne semble pas que cette contrainte soit
rédhibitoire dans la pratique : en effet les observations des phénomènes modélisés sont bel et
bien bornées dans les applications, comme le soulignent Bickel and Doksum (2001) (chapitre
1). Les développements et précisions apportés nous amènent donc à reformuler différemment
le théorème 4 dans le cas où l’espace des paramètres est compact.
Théorème 6. (Convergence forte de l’estimateur ML cc E, espace de paramètre Ψ G compact).
Soit l’espace des paramètres Ψ G de dimension K G , tel que Ψ G ⊂ R K G. Soit ln L cc : Ψ G ×R d →
R. Soit Ψ O G un ouvert de RK G
sur lequel ln L cc est bien définie, et tel que Ψ G ⊂ Ψ O G .
Si nous avons les trois hypothèses suivantes :
Alors,
(H1-B) : Supposons Ψ G compact. Alors Ψ b G = ψG b : ψG b = arg max E f 0 [ln L cc (ψ G ; Y )]
ψ G ∈Ψ G ( (H2-B) : Supposons que L ′ ∂ ln Lcc
(y) = sup
< ∞.
ψ G ∈Ψ O ∣∣
∂ψ G
G
)(ψ G ;y)
∣∣ ∞
(H3-B) : Supposons également que ‖L ′ ‖ 1 < ∞.
∃n 0 ∈ N, ∀n ≥ n 0 , ∀ψG b ∈ Ψb G , en définissant ˆψML ccE
G
=
G
(Y 1 , ..., Y n ) ∈ Ψ G un
estimateur qui maximise presque la vraisemblance classifiante conditionnelle tel que
1
n ln L cc(
{
ˆψ
MLccE
MLccE ˆψ
G
; Y ) ≥ 1 n ln L cc(ψG; b Y ) − ξ n
}
.
avec
{
ξn ≥ 0 p.s.
ξ n −→
n→∞
0 p.s.
, nous avons d(
MLccE ˆψ
G
, Ψ b G ) −→ 0 p.s.
n→∞
Démonstration. Similaire à celle du théorème 4, à ceci près que nous utilisons les Lemmes
2 et 3 pour retomber sur les hypothèses de base puis suivre le même raisonnement. Nous
considérons un ouvert Ψ O G
pour éviter les problèmes de dérivabilité aux bornes de l’espace des
paramètres.
En effet, l’hypothèse (H1-B) permet de retrouver les hypothèses (H1-A) et (H2-A) du
théorème 4. Les hypothèses (H2-B) et (H3-B) sont des conditions suffisantes pour retrouver
l’hypothèse (H3-A), et la définition de l’estimateur est conforme dans les deux théorèmes. En
fait les hypothèses (H2-B) et (H3-B) sont utilisées pour prouver que la “bracketing entropy”
est finie, par l’intermédiaire du théorème des accroissements finis.
Sous les hypothèses de compacité de l’ensemble de paramètres Ψ G et de régularité de la
fonction ln L cc , nous savons donc que l’estimateur ML cc E converge fortement vers l’ensemble
de paramètres Ψ b G qui maximise E f 0 [ln L cc(ψ G ; Y )]. Dans le cas de mélange gaussien,
Baudry (2009) montre que l’estimateur ML cc E est convergent en probabilité vers le paramètre
maximisant E [ln L cc (ψ G , Y )]. D’ailleurs (H3-A) est également vérifiée s’il s’agit de
131