Mélanges de GLMs et nombre de composantes : application ... - Scor

Chapitre 4. Sélection de mélange de GLMs
De plus, on a
S n (ln L cc ( ˆψ g ) − ln L cc (ψ b g)) = n(L n ( ˆψ g ) − L n (ψ b g)) + n(E f 0
≥
n(L n ( ˆψ g ) − L n (ψ b g)).
[ ] [
L n (ψg)
b − E f 0 L n ( ˆψ
]
g ) );
Ainsi, d’après les équations 4.21 et 4.22, et d’après le précédent corollaire pour lequel nous
avons posé les hypothèses adéquates (selon lequel on a avec grande probabilité lorsque n
devient grand : n ‖ ˆψ g − ψ b g‖ 2 ∞ = O P (1)),
n(L n ( ˆψ g ) − L n (ψ b g)) = O P (1).
Ceci est valable pour tout g ∈ K, et donc en particulier pour g b . Enfin, L n (ψ b g) = L n (ψ b g b )
puisque par hypothèse ln L cc (ψ b g; y) = ln L cc (ψ b g b ; y) f 0 dλ-p.p. D’où la conclusion :
n(L n ( ˆψ g ) − L n ( ˆψ g b)) = O P (1).
Ce corollaire généralise le corollaire précédent à un contexte de sélection de modèle (nous
retrouvons (H4-C)). Tous ces résultats permettent encore une fois de formuler différemment le
théorème 7, afin d’introduire de nouvelles hypothèses directement exploitables pour aisément
vérifier la consistance du critère de sélection ICL c pour des mélanges de GLMs. Le nouveau
théorème s’écrit dans le cas où l’espace des paramètres est compact :
Théorème 9. (Consistance faible du critère de sélection pénalisé, cas compact).
Soit {M g } 1≤g≤m une collection de modèles de paramètres {ψ g } 1≤g≤m ∈ {Ψ g } 1≤g≤m et de
dimension {K g } 1≤g≤m , avec Ψ g ⊂ R Kg . Ces modèles sont classés dans un ordre croissant de
complexité, avec K 1 ≤ K 2 ≤ ... ≤ K m . Supposons que :
(H1-D) ∀g ∈ 1, m, Ψ G est un ensemble compact.
Alors pour g quelconque, posons Ψ b g = arg max ψg∈Ψg E f 0 [ln L cc (ψ g ; Y )].
Définissons g b = min ( [
arg max E f 0 ln Lcc (Ψ b g; Y ) ] ) ;
1≤g≤m
(H2-D) ∀g ∈ 1; m, ∀ψ g ∈ Ψ g , ∀ψ b g b ∈ Ψ b g b ,
E f 0[ln L cc (ψ g )] = E f 0[ln L cc (ψ b g b )] ⇐⇒ ln L cc (ψ g ; y) = ln L cc (ψ b g b ; y)
f 0 dλ- p.s.
(H3-D)
(H4-D)
(H5-D)
(H6-D)
∀g ∈ 1; m, soit Ψ O g ouvert de R Kg sur lequel ln L cc est définie, avec Ψ g ⊂ Ψ O g .
⎧
⎨L g (y) = sup | ln L cc (ψ g ; y) | < ∞ f 0 dλ-p.s.,
∀g ∈ 1, m,
ψ g∈Ψ O g
⎩
‖L g ‖ ∞ < ∞.
⎧
( ⎪⎨ L ′ ∂ ln Lcc
g(y) = sup
< ∞ f
∀g ∈ 1, m,
ψ g∈Ψ
⎪⎩
O ∣∣
∂ψ
g
g
)(ψ 0 dλ-p.s.,
g;y)
∣∣ ∞
‖L ′ g‖ 2 < ∞.
∀g ∈ 1, m, ∀ψg b ∈ Ψ b g, I ψ b g
= ∂2 (
)
∂ψg
2 E f 0[ln L cc (ψ g ; y)] est inversible.
|ψg
{ b pen(Kg ) > 0 et pen(K g ) = o P (n) quand n → +∞;
∀g ∈ 1, m, (
) P
pen(K g ) − pen(K g
′ ) −→ ∞ quand n → +∞ et g > g ′ .
146