Mélanges de GLMs et nombre de composantes : application ... - Scor

Chapitre 4. Sélection de mélange de GLMs
assure la convergence presque sûre de la moyenne empirique de la log-vraisemblance L cc en
le M-estimateur vers son espérance en le meilleur paramètre. Nous allons voir que (H2-C)
résulte de l’association du théorème 6 et du lemme 5. En ce qui concerne l’hypothèse (H4-C),
elle n’est pas intuitive et nécessite de présenter d’autres résultats afin de l’expliciter. Nous
présentons ci-après la preuve de ce théorème.
[
Démonstration. Posons l’ensemble E = arg max E f 0 ln Lcc (Ψ b g) ] . D’après (H1-C),
1≤g≤m
Ψ b g = arg max
ψ g∈Ψ g
E f 0 [ln L cc (ψ g )] et g b = min
(
arg max E f 0[
ln Lcc (Ψ b g) ]) .
1≤g≤m
• Soit g /∈ E : définissons
ɛ = 1 2
( [ ] [ ])
E f 0 ln L cc (Ψ b g
) − E b f 0 ln L cc (Ψ b g) > 0. (4.11)
D’après (H2-C) et (H3-C), lorsque n grandit nous avons avec grande probabilité
[ ]
| E f 0 ln L cc (ψg)
b − L n ( ˆψ g ) | ≤ ɛ [ ]
3 ⇒ E f 0 ln L cc (Ψ b g) − L n ( ˆψ g ) ≥ − ɛ
[ ]
3
| E f 0 ln L cc (ψ b g
) − L b n ( ˆψ g b) | ≤ ɛ [ ]
3 ⇒ E f 0 ln L cc (Ψ b g
) − L b n ( ˆψ g b) ≤ ɛ 3
(4.12)
(4.13)
pen(K g b) ≤ ɛ 3 . (4.14)
Alors
IC(K g)
{ }} {
−L n ( ˆψ g ) + pen(K g )
(4.12) [ ]
≥ −E f 0 ln L cc (ψg)
b − ɛ (car pen(K g ) > 0)
3
(4.11) [ ]
≥ −E f 0 ln L cc (ψ b g
) + 5ɛ
b 3
(4.13)
≥ −L n ( ˆψ g b) + 4ɛ
3
≤0
(4.14)
≥ −L n ( ˆψ g b) + 4ɛ { }} {
3 + pen(K g b) − ɛ 3
≥ −L n ( ˆψ g b) + pen(K g b) + ɛ.
} {{ }
IC(K g b)
Or nous voulons minimiser le critère d’information IC, donc le modèle sélectionné (ĝ composantes)
ne sera pas celui qui a g composantes : ĝ ≠ g.
• Soit g ∈ E et g ≠ g b : par définition de g b , on a forcément g > g b . L’hypothèse (H4-C)
implique qu’il existe v > 0 tel que pour n grand, nous avons avec grande probabilité
136
(
n L n ( ˆψ g ) − L n ( ˆψ
)
g b) ≤ v.