Mélanges de GLMs et nombre de composantes : application ... - Scor

Chapitre 4. Sélection de mélange de GLMs
La deuxième hypothèse suggère que
[
∃n 0 ∈ N, ∀n ≥ n 0 , E f 0[ln L cc ( ˆψ g ; Y )] − L n ( ˆψ g ; y) < ν ]
2
p.s.
Etudions la quantité E f 0[ln L cc (ψ b g; Y )] − L n ( ˆψ g ; y) dont nous ne connaissons pas le signe
(puisque ˆψ g est aléatoire). Nous déduisons :
E f 0[ln L cc (ψg; b Y )] − L n ( ˆψ g ; y) = E f 0[ln L cc (ψg; b Y )] − L n (ψg; b y) + L n (ψg; b y) − L n ( ˆψ g ; y) , et
} {{ } } {{ }
< ν/2 p.s.
< ν/2 p.s.
E f 0[ln L cc (ψg; b Y )]−L n ( ˆψ g ; y) = E f 0[ln L cc (ψg; b Y )] − E f 0[ln L cc ( ˆψ g ; Y )] + E f 0[ln L cc ( ˆψ g ; Y )] − L n ( ˆψ g ; y) .
} {{ } } {{ }
≥ 0 p.s.
> −ν/2 p.s.
La convergence vers 0 s’effectue donc aussi bien du côté positif que du côté négatif. En prenant
une suite dénombrable (ν p ) p∈N = ( 1
2
) p p∈N , et puisque l’intersection de deux évènements de
probabilité 1 est elle-même de probabilité 1, nous obtenons immédiatement le résultat.
Ce lemme permet de retrouver (H2-C) : il s’appuie sur la définition de l’estimateur ˆψ g et
l’hypothèse (H3-A). Asymptotiquement, maximiser la moyenne empirique de la log-vraisemblance
L cc ne doit pas être très loin de maximiser ψ g ↦→ E f 0[ln L cc (ψ g ; Y )] puisqu’ils sont uniformément
proches l’un de l’autre. Le même type d’hypothèses que pour pour la convergence forte
du ML cc E seront donc suffisantes pour avoir (H2-C).
Dans l’optique d’étudier (H4-C), nous nous intéressons à la distance suivante :
S n ln L cc (ψ; y) = n [ L n (ψ; y) − E f 0[ln L cc (ψ; Y )] ] = n L n (ψ; y) − n E f 0[ln L cc (ψ; Y )].
Cette distance représente (à une constante n près) l’écart entre la moyenne empirique et la
moyenne théorique de la log-vraisemblance L cc prise en un paramètre quelconque. La démarche
consiste à s’intéresser au contrôle de cette “erreur” (appliquée entre ψ b et ˆψ g b g ) en montrant
qu’elle peut s’écrire autrement, et notamment sous une forme qui nous permet d’effectuer des
simplifications. Nous allons dans la suite présenter un ensemble de résultats qui vont nous
permettre de remonter jusqu’à (H4-C). Tout d’abord, nous utilisons trois résultats existants
qui sont issus de Massart (2007).
Introduisons la notation suivante pour la suite : ∀A mesurable avec P(A) > 0, ∀φ : R d → R,
E A [φ(X)] = E[φ(X)1 A(X)]
P(A)
Lemme 6. (Lemme 2.4 dans Massart (2007))
Soit Z ∈ L 1 (R). Soit la fonction strictement croissante ϕ : R + ↦→ R telle que pour tout
ensemble mesurable A avec P(A) > 0, on a
(
E A [Z] ≤ ϕ ln 1 )
,
P(A)
Alors
∀y > 0, P[Z ≥ ϕ(y)] ≤ e −y .
138