Mélanges de GLMs et nombre de composantes : application ... - Scor

Chapitre 4. Sélection de mélange de GLMs
admet une représentation sous forme de famille exponentielle.
Dans le contexte des mélanges d’inverses gaussiennes, la densité pour une observation y j
peut s’écrire : ∀ψ G ∈ Ψ G ,
f(y j ; ψ G ) = L(ψ G ; y j ) =
=
=
G∑
π i f IN (y j ; µ i , σi 2 )
i=1
G∑
i=1
G∑
i=1
1
π i √
2πσi 2y3 j
1
π i √
2πσi 2y3 j
(
exp − 1 2
⎛
⎜
exp ⎝− 1 2
(y j − µ i ) 2 )
µ 2 i σ2 i y j
(
y j −
√
1
X j β i
) 2
1
X j β i
σ 2 i y j
⎞
⎟
⎠ ,
où β i = (β i0 , β i1 , ..., β ip ) T et X j = (1, X j1 , X j2 , ..., X jp ).
Ainsi, pour une observation :
ln L cc (ψ G ; y j ) = ln L(ψ G ; y j ) +
(
)
G∑ π i f IN (y j ; µ i , σi 2 ∑ )
G
k=1 π k f IN (y j ; µ k , σk 2) ln π i f IN (y j ; µ i , σi 2 ∑ )
G
k=1 π k f IN (y j ; µ k , σk 2) i=1
( G
)
∑
= ln π i f IN (y j ; µ i , σi 2 ) +
i=1
D’où en développant,
⎛
⎜
G∑
ln L cc (ψ G ; y j ) = ln ⎝
G∑
i=1
G∑
k=1
π i
√
2πσ 2 i y3 j
π k
√
2πσ 2 k y3 j
i=1
⎛
⎜
exp ⎝− 1 2
⎛
⎜
exp ⎝− 1 2
π i
√
2πσ 2 i y3 j
(
y j −
√
1
G∑
i=1
⎛
π i f IN (y j ; µ i , σi 2)
ln ⎜
G∑
π k f IN (y j ; µ k , σk 2) ⎝
k=1
⎜
exp ⎝− 1 2
X j β i
) 2
1
X j β i
σi 2y j
( √
y j − 1
⎞
X j β k
) 2
1
X j β k
σ 2 k y j
(
y j −
√
1
X j β i
) 2
1
X j β i
σ 2 i y j
⎛
⎟
⎠
⎞ ln
⎟ ⎜ G∑
⎠ ⎝
k=1
π i
√
2πσ 2 i y3 j
π k
⎞⎞
√
2πσ 2 k y3 j
⎛
⎟⎟
⎠⎠ +
⎞
π i f IN (y j ; µ i , σi 2)
⎟
G∑
π k f IN (y j ; µ k , σk 2) ⎠ .
k=1
⎛
⎜
exp ⎝− 1 2
⎛
⎜
exp ⎝− 1 2
(
y j −
√
1
X j β i
) 2
1
X j β i
σi 2y j
( √
y j − 1
⎞
X j β k
) 2
1
X j β k
σ 2 k y j
En annexe D.5.2, nous détaillons les limites obtenues pour la log-vraisemblance classifiante
conditionnelle lorsque les paramètres de la distribution tendent vers les frontières de leur espace
de définition. Nous devons finalement éviter :
– σ 2 i → 0 ou σ2 i → +∞ ;
– β i → −∞ ou β i → +∞.
Ces limites définissent les contraintes à satisfaire pour que l’estimateur ML cc E existe d’une
part, et soit convergent d’autre part. Leur équivalent sur l’espace des paramètres de θ et φ
est immédiat grâce à l’utilisation des relations bijectives les liant (cf tableau 4.2). Ainsi nous
devons éviter φ i → 0 ou φ i → +∞, de même θ i doit rester borné.
156
⎞
⎟
⎠
⎞
.
⎟⎟
⎠⎠