Mélanges de GLMs et nombre de composantes : application ... - Scor

Annexe D. Espace des paramètres des GLMs
Remarque importante : dans toute cette annexe, nous calculons les limites en considérant
que X j , y j sont positifs afin de simplifier l’exposition des résultats (trop de cas différents
sinon). De plus, l’étude des limites pour un paramètre donné se fera en considérant les autres
paramètres fixes à des valeurs non problématiques.
Calcul de la limite :
lim log L cc(ψ G ; y j )
π i →0 +
→ Premièrement, il est immédiat que lim A i = 0. Comme ∑ G
π i →0 + i=1 π i = 1, tous les poids ne
peuvent pas être nuls en même temps, d’où lim A = K, avec K une constante.
π i →0 +
→ De plus, nous exploitons le résultat bien connu selon lequel lim π i log π i = 0. Ainsi, on a
πi →0
lim
π i →0 +B i = 0 et lim B = K ′ . Par contre, nous réalisons qu’un problème apparaît pour la
π i →0 +
dérivée de l’entropie puisqu’elle n’est pas dérivable en 0.
⇒ Finalement, il vient naturellement
lim log L ∂ log L cc (ψ G ; y j )
cc(ψ G ; y j ) = K et lim
= ∞.
π i →0 + π i →0 + ∂π i
Nota Bene : le raisonnement sera identique pour chaque classe de GLMs, aussi nous ne redévelopperons
pas cet argumentaire et considèrerons que la limite lorsque π i tend vers 0 est
toujours problèmatique pour la dérivée de l’entropie.
Calcul de la limite :
lim log L cc(ψ G ; y j )
β i →+∞
→ Tout d’abord, lim A i = 0. Par conséquent, si tous les β i (i = 1, ..., G) ne tendent pas
β i →+∞
vers l’infini en même temps alors lim log A = lim log(A 1 + ... + A i + ... + A G ) = K ′ .
β i →+∞ β i →+∞
→ Sachant que b i = A i /A, il vient directement que lim
la configuration où lim B i = lim b i log b i = 0. Ainsi lim
β i →+∞ β i →+∞ β i →+∞
lim b i = 0, la dérivée de l’entropie en 0 explose quand β i → +∞.
β i →+∞
⇒ Finalement, on a
Calcul de la limite :
b i = 0. Nous nous retrouvons dans
β i →+∞
B = K. En revanche, comme
lim log L ∂ log L cc (ψ G ; y j )
cc(ψ G ; y j ) = K et lim
= ∞.
β i →+∞ β i →+∞ ∂β i
lim log L cc(ψ G ; y j )
β i →−∞
→ Tout d’abord, lim A i = 0. Par conséquent, si tous les β i (i = 1, ..., G) ne tendent pas
β i →−∞
vers moins l’infini en même temps alors lim A = K.
β i →−∞
→ Par le même raisonnement que précédemment, nous obtenons lim b i = 0 et lim B =
β i →−∞ β i →−∞
K.
⇒ Finalement, il vient donc
226
lim log L ∂ log L cc (ψ G ; y j )
cc(ψ G ; y j ) = K et lim
= ∞.
β i →−∞ β i →−∞ ∂β i