Ï-Divergence empirique et vraisemblance empirique gÃ©nÃ©ralisÃ©e

More documents

Recommendations

Info

c’est-à-dire, en explicitant I ϕ ∗ αet ϕ α ,1α(α − 1)∫ [( dQ⋄dPΩQ ⋄ est donné parn∑Q ⋄ = qi ⋄ δ Xi =i=1) α ( ) dQ⋄− αdP − 1 − 1n∑i=1= −1nαn∑i=1i=1]dP{ [1+ (α − 1)λ⋄ ′ (X i − µ) ] }αα−1− 1 .1 [1 + (α − 1)λ⋄ ′ (X i − µ) ] 1α−1δ Xi ,nd’où l’on déduit la valeur du minimum de la divergence du rapport de « vraisemblance» généraliséen∑I ϕ ∗ α(Q ⋄ 1n∑, P n ) =n ϕ∗ α(nqi ⋄ (nqi ⋄ ) α − αnqi ⋄ + α − 1− 1) =.nα(α − 1)On regroupe les valeurs des poids et des divergences pour les exemples usuels(α = 0, 1/2, 1, 2) dans le tableau 2.i=1Divergences poids optimaux q ⋄ i minimum de la divergenceentropie relative1n exp(λ⋄ ′ (X i − µ))∑ q⋄i log(nq ⋄ i ) + 1 − ∑ q ⋄ iKullback1n(1 − λ ⋄ ′ (X i − µ))−1 − ∑ 1n log(nq⋄ i ) + ∑ q ⋄ iHellinger42 ∑ (√ √q ⋄n(2 − λ ⋄ ′ (X i − µ)) 2 i − 1n) 2χ 2 1 n (1 + λ⋄ ′ (X i − µ))∑ (nq ⋄ i − 1) 22nTab. 2 – Poids et rapports de vraisemblances pour les divergences usuelles11
On notera que dans le cas particulier du χ 2 , on peut calculer le multiplicateurde Lagrange et donc la valeur de la vraisemblance en un point µ. D’unpoint de vue algorithmique, c’est donc la plus simple.∑On obtient en effet parun calcul direct λ n = Sn −1 (µ − ¯µ) avec S n = 1 nn i=1 (X i − µ).(X i − µ) ′ d’oùq i = 1 (1 + (µ − n ¯µ)′ Sn−1 (X i − µ)) etI ϕ ∗2(Q, P n ) =n∑ (n · q i − 1) 2i=12n= 1 2 (µ − ¯µ)′ Sn−1 (µ − ¯µ),qui s’interprète directement comme une somme vectorielle autonormalisée.Pour l’étude de l’estimateur basé sur le χ 2 , très lié aux GMM (GeneralizedMethod of Moments), on se référera à Bonnal & Renault (2004) ainsi qu’àNewey & Smith (2004).Notre arbitre indique que l’entropie relative (ϕ 1 ) conduit au KLIC (Kullback-Leibler Information Criterion) qui est différent du maximum de vraisemblanceempirique et a été étudié sous ce nom par Kitamura & Stutzer (1997).3.5 Quasi-KullbackNous introduisons maintenant une famille de divergences qui possèdentdes propriétés de type Lipschitz intéressantes :∀ε ∈ [0; 1], ∀x ∈] − ∞; 1[ ,K ε (x) = ε x22+ (1 − ε)(−x − log(1 − x)).L’idée est de concilier les avantages de la divergence de Kullback (l’aspectadaptatif des régions de confiance et la correction de Bartlett) et de la divergencedu χ 2 (la robustesse et la simplicité algorithmique). Nous réservonsl’étude détaillée de cette famille à des travaux ultérieurs mais nous donnonsici certaines propriétés intéressantes des Quasi-Kullback.– Conformément aux attentes, la forme des régions s’adaptent d’autantplus aux données que ε est proche de 0, la valeur correspondant à laKullback.– On obtient la correction de Bartlett, pour ε petit.– dès que ε > 0, les régions de confiance peuvent dépasser de l’enveloppeconvexe des données, ce qui augmente fortement la robustesse.– On obtient de plus un contrôle à distance fini du niveau de la régionde confiance, grâce à une inégalité exponentielle explicite.– Enfin, contrairement à la Kullback, la conjuguée convexe de K ε estdéfinie sur R et est relativement lisse, ce qui simplifie l’implémentationdu problème d’optimisation.12
Page 5 and 6: Propriétés 2.1(a) Par définition
Page 7 and 8: 3 Extension de la méthode de vrais
Page 9 and 10: s’explique en partie par le théo
Page 14 and 15: Malheureusement les différentes pr
Page 16 and 17: Fig. 1 - Zones de confiance pour 4
Page 18 and 19: 5 ConclusionCe travail généralise
Page 20 and 21: BDémonstrations des résultatsB.1
Page 22 and 23: De même, en effectuant un dévelop
Page 24 and 25: Si on prend ε de l’ordre de n
Page 26: [27] Owen, A. B. Empirical likeliho

Ï-Divergence empirique et vraisemblance empirique gÃ©nÃ©ralisÃ©e

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?

Ï-Divergence empirique et vraisemblance empirique gÃ©nÃ©ralisÃ©e