ϕ-Divergence empirique et vraisemblance empirique généralisée

Propriétés 2.1(a) Par définition, ϕ ∗ est convexe et semi-continue inférieurement et dedomaine de définition d(ϕ ∗ ) non vide si d(ϕ) est non vide.(b) Sous les hypothèses 2.1, la dérivée de ϕ est inversible et :ϕ ∗ (x) = x.ϕ (1) −1 (x) − ϕ(ϕ (1) −1 (x)).On en déduit (ϕ ∗ ) (1) = ϕ (1) −1 et (ϕ ∗ ) (2) (0) = 1ϕ (2) (0) .Soit ϕ vérifiant les hypothèses (2.1). La ϕ-divergence associée à ϕ, appliquéeà Q et P, où Q (respectivement P) est une mesure signée (respectivementune mesure signée positive), est définie par :{I ϕ ∗(Q, P) =∫Ω ( ϕ∗ dQ− 1) dP si Q ≪ PdP+∞ sinon.Ces pseudo-métriques introduites par Rockafellar (1968 et 1970) sont en faitdes cas particuliers de « distances » convexes (Liese-Vajda, 1987). En tant quefonctionnelles sur des espaces de probabilité, elles sont également convexeset, vues comme des fonctionnelles sur des espaces de Orlicz (cf. Rao et Ren,1991), elles satisfont des propriétés de dualités convexes (Rockafellar, 1971,Léonard, 2001). En particulier, l’intérêt des ϕ -divergences réside pour nousdans le théorème suivant (réécrit sous une forme simplifiée) dû à Borwein &Lewis (1991) (voir également Léonard, 2001) qui résulte des propriétés desintégrales de fonctionnelles convexes.Théorème 2.1 (Minimisation et Conjugaison)Soit ϕ une fonction convexe partout finie et différentiable telle que ϕ ∗ ≥ 0et ϕ ∗ (0) = 0. Soit P une mesure de probabilité discrète. Alors il vient{ }inf I ϕ ∗(Q, P)Q∈M, (Q−P)f=b 0{= sup λ ′ b 0 −λ∈R pSi de plus, on a les contraintes de qualifications suivante :il existe R ∈ M telle que Rf = b 0 etinf d(ϕ ∗ ) < infΩdRdP≤ supΩ∫Ω}ϕ(λ ′ f)dP .dRdP < sup d(ϕ∗ ),alors il existe Q ⋄ et λ ⋄ réalisant respectivement l’ inf et le sup et tels queQ ⋄ = ( 1 + ϕ (1) (λ ⋄ ′ f) ) P.4