Chapitre 5 Classification des statistiques - ENS de Cachan ...

5.1. EFFICACITÉ 57Pour u ∈ R d , on déduit de l’inégalité de Cauchy-Schwarz queu,∇g(θ) 2 = E θĝ− g(θ)u,∇lnLn (.;θ) 2≤ R(θ;ĝ)E θ u,∇lnL n (.;θ) 2 ,car V θ (ĝ) =R(θ;ĝ) d’après la décomposition biais-variance (Proposition2.3.1). Or, par définition de l’information de Fisher,E θ u,∇lnL n (.;θ) 2 = u E θ ∇lnL n (.;θ)∇lnL n (.;θ) uet donc, si u = I n (θ) −1 ∇g(θ) := u I n (θ)u,E θ u,∇lnL n (.;θ) 2 = ∇g(θ) I n (θ) −1 ∇g(θ).De plus, ce même choix pour u donne u,∇g(θ) = ∇g(θ) I n (θ) −1 ∇g(θ).En conclusion,R(θ;ĝ) ≥ ∇g(θ) I n (θ) −1 ∇g(θ),d’où le théorème. Définition. L’estimateur ĝ sans biais d’ordre 2 est dit efficace si son risquequadratique atteint la borne de Cramer-Rao du modèle, i.e. pour tout θ ∈ Θ :R(θ;ĝ)=∇g(θ) I n (θ) −1 ∇g(θ).Lorsqu’un estimateur efficace existe, la borne de Cramer-Rao nous fournitun majorant pour la plus petite erreur quadratique dans la famille des estimateurssans biais d’ordre 2. En particulier, si ĝ est un estimateur VUMSB,R(θ;ĝ) ≤ ∇g(θ) I n (θ) −1 ∇g(θ) ∀θ ∈ Θ.Les estimateurs efficaces sont souvent simples à caractériser, comme lemontre le résultat qui suit.Proposition 5.1.2. L’estimateur ĝ régulier et sans biais est efficace si, etseulement si, il existe une fonction ψ : Θ → R d telle que pour tout θ ∈ Θ :ĝ = g(θ)+ψ(θ) ∇lnL n (.;θ) P θ -p.s.