Le mod`ele de régression multiple

ˆb ∼N(b, var(ˆb)) =⇒
ˆb − b
√ ∼N(0, 1)
var(ˆb)
On remarque que les variances des coefficients estimés varient directement avec
var(u i )=σ 2 . Ainsi, on pourra obtenir des estimateurs d’autant plus efficaces que
cette variance est faible. De plus, les variances des estimateurs varient inversement
avec var(x i ). Ainsi, plus les x i sont dispersés et plus on peut avoir des estimateurs
précis. En effet, si les variables x i varient très peu, on aura du mal à obtenir de
bons estimateurs de la droite de régression puisque toutes les observations seront
concentrées.
On a vu que la variance des estimateurs dépend de σ 2 qui est inconnue. Il faut
alors trouver un estimateur de σ 2 . On montre que :
1
n − 2
est un estimateur sans biais de la variance σ 2 .Onan − 2etnonpasn pour définir
la variance estimée des résidus car pour estimer les résidus û i ,onadûestimer2
paramètres, àsavoirâ et ˆb.
Ainsi, la variance estimée par maximum de vraisemblance devient valide quand
le nombre d’observations n est élevé.
Puisque σ 2 doit être estimée, alors les paramètres estimés suivent une loi de
student et non plus une loi normale (voir chapitre 1) :
∑
i
û 2 i
â − a
√ ∼St n−2
var(â) ˆ
ˆb − b
√
var(ˆb) ˆ
∼St n−2
On se servira de ce résultat pour faire des tests sur les paramètres a et b.
3 Décomposition de la variance et qualité dela
régression
L’idée est de savoir quelle est la part de la variation de y qui est expliquée par les
variations de x. Pour cela, décomposons la variance de y i . Puisque y i =ŷ i +û i ,en
retranchant ȳ (qui est égal à ¯ŷ) des2cotés, on obtient:
y i − ȳ =ŷ i − ¯ŷ +û i
Or, comme ŷ i et û i sont orthogonaux, alors la variation totale à expliquer, ou Somme
des Carrés Totale SCT = ∑ (y i − ȳ) 2 ,peutsedécomposer en Somme des Carrés
Expliquée (par le modèle, ou plus précisément par la variable x) SCE = ∑ (ŷ i − ȳ) 2
et en Somme des Carrés des Résidus (partie que le modèle n’explique pas) SCR =
∑
û2 i . On a alors l’équation d’analyse de la variance suivante :
SCT = SCE + SCR
26