Le mod`ele de régression multiple

aisons pratiques, les résultats étant les mêmes puisque les deux fonctions atteignent
leur maximum au même point.
La log-vraisemblance est donnée par :
log L(a, b, σ 2 )=− n 2 log(2πσ2 ) − 1
2σ 2
n∑
(y i − a − bx i ) 2 = c − n 2 log σ2 −
i=1
∑ u
2
i
2σ 2
où c = − n 2 log 2π ne dépend pas de a, b, σ2 .
Afin de maximiser cette fonction, nous écrivons les conditions du premier ordre :
∂ log L
∂a
∂ log L
∂b
∂ log L
∂σ 2
= − 1 ∂ ∑ u 2 i
2σ 2 ∂a
= − 1 ∂ ∑ u 2 i
2σ 2 ∂b
=0
=0
= − n
2σ 2 + ∑ u
2
i
2σ 4 =0
Ainsi, on remarque que les deux premières conditions sont exactement équivalentes
aux conditions qui permettent de minimiser la somme des carrés des erreurs. Ainsi,
les valeurs de a et b qui maximisent la vraisemblance sont exactement les mêmes
que celles qui satisfont les MCO.
Si on remplace a et b parleurestimateurâ et ˆb, alors on obtient û i et la dernière
condition nous donne :
∑
ˆσ 2 û2
= i
n
Une fois que l’on a les estimations des paramètres, on peut calculer la logvraisemblance
estimée :
max log L = c − n SCR
log
2 n − n 2
où SCR = ∑ i ûi, la somme des carrés des résidus estimés. Cette expression sera
très utile pour faire des tests sur les paramètres (tests du ratio de vraisemblance,
du multiplicateur de Lagrande, de Wald).
2.3 Quelques remarques sur les estimateurs
On rappelle que les estimateurs MCO de a et b sont donnés par :
â = ȳ −
∑ ˆb¯x
(yi − ȳ)(x i − ¯x)
ˆb = ∑ =
(xi − ¯x) 2
∑
yi x i − nȳ¯x
∑ x
2
i − n¯x 2 = cov(y i,x i )
var(x i )
• L’expression des estimateurs montre que si on multiplie toutes les observations
y i et les x i par un même coefficient, la valeur de â et ˆb n’est pas modifiée.
Mais de façon générale, les valeurs estimées dépendent des unités de mesure pour
les variables. En conséquence, un coefficient b par exemple élevé ne signifie pas
nécessairement que la variable explicative x a une forte influence sur y. Dans la
pratique, il convient donc d’interpréter prudemment les résultats obtenus, en examinant
non seulement les valeurs des coefficients, mais aussi le sens économique des
24