Le mod`ele de régression multiple

Propriétés:
Si X et Y sont deux variables aléatoires, alors :
E(X + Y )=E(X)+E(Y ) Var(X + Y )=Var(X)+Var(Y )+2Cov(X, Y )
On dit que deux variables aléatoires X et Y sont indépendantes si le fait d’avoir
une certaine valeur pour X n’est pas relié àlavaleurdeY et vice versa. Dans ce
cas, on a :
E(XY )=E(X)E(Y )etdoncCov(X, Y )=0
Attention, deux variables peuvent avoir une covariance nulle et ne pas être indépendantes!
par exemple si la relation qui les lie est plutôt non linéaire.
3 Estimation
L’estimation est l’un des buts de la statistique et de l’économétrie. L’idée est de
relier une valeur non aléatoire mais inconnue (la vraie valeur qui nous intéresse)
à une valeur aléatoire mais observable (l’estimation de la valeur inconnue), en
mesurant autant que possible la précision de l’estimation, c’est-à-dire la confiance à
accorder à cette valeur.
Supposons, par exemple, que l’on s’intéresse à l’espérance inconnue d’une variable
aléatoire (par exemple la durée moyenne d’un certain équipement) ou alors,
la moyenne d’une variable sur une population très grande (la taille moyenne des
terriens). Elles prennent une certaine valeur (non aléatoire) mais inconnue (ou alors
connue, mais très coûteuse à obtenir dans le cas d’une population de très grande
taille). En revanche, si nous disposons d’un échantillon, c’est-à-dire d’observations
du phénomène étudié (soit plusieurs équipements, soit un sondage sur une partie
de la population), on va pouvoir estimer l’espérance théorique à partir des informations
issues de l’échantillon dont on dispose, c’est-à-dire trouver une valeur pour
approcher l’espérance inconnue, mais cela sur la base d’un échantillon particulier.
Pour illustrer les notions d’échantillon et d’estimation, prenons tout d’abord le
cas d’une variable aléatoire discrète. Supposons par exemple que l’on s’intéresse
à la probabilité d’apparition de Pile quand on lance une pièce de monnaie, ou la
probabilité d’apparition d’une certaine valeur quand on lance un dé. Bien sûr, on sait
que la probabilité théorique d’obtenir Pile pour une pièce équilibrée est 0.5 et que la
probabilité théorique d’obtenir 1 quand on lance un dé est1/6. Mais supposons que
l’on ne connaisse pas ces probabilités théoriques, ou alors que l’on souhaite vérifier
que la Pièce ou le dé considéré ne sont pas pipés, et que l’on cherche àestimer
ces probabilités d’apparition. C’est ce qui se passe en général pour les variables
aléatoires que l’on étudie : on ne connaîtpasleurloi,etonnepeutqu’obtenirdes
estimations des paramètres de la loi.
Pour estimer la probabilité d’obtenir Pile, on va lancer un grand nombre de
fois la pièce de monnaie et on va observer les réalisations de la variable aléatoire.
Ces observations ont une valeur déterminée, donnée, et il n’y a plus aucun caractère
d’incertitude. Cependant, ce sont les résultats d’une expérience aléatoire. A
partir de ces observations, qui constituent un échantillon, on va pouvoir calculer
10