Vorlesungsskript - Mathematik und ihre Didaktik

Lineare Regression, Kovarianz und Korrelation
Seien X und Y ZG, für die die Varianzen existieren.
Optimierungsprolem:
f(a, b) = E(Y − (a + bX)) 2 → min
nach der Methode der kleinsten Quadrate (Gauß)
a + bX - Regression von Y bezüglich X
E(Y − bX
� �� �
=:Z
−a) 2 = E(Z − EZ + EZ − a) 2
⇒ amin = EZ
= E((Z − EZ) 2 + 2(Z − EZ)(EZ − a) + (EZ − a) 2 )
= E(Z − EZ) 2
� �� �
unabh.vona
f(b) = E(Z − EZ) 2
+(EZ − a) 2 → min
a,b
= E(Y − bX − E(Y − bX)) 2
= E(Y − EY − b(X − EX)) 2
= E(Y − EY ) 2 − 2bE((X − EX)(Y − EY )) + b 2 E(X − EX) 2
= V arY − 2bCov(X, Y ) + b 2 V arX
⇒ bmin =
cov(X, Y )
V arX
⇒ amin =
cov(X, Y )
EZ = EY −
V arX EX
f(amin, bmin) =
(cov(X, Y ))2
V arY − 2 +
V arX
(cov(X, Y ))2
V arX
(V arX) 2
(cov(X, Y ))2
= V arY −
�
V arX
� � �
2
cov(X, Y )
= V arY 1 − √ √
V arX V arY