Lineare Regression (Kap. 1-5) (pdf) - Seminar für Statistik - ETH Zürich

6 2 EINFACHE LINEARE REGRESSION2.2 Schätzung der Parametera⊲ Kehren wir zu konkreten Daten zurück! Abbildung 2.2.a zeigt die Daten des Beispielsder Sprengungen mit einer Geraden, die zu den Daten passt. Sie legt die Parameter αund β des Regressionsmodells fest. ⊳Erschütterung1 2 5 10[x i , y i ]r i40 50 60 70 80 90 100 110 120DistanzAbbildung 2.2.a: Geschätzte Gerade für das Beispiel der SprengungenbcUm allgemein den Daten ein best-passendes Modell zuzuordnen, müssen die Parameter mitgeeigneten Regeln festgelegt werden. Die Funktionen, die den Daten die best-passendenWerte zuordnen, heissen Schätzfunktionen oder Schätzungen.Es gibt einige allgemeine Prinzipien, nach denen solche Regeln aufgestellt werden können.Das berühmteste für unseren Fall ist das Prinzip der Kleinsten Quadrate. Darinwerden die Parameter so bestimmt, dass die Summe der quadrierten Abweichungenn∑ri 2 , r i = y i − (α + βx i )i=1minimal wird. Wenn die Fehler E i normalverteilt sind, dann kann dieses Kriterium ausdem Prinzip der Maximalen Likelihood hergeleitet werden.Die Schätzfunktionen lauten dann̂β =∑ ni=1 (Y i − Y )(x i − x)∑ ni=1 (x i − x) 2̂α = Y − ̂βx .Weitere Details sind im Anhang ?? beschrieben.Es gibt in unserem Modell einen weiteren Parameter, die Varianz σ 2 der zufälligen Abweichungen.Diese Grösse muss ebenfalls aus den Daten geschätzt werden. Man braucht