Praktische Datenanalyse in der Experimentalphysik ...

Praktische Datenanalyse in der Experimentalphysik
(Vorlesungsnummer 2563)
Modulcode: PHY232, Kreditpunkte 2
Dozenten: Frank Lehner und Christian Regenfus
Art und Ort der Veranstaltung: Vorlesung mit
36J23)
Übungen (Mittwoch 14-17h,
Zielgruppe: Studierende ab 3. Semester Physik
Einordnung: Die Vorlesung soll die Grundlagen auf dem Gebiet der statistischen
Behandlung und Interpretation von Datenmengen legen und einen Ausblick auf aktuelle
statistische Methoden der Datenanalyse in der Teilchenphysik geben. Die Übungen
werden mit Matlab behandelt und dienen zur Vertiefung. Der vorgehende Besuch der
Datenanalyse Vorlesung (PHY231) im Sommersemester ist empfehlenswert, aber nicht
Bedingung.
Grundkenntnisse: Mathematische Grundkenntnisse wie sie in den ersten Semestern
des Grundstudiums erworben werden. Dazu gehören Vektor- und Matrizenrechnungen,
Differential- und Integralrechnung. Eine Erfahrung im Umgang mit Computern und
insbesondere mit Matlab ist erwünschenswert.
Leistungsnachweis: Beteiligung an Präsenzübungen sowie 50% erreichte Punktzahl
bei der Klausur.
Literatur:
• R. Barlow: ”Statistics: A Guide to the Use of Statistical Methods in the Physical
Science” Wiley Verlag.
• B. Roe: ”Probability and Statistics in Experimental Physics.” Springer Verlag.
• V. Blobel und E. Lohrmann: ”Statistische und numerische Methoden in der Datenanalyse.”,
Teubner Verlag.
• H. Pruys: http://www.physik.unizh.ch/people/pruys/Datenanalyse.html
1

Contents
1 Grundlegende Konzepte der Wahrscheinlichkeit 1
1.1 Zufälligkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Wahrscheinlichkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2.1 Definition über Häufigkeiten (Frequentistendefinition) . . . . . . . . . 2
1.2.2 Mathematische Definition . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2.3 Subjektive Wahrscheinlichkeit oder Definition der Bayesianer . . . . . 3
1.2.4 Prior-Wahrscheinlichkeit . . . . . . . . . . . . . . . . . . . . . . . . . . 3
2 Definitionen und Datenbeschreibung 5
2.1 Ereignisraum und Datentypen . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2.2 Weitere Definitionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2.2.1 Die Verteilungsfunktion . . . . . . . . . . . . . . . . . . . . . . . . . . 5
2.2.2 Die diskrete Wahrscheinlichkeit . . . . . . . . . . . . . . . . . . . . . . 5
2.2.3 Die Wahrscheinlichkeitsdichtefunktion . . . . . . . . . . . . . . . . . . 5
2.3 Kombination von Wahrscheinlichkeiten und Bayes’ Theorem . . . . . . . . . . 5
2.4 Histogramme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
2.5 Mittel- und Erwartungswerte . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
2.6 Die Varianz und Standardabweichung . . . . . . . . . . . . . . . . . . . . . . 9
2.7 Höhere Momente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.8 Kovarianzen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.9 Nützliche Ungleichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
3 Wahrscheinlichkeitsverteilungen 16
3.1 Diskrete Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
3.1.1 Kombinatorik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
3.1.2 Bernoulli und die Binomial-Verteilung . . . . . . . . . . . . . . . . . . 16
3.1.3 Multinomialverteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
3.1.4 Poisson-Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
3.2 Kontinuierliche Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
3.2.1 Gauss- oder Normalverteilung . . . . . . . . . . . . . . . . . . . . . . . 21
3.2.2 χ 2 -Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.2.3 Log-Normal-Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.2.4 Gamma-Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
3.2.5 Student-Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
3.2.6 F-Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
3.2.7 Weibull-Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3.2.8 Cauchy-Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3.2.9 Uniforme Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3.3 Charakteristische Funktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
4 Fehler 28
4.1 Der zentrale Grenzwertsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
4.2 Arbeiten mit Fehlern . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
4.2.1 Averaging is good for you . . . . . . . . . . . . . . . . . . . . . . . . . 29
i

4.2.2 Mittelwertbildung durch Gewichtung . . . . . . . . . . . . . . . . . . . 29
4.2.3 Fehlerfortpflanzung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
4.2.4 Funktionen einer Veränderlichen . . . . . . . . . . . . . . . . . . . . . 30
4.2.5 Funktionen mit meherern Veränderlichen . . . . . . . . . . . . . . . . 30
4.3 Systematische Fehler . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
5 Monte Carlo, eine Methodik aus dem Spielkasino 34
5.1 Zufallsgeneratoren . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
5.2 Tests von Zufallsgeneratoren . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
5.3 Beliebig verteilte Zufallszahlen . . . . . . . . . . . . . . . . . . . . . . . . . . 39
5.3.1 Umkehrfunktion der kumulativen Verteilung . . . . . . . . . . . . . . . 39
5.3.2 Brute Force Methode . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
5.3.3 Speziell verteilte Zufallszahlen . . . . . . . . . . . . . . . . . . . . . . 41
5.4 Praktisches Vorgehen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
5.5 Monte Carlo Integration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
5.5.1 Integral als Summe von Funktionswerten an zufälligen Stellen . . . . . 44
5.5.2 Varianzreduzierende Methoden . . . . . . . . . . . . . . . . . . . . . . 44
5.5.3 Vergleich mit numerischer Integration . . . . . . . . . . . . . . . . . . 45
6 Stichproben und Schätzungen 47
6.1 Eigenschaften von Schätzungen . . . . . . . . . . . . . . . . . . . . . . . . . . 47
6.2 Stichprobenfunktionen für kontinuierliche Verteilungen . . . . . . . . . . . . . 47
6.2.1 Schätzung des Mittelwerts . . . . . . . . . . . . . . . . . . . . . . . . . 47
6.2.2 Schätzung der Varianz . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
6.2.3 Schätzung der Kovarianz . . . . . . . . . . . . . . . . . . . . . . . . . 48
6.3 Die Maximum-Likelihood Methode . . . . . . . . . . . . . . . . . . . . . . . . 48
6.3.1 Die Likelihood-Funktion . . . . . . . . . . . . . . . . . . . . . . . . . . 48
6.3.2 Einfache Anwendungen der Maximum-Likelihood Methode . . . . . . 49
6.3.3 Eigenschaften der Maximum Likelihood Methode . . . . . . . . . . . . 51
6.3.4 Fehlerberechnung bei der ML Methode . . . . . . . . . . . . . . . . . . 52
6.3.5 Erweiterte Maximum-Likelihood-Methode . . . . . . . . . . . . . . . . 54
6.3.6 Binned Maximum Likelihood . . . . . . . . . . . . . . . . . . . . . . . 55
6.3.7 Kombination von Messungen mit der ML Methode . . . . . . . . . . . 55
7 Weitere Schätzmethoden: Kleinste Quadrate - Least Square 57
7.1 Die Least Square Methode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
7.1.1 Anpassen einer Geraden . . . . . . . . . . . . . . . . . . . . . . . . . . 57
7.1.2 Berücksichtigung von systematischen Fehlern . . . . . . . . . . . . . . 59
7.1.3 Geradenanpassung bei Fehlern in beiden Variablen . . . . . . . . . . . 60
7.2 Das Anpassen von gebinnten Daten und die χ 2 -Verteilung . . . . . . . . . . . 60
7.2.1 Lineare kleinste Quadrate und Matrix-Darstellung . . . . . . . . . . . 62
7.2.2 Nichtlineare kleinste Quadrate . . . . . . . . . . . . . . . . . . . . . . 64
7.3 Resampling-Techniken . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
7.3.1 Jackknife . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
7.3.2 Bootstrap . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
7.4 Nichtparametrische Dichteschätzung . . . . . . . . . . . . . . . . . . . . . . . 66
ii

7.4.1 Allgemeine Kernschätzung . . . . . . . . . . . . . . . . . . . . . . . . . 66
7.4.2 Abschätzung der Genauigkeit der Kernschätzung . . . . . . . . . . . . 68
7.4.3 Optimale Wahl der Bandbreite . . . . . . . . . . . . . . . . . . . . . . 70
7.4.4 Adaptierte Kernschätzung . . . . . . . . . . . . . . . . . . . . . . . . . 71
8 Konfidenzintervalle 72
8.1 Klassisches Konfidenzintervall . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
8.1.1 Konfidenzintervall in einer Dimension . . . . . . . . . . . . . . . . . . 72
8.1.2 Vertrauensintervalle für Gauss-verteilte Schätzwerte . . . . . . . . . . 73
8.1.3 Vertrauensintervalle in der Poissonstatistik . . . . . . . . . . . . . . . 74
8.2 Konfidenzlimits auf Basis der Likelihood-Funktion . . . . . . . . . . . . . . . 77
8.3 Konfidenzlimits im Bayes’ Ansatz . . . . . . . . . . . . . . . . . . . . . . . . . 78
8.3.1 Die Methode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
8.3.2 Bemerkungen zum Prior . . . . . . . . . . . . . . . . . . . . . . . . . . 79
8.4 Vertrauensintervalle und systematische Fehler . . . . . . . . . . . . . . . . . . 80
9 Hypothesentests 82
9.1 Grundbegriffe und Ablauf eines Tests . . . . . . . . . . . . . . . . . . . . . . . 82
9.2 Verteilungsgebundene Hypothesentests . . . . . . . . . . . . . . . . . . . . . . 83
9.3 Tests einer einzelnen Hypothese - Goodness of fit . . . . . . . . . . . . . . . . 83
9.3.1 Der χ 2 -Test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
9.3.2 Kolmogorov-Smirnov Test . . . . . . . . . . . . . . . . . . . . . . . . . 83
10 Blindstudien 85
11 Parametrisierung von Daten 86
11.1 Orthogonale Polynome . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
11.2 Splines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
12 Entfaltung 87
iii