Kapitel 11 Zentrale Grenzwertsätze

Kapitel 11Zentrale GrenzwertsätzeViele zufällige Größen in der Natur, Wirtschaft und Gesellschaft sind das Ergebniseiner Überlagerung zahlreicher kleiner zufälliger Einflüsse, die weitgehendunabhängig voneinander wirken. So ist der tägliche Schlusskurs einerAktie das Ergebnis einer i. Allg. großen Zahl von Käufen und Verkäufen, Messergebnissewerden häufig durch zahlreiche Einwirkungen zufälliger Art beeinflusst(Temperatur, Ablesefehler u. a.). Die Wahrscheinlichkeitstheorie widmetsich diesen Fragen, indem sie die Wahrscheinlichkeitsverteilungen der Summeeiner großen Anzahl n von einzelnen Zufallsgrößen studiert.Wie oft in der Mathematik üblich, geht man dabei zum Grenzwert für n → ∞über, um übersichtliche Resultate zu erzielen. Eine Gruppe entsprechenderSätze, die sogenannten zentralen Grenzwertsätze, befasst sich mit Bedingungenan die zugrunde liegenden Zufallsgrößen, unter denen eine Normalverteilungim Limes erscheint.11.1 Lokaler Grenzwertsatz von Moivre-LaplaceEs sei (X n , n ≥ 1) ein Bernoullischema mit dem Parameter p ∈ (0, 1). Dannn∑besitzt S n = X k bekanntlich (siehe Aussage 6.3) eine Binomialverteilungk=1mit den Parametern n und p:P (S n = k) =( nk)p k (1 − p) n−k =: b(n, p; k), k = 0, 1, . . . , n. (11.1)237

238 Uwe KüchlerEs gilt (vgl. Beispiele 4.13 c) und 4.21 c))ES n = np, und D 2 S n = npq mit q = 1 − p.Wir untersuchen, wie sich die Verteilung von S n bei unbegrenzt wachsendemn verändert. Offenbar wachsen ES n und D 2 S n unbeschränkt falls n nach unendlichstrebt, und b(n, p; k) konvergiert für n → ∞ bei festen p und k gegenNull. (Beachten Sie b(n, p; k) < = ( p1−p) k· 1k! · nk (1 − p) n .)Um dennoch etwas über die asymptotischen Eigenschaften der Binomialverteilungfür n → ∞ aussagen zu können, gehen wir zur standardisierten ZufallsgrößeS ∗ n über:Sn ∗ = S n − ES√ nD2 S n= S n − np√ npq.Diese Zufallsgröße hat die möglichen Wertex (n)k:= k − np √ npq,die sie jeweils mit der Wahrscheinlichkeit b(n, p; k) annimmt, k = 0, 1, . . . , n.Die x (n)k (k = 0, 1, . . . , n) bilden ein Gitter mit √ dem Gitterabstand △ n :=(npq) − 1 2 , dem kleinsten Gitterpunkt x (n)0 = − npund dem größten x (n)qn =√nq. Wir führen eine Funktion ϕ p n(·) auf folgende Weise ein:ϕ n (x) =b(n, p; k)[falls x ∈ x (n)k− △ n△ n 2 , x(n) k(k = 0, 1, . . . , n).+ △ n)2ϕ n (x) = 0, falls x < x (n)0 oder falls x ≥ x (n)n .ϕ n beschreibt ein Säulendiagramm mit (n + 1) senkrechten Säulen der Höheϕ n (x (n)k), der Breite △ n und den Säulenmitten x (n)k, k = 0, 1, . . . , n.Die Fläche der k-ten Säule beträgt b(n, p; k) und die Gesamtfläche unter derOberkante des Säulendiagramms ist gleich Eins.

Zentrale Grenzwertsätze 239Satz 11.1 (Lokaler zentraler Grenzwertsatz von Moivre-Laplace) Füralle a > 0 gilt[wobei ϕ(x) = √ 12πexplim sup |ϕ n (x) − ϕ(x)| = 0,n→∞ |x|≤a]− x22die Dichte der Standard-Normalverteilung auf R 1 ist:Φ(x) = 1 √2π∫xe − s2 2 ds, x ∈ R1 .−∞Beweis: siehe z. B. Siraev, I, § 6.Der Beweis stützt sich im Wesentlichen auf die Stirling’sche Formel der Approximationvon Fakultäten n!.Der lokale Grenzwertsatz von Moivre-Laplace wird häufig benutzt, um Wahrscheinlichkeitender Form P (k ≤ S n ≤ l) näherungsweise zu bestimmen. Esgilt nämlich wegen Sn ∗ = Sn−np √ npqdie BeziehungP (k ≤ S n ≤ l) =l∑b(n, p; m) =m=k( k − npP √ ≤ S ∗npqn ≤ l √ − np )= npq(P x (n)k)≤ Sn ∗ ≤ x (n)l=∫x (n)k + △ n2x (n)k − △n2ϕ n (s)ds ∼Analog erhält man∫x (n)k + △ n2x (n)k − △n2(ϕ(s)ds = Φx (n)l+ △ )n2−Φ ( (x (n)k− △ )n2(11.2a)(P (k ≤ S n < l) ≈ Φx (n)l− △ )n2−Φ ( x (n)k− △ )n2(11.2b)

240 Uwe Küchler(P (k < S n ≤ l) ≈ Φx (n)l+ △ ) (n−Φ2x (m)k+ △ )n2(11.2c)(P (k < S n < l) ≈ Φx (n)l+ △ ) (n−Φ2x (n)k− △ )n. (11.2d)2Häufig trifft man auf die folgenden etwas ungenaueren Approximationen, diewir als ”grobe Approximation” bezeichnen wollen, im Gegensatz zu der vorhergehenden”feinen Approximation”.P (k ≤ (

Zentrale Grenzwertsätze 2413. ”Feine” Approximation:P (6 ≤ S 16 ≤ 10) = P (−1 − 1 4 ≤ S∗ 16 ≤ 1 + 1 )≈4Φ(1, 25) − Φ(−1, 25) = 2Φ(1, 25) − 1 = 2 · 0, 8944 − 1 = 0, 788.Die Approximation ist nicht so gut für p ≠ 1 . Man berechne sie für n = 16, p =20, 2.11.2 Der zentrale Grenzwertsatz von Feller-LévyVoraussetzung 11.3 Es seien (X n , n ≥ 1) eine Folge unabhängiger, identischn∑verteilter Zufallsgrößen mit σ 2 := D 2 X 1 ∈ (0, ∞) und S n := X k .Insbesondere giltk=1ES n = nEX 1 , D 2 S n = nσ 2 . (11.3)Das Gesetz der großen Zahlen besagt, dass die arithmetischen Mittel M n = 1 S n nP -fast sicher gegen EX 1 konvergieren. Insbesondere streben im vorliegendenFall auch die Streuungen D 2 M n = σ2 gegen Null. Daraus folgt, dass die Verteilungenvon M n gegen die ausgeartete Verteilung, die in EX 1 konzentriertnist, konvergieren. Wenn man dagegen S n zentriert und normiert zuSn ∗ = S n − ES√ nD2 S n(Standardisierung)so hat S ∗ n den Erwartungswert Null und die Streuung Eins, und zwar für jedesn ≥ 1.Der folgende Grenzwert stellt fest, dass die Verteilungen der Sn∗Standard-Normalverteilung konvergieren.gegen die

242 Uwe KüchlerSatz 11.4 (Zentraler Grenzwertsatz von Feller-Lévy) Für die standardisiertenZufallsgrößen S ∗ n, n ≥ 1 giltlimsupn→∞ −∞≤a

Zentrale Grenzwertsätze 243von Verteilungsfunktionen F n gegen eine Verteilungsfunktion F (siehe Bemerkungenach Stetigkeitssatz 9.6) im Falle, dass F stetig ist, gleichmäßig erfolgt(Übung 11.1).Der eben angegebene Zentrale Grenzwertsatz ist ein geeignetes Hilfsmittel,um mit guter Näherung Wahrscheinlichkeiten bestimmen zu können, die imZusammenhang mit arithmetischen Mitteln unabhängiger, identisch verteilterZufallsgrößen stehen.Wir werden dafür einige Beispiele angeben. Sie stützen sich alle auf folgendeNäherungsgleichung:Auf Grund des Zentralen Grenzwertsatzes giltF S ∗ n(x) := P (S ∗ n ≤ x) ≈ Φ(x) , x ∈ R 1 (11.5)Wir werden im Folgenden diese Näherung verwenden, die in Anwendungsfällenmeist für nicht allzu große n genügend genau erfüllt ist. (Zur genauen Konvergenzgeschwindigkeitsiehe die Ungleichung 11.4.)Insbesondere folgen die häufig nützlichen Formeln:P (S n ≤ xσ √ n + nµ) ≈ Φ(x), x ∈ R 1 , (11.6)( y − nµ)P (S n ≤ y) ≈ Φσ √ n, y ∈ R 1 , (11.7)(P | S ) (nn − µ| > c ≈ 2 1 − Φ( c√ nσ)), c > 0, (11.8)P ( | S ) ( √nc n)n − µ| ≤ c ≈ 2Φ − 1, c > 0. (11.9)σDie Werte der Standard-Normalverteilungsfunktion Φ entnimmt man einerentsprechenden Tabelle. (Erinnert sei an die Voraussetzung (11.3).

244 Uwe KüchlerIm Folgenden geben wir einige Anwendungen dieser Formeln an. Dabei setzenwir voraus, dass (X n , n ≥ 1) den Voraussetzungen 11.3 des Satzes von Fellern∑Lévy genügt und definieren wie gehabt S n = X k .k=1a) Mit welcher Wahrscheinlichkeit weicht das arithmetische Mittel S nnmehr als c vom Erwartungswert µ ab?umAntwort: Wegen (11.7) mit der Wahrscheinlichkeit(P | S )nn − µ| > c ≈ 2(1 − Φ( c√ nσ)).Mit welcher Wahrscheinlichkeit überdeckt das (zufällige) Intervall)c, S nn+ c den Erwartungswert µ?Antwort: Mit der Wahrscheinlichkeit (siehe (11.8))( SnPn − c ≤ µ ≤ S ) (nn + c = P | S )nn − µ| ≤ c =(1 − P | S ) ( √nc n)n − µ| > c ≈ 2Φ − 1σ(S nn−b) Es seien α ∈ (0, 1) und n vorgegeben. Wie groß muss man c mindestenswählen, damit gilt(P | S )nn − µ| > c ≤ α?(Antwort: Wegen (11.7) wählt man c mindestens so groß, dass 2 1 −( √ ))Φ c n≤ α erfüllt ist. Das bedeutetσc = > q 1−α · σ√ ,2 n

Zentrale Grenzwertsätze 245wobei q p das p-Quantil der Standard-Normalverteilung bezeichnet. SieheDefinition 3.35 und Aussage 3.38 sowie die Normalverteilungstabelle.Mit der Wahrscheinlichkeit 1−α gilt dann für die Beziehung c = q 1−α2nµ − q 1−α2 · σ√ n ≤ S n ≤ nµ + q 1−α2 · σ · √n, d.h.µ − q 1−α2 ·σ√ n≤ S nn ≤ µ + q 1− α 2 ·σ√ nc) α ∈ (0, 1) und c > 0 seien gegeben. Wie groß sollte man n mindestenswählen, damit gilt:()Antwort: P | Sn − µ| ≤ c = 1 − Pn(P | S )nn − µ| ≤ c ≥ 1 − α(| Snn − µ| > c )≈( ( √ c n))1 − 2 1 − Φ ≥ 1 − ασAlso sollte man n mindestens so groß wählen, dassσ √ ngilt, d. h.( √ c n)Φ ≤ 1 − α σ 2n ≥ σ2c 2 · q2 1− α 2also[ σ2 ]n ≥ n 0 =c · 2 q2 1− α + 1,2wobei [z] = max{k ≥ 0|k ∈ N, k ≤ z}, (z > 0) gesetzt wird.Um die Konvergenzgeschwindigkeit im zentralen Grenzwertsatz von Lévy-Fellerabschätzen zu können, ist folgende Ungleichung nützlich.

246 Uwe KüchlerUngleichung 11.5 von Berry-EssenUnter den Voraussetzungen des Satzes von Feller-Lévy und der Annahme E|X 1 | 3

Zentrale Grenzwertsätze 247Bemerkung 11.6 Als ”Praxiserfahrung” gibt Henze (2006) in seinem Kap.27 die Faustregel npq ≥ 9 als ”für praktische Zwecke ausreichend” an.Ist npg ≥ 9 nicht erfüllt, n aber nicht zu klein, so ist evtl. der Poisson’scheGrenzwertsatz anwendbar (vgl. Übung 6.6):Ist p n −→ 0, mit np n −→ λ > 0 so gilt für jede k ≥ 0n→∞ n→∞( nk)p k n(1 − p n ) n−k = λkk! e−λ =: π k (λ).limn→∞pn→0npn→λFür p ≪ 1, n ≫ 1 und λ := np < 9 kann man mit der Näherungrechnen.( nk)p k (1 − p) n−k ≈ π k (λ)Zahlenbeispiele 11.7a) In einem Computerprogramm wird nach jeder Operation auf die j-teDezimale gerundet. [ Rundungsfehler ] addieren sich, sind unabhängig und−10gleichverteilt auf−j; +10−j , n = 10 6 Operationen werden ausgeführt.2 2Wie groß ist die Wahrscheinlichkeit dafür, dass der absolute Rundungsfehlerim Endresultat größer als c = 500 · 10 −j ist?Antwort: Hier sind X 1 , . . . , X n unabhängig, identisch verteilt, EX i =0, D 2 X i = 10−2j 12Auf Grund des Zentralen Grenzwertsatzes von Lévy-Feller istS ∗ n = S n · √12· 10 j annähernd Standard-normalverteilt.Für die gesuchte Wahrscheinlichkeit erhalten wirP (|S n | > 500 · 10 −j ) = P (|S ∗ n| >√12 · 50010 3 ) =

248 Uwe KüchlerP (|S ∗ n| > √ 3) ≈ 2(1 − Φ( √ 3)) =2(1 − 0, 9584) = 0, 083.Will man dagen eine Schranke, die mit Sicherheit gilt, rechnet man mitdem ungünstigsten Fall, dass alle Fehler gleiches Vorzeichen haben undsich summieren. Dann kann man nur sagen, dass mit Sicherheit[S n ∈ − 106−j2], + 106−j2gilt. Das sind Schranken, die weit größer als die vorher bestimmten sind.b) Ein regulärer Spielwürfel wird 1000mal unabhängig voneinander geworfen.Der Erwartungswert der Augensumme beträgt 3500. In welchem(möglichst kleinem) Intervall [3500 − c, 3500 + c] wird die Augensummemit der Wahrscheinlichkeit 0, 95(0, 99 bzw. Eins) liegen?Antwort: Die WahrscheinlichkeitP (|S 1000 − 3500| ≤ c) = P ( |S ∗ 1000| ≤cσ √ ) ( c ≈ 2Φ10 3 σ √ )− 110 3soll gleich 0, 95 sein. (σ 2 = Streuung der Augenzahl eines Wurfes =2, 917.)Daraus folgt 2Φ ( ) ( )cσ √ 10 − 1 = 0, 95 also Φc3 σ √ 10 = 0, 975 und3.c = 92, 23 · q 0,975 = 180, 8Für 0, 99 an Stelle 0, 95 ergibt sich c = 237, 5und für 1 an Stelle 0, 95 erhalten wir c = 2500.

Zentrale Grenzwertsätze 249c) Wie oft muss man einen Punkt rein zufällig aus dem Einheitsquadratauswählen, um mit der in Abschnitt 10.4.1 beschriebenen Methode dieZahl π mit einer approximativen Wahrscheinlichkeit von 0, 95 auf m Stellengenau zu4bestimmen?Antwort: Mit α = 0, 05 giltn 0 =[q 2 1− α 2( )· π4 1 −π ]410 −2mn 0 = 0, 65 · 10 2m .11.3 Der zentrale Grenzwertsatz von Lindeberg-FellerEs seien im Weiteren (X n , n ≥ 1) eine Folge unabhängiger, aber nicht notwendigidentisch verteilter Zufallsgrößen, S n := X k . Dien∑Verteilungsfunktionvon X n werde mit F n bezeichnet.Problem: Unter welchen Bedingungen gibt es Zahlenfolgen (a n ) und (b n ) mitb n > 0, so dass die Verteilungen von Sn−anb nschwach (d. h. in Verteilung) gegendie Normalverteilung konvergieren?Ohne weitere Voraussetzungen kann man Konvergenz gegen die Normalverteilungnicht erwarten.k=1Beispiel 11.8 Alle X n seien Cauchyverteilt mit dem Parameter a. Dann istauch S nnCauchyverteilt mit dem Parameter a. (Beweis mittels charakteristischerFunktionen.) Das heißt für a n ≡ 0 und b n = n erhalten wir die Konvergenzvon Sn−anb nfür n → ∞, aber nicht gegen die Normalverteilung.Eine wesentliche Rolle bei der Lösung des oben gestellten Problems spielt derfolgende Begriff.

250 Uwe KüchlerDefinition 11.9 Man sagt, die Folge (X n ) erfüllt die Lindeberg-Bedingung(L), falls gilt D 2 X n < ∞, n ≥ 1 und fallslimn→∞1D 2 S nn∑∫k=1{x:|x−EX k |≥εσ n}|x−EX k | 2 F k (dx) = 0 ∀ε > 0.(L)Dabei werde σ n = √ D 2 S n gesetzt.Falls die Lindeberg-Bedingung (L) gilt, so folgtlim max D 2 X k= 0. (F )n→∞ 1≤k≤n D 2 S nDie Eigenschaft (F ) wird auch als Feller-Bedingung bezeichnet.Beweis: Es giltD 2 X k= < ε 2 + 1 []E (XD 2 S n D 2 k − EX k ) 2 1 {|Xk −EXSk |≥εσ n} .nDaraus folgt für jedes ε > 0.D 2 X kmax ≤ ε 2 + 11≤k≤n D 2 S n D 2 S nAus (L) folgt nunmehr (F ).n∑k=1[]E(X k − EX k ) 2 1 {|Xk −EX k |≥εσ n} .□Die Feller-Bedingung besagt anschaulich, dass jede der Streuungen D 2 X k , k =1, . . . , n, für große n verschwindend klein ist im Vergleich zur Streuung D 2 S nder Summe X 1 + X 2 + . . . + X n .Aus der Feller-Eigenschaft (F ) ergibt sich eine weitere Eigenschaft der Folge(X n ), die man als ”Asymptotische Kleinheit der X n,k := X k−EX kσ n” bezeichnet:(lim max P |Xk − EX k |n→∞ 1≤k≤n σ n)> ε = 0. (AK)Der Beweis ergibt sich unmittelbar aus (F ) mittels der Tschebyschev’schenUngleichung:

Zentrale Grenzwertsätze 251( |Xk − EX k |Pσ n)> ε ≤ D2 X k, k = 1, . . . , n.σn 2 · ε 2Nunmehr haben wir alle Begriffe, um folgenden Satz zu formulieren.Satz 11.10 (Zentraler Grenzwertsatz von Lindeberg-Feller) Es sei (X n , n ≥1) eine Folge unabhängiger Zufallsgrößen über (Ω, A, P ) mit 0 < D 2 X n < ∞.Dann sind folgende Aussagen äquivalent:1) Die X n,k = X k−EX kσ n, k = 1, . . . , n; n ≥ 1 mit σn 2 = D 2 S n sind asymptotischklein im Sinne von (AK) und es giltlimsupn→∞ −∞≤a

252 Uwe Küchlerb) Für ein δ > 0 sei die folgende Ljapunov-Bedingung erfüllt:1σ 2+δnn∑1E|X k −m k | 2+δ −→n→∞0(Ljap).Dann gilt die Lindeberg-Bedingung (L).Beweis: Für jedes ε > 0 haben wir∫|X k − m k | 2+δ =|x − m k | 2+δ dF k (x) ≥R 1≥∫|x − m k | 2+δ dF k (x) ≥ ε δ σ δ n∫|x − m k | 2 dF k (x){x||x−m k |≥εσ n }=⇒ 1 σ 2 nn∑11ε δ σ 2+δn∫{x||x−m k |≥εσ n }{x||x−m k |≥εσ n }(x − m k ) 2 dF k (x) ≤n∑E|X k − m k | 2+δ → 0k=1n∑(X k −EX k )Es gibt Folgen (X n ) unabhängiger Zufallsgrößen mit Sn ∗ k=1= √D 2 S nw−→ N(0, 1), wo weder (L) gilt noch Asymptotische Kleinheit (AK) vorliegt:Die Zufallsgrößen (X n , n ≥ 1) seien unabhängig und normalverteilt mitEX n ≡ 0, D 2 X 1 = 1, D 2 X n = 2 n−2 , n ≥ 2.n∑n∑Dann ist die Streuung D 2 S n von S n = X k gleich D 2 X k = 2 n−1 . Wirsetzen wie üblichS ∗ n =1√D2 S nk=1n∑X k , n ≥ 1.k=1k=1

Zentrale Grenzwertsätze 253Die Folge (X n , n ≥ 1) genügt nicht der Lindeberg-Bedingung, da insbesonderedie Fellereigenschaft (F) nicht gilt:D 2 X kmaxk=1,...,n D 2 S nX k √D 2 S n;2 k−2= maxk=1,...,n 2 = 1 n−1 2 .Außerdem sind die X n,k := k = 1, . . . , n; n ≥ 1 nicht asymptotischklein im Sinne von (AK), da für alle ε > 0 und n ≥ 1 die Gleichungerfüllt ist.(max P |Xk |) ( |Xn |) )√ > ε = P √k=1,...,n D2 S > ε = 2(1 − Φ(ε) > 0n 2n−1Andererseits genügt (X n , n ≥ 1) trivialerweise dem zentralen Grenzwertsatz:S ∗ n ist für jedes n ≥ 1 Standard-normalverteilt.