Einführung in die Programmierung numerischer und ... - Desy

Einführung in die Programmierung
numerischer und statistischer Methoden
in C++
Teil II: Numerische und Statistische Methoden
Vorlesung 7: Numerisches Lösen von Differentialgleichungen
Hartmut Stadie & Christian Sander
SS 2008
Universität Hamburg

Gewöhnliche DGL
● Gewöhnliche DGL n-ter Ordnung hängen nur von den Ableitungen der
gesuchte Funktion y(x) nach genau einer Variable x ab:
f (x, y(x), y'(x), y''(x), ..., y (n) (x)) = 0
● Ist f eine Funktion mit m-Komponenten, so nennt man sie ein
gewöhnliches Differentialgleichungssystem n-ter Ordnung von m
Gleichungen
● Gewöhnliche Differentialgleichungen beliebiger Ordnung lassen sich
immer auf ein System von gewöhnlichen Differentialgleichungen erster
Ordnung zurückführen :
Hilfsfunktionen y 1 , y 2 , ..., y n mit: y 1 ' = y 2 , y 2 ' = y 3 , ... y n−1 ' = y n und
y n ' = f (x, y 1 , y 2 , ..., y n )
2

Gewöhnliche DGL
● Kann eine DGL nach der höchsten vorkommenden Ableitung aufgelöst
werden
y (n) (x) = f (x, y'(x), y''(x), ..., y (n−1) (x))
so nennt man sie explizit, ansonsten implizit.
● Sucht man eine spezielle Lösung der DGL, die Anfangsbedingungen
der Form
y(x 0 ) = y 0 , y'(x 0 ) = y 1 , ..., y (n−1) (x 0 ) = y n−1
erfüllt, so spricht man von einem Anfangswertproblem.
● Ist f linear in den Ableitungen y (k) (x) (k = 0 ... n), so nenn man die DGL
linear
● Hängt f nicht explizit von x ab, so nennt man die DGL autonom
3

●Beispiel: Radioaktiver Zerfall
Gewöhnliche DGL
●Die Anzahl der in einem Zeitintervall dt zerfallenden Kerne ist
proportional zur Gesamtzahl der radioaktiven Atome
●Beispiel: Newtonsche Bewegungsgleichung
m⋅d 2
dN
dt =⋅N
dt 2 x t= F t , x t
●System linearer DGL 2ter Ordnung
4

Gewöhnliche DGL
● Da sich nur wenige Typen von DGL analytisch lösen lassen
verwendet man häufig numerische Lösungsverfahren
● Wir wollen hier die folgenden numerischen Methoden für
gewöhnliche DGL behandeln:
● Einschritt-Verfahren
● Eulersches Polygonzug-Verfahren (explizites Euler-Verfahren)
● Implizites Euler-Verfahren
● Methode von Heun
● Runge-Kutta-Verfahren
● Mehrschritt-Verfahren
● Adams-Bashforth-Methode (explizit)
● Adams-Moulton-Methode (implizit)
5

Einschrittverfahren
● Einschrittverfahren benützen zur Berechnung der Näherung an die
Lösung im nächsten Zeitpunkt nur Informationen des aktuellen
Zeitpunktes.
● Näherungslösung u des Anfangswertproblems
ist gegeben durch
y'(x) = f (x, y(x)) mit y(x 0 ) = y 0
u(x i+1 ) = u(x i ) + h ∙ Φ(x i , u(x i ), h, f )
● Dabei wird Φ als Inkrementfunktion bezeichnet
● Alternativ: Rekursionsformel der folgenden Art verwenden:
u(x i+1 ) = u(x i ) + h ∙ Φ(x i , u(x i ), u(x i+1 ), h, f )
● Hängt Φ nicht von u(x i+1 ) ab, so wird das Verfahren explizit genannt
(sonst implizit)
6

Eulersches Polygonzug-Verfahren
● Entwickelt von Leonhard Euler (1707-1783)
● Ist ein explizites Einschrittverfahren
y'(x) = f (x, y(x)) mit y(x 0 ) = y 0
● man wählt eine Diskretisierungs-Schrittweite h > 0 und betrachte die diskreten
x-Werte
x k = x 0 + k∙h mit k = 1, 2, ...
● Iterative Berechnung der Näherungswerte
y k+1 = y k + h ∙ f (x k , y k )
● Die y k sind Näherungen an die wahre Lösung y(x k )
● Interpretation: lineare Taylorentwicklung
● Je kleiner die Schrittweite h, desto genauer die Näherung
7

Eulersches Polygonzug-Verfahren
●Die einzelnen Näherungslösungen (x k , y (x k )) können als Punkte A k
eines Polygonzuges interpretiert werden
y(x)
x
8

Eulersches Polygonzug-Verfahren
● Fehlerabschätzung: vergleiche Näherung y 1
y 1 = y 0 + h ∙ f (x 0 , y 0 ) = y 0 + h ∙ y'(x 0 )
● mit der Taylorentwicklung von y um x 0 unter der Voraussetzung, dass
y(x 0 ) = y 0 bekannt ist
y 1 = y 0 + y'(x 0 ) ∙ h + ½ ∙ y''(x 0 ) ∙ h 2 + O(h 3 )
● Der Fehler für den ersten Schritt ist
½ ∙ y''(x 0 ) ∙ h 2 + O(h 3 )
● Für kleine h ist der Fehler also proportional zu h 2 . Für eine Berechnung
über ein Intervall [x 0 ,x] benötigt man eine Anzahl von Schritten
proportional zu 1/h. Also wird näherungsweise der Gesamtfehler
proportional zu h sein. Man spricht von einem Verfahren erster
Ordnung.
9

Implizites Euler-Verfahren
● Gesucht ist die Lösung der DGL
● Diskretisierung von x
y'(x) = f (x, y(x)) mit y(x 0 ) = y 0
x k = x 0 + k ∙ h mit k = 1, 2, ...
● iterative Berechnung der Näherungswerte
y k+1 = y k + h ∙ f (x k+1 , y k+1 )
● Anschauliche Beschreibung: Auswertung der Ableitung am Zielpunkt
und nicht am Ausgangspunkt
● f (x k+1 , y k+1 ) ist nicht explizit, sondern nur implizit gegeben. Auflösen der
Gleichung nach y k+1 (Problemabhängig)
● Implizit heißt nicht, dass es einen implizite DGL sein muss
10

Implizites Euler-Verfahren
● Beispiel: Gesucht ist die Lösung des Anfangswertproblems
y'(x) = f (y) = a – b ∙ y mit y (x 0 ) = y 0
● f (y) soll am Ziel des Iterationsschrittes ausgewertet werden
● also
● und auflösen nach y k+1
y k+1 = y k + h ∙ f (y k+1 )
y k+1 = y k + h ∙ (a – b ∙ y k+1 )
y k+1 = ( y k + h ∙ a ) / ( 1 – h ∙ b )
● Das Verfahren ist von erster Ordnung; es gibt keine Einschränkung der
Zeitschritte bzgl. der Stabilität; besonders interessant für Probleme, die
einem stabilen Zustand entgegenstreben.
11

Methode von Heun
● Entwickelt von Karl Heun (1859-1929)
● Gesucht sei wieder die Lösung der DGL zu einem
bestimmten Wert x 1
● Integration liefert:
y'(x) = f (x, y (x)) mit y (x 0 ) = y 0
● Auswertung des Integrals mit numerischen Verfahren; z.B. mit
Trapezregel
y 1 = y 0 + h/2 ∙ (f (x 0 ,y 0 ) + f (x 1 ,y 1 ))
●
*
Die rechte Seite der Gleichung hängt von y ab; Eine Näherung y 1 1
erhält man durch lineare Extrapolation von x 0 nach x 1
x 1
y x 1= y x 0∫ x0
f x , ydx
12

Methode von Heun
* y = y0 + h ∙ f (x , y )
1
0 0
●
* Mit dieser Näherung y (sog. Prädiktor) lässt sich eine neue Näherung
1
für y bestimmen, die iterativ verbessert werden könnte.
1
● Die Gleichung
nenn man Korrektor
* y = y + h/2 ∙ ( f (x ,y ) + f (x ,y ))
1 0 0 0 1 1
●
* Verwendet man die Näherung y direkt als Lösung, ist dies das Euler-
1
Verfahren; verwendet man den Korrektor ist es die Methode von Heun
● Einfaches aber stabiles Verfahren zweiter Ordnung (Fehler proportional
zu h 2 )
13

Methode von Heun
●Graphische Interpretation y'(x) = f (y) mit y (x 0 ) = y 0
y (x)
y 0
x 0
wahre Lösung y (x)
x
14

Methode von Heun
●Graphische Interpretation y'(x) = f (y) mit y (x 0 ) = y 0
y (x)
y 1
y 0
gesucht
x 0
h x 1
wahre Lösung y (x)
x
15

Methode von Heun
●Graphische Interpretation y'(x) = f (y) mit y (x 0 ) = y 0
y (x)
* y1 y 0
Steigung f ( y 0 )
x 0
h x 1
wahre Lösung y (x)
* y ist Lösung nach
1
Euler-Polygonzug-Verfahren
x
16

Methode von Heun
●Graphische Interpretation y'(x) = f (y) mit y (x 0 ) = y 0
y (x)
* y1 y 0
* Steigung f ( y ) Steigung f ( y )
0 1
x 0
h x 1
* y wird als Prädiktor
1
verwendet
wahre Lösung y (x)
x
17

Methode von Heun
●Graphische Interpretation y'(x) = f (y) mit y (x 0 ) = y 0
y (x)
* y1 y 0
* Steigung f ( y ) Steigung f ( y )
0 1
x 0
h/2
x 1
* y wird als Prädiktor
1
verwendet
wahre Lösung y (x)
x
18

Methode von Heun
●Graphische Interpretation y'(x) = f (y) mit y (x 0 ) = y 0
y (x)
* y1 y 0
* Steigung f ( y ) Steigung f ( y )
0 1
x 0
h/2
x 1
wahre Lösung y (x)
Näherung für y 1 nach
der Methode von Heun
x
19

Runge-Kutta-Verfahren
●Entwickelt von Carl Runge (1856-1927) und
Martin Wilhelm Kutta (1867-1944)
●Verbesserung der Methode durch Verwendung
von feineren Integrationsregeln als die
Trapezregel (z.B. Simpson-1/3-Regel)
●Erste Annahme: (x 0 , y 0 ) und (x 1 , y 1 ) seien bekannt
x 1 – x 0 = x 2 – x 1 = h
y 2 = y 0 + h/3∙( f (x 0 , y 0 ) + 4∙f (x 1 , y 1 ) + f (x 2 , y 2 ))
●Man *
benötigt nun wieder einen Prädiktor y2 20

Runge-Kutta-Verfahren
● Ansatz: y(x 0 ), y(x 1 ) und y'(x 0 ), y'(x 1 ) seien bekannt; verwende kubisches
Polynom mit diesen Randbedingungen, um Prädiktor herzuleiten
* y = 5∙y0 – 4∙y + 2∙h∙y'(x ) + 4∙h∙y'(x )
2
1 0 1
●
* einsetzen: y = y + h/3∙( f (x , y ) + 4∙f (x , y ) + f (x , y ))
2 0 0 0 1 1 2 2
● Es handelt sich nicht um ein Ein-Schritt-Verfahren, da zwei
aufeinanderfolgende Stützstellen verwendet werden.
● Diese ursprüngliche Voraussetzung kann nun aufgegeben werden,
indem man ein anderes Ein-Schritt-Verfahren (z.B. die Methode von
* Heun) verwendet, um y mit y abzuschätzen
1 1
● Mit der Methode von Heun ergibt sich der folgende kompakte
Formelsatz zur Bestimmung einer Näherung von y 1 bei gegebenen y 0
21

Runge-Kutta-Verfahren
●Gegeben: y'(x) = f (x, y(x)) mit y(x 0 ) = y 0
k 1 = h ∙ f (x 0 , y 0 )
k 2 = h ∙ f (x 0 + h/2, y 0 + k 1 /2)
k 3 = h ∙ f (x 0 + h/2, y 0 + k 1 /4 + k 2 /4)
k 4 = h ∙ f (x 0 + h, y 0 - k 2 + 2∙k 3 )
●und schließlich: y 1 = y 0 + h/6∙(k 1 + 4∙k 3 + k 4 )
●Dieses Runge-Kutta-Verfahren ist von der 3. Ordnung (Fehler
proportional zu h 3 )
22

Runge-Kutta-Verfahren
● In der Praxis hat sich ein etwas anderes Formelsystem eingebürgert, was
nicht mehr auf der Simpson-1/3-Regel aufbaut: das klassische Runge-Kutta-
Verfahren 4ter Ordnung
● Ansatz: Vergleiche y 1 = y 0 + h∙(a 1 k 1 + a 2 k 2 + a 3 k 3 + a 4 k 4 ) mit Taylorentwicklung der
Ordnung 4 (Rechnung länglich)
y 1 ≈ y 0 + h∙y'(x 0 ) + h 2 /2∙y''(x 0 ) + h 3 /3!∙y (3) (x 0 ) + h 4 /4!∙y (4) (x 0 )
y 1 ≈ y 0 +h∙f (x 0 , y 0 )+h 2 /2∙f '(x 0 , y 0 )+h 3 /3!∙f ''(x 0 , y 0 )+h 4 /4!∙f (3) (x 0 , y 0 )
k 1 = h ∙ f (x 0 , y 0 )
k 2 = h ∙ f (x 0 + h/2, y 0 + k 1 /2)
k 3 = h ∙ f (x 0 + h/2, y 0 + k 2 /2)
k 4 = h ∙ f (x 0 + h, y 0 + k 3 )
● und schließlich: y 1 = y 0 + h/6∙(k 1 + 2∙k 2 + 2∙k 3 + k 4 )
23

●Gegeben:
Mehrschrittverfahren
y'(x) = f (x, y(x)) mit y (x 0 ) = y 0
●Ein lineares Mehrschrittverfahren erzeugt zu einer gegebenen
Schrittweite h>0 eine Folge y n , n є N von Näherungen zu den
Funktionswerten y n ≈ y (x n ) = y (x 0 + h∙n)
●Dabei besteht zwischen den Näherungswerten und der
Differentialgleichung die lineare Rekursionsgleichung
m m
j=0 a j⋅y n− j=h j=0 b j⋅f xn− j , yn− j ●a 0 ... a m sowie b 0 ... b m bestimmen das Mehrschrittverfahren, dabei
gilt a 0 = 1
●Ist b 0 ≠ 0 so nennt man das Verfahren implizit ansonsten explizit
24

Mehrschrittverfahren
●Implizite Verfahren können bei gleicher Länge m der
Koeffizienten-Ntupel eine um 1 höhere Konsistenzordnung als
explizite Verfahren haben. Ihr Nachteil besteht jedoch darin, dass
bei der Berechnung von y n+1 bereits f (x n+1 , y n+1 ) benötigt wird. Dies
führt in der Regel zu einem nichtlinearen Gleichungssystem.
●In jedem Fall müssen die ersten m Glieder der Folge der
Näherungswerte mit einem anderen Verfahren bestimmt werden,
im einfachsten Fall wird linear extrapoliert
y k = y 0 +k ∙ h ∙ f (x 0 , y 0 ), k = 1, ..., m−1
●Besser: mit Runge-Kutta bestimmen
25

Adams-Bashforth-Methode
●Explizites s+1-Schritt-Verfahren (Ordnung s)
mit
s = 1:
s = 2:
usw.
b j=
s
yn1= ynh⋅ j=0
j
−1
j !s− j! ∫ 1
0
s
i=0, i≠ j
b j⋅f x n− j , y n− j
uidu j=0s
nh⋅ yn1= y 3
2 f xn , y 1
n− 2 f xn−1 , yn−1 y n1= y nh⋅ 23
12 f t n , y n − 16
12 f t n−1 , y n−1 5
12 f t n−2 , y n−2
26

Adams-Moulton-Methode
● Implizites s+1-Schritt Verfahren (Ordnung s+1)
mit
s = 2:
b j=
s−1
yn1= ynh⋅ j=−1 b j⋅f xn− j , yn− j
−1 j1
j−1!s− j−1! ∫ 1
0
s−1
i=−1,i≠ j
uidu j=−1s−1
y n1= y nh⋅ 1
12 5⋅f x n1 , y n1 8⋅f x n , y n − f x n−1 , y n−1
● Wenn analytisches Lösen der Gleichung nach y n+1 nicht möglich ist,
kann wieder die Prädiktor-Korrektor-Methode angewendet werden.
● Der Vorteil von MV gegenüber EV ist ihr Verhältnis zwischen Kosten
und Konsistenzordnung. Dies liegt daran, dass bei einem MV jeweils
nur ein Wert aus bereits vorhandenem Datenmaterial berechnet werden
muss.
27

Stabilität numerischer Verfahren
● Gesamtfehler hat zwei Anteile
● Numerischer Verfahrensfehler (Diskretisierungsfehler): hängt von
Schrittweite h und Ordnung des Verfahrens ab
● Rundungsfehler: hängt von Rechnertyp, Compiler und Datentyp ab
Fehler
6
5
4
3
2
1
Rundungsfehler
h optimal
0
0 1 2 3 4 5 6 7 8
h
Diskretisierungsfehler
28

Partielle DGL
●Hängt eine Funktion z von mehreren Veränderlichen (z.B. x und y)
ab, so kann ihr Verlauf durch eine partielle DGL gegeben sein
f
x , y , z x , y , ∂ z
∂ x
, ∂ z
∂ y , ∂2 z
∂ 2 x , ∂2 z
∂ 2 y , ∂2 z
∂ x ∂ y
, =0
●Viele physikalische Prozesse hängen sowohl vom Ort als auch
von der Zeit ab (Beispiele: Wellengleichung,
Diffusionsgleichung ...)
●Den Grad der höchsten Ableitung, der in der Gleichung vorkommt,
nennt man die Ordnung
●Treten die Ableitungen nur linear auf, nenn man die DGL linear
29

Partielle DGL
● Einteilung für partielle DGL 2. Ordnung
● Wenn
a ∂2 z
∂ x 2b ∂2 z
∂ x ∂ y c ∂2 z ∂ z
2d
∂ y ∂ x
∂ z
e f =0
∂ y
● a∙c − b 2 /4 > 0 ist die Gleichung in (x, y) elliptisch (Poisson-Gl.)
● a∙c − b 2 /4 = 0 ist die Gleichung in (x, y) parabolisch (Diffusionsgl.)
● a∙c − b 2 /4 < 0 ist die Gleichung in (x, y) hyperbolisch (Wellengl.)
● Für mehr Variablen ist die Einteilung i.A. nicht vollständig
● PDGL haben i.A. mehrere Lösungen; um eindeutige Lösung zu
erhalten, bedarf es Zusatzbedingungen (Rand- und/oder
Anfangsbedingungen RB/AB); dies ist vergleichbar mit gewöhnlichen
DGL, bei denen man AB/RB in einem Punkt braucht; bei PDGL reicht
die Vorgabe eines Funktionswertes an einem Punkt nicht mehr aus;
man benötigt zur eindeutigen Lösung Werte auf einer Mannigfaltigkeit
30

Lösungsmethoden:
Partielle DGL
● Finite Elemente (Simulation von elastischen und inelastischen
Verformungen)
● Finite Differenzen (Anwendung z.B. in der Meteorolgie)
● Finite Volumen (Beispiel Navier-Stokes-Gleichung in der
Strömungsmechanik)
● Randelement-Methode (nur die Randfläche wird diskretiesiert)
● Leapfrog-Verfahren: abgewandeltes Eulerverfahren für DGL zweiter
Ordnung (z.B. Planetenbewegung); die Zeitschritte für Ort und
Geschwindigkeit sind um die halbe Integrationschrittweite versetzt;
dadurch wird höhere Genauigkeit und Zeitsymmetrie erreicht.
● Und und und und ...
31

Spektralmethode
● Lösung von Anfangswertproblemen
● Idee: Darstellung der Funktion nicht auf einem diskreten Gitter, sondern
durch einen Satz orthogonaler Funktionen (z.B. Fourierentwicklung in
der Ebene oder Kugelflächenfunktionen auf einer Kugeloberfläche)
● Für diese Komponenten seien die Lösungen der PDGL entweder
bekannt oder leicht bestimmbar
● Die Lösung ergibt sich dann wieder aus der Zusammensetzung der
einzelnen Komponenten
● Am besten lässt sich die Methode anhand eines Beispieles
demonstrieren:
Advektionsgleichung:
∂T
∂t
u⋅∂T
∂ x =0
32

Spektralmethode
● Die Advektionsleichung beschreibt die Eigenschaft eines Partikels (zum
Beispiel Temperatur T ) in einem Strömungsfeld
∂T u⋅∂T
∂t ∂ x
● Hängt u nicht explizit vom Ort x ab, so beschriebt die DGL die
Verlagerung einer beliebigen Verteilung T mit der Zeit
=0
● Natürlich lässt sich sofort eine analytische Lösung angeben
wobei f eine beliebige Funktion ist
T (x, t ) = f (x − t ∙ u)
● Die Lösungen umfassen auch ebene propagierende Wellen
mit der Dispersionsrelation c/k = u
T (x, t ) = T 0 ∙exp( i ∙( k ∙ x − c ∙ t ))
33

Spektralmethode
● Darstellung von T(x,t) als Fourierreihe (*)
N
T t , x= k=−N
T k t⋅e i⋅k⋅x
● Einsetzen in die Advektionsgleichung und analytisches Berechnen der
Ableitung liefert:
N ∂T k t
k=−N ∂ t ⋅ei⋅k⋅x N
u⋅ k =−N i⋅k⋅T k t ⋅e i⋅k⋅x =0
● Durch Orthogonalität und die Tatsache, dass die Koeffizienten mit
negativem k gleich dem Komplexkonjugierten mit positiven k sind (bei
reelem T(t, x)), erhält man N + 1 Differentialgleichungen in der Zeit zur
Bestimmung der Real- und Imaginärteile der einzelnen Tk ∂T k t
∂t i⋅u⋅k⋅T k x=0
● Diese Gleichung kann wiederum numerisch oder analytisch gelöst
werden und in (*) eingestzt werden
34

The End