I f - Lab4Inf

Numerik in Java
Einige wichtige numerische Methoden in Java
Prof. Dr. Nikolaus Wulff

Ausgleichsrechnung,
• Ziel der Ausgleichsrechnung ist es die unbekannten
Parameter a=(a 1
,...,a n
) einer Funktion f an eine Reihe
von (Mess)Daten (x m
,y m
) optimal anzupassen.
• Hierzu wird die Methode der kleinsten Quadrate
verwendet:
2 =∑ m
[ f a , x m − y m ] 2 =minimal
• Dies führt auf die n Bedingungsgleichungen g k
(a)
g k a=∇ a 2 k ≡ ∂ 2
∂ a k
=0
© Prof. Dr. Nikolaus Wulff Informatik III 2

Approximation
• Außer bei Polynomen lassen sich die n Gleichungen
meist nicht analytisch lösen.
g k a=∑ m
[f a , x m − y m ] ∂ f
∂ a k
=0
• Eine iterative (Nährungs)Lösung lässt sich durch ein
verallgemeinertes Newton-Verfahren finden:
a n1 =a n −[∇ a g k a n ] −1 g k a n
© Prof. Dr. Nikolaus Wulff Informatik III 3

Hesse-Matrix
• Da die n Funktionen g k
selbst bereits den Gradienten
der Modellfunktion f enthalten führt dies auf die
Berechnung der Hesse-Matrix H von χ 2 :
∇ a j
g k
a= ∂
∂ a j
∑ m
[f a, x m
− y m
] ∂ f
∂ a k
H jk =∑ m
[ f a , x m − y m ]
∂ 2 f
∂ a j
∂ a k
∂ f
∂ a j
∂ f
∂ a k
• Deren Invertierung für das (naive) verallgemeinerte
Newton-Verfahren erforderlich ist.
© Prof. Dr. Nikolaus Wulff Informatik III 4

Numerische Optimierung
• Anstatt die Hesse-Matrix zu invertieren bietet sich
folgendes rekursives Newton-Verfahren an:
H
2a n a n1 −a n =−∇ a 2 a n
• D. h. löse das entstehende Gleichungssystem
H
2a n y n1 =−∇ 2 a n
• nach y n+1
, was mit Hilfe des generischen LASolvers
aus Info II geschehen kann und setze x n+1
:= x n
+ y n+1 .
• Numerisch vorteilhaft ist insbesondere, dass die
Hesse-Matrix symmetrisch ist.
© Prof. Dr. Nikolaus Wulff Informatik III 5

Nichtlineare Gleichungssysteme
• Die Lösung nichtlinearer Gleichungssysteme ist eine
wichtige Aufgabenstellung der Numerik. Diese sind
von der allgemeinen Form: f :U⊂R n R m
f 1
x 1
,, x n
=0
f 2
x 1
,, x n
=0
⋮
f m
x 1
,, x n
=0
• Die Sattelpunktmethode reduziert dies auf die Lösung
des Problems g:U ⊂R n R
m
gx 1,
, x n
:= ∑
j=1
[f j
x 1,
, x n
] 2 =0
© Prof. Dr. Nikolaus Wulff Informatik III 6

Optimierung im R n
• Ist als Zielfunktion eine Norm f =∥g∥:U ⊂R n R
zu optimieren, so führt dies immer dazu die Nullstelle
des Gradienten ∇ f zu bestimmen. Muss hierzu das
Newton-Verfahren herangezogen werden, so enthält
die Jakobi-Matrix die zweiten Ableitungen von f , ist
also die Hesse-Matrix und die Iterationsvorschrift
lautet:
Bemerkung:
x k1
=x k
−[ H f
x k
] −1 ∇ f x k
• Neben den Konvergenzeigenschaften erweist sich
hierbei die Inverse der Hesse-Matrix für große n als
numerisch ungünstig.
© Prof. Dr. Nikolaus Wulff Informatik III 7

Problemstellungen
• Gesucht sind meistens optimale Lösungen.
– Was heißt hier optimal...?
• Gelingt es ein Problem mathematisch zu formulieren,
so ist die optimale Lösung als das Minimum einer
Kostenfunktion beschrieben.
• Häufig reicht als Lösung eine Approximation aus, da
– die Eingangsdaten nicht exakt vorliegen
– nur ein vereinfachtes Modell vorliegt
– das Modell mathematisch nicht geschlossen lösbar ist.
• Die Lösung muss dann innerhalb einer vorgegebenen
Fehlerschranke ε exakt sein.
© Prof. Dr. Nikolaus Wulff Informatik III 8

Abstraktion
• Computer bieten heute vielfältige Möglichkeiten,
um komplizierte Prozesse steuern und regeln zu
können. Häufig sind hierfür Methoden der
Numerischen Mathematik notwendig:
• Approximation von Funktionen.
• Nullstellensuche von Funktionen
f : C m C n
• Bestimmung von Minima/Maxima von Funktionen.
• Differentiation und Integration von Funktionen.
• Lösung von (linearen) Gleichungssystemen.
• Lösung von Differentialgleichungssystemen.
© Prof. Dr. Nikolaus Wulff Informatik III 9

Normierte Räume
• Ein linearer Raum V heißt normierter Raum, wenn
jedem f V eine reelle Zahl || f || zugeordnet ist mit
den Eigenschaften:
∥ f ∥≥0 und ∥ f ∥=0⇔ f =0
∥ f ∥=∣∣∥ f ∥
∥ f g∥≤∥ f ∥∥g∥
∈C
• Bemerkung: Der Raum V muss nicht immer der
sein, sondern auch Funktionenräume, wie die Menge
der stetigen (p-mal differenzierbaren) Funktionen
bilden „Räume“ : C X ,C p X
R n
© Prof. Dr. Nikolaus Wulff Informatik III 10

Beispiele von Normen
• Bekannte Normen auf
∥x∥ 1 :=∑ k =1
∣x ∣ k
n
R n
sind die „Manhatten Norm“
• die euklidische Norm (per Skalarprodukt)
∥x∥ 2 := 〈 x , x 〉= x T ⋅x= ∑ k =1
• und die Maximumsnorm
n
x k
2
∥x∥ ∞ :=max ∣x 1 ∣,,∣x n ∣
• allesamt Spezialfälle der generischen p-Norm
n
∥x∥ p :=∑ k =1
∣x k ∣ p 1/ p
© Prof. Dr. Nikolaus Wulff Informatik III 11

Normen für Funktionenraüme
• Die Menge B(T) der beschränkten Funktionen f auf T
∥ f ∥:=sup t∈T ∣ f t∣
• Die Menge C(T) der stetigen Funktionen f auf
kompakten T
∥ f ∥:=max t ∈T ∣ f t∣
• Die Menge L p (a,b) der auf dem Interval [a,b]
meßbaren (integrierbaren) Funktionen
b
∥ f ∥ p :=∫ a
∣ f t∣ p dt
1/ p
© Prof. Dr. Nikolaus Wulff Informatik III 12

Lineare Abbildungen
• Ein Operator A heißt linear, wenn auf seiner
Definitionsmenge für alle x,y und Skalare α gilt:
Ax y =A x A y
A x = A x
• Z.B Differentiation auf C (1) (T):
D x f =∇ f x
D x
f g =D x
f D x
g
D x
f =D x
f
• Oder Integration:
I x f = I f x=∫ x
f t dt
I x f =∫ x f t dt= I x f
I x
f g =∫ x f t g t dt =I x
f I x
g
© Prof. Dr. Nikolaus Wulff Informatik III 13