Fachbereich Mathematik - GSI

6 BFGS-Verfahren
erinnert. Das BFGS-Update wurde 1970 mit unterschiedlichen Ansätzen von Broyden,
Fletcher, Goldfarb und Shanno unabhängig voneinander entwickelt [Bro70,
Fle70, Gol70, Sha70]. Die BFGS-Aufdatierungsformel hat folgende Struktur:
Hk+1 = Hk + yk · y T k
y T k · sk
Bemerkungen:
− Hk · sk · (Hk · sk) T
s T k · Hk · sk
, y T k · sk = 0 , s T k · Hk · sk = 0 . (6.18)
• Eine Herleitung der BFGS-Aufdatierungsformel findet man z.B. in [Alt02].
• Es kann leicht gezeigt werden, dass die BFGS-Aufdatierungsformel die Quasi-
Newton-Gleichung erfüllt.
• Ist die Matrix Hk symmetrisch, positiv definit und gilt y T k · sk > 0, dann ist
die Matrix Hk+1, die über (6.18) berechnet wurde, ebenfalls symmetrisch und
positiv definit. Die resultierende Suchrichtung dk+1 ist dann eine Abstiegsrichtung.
Wie beim NV kann auch bei einem Quasi-Newton-Verfahren die Suchrichtung dk,
anstelle der Lösung der Gleichung (6.10), über Matrixinversion berechnet werden:
dk = −H −1
k · ∇χ 2 ( Nk) . (6.19)
Damit wird mit H −1
k eine gute Approximation der inversen Hesse-Matrix angestrebt:
H −1
k ≈
∇ 2 χ 2 ( Nk)
−1
. (6.20)
Der Vorteil beim BFGS-Update ist, dass neben den Updates der Matrix Hk auch
Updates der inversen Matrix H −1
k berechnet werden können. Über die "Sherman-
Morrison-Woodbury-Formel" [GT97] kann aus (6.18) der folgende Ausdruck hergeleitet
werden, der als inverser BFGS-Update bezeichnet wird:
H −1
k+1 = H−1
k + (sk − H −1
k · yk) · s T k + sk · (sk − H −1
k · yk) T
y T k · sk
− (sk − H −1
k · yk) T · yk
(y T · (sk · s
k · sk) 2
T k ) , y T k · sk = 0 .
(6.21)
Hier kommt nun die Stärke des BFGS-Updates zur Geltung. Anstelle des Updates
(6.18) kann der inverse Update (6.21) verwendet werden. Der Rechenaufwand dieser
beiden Updates ist ungefähr der Gleiche. Nach dem inversen BFGS-Update kann
über (6.19) (also lediglich eine Matrix-Vektor-Multiplikation) die Suchrichtung dk
berechnet werden. Damit kann das Lösen eines linearen Gleichungssystemes oder
eine Matrixinvertierung vollständig umgangen werden.
Bemerkungen:
68