Inkrementelle Akquisition von 3D-Objektmodellen - Institut für ...

IR-INI 2006–01, c○ 2006 Institut für Neuroinformatik, Ruhr-Universität Bochum, FRG 49
Die negative Gradientenrichtung −g ist die Richtung der größten Verminderung des Funktionswertes
von e. Wir erhalten also für eine geeignete Schrittlänge λ ∈ R mit
∆ = −λg (8.7)
einen neuen Parameterwert p = p 0 + ∆, der den Wert der Fehlerfunktion vermindert.
Der große Vorteil des Gradientenabstiegs ist, dass wir – sofern wir uns nicht bereits in einem Minimum
befinden – auf jeden Fall eine Verminderung des Funktionswerts erhalten. Jedoch entspricht
der Gradientenabstieg einer linearen Approximierung der Funktion, was eine langsame Konvergenz
mit sich bringt.
8.2.1.2 Newton-Verfahren
Das Newton-Verfahren beruht auf der Taylor-Entwicklung von e. Eine quadratische Abschätzung
von e ist gegeben durch das Taylorpolynom zweiter Ordnung und damit durch
e(p) = e(p 0 ) + g∆ + 1 2 ∆T H∆ (8.8)
Der Gradient g ist dabei definiert durch (8.6) und H ist die Hessematrix (also die Matrix der
zweiten Ableitungen) an der Stelle p 0 .
Da unsere Approximierung quadratisch ist, hat sie ein eindeutiges Minimum, das wir erhalten,
indem wir die Nullstelle der Ableitung berechnen. Die Ableitung von (8.8) nach ∆ ist
e ′ (p) = g + ∆H (8.9)
Indem wir sie auf Null setzen und nach ∆ umformen erhalten wir
∆ = −H −1 g (8.10)
Das Newton-Verfahren beruht auf der Hoffnung, dass sich die Funktion in der Nähe des Minimums
durch eine quadratische Funktion gut approximieren lässt und führt im Allgemeinen zu schnellerer
Konvergenz als der Gradientenabstieg. Nachteile sind, dass eine Verbesserung des Funktionswertes
nicht garantiert ist, falls eine quadratische Approximation an der Stelle p 0 nicht angemessen ist,
und dass die Berechnung der Hessematrix sehr aufwändig ist.
8.2.1.3 Gauß-Newton-Verfahren
Das Gauß-Newton-Verfahren ist eine Modifikation des Newton-Verfahrens, um das Problem der
aufwändigen Berechnung der Hessematrix zu umgehen. Die Hessematrix lässt sich berechnen durch
die Ableitung von (8.6) und somit durch
H = J T J + J ′T ɛ(p 0 ) (8.11)
J ′ ist hier ein 3-dimensionales Feld aus den Ableitungen von J und das Produkt J ′T ɛ(p 0 ) ist die
Summe über die jeweils mit ihrer Hessematrix multiplizierten Komponenten von ɛ(p 0 ).
Im Gauß-Newton-Verfahren wird der zweite Term weggelassen und die Hessematrix abgeschätzt
durch
H = J T J (8.12)
Da nun die Hessematrizen von ɛ(p 0 ) nicht berechnet werden müssen, bringt dies eine erhebliche
Einsparung an Rechenzeit und die Approximierung ist meist ausreichend.