und Komponenten-Technologien in der Modellierung ... - CES - KIT

18 2 Grundlagen
nistisch arbeitenden Nachbarschaftsstrukturen entscheidend von deren Parametrisierung 6 sowie
von der Wahl der Startlösung x start
ab. Hier ist man häufig gezwungen, auf eine zufällig ausgewählte
Startlösung zurückzugreifen, insbesondere dann, wenn keinerlei Vorwissen über die
Oberflächencharakteristik der zu optimierenden Zielfunktion vorhanden ist.
Der Hauptvorteil des in Abb. 2.3.3.1.1 dargestellten Algorithmus besteht in seiner allgemeinen
Anwendbarkeit, da nur der Lösungsraum L, eine berechenbare Zielfunktion F und eine Nachbarschaftsstruktur
η vorausgesetzt werden. Die Definition der Nachbarschaftsstruktur hängt
stark vom vorgegebenen Optimierungsproblem ab. Handelt es sich um ein Kombinatorikproblem,
muss die Nachbarschaftsstruktur in den meisten Fällen individuell angepasst werden 7 .
Auch bei Parameteroptimierungsproblemen gibt es durchaus unterschiedliche Realisierungsmöglichkeiten
für eine Nachbarschaftsstruktur. Daraus resultiert auch die Vielzahl der heute
existierenden lokalen Parameteroptimierungsverfahren, die unter dem Namen Hill-Climbing
Strategien zusammengefasst werden. Die Vorgehensweise dieser Verfahren ist vergleichbar
mit der eines blinden Bergsteigers, der sich von einem Tal aus zum nächstgelegenen Gipfel
empor tastet. Die Tastschritte können entweder nach rein-deterministischen Regeln vorgenommen
werden oder zufallsgesteuert ablaufen (stochastisches Hill-Climbing). In manchen
Fällen wird auch eine Mischform verwendet. Jede dieser drei Verfahrensklassen zeigt eigene,
charakteristische Konvergenzeigenschaften. Deterministische Verfahren konvergieren i.a. dann
sehr schnell, wenn die Startlösung bereits in der Nähe der optimalen Lösung liegt. Stochastische
Verfahren weisen dagegen eine weitaus sicherere Konvergenz bei beliebigen Startlösungen
auf, konvergieren dafür aber deutlich langsamer.
Die wichtigsten direkten Hill-Climbing Verfahren, deren Suche sich ausschließlich an der Ergebnisoberfläche
der Zielfunktion orientiert, sind
- Koordinatenstrategie [Sout40], [Sout46], [FrSa47]
- Strategie von Rosenbrock (Rotierende Koordinaten) [Rose60]
- Strategie von Hooke und Jeeves (Mustersuche) [HoJe61]
- Simplex-Strategie von Nelder und Mead [SpHH62]
- Strategie von Davies, Swann und Campey (DSC) [Swan64], [BoDS69]
- Complex-Strategie von Box [Box65]
- Simultaneous Perturbation Stochastic Approximation (SPSA) [Spal98], [Spall99]
Sämtliche der oben genannten Verfahren eignen sich zur Parameteroptimierung mehrdimensionaler
Zielfunktionen. Handelt es sich bei F um eine mathematische Zielfunktion und ist diese
stetig und differenzierbar, können auch die erste und zweite Ableitung von F mit in die Optimierungsstrategie
eingebracht werden. Diese so genannten hybriden Strategien spalten sich
wiederum auf in Gradienten- und Newton-Methoden. Bei den Gradienten-Methoden wird die
Existenz der ersten Ableitung der Zielfunktion vorausgesetzt. Die Newton-Methoden benötigen
6
bei Hill-Climbing Verfahren müssen beispielsweise Anfangsschrittweiten vorgegeben werden
7
In [AaKo89] wird beispielsweise eine speziell auf das Travelling Salesman Problem TSP zugeschnittene
Nachbarschaftsstruktur vorgestellt.