4.5 Genetische Algorithmen

126 Kapitel 4: Non-Standard-Optimierung
Willkürlich legen wir fest:
– Akzeptanz schlechterer Werte am Anfang der Iteration: ½ ½¼ ¿ ,
– Akzeptanz schlechterer Werte am Ende der Iteration: ¼¼.
Daraus errechnet man einen Wert von Ì ÑÜ ½¼¼¼¼ und von Ì ÑÒ ¼.
Folgerung für Abkühlrate Ö (in Prozent):
Da Ì ÑÒ von Ì ÑÜ aus in Æ ÑÜ Schritten exponentiell erreicht werden muss, ergibt
sich aus
Ì ÑÒ Ì ÑÜ
Ö
½¼¼
Æ ÑÜ
für die Rate Ö ¾±für Æ ÑÜ ½¼¼ und Ö ±für Æ ÑÜ ¾¼¼.
(126.1)
Im Beispiel kann also die Parametrierung auf Grund der Struktur der Zielfunktion
in einem gewissen Rahmen problemangepasst durchgeführt werden. Eine allgemeine
Vorgehensweise oder gar eine Parametrierungstheorie gibt es nicht.
4.4.3 Übungen
Übung 27 (Lösung Seite 181 )
Bestimmen Sie mit Hilfe einer geeigneten MATLAB-Implementierung des Simulated
Annealing Algorithmus eine Lösung der Minimierungsaufgabe
unter den nichtlinearen Nebenbedingungen
ÑÒ ´Ü ½Ü ¾ Ü ¿ µÜ ¾ ½ · Ü ¾ · Ü ¿ (126.2)
Ü ½Ü ¾Ü ¿¾Ê
½´Ü ½ Ü ¾ Ü ¿ µÜ ¾ ½ · ܾ ¾ ½¼
¾´Ü ½ Ü ¾ Ü ¿ µÜ½ ·Ü ¾ · Ü ¿ ¼ (126.3)
4.5 Genetische Algorithmen
Genetische Algorithmen formalisieren den Prozess der natürlichen Evolution für
die Anwendung auf mathematische Optimierungsaufgaben.
Diese Klasse von Algorithmen gehört zu den so genannten Evolutionsstrategien.
Das Prinzip dieser Heuristiken besteht darin, die natürliche Evolution als
Optimierungsverfahren aufzufassen, bei dem eine Population von Individuen an
Umweltbedingungen optimal angepasst wird.

4.5 Genetische Algorithmen 127
Die formalisierte Version, also das mathematische Verfahren, ahmt die verschiedenen
Mechanismen der Evolution in Form von Operatoren auf Werten des zulässigen
Suchraums (der Population) nach.
Die Anpassung von Generation zu Generation (d.h. Iteration zu Iteration) erfolgt
durch Änderung der Erbinformation, eine mathematische Codierung der Eigenschaften
der Werte des Suchraums. Die Anpassung der Erbinformation erfolgt
stochastisch durch Nachahmung des Selektionsprozesses, durch zufällige Vermischung
der Information („Kreuzung“) und zufällige Änderung der Information
(„Mutation“).
Wie an dieser kurzen Einleitung schon zu erkennen ist, werden bei dieser Algorithmenklasse
Begriffe aus der biologischen Evolution mit Begriffen aus der mathematischen
Optimierung identifiziert.
Die folgende Tabelle stellt zum besseren Verständnis der in den folgenden Abschnitten
darzustellenden Theorie eine Auswahl dieser Begriffe gegenüber:
Biologischer Begriff
Population
Individuum
Fitness
(Anpassung an die Umwelt)
Mathematischer Begriff
Gruppe von Elementen des zulässigen
Suchraums
Element des zulässigen Suchraums
Wert der Zielfunktion (oder einer
äquivalenten Funktion, der
„Fitnessfunktion“)
Umweltbedingungen Suchraumgrenzen, Restriktionen,
Fitnessfunktion
Erbinformation
(Chromosom, Gen)
Generation
Selektion
Codierung der Suchraumelemente
(Binärcode, reelle Zahl,
Vektor)
Nummer der Iteration
Auswahl von Suchraumelementen
in jedem Iterationsschritt gemäß
dem Wert der Fitnessfunktion
(Zielfunktion)
Fortsetzung auf der nächsten Seite

128 Kapitel 4: Non-Standard-Optimierung
Biologischer Begriff
Kreuzung
Mathematischer Begriff
stochastische Vermischung der
Codierungsinformation der Elemente
(Individuen) einer Wertegruppe
(Population),
Kreuzungsoperator
Mutation stochastische Änderung der
Codierungsinformation der
Elemente (Individuen) einer
Wertegruppe (Population),
Mutationsoperator
Anpassung Wert der Zielfunktion, Optimumsuche
Bevor wir die Details des Genetischen Algorithmus beschreiben, sollen zunächst
noch einmal die wesentlichen Grundzüge der Theorie der biologischen Evolution
in Erinnerung gerufen werden.
4.5.1 Mechanismen der natürlichen Evolution
In den Abbildungen 4.11 bis 4.16 sind schematisch an Hand von Symbolen, die Individuen
einer Population mit unterschiedlichen Eigenschaften repräsentieren sollen,
die grundsätzlichen Vorgänge der natürlichen Evolution dargestellt.
Wir gehen zunächst von einer Population von Individuen mit unterschiedlichen
Merkmalen, hier symbolisiert durch geometrische Formen und Farben, aus (Abbildung
4.11). Diese Individuen leben in einer gewissen Umwelt und sind den
dadurch gegebenen Lebensbedingungen ausgesetzt. Die Lebensbedingungen erzeugen
einen sogenannten Selektionsdruck, d.h. einige Individuen überleben die
Umweltbedingungen nicht und sterben oder sind nicht fortpflanzungsfähig, andere
Individuen sind gut angepasst und verbreiten ihre Erbanlagen (Abbildung 4.12).
Dabei werden verschiedene Erbanlagen und damit Eigenschaften im Vermehrungsprozess
durch Kreuzung mit Eigenschaften anderer (mehr oder weniger zufällig
ausgewählter) Individuen verändert (Abbildung 4.13). Einig wenige Individuen
erhalten dabei zufällig, etwa durch radioaktive Einstrahlung oder andere
Umwelteinflüsse oder sporadisch auftretende Erbgutveränderungen neue Eigenschaften.
Dieser (seltene) Prozess der zufälligen Änderung wird Mutation genannt
(Abbildung 4.14).

4.5 Genetische Algorithmen 129
Abbildung 4.11: Population mit
unterschiedlichen Merkmalen
Abbildung 4.12: Selektionsdruck
Abbildung 4.13: Kreuzung
Abbildung 4.14: Mutation
Abbildung 4.15: Erneuter Selektionsdruck
Abbildung 4.16: (besser?) Angepasste
Population
Die neue Population findet sich dann wieder dem Selektionsdruck ausgesetzt (Abbildung
4.15) und so fort. Oft erhält man durch diesen Prozess besser angepasste
Populationen von Individuen (Abbildung 4.16).
Zusammenfassend kann man also sagen, dass es sich bei der natürlichen Evolution
um eine (iteratives) Optimierungsverfahren handelt, welches von drei zufallsbehafteten
Basismechanismen angetrieben wird, nämlich Selektion, Kreuzung

130 Kapitel 4: Non-Standard-Optimierung
und Mutation und immerwährend fortschreitet. Diese Basismechanismen werden
in der mathematischen Formalisierung des Evolutionsprozesses zu so genannten
stochastischen Operatoren und machen den Kern der Genetischen Algorithmen
aus.
Der Genetische Code
Für die Umsetzung dieser Mechanismen in einen brauchbaren mathematischen Algorithmus
fehlt jedoch noch ein wichtiger Baustein, nämlich die Codierung des
Problems. Es muss die Frage beantwortet werden, wie ein Optimierungsproblem
in eine Form gebracht werden kann, die es erlaubt, genetische Operatoren hierauf
anzuwenden.
Es erscheint klug, zunächst einmal wieder nach der Lösung zu fragen, die die Natur
für dieses Problem gefunden hat.
Die Information über die Eigenschaften eines Individuums und somit die Fähigkeit,
sich an seine Lebensbedingungen anzupassen, sind im genetischen Code festgehalten
(Abbildung 4.17 bis 4.19).
Abbildung 4.17:
Chromosomaufbau
Abbildung 4.19: Aminosäuren
Gene¹ Aminosäuren ¹ Triplets ¹ 4-Basen-
Alphabet
Abbildung 4.18: Codon
Die Natur bedient sich hierbei zur Informationscodierung eines Alphabets, bestehend
aus den Basen Uracil, Cytosin, Adenin und Guanin, die j eweils in Dreierkombinationen,
sogenannten Triplets zusammengefasst eine Aminosäure erzeugen.
Diese wiederum formen Sequenzen auf der RNA („Wörter“) resp. der DNA.
Zusammengefaltete DNA-Ketten wiederum respräsentieren die Gene und Chromosomen,
die die komplexen Eigenschaften des Individuums festlegen. Wir kön-

4.5 Genetische Algorithmen 131
nen also im weitesten Sinne von einer Informationscodierung auf der Grundlage
eines -buchstabigen Alphabets sprechen.
4.5.2 Mathematische Formalisierung
Diese Tatsache wird nun folgendermaßen für eine Formalisierung herangezogen.
Codierung
Statt eines -buchstabigen Alphabets wird ein binäres Alphabet verwendet. Auch
bezüglich der Gene wird eine Vereinfachung durchgeführt. Triplets und Gene werden
mit dem Zeichenumfang des binären Alphabets identifiziert. Ein „Gen“ im Sinne
des Genetischen Algorithmus entspricht also der kleinsten Informationseinheit.
Mit Hilfe der Gene wird die genetische Information in Binären Strings codiert. Die
Binären Strings ersetzen die komplexeren natürlichen Chromosomen ebenso wie
die sie tragenden Individuen, so dass im letzten Vereinfachungsschritt die Binären
Strings als Individuen angesehen werden.
Chromosom Gene U C A G
À À
¨
¨
À
À
¨
¨
À
À ¨¨
Triplets
Vereinfachung
Vereinfachung
Vereinfachung
©
Binäre Strings Gene:¼ ½
Binäres Alphabet
Der evolutionäre Optimierungsprozess wird somit folgendermaßen zu einer mathematischen
Optimierungsaufgabe: die Zielfunktion, welche die Angepasstheit
des Individuums an seine Umgebung repräsentiert und im Folgenden als emphD-
Fitnessfunktion bezeichnet wird, muss auf Binärstrings 2 definiert werden (reelle
Zahlen können zum Beispiel diskretisiert und über einen Binärcode des Index dargestellt
werden). Der Suchraum muss entsprechend codiert werden. Wir betrachten
also
Í ¼ ½ Ò Ê (Fitnessfunktion). (131.1)
2 Es gibt noch andere Codierungsmöglichkeiten, auf die im Rahmen dieses Skriptes nicht eingegangen
werden soll. Insofern „müssen“ die Codierungen nicht unbedingt binär sein.

132 Kapitel 4: Non-Standard-Optimierung
Gesucht ist dann
Ü ¼ ¾ Í mit ´Ü ¼ µ ÑÜ
ܾÍ
gegebenenfalls unter Einhaltung von Nebenbedingungen.
´Üµ (maximale „Fitness“) (132.1)
Basismechanismen
Der evolutionäre Optimierungsprozess wird dabei durch drei zufallsbehaftete
Basismechanismen angetrieben:
Selektion
Kreuzung
Mutation
Diese Basismechanismen werden in der mathematischen Formalisierung des Evolutionsprozesses
zu Genetischen Algorithmen zu stochastischen Operatoren.
Stochastischer Operator
(z.B. Roulette-Rad)
Population
¼ ½ ¼ ¼ ¼
¼ ½ ¼ ¼ ½
½ ½ ¼ ¼ ¼
½ ½ ¼ ½ ½
„Mating-Pool“
½ ½ ¼ ½ ½
½ ½ ¼ ½ ½
½ ½ ¼ ¼ ¼
¼ ½ ¼ ¼ ¼
Abbildung 4.20: Fitnessproportionale Selektion
Die stochastischen Operatoren Selektion, Kreuzung und Mutation werden mit Hilfe
des Binärcodes in Anlehnung an die natürlichen Mechanismen realisiert.
Die Selektion etwa kann entsprechend der Fitness (Wert der Zielfunktion) der Individuen
erfolgen. Im Beispiel aus Abbildung 4.20 wird hierfür ein Roulette-Rad

4.5 Genetische Algorithmen 133
verwendet. In jedem Selektionschritt (der ebenfalls mit einer gewissen vorgegebenen
Wahrscheinlichkeit vorgenommen werden kann) wird ein Individuum durch
drehen des Rouletterades ausgewählt. Da Individuen mit hoher Fitness auf dem
Rad einen proportional größeren Raum einnehmen, haben diese eine höhere Wahrscheinlichkeit
ausgewählt zu werden und landen, ggf. mehrfach reproduziert, in
einem Heirats-Pool (Mating-Pool).
Die Individuen des Mating-Pools haben (wiederum mit einer gewissen Wahrscheinlichkeit)
das Recht, sich zu kreuzen und ihre Gene auszutauschen. Dies kann
bei binärer Codierung so erfolgen, dass die Binärstrings zweier Individuen an einer
Stelle aufgeschnitten und vertauscht werden.
„Mating-Pool“
½ ½ ¼ ½ ½
½ ½ ¼ ½ ½
½ ½ ¼ ¼ ¼
¼ ½ ¼ ¼ ¼
Stochastischer Operator
Kreuzung
(mit Wahrscheinlichkeit Ô )
½ ½ ¼ ½ ½
½ ½ ¼ ½ ½
½ ½ ¼ ¼ ¼
¼ ½ ¼ ¼ ¼
Population
nach Kreuzung
½ ½ ¼ ½ ½
½ ½ ¼ ½ ½
½ ½ ¼ ¼ ¼
¼ ½ ¼ ¼ ¼
Zum Abschluss wird die Mutation simuliert. Hierzu kann man mit einer gewissen,
i.A. sehr kleinen Wahrscheinlichkeit die Bits der Binärstrings kippen.
Stochastischer Operator
Mutation
(mit i.A. kleiner Wahrscheinlichkeit)
½ ½ ¼ ½ ½
½ ½ 0½ ½ ½
½ ½ ¼ ¼ ¼
0½ ½ ¼ ¼ ¼
Man erhält, wie wir später sehen werden, durch diesen Prozess eine Population mit
im Schnitt höherer Fitness und ggf. existiert auch ein fitteres Einzelindividuum.
Der beschriebene Prozess wird dann, bis zum Erreichen eines noch zu definierenden
Endekriteriums, in der beschriebenen Abfolge wiederholt.

134 Kapitel 4: Non-Standard-Optimierung
Der Genetische Algorithmus
Die generelle Struktur des Genetischen Algorithmus lässt sich nun wie folgt zusammenfassen:
(a) Initialisiere
Iterationszähler ¼,
Startpopulation Ü ½ Ü Ò.
(b) Stopp, falls Endekriterium erreicht ist (z.B. ÑÜ ), sonst weiter mit
Schritt (c).
(c) Bestimme die „Fitness“ (Zielfunktionswert) der Individuen der Population.
Wähle mit dem Selektionsoperator (ggf. mehrfach) Individuen
Ý Ò
·½ für die Aufnahme in den „Mating-Pool“ aus.
Ý ·½
½
(d) Erzeuge mit dem Kreuzungsoperator neue Individuen Þ ·½
½
Þ Ò ·½ .
(e) Erzeuge mit dem Mutationsoperator daraus eine neue Population
Ü ·½
Ü ·½
½
Ò .
(f) Fahre bei (b) fort.
Der Genetische Algorithmus hat ähnliche Stärken und Schwächen wir der Simulated
Annealing Algorithmus. Auch er ist durch den stochastischen Ansatz prinzipiell
in der Lage aus suboptimalen Gebieten herauszufinden und selbst für sehr
schwierige Zielfunktionen globale Optima oder Suboptima ähnlicher Qualität zu
finden.
Dagegen steht auch beim Genetischen Algorithmus die generelle Schwierigkeit der
Parametrierung. Fragen, die zu beantworten sind, sind u.A.
Wahl der Populationsgröße?
Wahl der Anzahl der Iterationen (des Endekriteriums)?
Wahl des Selektionsverfahrens?
Wahl der Kreuzungswahrscheinlichkeit?
Wahl der Mutationswahrscheinlichkeit ?
Generell gibt es, ähnlich wie beim Simulated Annealing Algorithmus, für die Parametrierung
keine geschlossene Theorie!
Die Parameter müssen experimentell ermittelt werden oder man verlässt sich auf
die durch zahlreiche Fallstudien ermittelten und in der Literatur veröffentlichten

4.5 Genetische Algorithmen 135
Erfahrungswerte [5]. So hat sich beispielsweise bei binären Genetischen Algorithmen
für die Wahl der Kreuzungswahrscheinlichkeit der Wert Ô ¼ eingebürgert.
Für die Mutationswahrscheinlichkeit wird ein kleiner Wert zwischen Ô Ñ ¼¼
und Ô Ñ ¼½ bevorzugt, da sich der Algorithmus für deutlich größere Werte wie
ein reiner Monte-Carlo Algorithmus verhält.
Für die Populationsgrößen haben sich ebenfalls kleinere Werte ( ½¼) in der Praxis
als günstig erwiesen. Als Endekriterium gibt man meist eine Maximalzahl an
Iterationen vor, die problemabhängig experimentell ermittelt werden sollte.
Wir wollen die Funktionsweise des Genetischen Algorithmus wieder mit Hilfe von
MATLAB an dem einfachen Beispiel 4.14 illustrieren, das wir schon beim Simulated
Annealing Algorithmus betrachtet haben.
4.16 Beispiel (Genetischen Algorithmus mit MATLAB)
Maximiere
´Üµ Ü ¾ ×Ҵܵ (135.1)
im Intervall ½¼ ½¼℄.
Zur Lösung dieser Aufgabe verwenden wir folgende MATLAB-Funktionen der Begleitsoftware:
ga.m
GA1D.m
IlluGA1D.m
Aufruf_IlluGA1D.m
testfunktion1.m
Die Datei ga.m entstammt einer inoffiziellen MATLAB-Toolbox für genetische Algorithmen,
die an der North Carolina State University [5] entwickelt wurde und über das Internet zu
beziehen ist.
Die Datei GA1D.m implementiert den binären Genetischen Algorithmus für eine Funktion
einer Variablen. Mit IlluGA1D.m kann der Genetische Algorithmus auf beliebige eindimensionale
Funktionen angewandt werden. Mit dem Script-File Aufruf_IlluGA1D.m wird das
Verfahren für die in testfunktion1.m implementierte Zielfunktion (135.1) angewandt und
der Suchvorgang grafisch animiert.
Die Animation bei Aufruf von
Aufruf_IlluGA1D

136 Kapitel 4: Non-Standard-Optimierung
80
60
(x 2 )*sin(x)
Beispiel zum Verfahren Genetischer Algorithmus
63.6288
40
20
f(x)
0
−20
−40
−60
8.0828
−80
−10 −8 −6 −4 −2 0 2 4 6 8 10
x
Abbildung 4.21: Abschlussgrafik bei GA-Suche in Beispiel 4.16
zeigt, wie fast der gesamte Suchraum durchforstet wird, bevor der Algorithmus gegen ein
(Sub-)Optimum konvergiert.
Abbildung 4.21 zeigt die Grafik bei Abschluss des Suche, bei der mit vier Individuen und
folgender Parametrierung gearbeitet wurde:
GAparams . maxPop = 100;
% 100 Schritte (Parameter
% für maxGenT)
GAparams . termFN = ’maxGenT ’ ; % Terminierung nach endlich
% vielen Schritten
GAparams . selectFN = ’normGeoS ’ ; % Selektionsfunk. NormGeoSelect
GAparams . selectOps = 0.08; % mit Parameter 0.08
GAparams . xOverFNs = ’simpleX ’ ; % einfaches binäres Crossover
GAparams . xOverOps = 0.6; % mit 0.6 Crossoverwahrscheinl.
GAparams . mutFNs = ’binaryM ’ ; % Binäre Mutation
GAparams . mutOps = 0.1; % mit Mutationswahrschein-
% lichkeit 0.1
startwerte = [ 3,2,4,9]; % Anfangspopulation festlegen
4.5.3 Der Fundamentalsatz
Im Beispiel 4.16 wurde gezeigt, dass der Genetische Algorithmus zu einer sinnvollen
Lösung führen kann.

4.5 Genetische Algorithmen 137
Wir wollen nun etwas näher beleuchten, warum dies so ist und der formalisierte
Mechanismus als Optimierungsverfahren geeignet ist. Es soll im Folgenden versucht
werden, das zentrale Ergebnis, welches (eine partielle) Antwort auf diese
Frage gibt, das so genannte Schema-Theorem, näher zu beleuchten.
Das Schema-Theorem
Der wesentliche Begriff für das Verständnis des Algorithmus ist der des Schemas.
Unter einem Schema versteht man eine Menge von Binärstrings (Individuen), die
durch eine gemeinsame fixierte Bitkombination gekennzeichnet sind. Abbildung
4.22 zeigt ein Beispiel. Am besten kann diese Menge durch einen Hyperwürfel im
Raum der Bitkombinationen gekennzeichnet werden. So entspricht in dem dargestellten
Beispiel das Schema £½¼££einem ¿-dimensionalen Würfel und das Schema
£½¼¼£ einem zweidimensionalen Rechteck im -dimensionalen Suchraum der Individuen.
1 1 0 1 0
1 1 0 1 1
Beispiel:
¼ ½ ¼ ¼ ¼
¼ ½ ¼ ¼ ½
¼ ½ ¼ ½ ¼
1 1 0 0 0
1 1 0 0 1
¼ ½ ¼ ½ ½
½ ½ ¼ ¼ ¼
½ ½ ¼ ¼ ½
0 1 0 0 0 0 1 0 0 1
½ ½ ¼ ½ ¼
½ ½ ¼ ½ ½
Schemata:
0 1 0 0 0 0 1 0 0 1
Abbildung 4.22: Schema als Hyperfläche (-würfel) in ¼ ½℄ Ò
£ ½ ¼ £ £
£ ½ ¼ ¼ £
Die Zusammenfassung der Individuen zu Schemata trägt der Funktionsweise Genetischer
Algorithmen Rechnung. Die Herleitung der Algorithmen zeigt, dass es
keinen Sinn macht, die Entwicklung einzelner Individuen zu verfolgen, sondern
nur der ganzen Population.
Die Population wiederum repräsentiert eine Vielzahl von Schemata, da ein Individuum
einer Vielzahl von Schemata angehört. Im Idealfall stellt die Population
einen Schätzer für die Verteilung der (fitten) Schemata dar. Statt also zu fragen, wie einzelne
Individuen im Laufe der Evolution verändert werden, macht es mehr Sinn,

138 Kapitel 4: Non-Standard-Optimierung
zu fragen, wie die Genetischen Operatoren die Schemata verändern bzw. wie ein
Schema im Laufe der „Evolution“ (Iteration) durch die Populationen repräsentiert
wird.
Es soll nun die Wirkung der Operatoren auf ein Schema genauer betrachtet werden.
Wie gezeigt wurde, wird bei der fitnessproportionalen Selektion ein Individuum
mit einer Wahrscheinlichkeit
Ô
Æ ¡
(138.1)
ausgewählt. Die Wahrscheinlichkeit, dass ein Individuum eines Schemas À ausgewählt
wird, ergibt sich aus der Summe dieser Wahrscheinlichkeiten
Ô´Àµ
¾À
½ ¡ ½ Æ
Ô
¾À
¾À
Æ ¡
(138.2)
Damit ist die Anzahl der aus einer Population ausgewählten Schema-À-Individuen
Å Å À
Æ ¡ Ô´Àµ ½
¾À
(138.3)
Mit der Anzahl Å À der schon vorher zum Schema À gehörenden Individuen ergibt
sich daraus
Å Å ½
À
Å À
Å À¡ ½
¾À
Å À ¡ À
(138.4)
so dass die Zahl ÅÀ Å ´Ò ·½µder aus der Ò-ten Generation in dem Mating-Pool
selektierten Individuen gleich
Å Å À ´Ò · ½µ Å À´Òµ ¡ À
(138.5)
ist, wobei À die relative Fitness der Schema-À-Individuen innerhalb der Population
bezeichnet.
Der Faktor
À
(138.6)
repräsentiert somit den auf das Schema ausgewählten Selektionsdruck.

4.5 Genetische Algorithmen 139
Ist die relative Fitness innerhalb eines Schemas eine Zeit lang etwa gleichbleibend
hoch und höher als die durchschnittliche Fitness der Population, so wächst der
Anteil der Schema-À-Individuen in diesem Zeitraum exponentiell an (
À
).
Dies kann, wie später an Hand eines Beispiels erläutert werden wird, experimentell
nachvollzogen werden und ist ein wesentlicher Punkt, denn dieser Effekt bewirkt,
dass es sich bei einem genetischen Algorithmus eben nicht um ein wahlloses Suchverfahren
handelt, sonder in gewissem Sinne um eine zielgerichtete Suche, die noch
dazu mit (anfangs) exponentieller Geschwindigkeit von statten geht.
Dass der Selektionsdruck alleine die Population nicht auf Dauer in einen suboptimalen
Bereich treibt, dafür sorgen die anderen beiden genetischen Operatoren.
Durch die Kreuzung werden, wie folgenden Beispiele zeigen, Schemata i.A. zerstört,
wobei jedoch kurze Schemata offenbar eine bessere „Überlebenschance“ haben,
als längere.
£ ½ ¼ £ £
· · · · ·
£ · · · ·
· ½ ¼ £ £
£ ½ ¼ · ·
· · · £ £
£ ½ ¼ £ £
· ½ · · ·
Es können allerdings auch Schema-Individuen neu entstehen, was wiederum dazu
beiträgt, dass weniger erfolgreiche Schemata verlassen und andere Regionen des
Suchraums aufgesucht werden können.
Ähnlich verhält es sich mit der Mutation. Auch hier werden Schemata i.A. zerstört,
wobei jedoch kurze Schemata offenbar eine bessere „Überlebenschance“ haben, als
längere.
£ ½ ¼ £ £
£ 0 ¼ £ £
Fasst man alle diese Einflüsse auf ein Schema zusammen, so erhält man folgendes
Resultat, das so genannte Schema-Theorem welches die Propagation des relativen
Anteils È À eines Schemas innerhalb der Population im Laufe der Generationen
beschreibt:

140 Kapitel 4: Non-Standard-Optimierung
Schema-Theorem: Ist À ein Schema mit der definierenden Länge Æ´Àµ
und mit der Ordnung Ó´Àµ in einem binär codierten (klassischen) Genetischen
Algorithmus mit Kreuzungs-Wahrscheinlichkeit Ô und Mutations-
Wahrscheinlichkeit Ô Ñ . Sei weiter È À ´Òµ der relative Anteil der zum Schema À
gehörenden Individuen in einer Population zum Iterationszeitpunkt Ò. Dann
gilt:
Ó´ÀµÔ Ñ
È À´Ò ·½µ È À´Òµ ¡ À´Òµ
´Òµ ¡
½
Ô Æ´Àµ
¡
Æ ½
Zur Illustration dieses Sachverhaltes greifen wir wieder auf das Beispiel 4.16 zurück,
an Hand dessen wir unter MATLAB die Funktionsweise der Algorithmen
visualisiert haben (Abbildung 4.23 bis 4.26).
Der Suchraum wurde in diesem Beispiel für die Anwendung des Genetischen Algorithmus
mit einer Genauigkeit von ca. ½¼ diskretisiert und mit ½-Bit-Strings
binär codiert. Die beiden Streifen über den Graphen der Zielfunktion in Abbildung
4.23 repräsentieren zwei sehr unterschiedliche Schemata, nämlich ein Schema hoher
Fitness in der Nähe des globalen Optimums und ein Schema mit sehr niedriger
Fitness in der Nähe des globalen Minimums.
Die übrigen Grafiken repräsentieren die durchschnittliche Fitness der Population
aus Individuen in einem Lauf und jeweils die (durchschnittliche) Fitness des Schemas
und die (durchschnittliche) Anzahl der Schema-Individuen, welche über mehrere
Läufe gemittelt wurde. Man erkennt deutlich, dass die Fitness der Population
anfangs dramatisch, später leicht ansteigt. Ebenso deutlich erkennt man den exponentiellen
Anstieg der durchschnittlichen Schema-Fitness und der Schema-Anzahl
für das überdurchschnittliche Schema. Das schlechte Schema hingegen ist von Anfang
an so gut wie nicht in der Population vertreten.
Konvergenz Genetischer Algorithmen
Bezüglich der Konvergenz Genetischer Algorithmen gibt es leider auch wenige
theoretische Resultate. Im Falle des Genetischen Algorithmus mit so genannter „elitärer
Strategie“, bei der in jeder Generation auf jeden Fall das beste Individuum in
der Population verbleibt, lässt sich jedoch folgendes theoretische Resultat beweisen:
Konvergenzsatz: Ist Ü £ das globale Maximum einer Optimierungsaufgabe
ÑÜ ´Üµ
Ü
und Ü Ò das beste Individuum in der Ò-ten Generation eines Genetischen Algorithmus
(Genetischer Algorithmus mit „elitärer Strategie“).
Dann gilt:
¡
ÐÑ
Ò½ È Ü Ò ´Ü
£
¡
µ ½ (140.1)

4.5 Genetische Algorithmen 141
Abbildung 4.23: Testfunktion und Bereiche
zweier Schemata
Abbildung 4.24: Durchschnittliche Fitness
des „guten“ Schemas
Abbildung 4.25: Durchschnittliche Fitness
der Population
Abbildung 4.26: Durchschnittliche Anzahl
der Schema-Individuen
Dieses Resultat lässt sich so interpretieren, dass im Grenzfall das beste Individuum
einer Population mit Wahrscheinlichkeit ½ die Fitness des globalen Optimums hat.
(in der Mathematik spricht man von stochastischer Konvergenz)!
Allerdings sagt das Resultat nichts über die Zahl der Iterationen, die für eine Konvergenz
im obigen Sinne benötigt wird, so dass das Resultat für die praktische Parametrierung
des Genetischen Algorithmus nicht herangezogen werden kann.
Fazit
Die Eigenschaften des die Genetischen Algorithmus können stichwortartig wie
folgt zusammengefasst werden:
Mittlere Fitness der Populationen steigt an.
Fitte Schemata breiten sich (durch den Selektionsdruck) exponentiell aus.
Kreuzung und Mutation wirken dem entgegen. Dadurch können fittere Schemata
und Individuen gefunden werden.

142 Kapitel 4: Non-Standard-Optimierung
Algorithmus durchsucht gleichzeitig viele Hyper„flächen“ des Suchraums
(implizite Parallelität der GA).
Fitte Schemata mit kleinen Bitblöcken werden bevorzugt durch die Generationen
verbreitet (building-block-Hypothese).
Jede Population ist ein Schätzer für die Fitnessverteilung der Schemata.
Die Konvergenz ist nicht gesichert.
Die Konvergenzdauer ist i.A. unbekannt und kann meist nur durch Experimente
ermittelt werden.
Für die Parametrierung gibt es lediglich Faustregeln. Ansonsten muss die
richtige Parametrierung experimentell ermittelt werden.
Für die Codierung des Suchraums gibt es verschiedene Standardansätze
(binäre Codierung, reelle Codierung). Es sind aber auch problemabhängig
andere Codierungen möglich.
Genetische Algorithmen sind universell anwendbar und liefern oft auch in
sehr komplizierten Fällen sehr gute Ergebnisse.
Genetische Algorithmen sind in der Lage, Bereiche lokaler Suboptima wieder
zu verlassen!
4.5.4 Fallbeispiel
Die Leistungsfähigkeit Genetischer Algorithmen soll nun abschließend an einem
praxisnahen realistischen Beispiel, einem nichtlinearen Transportproblem (vgl. Beispiel
1.3), demonstriert werden.
Nichtlineares Transportproblem
Gesucht ist:
ÑÒ
Ü
´Üµ ÑÒ
Ü
Æ
Å
½ ½
¡ Ü ¾ (142.1)
mit
Æ
Å
Ü
Zahl der Lieferanten (¿µ
Zahl der Kunden ()
Zahl der transportierten Einheiten von Lieferant zu Kunde
Kosten des Transports von Lieferant zu Kunde
(142.2)

4.5 Genetische Algorithmen 143
unter den Nebenbedingungen
Å
½
Æ
½
Ü
Ü
Æ ¿
Å
(143.1)
mit den Lieferkapazitäten
´¼ ½¼¼ ¼µ (143.2)
mit den Kundenmindestanforderungen
´¾¼ ¾¼ ¿¼ ¿¼µ (143.3)
mit der Transportkostenmatrix
¼
½¼ ½ ¾ ¿
¼ ½ ¿½ ½¾
¾½ ½ ½ ½¼
½
(143.4)
Als zusätzliche Randbedingung ist zu beachten, dass die Ü ganzzahlig sein sollen!
Diskussion zweier Lösungsansätze
Wir wollen die Lösung des Problems mit einem Genetischen Algorithmus zur besseren
Illustration der Leistungsfähigkeit mit einem klassischen Lösungsansatz vergleichen.
Zu diesem Zweck soll das Problem auch mit einem Quasi-Newton-Verfahren bearbeitet
werden, wobei die geforderte Ganzzahligkeit der Lösung nachträglich berücksichtigt
wird. Diese Forderung kann im Genetischen Algorithmus auf Grund
der verwendet Binärcodierung dagegen sehr leicht realisiert werden.
Quasi-Newton-Lösung: Zur Lösung der Aufgabe mit einem Quasi-Newton-
Verfahren verwenden wir folgende MATLAB-Funktionen der Begleitsoftware:
GANLTransport_Konventionell.m
KostenGANLTransport2.m

144 Kapitel 4: Non-Standard-Optimierung
Die Berechnung in GANLTransport_Konventionell.m greift dabei auf die Funktion
fmincon.m der Optimization Toolbox zurück, die das Problem unter Verwendung
eines Quasi-Newton-Verfahrens löst.
Die Lösungen sind auf Grund der großen Zahl von Suboptima sehr stark abhängig
vom gewählten Startwert.
Bei mehreren Versuchen wurde folgende beste Lösung gefunden:
¼
¼¼¼ ¿¿ ½¼ ½¿
¼¼
¼¼¼ ¾¼ ½
½
(144.1)
mit dem Kostenminimum ¿¼!
Um daraus ganzzahlige Lösungen zu produzieren wurde der Ansatz gewählt, alle
„benachbarten“ ganzzahligen Lösungen auszutesten!
Dieser Ansatz kann natürlich nur bei kleinen Problemen verfolgt werden, da es
hierfür ¾ Æ¡Å Möglichkeiten gibt.
Die beste benachbarte ganzzahlige Lösung war
¼
¼ ¾ ¾¼
½
½ ¾
½
(144.2)
mit dem Kostenminimum ¾, den Liefermengen
´¿¼ ¼ ¿µ ´¼ ½¼¼ ¼µ
und mit den Empfangsmengen
´ ¾½ ¿¾ ¿½µ ´¾¼ ¾¼ ¿¼ ¿¼µ
Wie die mit dem Genetischen Algorithmus bestimmten Lösungen später zeigten,
ist dies im vorliegenden Fall nur eine suboptimale Lösung!
Ein weiterer Nachteil dieser Methode ist, dass sie im allgemeinen Fall nicht eingesetzt
werden kann, z.B. falls ´Üµ nicht stetig differenzierbar ist, wie bei einer
stückweise stetigen Kostenfunktion!

4.5 Genetische Algorithmen 145
GA-Lösung: Zur Lösung der Aufgabe mit einem Genetischen Algorithmus verwenden
wir folgende MATLAB-Funktionen der Begleitsoftware:
ga.m
FitGANL_Transport1.m (Fitnessfunktion)
GANLTransport.m
KostenGANLTransport.m
Aufruf_GANLTransport.m
ItAufruf_GANLTransport.m
Die Datei ga.m entstammt der inoffiziellen MATLAB-Toolbox für genetische Algorithmen
der North Carolina State University [5].
Die Datei GANLTransport.m implementiert den binären Genetischen Algorithmus
für dieses Problem. Mit Aufruf_GANLTransport.m kann der Genetische Algorithmus
das Problem angewandt werden. Mit der Funktion ItAufruf_GANLTransport.m
kann das Verfahren mehrmals nacheinander aufgerufen werden. Das beste
Ergebnis kann anschließend aus den in einer Datei abgespeicherten Lösungen ausgewählt
werden.
Für die Codierung der Daten wurde eine -Bit-Binärcodierung ausgewählt, da diese
zur Darstellung der maximalen Liefermenge ½¼¼ ausreicht. Der Vorteil dieser
Codierung ist, wie bereits erwähnt, dass die geforderte Ganzzahligkeit der Lösung
garantiert ist.
Ein Nachteil ist natürlich, dass auch unzulässige Lösungen (Lösungen, die die Nebenbedingungen
nicht erfüllen) entstehen können. In der Literatur [10] wird ein
Vorschlag einer ganzzahliger Codierung gemacht, die nur zulässige Lösungen darstellt
(eine problemangepasste Codierung). Diese ist jedoch wesentlich komplizierter
und soll deshalb an dieser Stelle nicht behandelt werden.
Die übrigen Parameter des Algorithmus wurden konventionell gewählt. In jedem
Versuch wurden ½¼¼¼¼ Generationen durchsimuliert.
Die besten Lösungen der Versuche waren
¼
¼ ¼ ½
½ ¼
¾ ½ ¿ ½½
½
(145.1)

146 Kapitel 4: Non-Standard-Optimierung
mit einem Kostenminimum von ¼ und
¼
¾ ¿½ ¼
¼ ½
¿¿ ½
½
(146.1)
mit einem Kostenminimum von ½!
Beide Lösungen sind wesentlich besser als die mit der „klassischen Methode“ gefundene
Lösung. Der Genetische Algorithmus funktioniert gut, obwohl er dem Problem
nicht optimal angepasst ist!
Insofern wäre der Genetische Algorithmus wäre für kompliziertere Kostenfunktionen
(z.B. differenzierbare oder gar nicht stetige Kostenfunktionen) eine sehr gute,
wenn nicht gar die einzig mögliche Alternative!
4.5.5 Übungen
Übung 28 (Lösung Seite 181 )
Bestimmen Sie mit Hilfe einer geeigneten MATLAB-Implementierung des Genetischen
Algorithmus eine Lösung der Minimierungsaufgabe
unter den nichtlinearen Nebenbedingungen
ÑÒ ´Ü ½Ü ¾ Ü ¿ µÜ ¾ ½ · Ü ¾ · Ü ¿ (146.2)
Ü ½Ü ¾Ü ¿¾Ê
½´Ü ½ Ü ¾ Ü ¿ µÜ ¾ ½ · ܾ ¾ ½¼
¾´Ü ½ Ü ¾ Ü ¿ µÜ½ ·Ü ¾ · Ü ¿ ¼ (146.3)