Einführung in heuristische Suchverfahren - Universität Paderborn

Einführung Graphensuche Uninformierte Suche Informierte Suche 

Einführung in heuristische Suchverfahren 

PG Learning Agents in Dynamic Environments 

Markus Eberling 

Universität Paderborn 

Fachgebiet Wissensbasierte Systeme 

Prof. Dr. Kleine Büning 

09. November 2010 

Einführung in heuristische Suchverfahren Markus Eberling 1/44


Inhalt 

1 Einführung 

2 Graphensuche 

3 Uninformierte Suche 

4 Informierte Suche 



Inhalt 







Beispiele für Suchaufgaben 

8-Damen-Problem 

Wurde 1845 erstmal von M. Bettel in einer Schachzeitung 

veröffentlicht 

Fragestellung: Man finde alle Möglichkeiten, 8 Damen auf einem 

8 × 8 Schachbrett so zu platzieren, dass keine eine andere bedroht. 

Verallgemeinerung: n Damen auf einem n × n großen Schachbrett 



piele 

Beispiele 

für Suchaufgaben 

für Suchaufgaben 

en-Problem 


Q 

A 

Q 

B 

C 

[Lettmann / Stein, Vorlesung ” Heuristische Suchverfahren“] 

Einführung in heuristische Suchverfahren Markus Eberling 5/44 

Q





8-Damen-Problem (Fortsetzung) 

Analyse Analyse der aktuellen der aktuellen Situation Situation: 

Q 

A 

Q 



B 

C 

Q


Beispiele für für Suchaufgaben 



Analyse der möglichen Folgesituationen 

Folgesituationen: 

Q 

A 

Q 

B 

C 

Q 

Q 

A 

Q 


S: I-4 Search Introduction c○STEIN 1998-2010 


B 

C 

Q 

Q 

A 

Q 

B 

C 

Q




Damen definieren Constraints (Beschränkungen, Restriktionen) 

Monotone Situation: Contraintverletzungen können nicht repariert werden 

Gewünscht: Heuristik für die nächste Platzierung 

Generelle Idee: ” Welche Platzierung hält die meisten Optionen offen?“ (least 

commitment) 

Heuristik 1: ” Maximiere f1 mit f1 =Anzahl der nicht-angegriffenen Felder 

(unattacked cells).“ 

f1(A) = 8 

f1(B) = 9 

f1(C) = 10 

Heuristik 2: ” Maximiere f2 mit f2(x) = min{uc(x, r) | r ∈ {r5, . . . , r8}}, 

x ∈ {A, B, C}“, uc(x, r) = Anzahl der ” unattacked cells“ in Zeile r, falls 

Dame auf x. 

f2(A) = 1 

f2(B) = 1 

f2(C) = 2 

Beide Heuristiken schätzen einen Nutzen und bewerten die Situation nach 

der nächsten Platzierung. 






Mögliche Mögliche Lösungen Lösungen: 

B 

Q 

B 

Q 

B 

B 

B 

Q 

Q 


S: I-6 Search Introduction c○STEIN 1998-2010 


C 

C 

Q 

C 

C 

C 

Q



8er Puzzle Beispiele für Suchaufgaben 

8-Puzzle-Problem 

2 

1 8 

3 

4 

7 6 5 

2 

1 8 

3 

4 

7 6 5 

2 

1 

8 

3 

4 

7 6 5 

2 

3 

1 8 

4 

7 6 5 

(A) (B) 

(C) 

[Lettmann / Stein, Vorlesung Heuristische Suchverfahren“] 

S: I-8 Search Introduction ” c○STEIN 1998-2010 




8er Puzzle 

Expliziter Zielzustand (Endkonfiguration) existiert und ist bekannt. 

Vergleich 8-Damen-Problem: Zielzustand ist unbekannt und wird gesucht. 

Gewünscht: Heuristik für den nächsten Zug. 

Generelle Idee: ” Wie groß ist der Abstand einer Kandidatenkonfiguration zur 

Endkonfiguration?“ 

Heuristik 1: ” Minimiere h1 mit h1 = Anzahl der nicht-übereinstimmenden 

Felder.“ 

h1(A) = 2 

h1(B) = 3 

h1(C) = 4 

Heuristik 2: ” Minimiere h2 mit h2 = Summe der City-Block-Distanzen zur 

Endkonfiguration.“ 

h2(A) = 2 

h2(B) = 4 

h2(C) = 4 

Beide Heuristiken schätzen einen Aufwand und bewerten das noch ungelöste 

Restproblem. 



Inhalt 







Systematische Suche 

Die in der Einführung genannten Probleme definieren einen 

Lösungsraum S von Objekten mit Lösungskandidaten 

(Brettkonfigurationen, Zugfolgen,. . . ), worin auch die Lösung zu 

suchen ist. 

Unterscheidung von zwei Problemtypen: 

1 Optimierungsprobleme 

Lösungskandidat muss Constraints erfüllen und hat herausragende 

Eigenschaften verglichen mit allen anderen Kandidaten. 

2 Contraint-Satisfaction-Probleme 

Lösungskandidat muss Constraints erfüllen und soll mit minimalem 

Suchaufwand gefunden werden. 




Bausteine zur Automatisierung von Suchproblemen (allgemein) 

1 Eine Codierung, die zur Repräsentation der Objekte im Suchraum S 

dient. 

2 Ein Mechanismus, um ein Objekt aus S in ein anderes zu 

transformieren (Aufzählbarkeit). 

3 Ein effektives Verfahren, um die Reihenfolge möglicher 

Transformationen festzulegen. Ziel: Das gesuchte Objekt so schnell 

wie möglich finden. 

Bezeichnungen in der künstlichen Intelligenz (KI, AI): 

1 Datenbasis 

2 Operatoren oder Produktionsregeln 

3 Steuerungsstrategie 




Codierungsmöglichkeiten 

Zwei prinzipielle Anforderungen: 

1. Codierung von Lösungskandidaten (notwendig) 

Beispiel: Schachbrett mit 8 Damen 

Nachteil: Die Struktur des Problems wird nicht ausgenutzt. 

Im 8-Damen-Problem: (A1, A2, A3, A4, A5, A6, A7, A8), . . . , 

(H1, H2, H3, H4, H5, H6, H7, H8) 

2. Codierung von Teillösungen (sehr wünschenswert) 

Beachte insbesondere: Die Codierung einer Teillösung kann zur 

Charakterisierung einer Teilmenge von Lösungskandidaten dienen. 

Im 8-Damen-Problem: (A2, B5, C3) charakterisiert 

(A2, B5, C3, ∗, ∗, ∗, ∗, ∗) 




Definition (systematische Steuerungsstrategie) 

Sei S ein Suchraum mit Lösungskandidaten. Eine Steuerungsstrategie 

heißt systematisch, falls sie 

(a) alle Objekte in S betrachtet (Vollständigkeit), 

(b) jedes Objekt aus S nur einmal betrachtet (Effizienz). 

Eine Suche, die eine systematische Steuerungsstrategie anwendet, heißt 

systematisch. 



Zustandsraumrepräsentation 

Definition (Zustand) 

Die Information, die explizit ein bestimmtes (Rest-/Teil-)Problem 

beschreibt, heißt Zustand (State). 

Definition (Zustandsraum, Zustandsraumgraph) 

Die Menge aller Teilprobleme, die durch die Anwendnung der Operatoren 

auf die Datenbasis erzeugt werden können, bilden den Zustandsraum 

(State Space). 

Verbindet man die Elemente des Zustandsraums mit gerichteten Kanten, 

die mit den angewandten Operatoren markiert sind, so erhält man den 

Zustandsraumgraph (State Space Graph). 

Definition (Lösungsgraph im Zustandsraumgraph) 

Sei ein Zustandsraumgraph S gegeben. Ein Pfad von s zu einer Lösung 

(triviales Restproblem) heißt Lösungsgraph (Solution Graph) für s. 





Ausschnitt des Zustandsraumgraphen beim 8-Damen-Problem 

Ausschnitt des Zustandsraumgraphen beim 8-Damen-Problem 

Zustand: (*, *, *, *, *, *, *, *) 

"Plaziere 8 Damen auf den Zeilen 1-8" 

* 

(A1, *,...,*) (A2, *,...,*) (A8, *,...,*) 

* * 

Dame auf A1 Dame auf A8 

(A2, B4, *,...,*) 

* 

* 

... 

... 

Dame auf B3 Dame auf B8 

* 

(A2, B5, *,...,*) 

* 

* 

(A2, B8, *,...,*) 


S: II-22 Problem Representation c○STEIN, LETTMANN 1998-2010 


*


Graphensuche 

Grundlagen / Terminologie 

a ist Vorgänger / Vater von b 

b ist Nachfolger / Kind von a 

Verzweigungsfaktor eines Graphen ist maximaler Knotengrad 

a, b, c, d ist ein Pfad von a nach d der Länge 3. Wir sagen, dass der 

Knoten d von a erreichbar ist. 

Wir haben Zeiger vom Kind zum Vater. Wir sprechen auch von 

einem Zeigerpfad (rot). 

Die Knoten a, b, c, d liegen entlang des Zeigerpfades, e jedoch 

nicht. 

Alle Knoten liegen auf dem Zeigerpfad. 



Graphensuche 

Grundlagen / Terminologie 

Behandlung der Knoten: 

Knotengenerierung: erzeuge den Repräsentanten eines Knotens 

ausgehend von der Kodierung des Elternknotens 

Knotenexploration: Generiere mindestens einen Nachfolger 

Knotenexpansion: Generiere alle Nachfolger 

Zu jedem Zeitpunkt kann die Knotenmenge in vier disjunkte 

Teilmengen zerlegt werden: 

1 Knoten, die bereits expandiert wurden 

2 Knoten, die exploriert, aber noch nicht expandiert wurden 

3 Knoten, die generiert, aber noch nicht exploriert wurden 

4 Knoten, die noch nicht generiert wurden 

Knoten aus Kategorie 1 heißen ” closed“; Knoten aus Kategorie 3 

heißen ” open“. 



Graphensuche 

Zusammenhang zwischen Graphen und Suche 

Suchprobleme und die eigentliche Suche lassen sich durch Graphen 

sehr schön repräsentieren. 

Knoten repräsentieren Problemzustände. 

Kanten repräsentieren Operatoren um aus einem Zustand 

Folgezustände zu generieren. 

Es gibt einen ausgezeichneten Startzustand s. 

Es gibt eine Menge an Zielzuständen γ ∈ Γ. 



Inhalt 







Einteilung von Suchstrategien 

Suchverfahren werden hinsichtlich der Art und Weise eingeteilt, in der sie 

die Knoten des Suchgraphen untersuchen: 

1. blind bzw. uninformiert 

Die Reihenfolge der Knoten, die zur Expansion ausgewählt werden, 

hängt ausschließlich von Information ab, die während der Suche 

gewonnen wurde. D.h., der nicht-untersuchte Teil des Graphen, wie 

z.B. auch das Zielkriterium bleiben unberücksichtigt. 

2. gerichtet bzw. informiert 

Zusätzlich wird Wissen aus der Domäne und Wissen über die Art 

und Lage der Zielzustände berücksichtigt. 



Tiefensuche (DFS) 

Tiefensuche ist eine uninformierte, systematische Strategie. 

Merkmale von Tiefensuche: 

Im Graph tiefer liegende Knoten werden bevorzugt behandelt. 

Der kleinste unteilbare Schritt ist die Knotenexpansion: 

Wird ein Knoten untersucht, so werden unmittelbar alle direkten 

Nachfolger n1, . . . , nk generiert. 

Unter n1, . . . , nk wird wieder ein Knoten zur Expansion ausgesucht, 

usw. 

Die OPEN-Liste ist als Stack organisiert (LIFO-Order). 

Bemerkung: Wir färben keine Knoten (aus Effizienzgründen)! 



Tiefensuche 

Problematik von Tiefensuche: Die Suche kann zu tief ” abrutschen“. 

Ausweg: Berücksichtigung einer Tiefenschranke. 

Tiefensuche ist angesagt, wenn: 

viele Lösungen existieren, die gleichwertig sind. 

Sackgassen früh erkannt werden können. 



Tiefensuche (DFS) 

1 push(s,OPEN); 

2 loop 

3 if (OPEN=∅) then Return(’Failure’); 

4 n=pop(OPEN); 

5 push(n,CLOSED); 

6 if (depth(n)=k) then 

7 cleanup closed(); 

8 else 

9 forall the n ′ in successors(n) do 

10 push(n ′ ,OPEN); 

11 set backpointer(n ′ ,n); 

12 if (⋆(n ′ )) then Return(n ′ ); 

13 if (⊥(n ′ )) then 

14 remove(n ′ ,OPEN); 




Breitensuche 

Breitensuche ist eine uninformierte, systematische Strategie. 

Merkmale von Breitensuche: 

Im Graph weiter oben liegende Knoten werden bevorzugt behandelt. 

Die untersuchten Knoten bilden Schichten gleicher Tiefe. 

Terminiert auf lokal endlichen Graphen mit einer Lösung, falls eine 

existiert. 

Findet die Lösung, die am nächsten vom Startpunkt entfernt ust, 

gemesser in der Anzahl der Kanten des Lösungspfades. 

Die OPEN-Liste ist als Queue organisiert (FIFO-Order). 



Breitensuche (BFS) 

1 enqueue(s,OPEN); 

2 loop 

3 if (OPEN=∅ OR memory exhausted()) then Return(’Failure’); 

4 n=dequeue(OPEN); 



7 enqueue(n ′ ,OPEN); 



10 if (⊥(n ′ )) then 

11 remove(n ′ ,OPEN); 




Inhalt 







Best-First-Search 

Wissen über den Problembereich (Domäne) hilft, die Suche zu steuern. 

” To enhance the performance of AI’s programs, knowledge is 

the power.“ [Feigenbaum 1980] 

Frage: An welcher Stelle kann / sollte heuristische Information eingesetzt 

werden? 

⇒ Hillclimbing: Entscheidung für den erfolgversprechendsten Nachfolger 

⇒ Best-First-Search: Der erfolgversprechenste Nachfolger eines Knoten 

n wird unter allen bisher betrachteten Knoten gesucht – egal, an 

welcher Stelle im Suchraum sich n befindet. 



Best-First-Search 

Die Erfolgsaussicht eines Knotens n kann auf verschiedene Arten 

berechnet werden: 

1. Abschätzung der Schwierigkeit des Restproblems. 

2. Bewertung der Qualität der Teillösung. 

3. Erwartete Größe des Informationsgewinns bei Expansion von n. 

⇒ Ziel ist es, das ” Potential“ von n durch eine heuristische 

Bewertungsfunktion f (n) zu quantifizieren. 

Die Berechnung der Bewertungsfunktion f kann abhängen von: 

der Beschreibung des Knotens n, 

bisher gesammelter Information, d.h. dem bisherigen Pfad p, 

der Beschreibung des Ziels γ, 

generellem Problemlösewissen aus der Domäne, K. 

f = f (n, p, γ, K) 



Best-First-Search (BF) 

1 insert(s,OPEN); 

2 loop 


4 n=min(OPEN,f ); 

5 remove(n,OPEN); 





10 n ′ old = node eq state(n′ ,OPEN,CLOSED); 

=NULL) then 

11 if (n ′ old 

12 insert(n ′ ,OPEN) 

13 else 

)) then 

14 if (f (n ′ ) < f (n ′ old 

15 insert(n ′ ,OPEN); 

,OPEN)) then 

16 if (member(n ′ old 

17 remove(n ′ old ,OPEN) 

18 else remove(n ′ old ,CLOSED) 



Verzögerter Abbruch 

Sobald BF eine Lösung findet, terminiert BF mit dieser Lösung. 

Diese muss nicht zwangsläufig optimal sein. 

Um Optimalität sicherzustellen benötigen wir: 

1 eine optimistische Schätzung (Unterschätzung der Kosten bzw. 

Überschätzung des Nutzens) 

2 eine andere Terminierungsbedingung: Anstatt sofort mit einer Lösung 

zu terminieren, muss dieser Lösungsknoten mit allen anderen Knoten 

auf der OPEN-Liste konkurieren. Erst wenn ein Lösungsknoten von 

OPEN genommen wird, wird mit dieser Lösung terminiert. 



Rekursive Bewertungsfunktion 

Definition (rekursive Bewertungsfunktion) 

Eine Bewertungsfunktion WG(n) ist rekursiv, wenn für jeden Knoten n im 

Graphen gilt: 

WG(n) = F � E(n); WG(n1), . . . , WG(nb) � 

wobei 

n1, n2, . . . , nb die direkten Nachfolger von n sind 

E(n) eine Menge lokaler Eigenschaften des Knotens n repräsentiert 

F eine beliebige Verrechnungsfunktion ist. 



Taxonomie von BF-Strategien 

verzögerter 

Abbruch 

rekursive 

Bewertungsfunktion 

BF 

BF* Z 

Z* 

A* 

rekursive 

Bewertungsfunktion 

verzögerter 

Abbruch 

additives 

Kostenmaß: 

F = c(n,n') + h(n') 

⇒ f(n) = g(n) + h(n) 

mit g(n´) = g(n) + c(n, n´) 

und g(s) = 0 




Algorithmus A* 

1 insert(s,OPEN); 

2 g(s)=0; 

3 loop 


5 n=min(OPEN,g + h); 

6 remove(n,OPEN); 


8 if (⋆(n)) then Return(n); 



11 g(n ′ ) = g(n) + c(n, n ′ ); 

12 n ′ old = node eq state(n′ ,OPEN,CLOSED); 

=NULL) then 

13 if (n ′ old 

14 insert(n ′ ,OPEN) 

15 else 

16 if (g(n ′ ) < g(n ′ old 

17 insert(n ′ ,OPEN); 

)) then 

,OPEN) then 

18 if member(n ′ old 

19 remove(n ′ old ,OPEN) 

20 else remove(n ′ old ,CLOSED) 



Vollständigkeit und Zulässigkeit von Algorithmen 

Definition (Vollständigkeit) 

Ein Algorithmus heißt vollständig, wenn er mit einer Lösung terminiert, 

wenn eine existiert. 

Definition (Zulässigkeit) 

Ein Algorithmus heißt zulässig, wenn garantiert werden kann, dass der 

Algorithmus mit einer optimalen Lösung terminiert, wenn eine existiert. 



Findet A* immer eine Lösung, wenn eine Lösung existiert? 

s 1 

s 2 

s 3 

s 4 

1 

2 

1 

4 

1 

8 

1 

s 


2 

γ


Lässt sich immer eine optimale Lösung bestimmen? 

γ 

1 

1 

γ 

2 

s 

1 

4 

1 

2 

γ 

3 

s 

1 

1 

16 


1 

8 

γ 

1 

64 

4 

s 

2 

1 

32 

s 

3 

1 

128


Einschränkung des Suchraums 

1 Der Suchraum ist ein (gerichteter) ODER-Graph. 

2 Der Graph ist lokal endlich. 

3 Der Graph besitzt nur einen einzigen Startknoten s. 

4 Der Graph enthält eine Menge Γ von Zielknoten. 

5 Jede Kante (n, n ′ ) besitzt endliche, positive Kosten c(n, n ′ ) ≥ δ > 0. 

6 Die Kosten eines Pfades entsprechen der Summe der Kosten der 

Kanten des Pfades. 

7 Für jeden Knoten n im Graph kann eine heuristische Schätzug 

h(n) ≥ 0 der Restkosten zu einem Ziel berechnet werden. 

8 Für jeden Knoten γ ∈ Γ gilt h(γ) = 0. 



Eigenschaften von A* 

Mit eingeschränktem Suchraum 

A* ist vollständig auf unendlichen Graphen (Pearl Satz 1). 

A* ist zulässig bei Verwendung einer zulässigen Schätzfunktion h 

(Nilsson Result 4 / Pearl Satz 2). 

Für eine zulässige Schätzfunktion gilt, dass sie optimistisch ist. D.h., 

wenn h(n) die Kosten schätzt und h ∗ (n) eine perfekte 

Schätzfunktion ist, dann muss für alle Knoten n gelten: 

h(n) ≤ h ∗ (n). 



Relaxierung von A* 

Algorithmus A ∗ ɛ 

Verwendung einer zusätzlichen Liste FOCAL ⊆ OPEN: 

FOCAL = {n | f (n) ≤ (1 + ɛ) · min 

n ′ ∈OPEN f (n′ )} 

Verwendung einer Funktion hF (n) zur Abschätzung des 

Suchaufwands, um das Restproblem bei n zu lösen. 

Auswahl des Knotens n mit dem niedrigsten hF (n) aus FOCAL 

⇒ Anstatt die billigste Lösung zu suchen, wird das Ziel verfolgt, 

möglichst schnell die Suche zu beenden. 



Relaxierung von A* 

Algorithmus R ∗ δ 

Für eine gegebene Kostenhöhe C (eines Zielknotens) bewertet das 

Risikomaß für jeden Knoten n in der OPEN-Liste, inwieweit C durch 

Expandieren von n noch verbessert werden kann. 

R = R(C). Das Risikomaß ist folglich eine monoton steigende 

Funktion der Kosten C. Je größer der R(C)-Wert eines Knotens n, 

desto größer ist das Risiko, eine Verbesserung von C zu verpassen, 

falls mit C terminiert wird, ohne n zu expandieren. 

Beende Suche, wenn Risikowert R(C) jedes Knotens in der 

OPEN-Liste unter einer vom Anwender akzeptierten Risikoschwelle δ 

ist. 



Weiterführende Informationen 

Theodor Lettmann & Benno Stein. 

Unterlagen zur Vorlesung ” Heuristische Suchverfahren“, gehalten 

von Dr. Theodor Lettmann (wieder im SoSe 2011). 

http://www.cs.uni-paderborn.de/fachgebiete/ 

fg-kleine-buening/lehre/heuristische-suchverfahren. 

html. 

Nils J. Nilsson. 

Principles of Artificial Intelligence. 

Springer, 1982. 

Judea Pearl. 

Heuristics. 

Addison-Wesley, 1984.

Einführung in heuristische Suchverfahren - Universität Paderborn

Sie wollen auch ein ePaper? Erhöhen Sie die Reichweite Ihrer Titel.

Template löschen?

Als Template speichern?