Modellierung von CSPs, Heuristik des minimalen Konflikts, Heuristik ...

T 

+ T 

F O 

W 

W 

U 

O 

O 

R 

F T U W R 

X 3 X 2 X 1 

O 

(a) 

Wissensbasierte Systeme II 

(b) 

Peter Becker 

FH Bonn-Rhein-Sieg 

Fachbereich Informatik 

peter.becker@fh-bonn-rhein-sieg.de 

Vorlesung Wintersemester 2004/05

Ziele, Voraussetzungen, Abschluß 

• Ziele 

– Vermittlung von fortgeschrittenen Techniken der Wissensrepräsentation 

und elementaren Konzepten des Data Minings 

– Verstehen der grundlegenden Arbeitsweise von intelligenten Spielen 

– Grundlegende Verfahren des maschinellen Lernens und des Data 

Minings kennen, verstehen und anwenden können 

• Voraussetzungen 

– Wissensbasierte Systeme I, insbesondere Suchverfahren, Logik 

und Prolog 

Wissensbasierte Systeme II — FH Bonn-Rhein-Sieg, WS 04/05 1

– Sicherer Umgang mit Datenstrukturen und Algorithmen in einer 

Programmiersprache 

• Abschluß Bachelor: 

– Prüfung (Form wird später festgelegt) 

– ECTS: 3 Credits 

Diplom: 

– Teilnahmebescheinigung für aktive Teilnahme 

– Mündliche Prüfung über Wissensbasierte Systeme I bis III 


Organisatorisches 

• Bachelor: Modul Wahlpflicht, 3 von 8 Credits 

• Diplom: Wahlpflicht Hauptstudium 

• Vorlesung: Mo 8:00 – 9:30 Uhr, C016 

Übung: 9:45 – 10:30, C016 

• Die Übung dient der Präsentation der Lösungen zu Übungsaufgaben. 

• Übungen sind sowohl theoretischer als auch praktischer Art 

• Folien zur Vorlesung sind im Netz verfügbar 


• Homepage zur Vorlesung mit Literaturhinweisen und interessanten 

Links 

www.inf.fh-brs.de/~pbecke2m/wbs2/ 

• Hinweise auf Software 


Inhalt (vorläufig) 

1. Constraintprobleme 

2. Spiele 

3. Regelsysteme 

4. Entscheidungsbäume 

5. Assoziationsregeln 

6. Clusteranalyse 


Literatur 

S. Russell, P. Norvig 

Künstliche Intelligenz: Ein moderner Ansatz 

Pearson Studium 

2004 


S. Russell, P. Norvig 

Artificial Intelligence: A Modern Approach 

Prentice Hall 

2002 


G. F. Luger 

Künstliche Intelligenz 

Addison-Wesley 

2001 


G. Görz, C.-R. Rollinger, J. Schneeberger 

(Hrsg.) 

Handbuch der Künstlichen Intelligenz 

Oldenbourg 

2000 


C. Beierle, G. Kern-Isberner 

Methoden wissensbasierter Systeme 

Vieweg 

2003 


T. A. Runkler 

Information Mining 

Vieweg 

2000 


1. Constraints Constraintprobleme 

1. Constraints 

Western 

Australia 

Northern 

Territory 

South 

Australia 

Tasmania 

Queensland 

New 

South 

Wales 

Victoria 

Probleme der bekannten Algorithmen 

beim Färbungsproblem: 

• Tiefen- und Breitensuche nutzen 

die Struktur des Problems 

nicht aus und 

• A* ist ausgerichtet auf Optimierungsprobleme. 



Charakterisierung von Constraintproblemen 

Allgemein: 

• Objekten bzw. Variablen sollen 

• Werte aus Wertebereichen zugeordnet 

werden, 

Färbungsproblem: 

• Teilstaaten von Australien 

• Farbe aus einer Menge von Farben 

• so daß gewisse Nebenbedingungen 

erfüllt sind. 

• benachbarte Teilstaaten 

müssen unterschiedlich gefärbt 

sein 

Weitere Beispiele: n-Damen-Problem, kryptoarithmetische Rätsel 



Definition 1.1. Ein Constraintproblem (constraint satisfaction problem, 

CSP) besteht aus 

• einer endlichen Menge V von Variablen, 

• einem Wertebereich (Domäne) D(v) für jede Variable v ∈ V und 

• einer endlichen Menge C von Nebenbedingungen, auch Constraints 

genannt, die erlaubte Variablenkombinationen definieren. 

Ein Constraint c ∈ C heißt n-stellig, wenn es von n Variablen abhängt. 

V(c) ist die Menge der Variablen zum Constraint c ∈ C. 

Constraintprobleme, die nur ein- oder zweistellige Constraints enthalten, 

heißen binäre Constraintprobleme. 



Markierung und Lösung für CSP 

Definition 1.2. 

Menge 

mit w i ∈ D(x i ) für i = 1, . . . , n. 

Sei V = {x 1 , . . . , x n } ⊆ V. Eine V-Markierung ist eine 

{x 1 ← w 1 , x 2 ← w 2 , . . . , x n ← w n } 

V wird weggelassen, wenn die Variablenmenge aus dem Kontext hervorgeht. 

Eine Lösung (konsistente Markierung) eines Constraintproblems ist eine 

Markierung für V, so daß man für jedes Constraint c ∈ C bei Ersetzung 

der Variablen x i durch w i eine wahre Bedingung erhält. 



Beispiel 1.1. 

• Färbungsproblem für Australien: 

V = {WA, NT, SA, Q, NSW, V, T} 

D = {rot, grün, blau} 

C = {WA ≠ NT, WA ≠ SA, NT ≠ SA, NT ≠ Q, SA ≠ Q, 

Die Markierung 

SA ≠ NSW, SA ≠ V, Q ≠ NSW, NSW ≠ V} 

σ = {WA ← rot, NT ← grün, Q ← rot, NSW ← grün, 

V ← rot, SA ← blau, T ← rot} 

ist eine Lösung des CSP. 



• Das 4-Damen-Problem: 

V = {x 1 , x 2 , x 3 , x 4 } 

D = {1, 2, 3, 4} 

C = {c(x i , x j )|i, j = 1, 2, 3, 4, i < j}, mit 

c(x i , x j ) = x i ≠ x j ∧ x i − x j ≠ i − j ∧ x i − x j ≠ j − i 


σ = {x 1 ← 2, x 2 ← 4, x 3 ← 1, x 4 ← 3} 




• Kryptoarithmetisches Rätsel: 

T W O 

+ T W O 

F O U R 

V = {T, W, O, F, U, R, X 1 , X 2 , X 3 } 

⎧ 

⎨ {0, 1, . . . , 9} für v ∈ {W, O, U, R} 

D(v) = {1, . . . , 9} für v ∈ {T, F} 

⎩ 

{0, 1} für v ∈ {X 1 , X 2 , X 3 } 

C = {2 · O = R + 10 · X 1 , 

X 1 + 2 · W = U + 10 · X 2 , 

X 2 + 2 · T = O + 10 · X 3 , 

X 3 = F, 

T ≠ F, T ≠ W, . . . , U ≠ R} 




σ = {T ← 7, W ← 3, O ← 4, F ← 1, U ← 6, R ← 8, X 1 ← 0, X 2 ← 0, X 3 ← 1} 




Bemerkungen: 

• Im Gegensatz zum Färbungsproblem und zum n-Damen-Problem 

handelt es sich bei dem kryptoarithmetischen Rätsel nicht um ein 

binäres CSP. 

• Weitere Anwendungen von CSP: Frequenzzuordnung in Mobilfunknetzen, 

Stundenplanprobleme, Scheduling 

• Ein aktuelles Forschungsthema ist die Kombination von Logikprogrammierung 

mit Verfahren zur Lösung von Constraintproblemen. 

☞ Constraint Programming 



Constraintnetze 

Beispiel 1.2. Es sei n > 0. Das folgende Gleichungssystem ist über 

dem Bereich D = {0, 1, . . . , n} zu lösen. 

x + z = 2n 

y + w = 2n 

Wir nutzen Tiefensuche und markieren die Variablen in der Reihenfolge 

1. x, y, z, w 

2. x, z, y, w. 



Suchbaum für n = 2 und die Reihenfolge x, y, z, w: 

X = 0 X = 1 X = 2 

Y = 0 Y = 1 Y = 2 Y = 0 Y = 1 Y = 2 Y = 0 Y = 1 Y = 2 

Z = 2 Z = 2 Z = 2 

W = 2 



Suchbaum für n = 2 und die Reihenfolge x, z, y, w: 

X = 0 X = 1 X = 2 

Z = 2 

Y = 0 Y = 1 Y = 2 

W = 2 



Bemerkungen: 

• Für beliebiges n wächst die Anzahl der Knoten im ersten Suchbaum 

mit n 2 , 

• die Anzahl der Knoten des zweiten Suchbaums mit 2n. 

• Grund: Die Variablen x, z stehen mit den Variablen y, w in keiner Beziehung. 

• Fazit: Die Information über die Beziehungen zwischen den Variablen 

eines CSP kann von großem Nutzen sein. 



Definition 1.3. Ein Constraintnetz (constraint net) zu einem binären 

Constraintproblem ist ein Graph, 

• dessen Knoten den Variablen eines CSP entsprechen und 

• dessen Kanten mit den binären Constraints markiert sind. 

Ein Constraintnetz heißt zusammenhängend, wenn der Graph zusammenhängend 

ist. 



Constraintnetz für das australische 

Färbungsproblem: 

NT 

Q 

Constraintnetz für Beispiel 1.2 und 

n = 2: 

WA 

X 

X+Y=4 

Y 

SA 

NSW 

V 

Z 

Z+W=4 

W 

T 



• Nicht zusammenhängende Teile eines Constraintnetzes können separat 

gelöst werden. 

• Die Beschränkung auf binäre CSPs stellt prinzipiell keine Einschränkung 

dar, da jedes CSP in ein binäres CSP transformiert werden 

kann. 

• Alternativdarstellung am Beispiel des kryptoarithmetischen Rätsels: 

+ 

T 

T 

W 

W 

O 

O 

F T U W R 

O 

F 

O 

U 

R 

X 3 X 2 X 1 

(a) 

(b) 



Umwandlung in ein binäres CSP 

1. Für jede Constraint c ∈ C wird eine neue Variable eingeführt, die die 

ursprünglichen Variablen V(c) einschließt. 

2. Der Wertebereich der einschließenden Variablen ergibt sich aus der 

Relation, die die zugehörige Constraint erfüllt. 

3. Nachdem so alle Constraints umgewandelt worden sind, werden 

zwei umschließende Variablen durch eine neue Constraint verbunden, 

wenn die Menge der zugehörigen ursprünglichen Variablen 

nicht leer ist. 



Beispiel 1.3. 

Wir betrachten folgendes Constraintproblem: 

V = {x, y, z} 

D(x) = {1, 2} 

D(y) = {3, 4} 

D(z) = {5, 6} 

C = {x + y = z, x < y} 

Für die Constraint x + y = z führen wir die umschließende Variable u 

ein mit 

D(u) = {(1, 4, 5), (2, 3, 5), (2, 4, 6)} 

Für die Constraint x < y führen wir die umschließende Variable v ein 

mit 

D(v) = {(1, 3), (2, 3), (1, 4), (2, 4)} 



Die Funktion π i (t) stelle die Projektion eines Tupels t auf die i-te Stelle 

dar. Die Constraints für das binäre CSP sind dann 

π 1 (u) = π 1 (v) und π 2 (u) = π 2 (v) 

Constraintnetz: 

{(1, 4, 5), (2, 3, 5), (2, 4, 6)} 

u 

π 1 (u) = 

π (v) 1 

π 2 (u) = 

π (v) 2 

v 

{(1, 3), (1, 4), (2, 3), (2, 4)} 



CSP und Tiefensuche 

Startzustand: leere Markierung {} 

Zustandsübergang: Markierung einer bisher nicht markierten Variablen 

mit einem Wert, der nicht zu einem Konflikt führt 

Zielzustand: vollständige (konfliktfreie) Markierung für V. 

Zur Lösung verwendet man üblicherweise Tiefensuche, denn 

• die Tiefe des Suchbaums ist endlich und 

• Tiefe ist im voraus bekannt. 


1. Constraints Heuristiken f ür Constraintprobleme 

Heuristik des minimalen Konflikts 

Nachfolgerzustände sollten günstig für die Effizienz der Problemlösung 

ausgesucht werden. 

✕ 

✕ 

✕ 

✕ 

✕ 

s1 

✕ 

✕ 

✕ 

✕ 

s0 

✕ 

✕ 

s2 

✕ 

✕ 

Ist s 1 oder s 2 besser? 



Die Heuristik des minimalen Konflikts (least constraining value heuristics, 

LCV-Heuristik) lautet: 

☞ Ordne die möglichen Werte für eine Variable nach der Anzahl der 

Konflikte, die ein Wert mit den noch zu markierenden Variablen erzeugt. 

☞ Bevorzuge den Wert, der die wenigsten Konflikte erzeugt. 

Bemerkungen: 

• Der “Konfliktgrad” für einen Nachfolgerzustand kann durch eine heuristische 

Funktion h(s) zum Ausdruck gebracht werden. 

• Die Nachfolgerzustände werden dann aufsteigend sortiert gemäß 

h(s) in die Agenda eingefügt. 



Beispiel 1.4. 

Für das n-Damen-Problem: 

h(s) := Anzahl der bedrohten Felder in den noch zu 

besetzenden Spalten. 

Damit ist h(s 1 ) = 7 und h(s 2 ) = 6. Also wird zunächst s 2 expandiert. 

Allgemein: Um h(s) für eine Markierung x ← w zu ermitteln, 

• bestimme für jede noch zu markierende Variable y 

• die Anzahl der Werte v ∈ D(y), für die die Markierung {. . . , x ← 

w, y ← v} ein Constraint verletzt 

• und summiere diese Werte auf. 



Heuristik der maximal eingeschränkten Variablen 

1 

✕ 

✕ ✕ ✕ ✕ 

• Die zu markierende Variable 

sollte ebenfalls günstig für die 

Effizienz der Problemlösung 

ausgesucht werden. 

2 

3 

4 

5 

✕ 

✕ 

✕ 

✕ 

✕ ✕ ✕ ✕ 

✕ ✕ ✕ ✕ 

• Welche Spalte soll als nächstes 

besetzt werden? 

6 

7 

✕ 

✕ 

✕ 

✕ 

✕ 

✕ 

8 

✕ 

✕ 

a b c d e f g 

✕ 

h 



Die Heuristik der maximal eingeschränkten Variablen (most constrainted 

variable heuristics, MCV-Heuristik) lautet: 

☞ Ordne die zu markierenden Variablen nach der Anzahl der noch 

möglichen Werte und 

☞ bevorzuge die Variable, die die wenigsten möglichen Werte besitzt. 

Kombination der beiden Heuristiken: 

• Die nächste zu markierende Variable wird mit der Heuristik der maximal 

eingeschränkten Variablen ermittelt. 

• Anschließend wird für diese Variable ein Wert mit der Heuristik des 

minimalen Konflikts bestimmt.

Modellierung von CSPs, Heuristik des minimalen Konflikts, Heuristik ...

Sie wollen auch ein ePaper? Erhöhen Sie die Reichweite Ihrer Titel.

Template löschen?

Als Template speichern?