Antrag auf Gewährung einer Sachbeihilfe bei der Deutschen ... - TZI

Antrag auf Gewährung einer Sachbeihilfe bei
der Deutschen Forschungsgemeinschaft im
Rahmes des Schwerpunktprogramms
Algorithm Engineering
Neuantrag
12. Juli 2007
1 Allgemeine Angaben
1.1 Antragsteller
• PD Dr. Stefan Edelkamp, Dortmund
• (Derzeit: Emmy-Nöther-Nachwuchsgruppenleiter)
• Geburtsjahr: 1969, Nationalität: deutsch
• Fachbereich Informatik der Universität Dortmund
Otto-Hahn-Straße 14, Raum 111
44221 Dortmund
Tel.: (0231) 755-5809
Fax.: (0231) 755-5802
• privat:
Hainallee 2
44139 Dortmund
Tel.: (0231) 1891055
1

1.2 Thema
Externe zielgerichtete Suche in impliziten Graphen
1.3 Kennwort
External Goal-Directed Implicit Graph Search
1.4 Fachgebiet und Arbeitsrichtungen
• Fachgebiet: Theoretische Informatik
• Das Forschungsfeld der impliziten Graphsuche verbindet die Teilgebiete
Algorithm Engineering, Künstliche Intelligenz und Verifikation.
Arbeitsrichtungen: Künstliche Intelligenz, Effiziente Algorithmen und
Datenstrukturen, Graphenalgorithmen, Verteilte Systeme
1.5 Voraussichtliche Gesamtdauer
5 Jahre
1.6 Antragszeitraum
2 Jahre
1.7 Voraussichtlicher Beginn der Förderung
1. Juni 2007
1.8 Zusammenfassung
Heutige externe Speichermedien (z.B. Festplatten oder Flashkarten) haben
ein großes Volumen, sind verhältnismäßig preiswert, allerdings – verglichen
mit Hauptspeicherstrukturen – sehr langsam. Aufgrund der langen Zugriffszeiten
benötigt man demnach bei der Exploration von großen Problemen eine
vom Betriebssystem abweichende und dem Suchverfahren angepasste, externe
Datenorganisation. Die in den Anwendungen aufgespannten impliziten
Problemgraphen übertreffen die Hauptspeichergröße innerhalb kurzer Zeit
2

schnell um ein Vielfaches. Die zielgerichtete Exploration dient dazu, einen
möglichst kleinen Teil des erzeugten Zustandsraumes anzuschauen, kann aber
letztendlich nicht verhindern, dass der Speicherplatzbedarf über die Hauptspeicherplatzgrenzen
ansteigt.
Mit diesem Projekt sollen die bereits erzielten Ergebnisse in der gerichteten,
impliziten, symbolischen, externen und parallelen Suche gefestigt und
auf weitere Anwendungsfelder ausgedehnt werden.
2 Themenstellung
Das Thema der externen, zielgerichteten Suche in impliziten Graphen verbindet
die KI- mit der Sekundärspeicherplatzsuche.
2.1 Algorithmik der Zielgerichteten Suche
In etablierten Lehrbüchern der KI wie [85], tauchen zielgerichtete Suchverfahren
selten als das auf, was sie eigentlich sind [40]: Kürzeste-Wege-Algorithmen
in, durch eine Untere-Schranken-Funktion, umgewichteten Graphen. Auf der
anderen Seite haben Basisalgorithmen wie A* [47] bis auf einige wenige Ausnahmen
[74] keinen Eingang in graphtheoretische Standardwerke gefunden.
Diese Situation beginnt sich mit dem rasant wachsenen Forschungsgebiet
Algorithm Engineering zu wandeln, da immer mehr praktisch orientierte Algorithmiker
auf das A*-Verfahren setzen [95, 84].
Gerade auch um die Verbindung von zielgerichteten KI-Such- und Graphsuchverfahren
zu stärken, haben wir zusammen mit Stefan Schrödl und
Sven König ein Lehrbuch mit dem Titel: Heuristic Search, Theory and Applications)
verfasst, das bei Morgan Kaufmann (Elsevier Science) unter Vertrag
steht und 2007 erscheinen wird. Das Forschungsgebiet der Heuristischen
Suche wird dort, wie auch im Schwerpunktprogramm Algorithm Engineering
verankert, in die Bereiche Grundlagen (Algorithmen und Komplexitätsbetrachtungen)
und Anwendungen (Handlungsplanung, Systemverifikation,
Navigation, algorithmische Biologie und Robotik) gegliedert.
Die Festlegung von Explorationsverfahren auf eine Suche im impliziten
Zustandsgraphen erfordert zeit- und platzeffiziente Implementierungen für
Wörterbücher zur Verwaltung der besuchten und expandierten Knoten. Zur
internen Speicherung gibt es aufbauend auf der Arbeit von [15] zum perfek-
3

ten Hashing aktuelle Studien, die den Platzverbrauch weiter bis an die informationstheoretische
Grenze drücken, ohne die konstante Zeitkomplexität zu
beeinträchtigen [80]. So ist Cuckoo Hashing [81] ein leicht zu implementierendes
Verfahren, das die Daten auf zwei Tabellen verteilt. In [73] untersuchen
wir inkrementelle Hashadressberechnungen in konstanter Zeit. Mit Suffixlisten
[38] stellen wir eine einfache Methode zur Platzoptimierung vor, die
die Bitcodierung eines Zustandes in zwei Teile aufteilt. Die Implementierung
nutzt Puffer, wie sie auch bei Externspeicherplatzverfahren verwendet werden.
In A* werden Zustandsmengen entlang einer Kostenfunktion f = g +h in
einer Vorrangwarteschlange verwaltet (g entspricht den bisherigen Pfadkosten
und h dem Schätzwert der verbleibenden Zieldistanz). In [42, 41] schlagen
wir eine effiziente Implementierung mit Weak-Heaps vor. Relaxed Weak-
Queues [44] weiten Weak-Heaps zu einer, den etablierten Fibonacci-Heaps in
allen Belangen vorzuziehenden, Datenstruktur aus. Die von Fibonacci-Heaps
bekannten Komplexitäten sind in einer zudem einfacheren Implementierung
worst-case, anstatt amortisiert.
Ein entscheidender Schritt in Richtung effektiver Heuristiken sind Musterdatenbanken
[16]. Sie haben zur erstmaligen optimalen Lösung zufälliger
Konstellationen des Zauberwürfels geführt [65], und die Erweiterung auf mehrere,
disjunkte Datenbanken hat im (n 2 −1)-Puzzle den Effekt um Größenordnungen
verstärkt [67]. Musterdatenbanken sind jedoch sehr speicherintensiv,
da sie vollständigen Explorationen von Problemabstraktionen entsprechen.
Sie liefern untere Schranken, die wiederum optimale Lösungen in der konkreten
Suche garantieren.
2.2 Externspeicherplatzalgorithmen
Aufgrund der rasanten Entwicklungen der Computer-Hardware ergibt sich
eine immer größer werdende Diskrepanz existierender Technologie zum Standardmodell
der von-Neumann-Architektur. Wesentlich dazu beigetragen hat
die Speicherhierarchie heutiger Rechner [86] 1 , die sich in Register, (Multi-
Level) Cache(s), Hauptspeicher und verschiedene Sekundärspeichermedien
gliedert. Zudem werden sich die Unterschiede im Zugriffsverhalten aufeinan-
1 Mit einem Übersichtsartikel in [86] haben wir eine erste Brücke zwischen der Speicherplatzproblematik
in der KI und Externspeicherplatzgraphalgorithmen geschlagen.
4

derfolgender Speicherschichten in der Zukunft wohl weiter vergrößern.
Externspeicherplatzmedien immer preiswerter. Heutzutage kann z.B. für
ca. 500 Euro eine Festplattenkapazität von einem Terabyte und mehr erreicht
werden, während die derzeitigen Hauptspeichergrößen selten wenige Gigabytes
übersteigen. Im Folgenden konzentrieren wir uns demnach auf Externspeicherplatzalgorithmen,
kurz externe Algorithmen, die den Sekundärspeicher
kontrolliert nutzen anstatt sich auf die Speicherverwaltung des Betriebssystemes
zu verlassen. Damit können Explorationsfragestellungen auch oberhalb
der Hauptspeicherplatzgrenze effizient behandeln werden.
Externspeicherplatzverfahren [86] werden in der Anzahl von Blockzugriffen
(I/Os) gemessen, da die interne Verarbeitungszeit im Vergleich zum Externzugriff
oft vernachlässigbar klein ist 2 . Des Weiteren nimmt man in der
Theorie externer Verfahren einen unbegrenzten Speicher an. Zur vereinfachenden
Notation werden externe Algorithmen relativ zur Sortierkomplexität
sort(N), d.h. der Zahl von I/Os zur Sortierung von N Objekten, und der Lesekomplexität
scan(N), d.h. der Zahl von I/Os zum Lesen von N Objekten
bewertet.
Die externe Exploration expliziter Graphen ist in der praktischen Entwicklung
von Algorithmen (bzw. im Algorithm Engineering) ein schon seit
geraumer Zeit intensiv studiertes Gebiet [1, 61]. Hierbei geht man davon aus,
dass alle Knoten und Kanten eines Graphen auf der Festplatte als Eingabe
für den Algorithmus vorliegen. Durch die Relevanz in vielen Bereichen ist es
wenig erstaunlich, das in einem hochdotierten internationalen Wettbewerb
(9th DIMACS Challenge 3 ) die Wegsuche in Hauptspeicher übersteigenden
Graphen zur Kernfrage des Algorithm Engineering aufgestiegen ist. Viele
externe expliziten Graphsuchverfahren sind verglichen mit Suche in impliziten
(d.h. durch die Anwendung von Transformationsregeln aufgespannten)
Graphen verhältnismäßig ineffizient. So benötigt die I/O-effiziente Breitensuche
von Munagala und Ranade in ungerichteten Graphen G = (V, E) insgesamt
O(|V | + sort(|V | + |E|)) I/Os [77], wobei O(|V |) I/Os zum Zugriff
der Knotenadjazenzen einen Flaschenhals darstellen. Für planare (und andere
reguläre) Graphen mit |E| = O(|V |) können kürzeste Wege hingegen
in O(sort(|V |)) I/Os gefunden werden [90]. Ein verbesserte Komplexität für
2 In unseren Experimenten haben wir festgestellt, dass in vielen Fällen die interne Arbeit
substantiell ist. Neben der Arbeitsverteilung von interner und externer Arbeit, führen
mehrere Prozessoren somit oft zu einer signifikanten Geschwindigkeitssteigerung.
3 Siehe http://www.dis.uniroma1.it/∼challenge9.
5

externes BFS in ungerichteten Graphen liefert das Resultat von [75] mit
O
|V | · scan(|V | + |E|) + sort(|V | + |E|)
I/Os. Mittlerweile wurde die-
ser Algorithmus erfolgreich implementiert [2]. Zumindest für die explizite
Repräsentation eines Graphen ist auch die externe Tiefensuche nicht aussichtslos.
Falls die interne Besucht-Liste den Hauptspeicher sprengt, werden
einfach alle besuchten Nachfolger in den Adjazenzlisten auf Platte gelöscht
(markiert). Da der Fall maximal O(|V |/|M|) mal auftritt, erreicht man eine
Laufzeit von O(|V |/|M| · scan(|E|) I/Os.
Im Bereich der externen Suche impliziter Graphen gibt es erst in der letzten
Zeit vermehrt einschlägige Arbeiten [66, 96, 63]. Eines der bemerkenswertesten
Resultate ist die vollständige Breitensuche des 15-Puzzles mit insgesamt
16!/2 = 10, 461, 394, 944, 000 Zuständen [68]. Hierbei wurden nicht weniger
als 1.4 Terabyte Festplattenspeicher und mehr als drei Wochen Rechenzeit
beansprucht. Das 30 Scheiben (4 Stapel) Tower-of-Hanoi Problem spannt
einen Zustandsraum von 4 30 = 1, 152, 921, 504, 606, 846, 976 Zuständen auf
und wurde mit einer Mehrzahl von Techniken auf 1.3 Terabytes Festplattenspeicher
in 28 Tagen optimal gelöst [64].
Eng verwandt mit der Externalisierung ist auch die Verteilung auf mehrere,
von einander unabhängig operierende Prozessoren. Die geringe Kommunikation
zwischen den Instanzen wird über Dateien geregelt. Global zugängliche
Arbeitswarteschlangen steuern den organisierten Ablauf. Tiefensuch-basierte
Verfahren eigenen sich schlecht zur Parallelisierung, da sie – im Gegensatz
zur Breitensuche – inhärent sequentiell sind [83]. Neue Arbeiten von Gerard
Holzmann 4 belegen, dass auf Multi-Core Architekturen durch eine Aufteilung
des Suchbaumes in Schichten sehr gute Beschleunigungen erreicht werden
können. Er stellt in seiner Arbeit damit die Partitionierung des Suchraumes
anhand einer Hashfunktion wegen des großen Kommunikationsaufwandes in
Frage.
Die Hauptbeobachtung von unserer Forschungsgruppe ist, dass diejenigen
Algorithmenentwürfe, die sich vorerst an einer effektiven Externalisierung
und dann an einer Parallelisierung orientieren, auf Mehrprozessormaschinen
und sogenannten Clustern für größere Probleme einen sehr guten Parallelisierungsgrad
erreichen. Dies mag unter anderem daran liegen, dass parallele
Suchalgorithmen [60] entweder auf dem recht wirklichkeitsfremden PRAM-
Modell entwickelt oder für spezielle Hardware-Architekturen konzipiert wer-
4 Vortrag im Rahmen der Verleihung des Ehrendoktors Dezember 2006 in Twente
6

den, jedoch die Speicherplatzproblematik nicht ausreichend berücksichtigen.
3 Eigene Arbeiten
In unserer Nachwuchsforschergruppe haben wir uns hauptsächlich auf Fragestellungen
in der externen Handlungsplanung und Verifikation konzentriert.
Eine Ausnahme macht die externe Routenplanung. Hier liegen die Graphen
z.B. auf Flashkarten oder CD/DVD vor. Sie sollen nach einem (mehreren)
Start-Zielpfaden durchsucht werden. Als eine Beschleunigungstechnik dient
die zielgerichtete Suche mit der Luftdistanz zwischen dem aktuellen und
dem Zielort als untere Schranke. Ausgangspunkt unserer ersten Untersuchung
in [40] war es, die Anzahl der Seitenfehler durch eine gesteigerte Lokalität
und einen geringen Mehraufwand in der Anzahl der betrachteter Knoten drastisch
zu veringern. Dabei wurde der in der Ebene eingebettete Graph nach
Koordinaten eingeteilt. Die Arbeit manifestiert die erste gelungene Kombination
von gerichteten Such- und Externspeicherplatzverfahren. Neuere Arbeiten
unserer Forschungsgruppe beschäftigen sich in dem Themengebiet mit
der automatischen Inferenz von Karten aus GPS-Spuren zur verbesserten
Navigation. Wir haben sowohl ein auf geometrischen Ansätzen basierendes
Off-Line Verfahren [34] als auch ein On-Line Lernalgorithmus [9] entwickelt.
Der erste Algorithmus setzt LEDA [76] ein und das zweite Verfahren nutzt
eine hierarchischen Gliederung der Welt (wie sie z.B. bei Google Earth verwendet
wird 5 ). Beide Verfahren lassen sich gut externalisieren. Im ersten Fall
bieten sich externe geometrische Algorithmen an [86] (z.B. aus den Bibliotheken
LEDA-SM [13], STXXL [14] und TPIE [91] 6 ), im zweiten Fall findet
eine verteilte Verarbeitung auf der Karte statt, wenn die betroffenen Kacheln
zweier zu verarbeitender Spuren paarweise disjunkt sind.
3.1 Externe Handlungsplanung
Handlungsplanung [78] ist die Aufgabe, für eine Problembeschreibung (in
einem allgemeinen Beschreibungsformalismus) eine möglichst kostengünstige
Auswahl von Aktionen zur Verwirklichung eines Planzieles zu berechnen.
5 Erste positive Ergebnisse der Anbindung an Google Map liegen im Rahmen einer
gerade abgeschlossenen Diplomarbeit vor.
6 http://www.cs.duke.edu/TPIE
7

In [33] stellen wir die erste Arbeit zur gerichteten externen Planung vor.
Das Verfahren External-A* verbindet die Komponenten Frontier-Suche [69],
verspätete Duplikatserkennung [66] und A* [82] zu einem Algorithmus. Der
Algorithmus ist zeitgleich zu [63] entstanden, wobei jeweils zwei Komponenten
verbunden wurden (so ist die Frontier-Suche mit verspäteter Duplikatserkennung
eine implizite Graphsuchvariante des Algorithmus von Munagala
und Ranade). Zusammen mit den Arbeiten von Zhou und Hansen zur externen
strukturierten Duplikatserkennung basierend auf geeignete Problemabstraktionen
[96, 97, 98] bilden wir somit einen der drei Grundpfeiler der externen
KI-Exploration. Die strukturierte Duplikatserkennung in Handlungsplanungsdomänen
beruht desweiteren auf unserem Ansatz zur automatischen
Abstraktion und Zustandsminimierung [24]. Jedem abstrakten Zustand entspricht
eine Datei. Da die Nachbarschaftsbeziehung in der Abstraktion zum
Teil erhalten bleibt, können alle Duplikate von Nachfolgern einer (auf einen
abstrakten Zustand abgebildeten) Zustandsmenge in den durch die Abstrakte
Adjazenz definierten Nachbardateien gefunden werden. Nur sie müssen zur
internen Duplikatselimination in den Hauptspeicher geladen werden.
Die symbolische Handlungsplanung nutzt binäre Entscheidungsdiagramme
(BDDs) zur effizienten Repräsentation der Zustandsmengen [25]. Trotz
symbolischer Verfahren wird der Hauptspeicher oft zu klein. Dieser Speicherengpass
kann bei der automatischen Generierung von Schätzwerten durch
symbolischen Musterdatenbanken [37, 16, 17] entstehen oder bei der eigentlichen
Exploration. Im zweiten Fall greift die organisierte A*-Suche innerhalb
einer Matrix von Zustandsmengen, die von g- bzw. h-Werten aufgespannt
wird [39]. Jedem Matrixeintrag wird ein BDD zugeordnet. In der entsprechenden
Externalisierung werden die BDDs in Dateien ausgelagert [19]. Der
Speicherplatzgewinn im Vergleich zu internen Verfahren ist deutlich.
Wir haben für den internationalen Planungswettbewerb 2006 erfolgreich
an zwei wesentlichen Erweiterungen unseres Planungssystems MIPS [18] zur
Bearbeitung von Plan- bzw. Präferenzconstraints [45] gearbeitet. Inklusive
2006 wurde MIPS nach 2000 und 2002 somit dreimal in Folge prämiert 7 .
Die Variante MIPS-BDD [21, 20] nutzt eine Verbesserung der Zustandscodierung
und symbolische Entscheidungsdiagramme, kurz BDDs zur opti-
7 Im Jahre 2004 waren wir gemeinsam mit Jörg Hoffmann Ausrichter dieses alle zwei
Jahre stattfindenden Wettbewerbs und konnte folglich nicht als Teilnehmer antreten, siehe
[52, 51]. Eine Veröffentlichungsinitiative des Wettbewerbs 2006 (voraussichtlich Journal
of Artificial Intelligence) läuft derzeit noch.
8

malen Planfindung. In 2006 wurde die Exploration den Anforderungen einer
kostenoptimalen Suche angepasst; der Schlüssel dazu ist eine effiziente
BDD-Darstellung der (linearen) Kostenfunktion [5]. Derzeit aussichtreichster
Kandidat für Suchheuristiken zur optimalen Handlungsplanung sind automatisch
erzeugte, symbolische Musterdatenbanken die auf Problemabstraktionen
beruhen. Eine aktuelle Erweiterung sind Optimierungen von Musterdatenbanken
mittels genetische Algorithmen [23], einem wichtigen Schritt in
die Richtung einer automatischen Generierung von Heuristiken.
Der zweite Ansatz [22, 32] versucht, die explizite Planung zu verbessern.
Im Limit liefert das Verfahren kostenoptimale Ergebnisse [27], wurde aber
aufgrund der Realzeitbedingungen im Wettbewerb auf suboptimale Pläne
eingeschränkt. Ausgehend von Metric-FF [49] ermöglicht die Variante MIPS-
XXL die temporale Planung inklusive Zeitfenstern und neuerdings auch metrische
Planung mit Plan- und Präferenzconstraints. MIPS-XXL ist das einzige
teilnehmende Planungssystem, das Festplattenspeicherplatz nutzt. Es
zeigte Effizienzvorteile selbst unter den restriktiven Wettbewerbsbedingungen
von maximal einem Gigabyte RAM und 30 Minuten Rechenzeit. Die
größte Exploration (außerhalb des Wettbewerbes) benötigte 450 Gigabytes
Festplattenspeicher bei konstantem Hauptspeicher von weniger als einem Gigabyte.
Unser Bemühen zur besseren Akzeptanz und Nutzung von Handlungsplanungssystemen
wird durch eine flexible Oberfläche gestützt, die u.a. interaktiv
die Modellierung einer Planungsdomäne unterstützt. Mit unserer
Entwicklung haben wir 2005 an dem internationalen Knowledge-Engineering
Wettbewerb teilgenommen, den wir 2007 zusammen mit Jeremy Frank (NA-
SA/AMES) ausrichten. Die Idee des Wettbewerbs ist, in einer Client-Server
Architektur Simulatoren mit integrierten Planungssystemen zu steuern.
3.2 Externe Modellprüfung
Die Modellprüfung [12] validiert die Korrektheit (einer Sicherheits- oder Lebendigkeitseigenschaft
innerhalb) eines formalen Systems. Häufig werden Automaten
genutzt, um sowohl das Modell als auch die gewünschte Eigenschaft
zu beschreiben. Der Lehrheitstest des Schnitts zwischen den Sprachen des
Modells und der Spezifikation kann zurückgeführt werden auf die Suche nach
einem akzeptierenden Zyklus im (synchronen) Produkt der beiden Automaten.
Tarjan’s Linearzeitalgorithmus zur Berechnung aller starken Zusammen-
9

hangskomponeten [89] ist zur Modellanalyse ungeeignet, da er den gesamten
Zustandsgraphen (einmal vorwärts und einmal rückwärts) durchläuft. Um
akzeptierende Zyklen zu finden, berechnet die geschachtelte Tiefensuche den
globalen Zustandsgraphen hingegen durch eine inkrementelle Konstruktion
der Schnittmenge on-the-fly [56].
Ein großer Anteil der von uns entwickelten Verfahren betrifft die gerichtete
Exploration nach Designfehlern in Softwaremodellen. Die wohl sichtbarsten
Modellprüfer SPIN [55] und UPPAAL/CORA [6] wurden erfolgreich
externalisiert. In [57] wurde ein erstes Verfahren zur gerichteten Analyse von
verteilter Software vorgestellt. Dabei wurde, neben theoretischen Resultaten
über die erzielte optimale Komplexität von O(scan(|V |) + sort(|E|)) I/Os,
das in der Dissertation von Alberto Lluch-Lafente [71] entwickelte, gerichtete
SPIN-Derivat HSF-SPIN erfolgreich externalisiert. Mit der Externalisierung
konnten Promela-Modelle (die Eingabesprache für SPIN) bis weit über die
Hauptspeicherplatzgrenze hinaus analysiert werden. Wir haben so auf ca.
3 Terabytes Festplattenspeicher mit 3.6 Gigabytes RAM eine Verschränkung
in einem Kommunikationsprotokoll gefunden (noch nicht publiziert). Die vergleichend
durchgeführte Exploration dauerte 20 Tage auf einem Prozessor.
Der strukturierte Ablauf zur gerichteten Fehlersuche in IO-HSF-SPIN
wurde in [58] dazu genutzt, die obige externe Exploration mit mehreren
Prozessoren durchzuführen. Eine auf 4 Dualprozessoren durchgeführte Exploration
reduzierte die Rechenzeit auf 8 Tage. Selbst auf einer Einprozessormaschine
kann ein signifikanter Laufzeitvorteil erreicht werden (während
der eine Prozess sich um die Dateibehandlung kümmert kann der zweite
Prozess sich derweil intern um die Generierung der Nachfolger und deren
Bewertung kümmern. Eine aktuelle Arbeit [28] betrifft die erfolgreiche Behandlung
von LTL-Eigenschaften. Hier stellt sich das Problem, das sich die
geschachtelte Tiefensuche, wie sie in SPIN verwendet wird, nicht zur Externalisierung
eignet und sich Tarjans klassischer Algorithmus nicht zur On-the-
Fly Analyse eignet. Der Schlüssel zum Erfolg liegt in der Konvertierung eines
Lebendigkeits- in ein Sicherheitseigenschaftsproblem [88]. Dabei wird der
Zustandsvektor verdoppelt, um die Suche nach einem Zyklus von der Suche
des Zyklenbeginns zu trennen. Basierend auf die Idee konnten wir monotone
Schätzfunktionen angeben und den externen Modellprüfer IO-HSF-SPIN mit
signifikantem Speed-Up auf die parallele Eigenschaftsprüfung erweitern.
Wir haben auch den auf zeitlichen Automaten (engl. priced timed automata
[3]) beruhenden Modellprüfer UPPAAL/CORA erfolgreich externali-
10

siert [59]. Zeitliche Automaten sind eine Teilmenge hybrider Automaten [48]
durch eine Mehrzahl von zurücksetzbaren Uhren gekennzeichnet. UPPAAL
selbst nutzt die effiziente Darstellung und Verarbeitung von zeitlicher Unschärfe
durch Kürzeste-Wege-Netze ein. Die Erweiterung UPPAAL/CORA
ergänzt zur Erreichbarkeitsanalyse basierend auf Zeitzonen (Sammlung von
Hyperebenen zur symbolischen Darstellung von Uhrzeiten) eine Kostenanalyse.
Sie wird in der Praxis insbesondere zur Berechnung eines kostenoptimalen
und ressourcenbeschränkten Scheduling eingesetzt. Im Gegensatz zu den vorangehenden
Algorithmen, wurde nicht der A*-Algorithmus nachempfunden,
sondern der Branch-and-Bound Algorithmus. Wir haben dazu eine Strategie
des externen, iterativen Erweiterns entwickelt, die schnell zu guten und
letztendlich zu optimalen Lösungen führt.
Im Bereich der Programmverifikation setzt die Gruppe um Wilhelm Visser
(NASA/AMES) in Kooperation mit uns auf heuristische Suchverfahren. Der
Java-Pathfinder (JPF) nimmt den Java Byte-Code als Ausgangspunkt und
exploriert den Suchraum aller möglichen nebenläufigen Prozeßabläufe. Er
baut somit auf einer virtuelle Machine auf. In der dem Antragsteller betreuten
Dissertation von Tilman Mehler [72] wurde inspiriert von JPF ein c/c++-
Modellprüfer entwickelt, der auf einer virtuellen Maschine zur Interpretation
von Maschinensprachcode basiert. Mittlerweile wurde der von Tilman entwickelte
Programmmodellprüfer um verschiedene Externalisierungsmöglichkeiten
erweitert [31]. Dabei wird intern ein Suchbaum an Minizuständen verwaltet
und die immens großen Systemzustände auf Festplatte verteilt (Stichwort:
external collapse compression. An das Suchverfahren angepasste, Datenstruktur
minimieren die Anzahl von Plattenzugriffen. Eine weitere Studie
betrifft die Externalisierung von partiellen Hashverfahren [26].
Unsere Algorithmen sind in der Anwenderpuffergröße frei skalierbar (von
wenigen bis zu Millionen Einträgen). Sind die Anwenderpuffer groß, dann
erfordert dies weniger Explorationszeit (da viel Arbeit im Haupspeicher erledigt
werden kann); sind diese aber (z.B. aufgrund mobiler Hardware) klein,
dann kann der mangelnde interne Speicherplatz durch eine größere Explorationszeit
ausgeglichen werden.
11

4 Arbeitsplan
In den ersten 2 der beantragten 5 Jahre beabsichtigen wir die folgenden
Schwerpunkte zu setzen.
4.1 Arbeitspaket I: Externe Exploration in Unendlichen
Zustandsräumen
Nummerische Probleme spannen einen unendlichen Suchraum auf, den Planungssysteme
wie LPG [46] und SGPlan [94] aber auch MIPS-XXL selektiv
analysieren. Auf der anderen Seite inferieren aktuelle SAT-Planer [53] für
ausgewählte Probleme eine endliche Zustandsbeschreibung (Es fehlt derzeit
noch ein Vergleich zwischen SAT- und BDD-Algorithmen, den wir liefern
wollen). Mit einer Automatendarstellung für Zustandsmengen, die aus der
Presburger Arithmetik gewonnen werden, ist jedoch auch eine symbolische
Planung in unendlichen Räumen durchaus möglich [62]. Der Grundgedanke
ist, dass die Automatendarstellung von Zustandsmengen (und Operatoren)
die BDD-Darstellung in der symbolischen Suche ablöst [7, 4, 43].
Derzeit entwickeln wir einen Planer, der minimierte Automaten für Initialund
Zielzustandsmengen, sowie den Aktionen erstellt und über eine symbolische
Bildberechnung (eine Kombination aus Projektion und Automatenprodukt)
den Zustandsraum aufspannt. Der funktionierende Prototyp basiert
auf einer (in einer Projektgruppe) erstellten Automaten-Bibliothek. Wir beabsichtigen
die derzeit ungerichtete Suche – wie im Fall von BDDs – auf
das Planungsziel auszurichten. Der Planungsprozess erfordert viel Zeit und
Platz. Insbesondere bei der Berechnung eines Bildes (relationalen Produktes)
sehen wir unter Einsatz von externen Algorithmen theoretischen, wie auch
praktische Verbesserungsmöglichkeiten.
Weiterhin ist die Erweiterung der natürlichen auf die reelen Zahlen wünschenswert.
Mit der erfolgreichen Externalisierung von UPPAAL/CORA [29]
haben wir die Grundlage gelegt, größere Realzeitsysteme zu prüfen. Es gab
an unserem Lehrstuhl eine Zusammenarbeit mit IKEA, bei der ein Verteilungslager
in UPPAAL/CORA modelliert wurde. Die interne Exploration
scheiterte an den bestehenden Ressourcengrenzen, so dass wir External UP-
PAAL/CORA und MIPS-XXL vergleichend einsetzen wollen.
12

4.2 Arbeitspaket II: Externe Musterdatenbanken
Insbesondere bei Berechnung optimaler Pläne wird die Hauptspeichergrenze
zum Flaschenhals in der Exploration. In [19] mit der externen und symbolischer
Berechnung von Musterdatenbanken haben wir die optimale STRIPS-
Planung erfolgreich externalisiert. Ein Fazit der Studie ist der empfohlene
Einsatz von extern erzeugten symbolischen Musterdatenbanken in der externen
expliziten Suche. Die Kombination von mehreren symbolischen Musterdatenbanken
und die geeignete Parallelisierung bleiben weiterhin wichtig.
In einer Fallstudie wollen wir möglichst große und letztendlich zufällige
Instanzen des 35-Puzzles lösen, das mit 36! ≈ 10 42 Zuständen einen astronomisch
großen Zustandsraum aufspannt. Eine erfolgreiche (noch unveröffentlichte)
externe Exploration einer 35-Puzzle-Instanz mit symbolischen Musterdatenbanken
verbrauchte in ca. 14 Tagen mehr als 1.2 Terabytes Festplattenspeicher.
Die Verbesserung der Datenbanken führte zu einer erfolgreichen
505 G Exploration in ca. 7 Tagen. Mittlerweile sind wir dabei den Ansatz zu
parallelisieren, wir konnten eine Instanz erfolgreich auf 36 Prozessoren lösen.
Der symbolisch-externe Planungsansatz führte zu einer disjunktive Bildberechnung:
Teilbilder (eines für die Anwendung einer jeden Aktion auf
die derzeitige Zustandsmenge) werden auf Festplatte geschrieben und miteinander
verbunden. Diese Externalisierungsoption war z.B. zur erfolgreichen
Berechnung einer symbolischen Musterdatenbank mit 7 Plättchen (≈
42.072.307.200 Zustände) für das 35-Puzzle (in ca. einem Monat) existenziell.
Auf jeden Fall wollen wir die methodischen Erkenntnisse der initiierten
Studie auf andere Planungsprobleme übertragen. Desweiteren wollen wir in
diesem Teilprojekt die computer-gesteuerte Auswahl von Abstraktionsmustern
[23], zur automatischen Erzeugung von unteren Schranken analysieren.
4.3 Arbeitspaket III: Externe und Parallele Sequenzenalignierung
Die DNA- oder Protein-Sequenzenalignierung ist ein immer noch nicht zufriedenstellend
gelöstes Problem in der algorithmischen Biologie. Sieht man von
den biologisch bedingten Ähnlichkeitsmaßen ab, handelt es sich bei diesem
Problem um ein klassisches Editierdistanzproblem für Zeichenketten, das mit
Hilfe der Dynamischen Programmierung gelöst werden kann.
In der Praxis sind die Tabellen jedoch so immens groß (O(n k ) mit n ∼ 200
13

als die maximale Länge und k ∼ 5 als die Anzahl der zu alignierenden Zeichenketten),
dass sie nicht vollständig im Hauptspeicher gehalten werden
können. Die effizientesten Verfahren beruhen auf einer Graphrepräsentation
der Tabelle mit Knoten die die Zellen repräsentieren, und Kanten die
Nachbarschaften zwischen den Zellen ausdrücken. Es werden Varianten der
gerichteten Suche eingesetzt, die auf azyklische Graphen ausgelegt sind und
die Hauptspeicher sparen [69]. Die Parallelisierung der Suche nach einem
optimalen Alignment ist in [79] gelungen.
Einer der effizientesten Löser des Sequenzenalignierungsproblems [87] liegt
uns im Quelltext vor. Er beruht auf die heuristische Suche und inkrementelle,
gerichtete dynamische Programmierung. Wir haben den Algorithmus
nahezu abschließend externalisiert. Als Testinstanzen dienen Balibase (1)-
Instanzen, von denen wir bis auf eine alle erfolgreich behandeln können. Die
letzte Instanz wird gerade berechnet und läuft seit ca. 2 Wochen auf einem
Linux-Cluster. Wir werden den Algorithmus im nächsten Schritt parallelisieren.
4.4 Arbeitspaket IV: Externe Exploration von Problemen
mit Unsicherheit
Unsicherheit ist eine der Kernprobleme der KI [85], während alle unseren
bisherigen Externalisierungen auf deterministische Probleme ausgerichtet.
Die Behandlung von Unsicherheit über den Initialzustand ist in der externen
Suche schon jetzt kein Problem, da sie auf Zustandsmengen aufbaut.
Bei Unsicherheit in der Aktionsausführung wird jedoch eine Suche im Belief-
Zustandsraum benötigt, für die es erste Erkenntnisse mit BDDs [11, 10] und
heuristischer Suche [50] gibt. Keiner dieser Ansätze nutzt Externspeicher,
obwohl die Explorationen zumeist speicherplatzbeschränkt sind.
Das adäquate probabilistische Modell sind Markov’sche Entscheidungsprozessprobleme,
kurz MDPs. Startend mit der Wertiteration [85] haben wir
erste (noch unveröffentlichte) Erfolge bei der externen Analyse von MDPs geschaffen.
Wir haben erfolgreich die Wertiteration externalisiert (Arbeit noch
unveröffentlicht). Mit Learning DFS [8] haben zudem angefangen, ein System
zu externalisieren, das schneller zu Lösungen von MDPs kommt. Durch
die Wahl einer alternativen Explorationsstrategie wird der dabei entstehende
Algorithmus wohl External Learning BFS heißen.
14

5 Zusammenarbeiten
In dem Projekt beabsichtigen wir mehrere Zusammenarbeiten anzustreben
und zu stärken. Wir orientieren uns dabei an Personen.
Ulrich Meyer / Kurt Mehlhorn Ulrich Meyer hat am MPI im Bereich
expliziter I/O-effizienter Graphsuche promoviert. Er ist mit Kurt Mehlhorn
mit mehreren Fachpublikationen u.a. zur externen Breitensuche als Theorieexperte
im Algorithm-Engineering ausgewiesen.
Gemeinsam wollen wir das Zusammenspiel der impliziten und externen
Graphsuche erörtern, um die derzeitige Komplexitätskarte (siehe Anhang)
auch für erweiterte Problemstellungen wie die stochastische Kürzeste-Wege-
Suche verfeinern. Bezug: Teilrojekt IV.
Peter Sanders / Dorothea Wagner Peter Sanders hat am MPI an I/Oeffizienten
Algorithmen geforscht. Er hat den LNCS-Band über die Speicherhierarchie
wesentlich geprägt und arbeitet neben vielen theoretischen
Erkenntnissen (z.B. über I/O-effiziente Heaps) an einer externen Version der
Standard Template Library [14].
Gemeinsam zielen wir auf den Einsatz von externen Kürzesten-Wege-
Containern [92, 93], die wir in Zusammenarbeit schon erfolgreich im Routenplanen
eingesetzt haben [34]. Die Container erweitern Musterdatenbanken
auf unbekannte Ziele. Bezug: Teilprojekt II.
Jan Vahrenhold / Petra Mutzel Jan Vahrenholds Spezialität sind externe
geometrische Algorithmen sowie Suchalgorithmen auf speziellen Graphklassen.
Jan Vahrenhold ist dem Lehrstuhl von Petra Mutzel angegliedert.
Der Name des Lehrstuhls stimmt mit dem des Schwerpunktprogramms überein.
Wir fanden signifikante Übereinstimmungen von Forschungszielen und
Zusammenarbeiten.
Wir betreuen eine Diplomarbeit zur automatischen Inferenz von GPS-
Spuren und erforschen gemeinsam verschiedene Ansätze zur Lösung des Sequenzenalignierungsproblems.
Bezug: Teilprojekt III.
Thomas Hofmeister / Ingo Wegener Der Antragsteller kennt Ingo Wegener
bereits aus seiner Studienzeit. Im Bereich des sequentiellen Sortierens
15

hat sich die Zusammenarbeit als sehr fruchtbar erwiesen. Auf seine Erfahrung
konnten wir immer zurückgreifen.
In der Zusammenarbeit mit Thomas Hofmeister (im Zimmer neben uns)
bauen wir auf die externe Lösung von Suchproblemen in der algorithmischen
Biologie, für die wir zusammen über einen steigenden Kenntnisstand
verfügen. Derzeit betreuen wir gemeinsam eine Diplomarbeit zur Externalisierung
des Sequenzenalignierungsproblems. Bezug: Teilprojekt III.
Dragan Bosnacki / Alberto Lluch-Lafuente / Stefan Leue Mit Dragan
Bosnacki organisieren wir den nächsten SPIN-Workshop in Berlin. Er hat
mit Gerard Holzmann und Alberto Lluch-Lafuente mehrere Artikel über die
Partialordnungsverfahren geschrieben und forscht derzeit über Pfadprobleme
in der Bio-Informatik und Multi-Core Modellprüfungsverfahren. Alberto
Lluch-Lafuente hat mit uns erstmalig Musterdatenbanken in der expliziten
Modellprüfung eingesetzt [37]. Stefan Leue ist Mitautor mehrerer Papiere
in der gerichteten Modellprüfung [35, 36]. Mit seinem Mitarbeiter Husain
Aljazzar arbeiten wir in der gerichteten probabilistischen Suche zusammen.
Wir wollen u.a. gemeinsam einen Übersichtsartikel über die gerichtete,
probabilistische, und externe Modellprüfung veröffentlichen und die Partialordnungreduktion
zusammen externalisieren. Bezug: Teilprojekte II und IV.
Barbara König / Arend Rensink Unsere Gruppe hat erste Gehversuche
in der Exploration von Graphtransitionssystemen [30] gemacht. Dabei haben
wir die Explorationswerkzeuge AGUR (von Barbara König) und Groove (von
Arend Rensink) kennen- und schätzen gelernt. Ein Export als Planungsproblem
ist in vielen Fällen möglich. Die impliziten Explorationen bzw. Approximationen
solcher Systeme stoßen selbst für kleinere Probleme schnell an
die Hauptspeichergrenze. Die Ergebnisse, die wir mit HSF-SPIN erzielt haben
legen einen möglichen Einsatz von externen Verfahren nahe, obwohl eine
gekonnte Externalisierung direkt in die Tools integriert werden sollte.
Die Lösung dieser spannenden Aufgabe haben wir uns für die zweite Förderungsperiode
vorgenommen, schließen jedoch nicht aus, das wir schon eher
Ergebnisse vorlegen können.
Jörg Hoffmann / Sebastian Kupferschmidt Mit Jörg Hoffmann haben
wir den internationalen Planungswettbewerb IPC-4 geleitet, eine fast 1-jähri-
16

ge enge Zusammenarbeit auf vielen Ebenen. Mit Sebasitan Kupferschmidt
hat er UPPAAL um automatisch generierte Heuristiken erweitert [54, 70].
Wir planen eine Integration der beiden UPPAAL-Erweiterungen, d.h. wir
wollen die automatischen Schätzfunktionen und die Externalisierung zusammenbringen.
Bezug: Teilprojekt I.
Bernhard Steffen / Tiziana Magaria Die Unterstützung der Knowledge-Engineering
Wettbewerbs zum Einsatz des am Lehrstuhl propagierten
Systems jABC/jETI wird gerade ausgelotet. Die beiden arbeiten desweiteren
an der automatischen Inferenz eines konsistenten Modells von einem laufenden
System. Das auch von uns zur Inferenz von Kontrollstrukturen eingesetzte
maschinelle Lernverfahren nutzt interpretierte Traces als Trainingsbeispiele
und einen Modellprüfer als Orakel.
Wir suchen eine Zusammenarbeit insbesondere in den angesprochenen
Bereichen der externen Traversierung von Realzeit-Modellen (z.B. IKEA) mit
UPPAAL/CORA und wollen auch für das Lernproblem eine externe Variante
einzusetzen. Bezug: Teilprojekt I.
5.1 Personalbedarf
An der Universität Dortmund leitet der Antragsteller bereits eigenständig eine
Arbeitsgruppe (ohne den Status eines Juniorprofessors). In Shahid Jabbar
betreut er einen Doktoranten im Themengebiet Gerichtete Externe Exploration,
der Anfang 2007 promovieren wird. Ein weiterer Doktorant, Tilman Mehler,
hat in März 2006 im Themengebiet Gerichtete c++-Programmverifikation
erfolgreich promoviert. Herr Mehler arbeitet in der Industrie. Wir beantragen
Personalmittel für die Einstellung von
• 1 Wissenschaftlicher Mitarbeiter (BAT IIa Äquivalent, für 2 Jahre)
• 1 Studentische Hilfskraft (19 Std. pro Woche für 2 Jahre)
Die Nachwuchsforschergruppe bleibt vorerst am Lehrstuhl 5 der Universität
Dortmund.
17

5.2 Arbeitsaufteilung
Wir beabsichtigen im den zwei Jahren fundierte Ergebnisse in allen vier Bereichen
vorlegen zu können. Die Arbeit wollen wir wie folgt aufteilen.
• Arbeitspaket I: Björn Borowski (halbe Mitarbeiterstelle)
• Arbeitspaket II: Stefan Edelkamp (Antragsteller)
• Arbeitspaket III: Peter Kissmann (halbe Mitarbeiterstelle)
• Arbeitspaket IV: Shahid Jabbar (Doktorand)
5.3 Abgrenzung
Die Weiterentwicklungen der Modellprüfer STEAM und IO-HSF-SPIN sollen
weiterhin im Projekt Directed Model Checking DFG Ed 74/2 geschehen und
wurden in den Teilprojekten dieses Antrags nicht berücksichtigt.
Die abschließenden Arbeiten im Aktionsprogramm Informatik (Projekt
Heuristische Suche ED 74/3) werden in das Projekt einfließen. Demnach
gibt es notwendigerweise in der Ausrichtung des aktuellen Projektantrags
eine Überschneidung mit dem bestehenden Projekt. Zur Abgrenzung fallen
die Arbeiten von Shahid Jabbar im Arbeitspaket IV dem Aktionsprogramm
und die Arbeitspakete I-III dem neu beantragten Projekt zu.
5.4 Apparative Ausstattung
Für aussagekräftige empirische Resultate benötigen wir einen High-End Multi-
Core PC-Computer mit 2-4 Prozessoren und 2 Terrabyte Fest- und 16 Gigabyte
Hauptspeicher im Werte von insgesamt ca. 4.000 Euro. Vielleicht läßt
sich im Rahmen des Schwerpunktprogramms zudem ein Zugang zu einem
Compute-Cluster realisieren. Unsere Erfahrungen mit LIDO, dem Linux-
Cluster in Dortmund sind sehr positiv. Leider ist die Auslastung auf LI-
DO mittlerweile so hoch (> 85%), dass wir nur erschwert Explorationen auf
mehreren Prozessoren anstoßen können.
18

5.5 Tagungsbesuche
Mitarbeiter der Arbeitsgruppe sollen regelmäßig über ihre Arbeiten auf internationalen
Konferenzen und Workshops berichten. Dafür werden 4.000 Euro
angesetzt.
6 Erklärung
Ein Antrag auf die Stelle wurde bei keiner anderen Stelle eingereicht. Der
Antragsteller wird die Deutsche Forschungsgemeinschaft über einen solchen
Schritt unverzüglich informieren. Der Vertrauensdozent der DFG an der Universität
Dortmund wurde von der Antragsstellung unterrichtet.
7 Unterschrift
Dortmund, den 12. Juli 2007
8 Verzeichnis der Anlagen
• Lebenslauf inkl. Publikationsliste
• Ausgewählte Publikationen
9 Anhang: I/O-Komplexitätsübersichtskarte
19

Problem Graphstruktur Algorithmus I/O-Komplexität
Optimale ungewichtet,
Erreichbarkeit ungerichtet External A* Θ(sort(|E|) + scan(|V |))
LTL Sicherheit gewichtet, gerichtet Directed External A* Θ(sort(|E|) + l · C · scan(|V |))
+ l · C · scan(|V |))
LTL Sicherheit gewichtet, gerichtet Parallel External A* O( scan(|E|)
p
LTL Lebendigkeit gewichtet, gerichtet External A* L2S O(sort(|E| · |F |) + l · C · scan(|V | · |F |))
+ l · C · scan(|V | · |F |))
scan(|E|·|F |)
p
LTL Lebendigkeit gewichtet, gerichtet Parallel External A* L2S O(
Kostenoptimale ungewichtet, gerichtet External RTBFS
20
Erreichbarkeit monotone Kosten Broadening RTBFBnB O(D · (sort(|E|) + l · scan(|V |)))
Kostenoptimale ungewichtet, gerichtet External
Erreichbarkeit nichtmonotone Kosten Cost-Optimal BFS O(sort(|E|) + l · scan(|V |))
Suboptimale ungewichtet, External
Erreichbarkeit ungerichtet Enforced Hill-Climbing O(h(I) · (sort(|E|) + l · scan(|V |)))
Tabelle 1: Notation. V : Zustandsmenge; E: Transitionsmenge; h: Heuristik; l Lokalität; C: Maximales
Kantengewicht; D: Lösungstiefe, p Prozessoranzahl.

Literatur
[1] A. Aggarwal and J. S. Vitter. The input/output complexity of sorting
and related problems. Journal of the ACM, 31(9):1116–1127, 1988.
[2] D. Ajwani, R. Dementiev, and U. Meyer. A computational study of
external memory BFS algorithms. In Symposium on Discrete Algorithms
(SODA), pages 601–610, 2006.
[3] R. Alur and D. L. Dill. The theory of timed automata. In Proceedings
of the Real-Time: Theory in Practice, REX Workshop, pages 45–73.
Springer, 1992.
[4] C. Bartzis and T. Bultan. Efficient symbolic representations for arithmetic
constraints in verification. Int. J. Found. Comput. Sci., 14(4):605–
624, 2003.
[5] C. Bartzis and T. Bultan. Efficient BDDs for bounded arithmetic constraints.
International Journal on Software Tools for Technology Transfer,
8(1):26–36, 2006.
[6] G. Behrmann, A. Fehnker, T. Hune, K. Larsen, P. Petterson, J. Romijn,
and F. W. Vaandrager. Efficient guiding towards cost-optimality in
uppaal. In Tools and Algorithms for Construction and Analysis of
Systems (TACAS), pages 174–188, 2001.
[7] B. Boigelot, S. Jodogne, and P. Wolper. An effective decision procedure
for linear arithmetic over the integers and reals. ACM Transaction on
Computational Logic, 6:614–633, 2005.
[8] B. Bonet and H. Geffner. Learning depth-first search: A unified approach
to heuristic search in deterministic and non-deterministic settings, and
its application to MDPs. In International Conference on Automated
Planning and Scheduling (ICAPS), pages 142–151, 2006.
[9] R. Brüntrup, S. Edelkamp, S. Jabbar, and B. Scholz. Incremental map
generation with GPS traces. In International Conference on Intelligent
Transportation Systems (ITSC), 2005.
21

[10] A. Cimatti, M. Roveri, and P. Bertoli. Conformant planning via symbolic
model checking and heuristic search. Artificial Intelligence, 159(1-
2):127–206, 2004.
[11] A. Cimatti, M. Roveri, and P. Traverso. Automatic OBDD-based generation
of universal plans in non-deterministic domains. In National
Conference on Artificial Intelligence (AAAI), pages 875–881, 1998.
[12] E. M. Clarke, O. Grumberg, and D. A. Peled. Model Checking. MIT
Press, 1999.
[13] A. Crauser and K. Mehlhorn. LEDA-SM: Extending LEDA to secondary
memory. In Workshop on Algorithm Engineering (WAE), pages 228–242,
1999.
[14] R. Dementiev, L. Kettner, and P. Sanders. Standard template library
for XXL data sets. In European Symposium on Algorithms (ESA), pages
640–651, 2005.
[15] M. Dietzfelbinger, A. R. Karlin, K. Mehlhorn, F. M. auf der Heide,
H. Rohnert, and R. E. Tarjan. Dynamic perfect hashing: Upper and
lower bounds. SIAM Journal on Computing, 23(4):738–761, 1994.
[16] S. Edelkamp. Planning with pattern databases. In European Conference
on Planning (ECP), 2001. 13-24.
[17] S. Edelkamp. Symbolic pattern databases in heuristic search planning.
2002.
[18] S. Edelkamp. Taming numbers and durations in the model checking
integrated planning system. Journal of Artificial Intelligence Research,
20:195–238, 2003.
[19] S. Edelkamp. External symbolic heuristic search with pattern databases.
In International Conference on Automated Planning and Scheduling
(ICAPS), pages 51–60, 2005.
[20] S. Edelkamp. Cost-optimal symbolic pattern database planning with
state trajectory and preference constraints. In ICAPS-Workshop on
Preferences and Soft Constraints in Planning, 2006.
22

[21] S. Edelkamp. Cost-optimal symbolic planning with state trajectory and
preference constraints. In European Conference on Artificial Intelligence
(ECAI), 2006.
[22] S. Edelkamp. On the compilation of plan constraints and preferences.
In International Conference on Automated Planning and Scheduling
(ICAPS), pages 374–377, 2006.
[23] S. Edelkamp. Automated creation of pattern database search heuristics.
In Model Checking and Artificial Intelligence (MOCHART), volume
4428 of Lecture Notes in Computer Science, 2007.
[24] S. Edelkamp and M. Helmert. Exhibiting knowledge in planning problems
to minimize state encoding length. In European Conference on
Planning (ECP), pages 135–147, 1999.
[25] S. Edelkamp and M. Helmert. The model checking integrated planning
system MIPS. AI-Magazine, 2001.
[26] S. Edelkamp and S. Jabbar. Accelerating external search with bitstate
hashing. In KI-Workshop on on New Results in Planning, Scheduling
and Design, 2005.
[27] S. Edelkamp and S. Jabbar. Cost-optimal external planning. In National
Conference on Artificial Intelligence (AAAI), pages 821–826, 2006.
[28] S. Edelkamp and S. Jabbar. Large-scale directed model checking LTL.
In Model Checking Software (SPIN), number 3925 in Lecture Notes in
Computer Science, pages 1–18. Springer, 2006.
[29] S. Edelkamp and S. Jabbar. Real-time model checking on secondary
storage. In Model Checking and Artificial Intelligence (MOCHART),
volume 4428 of Lecture Notes in Computer Science, 2007.
[30] S. Edelkamp, S. Jabbar, and A. Lluch-Lafuente. Heuristic search for
the analysis of graph transition systems. In International Conference
on Graph Transformation (ICGT), number 4178 in Lecture Notes in
Computer Science. Springer, 2006.
23

[31] S. Edelkamp, S. Jabbar, D. Midzic, D. Rikowski, and D. Sulewski. External
program model checking. Künstliche Intelligenz, 2007.
[32] S. Edelkamp, S. Jabbar, and M. Nazih. Cost-optimal planning with
constraints and preferences in large state spaces. In ICAPS-Workshop
on Preferences and Soft Constraints in Planning, 2006.
[33] S. Edelkamp, S. Jabbar, and S. Schroedl. External A*. In German
Conference on Artificial Intelligence (KI), number 3238 in Lecture Notes
in Computer Science, pages 226–240. Springer, 2004.
[34] S. Edelkamp, S. Jabbar, and T. Willhalm. Geometric travel planning. In
International Conference on Intelligent Transportation Systems (ITSC),
volume 2, pages 964–969, 2003.
[35] S. Edelkamp, S. Leue, and A. Lluch Lafuente. Directed explicit-state
model checking in the validation of communication protocols. International
Journal on Software Tools for Technology Transfer, 5(2-3):247–
267, 2003.
[36] S. Edelkamp, S. Leue, and A. Lluch-Lafuente. Partial order reduction
and trail improvement in directed model checking. International Journal
on Software Tools for Technology, 6(4):277–301, 2004.
[37] S. Edelkamp and A. Lluch-Lafuente. Abstraction in directed model
checking. In ICAPS-Workshop on Connecting Planning Theory with
Practice, 2004.
[38] S. Edelkamp and U. Meyer. Theory and practice of time-space trade-offs
in memory limited search. In German Conference on Artificial Intelligence
(KI), pages 169–184, 2001.
[39] S. Edelkamp and F. Reffel. OBDDs in heuristic search. In German
Conference on Artificial Intelligence (KI), pages 81–92, 1998.
[40] S. Edelkamp and S. Schrödl. Localizing A*. In National Conference on
Artificial Intelligence (AAAI), pages 885–890, 2000.
[41] S. Edelkamp and P. Stiegeler. Implementing HEAPSORT with n log n−
0.9n and QUICKSORT with n log n + 0.2n comparisons. ACM Journal
of Experimental Algorithmics, 10(5), 2002.
24

[42] S. Edelkamp and I. Wegener. On the performance of WEAK-
HEAPSORT. In Symposium on Theoretical Aspects in Computer
Science Computer Science (STACS), pages 254–266, 2000.
[43] J. Eisinger and F. Klaedtke. Don’t care words with an application to
the automata-based approach for real addition. In CAV, pages 67–80,
2006.
[44] A. Elmasry, C. Jensen, and J. Katajainen. Relaxed weak queues: An
alternative to run-relaxed heaps. Technical Report CPH STL Report
2005-2, Department of Computing, University of Copenhagen, 2005.
[45] A. Gerevini and D. Long. Plan constraints and preferences in PDDL3.
Technical report, Department of Electronics for Automation, University
of Brescia, 2005.
[46] A. Gerevini and I. Serina. Fast plan adaptation through planning graphs:
Local and systematic search techniques. In AIPS, pages 112–121, 2000.
[47] P. E. Hart, N. J. Nilsson, and B. Raphael. A formal basis for heuristic
determination of minimum path cost. IEEE Transaction on SSC, 4:100,
1968.
[48] T. A. Henzinger, P. W. Kopke, A. Puri, and P. Varaiya. What’s decidable
about hybrid automata? In ACM Symposium on Theory of Computing
(STOC), pages 373–382, 1995.
[49] J. Hoffmann. The Metric FF planning system: Translating “Ignoring the
delete list” to numerical state variables. Journal of Artificial Intelligence
Research, 20:291–341, 2003.
[50] J. Hoffmann and R. Brafman. Conformant planning via heuristic forward
search: A new approach. Artificial Intelligence, 170(6–7):507–541,
2006.
[51] J. Hoffmann and S. Edelkamp. The deterministic part of IPC-4: An
overview. Journal of Artificial Intelligence Research, 24:519–579, 2005.
[52] J. Hoffmann, S. Edelkamp, R. Englert, F. Liporace, S. Thiebaux, and
S. Trüg. Engineering benchmarks for planning: The domains used in the
deterministic part of IPC-4. Artificial Intelligence Research, 2006.
25

[53] J. Hoffmann, C. Gomez, B. Selman, and H. Kautz. SAT Encodings of
State-Space Reachability Problems in Numeric Domains. In International
Joint Conference on Artificial Intelligence (IJCAI), 2007.
[54] J. Hoffmann, J.-G. Smaus, A. Rybalchenko, S. Kupferschmid, and A. Podelski.
Using predicate abstraction to generate heuristic functions in
UPPAAL. In Model Checking and Artificial Intelligence (MOCHART),
volume 4428 of Lecture Notes in Computer Science, 2007.
[55] G. J. Holzmann. The SPIN Model Checker. Addison-Wesley, 2003.
[56] G. J. Holzmann, D. Peled, and M. Yannakakis. On nested depth first
search. The SPIN Verification System, pages 23–32, 1972.
[57] S. Jabbar and S. Edelkamp. I/O efficient directed model checking. In
Conference on Verification, Model Checking and Abstract Interpretation
(VMCAI), pages 313–329, 2005.
[58] S. Jabbar and S. Edelkamp. Parallel external directed model checking
with linear I/O. In Conference on Verification, Model Checking and Abstract
Interpretation (VMCAI), number 3855 in Lecture Notes in Computer
Science, pages 237–251. Springer, 2006.
[59] S. Jabbar and S. Edelkamp. Resource-optimal scheduling via iterative
external breadth-first branch-and-bound. In International Conference
on Automated Planning and Scheduling (ICAPS), 2006. Submitted.
[60] J. JaJa. An Introduction to Parallel Algorithms. Addison-Wesley, 1992.
[61] I. Katriel and U. Meyer. Elementary graph algorithms in external memory.
This volume.
[62] F. Klaedtke. On the automata size for Presburger arithmetic. In Symposium
on Logic in Computer Science (LICS), pages 110–119, 2004.
[63] R. Korf. Best-first frontier search with delayed duplicate detection. In
National Conference on Artificial Intelligence (AAAI), 2004. 650–657.
[64] R. Korf and A. Felner. Recent progress in heuristic search: A case
study of the four-peg towers of hanoi problem. In International Joint
Conference on Artificial Intelligence (IJCAI), 2007.
26

[65] R. E. Korf. Finding optimal solutions to Rubik’s Cube using pattern
databases. In National Conference on Artificial Intelligence (AAAI),
pages 700–705, 1997.
[66] R. E. Korf. Breadth-first frontier search with delayed duplicate detection.
In Model Checking and Artificial Intelligence (MOCHART), pages
87–92, 2003.
[67] R. E. Korf and A. Felner. Disjoint pattern database heuristics. In
J. Schaeffer and H. J. van den Herik, editors, Chips Challenging Champions:
Games, Computers and Artificial Intelligence, pages 13–26. Elsevier
Sience, 2002.
[68] R. E. Korf and P. Schultze. Large-scale parallel breadth-first search. In
National Conference on Artificial Intelligence (AAAI), pages 1380–1385,
2005.
[69] R. E. Korf and W. Zhang. Divide-and-conquer frontier search applied
to optimal sequence alignment. In National Conference on Artificial
Intelligence (AAAI), pages 910–916, 2000.
[70] S. Kupferschmid, K. Dräger, J. Hoffmann, B. Finkbeiner, H. Dierks,
A. Podelski, and G. Behrmann. Uppaal/DMC – Abstraction-based
Heuristics for Directed Model Checking. In Tools and Algorithms for
Construction and Analysis of Systems (TACAS), 2007.
[71] A. Lluch-Lafuente. Directed Search for the Verification of Communication
Protocols. PhD thesis, Institute of Computer Science, University of
Freiburg, 2003.
[72] T. Mehler. Challenges and Applications of Assembly-Level Software Model
Checking. PhD thesis, University of Dortmund, 2005.
[73] T. Mehler and S. Edelkamp. Dynamic incremental hashing in program
model checking. Electronic Notes in Theoretical Computer Science
(ENTCS), 149(2), 2006.
[74] K. Mehlhorn. Data Structures and Algorithms, volume 2 : NP Completeness
and Graph Algorithms. EATCS Monographs on Theoretical
Computer Science. Springer-Verlag, 1984.
27

[75] K. Mehlhorn and U. Meyer. External-memory breadth-first search with
sublinear I/O. In European Symposium on Algorithms (ESA), pages
723–735, 2002.
[76] K. Mehlhorn and S. Näher. The LEDA Platform of Combinatorial and
Geometric Computing. Cambridge University Press, 1999.
[77] K. Munagala and A. Ranade. I/O-complexity of graph algorithms. In
Symposium on Discrete Algorithms (SODA), pages 87–88, 2001.
[78] D. Nau, M. Ghallab, and P. Traverso. Automated Planning: Theory &
Practice. Morgan Kaufmann, 2004.
[79] R. Niewiadomski, J. N. Amaral, and R. C. Holte. Sequential and parallel
algorithms for frontier A* with delayed duplicate detection. In National
Conference on Artificial Intelligence (AAAI), pages 1039–1044, 2006.
[80] R. Pagh. Low redundancy in static dictionaries with constant query
time. SIAM Journal on Computing, 31(2):353–363, 2001.
[81] R. Pagh and F. F. Rodler. Cuckoo hashing. In European Symposium on
Algorithms (ESA), pages 121–133, 2001.
[82] J. Pearl. Heuristics. Addison-Wesley, 1985.
[83] J. H. Reif. Depth-first search is inherently sequential. Information Processing
Letters, 20:229–234, 1985.
[84] K. Reinert, J. Stoye, and T. Will. Combining divide-and-conquer, the
A*-algorithm, and successive realignment approaches to speed up multiple
sequence alignment. In German Conference on Bioinformatics
(GCB), pages 17–24, 1999.
[85] S. Russell and P. Norvig. Artificial Intelligence: A Modern Approach.
Prentice Hall, 2003.
[86] P. Sanders, U. Meyer, and J. F. Sibeyn. Algorithms for Memory Hierarchies.
Springer, 2002.
[87] S. Schroedl. An improved search algorithm for optimal multiple sequence
alignment. Journal of Artificial Intelligence Research, 23:587–623, 2005.
28

[88] V. Schuppan and A. Biere. From distribution memory cycle detection
to parallel model checking. International Journal on Software Tools for
Technology Transfer, 5(2–3):185–204, 2004.
[89] R. Tarjan. Depth-first search and linear graph algorithms. SIAM Journal
of Computing, (1):146–160, 1972.
[90] L. Thoma and N. Zeh. I/O-efficient algorithms for sparse graphs. In
P. Sanders, U. Meyer, and J. F. Sibeyn, editors, Memory Hierarchies,
2002.
[91] J. S. Vitter. External memory algorithms and data structures: Dealing
with massive data. ACM Computing Surveys, 33(2):209–271, 2001.
[92] D. Wagner and T. Willhalm. Geometric speed-up techniques for finding
shortest paths in large sparse graphs. In European Symposium on
Algorithms (ESA), pages 776–787, 2003.
[93] D. Wagner, T. Willhalm, and C. Zaroliagis. Dynamic shortest path containers.
In Algorithmic Methods and Models for Optimization of Railways,
2003.
[94] B. Wah and Y. Chen. Constrained partitioning in penalty formulations
for solving temporal planning problems. Artificial Intelligence, 2006.
[95] T. Willhalm. Shortest Paths and Layout Algorithms for Large Graphs.
PhD thesis, University of Karlsruhe, 2005.
[96] R. Zhou and E. Hansen. Structured duplicate detection in externalmemory
graph search. In National Conference on Artificial Intelligence
(AAAI), 2004. 683–689.
[97] R. Zhou and E. Hansen. Domain-independent structured duplicate detection.
In National Conference on Artificial Intelligence (AAAI), pages
1082–1087, 2006.
[98] R. Zhou and E. Hansen. Edge partitioning in external-memory graph
search. In International Joint Conference on Artificial Intelligence (IJ-
CAI), 2007.
29