2x2 - Theoretische Informatik - Universität Duisburg-Essen

Kontextsensitive und Typ-0-Sprachen 

Berechenbarkeitstheorie 

Komplexitätstheorie 




Vorlesung “Berechenbarkeit und Komplexität” 

alias 

“Theoretische Informatik: Komplexitätstheorie und 

effiziente Algorithmen” 

Wintersemester 2013/14 

Prof. Barbara König 

Übungsleitung: Henning Kerstan & Sebastian Küpper 

Willkommen zu 

“Berechenbarkeit und Komplexität” 

(Bachelor Angewandte Informatik – Ingenieur- und 

Medieninformatik, Duisburg) 

“Theoretische Informatik: Komplexitätstheorie und effiziente 

Algorithmen” 

(Bachelor Angewandte Informatik – Systems Engineering & 

Lehramt, Essen) 




Barbara König BeKo/TI 1 





Wer sind wir? 

Das heutige Programm 

Organisatorisches 

Vorstellung 

Ablauf der Vorlesung und der Übungen 

Prüfung 

Literatur & Folien 

Einführung und Motivation: Berechenbarkeit und Komplexität 

Inhalt der weiteren Vorlesung 

Dozentin: Prof. Barbara König 

Raum LF 264 (Campus Duisburg) 

E-Mail: barbara koenig@uni-due.de 

Sprechstunde: nach Vereinbarung 

Übungsleitung: Henning Kerstan & Sebastian Küpper 

Raum LF 261 (Campus Duisburg) 

E-Mail: henning.kerstan@uni-due.de, 

sebastian.kuepper@uni-due.de 

Web-Seite: 

www.ti.inf.uni-due.de/teaching/ws201314/beko/ 


Barbara König BeKo/TI 4







Vorlesungstermine 

Termine der Übungsgruppen/Tutorien 

Termine: 

Donnerstag, 14:15-15:45 Uhr 

Jeweils im Raum LB 134 (Duisburg) bzw. S07 S00 D07 (Essen) 

Videoübertragung in beide Räume 

Dozentin ist im Wechsel in Duisburg und Essen (genauer Plan bis 

Weihnachten: siehe Webseite) 

Übungsgruppen in Duisburg: 

Mittwoch, 8:00 - 10:00 Uhr, Raum LC 137 (Gruppe D1) 

Donnerstag, 12:00 - 14:00 Uhr, Raum LC 137 (Gruppe D2) 

Donnerstag, 16:00 - 18:00 Uhr, Raum LC 137 (Gruppe D3) 

Übungsgruppen in Essen: 

Dienstag, 8:30 - 10:00 Uhr, Raum SH 403 (Gruppe E1) 

Donnerstag, 12:00 - 14:00 Uhr, Raum SH 403 (Gruppe E2) 




Hinweise zu den Übungen 







Bitte versuchen Sie, sich möglichst gleichmäßig auf die 

Übungen zu verteilen. 

Besuchen Sie die Übungen und machen Sie die Hausaufgaben! 

Diesen Stoff kann man nur durch regelmäßiges Üben erlernen. 

Auswendiglernen hilft nicht besonders viel. 

Die Übungen beginnen in der dritten Semesterwoche am 28. 

Oktober. 

Das Übungsblatt wird jeweils am Montag ins Netz gestellt. 

Das erste Übungsblatt wird am 21.10. bereitgestellt. 

Die schriftlichen Aufgaben müssen bis spätestens Montag, 

12 Uhr, der darauffolgenden Woche abgegeben werden. 

In dieser Woche wird dann auch das Übungsblatt besprochen. 

Abgabe durch 

Elektronische Abgabe über die Lernplattform Moodle 

oder 

Einwurf in einen Briefkasten: 

Duisburg: Briefkasten neben dem Raum LF259. 

Essen: im Moment ist kein Briefkasten vorgesehen 










Lernplattform Moodle 

Wir verwenden Moodle, um: 

Bitte geben Sie auf Ihrer Lösung oben deutlich Ihren Namen, 

Ihre Gruppennummer, Ihre Matrikelnummer und das Fach an. 

Bitte heften Sie die Blätter ordentlich zusammen. 

Elektronische Abgaben sind nur als PDF zulässig! Bitte 

benennen Sie Dateien nach folgendem Schema (um eine 

eindeutige Namenswahl zu gewährleisten): 

-.pdf 

Sie dürfen in Zweier-Gruppen abgeben. 

Plagiate oder das Kopieren alter Musterlösungen sind 

selbstverständlich nicht erlaubt! In diesem Fall vergeben wir 

keine Punkte. 

die Aufgabenblätter zur Verfügung zu stellen, 

Hausaufgaben elektronisch abzugeben und 

Video-Mitschnitte der Vorlesung (vom WS 12/13) zur 

Verfügung zu stellen. 

Moodle-2-Plattform an der Universität Duisburg-Essen: 

http://moodle2.uni-due.de/ (siehe auch Link auf der 

Webseite) 

Bitte legen Sie dort einen Zugang an (falls noch nicht vorhanden) 

und tragen Sie sich in den Kurs “Berechenbarkeit und 

Komplexität/Theoretische Informatik” (Ingenieurwissenschaften → 

Informatik und Angewandte Kognitionswissenschaft) ein. 

Zugangsschlüssel: . . . 




Mündliche Prüfung/Klausur 







Es gibt mehrere Möglichkeiten, die Vorlesung prüfen zu lassen . . . 

Mündliche Prüfung (nur für Bachelor Duisburg) 

Mündliche Prüfung des Moduls “Theoretische Informatik” 

(“Automaten und Formale Sprachen”, zusammen mit 

“Berechenbarkeit und Komplexität”) 

Statt dieser mündlichen Prüfung kann man alternativ auch eine 

mündliche Prüfung in “Rechnernetze und Sicherheit” absolvieren. 

Termine: 24.-28. Februar 2014 

Schriftliche Prüfung 

Klausur am Ende des Semesters (für alle Studierenden, auch 

Bachelor Duisburg, die die mündliche Prüfung nicht absolvieren) 

Termin: Donnerstag, 13. Februar 2014, 14:00–16:00 Uhr 

Anmeldung in beiden Fällen (schriftlich, mündlich) über das 

Prüfungsamt (ab 11.11.) 

Für die Essener Bachelorstudiengänge ist die Nachklausur 

voraussichtlich am Donnerstag, 3. April 2014, 14:00-16:00 Uhr 











Für beide Prüfungsformen gibt es eine Bonusregelung: 

Wenn Sie 50% der Hausaufgabenpunkte erzielt haben, so 

erhalten Sie einen Bonus für die Klausur und für die 

Modulprüfung. (Für das Vorrechnen in der Übung gibt es 10 

Extrapunkte.) 

Auswirkung: Verbesserung um eine Notenstufe; z.B. von 2,3 

auf 2,0 

Für die mündliche Bachelor-Modulprüfung “Theoretische 

Informatik” (Duisburg): die Bonus-Voraussetzungen sind für 

jede Teilvorlesung (“Automaten und Formale Sprachen” & 

“Berechenbarkeit und Komplexität”) zu erfüllen. 

Staatsexamen 

Lehramtsstudierende, die Staatsexamen machen wollen, melden 

sich bitte (rechtzeitig) über das Landesprüfungsamt an. 

Die Prüfung wird in diesem Fall vom Landesprüfungsamt 

organisiert, wir kümmern uns nur um die Aufgabenstellung (und 

korrigieren die Klausur). 

Literatur 




Die Vorlesung basiert im 

wesentlichen auf folgendem 

Buch: 

Uwe Schöning: Theoretische 

Informatik – kurz gefasst. 

Spektrum, 2008. 

(5. Auflage) 



Literatur 




Weitere relevante Bücher: 

Neuauflage eines alten 

Klassikers: 

Hopcroft, Motwani, Ullman: 

Introduction to Automata 

Theory, Languages, and 

Computation, 

Addison-Wesley, 2001. 


Auf Deutsch: 

Hopcroft, Motwani, Ullman: 

Einführung in die 

Automatentheorie, Formale 

Sprachen und 

Komplexitätstheorie, 

Pearson, 2002. 








Literatur 

Literatur 

Vossen, Witt: Grundkurs 

Theoretische Informatik, 

vieweg, 2006. 

Asteroth, Baier: 

Theoretische Informatik, 

Pearson, 2003. 

Literatur 





Folien 





Sipser: Introduction to the 

Theory of Computation, 

Thomson, 2006. 

Folien werden 

im Web als PDF bereitgestellt 

regelmäßig aktualisiert 

Die Folien werden sich gegenüber dem letzten Jahr relativ wenig 

verändern. Von daher macht es Sinn, sich die Folien des Vorjahres 

schon einmal anzusehen (Link: siehe Vorlesungs-Webseite). 









Inhalt der Vorlesung 

Inhalt der Vorgänger-Vorlesung “Automaten und Formale 

Sprachen”: die untersten beiden Stufen der Chomsky-Hierarchie 

Reguläre Sprachen (Chomsky Typ-3) 

reguläre Grammatiken, (deterministische und 

nichtdeterministische) endliche Automaten, reguläre Ausdrücke, 

Pumping-Lemma, Minimalautomat, Abschlusseigenschaften, 

Entscheidbarkeitsresultate 

Kontextfreie Sprachen (Chomsky Typ-2) 

kontextfreie Grammatiken, Normalformen, Pumping-Lemma, 

Abschlusseigenschaften, CYK-Algorithmus, Kellerautomaten, 

deterministisch kontextfreie Sprachen, Entscheidbarkeitsresultate 

Chomsky-Hierarchie 





Inhalt der Vorlesung 

Und was kommt jetzt? 

Wir beschäftigen uns mit den verbleibenden beiden Stufen der 

Chomsky-Hierarchie: Chomsky Typ-1 und Chomsky Typ-0. 

Die Theorie der Typ-0-Sprachen ist im wesentlichen 

Berechenbarkeitstheorie: Welche Sprachen sind überhaupt mit 

(informatischen) Maschinen akzeptierbar? Welche Funktionen 

sind überhaupt berechenbar? 

Bei Berechenbarkeitstheorie: Fokus liegt etwas mehr auf 

berechenbaren Funktionen 

Und als letztes Kapitel: Komplexitätstheorie 

Welche Sprachen kann man akzeptieren, wenn die Resourcen 

(Zeit, Platz) beschränkt sind? Beispielsweise: was kann man 

alles in polynomieller Zeit erreichen? 






Grammatik (Wiederholung) 

Eine Grammatik G ist ein 4-Tupel G = (V , Σ, P, S), das folgende 

Bedingungen erfüllt: 

V ist eine endliche Menge von Nicht-Terminalen bzw. 

Variablen 

Σ ist das (endliche) Alphabet bzw. die Menge der 

Terminal(symbol)e. 

P ist eine endliche Menge von Regeln bzw. Produktionen mit 

P ⊆ (V ∪ Σ) + × (V ∪ Σ) ∗ . 

S ∈ V ist die Startvariable bzw. das Axiom. 

Die von einer Grammatik erzeugte Sprache (Wiederholung) 

Die von einer Grammatik G = (V , Σ, P, S) erzeugte Sprache ist 

L(G) = {w ∈ Σ ∗ | S ⇒ ∗ G w}. 

(Menge aller Wörter aus Alphabetsymbolen, die aus der 

Startvariable S ableitbar sind.) 











Beispiel: Die Grammatik G = ({S, A, B}, {a, b}, P, S) mit 

folgender Produktionenmenge P: 

S → ABS | ε AB → BA BA → AB A → a B → b 

erzeugt die Sprache: 

L = {w ∈ {a, b} ∗ | # a (w) = # b (w)}. 

(# a (w): Anzahl der a’s im Wort w) 

Typ-0-Grammatiken: 

keine Einschränkung 

Typ-1-Grammatiken: 

|linke Seite| ≤ 

|rechte Seite| 

(Wortproblem ist hier 

noch entscheidbar.) 

Eine Sprache L ⊆ Σ ∗ ist vom 

Typ i, wenn sie von einer 

Typ-i-Grammatik erzeugt 

wird. 

Menge aller Sprachen 

Typ-0-Sprachen 

semi-entscheidbare Sprachen 


kontextsensitive Sprachen 


kontextfreie Sprachen 


reguläre Sprachen 




Berechnungsmodelle 







Was bedeutet es überhaupt im allgemeinen, dass eine 

Funktion berechenbar oder eine Sprache akzeptierbar ist? 

Wie kann man ein generelles Berechnungsmodell definieren? 

Was ist das Maschinenmodell für Chomsky-0-Sprachen? 

Im Laufe der Zeit sind mehrere Berechnungsmodelle entwickelt 

worden, die jedoch alle zueinander äquivalent sind: 

Turing-Maschinen (benannt nach Alan Turing) 

While-Programme, Goto-Programme 

µ-rekursive Funktionen 

Turing-Maschinen mit entsprechender Beschränkung dienen auch 

als Maschinenmodell für Chomsky-1-Sprachen 









Unentscheidbarkeit 


Gibt es Sprachen, für die das Wortproblem (w ∈ L?) nicht 

entscheidbar ist? 

Antwort: ja 

Kann man Funktionen definieren, die nicht berechenbar sind? Das 

heißt, es gibt keine Turing-Maschine/kein While-Programm/keine 

µ-rekursive Funktion, die diese Funktion berechnet? 

Antwort: ja 

Außerdem: Wie zeigt man diese negativen Resultate? 

Die “Mutter” aller unentscheidbaren Probleme: das Halteproblem 

Gegeben sei eine Turing-Maschine (oder einfach ein Programm) M 

und eine Eingabe w ∈ Σ ∗ . 

Frage: Terminiert M bei Eingabe w? 

Das Halteproblem ist unentscheidbar, das heißt, es gibt kein 

Verfahren, das – gegeben M und w – immer entscheidet, ob M 

mit Eingabe w terminiert oder nicht. 

Wir werden die Unentscheidbarkeit des Halteproblems im Rahmen 

der Vorlesung zeigen. (Der Beweis ist überraschend kurz und 

elegant.) 











Intuition: Warum ist das Halteproblem unentscheidbar? 

Man könnte doch einfach M mit Eingabe w laufenlassen und 

nachsehen was passiert .... 

Wenn M nach einer endlichen Anzahl von Schritten von 

terminiert, dann hat man Gewissheit. 

Aber: wenn M nach 10.000 Schritten noch nicht terminiert 

hat, was dann? Nochmal 10.000 Schritte weiterlaufen lassen? 

Neben dem Halteproblem gibt es noch viele andere wichtige 

unentscheidbare Probleme, z.B., das Schnittproblem für 

kontextfreie Sprachen. 

Gegeben zwei kontextfreie Grammatiken für Sprachen L 1 , L 2 . Gilt 

L 1 ∩ L 2 = ∅? 

Beweistechnik: Man zeigt die Unentscheidbarkeit solcher Probleme 

meistens durch einen Widerspruchsbeweis. “Wenn dieses Problem 

entscheidbar wäre, dann wäre auch das Halteproblem 

entscheidbar.” 

Dazu kodiert man das Halteproblem so um, dass daraus eine 

Instanz eines solchen Problems wird. 









Turingmaschinen 

Schematische Darstellung einer Turing-Maschine: 

Kopf kann sich nach links und rechts 

bewegen und Zeichen überschreiben 

e i n g a b e 

Automat mit 

endlich vielen 

Zuständen 

Signal für 

Endzustand 


Eigenschaften von Turing-Maschinen: 

Wie endliche Automaten lesen Turing-Maschinen eine Eingabe 

von einem Band und haben endlich viele Zustände. 

Unterschied zu endlichen Automaten: der Lesekopf kann sich 

nach links und rechts bewegen und auch Zeichen 

überschreiben. 

Falls nur Zeichen der Eingabe überschrieben werden: 

Turing-Maschine heißt linear beschränkt (Maschinenmodell für 

Chomsy-1-Sprachen). 

Falls der Lesekopf auch über den linken und rechten Rand 

hinauslaufen und dort schreiben kann: allgemeine 

Turingmaschine mit unbeschränktem Band (Maschinenmodell 

für Chomsy-0-Sprachen). 





Turing-Maschinen und Computer: 


Das Konzept der Turing-Maschine wurde von Alan Turing 

1936 erfunden, noch bevor die ersten echten Computer gebaut 

wurden. 

Es ist nicht nur aus historischen Gründen interessant, sondern 

auch, weil es ein sehr einfaches Berechnungsmodell darstellt. 

Wenn man zeigen will, dass etwas nicht berechenbar ist, dann 

ist es viel besser, dies mit einem möglichst einfachen 

Berechnungsmodell zu tun. (Natürlich sollte man vorher 

sicherstellen, dass dieses Berechnungsmodell äquivalent zu 

komplexeren Modellen ist.) 

Analogie zu einem heutigen Computer: 

Kontrolle mit endlich vielen Zuständen Programm 

(Eingabe-)Band Speicher 







Beispiel 1: Turing-Maschine, die eine Binärzahl auf dem Band um 

eins inkrementiert. 

Idee: 

Kopf der Turing-Maschine steht zunächst auf dem am 

weitesten links befindlichen (höchstwertigen) Bit der 

Binärzahl. 

Kopf nach rechts laufen lassen, bis ein Leerzeichen gefunden 

wird. 

Dann wieder nach links laufen und jede 1 durch 0 ersetzen, 

solange bis eine 0 oder ein Leerzeichen auftaucht. 

Dieses Zeichen dann durch 1 ersetzen, bis zum Zahlanfang 

laufen und in einen Endzustand übergehen. 










Simulation 

□ 1 0 1 1 1 □ 

Simulation 

□ 1 0 1 1 1 □ 

Zustand: 

Zahlende finden 

z 0 

Zustand: 


z 0 

□: Leerzeichen auf dem Band 












Simulation 

□ 1 0 1 1 1 □ 

Simulation 

□ 1 0 1 1 1 □ 

Zustand: 


z 0 

Zustand: 


z 0 













Simulation 

□ 1 0 1 1 1 □ 

Simulation 

□ 1 0 1 1 1 □ 

Zustand: 


z 0 

Zustand: 


z 0 













Simulation 

□ 1 0 1 1 1 □ 

Simulation 

□ 1 0 1 1 0 □ 

Zustand: 1 

durch 0 ersetzen 

z 1 

Zustand: 1 


z 1 













Simulation 

□ 1 0 1 0 0 □ 

Simulation 

□ 1 0 0 0 0 □ 

Zustand: 1 


z 1 

Zustand: 1 


z 1 













Simulation 

□ 1 1 0 0 0 □ 

Simulation 

□ 1 1 0 0 0 □ 

Zustand: zurück 

zum Zahlanfang 

z 2 

Zustand: zurück 

zum Zahlanfang 

z 2 












Simulation 

□ 1 1 0 0 0 □ 

Zustand: 

Ende 

z e 



Beispiel 2: Turing-Maschinen zur Spracherkennung 

Wir suchen eine Turing-Maschine, die die Sprache 

L = {0 2n | n ≥ 0} (nicht kontextfrei) erkennt. 

Idee: 

Kopf steht zunächst am Beginn der Folge von Nullen. 

Anfang und Ende der Folge von Nullen markieren. Links neben 

der Folge von Nullen die Binärzahl 0 aufs Band schreiben. 

Nullen nacheinander durch ein anderes Zeichen (#) ersetzen. 

Nach jeder Ersetzung nach links zum Zähler laufen und diesen 

um eins inkrementieren. 

Sobald alle Nullen verschwunden sind (Endmarker ist 

erreicht), überprüfen, ob der Zähler die Form 10 . . . 0 hat. 











Turingmaschine (Definition) 

Eine (deterministische) Turingmaschine M ist ein 7-Tupel 

M = (Z, Σ, Γ, δ, z 0 , □, E), wobei 

Z die endliche Menge der Zustände, 

Σ das Eingabealphabet, 

Γ mit Γ ⊃ Σ das Arbeitsalphabet oder Bandalphabet, 

z 0 ∈ Z der Startzustand, 

δ : Z × Γ → Z × Γ × {L, R, N} die Überführungsfunktion, 

□ ∈ Γ\Σ das Leerzeichen oder Blank und 

E ⊆ Z die Menge der Endzustände ist. 

Bedeutung der Überführungsfunktion: sei δ(z, a) = (z ′ , b, x) mit 

x ∈ {L, R, N}. 

Falls die Turingmaschine im Zustand z auf dem Symbol a steht, so 

wechselt sie in den Zustand z ′ , 

überschreibt a durch b und 

führt folgende Kopfbewegung aus. 

Kopf einen Schritt nach links, falls x = L. 

Kopf bleibt stehen, falls x = N. 

Kopf einen Schritt nach rechts, falls x = R. 

Abkürzung: TM 











Wir fordern noch folgende Bedingung für Turingmaschinen: 

Bedingung für Endzustände 

Für z ∈ E gilt für alle a ∈ Σ 

δ(z, a) = (z, a, N) 

D.h., in einem Endzustand werden die Kopfposition, das Band und 

der Zustand nicht mehr verändert. 

Neben deterministischen Turingmaschinen gibt es auch 

nichtdeterministische Turingmaschinen. 

Überführungsfunktion für nichtdeterministische Turingmaschinen: 

δ : Z × Γ → P(Z × Γ × {L, R, N}). 

Jedem Zustand und Bandsymbol wird eine (eventuell leere) Menge 

von möglichen Aktionen zugeordnet. 

Dabei gilt auch, dass es in einem Endzustand keine Veränderungen 

mehr geben darf. Das heißt für z ∈ E gilt: 

(z ′ , b, x) ∈ δ(z, a) ⇒ z = z ′ und a = b und x = N 






Beispiel: Turingmaschine zur Inkrementierung einer Binärzahl 

M = ({z 0 , z 1 , z 2 , z e }, {0, 1}, {0, 1, □}, δ, z 0 , □, {z e }) 

Überführungsfunktion: Zahlende finden 

δ(z 0 , 0) = (z 0 , 0, R) 

δ(z 0 , 1) = (z 0 , 1, R) 

δ(z 0 , □) = (z 1 , □, L) 

Überführungsfunktion: 1 durch 0 ersetzen 

δ(z 1 , 0) = (z 2 , 1, L) 

δ(z 1 , 1) = (z 1 , 0, L) 

δ(z 1 , □) = (z e , 1, N) 

mit 





Überführungsfunktion: zurück zum Zahlanfang 


δ(z 2 , 0) = (z 2 , 0, L) 

δ(z 2 , 1) = (z 2 , 1, L) 

δ(z 2 , □) = (z e , □, R) 

Der Vollständigkeit halber: Überführungsregeln für den Endzustand 

Überführungsfunktion: Endzustandsregeln 

δ(z e , 0) = (z e , 0, N) 

δ(z e , 1) = (z e , 1, N) 

δ(z e , □) = (z e , □, N) 










Wie bei anderen Maschinenmodellen gibt es auch bei 

Turingmaschinen den Begriff einer Konfiguration, d.h., einer 

Momentaufnahme einer Turingmaschinen-Berechnung 

Konfiguration (Definition) 

Eine Konfiguration einer Turingmaschine ist gegeben durch ein 

Wort 

k ∈ Γ ∗ ZΓ ∗ . 

Bedeutung: k = αzβ 


Definition einer Übergangsrelation ⊢, die beschreibt, welche 

Konfigurationsübergänge möglich sind. 

Keine Bewegung 

Es gilt: a 1 . . . a m zb 1 b 2 . . . b n ⊢ a 1 . . . a m z ′ cb 2 . . . b n , 

falls δ(z, b 1 ) = (z ′ , c, N) (m ≥ 0, n ≥ 1). 

a 1 . . . a m b 2 . . . b n 

b 1 


α ∈ Γ ∗ ist der Teil des Bandes rechts vom Kopf. 

β ∈ Γ ∗ ist der Teil des Bandes links vom Kopf. Der Kopf steht 

auf dem ersten Zeichen von β. 

z ∈ Z ist der aktuelle Zustand. 








Keine Bewegung 

Es gilt: a 1 . . . a m zb 1 b 2 . . . b n ⊢ a 1 . . . a m z ′ cb 2 . . . b n , 

falls δ(z, b 1 ) = (z ′ , c, N) (m ≥ 0, n ≥ 1). 

Zustand: z 


Schritt nach links 




Es gilt: a 1 . . . a m−1 a m zb 1 b 2 . . . b n ⊢ a 1 . . . a m−1 z ′ a m cb 2 . . . b n , 

falls δ(z, b 1 ) = (z ′ , c, L) (m ≥ 1, n ≥ 1). 

a m b 1 b 2 . . . b n 

a 1 . . . a m−1 


a 1 . . . a m c b 2 . . . b n 

Zustand: z 

Zustand: z ′ Barbara König BeKo/TI 46








Schritt nach links 

Es gilt: a 1 . . . a m−1 a m zb 1 b 2 . . . b n ⊢ a 1 . . . a m−1 z ′ a m cb 2 . . . b n , 

falls δ(z, b 1 ) = (z ′ , c, L) (m ≥ 1, n ≥ 1). 

a 1 

. . . a m−1 a m c b 2 . . . b n 

Zustand: z ′ 




Schritt nach rechts 

Es gilt: a 1 . . . a m zb 1 b 2 . . . b n ⊢ a 1 . . . a m cz ′ b 2 . . . b n , 

falls δ(z, b 1 ) = (z ′ , c, R) (m ≥ 0, n ≥ 2). 

a 1 . . . a m b 2 . . . b n 

b 1 


Zustand: z 








Schritt nach rechts 

Es gilt: a 1 . . . a m zb 1 b 2 . . . b n ⊢ a 1 . . . a m cz ′ b 2 . . . b n , 

falls δ(z, b 1 ) = (z ′ , c, R) (m ≥ 0, n ≥ 2). 





Sonderfälle: Bandende erreicht zusätzliches Leerzeichen muss 

hinzugefügt werden 

Linkes Bandende 

Es gilt: zb 1 b 2 . . . b n ⊢ z ′ □cb 2 . . . b n , 

falls δ(z, b 1 ) = (z ′ , c, L). 

a 1 . . . a m c b 2 . . . b n 


Zustand: z 

b 1 

b 2 . . . b n 










Sonderfälle: Bandende erreicht zusätzliches Leerzeichen muss 

hinzugefügt werden 

Linkes Bandende 

Es gilt: zb 1 b 2 . . . b n ⊢ z ′ □cb 2 . . . b n , 

falls δ(z, b 1 ) = (z ′ , c, L). 


Rechtes Bandende 

Es gilt: a 1 . . . a m zb 1 ⊢ a 1 . . . a m cz ′ □, 

falls δ(z, b 1 ) = (z ′ , c, R). 

. . . 

□ c 


b 2 . . . b n 

Zustand: z 

a 1 a m b 1 











Rechtes Bandende 

Es gilt: a 1 . . . a m zb 1 ⊢ a 1 . . . a m cz ′ □, 

falls δ(z, b 1 ) = (z ′ , c, R). 

a 1 . . . a m c □ 

Akzeptierte Sprache (Definition) 

Sei M = (Z, Σ, Γ, δ, z 0 , □, E) eine Turingmaschine. Dann ist die 

von M akzeptierte Sprache: 

T (M) = {x ∈ Σ ∗ | z 0 x ⊢ ∗ αzβ für α, β ∈ Γ ∗ und z ∈ E}. 

Akzeptierte Sprache: Alle Eingabe-Wörter, mit denen die 

Turing-Maschine in einen Endzustand gelangen kann. Dabei startet 

die Turing-Maschine im Anfangszustand z 0 , der Kopf befindet sich 

auf dem ersten Zeichen des Eingabe-Wortes. 

Zustand: z ′ Barbara König BeKo/TI 50 

Wenn eine Maschine M für ein Eingabewort w in einen 

Endzustand gelangt, dann sagt man auch, dass M auf w hält. 









Linear beschränkte Turingmaschinen 

Für nicht-deterministische Turingmaschinen müssen die 

Definitionen folgendermaßen angepaßt werden: 

Falls sich die Turingmaschine im Zustand z befindet und das 

Zeichen b auf dem Band steht, sind alle 

Konfigurationsübergänge möglich, die durch die Menge δ(z, b) 

beschrieben werden. 

Ein Wort ist akzeptiert, wenn es eine mögliche Folge von 

Konfigurationen gibt, die zu einem Endzustand führt, auch 

wenn andere Folgen in Sackgassen geraten oder unendlich 

lang sind, ohne dabei je einen Endzustand zu erreichen. 

Wir definieren nun das Maschinenmodell für Chomsky-1-Sprachen 

(erzeugt durch monotone Grammatiken): linear beschränkte 

Turingmaschinen, die niemals außerhalb der Eingabe arbeiten 

dürfen. 

Problem: Turingmaschine muss erkennen können, dass sie sich am 

Ende der Eingabe befindet. 

(Für den Anfang der Eingabe besteht dasselbe Problem, aber 

diesen kann sie sich zu Beginn selbst markieren.) 

Lösung: das Eingabealphabet Σ wird erweitert, für jedes Zeichen 

a ∈ Σ wird noch ein Zeichen â hinzugenommen. Das letzte Zeichen 

a n der Eingabe wird dann durch â n ersetzt. 









Chomsky-1-Sprachen 



Eine nichtdeterministische Turingmaschine heißt linear beschränkt, 

wenn für alle a 1 . . . a n ∈ Σ + und für alle Konfigurationen αzβ mit 

z 0 a 1 . . . â n ⊢ ∗ αzβ gilt: 

|αβ| = n. 

Die von einer linear beschränkten Turingmaschine M akzeptierte 

Sprache ist 

Wir zeigen nun, dass die von linear beschränkten Turingmaschinen 

akzeptierten Sprachen genau den Typ-1-Sprachen entsprechen. 

Monotone Grammatiken → linear beschränkte Turingmaschinen 

Zu jeder monotonen Grammatik G gibt es eine linear beschränkte 

Turingmaschine M mit L(G) = T (M). 

T (M) = {a 1 . . . a n ∈ Σ + | z 0 a 1 . . . â n ⊢ ∗ αzβ 

für α, β ∈ Γ ∗ und z ∈ E}. 











Linear beschränkte Turingmaschinen → monotone Grammatiken 

Zu jeder linear beschränkten Turingmaschine M gibt es eine 

monotone Grammatik G mit L(G) = T (M). 

Beweisidee: die Übergangsregeln der Turingmaschine werden durch 

Produktionen ersetzt, die im wesentlichen Konfigurationen in 

Nachfolge-Konfigurationen überführen. 

Problem: die “Berechnungsrichtung” ist verschieden bei 

Turingmaschinen und Grammatiken 

Turingmaschinen beginnen mit einem Wort auf dem Band und 

modifizieren dieses so lange, bis ein Endzustand erreicht ist. 

Grammatiken beginnen mit der Startvariable S und leiten 

daraus das Wort ab. 





Lösung: 


Die Grammatik “rät” zu Beginn ein Wort und überprüft dann, 

ob es in der Sprache liegt. 

Allerdings ist dieses Wort nach Simulation der 

Turingmaschinen-Berechnung überschrieben oder modifiziert. 

Daher: Einführung neuer Symbole, bei denen jedes Zeichen 

doppelt gespeichert wird. Die Turingmaschinen-Berechnung 

arbeitet dann nur auf einer Kopie jedes Zeichens. Die andere 

Kopie wird erhalten und kann nach erfolgreicher Berechnung 

wiederhergestellt werden. 

Eine echte Kopie des ganzen Wortes kann nicht angefertigt 

werden, denn dann müßte man am Ende der Berechnung, 

beim Wiederherstellen des Wortes, Zeichen löschen und 

nicht-monotone Regeln verwenden. 






Turingmaschinen und Chomsky-0-Sprachen 


Zu jeder Chomsky-0-Grammatik G gibt es eine 

Turingmaschine M mit L(G) = T (M). 

Zu jeder Turingmaschine M gibt es eine 

Chomsky-0-Grammatik G mit L(G) = T (M). 









Ergebnisse für Chomsky-1- und Chomsky-0-Sprachen 

Beweisidee: durch Modifikation des Beweises für linear beschränkte 

Turingmaschinen und monotone Grammatiken. 

Grammatiken → Turingmaschinen: hier muss bei der Simulation 

der Grammatik auf dem Turingmaschinen-Band bei 

verkürzenden Regeln (linke Seite ist länger als rechte 

Seite) der Bandinhalt auseinandergeschoben werden. 

Turingmaschinen → Grammatiken: hier muss dafür gesorgt 

werden, dass die Grammatik bei Simulation der 

Turingmaschine links und rechts Leerzeichen 

erzeugen kann und diese nach erfolgreicher 

Berechnung auch wieder löscht. 

Abschluss unter Komplement von Typ-1-Sprachen 

(Immerman, Szelepcsényi) 

Wenn L eine Typ-1-Sprache ist, dann ist auch L = Σ ∗ \L eine 

Typ-1-Sprache. 

(Ohne Beweis) 

Abschluss unter Komplement von Typ-0-Sprachen 

Wenn L eine Typ-0-Sprache ist, dann ist L = Σ ∗ \L nicht 

notwendigerweise eine Typ-0-Sprache. 

(Begründung und Beispiele später im Kapitel 

Berechenbarkeitstheorie.) 





Ergebnisse für Chomsky-1- und Chomsky-0-Sprachen 

Determinismus und Nichtdeterminismus bei Turingmaschinen 

Zu jeder nichtdeterministischen Turingmaschine gibt es eine 

deterministische Turingmaschine, die dieselbe Sprache akzeptiert. 

Beweisidee: die deterministische Turingmaschine simuliert mit Hilfe 

von Breitensuche alle Verzweigungen der nichtdeterministischen 

Turingmaschine. 

Determinismus und Nichtdeterminismus bei linear beschränkten 

Turingmaschinen (LBA-Problem) 

Für linear beschränkten Turingmaschinen ist nicht bekannt, ob die 

deterministischen und nichtdeterministischen Maschinenmodelle 

gleich ausdrucksmächtig sind. 




Berechenbarkeit: Motivation 




Unentscheidbare Probleme 

Nach der Beantwortung der Frage, welche Sprachen maschinell 

akzeptierbar sind, beschäftigen wir uns mit der Frage, welche 

Funktionen berechenbar sind. 

Wir betrachten folgende Typen von Funktionen: 

(mehrstellige) Funktionen auf natürlichen Zahlen (die Null ist 

eingeschlossen): 

f : N k 0 → N 0 

Funktionen auf Wörtern: 

f : Σ ∗ → Σ ∗ 

Erlaubt sind auch partielle Funktionen, die nicht notwendigerweise 

überall definiert sind. 

















Intuitiver Berechenbarkeitsbegriff 

Eine Funktion f : N k 0 → N 0 soll als berechenbar angesehen werden, 

wenn es ein Rechenverfahren/einen Algorithmus/ein Programm 

gibt, das f berechnet, d.h. 

das Verfahren erhält (n 1 , . . . , n k ) als Eingabe, 

terminiert nach endlich vielen Schritten, falls die Funktion auf 

dieser Eingabe definiert ist 

und gibt f (n 1 , . . . , n k ) aus. 

Falls die Funktion auf (n 1 , . . . , n k ) nicht definiert ist, so soll das 

Verfahren nicht stoppen (z.B., durch eine unendliche Schleife). 

Die Äquivalenz vieler Berechnungsmodelle (das wird noch gezeigt) 

und das intuitive Verständnis des Begriff der Berechenbarkeit 

führen zu folgender (nicht beweisbaren) These. 

Churchsche These 

Die durch die formale Definition der 

Turingmaschinen-Berechenbarkeit (äquivalent: 

While-Berechenbarkeit, Goto-Berechenbarkeit, µ-Rekursivität) 

erfasste Klasse von Funktionen stimmt genau mit der Klasse der 

im intuitiven Sinne berechenbaren Funktionen überein. 

















Bemerkungen: 

Ein Berechnungsmodell, das äquivalent zu Turingmaschinen 

ist, nennt man auch Turing-mächtig. Der entsprechende 

Berechenbarkeitsbegriff heißt Turing-Berechenbarkeit. 

Fast alle Programmiersprachen sind Turing-mächtig. 

Heute ist man – mehr als früher – neben der Berechenbarkeit 

von Funktionen auch an eher interaktiven und reaktiven 

Berechnungsmodellen (z.B. Prozesskalküle) interessiert, bei 

denen der Benutzer auch während der Berechnung mit dem 

System interagieren kann. Diese werden von Turingmaschinen 

nicht so gut repräsentiert, ihre Existenz ist aber auch kein 

Widerspruch zur Churchschen These, die sich nur auf 

berechenbare Funktionen bezieht. 

Wir wiederholen kurz den Begriff der Abzählbarkeit: 

Abzählbarkeit 

Eine Menge M heißt abzählbar, wenn es eine surjektive Abbildung 

f : N 0 → M gibt. Das heißt es gibt eine (nicht notwendigerweise 

konstruktive) Aufzählung f (0), f (1), f (2), . . . aller Elemente von 

M, in der jedes Element von M mindestens einmal vorkommt. 

















Nicht-berechenbare Funktionen 

Es gibt Funktionen der Form f : N 0 → N 0 , die nicht berechenbar 

sind. 

Beweisidee: wir wählen ein beliebiges Berechnungsmodell und 

stellen nur eine Anforderung: 

Programme bzw. Maschinen in diesem 

Berechnungsmodell, können als Wörter über einem 

endlichen Alphabet kodiert werden. 

Dann gilt: es gibt höchstens abzählbar viele 

Maschinen/Programme. 

Aber: es gibt überabzählbar viele (totale) Funktionen. 

Wir zeigen dies durch einen Widerspruchsbeweis: angenommen die 

Menge aller totalen Funktionen F auf natürlichen Zahlen ist 

abzählbar. Das heißt, es gibt eine surjektive Abbildung F : N 0 → F. 

Wir konstruieren die (totale) Funktion g : N 0 → N 0 mit 

g(n) = f n (n) + 1, 

wobei f n = F (n). 

Da F surjektiv ist, muss es eine natürliche Zahl i geben mit 

F (i) = g. Für dieses i gilt dann: g(i) = f i (i). Aber das ist ein 

Widerspruch zur Definition von g mit g(i) = f i (i) + 1. 









Veranschaulichung: wir stellen F dadurch dar, indem wir zu jedem 

n die Funktion f n als Folge f n (0), f n (1), f n (2), . . . notieren. 

Zum Beispiel: 











Alle Zahlen auf der Diagonale verwenden . . . 

n 

f n (0) f n (1) f n (2) f n (3) f n (4) . . . 

n 

f n (0) f n (1) f n (2) f n (3) f n (4) . . . 

0 

7 

20 

33 

0 

12 

0 

7 

20 

33 

0 

12 

1 

12 

33 

94 

2 

17 

1 

12 

33 

94 

2 17 

2 

99 

101 

16 

11 

22 

2 

99 

101 

16 

11 22 

3 

2 

0 

14 

99 

42 

3 

2 

0 

14 

99 

42 

4 

17 

5 

77 

7 

11 

4 

17 

5 

77 

7 

11 

. . . 

. . . 


















. . . und um eins erhöhen. Dadurch erhält man g. 




Die Funktion g kann aber aufgrund dieser Konstruktion mit keiner 

der anderen Funktionen übereinstimmen. 

n 

0 

1 

2 

3 

4 

. . . 

f n (0) f n (1) f n (2) f n (3) f n (4) . . . 

8 20 33 0 12 

12 34 94 2 17 

99 101 17 11 22 

2 0 14 100 42 

17 5 77 7 12 

n 

0 

1 

2 

3 

4 

. . . 

f n (0) f n (1) f n (2) f n (3) f n (4) . . . 

8 20 33 0 12 

12 34 94 2 17 

99 101 17 11 22 

2 0 14 100 42 

17 5 77 7 12 

Diese Art von 

“selbstbezüglichen” 

Beweisen nennt man 

aufgrund ihrer 

Veranschaulichung 

durch solche 

Diagramme oft Diagonalisierungsbeweise. 




Turing-Berechenbarkeit 













Nach dem intuitiven Berechenbarkeitsbegriff beschäftigen wir uns 

nun mit dem formalen Berechenbarkeitsbegriff, zunächst basierend 

auf Turingmaschinen. 

Wir wissen bereits, was es bedeutet, dass eine Turingmaschine eine 

Sprache akzeptiert. Nun definieren wir, was es bedeutet, dass eine 

Turingmaschine eine Funktion berechnet. 

Turing-berechenbare Funktionen auf natürlichen Zahlen 

Eine Funktion f : N k 0 → N 0 heißt Turing-berechenbar, falls es eine 

(deterministische) Turingmaschine M = (Z, Σ, Γ, δ, z 0 , □, E) gibt, 

so dass für alle n 1 , . . . , n k , m ∈ N 0 gilt: 

f (n 1 , . . . , n k ) = m 

⇐⇒ 

z 0 bin(n 1 )#bin(n 2 )# . . . #bin(n k ) ⊢ ∗ □ . . . □z e bin(m)□ . . . □ 

wobei z e ∈ E. 

Dabei bezeichnet bin(n) die Binärdarstellung einer Zahl n ∈ N 0 . 

















Intuition: wenn man die Zahlen n 1 , . . . , n k in Binärdarstellung – 

voneinander getrennt durch # – aufs Band schreibt, so berechnet 

die Turingmaschine daraus die Zahl f (n 1 , . . . , n k ) (möglicherweise 

umgeben von Leerzeichen) und geht in einen Endzustand über. 

Dabei muss der Kopf auf dem ersten Zeichen der Ausgabe stehen. 

Turing-berechenbare Funktionen auf Wörtern 

Eine Funktion f : Σ ∗ → Σ ∗ heißt Turing-berechenbar, falls es eine 

(deterministische) Turingmaschine M = (Z, Σ, Γ, δ, z 0 , □, E) gibt, 

so dass für alle x, y ∈ Σ ∗ gilt: 

wobe z e ∈ E. 

f (x) = y 

⇐⇒ 

z 0 x ⊢ ∗ □ . . . □z e y□ . . . □, 

Intuition: wenn man das Wort x aufs Band schreibt, so berechnet 

die Turingmaschine daraus das Wort y (möglicherweise umgeben 

von Leerzeichen) und geht in einen Endzustand über. 

















Was muss eine Turingmaschine tun, wenn der Funktionswert nicht 

definiert ist? 

Die beiden obigen Definitionen drücken aus, dass in diesem 

Fall nie eine Konfiguration wie oben beschrieben erreicht 

werden darf. 

Da die Maschine deterministisch ist, gibt es jedoch immer 

einen Nachfolgezustand. 

Das bedeutet, dass die Turingmaschine entweder nicht hält 

(d.h. keinen Endzustand erreicht) oder in einer inkorrekten 

Konfiguration hält (z.B. steht der Kopf nicht am Beginn der 

Ausgabe). 

Beispiele für Turing-berechenbare Funktionen: 

Beispiel 1: die Nachfolgerfunktion n ↦→ n + 1 ist 

Turing-berechenbar (siehe die im vorherigen Kapitel angegebene 

Turingmaschine, die auf Binärdarstellungen arbeitet). 

Beispiel 2: sei Ω die überall undefinierte Funktion. Diese ist auch 

Turing-berechenbar, durch eine Turingmaschine, die keinen 

Endzustand hat. Beispielsweise durch eine Turingmaschine mit der 

Übergangsregel 

δ(z 0 , a) = (z 0 , a, R) für alle a ∈ Γ. 

(Statt nach rechts kann die Turingmaschine alternativ auch nach 

links laufen oder auf dem Band stehenbleiben.) 
















Beispiel 3: gegeben sei eine Typ-0-Sprache L. Wir betrachten die 

sogenannte “halbe” charakteristische Funktion von L: 

χ L : Σ ∗ → {0, 1} 

{ 1 falls w ∈ L 

χ L (w) = 

undefiniert sonst 




Mehrband-Turingmaschine 






Idee für eine Turingmaschine, die χ L berechnet: 

Wir verwenden die Turingmaschine aus der Transformation 

“(Monotone) Grammatik → (linear beschränkte) 

Turingmaschine”. 

Wenn diese Turingmaschine in einen Endzustand übergehen 

sollte (da Startsymbol S erreicht und damit w ∈ L), dann 

überschreibt sie S mit 1 und geht in einen Endzustand über. 

In allen anderen Fällen (w ∉ L) muss die Turingmaschine 

nicht terminieren. 

Hierbei handelt es sich um eine nicht-deterministische 

Turingmaschine, da nicht-deterministisch die nächste, 

rückwärts anzuwendende, Produktion gewählt wird. Wegen 

der Äquivalenz von deterministischen und 

nicht-deterministischen Turingmaschinen könnte man sie auch 

in eine deterministische Turingmaschine umwandeln. 









Wir führen jetzt mehrere neue Berechnungsmodelle ein und zeigen, 

dass sie alle äquivalent zu Turingmaschinen sind. Das erste davon 

ist die sogenannte Mehrband-Turingmaschine. 


Eine Mehrband-Turingmaschine besitzt k (k ≥ 1) Bänder mit 

k unabhängigen Köpfen, aber nur einen Zustand. 

Aussehen der Übergangsfunktion: 

δ : Z × Γ k → Z × Γ k × {L, R, N} k 

Mehrband-Turingmaschinen → Turingmaschinen 

Zu jeder Mehrband-Turingmaschine M gibt es eine 

(Einband-)Turingmaschine M ′ , die dieselbe Sprache akzeptiert 

bzw. dieselbe Funktion berechnet. 

(ein Zustand, k Bandsymbole, k Bewegungen) 

Die Ein- und Ausgabe stehen jeweils auf dem ersten Band. Zu 

Beginn sind die restlichen Bänder leer. 
















Beweisidee: wir beginnen mit der Darstellung einer typischen 

Konfiguration einer Mehrband-Turingmaschine 


Simulation durch Einband-Turingmaschine durch Erweiterung des 

Alphabets 

Wir fassen die übereinanderliegenden Bandeinträge zu einem Feld 

zusammen 

M 

a 1 a 2 a 3 a 4 a 5 a 6 a 7 a 8 a 9 a 10 

b 1 b 2 b 3 b 4 b 5 b 6 b 7 b 8 b 9 b 10 

c 1 c 2 c 3 c 4 c 5 c 6 c 7 c 8 c 9 c 10 

a 1 a 2 a 3 a 4 a 5 a 6 a 7 

M ′ b 1 b 2 b 3 b 4 b 5 b 6 b 7 b 8 b 9 b 10 

a 8 a 9 a 10 

♦ ♦ * ♦ ♦ ♦ ♦ ♦ ♦ ♦ 

♦ ♦ ♦ ♦ ♦ ♦ ♦ * ♦ ♦ 

c 1 c 2 c 3 c 4 c 5 c 6 c 7 c 8 c 9 c 10 

♦ ♦ ♦ ♦ ♦ ♦ ♦ ♦ ♦ 

* 





Neues Bandalphabet: 

Bedeutung: 





Γ ′ = Γ ∪ (Γ ∪ {∗, ♦}) 2k 

Mit Hilfe von Symbolen aus Γ wird die Eingabe dargestellt. 

Diese wird dann in einem ersten Durchlauf in die 

“Mehrband-Kodierung” umgewandelt. 

Ein Alphabetsymbol der Form 

(a, ∗, b, ♦, c, ∗, . . . ) ∈ (Γ ∪ {∗, ♦}) 2k hat die Bedeutung: 

Entsprechende Felder sind mit a, b, c, . . . belegt, 

1. und 3. Kopf sind anwesend. (∗: Kopf anwesend, ♦: Kopf 

nicht anwesend) 










Problem: Eine Einband-Turingmaschine hat nur einen Kopf und 

der kann nur an einer Stelle stehen Simulation eines Übergangs 

der Mehrband-Turingmaschine in mehreren Schritten. 

Simulation: 

Zu Beginn der Simulation eines Schritts steht der Kopf der 

Einband-Turingmaschine M ′ links von allen ∗-Markierungen. 

Dann läuft der Kopf nach rechts, überschreitet alle 

∗-Markierungen und merkt sich die unter jedem Kopf 

stehenden Zeichen. (Dazu benötigt man viele Zustände.) 

Sobald alle diese Zeichen bekannt sind, kann man mit Hilfe 

der δ-Funktion die notwendigen Aktionen bestimmen. 

Dann läuft der Kopf wieder zurück nach links und führt alle 

notwendigen Änderungen aus. 














Loop-, While-, Goto-Berechenbarkeit 

Wir betrachten nun ein weiteres Berechnungsmodell, das im 

wesentlichen eine einfache Programmiersprache mit verschiedenen 

Konstrukten darstellt. 

Diese Programme haben Variablen, die mit natürlichen Zahlen 

belegt sind. Diesen Variablen dürfen arithmetische Ausdrücke 

(mit Konstanten, Variablen und Operatoren +, −) zugewiesen 

werden. 

Außerdem enthalten die Programme verschiedene 

Schleifenkonstrukte. 

Loop-Programme 








Loop-, While-, Goto-Berechenbarkeit 

Insbesondere betrachten wir folgende Typen von Programmen: 


Enthalten nur Loop- bzw. For-Schleifen, bei denen bereits bei 

Eintritt feststeht, wie oft sie durchlaufen werden. 

While-Programme 

Enthalten nur While-Schleifen mit einer immer wieder zu 

evaluierenden Abbruchbedingung. 

Goto-Programme 

Enthalten Gotos (unbedingte Sprünge) und 

If-Then-Else-Anweisungen. 

Wir interessieren uns vor allem für die Funktionen, die von solchen 

Programmen berechnet werden. 









Syntaktische Komponenten für Loop-Programme 

Variablen: x 0 x 1 x 2 . . . 

Konstanten: 0 1 2 . . . 

Trennsymbole: ; := 

Operatorsymbole: + − 

Schlüsselwörter: Loop Do End 

Induktive Syntax-Definition 

Ein Loop-Programm ist von der Form 

Wertzuweisung: x i := x j + c bzw. x i := x j − c 

(mit c ∈ N 0 ) 

Sequentielle Komposition: P 1 ; P 2 

(wobei P 1 , P 2 Loop-Programme sind) 

Loop: Loop x i Do P End 

(wobei P ein Loop-Programm ist) 
















(Informelle) Beschreibung der Semantik 

Ein Loop-Programm, das eine k-stellige Funktion berechnen 

soll, startet mit den Parametern in den Variablen x 1 , . . . , x k . 

Alle anderen Variablen haben den Startwert 0. Das Ergebnis 

liegt bei Terminierung in x 0 . 

Interpretation der Wertzuweisungen: 

x i := x j + c – wie üblich 

x i := x j − c – modifizierte Subtraktion, falls c > x j , so ist 

das Resultat gleich 0 

Sequentielle Komposition P 1 ; P 2 : erst P 1 , dann P 2 ausführen. 

Loop x i Do P End: das Programm P wird so oft 

ausgeführt, wie die Variable x i zu Beginn angibt. 









Loop-Programme können aber gewisse Programmkonstrukte 

simulieren, die in der Syntax nicht enthalten sind. 


Loop-Berechenbarkeit (Definition) 

Eine Funktion f : N k 0 → N 0 heißt Loop-berechenbar, falls es ein 

Loop-Programm P gibt, das 

gestartet mit n 1 , . . . , n k ∈ N 0 in den Variablen x 1 , . . . , x k 

stoppt mit f (n 1 , . . . , n k ) in der Variablen x 0 . 

Alle Loop-Programme stoppen nach endlicher Zeit alle 

Loop-berechenbaren Funktionen sind total. 

Wir werden später zeigen, dass es aber sogar totale 

Turing-berechenbare Funktionen gibt, die nicht Loop-berechenbar 

sind. 

Loop-Berechenbarkeit ist schwächer als 

Turing-Berechenbarkeit! 











If-Then-Else 

Simulation von If x = 0 Then A End 

Addition 

Simulation von x 0 := x 1 + x 2 


















Multiplikation 

Simulation von x 0 := x 1 · x 2 

Wir werden im folgenden solche Konstrukte in Programmen verwenden. 

Wir nehmen dann an, dass sie – wie oben – geeignet simuliert 

werden. 

Analog: Ganzzahlige Division (x Div y) und Divisionsrest 

(x Mod y). 










Syntax und Semantik von While-Programmen 

Statt Loop-Schleifen verwenden wir While-Schleifen der Form 

While x i ≠ 0 Do P End 

Programm P wird so lange ausgeführt bis der Wert von x i gleich 0 

ist. 

Eine Loop-Schleife 

Loop x Do P End 

kann simuliert werden durch 

y := x; 

While y ≠ 0 Do y := y − 1; P End 

Wichtig: dabei ist y eine neue Variable, die insbesondere in P nicht 

vorkommt. 









While-Berechenbarkeit (Definition) 

Eine Funktion f : N k 0 → N 0 heißt While-berechenbar, falls es ein 

While-Programm P gibt, das 

gestartet mit n 1 , . . . , n k ∈ N 0 in den Variablen x 1 , . . . , x k 

stoppt mit f (n 1 , . . . , n k ) in der Variablen x 0 , falls 

f (n 1 , . . . , n k ) definiert ist. 

Ansonsten terminiert P nicht. 

While-Programme → Turingmaschinen 

Jede While-berechenbare Funktion ist auch Turing-berechenbar. 

Anders ausgedrückt: Turingmaschinen können While-Programme 

simulieren. 

















Beweisidee: 

Wir verwenden eine Mehrband-Turingmaschine, bei der auf 

jedem Band eine andere Variable in Binärdarstellung 

gespeichert wird. 

k Variablen k Bänder 

x i := x j + c kann von der Turingmaschine durchgeführt 

werden, indem die Inkrementierungsfunktion (+1) c-mal 

ausgeführt wird. 

x i := x j − c funktioniert ähnlich. 

Sequentielle Komposition P 1 ; P 2 : wir bestimmen 

Turingmaschinen M 1 , M 2 für P 1 , P 2 . 

Diese modifizieren wir wie folgt zu einer Turingmaschine für 

P 1 ; P 2 : 

Vereinigung der Zustandsmengen, Bandalphabete und 

Übergangsfunktionen 

Anfangszustand ist Anfangszustand von M 1 . Endzustände 

sind Endzustände von M 2 . 

Statt in einen Endzustand von M 1 wird ein Übergang in 

den Anfangszustand von M 2 gemacht. (Vergleiche mit 

der Konkatenationskonstruktion für endliche Automaten.) 

















While-Schleife While x i ≠ 0 Do P End: Bestimme 

zunächst eine Turingmaschine M für P. 

Modifiziere M wie folgt: 

Im neuen Anfangszustand wird zunächst überprüft, 

ob 0 auf dem i-ten Band steht. 

Falls ja: Übergang in Endzustand 

Falls nein: M wird ausgeführt 

Statt Übergang in Endzustand: Übergang in den 

neuen Anfangszustand. 

Syntax von Goto-Programmen 

Mögliche Anweisungen für Goto-Programme: 

Wertzuweisung: x i := x j + c bzw. x i := x j − c (mit c ∈ N 0 ) 

Unbedingter Sprung: Goto M i 

Bedingter Sprung: If x i = c Then Goto M i 

Stopanweisung: Halt 

Ein Goto-Programm besteht aus einer Folge von Anweisungen 

A i , vor denen sich jeweils eine (Sprung-)Marke M i befindet. 

M 1 : A 1 ; M 2 : A 2 ; . . . ; M k : A k 

(Wenn Marken nicht angesprungen werden, werden wir sie 

manchmal einfach weglassen.) 

















Semantik von Goto-Programmen 

If-Anweisungen werden wie üblich interpretiert. 

Goto M springt an die entsprechende Marke des Programms. 

Halt-Anweisungen beenden Goto-Programme. (Die letzte 

Anweisung eines Programms sollte ein Halt oder ein 

unbedingter Sprung sein.) 

Wie While-Programme können auch Goto-Programme in 

unendliche Schleifen geraten. 

Goto-berechenbare Funktionen sind analog zu 

While-berechenbaren Funktionen definiert. 

While-Programme → Goto-Programme 

Jedes While-Programm kann durch ein Goto-Programm 

simuliert werden. Das heißt, jede While-berechenbare Funktion 

ist Goto-berechenbar. 

Eine While-Schleife 

While x ≠ 0 Do P End 

kann simuliert werden durch 

M 1 : If x = 0 Then Goto M 2 ; 

P; 

Goto M 1 ; 

M 2 : . . . 

















Auch die – nicht ganz so offensichtliche – Umkehrung gilt: 

Goto-Programme → While-Programme 

Jedes Goto-Programm kann durch ein While-Programm 

simuliert werden. Das heißt, jede Goto-berechenbare Funktion ist 

While-berechenbar. 

Das ist einer der Gründe dafür, warum in modernen 

Programmiersprachen im allgemeinen keine Gotos verwendet 

werden. 

Weitere Gründe: 

Edsger W. Dijkstra: “Go To Statement Considered Harmful” 

(1968) 

(siehe http://www.acm.org/classics/oct95/) 

Spaghetti-Code bei Verwendung von Gotos 


Die Simulation von Goto-Programmen durch While-Programme 

verwendet nur eine While-Schleife. 

Das bedeutet: ein While-Programm kann durch Umwandlung in 

ein Goto-Programm und Zurückumwandlung in ein äquivalentes 

While-Programm mit einer While-Schleife umgewandelt werden. 

Dabei muss man allerdings annehmen, dass die Sprache auch 

If-Anweisungen zur Verfügung stellt. 

(Kleenesche Normalform für While-Programme) 





 












Welche Transformationen haben wir bisher durchgeführt? 

Goto While TM 

Loop 

Um die Äquivalenz von Goto-, While- und 

Turing-Berechenbarkeit zu zeigen, fehlt uns noch die Richtung 

TM → Goto-Programme 

Jede Turingmaschine kann durch ein Goto-Programm simuliert 

werden. Das heißt, jede Turing-berechenbare Funktion ist 

Goto-berechenbar. 

TM → Goto 

















Beweisidee: 

Sei k die Anzahl der Zustände und m die Anzahl der Bandsymbole 

der Turingmaschine. 

Eine Konfiguration a 1 . . . a p zb 1 . . . b q wird in drei Variablen x 1 , x 2 , 

x 3 gespeichert. Dabei enthält: 

x 1 den Bandinhalt vor dem Kopf, dabei wird a 1 . . . a p als Zahl 

zur Basis b = m + 1 interpretiert. Also: 

x 1 = 

p∑ 

pos(a i ) · b p−i , 

i=1 

wobei pos(a i ) die Position des Bandsymbols a i im 

Bandalphabet ist (Bandsymbole sind von 1 bis m 

durchnummeriert). 


x 2 den Bandinhalt ab dem Kopf, dabei wird b q . . . b 1 (in 

umgekehrter Reihenfolge!) als Zahl zur Basis b interpretiert. 

x 3 ist eine Zahl zwischen 1 und k und repräsentiert den 

aktuellen Zustand. 
















Simulation von Turingmaschinenoperationen: 

Kopf liest Zeichen: y := x 2 Mod b 

Zeichen a j aufs Band schreiben: x 2 := (x 2 Div b) · b + j 

(falls a j das j-te Bandsymbol ist) 

Kopf nach links: x 2 := x 2 · b + (x 1 Mod b); x 1 := x 1 Div b 

Kopf nach rechts: x 1 := x 1 · b + (x 2 Mod b); x 2 := x 2 Div b 

Das zu erstellende Goto-Programm besteht nun aus folgenden 

drei Programmteilen: 

1. Teil: Die in den Variablen befindlichen Parameter werden 

in Binärdarstellung transformiert und es wird eine 

Darstellung der Startkonfiguration mit Hilfe von x 1 , 

x 2 , x 3 erzeugt. 

2. Teil: Die Turingmaschinenberechnung wird durch 

Manipulation von x 1 , x 2 , x 3 simuliert. 

















Schema: 

M 2 : y := x 2 Mod b; (Zeichen einlesen) 

If (x 3 = 1) And (y = 1) Then Goto M 1,1 ; 

If (x 3 = 1) And (y = 2) Then Goto M 1,2 ; 

. . . 

M 1,1 : P 1,1 ; (Aktion δ(z 1 , a 1 ) ausführen) 

Goto M 2 ; 

M 1,2 : P 1,2 ; (Aktion δ(z 1 , a 2 ) ausführen) 

Goto M 2 ; 

. . . 

Im Programmteil P i,j wird die durch δ(z i , a j ) 

beschriebene Aktion ausgeführt, wobei z i der i-te 

Zustand und a j das j-te Bandsymbol ist. 

Dabei wird – wie oben beschrieben – das Zeichen, 

auf dem der Kopf steht, überschrieben und bei 

Bedarf ein Schritt nach links oder rechts ausgeführt. 

3. Teil: Die Endkonfiguration gespeichert in x 1 , x 2 , x 3 wird in 

die eigentliche Ausgabe in der Variablen x 0 überführt. 

Bemerkung: Nur der 2. Teil hängt von der Überführungsfunktion δ 

ab. 















Primitiv rekursive und µ-rekursive Funktionen 

Loop-, While- und Goto-Programme sind vereinfachte 

imperative Programme und stehen für imperative 

Programmiersprachen, bei denen Programme als Folgen von 

Befehlen aufgefaßt werden. 

Parallel dazu gibt es jedoch auch funktionale Programme, deren 

Hauptbestandteil die Definition rekursiver Funktionen ist. Es gibt 

auch Berechnungsbegriffe, die sich eher an funktionalen 

Programmen orientieren. 

Zum Beispiel: 

λ-Kalkül (Alonzo Church, 1932) 

µ-rekursive und primitiv rekursive Funktionen (werden hier in 

der Vorlesung betrachtet) 









Primitiv rekursive Funktionen (Definition, Fortsetzung) 

Jede Funktion f , die durch primitive Rekursion aus primitiv 

rekursiven Funktionen entsteht ist primitiv rekursiv. 

Das heißt f : N k+1 

0 

→ N 0 muss folgende Gleichungen erfüllen 

(für primitiv rekursive Funktionen g : N k 0 → N 0, 

h : N k+2 

0 

→ N 0 ): 


Wir definieren nun Klassen von Funktionen der Form f : N k 0 → N 0. 

Primitiv rekursive Funktionen (Definition) 

Die Klasse der primitiv rekursiven Funktionen ist induktiv wie folgt 

definiert: 

Alle konstanten Funktionen der Form c : N 0 → N 0 mit 

c(n) = m (für ein festes m ∈ N 0 ) sind primitiv rekursiv. 

(Auch 0-stellige konstante Funktionen sind zugelassen.) 

Alle Projektionen der Form π k i 

: N k 0 → N 0 mit 

π k i (n 1, . . . , n k ) = n i sind primitiv rekursiv. 

Die Nachfolgerfunktion s : N 0 → N 0 mit s(n) = n + 1 ist 

primitiv rekursiv. 

Jede Funktion, die durch Einsetzung/Komposition von 

primitiv rekursiven Funktionen entsteht, ist primitiv rekursiv. 









Beispiele für primitiv rekursive Funktionen: 

Additionsfunktion 

Die Funktion add : N 2 0 → N 0 mit add(n, m) = n + m ist primitiv 

rekursiv. 

f (0, n 1 , . . . , n k ) = g(n 1 , . . . , n k ) 

f (n + 1, n 1 , . . . , n k ) = h(f (n, n 1 , . . . , n k ), n, n 1 , . . . , n k ) 

Anschaulich: bei primitiver Rekursion wird die Definition von 

f (n + 1, . . . ) zurückgeführt auf f (n, . . . ). Das bedeutet, dass 

primitive Rekursion immer terminiert. 

Berechnungsmodell analog zu Loop-Programmen. 



















Multiplikationsfunktion 

Die Funktion mult : N 2 0 → N 0 mit mult(n, m) = n · m ist primitiv 

rekursiv. 

Dekrementierung 

Die Funktion dec : N 0 → N 0 mit dec(n) = n − 1 (modifizierte 

Subtraktion) ist primitiv rekursiv. 

















Primitiv rekursive Funktionen ↔ Loop-berechenbare Funktionen 

Die Klasse der primitiv rekursiven Funktionen stimmt genau mit 

der Klasse der Loop-berechenbaren Funktionen überein. 

(Ohne Beweis) 

Wir definieren nun ein weitere Klasse, die gleichmächtig zu 

While-Programmen, Goto-Programmen und Turingmaschinen 

ist. 

µ-rekursive Funktionen (Definition) 

Die µ-rekursiven Funktionen verwenden die gleichen 

Basisfunktionen (konstante Funktionen, Projektionen, 

Nachfolgerfunktion) und Operatoren (Einsetzung, primitive 

Rekursion) wie primitiv rekursive Funktionen. 

Zusätzlich darf noch der µ-Operator verwendet werden. 

















µ-rekursive Funktionen (Definition, Fortsetzung) 

Der µ-Operator verwandelt eine Funktion f : N k+1 

0 

→ N 0 in eine 

Funktion µf : N k 0 → N 0 mit 

µf (x 1 , . . . , x k ) = min{n | f (n, x 1 , . . . , x k ) = 0 

Dabei gilt min ∅ = undefiniert. 

und für alle m < n ist f (m, x 1 , . . . , x k ) 

definiert} 

Intuitive Berechnung von µf (x 1 , . . . , x k ): 

Berechne f (0, x 1 , . . . , x k ), f (1, x 1 , . . . , x k ), . . . 

Falls für ein n gilt f (n, x 1 , . . . , x k ) = 0, so gib n als 

Funktionswert zurück. 

Falls f (m, x 1 , . . . , x k ) undefiniert ist (ohne, dass vorher einmal 

der Funktionswert gleich 0 war), oder der Funktionswert 0 nie 

erreicht wird: die intuitive Berechnung terminiert nicht. 

In diesem Fall gilt auch µf (x 1 , . . . , x k ) = min ∅ = undefiniert. 

Analogie zu While-Programmen: es ist nicht klar, ob die 

Abbruchbedingung jemals erfüllt wird. 









Durch den µ-Operator können nun auch echt partielle Funktionen 

erzeugt werden. 

Überall undefinierte Funktion 

Die Funktion Ω: N 0 → N 0 mit Ω(n) = undefiniert für alle n ∈ N 0 

ist µ-rekursiv. 

Verwende die 2-stellige Funktion f : N 2 0 → N 0 mit f (x, y) = 1 für 

alle x, y. Es gilt f = k ◦ π1 2 , wobei k die konstante 1-stellige 

Funktion ist, die alles auf 1 abbildet. 

Dann gilt Ω = µf . 










Weiteres Beispiel: 

Wurzelfunktion 

Die Funktion sqrt : N 0 → N 0 mit sqrt(n) = ⌈ √ n⌉ ist µ-rekursiv. 

(Dabei rundet ⌈. . . ⌉ eine reelle Zahl auf die nächstgrößere (oder 

gleiche) ganze Zahl auf.) 

Sei f (m, n) = n − m · m. (Die Multiplikationsfunktion ist primitiv 

rekursiv und die Subtraktionsfunktion kann durch iterierte 

Anwendung der Dekrementierungsfunktion erhalten werden.) 

Dann gilt sqrt = µf . 

Diese Funktion ist jedoch auch primitiv rekursiv. Intuition: bei 

Berechnung von sqrt(n) sind immer höchstens n Iterationen 

notwendig.) 
















Die Klasse der µ-rekursiven Funktionen stimmt genau mit der 

Klasse der While-(Goto-, Turing-)berechenbaren Funktionen 

überein. 

(Ohne Beweis) 

Totale, nicht Loop-berechenbare Funktionen 

Es gibt totale (Turing-)berechenbare Funktionen, die nicht 

Loop-berechenbar sind. 

Wir zeigen die Existenz solcher Funktionen durch einen 

Diagonalisierungsbeweis. 

















Diagonalisierungsbeweis: 

1. Schritt: Wir sehen Loop-Programme als Wörter über einem 

endlichen Alphabet Σ (bestehend aus den Zeichen :=, +, −, 

Loop, x 0 , x 1 , . . . ) an. Damit kann man sie der Länge nach und 

alphabetisch anordnen und erhält eine Aufzählung aller 

Loop-Programme. 

2. Schritt: Die Funktion p, die einer natürlichen Zahl n das n-te 

Loop-Programm in dieser Aufzählung zuordnet, ist berechenbar. 

Beispielsweise kann man nacheinander alle Wörter aus Σ ∗ 

alphabetisch geordnet aufzählen, überprüfen, ob sie gültige 

Loop-Programme sind und das n-te gültige Programm ausgeben. 

3. Schritt: Wir definieren eine Funktion g : N 0 → N 0 , deren 

Funktionswert bei Eingabe von n folgendermaßen bestimmt wird: 

Das Loop-Programm P = p(n) wird mit n als Eingabe, d.h., 

n in der Variablen x 1 , alle anderen Variablen mit 0 belegt, 

gestartet. 

Der bei Terminierung in der Variablen x 0 befindliche Wert 

wird um eins inkrementiert und ist dann der Funktionswert 

g(n). Das heißt g(n) = P(n) + 1 (wobei P(n) der Wert in x 0 

bei Terminierung ist). 

Diese Funktion ist (Turing-)berechenbar und da jedes 

Loop-Programm terminiert, ist sie auch total. 

















4. Schritt: Wir zeigen nun, dass g nicht Loop-berechenbar sein 

kann. Angenommen, es gibt ein Loop-Programm P, das g 

berechnet. Sei i der Index von P in der Aufzählung, d.h., P = p(i). 

Es gilt aufgrund der Wahl von P und der Definition von g: 

Das ist jedoch ein Widerspruch! 

P(i) = g(i) = P(i) + 1 

Bemerkung: 

Dieser Beweis funktioniert auch für jedes andere 

Berechnungsmodell, das nur totale Funktionen berechnet und 

dessen syntaktisch korrekte Programme/Maschinen systematisch 

aufgezählt werden können. (Man sagt auch, dass die Menge der 

Programme rekursiv aufzählbar ist, dazu später mehr). 

D.h., es ist nicht möglich, ein sinnvolles Berechnungsmodell zu 

definieren, das genau die totalen berechenbaren Funktionen 

beschreibt. 

















Ein klassisches Beispiel für eine totale 

Turing-berechenbare/µ-rekursive Funktion, die jedoch nicht 

primitiv rekursiv ist, ist die sogenannte Ackermannfunktion. 

Ackermannfunktion a: N 2 0 → N 0 

a(0, y) = y + 1 

a(x, 0) = a(x − 1, 1), falls x > 0 

a(x, y) = a(x − 1, a(x, y − 1)), falls x, y > 0 

Diese Funktion ist Turing-berechenbar und man kann auch 

nachweisen, dass sie immer einen definierten Wert zurückgibt 

(d.h., die Rekursion terminiert). Daher ist diese Funktion total. 

Wertetabelle der Ackermannfunktion für kleine Werte: 

y = 0 1 2 3 4 . . . a(x, y) 

x = 0 1 2 3 4 5 . . . y + 1 

x = 1 2 3 4 5 6 . . . y + 2 

x = 2 3 5 7 9 11 . . . 2y + 3 

x = 3 5 13 29 61 125 . . . 2 y+3 − 3 

x = 4 13 65533 > 10 19727 . .2 

2. 

2} {{ } −3 

y + 3 Zweier 

. . . 

















Ackermannfunktion (Satz) 

Die Ackermannfunktion ist Turing-berechenbar, aber nicht primitiv 

rekursiv bzw. nicht Loop-berechenbar. 

(Ohne Beweis) 

Intuition: 

1 Die Ackermannfunktion ist intuitiv berechenbar und damit 

auch Turing-berechenbar. 

2 Die Ackermannfunktion wächst stärker als jede primitiv 

rekursive Funktion. 

Worum geht es in diesem Abschnitt? 

Zunächst einmal definieren wir formal den Begriff 

Entscheidbarkeit. Was bedeutet es überhaupt, dass ein 

Problem entscheidbar ist? 

Dann kommen wir zum Begriff Semi-Entscheidbarkeit. Hier 

wird erlaubt, dass das Entscheidungsverfahren bei einer 

negativen Antwort nicht terminiert und keine Antwort liefert. 

Anschließend geht es um negative Resultate: wie kann man 

zeigen, dass ein Problem nicht entscheidbar ist? 

Entscheidbarkeit 
















Entscheidbarkeit (Definition) 

Eine Sprache A ⊆ Σ ∗ heißt entscheidbar, falls die charakteristische 

Funktion von A, nämlich χ A : Σ ∗ → {0, 1} mit 

{ 1 falls w ∈ A 

χ A (w) = 

0 falls w ∉ A 

berechenbar ist. 

Eine Sprache, die nicht entscheidbar ist, heißt unentscheidbar. 

Intuitiv: eine Sprache A ist entscheidbar, wenn es eine Maschine 

M A gibt, die sich bei Eingabe von w ∈ Σ ∗ folgendermaßen verhält: 

w M A 

Ja (Ausgabe 1, falls w ∈ A) 

Nein (Ausgabe 0, falls w ∉ A) 

Bei jeder Eingabe rechnet die Maschine endliche Zeit und gibt 

dann entweder “Ja” (falls w ∈ A) oder “Nein” (falls w ∉ A) aus. 
















Bei Semi-Entscheidbarkeit erlaubt man, dass die charakteristische 

Funktion im negativen Fall undefiniert ist. Bei konkreten 

Berechnungsmodellen entspricht das der Nicht-Terminierung. 

Semi-Entscheidbarkeit (Definition) 

Eine Sprache A ⊆ Σ ∗ heißt semi-entscheidbar, falls die “halbe” 

charakteristische Funktion von A, nämlich χ ′ A : Σ∗ → {0, 1} mit 

berechenbar ist. 


{ 

χ ′ 1 

A (w) = undefiniert 




falls w ∈ A 

falls w ∉ A 





Semi-Entscheidbarkeit und Chomsky-0-Sprachen 

Eine Sprache A ist semi-entscheidbar genau dann, wenn sie vom 

Typ-0 ist. 

Beweisidee: Die Chomsky-0-Sprachen sind genau die Sprachen, die 

von einer Turingmaschine akzeptiert werden. 

Turingmaschinen, die eine “halbe” charakteristische Funktion 

berechnen, akzeptieren auch die entsprechende Sprache, da sie 

nach Schreiben der 1 in einen Endzustand übergehen. 

Eine (deterministische) Turingmaschine, die eine Sprache 

akzeptiert, kann leicht in eine Turingmaschine umgewandelt 

werden, die die “halbe” charakteristische Funktion berechnet, 

indem sie beim Übergang in einen Endzustand das Band löscht 

und eine 1 schreibt. 



Intuitiv: eine Sprache A ist semi-entscheidbar, wenn es eine 

Maschine M A gibt, die sich bei Eingabe von w ∈ Σ ∗ 

folgendermaßen verhält: 

w M A 

Ja (Ausgabe 1, falls w ∈ A) 

??? (Nicht-Terminierung, falls w ∉ A) 

Bei jeder Eingabe rechnet die Maschine und gibt – falls w ∈ A gilt 

– nach endlicher Zeit “Ja” aus. Falls w ∉ A gilt, so terminiert die 

Maschine nie. 

Das heißt, man kann sich nie sicher sein, ob nicht doch irgendwann 

“Ja” ausgegeben wird, da die Antwortzeit der Maschine nicht 

beschränkt ist. 





Zur Erinnerung: die Chomsky-Hierarchie 




kontextfreie Sprachen 


reguläre Sprachen 






















Bemerkungen: 

Im Zusammenhang mit Fragestellungen der Entscheidbarkeit 

werden Sprachen oft auch als Probleme bezeichnet. 

Auch wenn charakteristische Funktionen Wörter als 

Argumente haben, kann man sie leicht als Funktionen über 

natürlichen Zahlen auffassen und so mit While- bzw. 

Goto-Programmen berechnen. Jedes Wort aus Σ ∗ kann als 

Zahl zur Basis b aufgefasst werden, wobei b > |Σ|. 

(Siehe auch die Umwandlung “Turingmaschinen → 

Goto-Programme”.) 

Außerdem: Wir werden als Probleme im folgenden auch 

Teilmengen von N 0 bzw. N k 0 betrachten. Denn jede natürliche 

Zahl kann in Binärkodierung als Wort über Σ = {0, 1} 

betrachtet werden. 









Unentscheidbarkeit des allgemeinen Wortproblems (Satz) 

Falls es eine Grammatik G gibt, für die das (spezielle) 

Wortproblem L(G) unentscheidbar ist, so ist auch das allgemeine 

Wortproblem unentscheidbar. 

Beweis: Sei G eine Grammatik, für die das Wortproblem L(G) 

unentscheidbar ist. Falls das allgemeine Wortproblem A 

entscheidbar wäre, so wäre auch L(G) entscheidbar. Für ein 

gegebenes Wort w müßte man dann nur überprüfen, ob 

(w, G) ∈ A gilt. Widerspruch! 



Typische Beispiele für Probleme: 

Beispiel 1: das (spezielle) Wortproblem 

Gegeben sei eine feste Chomsky-Grammatik G und das Problem sei 

A = L(G). Wir wissen bereits, dass A entscheidbar ist, falls G eine 

Chomsky-1-Grammatik ist. Außerdem gibt es Grammatiken, für die 

L(G) nicht entscheidbar ist (noch ohne Beweis). 

Beispiel 2: das allgemeine Wortproblem 

Das allgemeine Wortproblem ist die Menge 

A = {(w, G) | w ∈ L(G), G Chomsky-Grammatik über 

dem Alphabet Σ}, 

wobei die Paare (w, G) geeignet als Zeichenketten kodiert werden 

müssen. 









Das heißt, aus einer Maschine zur Lösung des allgemeinen 

Wortproblems könnte man eine Maschine zur Lösung eines 

(speziellen) Wortproblems bauen. Da es letztere aber nicht für alle 

Grammatiken G gibt, kann es auch erstere nicht geben. 

w 

G 

Maschine für 

allgemeines 

Wortproblem 

Maschine für (spezielles) Wortproblem 

Ja 

Nein 

Argumentationen dieser Art (“wenn es ein Verfahren für A gibt, 

dann kann man daraus ein Verfahren für B konstruieren”) 

bezeichnet man als Reduktionen. Wir werden sie im folgenden 

häufiger anwenden. 
















Beispiel 3: das Schnittproblem 

Das Schnittproblem für kontextfreie Grammatiken ist die Menge 

A = {(G 1 , G 2 ) | G 1 , G 2 kontextfreie Grammatiken 

L(G 1 ) ∩ L(G 2 ) = ∅}, 

Entscheidbarkeit und Semi-Entscheidbarkeit (Satz) 

Eine Sprache A ist entscheidbar, wenn sowohl A als auch A (das 

Komplement von A) semi-entscheidbar sind. 

Das Schnittproblem ist unentscheidbar (noch ohne Beweis). 

















Rekursive Aufzählbarkeit (Definition) 

Eine Sprache A ⊆ Σ ∗ heißt rekursiv aufzählbar, falls A = ∅ oder es 

gibt eine totale und berechenbare Funktion f : N 0 → Σ ∗ mit 

Bemerkungen: 

A = {f (n) | n ∈ N 0 } = {f (0), f (1), f (2), . . . }. 

Sprechweise: die Funktion f zählt die Sprache A auf. 

Äquivalente Definition von rekursiver Aufzählbarkeit: es gibt 

eine totale, berechenbare und surjektive Funktion f : N 0 → A. 

Abzählbarkeit: der mathematische Begriff der Abzählbarkeit 

ist ganz ähnlich definiert. Nur fordert man dort nicht, dass f 

berechenbar ist. Daraus folgt: 

A rekursiv aufzählbar ⇒ A abzählbar. 


Rekursive Aufzählbarkeit und Semi-Entscheidbarkeit (Satz) 

Eine Sprache A ist rekursiv aufzählbar, genau dann, wenn sie 

semi-entscheidbar ist. 
















Rekursive Aufzählbarkeit → Semi-Entscheidbarkeit: 

Gegeben: rekursiv aufzählbare Sprache L ⊆ Σ ∗ , beschrieben 

durch eine Funktion f . 

Zu zeigen: es gibt eine Turingmaschine, die bestimmt, ob ein 

Wort w ∈ Σ ∗ in L liegt (und nicht terminiert, falls w nicht in 

L liegt). 

Lösung: Berechne f (0), f (1), f (2), . . . , solange bis w = f (i) 

für ein i gilt. In diesem Fall gibt die Turingmaschine 1 aus, 

ansonsten terminiert sie nicht. 

Semi-Entscheidbarkeit → Rekursive Aufzählbarkeit: 

Gegeben: semi-entscheidbare Sprache L ⊆ Σ ∗ , beschrieben 

durch eine Turingmaschine M, die die “halbe” 

charakteristische Funktion berechnet. 

Zu zeigen: es gibt eine weitere Turingmaschine, die eine 

Funktion f berechnet, wie sie in der Definition der rekursiven 

Aufzählbarkeit beschrieben ist. 









Lösung: Berechnung des Funktionswertes f (i). 

Verwende zwei Zähler, j und l, die zu Beginn beide auf 0 

gesetzt sind. Der Zähler l wird sukzessive erhöht und für 

jeden Wert von l wird folgendes durchgeführt: 

Simuliere die Maschine M l Schritte lang auf allen 

Wörtern der Länge kleiner gleich l. 

(Reihenfolge: zunächst Wörter der Länge 0, dann 

Länge 1, . . . , dann Länge l. Innerhalb von Wörtern 

der gleichen Länge wird die alphabetische Ordnung 

gewählt.) 

Für jedes Wort, bei dem der Wert 1 ausgegeben wird, wird der 

Zähler j um eins erhöht. Sobald i = j gilt, wird das nächste 

akzeptierte Wort als Funktionswert f (i) zurückgegeben. 



Begründung: 








Sei w ein Wort der Sprache L. Wir nehmen an, dass w die 

Länge n hat (|w| = n) und von M innerhalb von k Schritten 

akzeptiert wird. 

Dann wird w akzeptiert, wenn der Zähler l irgendwann 

max{n, k} erreicht. Daher gibt es einen Index i, bei dem w 

zurückgegeben wird. 

Bemerkung: es kann passieren, dass bestimmte Wörter mehrfach 

ausgegeben werden. Das ist nach Definition der rekursiven 

Aufzählbarkeit erlaubt. 















Halteproblem/Kodierung von Turingmaschinen 

Daraus ergibt sich, dass folgende Aussagen für eine Sprache A 

äquivalent sind. 

Semi-Entscheidbarkeit und äquivalente Begriffe 

A ist semi-entscheidbar. 

A ist rekursiv aufzählbar 

A ist vom Typ-0. 

A = T (M) für eine Turing-Maschine M. 

χ ′ A 

ist (Turing, While-, Goto-)berechenbar. 

Unser Ziel ist es nun zu zeigen, dass das sogenannte Halteproblem 

unentscheidbar ist. 

Halteproblem (informell) 

Eingabe: Turing-Maschine M mit Eingabe w. 

Ausgabe: Hält M auf w? 

Dazu werden wir jedoch zunächst genauer definieren, wie eine 

Turing-Maschine kodiert werden kann, um als Eingabe einer 

berechenbaren (charakteristischen) Funktion verwendet zu werden. 









Ziel: Kodierung von Turing-Maschinen über dem Alphabet {0, 1}. 

Annahme: alle Elemente von Γ (Bandalphabet) bzw. Z 

(Zustandsmenge) sind durchnummeriert 

Γ = {a 1 , . . . , a k } 

Z = {z 1 , . . . , z n } 

Die wichtigste Teil einer Turingmaschine ist die 

Überführungsfunktion. Diese kann folgendermaßen kodiert werden: 

Jeder δ-Regel der Form δ(z i , a j ) = (z i ′, a j ′, y) ordnen wir das Wort 

w ∈ {0, 1, #} ∗ zu, wobei 

w = ##bin(i)#bin(j)#bin(i ′ )#bin(j ′ )#bin(cod(y)). 

⎧ 

⎨ 0 falls y = L 

Dabei ist cod(y) = 1 falls y = R 

⎩ 

2 falls y = N 










Die Konkatenation aller zu δ gehörenden Wörter (zusammen mit 

der Kodierung der restlichen Komponenten) ergibt eine Kodierung 

der Turingmaschine über dem Alphabet {0, 1, #}. 

Umwandlung in Kodierung über dem Alphabet {0, 1} durch 

folgende Ersetzungen: 

0 ↦→ 00 

1 ↦→ 01 

# ↦→ 11 

Bemerkungen: Viele der Festlegungen bei dieser Kodierung sind 

hochgradig willkürlich. Es gibt viele andere Möglichkeiten, 

Turing-Maschinen zu kodieren. Wichtig ist hier nur, dass es eine 

mögliche Kodierung gibt. 















Dekodierung: Sei w ∈ {0, 1} ∗ und ̂M eine beliebige aber feste 

Turingmaschine. Mit M w bzeichnen wir die Turingmaschine, die 

die Kodierung w hat. 

Falls w nicht die Kodierung einer Turingmaschine ist, so setzen wir 

M w = ̂M. (Das ist erforderlich, damit die Dekodierungsfunktion 

total ist.) 


Damit können wir nun zwei verschiedene Varianten des 

Halteproblems definieren. 

Halteproblem 

Das (allgemeine) Halteproblem ist die Sprache 

Spzielles Halteproblem 

H = {w#x | M w angesetzt auf x hält}. 

Das spezielle Halteproblem ist die Sprache 

K = {w | M w angesetzt auf w hält}. 

Man beachte die Selbstbezüglichkeit! Hier wird eine 

Turingmaschine auf ihre eigene Kodierung angesetzt. 








Unentscheidbarkeit des Halteproblems 

Unentscheidbarkeit des Halteproblems (Satz) 

Das spezielle Halteproblem K ist nicht entscheidbar. 









(Zum Widerspruch führende) Konstruktion der Turingmaschine M ′ : 

w 

M ′ 

Endlosschleife (M ′ hält nicht) 

Ja (Ausgabe 1) 

TM M, 

die spez. Halteproblem 

löst 

Nein (Ausgabe 0) 

Ja (Ausgabe 1) 

(M ′ hält) 


Die Maschine M ′ erhält als Eingabe ihre eigene Kodierung w ′ . 

M ′ hält auf w ′ ⇒ M gibt bei Eingabe w ′ “Nein” aus ⇒ M ′ hält 

nicht auf w ′ 

M ′ hält nicht auf w ′ ⇒ M gibt bei Eingabe w ′ “Ja” aus ⇒ M ′ 

hält auf w ′ (Widerspruch!) 















Es handelt sich hierbei um einen Diagonalisierungsbeweis. Diesen 

werden wir im folgenden veranschaulichen. 

Sei w 0 , w 1 , w 2 , . . . eine Aufzählung aller Wörter aus {0, 1} ∗ , 

beispielsweise w 0 = ε, w 1 = 0, w 2 = 1, w 3 = 00, . . . 

Wir tragen in eine Tabelle folgendes ein: “Wie verhält sich M wi auf 

w j ?” Es gibt zwei Möglichkeiten: H (M wi hält) oder HN (M wi hält 

nicht). 


w 

M w 0 w 1 w 2 ... 

M w1 ... H ... ... 

M w0 H 

... 

... 

... 

... 

HN 

... 

... 

... 

M ′ = M w 

′ 

HN HN H 

w ′ 

? 

M w2 


... 
















Die konstruierte Turingmaschine M ′ und ein w ′ mit M ′ = M w ′ sind 

in die Tabelle eingetragen. 

Aufgrund der Konstruktion von M ′ : die Felder in der Diagonalen 

bedingen die Felder in der Zeile von M ′ . 

Problem: nichts passt an die Stelle des Fragezeichens! 

es kann keine Turingmaschine geben, die das Halteproblem löst. 

Semi-Entscheidbarkeit des speziellen Halteproblems (Satz) 

Das spezielle Halteproblem K ist semi-entscheidbar. 

Beweis: Berechne die “halbe” charakteristische Funktion 

χ ′ K : Σ∗ → {0, 1} wie folgt 

Bei Eingabe von w simuliere die Turingmaschine M w mit 

Eingabe w. 

Falls M w angesetzt auf w hält, so lösche das Band und 

schreibe 1. 

Ansonsten hält M w nicht und die Funktion χ ′ K 

ist an dieser 

Stelle undefiniert. 
















Ein Comic zu unentscheidbaren Probleme (aus Garey/Johnson: 

“Computers and Intractability”): 

Nicht so gut . . . 


Besser . . . 

“I can’t find an efficient algorithm. I guess I’m just too dumb.” 

“I can’t find an efficient algorithm, because no such algorithm is 

possible.” 

Reduktionen 








Reduktionen 








Wir haben nun die Unentscheidbarkeit eines Problems, des 

speziellen Halteproblems, nachgewiesen. Daraus sollen weitere 

Unentscheidbarkeitsresultate gewonnen werden. 

Dies erfolgt mit Argumentationen folgender Art: 

1 Wenn man Problem B lösen könnte, dann könnte man auch A 

lösen. (Reduktionsschritt) 

2 Daraus folgt, dass B mindestens so schwierig bzw. mindestens 

so allgemein ist wie A. (A ≤ B) 

3 Wir wissen jedoch bereits, dass A unentscheidbar ist. 

4 Also muss das mindestens so schwierige Problem B auch 

unentscheidbar sein. 

Reduktion/Reduzierbarkeit (Definition) 

Gegeben seien Sprachen A ⊆ Σ ∗ , B ⊆ Γ ∗ . Dann heißt A auf B 

reduzierbar (in Zeichen A ≤ B), falls es eine totale und 

berechenbare Funktion f : Σ ∗ → Γ ∗ gibt, so dass für alle x ∈ Σ ∗ 

gilt: 

x ∈ A ⇐⇒ f (x) ∈ B. 















Reduktionen 

Reduktionen 

Anschaulich: A ≤ B, falls man aus einer (hypothetischen) 

Maschine M B für B und einer berechenbaren Funktion f eine 

Maschine M A für A bauen kann. Das heißt, M B wird nach einer 

Vorverarbeitung der Eingabe durch f als Unterprozedur aufgerufen. 

Alternative Definition mit Hilfe der charakteristischen Funktionen: 

Für A ⊆ Σ ∗ , B ⊆ Γ ∗ gilt 

A ≤ B, 

w f 

f (w) 

M B 

M A 

Ja 

Nein 

falls es eine totale und berechenbare Funktion f : Σ ∗ → Γ ∗ gibt mit 

für alle x ∈ Σ ∗ . 

χ A (x) = χ B (f (x)) 

Reduktionen 








Reduktionen 








Reduktionen und Entscheidbarkeit 

Es sei A ≤ B. 

Falls B entscheidbar ist, dann ist auch A entscheidbar. 

Falls A unentscheidbar ist, dann ist auch B unentscheidbar. 

Kochrezept um die Unentscheidbarkeit eines Problems B zu zeigen 

Finde ein geeignetes Problem A, von dem bekannt ist, dass es 

unentscheidbar ist. 

(Bisher kennen wir nur das spezielle Halteproblem K, wir 

werden allerdings bald weitere geeignete Probleme 

kennenlernen.) 

Finde eine geeignete berechenbare Funktion f , mit Hilfe derer 

A auf B reduziert werden kann und beweise, dass sie korrekt 

ist. 

Dann folgt daraus unmittelbar, dass B unentscheidbar ist. 

















Unentscheidbarkeit des Halteproblems (Satz) 

Das (allgemeine) Halteproblem H ist nicht entscheidbar. 

Halteproblem auf leerem Band (Definition) 

Das Halteproblem auf leerem Band ist die Sprache 

H 0 = {w | M w hält angesetzt auf ein leeres Band}. 

Unentscheidbarkeit des Halteproblems auf leerem Band (Satz) 

Das Halteproblem auf leerem Band H 0 ist nicht entscheidbar. 

Satz von Rice 








Satz von Rice 








Das nächste Resultat zeigt, dass es unentscheidbar ist, ob die 

Funktion, die von einer Turingmaschine M berechnet wird, eine 

bestimmte Eigenschaft S hat. 

Das bedeutet, es gibt keine Methode, mit der man für alle 

Turingmaschinen verläßliche Aussagen über die von ihnen 

berechneten Funktionen machen kann. 

Satz von Rice 

Sei R die Klasse aller Turing-berechenbaren Funktionen und sei S 

eine beliebige Teilmenge hiervon (mit Ausnahme von S = ∅ und 

S = R). 

Dann ist die Sprache 

C(S) = {w | die von M w berechnete Funktion liegt in S} 

unentscheidbar. 















Satz von Rice 

Konsequenzen aus dem Satz von Rice: folgende Probleme sind 

unentscheidbar 

Konstante Funktion: {w | M w berechnet eine konstante Funktion} 

Identität: {w | M w berechnet die Identitätsfunktion} 

Totale Funktion: {w | M w berechnet eine totale Funktion} 

Überall undefinierte Funktion: {w | M w berechnet Ω} 

Dieses Unentscheidbarkeitsresultat bezieht sich jedoch nur auf die 

Eigenschaften der von einer Turingmaschine berechneten Funktion, 

nicht jedoch auf andere Eigenschaften einer Turingmaschine (wie 

beispielsweise die Anzahl ihrer Zustände oder das Bandalphabet). 

Satz von Rice 








Satz von Rice 

Der Satz von Rice und seine Varianten gelten natürlich auch für 

andere Berechnungsmodelle. 

Halteproblem für Goto-/While-Programme (Satz) 

Für ein gegebenes Goto-/While-Programm und Anfangswerte 

für die Variablen ist es nicht entscheidbar, ob das Programm auf 

dieser Eingabe hält. 

Beweisidee: Das Halteproblem für Turingmaschinen ist auf dieses 

Problem reduzierbar. Dazu muss nur die Turingmaschine in das 

entsprechende Goto-/While-Programm und die Eingabe der 

Maschine in die entsprechenden Variablenbelegungen übersetzt 

werden. 

(Transformation “Turingmaschine → Goto-Programm” als 

Funktion f .) 

Satz von Rice 








Es ist bereits folgendes Problem unentscheidbar: 

Halteproblem für Goto-Programme mit zwei Variablen (Satz) 

Für ein gegebenes Goto-Programm mit zwei Variablen, die beide 

mit 0 vorbelegt sind, ist es nicht entscheidbar, ob das Programm 

hält. 

(Ohne Beweis) 

Für Goto-Programme mit nur einer Variablen ist das 

Halteproblem übrigens entscheidbar, denn eine Variable kann durch 

einen Kellerautomaten simuliert werden. 

Konsequenz des Satzes von Rice auf die Verifikation von 

Programmen: Kein Programm kann automatisch die Korrektheit 

von Software überprüfen. 

Die Lage ist jedoch keineswegs hoffnungslos und es gibt 

verschiedene Möglichkeiten: 

Testen 

Mich interessiert nicht die vollständige Korrektheit von Software, 

mir reicht es aus, zu wissen, dass das Programm mit einer (relativ) 

hohen Wahrscheinlichkeit fehlerfrei ist. 

Testen: Finden/Erzeugen von Testfällen und Überprüfung des 

korrekten Verhaltens des Programms auf diesen Testfällen. 















Satz von Rice 

Satz von Rice 

Analyse durch Approximation 

Ich will ein automatisches Verfahren, das Antworten der Form “ja”, 

“nein” und “ich weiss nicht” liefert, so dass man sich auf 

“ja/nein”-Antworten immer verlassen kann. 

Analyse durch Approximation: Softwaresystem wird durch ein 

einfacheres (i.a. endliches) System überapproximiert, dann wird 

versucht, die Eigenschaft für dieses einfachere System zu beweisen. 

Die Kunst dabei ist, das Analyse-Werkzeug so zu erstellen, dass die 

Antwort “ich weiss nicht” relativ selten ist. (Schwer!) 

(Vollständige) Verifikation 

Ich habe ein hoch sicherheitskritisches Systems und will eine 

Ja/Nein-Anwort, um Sicherheit über die Korrektheit meiner 

Software zu erhalten. 

Verifikation mit Unterstützung des Benutzers: mit Hilfe eines 

Werkzeugs (z.B. Theorembeweiser) wird ein Beweis über die 

Korrektheit des Systems erstellt. (Aufwändig!) 




Universelle Turingmaschine 













Einige der Ergebnisse, die in diesem Abschnitt vorkommen, 

beruhen darauf, dass es eine Turingmaschine gibt, die eine andere 

Turingmaschine simulieren kann, wenn deren Kodierung gegeben 

ist. So eine Turingmaschine heißt auch universelle Turingmaschine 

(eine Art Turingmaschinen-Interpreter). 

Universelle Turingmaschine 

Eine Turingmaschine U heißt universelle Turingmaschine, wenn sie 

sich bei Eingabe von w#x wie die Maschine M w angesetzt auf die 

Eingabe x verhält. 

Ähnlich zur Unentscheidbarkeit von Problemen kann auch gezeigt 

werden, dass bestimmte Funktionen nicht berechenbar sind. Ein 

Beispiel dafür ist die sogenannte Busy-Beaver-Funktion. 

Busy Beaver 

Wir betrachten alle deterministischen Turing-Maschinen mit dem 

zweielementigen Bandalphabet Γ = {1, □} und n Zuständen, wobei 

der Endzustand nicht mitgezählt wird. Von diesen Maschinen 

halten einige auf dem leeren Band, andere terminieren nicht. 

Der Wert der Busy-Beaver-Funktion Σ an der Stelle n ist die 

maximale Anzahl an Einsen, die von einer Maschine mit n 

Zuständen geschrieben werden kann, die auf dem leeren Band 

terminiert. 
















Von der Busy-Beaver-Funktion Σ: N 0 → N 0 ist folgendes bekannt: 

Sie ist nicht berechenbar. 

Über die Funktionswerte weiß man folgendes: 

n Σ(n) 

1 1 

2 4 

3 6 

4 13 

5 ≥ 4098 

6 ≥ 1, 29 · 10 865 

Bereits der Funktionswert an der Stelle n = 5 ist bisher noch 

nicht genau ermittelt worden. 


Wir verwenden nun die Reduktions-Beweistechnik und zeigen die 

Unentscheidbarkeit folgender Probleme: 

Unentscheidbarkeit des Adventure-Problems (Level 4) 

Es ist unentscheidbar, ob ein gegebenes Adventure des 

Levels 4 eine Lösung besitzt. 

Postsches Korrespondenzproblem PCP 

PCP: ein kombinatorisches Problem auf Wörtern, wichtiges 

(Hilfs-)Problem, um damit die Unentscheidbarkeit anderer 

Probleme zu zeigen 

Schnittproblem für kontextfreie Grammatiken 















Adventure-Problem (Level 4) 

10 

5 6 

Adventures bestehen aus Graphen bzw. Automaten, die mit 

folgenden Symbolen markiert sind: 

1 

2 

4 

11 

12 

Drache: 

Schwert: 

Torbogen: 

Tür: 

3 

7 

9 

Fluss: 

Schlüssel: 

13 

8 

Schatz: 

14 15 16 

















Regeln: 

Die Schatz-Regel 

Man muss mindestens zwei Schätze finden. 

Tür-Regel 

Die Schlüssel sind magisch und verschwinden sofort, nachdem eine 

Tür mit ihnen geöffnet wurde. Sobald man eine Tür durchschritten 

hat, schließt sie sich sofort wieder. 

Drachen-Regel 

Unmittelbar nach der Begegnung mit einem Drachen muss man in 

einen Fluss springen, da uns der Drache in Brand stecken wird. 

Dies gilt nicht mehr, sobald man ein Schwert besitzt, mit dem man 

den Drachen vorher töten kann. 

Schwerter werden jedoch durch das Drachenblut unbenutzbar, 

sobald man einen Drachen damit getötet hat. Außerdem werden 

Drachen sofort wieder “ersetzt”. 

















Schlüssel-Regel 

Der magische Torbogen kann nur passiert werden, wenn man 

keinen Schlüssel besitzt. 

Schwert-Regel 

Ein Fluss kann nur passiert werden, wenn man kein Schwert besitzt 

(weil man sonst ertrinkt!). 

Gegeben ist ein Adventure durch eine Karte bzw. einen endlichen 

Automaten M. Das Adventure-Problem (Level 4) lautet 

folgendermaßen: 

A 4 = {M | es gibt einen Pfad von einem Anfangs- zu einem 

Endzustand von M, der alle Regeln erfüllt}. 

Dabei sollen die Automaten M in entsprechender Kodierung als 

Eingabe zur Verfügung gestellt werden. 















10 

5 6 


1 

2 

4 

11 

12 

Wir zeigen die Unentscheidbarkeit von A 4 durch Reduktion des 

Halteproblems für Goto-Programme (mit zwei Variablen x 1 , x 2 

und initialer Variablenbelegung 0) auf A 4 . 

13 

7 9 

3 

8 

14 15 16 

Annahmen: 

Um die Kodierung graphisch darstellen zu können, 

repräsentieren wir Goto-Programme durch Flussdiagramme, 

bei denen die Sprungmarken durch Pfeile ersetzt werden. 

Wir betrachten nur Zuweisungen der Form x i := x i + 1 bzw. 

x i := x i − 1 und Vergleiche mit 0 (alle anderen Zuweisungen 

bzw. Vergleiche können simuliert werden) 

















Übersetzung: Goto-Programm → Adventure 

Intuition: 

Tür- und Schlüssel-Regel: wird zur Simulation einer Variable 

x 1 benutzt (mit Inkrementierung und Nulltest). 

Drachen- und Schwert-Regel: wird zur Simulation einer 

Variable x 2 benutzt 

x 1 := x 1 + 1 

x 1 := x 1 − 1 



















yes 

x 1 = 0 

no 

x 2 := x 2 + 1 

If . . . Then. . . 

x 2 := x 2 − 1 



















yes 

x 2 = 0 

no 

Halt 

If . . . Then. . . 

Mit “Schatz” beschriftete Transitionen können auch zum Zusammenfügen 

der einzelnen Teilautomaten verwendet werden. 
















Beispiel: 

Übersetze das folgende Goto-Programm in ein Adventure durch 

Zusammensetzen der einzelnen Teil-Automaten: 

x 1 := x 1 + 1; x 1 := x 1 + 1; 

M 1 : If x 1 = 0 Then Goto M 2 ; 

x 1 := x 1 − 1; x 2 := x 2 + 1; 

Goto M 1 ; 

M 2 : Halt 

M 2 

M 1 


Goto-Programm → Adventure 

Ein Goto-Programm (bei dem alle Variablen am Anfang mit 0 

belegt werden) hält genau dann, wenn das entsprechend übersetzte 

Adventure eine Lösung hat. 

Wir können diese Kodierung daher als Reduktionsfunktion f 

auffassen und es folgt: 

Unentscheidbarkeit des Adventure-Problems (Level 4) 

Das Adventure-Problem A 4 ist unentscheidbar. 









Tag der offenen Tür 2011 an der TU München . . . 























Postsches Korrespondenzproblem 


Wir betrachten nun ein wichtiges unentscheidbares Problem, das 

dazu benutzt wird, die Unentscheidbarkeit vieler anderer Probleme 

zu zeigen: 

Postsches Korrespondenzproblem (PCP) 

Eingabe: Eine endliche Folge von Wortpaaren 

(x 1 , y 1 ), . . . , (x k , y k ) mit x i , y i ∈ Σ + . 

(Dabei ist Σ ein beliebiges Alphabet.) 

Ausgabe: Gibt es eine Folge von Indizes 

i 1 , . . . , i n ∈ {1, . . . , k}, n ≥ 1 mit x i1 . . . x in = y i1 . . . y in ? 

Beispiel 1: Löse das Postsche Korrespondenzproblem für 

x 1 = 0 x 2 = 1 x 3 = 0101 

y 1 = 010 y 2 = 101 y 3 = 01 

Eine mögliche Lösung: 3, 3, 1, 2: 

01 01 | 010 1 | 0 | 1 

01 | 01 | 010 | 1 0 1 

Eine weitere (kürzere) Lösung ist: 3, 1 

















Beispiel 2: Löse das Postsche Korrespondenzproblem für 

x 1 = 001 x 2 = 01 x 3 = 01 x 4 = 10 

y 1 = 0 y 2 = 011 y 3 = 101 y 4 = 001 

Eine kürzeste Lösung besteht bereits aus 66 Indizes: 

2, 4, 3, 4, 4, 2, 1, 2, 4, 3, 4, 3, 4, 4, 3, 4, 4, 2, 1, 4, 4, 2, 1, 3, 4, 1, 1, 3, 

4, 4, 4, 2, 1, 2, 1, 1, 1, 3, 4, 3, 4, 1, 2, 1, 4, 4, 2, 1, 4, 1, 1, 3, 4, 1, 1, 3, 

1, 1, 3, 1, 2, 1, 4, 1, 1, 3. 

An der Komplexität dieser Lösung kann man bereits die 

Schwierigkeit des Problems ablesen. 

Semi-Entscheidbarkeit des PCP (Satz) 

Das Postsche Korrespondenzproblem ist semi-entscheidbar. 

Beweisidee: 

Probiere erst alle Indexfolgen der Länge 1 aus, dann alle 

Indexfolgen der Länge 2, . . . 

Falls irgendwann eine passende Indexfolge gefunden wird, so gib 1 

aus. 
















Der erste Schritt des Unentscheidbarkeitsbeweises ist es, das 

folgende modifizierte Problem zu betrachten. 


Wir beweisen nun zwei Reduktions-Lemmata, aus denen die 

Unentscheidbarkeit des Postschen Korrespondenzproblems folgt: 

MPCP auf PCP reduzierbar (Lemma) 

MPCP ≤ PCP 

Modifiziertes PCP (MPCP) 

Eingabe: wie beim PCP. 

Ausgabe: Gibt es eine Lösung i 1 , . . . , i n des PCP mit i 1 = 1? 









Halteproblem auf MPCP reduzierbar (Lemma) 

H ≤ MPCP 








Postsches Korrespondenzproblem (Lemma) 

PCP unentscheidbar 

Das Postsche Korrespondenzproblem ist unentscheidbar. 

Beweis: Die Behauptung folgt direkt aus den beiden vorherigen 

Lemmata. Aus 

H ≤ MPCP ≤ PCP 

folgt H ≤ PCP (durch Komposition der Reduktionsabbildungen). 

Und da außerdem bekannt ist, dass H (das allgemeine 

Halteproblem) nicht entscheidbar ist, folgt daraus, dass das PCP 

nicht entscheidbar ist. 

















Bemerkungen: 

Das Postsche Korrespondenzproblem ist bereits 

unentscheidbar, wenn man sich auf das Alphabet Σ = {0, 1} 

einschränkt. 

Für unäres (einelementiges) Alphabet ist das PCP jedoch 

entscheidbar. Hier entspricht die Konkatenation von Wörtern 

der Addition von Zahlen. 

Wir werden nun das PCP dazu nutzen, um die 

Unentscheidbarkeit des Schnittproblems für kontextfreie 

Grammatiken zu zeigen. 

Zuletzt betrachten wir noch das Schnittproblem für kontextfreie 

Grammatiken 


Eingabe: zwei kontextfreie Grammatiken G 1 , G 2 . 

Ausgabe: Gilt L(G 1 ) ∩ L(G 2 ) = ∅? (D.h., es gibt kein Wort, 

das sowohl von G 1 als auch von G 2 erzeugt wird.) 

















Beweis (alternativ zum Beweis im Buch von Schöning): 

Gegeben sei ein Postsches Korrespondenzproblem 

K = ((x 1 , y 1 ), . . . , (x k , y k )) 

PCP auf Schnittproblem reduzierbar (Lemma) 

Das Postsche Korrespondenzproblem ist auf das Komplement des 

Schnittproblems für kontextfreie Grammatiken reduzierbar. 

über dem Alphabet {0, 1}. 

Betrachte zunächst folgende Grammatik G 1 : 

Dabei steht y R 

i 

S → x i Sy R 

i 

| x i $y R 

i 

für y i rückwärts. 

L(G 1 ) = {x i1 . . . x in $y R 

i n 

. . . y R 

i 1 

Betrachte jetzt folgende Grammatik G 2 : 

i = 1, . . . , k 

| i 1 , . . . , i n ∈ {1, . . . , k}} 

S → 0S0 | 1S1 | $ 

L(G 2 ) = {w$w R | w ∈ {0, 1} ∗ } 

















Zusammen: 

L(G 1 ) ∩ L(G 2 ) = {x i1 . . . x in $yi R 

n 

. . . yi R 

1 

| 

i 1 , . . . , i n ∈ {1, . . . , k}, 

x i1 . . . x in = y i1 . . . y in } 

Schnittproblem unentscheidbar 

Das Schnittproblem für kontextfreie Grammatiken ist 

unentscheidbar. 

Das heißt, der Schnitt der Sprachen ist nicht-leer, genau dann, 

wenn das PCP eine Lösung hat. 












Spezielles Wortproblem 





Bemerkungen: 

Das Komplement des Schnittproblems ist semi-entscheidbar: 

man leitet mit beiden Grammatiken parallel Wörter ab und 

bricht ab, sobald ein Wort von beiden Grammatiken abgeleitet 

wurde. 

Daraus folgt auch, dass das Schnittproblem selbst nicht 

semi-entscheidbar sein kann. Ansonsten wäre es nämlich 

entscheidbar. 

Außer dem Schnittproblem sind noch einige andere verwandte 

Probleme für kontextfreie Sprachen unentscheidbar: Inklusion, 

Gleichheit, Mehrdeutigkeit, Regularität, . . . (siehe Schöning). 

Wir haben nun von mehreren semi-entscheidbaren Problemen 

(Halteproblem, PCP, etc.) gezeigt, dass sie unentscheidbar sind. 

Damit haben wir Typ-0-Sprachen identifiziert, deren Wortproblem 

unentscheidbar ist. (Unentscheidbarkeit des speziellen 

Wortproblems.) 

Es gibt natürlich auch Typ-0-Sprachen mit einem entscheidbaren 

Wortproblem. Beispielsweise, wenn es sich um Typ-1-, Typ-2- oder 

Typ-3-Sprachen handelt. 















Typ-1-Sprachen und Entscheidbarkeit 

Typ-1-Sprachen und Entscheidbarkeit (Zusammenfassung) 

Jede Typ-1-Sprache ist entscheidbar. 

(Aufgrund der Bedingung |linke Seite| ≤ |rechte Seite| kann 

man die Wörter, die von der Grammatik erzeugt werden, in 

aufsteigender Länge aufzählen. Stopp, sobald die Wörter 

länger als das gesuchte werden.) 

Es gibt entscheidbare Sprachen, die nicht vom Typ 1 sind. 


Konstruktion einer entscheidbaren Sprache, die nicht vom Typ 1 ist 

(mittels Diagonalisierung): 

Betrachte ein Alphabet Σ, in dem sich Grammatiken kodieren 

lassen. Wir bezeichnen die Kodierung einer Grammatik G mit 

cod(G). 

Sei E die Menge der Kodierungen aller Grammatiken G, die 

folgende Eigenschaften erfüllen: 

G erzeugt Wörter über dem Alphabet Σ 

G ist vom Typ 1 (kontextsensitiv) 

cod(G) ∉ L(G) 

Die Sprache E ist entscheidbar. Die letzte Bedingung ist 

überprüfbar, da das Wortproblem für Typ-1-Sprachen 

entscheidbar ist. 

















Angenommen, E ist vom Typ 1. Dann gibt es eine 

Typ-1-Grammatik G ′ mit L(G ′ ) = E. 

Die Frage ist jetzt, ob die Kodierung von G ′ in E liegt. Da die 

ersten beiden Bedingungen auf jeden Fall erfüllt sind, hängt 

dies nur noch von der letzten Bedingung ab. 

cod(G ′ ) ∈ E ⇐⇒ cod(G ′ ) ∉ L(G ′ ) ⇐⇒ cod(G ′ ) ∉ E. 

Die letzte Äquivalenz gilt wegen L(G ′ ) = E. 

Damit ergibt sich ein Widerspruch und E kann nicht vom 

Typ 1 sein. 

Bemerkungen: 

Bei diesem Resultat gibt es eine Analogie zu der Tatsache, 

dass es totale und berechenbare Funktionen gibt, die nicht 

Loop-berechenbar sind. 

Jeder andere Versuch, syntaktisch eine Klasse von 

Grammatiken zu definieren, die genau die entscheidbaren 

Sprachen erzeugen, muss scheitern. In diesem Fall wäre ein 

analoger Diagonalisierungsbeweis möglich. 
















Damit ergibt sich folgende Hierarchie in Bezug auf 

semi-entscheidbare Sprachen (= Typ 0), Typ-1-Sprachen und 

entscheidbare Sprachen: 




Entscheidbare Sprachen 



Äquivalenzproblem für Turingmaschinen 

Wir haben bereits ein Problem kennengelernt, das nicht 

semi-entscheidbar ist: das Schnittproblem für kontextfreie 

Sprachen. Allerdings ist das Komplement dieses Problems 

semi-entscheidbar. 

Es gibt allerdings sogar noch schwerere Probleme, die nicht 

semi-entscheidbar sind und deren Komplement auch nicht 

semi-entscheidbar ist. Beispielsweise folgendes Problem: 

Äquivalenzproblem für Turingmaschinen 

Eingabe: Zwei Turingmaschinen M 1 , M 2 

Ausgabe: Berechnen M 1 , M 2 dieselbe Funktion? 

Beweis: Reduktion vom Satz von Rice. 

Logik-Probleme 
















Unerfüllbarkeit für Formeln der Prädikatenlogik 1. Stufe 

Das Problem, zu entscheiden, ob eine gegebene Formel F der 

Prädikatenlogik 1. Stufe unerfüllbar ist, ist unentscheidbar. Es ist 

jedoch noch semi-entscheidbar (z.B. mit Hilfe des 

Resolutionskalküls). 

Das gleiche gilt für das Gültigkeitsproblem. 

Prädikatenlogik 1. Stufe: die einfachste Form der Prädikatenlogik; 

man darf über Elemente quantifizieren (∀x, ∃x), nicht jedoch über 

Mengen oder Relationen. 

Das Unerfüllbarkeits- bzw. Gültigkeitsproblem für Logiken höherer 

Stufe (beispielsweise für die Prädikatenlogik 2. Stufe, bei der 

Quantifikation über Relationen erlaubt ist), ist nicht mehr 

semi-entscheidbar. 

Der Beweis benutzt die Tatsache, dass man mit Hilfe dieser 

Logiken die natürlichen Zahlen axiomatisieren und damit Aussagen 

über arithmetische Ausdrücken formulieren kann, etwas, das mit 

Hilfe der Prädikatenlogik 1. Stufe nicht ohne weiteres möglich ist 

(da man darin das Induktionsaxiom nicht ausdrücken kann). 
















Daraus folgt auch, dass solche Logiken höherer Stufe keinen Kalkül 

haben können. Denn aus einem Kalkül, der es ermöglicht, alle 

wahren Formeln abzuleiten, kann man immer ein 

Semi-Entscheidungsverfahren gewinnen. 

Die Nicht-Existenz eines solchen (vollständigen) Kalküls für die 

Arithmetik ist die Aussage des (Ersten) Gödelschen 

Unvollständigkeitssatzes (1931). Für die Mathematik bedeutet das: 

“Es gibt wahre Aussagen, die nicht beweisbar sind.” 

Unterhaltsame Lektüre zu diesem Thema: 

Douglas R. Hofstadter: Gödel, Escher, Bach: An Eternal 

Golden Braid 

In deutscher Übersetzung: Douglas R. Hofstadter: Gödel, 

Escher, Bach: Ein endloses geflochtenes Band 




Diophantische Gleichungen 





Problem: Lösen diophantischer Gleichungen 

Eingabe: Eine diophantische Gleichung 

Ausgabe: Hat diese Gleichung eine Lösung in den ganzen 

Zahlen? 

Alternative Fragestellung: Hat diese Gleichung eine Lösung in den 

natürlichen Zahlen? 

Unentscheidbarkeit des Lösens diophantischer Gleichungen 

Es gibt kein allgemeines Verfahren, um diophantische Gleichungen 

zu lösen. D.h., das entsprechende Problem ist unentscheidbar. 

(Matiyasevich, 1970) 

(Ohne Beweis) 



Wir beschäftigen uns nun mit dem Lösen diophantischer 

Gleichungen (auch bekannt als Hilberts 10. Problem). 

Diophantische Gleichung 

Eine diophantische Gleichung ist eine Gleichung der Form 

p(x 1 , . . . , x n ) = 0 

Wobei p(x 1 , . . . , x n ) ein Polynom in den Variablen x 1 , . . . , x n mit 

ganzzahligen Koeffizienten ist. 

Beispiele: 

3x − 4y − 1 = 0 

2x − 4y − 1 = 0 

x 2 − 1 = 0 





Bemerkungen: 

xy − 2y 2 − 2 = 0 

x 2 + y 2 − z 2 = 0 

x 3 + y 3 − z 3 = 0 





Eine der berühmtesten Klassen von diophantischen 

Gleichungen ist x n + y n = z n . Nach einem Result von Wiles 

von 1995 hat keine solche Gleichung für n > 2 eine Lösung in 

den natürlichen Zahlen (ohne die Null). 

(Beweis des letzten Satzes von Fermat) 

Für bestimmte Klassen von diophantischen Gleichungen gibt 

es Lösungsverfahren: 

Für eine Gleichung vom Typ x n + y n = z n mit n > 2 ist 

die Ausgabe der Algorithmus immer “nein” (= keine 

Lösung). 

Lineare diophantische Gleichungen der Form 

a 1 x 1 + · · · + a n x n = b haben ein Lösungsverfahren 

( erweiterter euklidischer Algorithmus). 














Abschlusseigenschaften 


Abgeschlossenheit (Definition) 

Gegeben sei eine Menge M und ein binärer Operator 

⊗: M × M → M. 

Man sagt, eine Menge M ′ ⊆ M ist unter ⊗ abgeschlossen, wenn 

für zwei beliebige Elemente m 1 , m 2 ∈ M ′ gilt: m 1 ⊗ m 2 ∈ M ′ . 

Uns interessieren hier vor allem folgende Operatoren: Komplement, 

Schnitt, Vereinigung 

Entscheidbare Sprachen: Abschluss unter Komplement 

Die entscheidbaren Sprachen sind unter Komplement 

abgeschlossen. D.h., wenn L entscheidbar ist, dann ist auch Σ ∗ \L 

entscheidbar. (Dabei ist Σ das Alphabet, über dem L definiert ist.) 

Semi-entscheidbare Sprachen: kein Abschluss unter Komplement 

Die semi-entscheidbaren Sprachen sind nicht unter Komplement 

abgeschlossen. 












Einführung: Komplexitätstheorie 


Komplexitätsklassen 

NP-Vollständigkeit 

(Semi-)entscheidbare Sprachen: Abschluss unter Schnitt 

Die entscheidbaren Sprachen sind unter Schnitt abgeschlossen. 

D.h., wenn L 1 , L 2 entscheidbar sind, dann ist auch L 1 ∩ L 2 

entscheidbar. 

Das gleiche gilt für die semi-entscheidbaren Sprachen. 

(Semi-)entscheidbare Sprachen: Abschluss unter Vereinigung 

Die entscheidbaren Sprachen sind unter Vereinigung abgeschlossen. 

D.h., wenn L 1 , L 2 entscheidbar sind, dann ist auch L 1 ∪ L 2 

entscheidbar. 

Das gleiche gilt für die semi-entscheidbaren Sprachen. 

Nach der Betrachtung von Berechnungen, die beliebig viel Platz 

und Zeit beanspruchen dürfen, betrachten wir jetzt 

Turingmaschinen mit eingeschränkten Resourcen. 

Dabei interessiert uns vor allem die Anzahl der Schritte, die eine 

Turingmaschine braucht, um ein Problem zu lösen. 














Beispiel 1: Travelling Salesman 

Ist der kürzeste Weg, der alle Knoten besucht und wieder zum 

Ausgangsort zurückkehrt, maximal so lang wie d? 

4 

2,5 

3 

2 

1,5 

1 

8 

1,5 

1,5 

1 

5 

1 

2 

1,5 

2 

2 

3 

6 

3 

9 

Ist es wirklich nötig, 

alle kürzeren Touren 

auszuprobieren oder 

gibt es ein effizienteres 

Verfahren? 


Beispiel 2: Tourenplanungsproblem 

Gegeben ist: 

Ein Graph (= Wegenetz) wie beim 

Travelling-Salesman-Problem. 

Jedem Knoten ist ein Gewicht (= abzuholende Ladung) 

zugeordnet. 

Eine Menge von Lastwagen mit Ladebeschränkung. 

Frage: Kann man den Lastwagen Touren zuordnen, so dass die 

Ladebeschränkungen eingehalten werden, und die Gesamtstrecke 

kleiner als d bleibt? 

7 

2 













3000 kg 

2500 kg 

4 

3 

2 

1,5 

1 

1,5 

1,5 

5 

2 

1 Depot 

1,5 

2 

2 

3 

6 

2000 kg 

3 

1000 kg 

9 

1 

2 

3 

5 t 

5 t 

10 t 


Offensichtlich ist sowohl das Travelling-Salesman- als auch das 

Tourenplanungs-Problem entscheidbar (alle möglichen Touren 

durchprobieren!). 

Wir werden jedoch zeigen, dass sie mit zu den “schwersten” 

Problemen in der Klasse NP gehören: sie sind NP-vollständig. 

(NP = Klasse von Problemen, die von nicht-deterministischen 

Turingmaschinen mit polynomialer Laufzeitbeschränkung 

akzeptiert werden können) 

4000 kg 

7 

2,5 

2 

8 

1000 kg 

1 

2000 kg 

4000 kg 5 t 

4 

Eine der wichtigsten offenen Fragen in der theoretischen Informatik 

ist, ob diese Probleme auch von einer deterministischen 

Turingmaschine in polynomialer Laufzeit gelöst werden können (es 

wird allgemein erwartet, dass dies nicht möglich ist). Es handelt 

sich hierbei um das sogenannte P ≠ NP-Problem. 















Wir definieren zunächst die Klasse aller Sprachen, die von einer 

deterministischen Turingmaschine mit Zeitbeschränkung akzeptiert 

werden können. 

Zeitbeschränkte det. TM und akz. Sprachen (Definition) 

Sei f : N 0 → N 0 eine (totale) Funktion. Die Klasse TIME(f (n)) 

besteht aus allen Sprachen A, für die es eine deterministische 

Mehrband-Turingmaschine M gibt mit A = T (M) und 

time M (x) ≤ f (|x|) für alle Wörter x. 

Dabei gibt time M (x) die Anzahl der Rechenschritte von M bei 

Eingabe x an. 

Das heißt, die Anzahl der Schritte der Turingmaschine ist 

beschränkt und die Beschränkung ist abhängig von der Länge der 

Eingabe. 








Um polynomial beschränkte Laufzeitklassen definieren zu können, 

wiederholen wir zunächst die Definition eines Polynoms (in einer 

Variablen). 

Polynom (Definition) 

Ein Polynom ist eine Funktion p : N 0 → N 0 mit der 

Abbildungsvorschrift 

p(n) = a k n k + a k−1 n k−1 + · · · + a 1 n + a 0 

für Konstanten k, a k , . . . , a 0 ∈ N 0 . 

Bemerkung: 

Um die Anzahl der Rechenschritte time M (x) einer Turingmaschine 

M zu ermitteln, müssen wir noch festlegen, wann die Berechnung 

von M beendet ist: dies ist der Fall, wenn eine Konfiguration gleich 

ihrer Folgekonfiguration ist. (Bei deterministischen 

Turingmaschinen hat jede Konfiguration genau eine 

Folgekonfiguration.) 

Das Erreichen eines Endzustandes bedeutet damit auch das Ende 

einer Berechnung. Die Berechnung kann jedoch auch dann beendet 

sein, wenn kein Endzustand erreicht wurde. 








Damit ist es nun auch möglich, die Klasse aller Sprachen zu 

definieren, die von deterministischen Turingmaschinen mit 

polynomialer Laufzeitbeschränkung erkannt werden. 

Komplexitätsklasse P (Definition) 

P = {A | es gibt eine det. Turingmaschine M und ein 

= 

Polynom p mit T (M) = A und time M (x) ≤ p(|x|)} 

⋃ 

TIME(p(n)) 

p Polynom 

Intuitiv umfasst P alle Probleme, für die effiziente Algorithmen 

existieren. 













O-Notation 

O-Notation 

Es gibt einen engen Zusammenhang zur sogenannten O-Notation: 

O-Notation 

Seien f , g : N 0 → N 0 Funktionen. Wir sagen, dass f höchstens so 

schnell wächst wie g, falls folgendes gilt: 

Es gibt eine Konstante C ∈ N 0 und ein N ∈ N 0 , so dass 

für jedes n ≥ N gilt: 

f (n) ≤ C · g(n) 

Anschaulich: ab einem bestimmten Wert N ist f kleiner als g, 

multipliziert mit einem konstanten Faktor. (Nur das asymptotische 

Verhalten zählt, Konstanten werden vernachlässigt.) 

O-Notation 







Schreibweisen: 

Eine Funktion f wird hier oft durch ihren definierenden 

Ausdruck beschrieben: n, n 3 , 2 n , . . . 

Dabei wird im allgemeinen n als Funktionsparameter 

verwendet. 

O(g) bezeichnet die Menge aller Funktionen, die höchstens so 

schnell wachsen wie g. Man schreibt dann f ∈ O(g) (oder 

sogar f = O(g)). 

Beispiele: 

n ∈ O(n 2 ) 

100n ∈ O(n) 

n 2 ∈ O(2 n ). 

n 3 ∈ O(2 n ). 

Bemerkung: Für das letzte Beispiel gilt n 3 < 2 n , falls n ≥ 10. 

O-Notation 







Polynomiales vs. exponentielles Wachstum 

Seien l ∈ N 0 , q ∈ R mit q > 1. Dann gilt 

n l ∈ O(q n ) 

Das bedeutet, dass jede Exponentialfunktion (mit Basis größer 

als 1) mindestens so stark wächst wie jedes Polynom. 

(Exponentialfunktionen wachsen sogar echt stärker als Polynome.) 

Die O-Notation wird häufig eingesetzt, um die Laufzeit von 

Algorithmen zu analysieren. Die Laufzeit eines Algorithmus ist 

dabei die Anzahl der Schritte, die das Verfahren ausführt. 

Beispiele: 

Es gibt Sortierverfahren mit Laufzeit O(n log n) (Mergesort) 

und Laufzeit O(n 2 ) (Bubblesort) 

Jedes bekannte Verfahren für das 

Travelling-Salesman-Problem hat exponentielle Laufzeit. 

Dabei bezeichnet der Parameter n immer die Größe der Eingabe. 













O-Notation 

O-Notation 

Man spricht von 

linearer Laufzeit: O(n) 

quadratischer Laufzeit: O(n 2 ) 

kubischer Laufzeit: O(n 3 ) 

polynomialer Laufzeit: O(n l ) für eine Konstante l bzw. 

O(p(n)) für ein Polynom p 

exponentieller Laufzeit: O(2 n ) bzw. O(q n ) für q > 1 

Laufzeiten in Abhängigkeit von der Größe der Eingabe: 

Laufzeit Anzahl Schritte Behandelbare Größe der Eingabe 

bei Eingabegröße 100 bei 1.000.000 Schritte 

O(n) 100 1.000.000 

O(n 2 ) 10.000 1.000 

O(n 3 ) 1.000.000 100 

O(2 n ) 1,27·10 30 19,9 















Zusammenhang zwischen P und der O-Notation 

Eine Problem liegt in P genau dann, wenn es von einer 

(deterministischen) Maschine gelöst werden kann, die polynomiell 

viele Schritte macht, d.h. O(n l ) Schritte für eine Konstante l, falls 

n die Eingabegröße ist. 

Komplexitätsklassen für andere Berechnungsmodelle 

Die Klasse P ist größtenteils unabhängig von dem betrachteten 

Maschinenmodell. Eine analoge Definition für While- bzw. 

Goto-Programme würde zur gleichen Klasse P führen. 

Die Voraussetzung hierfür ist jedoch, dass das logarithmische 

Kostenmaß (siehe nächste Folie) angewandt wird. 

Uniformes Kostenmaß 

Die Zuweisung x i := x j wird als ein Schritt gewertet. 

Logarithmisches Kostenmaß 

Zuweisungen der Form x i := x j werden nicht als ein Schritt 

angesehen, sondern vielmehr wird für jedes Bit in der 

Binärdarstellung von x j ein Schritt gerechnet. 

Zum logarithmischen Kostenmaß gehört auch, dass die Länge einer 

Eingabe n ∈ N 0 nicht n selbst ist, sondern die Länge der 

Binärdarstellung, d.h., log n. 








Frohe Weihnachten und ein gutes 

neues Jahr!

2x2 - Theoretische Informatik - Universität Duisburg-Essen

Erfolgreiche ePaper selbst erstellen

Template löschen?

Als Template speichern?