Einführung in die Methoden der Künstlichen Intelligenz - Goethe ...

8.3 Lernen mit Entscheidungsbäumen
• Zu jedem Attribut a ∈ A gibt es eine Menge von möglichen Werten W a . Die Wertemengen
seien entweder endlich, oder die reellen Zahlen: R.
• Ein Objekt wird beschrieben durch eine Funktion A →× a∈A W a . Eine alternative Darstellung
ist: Ein Objekt ist ein Tupel mit |A| Einträgen, bzw. ein Record, in dem zu jedem
Attribut a ∈ A der Wert notiert wird.
• Ein Konzept K ist repräsentiert durch eine Prädikat P K auf der Menge der Objekte. D.h.
ein Konzept entspricht einer Teilmenge aller Objekte, nämlich der Objekte o, für die P K (o) =
True ergibt.
Beispiel 8.3.2. Bücher könnte man beschreiben durch die Attribute: (Autor, Titel, Seitenzahl,
Preis, Erscheinungsjahr). Das Konzept „billiges Buch“ könnte man durch Preis ≤ 10 beschreiben.
Das Konzept „umfangreiches Buch“ durch Seitenzahl ≥ 500.
Für die Lernverfahren nimmt man im Allgemeinen an, dass jedes Objekt zu jedem Attribut
einen Wert hat, und daher der Wert „unbekannt“ nicht vorkommt. Im Fall unbekannter
Attributwerte muss man diese Verfahren adaptieren.
Definition 8.3.3 (Entscheidungsbaum). Ein Entscheidungsbaum zu einem Konzept K ist
ein endlicher Baum, der an inneren Knoten zum Wert eines Attributes folgende Abfragen machen
kann:
• bei reellwertigen Attributen gibt es die Alternativen a ≤ v oder a > v für einen Wert v ∈ R,
Es gibt einen Teilbaum für Ja und einen für Nein.
• bei diskreten Attributen wird der exakte Wert abgefragt. Es gibt pro möglichem Attributwert
einen Teilbaum
Die Blätter des Baumes sind mit Ja oder Nein markiert. Das entspricht der Antwort auf die Frage,
ob das eingegebene Objekte zum Konzept gehört oder nicht.
Diskrete Attribute sollten pro Pfad im Baum nur einmal vorkommen, stetige Attribute können
im Pfad mehrmals geprüft werden.
D.h. ein Entscheidungsbaum B K ist die Darstellung eines Algorithmus zum Erkennen, ob ein
vorgelegtes Objekt O zum Konzept K gehört.
Jeder Entscheidungsbaum definiert ein Konzept auf den Objekten. Die Entscheidungsbäume
sind so definiert, dass für jedes Objekt nach Durchlauf des Entscheidungsbaumes
ein Blatt mit Ja oder Nein erreicht wird.
Die Mengen der Objekte, bei denen der Pfad mit einem Ja endet, sind in diesem Konzept,
die anderen Objekte nicht.
• Wenn es nur diskrete Attribute gibt, dann entsprechen die Konzepte genau den Entscheidungsbäumen:
Zu jedem Konzept kann man offenbar eine (aussagenlogische)
Formel in DNF angeben: die a 1 = v 1 ∧ . . . a n = v n als Konjunktion enthält, wenn
M. Schmidt-Schauß & D. Sabel, Skript KI, WS 2012/13 265 Stand: 30. Januar 2013